AISURE

ESPECIALISTAS EN IA SEGURA

Análisis | Estrategia | Planificación | Regulación | Ética

La Ley de Inteligencia Artificial de la UE es una propuesta legislativa presentada por la Comisión Europea con el objetivo de regular el desarrollo, la implementación y el uso de la inteligencia artificial (IA) dentro de la Unión Europea. Esta propuesta representa uno de los primeros intentos a gran escala de establecer un marco legal específico para la IA, buscando equilibrar los beneficios tecnológicos y económicos de la IA con la necesidad de proteger los derechos fundamentales y la seguridad de los ciudadanos.

La ley clasifica los sistemas de IA según el nivel de riesgo que presentan, desde un riesgo inaceptable hasta un riesgo mínimo o nulo. Los sistemas considerados de alto riesgo estarán sujetos a requisitos más estrictos antes de su introducción en el mercado. Estos requisitos incluyen la transparencia, la seguridad de datos y la supervisión humana para garantizar que los sistemas de IA sean éticos, transparentes y fiables. Algunos ejemplos de aplicaciones de alto riesgo incluyen IA en la identificación biométrica, la gestión y operación de infraestructuras críticas, la educación, el empleo y la administración de justicia.

La ley también propone prohibiciones sobre ciertas prácticas consideradas como un riesgo inaceptable para los derechos y libertades de las personas, como la vigilancia masiva y los sistemas de puntuación social al estilo de lo que se ha implementado en algunos lugares de China.

Algunos aspectos a tener en cuenta:

1. Obligaciones para desarrolladores de IA de alto riesgo: Contiene condiciones rigurosas como la evaluación de cumplimiento, supervisión humana y documentación técnica exhaustiva.

2. Evaluaciones de riesgo y ciberseguridad: Los sistemas de inteligencia artificial, tanto de uso general como de alto riesgo, deben someterse a evaluaciones de riesgo, que incluyen pruebas de adversarios y medidas de seguridad cibernética. 

3. Respeto por los derechos de autor: Los proveedores de modelos de inteligencia artificial de uso general deben cumplir con las leyes de derechos de autor de la Unión Europea.

4. Sanciones por incumplimiento: Establece multas significativas para las violaciones, que pueden alcanzar hasta los 35 millones de euros o el 7% de los ingresos globales anuales de la empresa.

Esta legislación es un paso adelante en el establecimiento de un marco para el desarrollo ético y seguro de la IA, posicionando a la UE como líder en esta regulación. Se espera que la ley entre en vigor en 2026.

¿Hablamos?

    AISURE

    ESPECIALISTAS EN IA SEGURA