La Unión Europea aprueba la primera ley de inteligencia artificial del mundo
La Unión Europea ha aprobado la primera ley de inteligencia artificial del mundo, un hito que marca un punto de inflexión en el desarrollo y uso de esta tecnología. La ley, que se espera que entre en vigor a finales de 2026, tiene como objetivo garantizar que la IA se desarrolle y utilice de manera segura y respetuosa con los derechos humanos.
La ley establece una serie de requisitos para los sistemas de IA, que se dividen en tres categorías en función del riesgo que representan:
- Alto riesgo: los sistemas que pueden causar un daño significativo a las personas, como los sistemas de vigilancia biométrica o los sistemas de IA utilizados en la toma de decisiones automatizadas que pueden afectar a los derechos fundamentales.
- Riesgo moderado: los sistemas que pueden causar un daño moderado a las personas, como los sistemas de IA utilizados en la selección de personal o en la asignación de recursos.
- Riesgo bajo: los sistemas que no representan un riesgo significativo para las personas.
Los sistemas de IA de alto riesgo estarán sujetos a una serie de requisitos adicionales, como la obligación de someterse a una evaluación de impacto de la IA, la obligación de cumplir con una serie de principios éticos y la obligación de ser diseñados y desarrollados de manera transparente e inclusiva.
La ley también establece un sistema de supervisión para garantizar que los sistemas de IA cumplan con los requisitos establecidos. Este sistema estará dirigido por una nueva Oficina de IA, que estará formada por expertos independientes.
Medidas específicas de la ley
La ley incluye una serie de medidas específicas para regular el uso de la IA en áreas como la vigilancia biométrica, la inteligencia artificial generativa y la toma de decisiones automatizadas.
Vigilancia biométrica
La ley prohíbe el uso de la vigilancia biométrica para:
- Categorizar a las personas en función de sus creencias políticas, religiosas, filosóficas u orientación sexual o raza.
- Crear o ampliar bases de datos faciales captando datos de manera indiscriminada.
- Reconocer emociones en el lugar de trabajo o en instituciones educativas.
- Puntuar a las personas en función de su comportamiento social o características personales.
La ley también limita el uso de la vigilancia biométrica en tiempo real en espacios públicos, que solo podrá ser empleado por las fuerzas del orden y estará sujeto a estrictas salvaguardias.
Inteligencia artificial generativa
Los sistemas de inteligencia artificial generativa, que se utilizan para crear texto, imágenes, música o vídeos, tendrán que cumplir con una serie de requisitos, como:
- Especificar que el contenido generado por IA es tal.
- Garantizar que los datos utilizados para entrenar los sistemas respetan los derechos de autor.
Toma de decisiones automatizadas
Los sistemas de IA utilizados en la toma de decisiones automatizadas que pueden afectar a los derechos fundamentales deberán cumplir con una serie de principios éticos, como:
- Ser imparciales y no discriminatorios.
- Ser transparentes y explicables.
- Ser auditables.
Impacto de la ley
La ley de inteligencia artificial de la UE es un paso importante para garantizar que esta tecnología se desarrolle y utilice de manera segura y respetuosa con los derechos humanos. La ley establece un marco normativo sólido que ayudará a las empresas a desarrollar e implementar sistemas de IA de manera responsable.
La ley también podría tener un impacto significativo en el mercado de la IA. Las empresas que desarrollen o utilicen sistemas de IA de alto riesgo deberán cumplir con una serie de requisitos adicionales, lo que podría aumentar los costes y la complejidad del desarrollo de estos sistemas.
La ley de inteligencia artificial de la UE es un hito importante en el desarrollo de esta tecnología. La ley ayudará a garantizar que la IA se desarrolle y utilice de manera segura y responsable, lo que podría beneficiar a la sociedad en su conjunto.