La Unión Europea ha aprobado la Ley de Inteligencia Artificial, también conocida como AI Act, con una votación contundente de 523 votos a favor y solo 46 en contra. Este hito legislativo llega casi cinco años después de que se propusiera el primer borrador y se espera que sea un punto de inflexión en el desarrollo de los mercados digitales de la Unión Europea.
La AI Act ha sido objeto de debate y cambios durante estos cinco años, y ha dejado de lado parte de sus principios fundamentales. Además, llega en un momento en que la Inteligencia Artificial está experimentando una serie de cambios que la regulación, al menos en su última redacción, no termina de desarrollar del todo.
A pesar de esto, la aprobación de la Ley de Inteligencia Artificial es una buena noticia para todos. Es la primera gran regulación comunitaria en esta materia y es pionera en muchos aspectos, lo que podría servir de modelo para que otros países implementen regulaciones similares.
La AI Act tiene un enfoque pro-ciudadano, y su objetivo principal es proteger la seguridad del consumidor, con un enfoque basado en el riesgo de los productos que utilizan esta tecnología. La Ley de Inteligencia Artificial funciona como un sistema de gestión de riesgos, planteando cuatro niveles diferentes y aplicando una serie de reglas específicas a cada uno de los niveles. Estos niveles están determinados por la capacidad de cada IA para tener un impacto en el ciudadano.
La Ley de Inteligencia Artificial Europea prohíbe todos los sistemas de IA que se consideren una clara amenaza para la seguridad, los medios de vida y los derechos de las personas. Por ejemplo, prohíbe expresamente el uso de IA para generar una “puntuación social” para los gobiernos o juguetes que utilizan asistentes de voz y fomentan comportamientos peligrosos.
También prohíbe de forma expresa los sistemas de categorización biométrica basados en datos sensibles y la extracción de imágenes faciales de Internet o imágenes de CCTV para crear bases de datos de reconocimiento facial. Además, estarán prohibidos el reconocimiento de emociones en el lugar de trabajo y las escuelas, la vigilancia policial predictiva y la IA que manipule el comportamiento humano o explote las vulnerabilidades de las personas.
En el otro extremo de la pirámide está lo que se denomina riesgo mínimo: por ejemplo, los videojuegos con IA o su uso para filtros de spam. Según la Unión Europea, la gran mayoría de los sistemas de IA que se utilizan actualmente en la UE entran en esta categoría. Cuanto más riesgo tiene una aplicación de IA para el ciudadano, más escrutinio y más reglas se les aplica.
La ley también sirve para proteger los derechos de los ciudadanos y para proporcionar una capa extra de seguridad al uso de la IA en infraestructuras vitales de la Unión o en aplicaciones muy específicas. Por ejemplo, la ley considera de alto riesgo la utilización de la IA en dispositivos médicos o infraestructuras críticas, como redes de agua o eléctricas. Por ello, aplica muchas limitaciones y requisitos más estrictos, como una documentación detallada con toda la información necesaria.
