Después 36 horas de negociaciones, las instituciones de la Unión Europea han pactado la primera ley de Inteligencia Artificial. Una norma pionera en el mundo que permite o prohíbe el uso de esta tecnología según si pone en riesgo a las personas.
Además, pretende impulsar la industria europea ante gigantes con China y Estados Unidos.
En palabra de Ursula von der Leyen, presidenta de la Comisión Europea, “la ley de inteligencia artificial de la UE es pionera en el mundo. Un marco legal único para el desarrollo de la inteligencia artificial en el que se puede confiar”, ha escrito en la red social X.
No obstante, aunque se ha acordado, la nueva norma deberá obtener la ratificación tanto del Parlamento Europeo como del Consejo de la UE.
Y es que uno de los asuntos más sensibles es el uso que las fuerzas del orden puedan hacer de las cámaras de identificación biométrica. Supuestamente, el objetivo es garantizar la seguridad nacional.
Por ello, la ley de Inteligencia Artificial prevé que las cámaras se puedan utilizar previa autorización judicial. Por ejemplo, para prevenir una amenaza terrorista “genuina y previsible” o “genuina y presente”, que se esté produciendo en ese momento.
Una lista de delitos limitada
Asimismo, se podrá emplear para localizar e identificar a una persona que ha cometido delitos. Es el caso del terrorismo, tráfico de personas, explotación sexual o un crimen medioambiental. Igualmente para buscar a víctimas de esos delitos.
Así, los gobiernos han presionado durante las negociaciones para ampliar la lista de delitos, mientras que la Eurocámara quería limitarla lo más posible. En todo caso, imponer fuertes garantías para salvaguardar los derechos fundamentales.
Sea como fuere, la norma prohíbe categorizar biométricamente por creencias religiosas, políticas, filosóficas, raza y orientación sexual.
Además, no se podrán emplear los sistemas que evalúen a las personas según sus comportamientos o características personales. Tampoco, manipular el comportamiento humano.
De igual modo, la ley de Inteligencia Artificial prohíbe crear o expandir bases de datos faciales mediante la captación sin control de catos. Ya sea por Internet o mediante grabaciones audiovisuales.
A su vez, tampoco permite el uso de estos sistemas en centros de trabajo ni en escuelas para reconocer emociones.
La ley de Inteligencia Artificial también regula la IA generativa
Por otro lado, un asunto especialmente caliente ha sido la negociación entorno a la IA generativa, como ChatGPT o Bard, Open IA y Google, respectivamente.
Para que puedan funcionar tendrán que cumplir estrictos criterios de trasparencia. Por ejemplo, si una canción, una fotografía o un texto se ha generado mediante inteligencia artificial.
Además, tendrán que garantizar que los datos que se han usado para entrenar a los sistemas se ajustan a los derechos de autor.
Cuando Bruselas planteó la ley en abril de 2021, estos sistemas no se habían popularizado. Sin embargo, las instituciones comunitarias han considerado necesario legislarlos, especialmente tras el Chat GPT en 2022.
No se prohíben, pero sí se fija una serie de criterios que detecte los modelos que puedan generar un alto riesgo, según el entorno.
De esta forma, obliga a los desarrolladores a una serie de garantías más estrictas antes de lanzarlos al mercado.
Así, la norma permite o prohíbe el uso de la IA según el riesgo que suponga para las personas. También identifica sistemas de alto riesgo.
En estos casos, sólo se podrán utilizar si demuestran que respetan los derechos fundamentales. Se trata, por ejemplo, de aquellos que puedan influir en unos resultados electorales.
También, los que utilicen las entidades financiera para evaluar la solvencia cara a la concesión de un préstamo.
En todo caso “hemos logrado un hito importante, que los ciudadanos podemos decidir qué se puede hacer y qué no con la inteligencia artificial”, ha señalado Carmen Artigas, secretaria de Estado española de Telecomunicaciones e Infraestructura Digital.
Una Oficina Europea de IA
Al margen de todo ello, la ley de Inteligencia Artificial prevé la creación de una Oficina Europea de IA para coordinar el uso de esta tecnología.
Contará con el asesoramiento de un panel de científicos y de organizaciones de la sociedad civil.
Aunque la ley entre en vigor en 2026, la Oficina se creará inmediatamente. Igualmente, la prohibición de los sistemas vetados por la norma, a los seis meses y los requisitos para los sistemas y modelos de IA generativa, al año.
Respecto a las sanciones, la ley prevé multas desde los 35 millones de euros o el 7% del volumen global de negocio de las empresas. Podrían llegar a los 7,5 millones de euros.