En un contexto de creciente relevancia de la Inteligencia Artificial (IA), la Unión Europea se encuentra en la etapa final de deliberaciones para establecer una pionera ley que regule esta tecnología. La Comisión Europea, el Consejo Europeo y la Eurocámara están concentrados en la redacción de esta normativa, que busca regular los modelos fundamentales empleados en herramientas como ChatGPT de OpenAI.
El propósito central de esta legislación es fomentar el avance tecnológico al tiempo que se mitigan riesgos para la seguridad, entre otros. Esto implica la prohibición de aplicaciones con «riesgos inaceptables» que vulneren derechos fundamentales, junto con la supervisión de aquellas consideradas de alto riesgo en su uso en territorio europeo. No obstante, aspectos cruciales aún se encuentran en discusión.
Las negociaciones, que comenzaron la tarde de ayer, buscan definir un marco definitivo para esta regulación. Tras 18 horas de deliberaciones, se lograron alcanzar los primeros acuerdos relacionados con los modelos fundamentales. Sin embargo, aspectos referentes a datos biométricos, especialmente en lo concerniente a la vigilancia biométrica en tiempo real en espacios públicos, siguen siendo puntos de debate entre las instituciones.
La Comisión Europea y los gobiernos de los Estados miembros defienden la posibilidad de usar vigilancia biométrica con autorización judicial para prevenir delitos graves. En contraposición, la Eurocámara rechaza categóricamente este uso al considerarlo una violación de los derechos fundamentales. No obstante, existen posturas abiertas a considerar esta vigilancia bajo estrictas garantías para la protección de los derechos.
La regulación de sistemas de IA generativa, como ChatGPT de OpenAI, y la prohibición de sistemas que manipulen cognitivamente el comportamiento de grupos vulnerables, constituyen otro aspecto crucial en este debate. Se espera que estas regulaciones proporcionen a Europa un papel de liderazgo en el establecimiento legislativo de la IA, abordando riesgos específicos a través de normas complementarias, proporcionadas y flexibles.
A pesar de los avances, la falta de prohibiciones claras sobre la exportación de tecnologías de IA perjudiciales fuera de la UE ha suscitado preocupaciones entre organizaciones de la sociedad civil. Mher Hakobyan, asesor de Amnistía Internacional, critica esta falta de restricciones y señala la necesidad de que la UE actúe coherentemente con sus principios éticos y de derechos humanos en la regulación y exportación de estas tecnologías.
Fecha límite de cierre de las negociaciones: En espera de definición.
Estaremos atentos a los desarrollos de estas negociaciones que son pieza clave en la regulación global de la Inteligencia Artificial.