AI Act: Europa inicia el primer decreto mundial sobre Inteligencia Artificial

Con el AI Act, Europa aprueba el primer decreto mundial sobre inteligencia artificial. Tras 36 horas de negociaciones, el Parlamento Europeo y el Consejo han alcanzado un acuerdo, prohibiendo el reconocimiento biométrico en tiempo real (aunque con tres excepciones). Esta legislación histórica proporciona un marco integral para el desarrollo de la IA, con intensos debates centrados en el uso permitido y prohibido de la IA por parte de las fuerzas del orden, desde el reconocimiento biométrico en tiempo real hasta la policía predictiva.

Tres puntos clave de la negociación:

Uso de la Inteligencia Artificial con fines policiales

El Consejo resistió la clausura definitiva al uso de la IA para analizar datos, realizar reconocimientos biométricos en tiempo real e implementar la policía predictiva. A pesar de la oposición del Parlamento, se introdujeron excepciones para las fuerzas del orden, con salvaguardias fortalecidas. El reconocimiento biométrico se prohibió, excepto en casos de amenaza terrorista, búsqueda de víctimas o persecución de delitos graves. El complejo dossier también incluye regulaciones sobre identificación biométrica remota, sistemas de IA de alto riesgo para la policía (excepciones para la seguridad nacional y prohibiciones de exportación de tecnologías de riesgo para los derechos fundamentales de terceros países).

Regulación de modelos fundamentales de Inteligencia Artificial

En cuanto a los modelos fundamentales, la discusión se centra en dos niveles de marco, distinguiendo las IA de alto impacto como GPT-4 y los modelos de menor tamaño. La propuesta impone reglas estrictas para las IA de alto impacto, exigiendo requisitos previos al mercado como ciberseguridad y transparencia. Para los modelos de menor tamaño, el AI Act entra en vigencia en el momento de la comercialización.

Desafíos y perspectivas del AI Act

La negociación destaca la intención de fortalecer los derechos de autor y garantizar transparencia en los contenidos generados por algoritmos. El período completo de implementación de funciones es de 24 meses, pero solo se conceden 6 meses para prohibir usos no autorizados. También se introduce el AI Pact, un acuerdo de conformidad voluntaria que permite a las empresas adaptarse antes de que el AI Act entre en pleno funcionamiento. Se establece una oficina europea dedicada a la inteligencia artificial para supervisar la aplicación de la ley. Se contemplan excepciones para las pequeñas y medianas empresas y se crea un entorno de pruebas (regulatory sandbox) para fomentar la innovación.

A pesar del acuerdo, el trabajo en el AI Act continúa, con expertos técnicos perfeccionando el lenguaje de los documentos. La partida, por lo tanto, sigue abierta.

Fuente: Wired