Normas de transparencia en la IA: las claves de la nueva ley que rige en la Unión Europea

Este domingo entraron en vigor las normas de transparencia de la Unión Europea (UE) para los sistemas de inteligencia artificial (IA), que les obligan a advertir a los usuarios cuando están interactuando con una máquina o cuando el contenido que ven se ha manipulado.

Además, la Oficina de Inteligencia Artificial de la Comisión Europea tiene desde hoy nuevos poderes para supervisar los modelos de IA generativa e imponerles multas si incumplen sus obligaciones.

Las nuevas normas, no obstante, cuentan con varias excepciones que retrasan su obligatoriedad en determinados casos. Estas son las claves:

Requisitos de transparencia inmediatos

Empresas como Open AI (propietaria de ChatGPT), Google (Gemini) o Anthropic (Claude) deben diseñar sus sistemas de tal manera que los usuarios sepan que están interactuando con una máquina.

Ampliar

Cerrar

La obligación también va dirigida a los desarrolladores de los sistemas de inteligencia artificial que se emplean en los servicios públicos, los que utilizan las empresas para interactuar con sus clientes o por ejemplo, los destinados a gestionar denuncias de fraude.

Lea también: Cursos gratuitos de IA en Bogotá: hay 90.000 cupos disponibles, ¿Cómo inscribirse?

Quienes utilicen sistemas de inteligencia artificial para el reconocimiento de las emociones o la categorización biométrica también deberán avisar a los ciudadanos cuando se les esté analizando con este tipo de herramientas, a excepción de los que permitan las leyes para prevenir o perseguir delitos.

Requisitos y prohibiciones en diciembre

A partir del 2 de diciembre, los sistemas de inteligencia artificial también tendrán que incorporar marcas de agua para los textos, fotos, videos y audios que se hayan manipulado, para los ciudadanos puedan identificar fácilmente que los ha creado una máquina.

No obstante, sistemas como ChatGPT, Gemini, Claude o las redes sociales que tienen herramientas de IA no serán legalmente responsables del contenido que creen los usuarios, sino que deberán ser estos quienes informen de que el contenido se ha manipulado.

Quedan exentos de estos requisitos todos los contenidos de ficción o de carácter artístico o satírico.

Ampliar

Cerrar

Existe una excepción a esta norma: desde hoy sí tendrá que advertirse de todo el contenido generado con inteligencia artificial que muestre información de interés general, como la relativa a procesos electorales, judiciales, a la salud pública o cualquier otro acontecimiento que pueda ser objeto de debate público, a no ser que lo haya supervisado previamente una persona.

Más allá de estos requisitos de transparencia, desde el 2 de diciembre se prohibirá la creación de imágenes sexualizadas generadas con inteligencia artificial, sin el consentimiento de las personas afectadas.

Un veto que las instituciones de la UE pactaron tras el escándalo que causaron las imágenes generadas con Grok, la herramienta de inteligencia artificial de la red social X, que ahora tendrá hasta finales de año para diseñar medidas de protección adecuadas.

Le interesa: La Unión Europea y Colombia impulsan una gobernanza responsable de la IA con confianza e innovación

Amenazas

Desde hoy, la Oficina de Inteligencia Artificial de la Comisión Europea tiene la capacidad de exigir a empresas como Anthropic que les permitan acceder a modelos como Mythos para evaluar los riesgos que puedan causar este tipo de sistemas de alto riesgo.

Fuentes comunitarias, no obstante, han evitado detallar cuáles serán sus próximos en un caso como este, por “razones obvias”.

Aún así, existe la duda de hasta qué punto la Comisión Europea tiene la capacidad para analizar modelos de alto riesgo de este tipo, o hasta qué punto podrá acceder ellos si el Gobierno estadounidense vuelva a vetarlos a ciudadanos extranjeros, como hizo de forma temporal a mediados de junio.

Bruselas está actualmente negociando con Anthropic las condiciones para que la Agencia de Ciberseguridad de la UE (ENISA) evalúe Mythos sin poner en riesgo las infraestructuras esenciales europeas o el posible acceso a información sensible.

Multas

La Comisión Europea podrá imponer multas de 15 millones de euros o de hasta el 3 % de su facturación anual global (la cantidad que sea más alta) a los sistemas de inteligencia artificial generativa que incumplan estas obligaciones.

La sanción será de hasta 750.000 euros si son las instituciones o agencias de la UE las que incumplen con sus obligaciones de transparencia.