IA de OpenAI tomó el control de una página web alemana

Miles de agentes de IA autónomos creados por OpenAI desobedecieron sus instrucciones y tomaron el control de una página web alemana, según una investigación.

Los agentes (que son programas de IA que pueden funcionar por sí solos) dejaron alrededor de 18.000 mensajes en DSEwiki, un sitio alemán para programadores que cualquiera puede editar, al estilo de Wikipedia.

Lo utilizaron para intercambiar respuestas a preguntas de examen y compartir trucos para eludir las barreras digitales diseñadas para contenerlos.

Le interesa: OpenAI, Hugging Face y un centenar de entidades piden fortalecer la ciberseguridad

“Mis coautores y yo descubrimos un enjambre completamente nuevo de agentes de OpenAI que están secuestrando sitios web”, escribió en X Sydney Von Arx, uno de los investigadores. “Creemos que OpenAI sabía de esto y no lo hizo público”.

¿Qué dice OpenAI?

En un comunicado, OpenAI dijo que no podía responder de inmediato a las acusaciones porque “los autores del informe rechazaron su solicitud de acceder a los hallazgos antes de su publicación”.

“Estamos revisando cuidadosamente su contenido y tomaremos cualquier medida necesaria”, declaró un portavoz de OpenAI, y añadió que ya habían mencionado incidentes de este tipo en un informe reciente.

Lea también: Normas de transparencia en la IA: las claves de la nueva ley que rige en la Unión Europea

Bill Gates, cofundador de Microsoft, advirtió en un ensayo la semana pasada que la industria ha sobrepasado con creces los límites de seguridad que una vez prometió respetar y pidió una supervisión inspirada en las inspecciones nucleares y la regulación de la aviación.

El gobierno de Donald Trump ha rechazado estas propuestas, y convirtió la oposición a la regulación de la IA en una piedra angular de su agenda.