Inteligencia Artificial de OpenAI infiltró web gubernamental de Australia

OpenAI infiltró el sitio web gubernamental de salud australiano en junio, una violación “inaceptable”, dijo el primer ministro Anthony Albanese.

Un “agente” de inteligencia artificial accedió a archivos públicos y no públicos del servicio de estadísticas sanitarias, dijo a periodistas en Nueva York.

OpenAI no alertó al gobierno australiano hasta septiembre, cuando le envió un mensaje de correo electrónico con los detalles del incidente a una dirección genérica de email.

Le interesa: Creador de ChatGPT pide a la ONU ‘extremo cuidado’ con la Inteligencia Artificial

“Hoy hablé con el director ejecutivo de OpenAI, Sam Altman, para expresar la enorme preocupación de Australia sobre este incidente”, aseguró Albanese.

Altman y otros ejecutivos del sector tecnológico asistieron a una sesión especial del Consejo de Seguridad de la ONU sobre los riesgos de la IA.

El primer ministro dijo que no había información disponible sobre una vulneración mayor de la red de servicios gubernamentales.

“Se cree que en esta etapa no se ha accedido a información personal, pero las investigaciones siguen en curso”, afirmó.

Sin embargo, “esta es una situación obviamente inaceptable”.

La agencia de inteligencia australiana inició “una investigación forense” para obtener más información, incluido qué otros sistemas gubernamentales fueron afectados, añadió Albanese.

¿Modelos de IA fuera de control?

OpenAI dijo que una revisión reciente mostró varios sitios web del gobierno australiano que habrían sido impactados.

“Durante la revisión identificamos actividad relacionada con varios sitios web y servicios del gobierno australiano, ya que nuestros modelos trataron de buscar respuestas y estadísticas disponibles para preguntas sobre Australia durante una evaluación interna”, indicó OpenAI en un comunicado.

Lea también: Investigadora de la Universidad UNAB utiliza la Inteligencia Artificial para tratamiento de cáncer

“En el curso de eso, nuestros modelos tomaron acciones que no pretendíamos”, admitió la empresa estadounidense.

Altman y otros ejecutivos de la alta tecnología se dirigieron a una sesión especial del Consejo de Seguridad de la ONU sobre los riesgos de la IA.

Más de 100 organizaciones en todo el mundo, incluyendo OpenAI y Anthropic, firmaron una carta abierta en la que llamaron a un esfuerzo global para “fortalecer las defensas” cibernéticas de las amenazas a la seguridad causadas por la IA.