Google, OpenAI y Anthropic planean crear organismo que supervise riesgos de la IA

OpenAI, Anthropic y Google DeepMind trabajan en la creación de un organismo de supervisión de los riesgos asociados a la inteligencia artificial, indicó OpenAI a la agencia AFP, en medio de crecientes llamados a mejorar los controle de esta tecnología.

Las preocupaciones sobre la seguridad de la inteligencia artificial (IA) se han intensificado en las últimas semanas.

Dos trabajadores que renunciaron a importantes desarrolladoras de IA al advertir la amenaza contra la humanidad que implica esta industria.

Los grandes actores de la IA llevan meses pidiendo al gobierno estadounidense para que regule el sector y supervise la seguridad de este.

La idea de una entidad de supervisión fue propuesta en julio por Demis Hassabis, cofundador y director general de Google DeepMind.

Hassabis sugirió la creación de una entidad similar a la Autoridad de Regulación de la Industria Financiera de Estados Unidos, un órgano de autorregulación del sector.

“La financiación tendría que ser cuantiosa y provenir probablemente en gran parte de la industria”, escribió el directivo.

Le interesa: ¿Se puede ralentizar el avance y desarrollo de la inteligencia artificial? Experto respondió

La IA va a “matarnos a todos”

El gobierno de Estados Unidos puso en marcha en agosto un proceso de evaluación de los nuevos modelos de IA, aunque este es voluntario y su metodología no se ha hecho pública.

Luego de los llamados a desacelerar el desarrollo de la IA que lanzó el sábado Dario Amodei, jefe Anthropic, desarrolladora del chatbot Claude, el presidente de Estados Unidos, Donald Trump, rechazó limitar el sector.

Que la IA tome el control del mundo, destruya a la humanidad y todas esas cosas malas, es una PATRAÑA", escribió Trump en su plataforma Truth Social.

El mandatario y miembros de su gobierno han reiterado que no buscan limitar la IA por temor a que China tome la delantera.

Las empresas de IA están “jugando con nuestras vidas”, advirtió la semana pasada Jacob Coxon al dejar su cargo de desarrollador en Anthropic.

En contexto: ¿Qué hay tras los incidentes protagonizados por agentes de IA?

El lunes, el exinvestigador de Google DeepMind Bilal Chughtai se hizo eco de las preocupaciones planteadas por Coxon y otros.

“Creo sinceramente que la IA tiene el potencial de matarnos a todos y que quizá se nos esté acabando el tiempo para evitar ese desenlace”, declaró en redes sociales.

¿El Cartel de IA?

La creación de un organismo propio de supervisión requerirá probablemente una ley, en particular para evitar que la industria de la IA sea acusada de connivencia y de infringir las normas de competencia.

Además de expertos independientes, esta estructura debería contar con representantes del ecosistema abierto, según la propuesta de Hassabis.

Este ecosistema está compuesto por desarrolladores de IA abierta, es decir, de acceso gratuito, descargable y modificable, a diferencia de los modelos cerrados como los de OpenAI o Anthropic.

Una vez creada la estructura de supervisión, las empresas más avanzadas en IA deberían someter sus nuevos modelos a un examen, centrado en particular en la seguridad, antes de poder comercializarlos.

Este nuevo organismo también podría impulsar una ralentización coordinada del desarrollo de la IA, en caso de que la compresión de los riesgos no vaya al ritmo del progreso de la tecnología.

Lea también: Consejo de Seguridad de la ONU se reunirá para hablar sobre Inteligencia Artificial

“Cuando está en juego el futuro de la humanidad, necesitamos normas internacionales vinculantes, no estándares voluntarios de la industria”, dijo el senador demócrata Bernie Sanders durante el evento Pro-Human AI en Washington.

Varios observadores, en particular del lado republicano, han acusado a los grandes nombres de la IA de “capturar la regulación”, con el fin de diseñar su propia regulación y ponerse de acuerdo para proteger su ventaja competitiva, en detrimento de sus competidores y de los consumidores.