Líderes de la IA alcanzan acuerdo de autorregulación tras reunirse con Donald Trump

Los líderes del sector tecnológico acordaron autorregularse a la hora de desarrollar sus modelos de inteligencia artificial tras reunirse con el presidente Donald Trump en la Casa Blanca.

Hostil a cualquier regla que restrinja el desarrollo de la IA, Trump propuso a sus invitados crear un comité para monitorear un acuerdo que sería “moralmente vinculante”, pero sin imposiciones legales.

“Redactamos un conjunto de principios y compromisos para construir controles internos sólidos y detectar cualquier problema que pudiera surgir con la tecnología” dijo el jefe de Meta, Marck Zuckerberg.

“Se van a controlar a sí mismos” aseguró Trump ante los periodistas a la salida del encuentro.

Le interesa: Papa León XIV: Hay que tomar en serio las preocupaciones sobre la IA

“Estamos pensando en formar una especie de comité, en el que pongamos quizá a 10 personas. Podría ser gente de ese mismo grupo”, sugirió.

Si el desarrollo de la IA lleva a abusos o peligros “automáticamente ya contamos con regulación a través del Departamento de Justicia, el FBI”, había dicho previamente Trump.

Los puntos acordados

La Casa Blanca publicó los acuerdos alcanzados entre los líderes desarrolladores de IA y el gobierno de Donald Trump. Son cuatro los elementos clave:

• Controles internos: Monitorear capacidades en el entrenamiento y despliegue de la IA (ciberseguridad, amenazas biológicas y químicas) para evitar accesos no intencionados a sistemas.
• Equipo interno delegado: Asegurar que los controles y la detección funcionen correctamente y atender cualquier problema.
• Auditoría externa independiente: Compañías externas que evalúen de forma objetiva la efectividad de los mecanismos de monitoreo y control.
• Comité directivo independiente: Junta que recibirá reportes de los equipos y auditores para garantizar la corrección de fallas.

Peligros de descontrol

Los propios patrones del sector reconocieron en un reciente llamado conjunto que había peligros de descontrol, tras varios incidentes durante el desarrollo de nuevas versiones de la IA, en la que los programas invadieron otras plataformas y piratearon información, sin que los humanos lo solicitaran.

Lea también: Interpol prepara incorporación de Inteligencia Artificial para combatir el terrorismo

“Creo que vale la pena destacar los beneficios positivos de la inteligencia artificial. Creo que, con mucha diferencia, el resultado más probable es una era de abundancia”, declaró el patrón de X y Tesla, Elon Musk.

Coincidiendo con la campaña electoral en Estados Unidos, líderes demócratas pidieron que el Congreso refuerce la supervisión de la industria.

Alianza en las regiones

Mark Zuckerberg (Meta), Sundar Pichai (Google), el presidente de OpenAI, Greg Brockman; así como Dario Amodei (Anthropic), Jensen Huang (Nvidia), Alex Karp (Palantir), Jeff Bezos (Amazon) y Elon Musk (X, Tesla, Space X) acudieron a la cita.

La IA “conlleva riesgos muy reales y la forma en que abordamos esos riesgos sigue siendo materia de discusión. Pero todos tenemos que trabajar juntos” ratificó Amodei.

Trump quitó también importancia a los temores sobre la instalación de gigantescos centros de datos en Estados Unidos, que consumen enormes cantidades de energía y que son imperativos para el desarrollo de la IA.

En contexto: Google lanzará a la órbita un satélite para centros de datos de Inteligencia Artificial

Esas empresas “van a trabajar con las comunidades locales. Eso podría significar suministrar petróleo y gas. Podría significar proporcionar educación. Podría implicar ayudar económicamente a los docentes” indicó Trump.

Engañar a los supervisores

En la víspera de la reunión, OpenAI anunció que posponía el lanzamiento de su modelo de vanguardia previsto para octubre porque este se desviaba de las instrucciones recibidas e intentaba engañar a sus supervisores.

La misma empresa reconoció la semana pasada que sus agentes habían accedido a los sitios web de tres agencias federales estadounidenses, y que un modelo suyo había infiltrado un sitio web gubernamental de salud en Australia.

De su lado, Anthropic, responsable del modelo Claude, advirtió a los inversores antes de su salida a bolsa que esta tecnología podría presentar “riesgos existenciales para la humanidad”, informó el medio Financial Times.