La ONU envió una carta a los estados y a las empresas de IA: los riesgos ya son una realidad

La ONU reiteró que lleva años advirtiendo sobre las implicaciones del desarrollo de la IA. Tras reanimarse la pregunta por su seguridad y regulación, el Alto Comisionado de las Naciones Unidas para los Derechos Humanos, Völker Türk, envió una carta el pasado 14 de septiembre, dirigida a los Estados y a los líderes de las corporaciones que han “lanzado sin salvaguardas” la IA al mercado.

En esta, se listan los peligros relacionados a los sistemas más avanzados, pues la preocupación principal en este momento es la aparición de “una inteligencia artificial agéntica”, que se entiende cómo el punto teórico en el cual la IA sería capaz de actuar de forma autónoma para realizar tareas y alcanzar objetivos, superando la inteligencia humana.

En contexto: Consejo de Seguridad de la ONU se reunirá para hablar sobre Inteligencia Artificial

Sobre esto, la ONU asegura que “los fallos que impliquen sistemas de IA agéntica podrían paralizar servicios esenciales, interrumpir las comunicaciones, desestabilizar infraestructuras críticas y atentar contra el corazón mismo de las instituciones democráticas.”

Derechos humanos

La carta advierte sobre un escenario en el que todos los derechos humanos, incluyendo el derecho a la vida, y las necesidades más elementales estarían amenazadas. “Poblaciones enteras podrían verse privadas de agua potable, calefacción y servicios financieros.” Así pues,

“estamos en el umbral de un cambio irreversible, que nos afectará no solo a nosotros mismos, sino también a las generaciones futuras.”

Además, resaltó la influencia de la IA en el desarrollo de los conflictos armados presentes en el mundo y agregó que ya acelera su magnitud y ritmo, al tiempo que deteriora las salvaguardias que “nos separan del lanzamiento de armas de destrucción masiva”.

¿Quién decide que riesgos se consideran aceptables?

Türk enfatizó que detrás de la cuestión técnica sobre la seguridad de los modelos de IA, se esconde realmente una pregunta política:

¿Quién decidirá lo que una inteligencia artificial puede hacer?, ¿Quién decidirá qué riesgos se consideran aceptables? y sobre todo, ¿Quién decidirá el momento en que una capacidad se vuelve demasiado peligrosa para ser desplegada?

Lea también: La Agencia Española de Protección de Datos notifica el primer ataque ejecutado por un agente de IA

Ante este panorama, Türk “insta a los Estados y las empresas a movilizarse con urgencia en el marco de instancias multilaterales para definir una vía de acción destinada a encuadrar los modelos de IA de vanguardia.”

Según él, las empresas que desarrollan estos sistemas tienen tanto los medios cómo la responsabilidad de actuar, pero es claro que no pueden fijar solas los límites. La tecnología tiene repercusiones que van mucho más allá de sus usuarios y accionistas, y por tanto, la ONU hace también un llamado a los gobiernos, que deben asegurarse de imponer obligaciones y exigirles responsabilidades por sus incumplimientos.

Finalmente, la ONU reclama la necesidad de una verificación independiente. Expertos que dispongan de las competencias técnicas necesarias para evaluar de manera independiente los modelos, su documentación y sus entornos de prueba, serán indispensables para asegurar un procedimiento responsable. Esto, entendiendo que

“Ningún país puede encuadrar solo una tecnología desarrollada y desplegada a escala mundial; ninguna empresa debería poder determinar sola el nivel de riesgo que el resto de la sociedad deberá aceptar.”

Los riesgos ya no son teóricos

La carta envía un mensaje contundente que parece ser pasado por alto, no se trata de seguir debatiendo sobre los riesgos de la IA pues “los prejuicios relacionados a esta no son hipotéticos: ya se están produciendo, a la vista de todos.”

La automatización de servicios esenciales en detrimento de las poblaciones marginadas, la explotación masiva de datos personales, las tecnologías de vigilancia y las campañas de desinformación, son algunos de estos.

La advertencia es clara y aunque ha sido repetida a lo largo de los años de parte de la ONU, hoy parece adquirir una relevancia adicional.

Jacob Coxon y su declaración viral

El ingeniero Jacob Coxon, ex trabajador en OpenAI y en Anthropic, la empresa de inteligencia artificial estadounidense responsable de Claude, se pronunció a través de sus redes. Esto, después de presentar su renuncia formal a la empresa, pues mencionó que los proyectos de IA “serán pronto sistemas sobrehumanos que podrán hackear cualquier cosa, revolucionar todos los ámbitos y ganar verdadero poder y recursos.”

Quizás de manera aún más preocupante, Coxon añadió que las grandes empresas al mando de esto “no están actuando con responsabilidad” y están “jugando con nuestras vidas.”

Después de volverse viral en redes por la severidad de sus declaraciones, Coxon ha dado entrevistas en diferentes medios y continúa enviando un mensaje claro: es poco lo que cada persona puede hacer en términos de seguridad respecto a la IA, más bien, es tarea de las grandes cabezas al mando.

“Las personas que desarrollan la IA creen sinceramente que esta podría acabar con todos nosotros antes de que termine la década.”

-Jacob Coxon

Le puede interesar: Fundador del HASI hizo un llamado para ralentizar el desarrollo de la inteligencia artificial

Con todo, es precisamente esto lo que le preocupa al ex trabajador de Anthropic pues, las empresas “están atrapados en la carrera por llegar primero” y asegura que un ritmo acelerado, cómo el que se viene marcando a día de hoy, no permite un desarrollo responsable y ético del asunto.

Empresarios responden

A pocos días después de las declaraciones de Coxon, Dario Amodei, director y cofundador de Anthropic, respondió, e hizo un llamado a las empresas de inteligencia artificial: “debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA” y al gobierno estadounidense, para que pueda contribuir a “marcar deliberadamente el ritmo de la frontera del desarrollo automatizado de IA.”

Elon Musk respaldó las declaraciones de Amodei e incluso propuso una alianza de supervisión mutua entre las principales empresas al frente del desarrollo de la IA entre Estados Unidos y China. Sam Altman, director de OpenAI, también se sumo a la conversación y confirmó que a su parecer existen dos posibilidades por medio de las cuales el desarrollo de la IA podría salir muy mal, perdiendo el control del futuro a manos de esta y permitiendo el desarrollo de un mundo con demasiada concentración de poder.

Lea también: Trump dice que la IA no necesita más control que tenerlo a él como presidente de EE.UU.

Ante todo lo anterior, el presidente Trump respondió que “existe una conspiración enfermiza” en contra de la IA y aseguró que “el único control o mecanismo de seguridad que necesita la IA es un presidente fuerte e inteligente, ¡y Estados Unidos lo tiene de sobra!”

Las Naciones Unidas, sin embargo, persisten en la necesidad de una acción conjunta y aclaran que los riesgos sobre numerosos aspectos de la vida, hoy, ya son una realidad.