Fundador del HASI hizo un llamado para ralentizar el desarrollo de la inteligencia artificial

Tobias Martin, fundador del Instituto Hispano de Seguridad de la IA (HASI), habló con Julio Sánchez Cristo en 6AM W de Caracol Radio sobre los riesgos que pueden generar modelos cada vez más avanzados de la inteligencia artificial y pidió ralentizar su desarrollo.

“A medida que la inteligencia artificial avanza se vuelve más inteligente, más conectada a todos nuestros dispositivos y hay más riesgo de que se nos salga de control”, explicó.

De igual manera, el experto se ha pronunciado sobre los riesgos que aparecen cuando diferentes sistemas de IA pueden interactuar entre sí y actuar de forma cada vez más independiente.

Uno de ellos se registró el 6 de septiembre de 2026 por un incidente de OpenAI y Hugging Face, del cual Martin abordó los desafíos que plantea la coordinación entre agentes de IA y la necesidad de mantener el control humano.

“El primer momento fue en mayo cuando un colectivo de agentes de IA se formó. En primera instancia, OpenAI, la empresa detrás de ChatGPT, estaba entrenando un nuevo modelo de frontera y ese modelo estaba haciendo una evaluación de seguridad. Lo que tenía que hacer ese modelo era capturar una bandera dentro de un sandbox, de una caja que no estaba conectada al internet, para ver cómo se las podía llegar a ingeniar para hacerlo”, señaló.

Martin agregó que “ese modelo tan inteligente lo que hizo fue escaparse de esa caja, sin que los investigadores se dieran cuenta, y empiezan a complotarse con otros modelos de IA que se estaban entrenando en paralelo en otros proyectos y con otros investigadores”.

Tobias Martin, quien también trabaja en comunicación sobre seguridad de IA en el Instituto de Investigación de Inteligencia Artificial (MIRI) y creó @eltechbro, una plataforma en español que explica de manera sencilla la inteligencia artificial avanzada y sus posibles riesgos, señaló que la situación siguió hasta el 4 de julio, fecha en la que se entera OpenAI que hay una actividad sospechosa dentro de sus bases de datos.

“Apagan la máquina, la resetean porque estaba fallando y empezó a tener problemas porque estaban consumiendo mucha energía. Al otro día, en menos de 24 horas, todos estos agentes de IA se vuelven a complotar, vuelven a hackear el sistema y, en vez de quedarse dentro de sistema de OpenAI, empezaron a hackear otras empresas, empezaron a hackear una empresa que se llama Modal y Hugging Face, aseguró”.

El experto afirmó que el interés por Huggin Face es que tiene un servidor con múltiples modelos de IA y en uno de ellos destraba la bandera que intentaban capturar.

Asimismo, manifestó que por ahora no hay robots que puedan llegar a asesinar a una persona, pero puede llegar a cambiar en varios años.

Por otra parte, Donald Trump rechazó el llamado a ralentizar el desarrollo de la IA y señaló que el país debe mantener el liderazgo en esta tecnología. Además, el presidente aseguró que como mandatario podrá controlarla para que personas no hagan mal uso de ella.

Frente a esta afirmación, Martin apuntó que también se trata de una carrera entre Estados Unidos y China en los avances de la IA.

“Es una situación muy desafortunada con el presidente Donald Trump porque el campo entero, tanto el CEO de Antropic, el director y fundador Darío Amodei, presentó un ensayo durante el fin de semana en el cual él dijo que también está muy preocupado por los avances de la inteligencia artificial y propuso que su propia empresa, empiece a dejar que personas tercerizadas, empleados tercerizados, no de su misma empresa, que quieran corroborar lo que está sucediendo dentro de esa empresa y las medidas de seguridad”, señaló.

Asimismo, añadió que muchas personas se han sumado a la iniciativa, entre ellos ganadores del premio Nobel en materia de IA, y están alertando están situación.

Martin expresó que Trump está intentando seguir en una carrera y no pretende que se desacelere el avance de la IA, ya que no quiere que China se imponga a Estados Unidos en términos de inteligencia artificial.

“La realidad es que una carrera en contra de una superinteligencia artificial, lo que estamos hablando que puede llegar a ser mucho más inteligente que los humanos y muy peligroso, esa carrera no la va a ganar nadie, si llega a China o llega a Estados Unidos o llega a cualquier otro país, es una carrera que gana la IA, no es una carrera que gana los humanos en un país”, aseguró.

Escuche la entrevista completa:

Escuche Caracol Radio EN VIVO: