¿Qué papel está teniendo la IA en las guerras y en el manejo de la seguridad?

Panelistas analizan el pleito entre Anthropic y el Pentágono, lo que representa tomar decisiones militares de acuerdo a la información suministrada por IA y cómo está Colombia en el uso de estas nuevas tecnologías.

En Hora 20 se le dio una mirada al rol que están teniendo gigantes tecnológicos y empresas desarrolladoras de inteligencia artificial en la guerra y en el plano militar.

El análisis al choque que hay entre el Pentágono y Anthropic, la desarrolladora de Claude, una de las inteligencias artificiales más innovadoras y respetadas que se han creado. También el debate sobre el impacto en la seguridad, en la privacidad de los usuarios y en el desarrollo de las guerras.

Al final, una mirada a lo que pasa en Colombia con el uso de la IA y la seguridad.

Lo que dicen los panelistas

Hugo Acero, exsecretario de seguridad de Bogotá, experto y consultor en temas de seguridad y columnista, señaló que ha evolucionado el uso de drones con gran capacidad, “las guerras en general han posibilitado desarrollos científicos muy altos y la guerra de Ucrania llevó a un desarrollo de ataque no tripulado a través de drones con alta tecnología y utilizando todo tipo de información”.

Comentó que hay ofrecimiento de drones económicos en Colombia que han sido desarrollados por Ucrania, tanto para pasar del área defensiva, como la ofensiva, “eso que está lejano en kilómetros, hoy nos tocan”.

Sobre la ofensiva de armados ilegales en el tema de drones, dijo que la tecnología ayuda a ser más precisos a la hora de tomar decisiones, “el punto es cuál es la decisión que se debe tomar y que no se le debe dejar al desarrollo tecnológico o máquinas, es una decisión de Estado, donde los funcionarios deben responsabilizarse”.

En esa medida, dijo que la decisión final de si hay bombardeo o no, debe estar en manos de un funcionario, “es así donde la información que da la IA es fundamental, pero no son el elemento que defina la acción a tomar, es quien tiene la responsabilidad frente al uso legítimo de la fuerza por parte del Estado”.

Para Manfred Grautoff, economista especialista en seguridad, inteligencia y defensa nacional, el avión F35 es el más avanzado porque fusiona información del piloto con la información que dan los sistemas, “la clave está en el casco y está conectado a IA, entonces en capas se recolecta base de datos y se procesa; eso ayuda muchísimo”.

Comentó que se recolecta información, se crea base de datos y se procesa hasta que haya toma de decisiones, “si uno hiciera eso manualmente se demora mucho, hoy procesar una base de datos es muy rápido y Claude en eso es notable, además, corrige el código de una manera diferente, por eso es tan perseguido y buscado por el sistema de defensa”. También comentó que en 2024, cuando OpenAi se abrió en el ecosistema militar, “eso es un hecho que se ha superado, pero la IA no toma decisiones sobre un blanco, eso sí es problemático, una cosa es dar órdenes de ataque por parte de un militar y otra cosa que la tecnología lo haga sola”.

Mauricio Jaramillo, experto en asuntos digitales y de inteligencia artificial, columnista y consultor, planteó que estamos en la primera guerra de la inteligencia artificial, “eso suena futurista, emocionante, disruptivo y puede generar temores. El papel de la IA lleva varios años en la guerra, pero por primera vez en la situación con Irán ha jugado un papel determinante”. Recordó que la tecnología siempre ha estado en la guerra y que las empresas tecnológicas han intervenido en favor de algunos jugadores, “EE.UU. utiliza tecnologías conocidas y otras no tanto, pero Irán también usa la IA; es una evolución tecnológica que no pueden dejar de usar”.

Explicó que la IA es transversal en todos los procesos de defensa y militares, por ejemplo, en análisis y planificación con sensores y cámara se obtiene información, así como el procesamiento de información en grandes volúmenes y en tiempo real, “también con modelos generativos se puede ayudar a la toma de decisiones militares dando escenarios, analizando patrones, etc.”, así como la disposición de drones y automatización.

Detalló que hay críticas sobre la forma como se alimenta la bases de datos por parte de tecnologías como Claude, “los modelos grandes de lenguaje como ChatGPT o Claude se alimentan de bases de datos de internet, de libros o de medios, eso establece debates éticos sobre cómo se está usando la IA”.

Pablo Díaz, gerente estratégico de Andiseg, la empresa del robot de la seguridad, exportan servicios de seguridad a EE. UU., explicó que Vicente, el nombre que recibe el robot humanoide, es una pieza fundamental en el nuevo ecosistema de seguridad privada, “es tecnología e innovación aplicada a la seguridad. Vicente es el primer robot capaz de transmitir en tiempo real información a central de monitoreo, que a su vez son software alineado con IA, tiene capacidad de detectar incidencias, patrones y generar parámetros de seguridad en ciertos flujos y horas”. También comentó que se pueden generar alianzas con registros biométricos de bases de datos para identificar a sujetos relacionados con el crimen, “no queremos reemplazar humanos, queremos a la gente, lo que queremos es potenciar, armar el tema de seguridad móvil, que durante 24 horas se rodeen las ciudades para dar un mejor ecosistema de seguridad”.

Explicó que el robot se puede programar para diferentes funciones, por ejemplo, en un centro comercial puede hacer recorridos, pero también se le puede agregar datos y gestionar información.

Escuche el programa completo a continuación:

Escuchar Caracol Radio EN VIVO: