La IA no es ni Artificial ni Inteligente: combatir sesgos para no comer cuento

Para Maria Ressa, periodista y ganadora del premio Nobel de Paz de 2021, “la Inteligencia Artificial es un término de marketing, ha estado circulando por casi 70 años y no es ni artificial ni inteligente. Sin embargo, está transformando el orden mundial”.

Ressa se pronunció a través de la ONU en el marco del Diálogo Global sobre la Gobernanza de la Inteligencia Artificial, el cual tuvo lugar en Ginebra el pasado 6 y 7 de julio y reunió a diferentes gobiernos, académicos, expertos independientes y representantes del sector empresarial.

En 2025 la ONU estableció la creación de dos mecanismos para la cooperación global alrededor de la IA, el Diálogo y el Panel Científico Internacional Independiente sobre la IA. Todo bajo el supuesto de que cada vez se hace más necesario traer al centro del debate internacional el tema de la IA y su gobernanza, es decir, el conjunto de normas y políticas, mecanismos técnicos y directrices éticas para la supervisión de su uso y desarrollo.

Para Rein Tamssaar, co presidente del diálogo, “la IA es una herramienta de la cual millones de personas alrededor del mundo podrían beneficiarse, pero al mismo tiempo, puesta en las manos incorrectas, podría ser usada con propósitos coercitivos, para socavar la confianza, quebrantar las estructuras democráticas y podría ser usada para propaganda y en contra de la integridad informativa ”.

Según la ONU, la última década, pero los últimos diez años en particular han visto un desarrollo acelerado de las capacidades de los sistemas de Inteligencia Artificial. La llegada de los chatbots de IA generativa, que se alimentan diariamente de información íntima, son un ejemplo de esto.

El desarrollo continúa a gran velocidad y no parece que vaya a detenerse. Así mismo, el debate va mucho más allá de la individualidad, del uso que cada individuo le da a la IA, pues sumado, es un asunto que representa la información y los patrones de consumo de países enteros.

Lea también: Normas de transparencia en la IA: las claves de la nueva ley que rige en la Unión Europea.

Ante este panorama, la ONU propone que se hace indispensable empezar a cuestionar la forma que la gobernanza ha ido adquiriendo a través de los años, pues es importante entender que el efecto de la IA es diferente para los distintos países del mundo.

Existen países con una capacidad importante de infraestructura e investigación, mientras otros siguen enfrentados a desafíos de infraestructura pública y conectividad. Lo anterior podría dejarlos en una desventaja importante respecto al resto del mundo, uno que ya no permite pensar la vida sin este sistema de tecnología en el que está inmerso.

Actualmente, los mecanismos de regulación para la IA no son suficientes.

El enfoque principal de ambos mecanismos es de carácter internacional y científico. El diálogo, llevado a acabo a penas hace un mes, incluyó la participación de representantes de varios gobiernos, pues la ONU asume cómo objetivo principal lograr atravesar el mensaje de que es importante entender que a hoy, las capacidades regulatorias existentes no están pudiendo sostener el ritmo acelerado del crecimiento de la IA y sus efectos.

Será tarea de los gobiernos ajustar y crear las medidas necesarias para la protección de sus intereses.

Le puede interesar: La Unión Europea y Colombia impulsan una gobernanza responsable de la IA con confianza e innovación

Más allá de la situación internacional, la ONU analiza que ningún país tiene la capacidad para afrontar este desafío por sí solo. Más bien, debe ser una respuesta multilateral y compartida si lo que se quiere es aprovechar las ventajas de la IA de forma que beneficie a todas las personas que la utilizan.

Los beneficios y riesgos de la IA no son iguales para todo el mundo

La inauguración del diálogo con esta primera sesión en la historia de la ONU tiene cómo punto de partida una realidad: la IA opera con brechas significativas alrededor del mundo. Es decir, no es lo mismo hablar de inteligencia artificial en países europeos y en Estados Unidos que en Colombia y el sur global.

Según la UNESCO, que se pronuncia en el marco del diálogo, la IA si está siendo regulada, pero de manera desigual: “los marcos de gobernanza han sido configurados predominantemente por países con sectores avanzados en IA, mientras que los países más expuestos a las consecuencias de la IA han tenido menos voz en el diseño de dichos marcos ”. El objetivo es empezar a corregir ese desequilibrio.

Seis meses de consulta y diálogo previo al encuentro con gobiernos, científicos, académicos y más de 1500 organizaciones permiten concluir que la principal preocupación de los gobiernos gira en torno al desarrollo de capacidades para la IA. Con menor frecuencia aparece la preocupación en torno a la seguridad, la transparencia, la rendición de cuentas, también la supervisión humana y las implicaciones económicas, éticas, culturales y lingüísticas de la IA.

La IA opera con sesgos raciales y de género

Si la preocupación principal en el marco del diálogo tuvo que ver con el desarrollo de cada nación frente a la IA, otros puntos importantes quedaron de lado. Al respecto, ONU Mujeres se pronunció respecto al impacto de las brechas en la IA que recae específicamente sobre las mujeres. La evidencia sugiere que la desigualdad de género se ha ido reforzando y esparciendo a través de los algoritmos a la misma velocidad que lo hace la IA.

Un estudio de la Universidad de California, Berkeley concluye que de 133 sistemas de IA, el 44% demostraba sesgos de género mientras que más de un cuarto demostraba ambos, sesgos raciales y de género.

Lea también: Claves para construir confianza en la era de la IA: un desafío tecnológico y humano

Un ejemplo para esto son las respuestas de los grandes modelos lingüísticos, pues se sabe que en repetidas ocasiones sus respuestas asocian a las mujeres con el hogar, la familia y tareas de cuidado, mientras tanto, los hombres son asociados a los negocios, el liderazgo y el éxito profesional. Cuando los investigadores le pedían a dichos modelos de lenguaje completar oraciones simples que empezaran con el género de una persona, 1 de 5 respuestas fueron sexistas o misóginas.

Lo anterior no es una simple falla en el sistema, no son resultados aleatorios; más bien, se está hablando de un patrón documentado a través de los sistemas. Jayathma Wickramanayake, responsable de Tecnologías Digitales de ONU Mujeres argumenta que:

“No se trata de un asunto fácilmente solucionable con la próxima actuación, es una decisión que se sigue tomando repetidamente en los datos de entrenamiento, en las salas de diseño y en los documentos de políticas que guardan silencio sobre la mitad de la población.”

Así las cosas, la brecha de género está presente en otras dimensiones que agravan significativamente el panorama planteado.

• Según datos de ONU Mujeres, la IA y el internet son un espacio propicio para la violencia hacia las mujeres. Véase que 1 de 5 defensoras de derechos humanos, activistas y periodistas encuestadas informaron haber sufrido violencia en línea asistida por la IA. El 12% se había visto afectada por divulgación de contenido íntimo y el 6% había sido objeto de deepfakes e imágenes y videos manipulados.
• Las mujeres siguen estando subrepresentadas en las industrias que desarrollan este tipo de tecnología, esto implica asumir que el futuro de la IA se está construyendo sin que sus perspectivas se reflejen en el diseño de esta. Según la OIT las mujeres solo representan el 30% de la fuerza laboral mundial en el sector tecnológico y con esto, incrementa el riesgo de estar creando tecnologías con sesgos arraigados.
• Según ONU Mujeres para América Latina y el Caribe, las mujeres corren el doble de riesgo que los hombres de perder sus puestos de trabajo por automatizaciones posibles gracias a la IA. Esto, teniendo en cuenta que gran cantidad de las mujeres en estas regiones realizan trabajos de servicios, ventas y administrativos. Apoyada en problemas preexistentes en el sur global, la IA podría potenciarlos significativamente.

La IA no es más que un cúmulo de decisiones humanas y sí puede hacerse mejor

Juanita Vélez y Daniela Amaya son periodistas y co creadoras de MiopIA. Cómo su nombre lo anticipa, su propuesta es una plataforma que nace con la intención de entender y cubrir vacíos de información sobre la IA en Colombia y Latinoamérica con una mirada crítica.

A través de sus videos hablan de colonialismo de datos, un tema que fue abordado por la periodista Karen Hao cuando era muy poco lo que se hablaba respecto a la Inteligencia Artificial y sobre quienes estaban detrás de su regulación y creación.

Sus investigaciones fueron publicadas por el MIT Technology Review y culminaron en la publicación de un libro: El Imperio de la IA: Salt Altman y su carrera por dominar al mundo. En resumen, se habla de colonialismo de datos ante un panorama donde la IA está ayudando a configurar un nuevo orden mundial que opera con lógicas antiguas y bien conocidas.

Los países con más capacidades para el desarrollo de la IA llevan la delantera y aunque “la industria de la IA no busca conquistar territorios cómo lo hicieron los conquistadores del Caribe y Latinoamérica, el mismo afán de lucro la impulsa a expandir su alcance. Cuantos más usuarios consiga una empresa para sus productos, más sujetos tendrá para sus algoritmos y más recursos - datos - podrá extraer de sus actividades, movimientos e incluso sus cuerpos”.

Así las cosas, la propuesta de MiopIA es poder llenar vacíos de información. Se encargan de cuestionar la producción y uso de este tipo de tecnologías mientras se sitúan en el contexto latinoamericano, también de hacer una pedagogía responsable para que puedan existir audiencias más conscientes e informadas y por último, de mostrar alternativas más amplias y responsables para pensar estas tecnologías.

Las creadoras de MiopIA mencionan que uno de los principales retos al crear este tipo de contenido es la falta de información que se tiene sobre el propio contexto. Muchos recursos son investigaciones realizadas por Estados Unidos, son muy buenas y ayudan a entender bastante, pero es un reto tratar de aterrizar la conversación en el propio contexto cuando se tiene tan poca información disponible.

Hablan también de la importancia de entender que las promesas de alta productividad de la IA no son las mismas para todo el mundo, no lo son para las mujeres, y tampoco para el sur global y su economía.

Será un reto para los gobiernos ocuparse de llenar los vacíos regulatorios e informativos en torno a la Inteligencia Artificial. Para los usuarios, el seguir desarrollando la atención y la capacidad de pensamiento crítico. En Colombia, todo lo anterior, de cara a la entrada de un gobierno que promete una inclusión importante de IA en diferentes sectores del país.

Sin embargo, la conclusión es optimista, pues MiopIA recuerda que “La IA no es más que un cúmulo de decisiones humanas y por eso mismo, sí puede hacerse mejor.”