Hay emergencia digital por uso de IA para crear contenido de explotación sexual infantil: Red Papaz

Armenia

En el Día del Internet Seguro, Red Papaz La Red de Padres y Madres de Colombia alerta por el aumento de aplicaciones que utilizan Inteligencia Artificial, IA para manipular fotos y videos de niñas, niños y adolescentes con ropa, generando contenidos desnudos o sexuales no consentidos (conocidos como deepfakes).

De acuerdo con las últimas cifras de Te Protejo, se viene registrando un incremento de situaciones de explotación y abuso sexual con el uso de IA. Solamente en el 2025, se procesaron más de 15 casos en donde se han utilizado estas aplicaciones para crear cientos de imágenes ilegales y que afectan a menores de edad.

A través de la línea de ayuda Te Guio, se ha evidenciado preocupaciones de niñas, niños, adolescentes y familias sobre el uso de IA para la creación de imágenes falsas con contenido sexual y el uso de agentes para el desarrollo de relaciones emocionales y sexuales.

En 6AM/W de Caracol Radio Armenia hablamos con Cristina Escobar, Directora de Protección Infantil de Red Papaz que explicó “nos unirnos a una alerta global sobre la inteligencia artificial y la explotación sexual infantil, en este momento estamos en una emergencia digital por las aplicaciones de inteligencia artificial que están siendo usadas para crear imágenes sexuales falsas de niñas, niños y adolescentes, incluso a partir de fotos cotidianas.

Estas herramientas que se titulan desnudez por inteligencia artificial no tiene ningún uso legítimo cuando se trata de proteger a la niñez, de hecho, están vulnerando a los niños y adolescentes.

El año pasado en nuestro canal de reporte te protejo recibimos más de 15 casos en los que se generaron imágenes de desnudez utilizando inteligencia artificial, que pasa con estos contenidos, son revictimizantes, circulan muy rápido y están relacionados con el chantaje y la extorsión y muchas veces también los abusadores que crean estas imágenes monetizan la venta de estas imágenes.

Llamado para padres de familia

Es súper importante ser conscientes de la huella digital de los menores, es decir, tratar también de evitar subir exageradamente contenido de niñas, niños y adolescentes a las redes sociales. Eso creo que es una medida de protección, pero también hay recomendaciones que son aplicables para el uso de la inteligencia artificial, pero también de las de las pantallas y ahí lo importante es acompañar como padres, madres y cuidadores.

Acompañar no es prohibir

La experta de Red Papaz “acompañar es no es prohibir, es estar presentes, obviamente diferente para las diferentes etapas de desarrollo, en la primera infancia, digamos, de 0 a 8 años, pues una niña o niño no debería estar usando pantallas y deberían estar priorizando el juego, el vínculo, la exploración.

Ya más grandes de 9 a 12 años, es importante empezar a hablar con las niñas y niños de adolescentes y tener un plan familiar digital con reglas claras, definir, digamos, los espacios del hogar donde se usan las pantallas y creo que ahí es importante ya dentro producir como conceptos de hablar de privacidad, publicidad engañosa y que ellos puedan contar con sus papás, con sus cuidadores para pedir ayuda si en cualquier momento se sienten vulnerados.

Y ya en la adolescencia estamos hablando ya de 13 a 18 años, súper importante ahí empezar a desarrollar un pensamiento crítico y es conversar sobre huella digital, consentimiento, eh bienestar emocional explicar cómo funcionan los algoritmos y la inteligencia artificial y cómo influyen en lo que ellos ven, sienten y deciden.

Entonces, y también hablar de todos los riesgos que existen en línea como el sexting, el grooming, eh entre otros. Acá creo que tenemos desde Red Papás tenemos dos canales que pueden eh funcionar para pues para madres, padres, cuidadores y también para los adolescentes mismos.

Tenemos un canal de reportes que se llama te protejo, donde pueden reportar cualquier vulneración tanto en la esfera digital como física que le sucede a una niña, niño y adolescente en Colombia y también pueden buscar orientación en nuestro canal de ayuda que se llama Te Guio.

Entonces les dejo estas dos herramientas, creo que son claves, ahí digamos nos articulamos fácilmente con en te protejo, nos articulamos fácilmente con las autoridades con las plataformas para poder desmontar este tipo de imágenes.

Medidas de los gobiernos

También una reflexión y es súper importante que esto trasciende a la crianza, creo que es un problema estructural y necesitamos que el gobierno nacional tome medidas para regular, digamos, las plataformas digitales. Es importante que no todos se trasladen una responsabilidad a madres, padres y cuidadores.

Eso es verdad. www.protejocolombia.org para que quienes nos están escuchando o leyendo

No publicar tantas fotos de niños en redes sociales

La experta de Red Papaz. el problema es que en este momento las plataformas no están dando seguridad, para al contenido que uno sube, y es como lo importante, entonces una foto que se publica en una plataforma muy fácilmente que ya está publicada en diferentes plataformas de internet. Entonces, es importante pues tener eso en consideración

La importancia del colegio en la protección

Experta Red Papaz; estos riesgos de la era digital creo que tenemos que abordarlos como sociedad, entonces madres, padres cuidadores, los adolescentes mismos, las niñas y los niños eh también tienen una juegan un papel, pero los educadores y las escuelas que son ese entorno eh seguro eh juegan un papel fundamental

Desarrollo del pensamiento crítico de enseñar qué es la inteligencia artificial, cuáles son sus riesgos, cuáles son los riesgos digitales, pero también pues lo que lo que digo creo que para dar un cambio estructural tenemos que tener reglas claras en este en este juego y es el gobierno nacional tiene que empezar a regular eh entonces, sí, creo que es un problema que se aborda como sociedad y todos los actores, jugamos un rol.

Mensaje

Experta de Red Papaz; Yo creo que un mensaje clave es exigir y creo que como sociedad y familias tenemos que exigir que el internet sea seguro, creo que elevar nuestra voz para que el internet sea un espacio seguro, es importante.

Es súper importante que conozcamos los riesgos inherentes al uso de las diferentes tecnologías, o sea las plataformas de redes sociales o sea la inteligencia artificial, pero también es importante que haya una regulación que ponga reglas claras para las diferentes plataformas que tengan que poner y priorizar a niños adolescentes en su regulación para que esa era digital asegura.