Noticias falsas: Presentadores hechos con inteligencia artificial desinforman

La compañía Graphika, dedicada a investigar y hacer seguimiento al contenido en la red, informó en su último reporte sobre comportamiento inusual en el que por medio de videos hechos con inteligencia artificial se está difundiendo información con noticias falsas. La empresa compartió el informe el pasado 7 de febrero y en este señala que la intención de este contenido movido en las redes tendría la intención de promover tendencias políticas y manipular a la ciudadanía.

De acuerdo a la compañía, a finales del 2022 evidenciaron que por medio de redes sociales se estaban difundiendo videos con información falsa. A partir de allí comenzaron a hacer seguimiento e identificaron que los supuestos presentadores que aparecían en los clips no eran reales. Los “periodistas” eran desarrollados con inteligencia artificial. “Por medio de una operación se promovía contenido que incluía imágenes de video de personas ficticias, casi seguramente, creadas con técnicas de inteligencia artificial”, indicó la empresa.

Por otro lado, la misma compañía comentó que esta estrategia de desinformación, denominada como ‘Spamouflage’, se diferenciaría de otras que ya se han denunciado, pues en la mayoría se busca consolidar apoyo a alguna campaña política. Sin embargo, en esta ocasión los videos con presentadores falsos estarían siendo creados para generar apoyo al Gobierno chino. Al mismo tiempo, desde Graphika aclararon que esta es, desde el 2019, la primera estrategia de información falsa que apoya un gobierno que han analizado.

Del mismo modo, Graphika informó que, de acuerdo a su investigación, están casi seguros que estos clips se crearon con ayuda de una plataforma. La aplicación que se habría usado es de origen inglés y se le conoce como Synthesia, la cual tiene la finalidad de ofrecer la creación de videos con personajes de inteligencia artificial en más de 120 lenguas, pero que sean usados por empresas en temas comerciales o educación. De hecho, desde Synthesia han aclarado que su plataforma no debe usarse para construir videos con intención política. “El contenido político no se tolera, ni se aprueba”, mencionó Synthesia.

Adicionalmente, los clips que analizaron desde Graphika, que tenían la intención de apoyar al Gobierno chino, eran de mala calidad y no llegaron a las más de 300 reproducciones, por lo que su alcance a la ciudadanía de ese país fue muy bajo. No obstante, aclararon que mantienen una preocupación y es que a medida que se originen más productos de generación de contenido de este tipo, más personas podrán usarlo de forma malintencionada para manipular y afectar las democracias de manera sencilla y rápida.

Finalmente, Graphika afirmó que en medio de su investigación identificaron que se estaba realizando la creación de contenido muy parecido, por lo que la ciudadanía a nivel mundial debe cuestionarse sobre el origen del contenido que consume y qué tan real es.