Snapchat lanzó un filtro de IA para ofrecer respuestas apropiadas a usuarios según la edad

Snap dio a conocer que incorporó un filtro de edad que le permite a la inteligencia artificial (IA) integrada en su red social, ‘My AI’, conocer la edad de los usuarios y ofrecerles respuestas apropiadas a su edad.

A finales del pasado mes de febrero, la compañía introdujo en su plataforma el ‘chatbot’ My AI, que ejecuta la tecnología ChatGPT, desarrollada por OpenAI, en una versión personalizada para Snapchat.

Esta herramienta, disponible para suscriptores de Snapchat+, es capaz de “recomendar ideas de regalos, planear una excursión de senderismo o sugerir recetas para cenar”, según comentó la red social en un comunicado.

A la práctica

Un periodista de The Washington Post llevó a cabo unas pruebas con esta característica y determinó que aunque Snapchat “intentó crear una IA segura”, algunas conversaciones con My AI “pueden volverse tremendamente inapropiadas”, haciendo mención a temas como el alcohol y el sexo.

Para solucionar este problema, la compañía anunció nuevas herramientas que fomentan la experiencia de uso segura e incluyen un filtro apropiado para la edad de los usuarios que la utilizan. Este permite a la IA saber la fecha de nacimiento de los usuarios para elegir respuestas acordes a sus necesidades.

La plataforma reconoció que ha analizado “las consultas y respuestas de My AI que contienen lenguaje no adecuado”, es decir, “cualquier texto que incluya referencias a la violencia, términos sexualmente explícitos, consumo de drogas ilícitas, abuso sexual infantil, acoso, incitación al odio, declaraciones despectivas, racismo, misoginia o marginación de grupos infrarrepresentados”.

Si bien ha admitido que “solo el 0,01% de las respuestas se consideraron ‘no conformes’, también ha insistido en que se toma “muy en serio” la responsabilidad que tiene en el momento “de diseñar productos y experiencias que prioricen la seguridad y la adecuación a la edad”, según su último comunicado.

Por eso, ha tomado la decisión de añadir la tecnología de moderación de OpenAI a sus herramientas, lo que le permitirá “evaluar la gravedad del contenido potencialmente dañino y restringir temporalmente” el acceso de los usuarios a My AI “si hacen un mal uso del servicio”.

Una de las nuevas herramientas permite a la IA saber la fecha de nacimiento de los usuarios y les proporciona respuestas apropiadas para su edad y la tendrá en cuenta “constantemente” para ofrecer el mejor contenido a los usuarios.

Por otra parte, la plataforma ha anunciado que en las próximas semanas dará más información a los adultos sobre el uso que le dan los menores a My AI a través de la herramienta Centro familiar, integrado en la aplicación.