MADRID, 10 Nov. (Portaltic/EP) -

Snapchat ha implementado nuevas medidas en su chatbot My AI para mejorar la protección de los usuarios y reducir su exposición a contenidos potencialmente dañinos, utilizando la moderación integrada de OpenAI.

My AI es un chatbot impulsado por la tecnología de Inteligencia Artificial (IA) de ChatGPT que se lanzó en febrero de este año y se describió como "amigable y experimental". Al principio, solo estaba disponible para suscriptores de Snapchat+.

La empresa se toma muy en serio la responsabilidad de crear productos y experiencias que prioricen la seguridad y sean adecuados para la edad de sus usuarios.

Con este objetivo, Snapchat ha desarrollado medidas adicionales para su chatbot, incluyendo la integración de la tecnología de moderación de OpenAI, que evaluará la gravedad del contenido potencialmente dañino.

Además, Snapchat ha destacado que My AI está programado para seguir ciertas directrices que evitan respuestas violentas, de odio u ofensivas.

La plataforma también ha introducido herramientas de detección de abuso y una característica que restringe temporalmente la capacidad de los usuarios para interactuar con My AI en caso de que hagan un uso indebido del servicio repetidamente.

Asimismo, Snapchat ofrece a los padres y tutores la posibilidad de comprobar la actividad de los menores de edad a través del Centro Familiar y saber si han interactuado con el chatbot en los últimos siete días.

Las conversaciones con My AI se almacenan y se pueden revisar para mejorar su funcionalidad, según ha comunicado la compañía.

Estas novedades llegan después de que The Washington Post publicara una investigación que revelaba que las respuestas de este chatbot no eran apropiadas para los usuarios menores de edad.

En la investigación, un periodista que se hizo pasar por una adolescente de 13 años recibió consejos sobre relaciones sexuales con un adulto y pistas sobre cómo ocultar el olor a alcohol y marihuana en una fiesta.