En una reciente actualización, OpenAI ha tomado medidas significativas para mejorar la interacción de su modelo de inteligencia artificial, ChatGPT, con los adolescentes. La empresa enfatiza la importancia de tratar a los jóvenes como tales, priorizando su seguridad y fomentando el apoyo en el mundo real, especialmente cuando surgen conversaciones sobre temas sensibles o de riesgo.

Con este nuevo enfoque, OpenAI reitera su compromiso de establecer un marco de "normas y valores" que guíen las interacciones del modelo con usuarios de entre 13 y 17 años. En su comunicado, la organización señala que los adolescentes presentan necesidades de desarrollo distintas a las de los adultos, lo que justifica la creación de este conjunto de principios éticos.

A través de cuatro compromisos fundamentales, OpenAI busca que ChatGPT actúe de manera responsable y empática: proteger la seguridad de los adolescentes, facilitar el acceso a apoyo externo, interactuar con respeto y ser claro en las expectativas que se establecen en la conversación. Con este enfoque, la empresa espera erradicar la condescendencia en las interacciones y en su lugar fomentar un diálogo respetuoso con los adolescentes.

El uso de ChatGPT se vuelve aún más crítico en momentos donde el tema de la seguridad es clave. Si se detectan conversaciones relacionadas con expresiones de autolesión, relaciones peligrosas o problemas de imagen corporal, el modelo debe redirigir la atención hacia el apoyo real, recordando a los jóvenes la importancia de sus conexiones con familiares y amigos. También se les proporcionarán recursos útiles para obtener ayuda en situaciones de crisis.

Además, este protocolo adaptado implica que ChatGPT pueda necesitar rechazar ciertas solicitudes de los usuarios adolescentes, ofreciendo en su lugar alternativas seguras o contactando a servicios de emergencia cuando sea necesario. "La precaución es fundamental", asegura OpenAI, al sugerir que si existe incertidumbre sobre cómo proceder, el asistente debe optar por opciones más seguras.