ChatGPT deja de dar detalles sobre armas y ataques masivos: así cambia
OpenAI restringe las respuestas de ChatGPT sobre armas y ataques masivos, con límites más estrictos para menores. Qué cambia para los usuarios.
ChatGPT va a limitar la información que ofrece sobre ataques masivos y armas. El objetivo, según la compañía, es evitar que su herramienta sirva para facilitar nuevos actos violentos.
La medida la ha anunciado OpenAI, la empresa que desarrolla el chatbot. Según explica en un comunicado publicado en su blog, las restricciones son más estrictas para los menores. ChatGPT dejará de ofrecerles información práctica sobre armas y sistemas de seguridad, incluso cuando la petición parezca inofensiva.
La compañía recuerda que sus políticas ya prohíben usar el chatbot para ayudar a desencadenar un acto violento o para que un menor consiga un arma. Además, los controles parentales recibirán una nueva notificación si OpenAI decide suspender la cuenta de un adolescente "por hablar repetidamente de violencia".
Para el resto de usuarios también hay cambios. Se puede seguir preguntando por ataques masivos para entender lo ocurrido, cómo afectó a las víctimas y a las comunidades, y aprender a reconocer señales de alerta. Sin embargo, las respuestas se restringirán cuando el interés se centre en los propios ataques y sus autores. OpenAI señala que se limitarán las reconstrucciones de ataques pasados, incluidos detalles sobre las armas y el equipo utilizados y cómo se obtuvieron, así como comparaciones de la magnitud del daño que puedan aumentar la notoriedad del atacante.
Para la gente que usa el chatbot a diario, esto significa que algunas consultas sobre armas o sobre tiroteos concretos dejarán de tener respuesta detallada. OpenAI sostiene que los adolescentes seguirán pudiendo usar ChatGPT para prevenir y reducir la violencia, buscar apoyo y conectarse con un adulto de confianza.
Según la compañía, estas restricciones se aplicarán en las próximas semanas y se actualizarán con el tiempo.