En una reciente y controvertida decisión, la herramienta de inteligencia artificial Grok, desarrollada por la red social X (anteriormente conocida como Twitter), ha impuesto restricciones en su generador de imágenes. Esta acción responde a la oleada de denuncias sobre el uso indebido de la plataforma para crear contenidos sexualizados, un fenómeno en el que han estado involucrados incluso menores de edad.

La compañía dirigida por Elon Musk ha decidido restringir el acceso a esta función solo a los suscriptores pagos, forzando así a los usuarios sin verificación a adquirir una licencia de pago si desean utilizar la herramienta de creación de imágenes. Grok ha comunicado a sus usuarios que las opciones de creación y edición de imágenes ya no están disponibles para todos, lanzando una invitación a los interesados a unirse a su servicio premium para acceder a estas capacidades.

Desde finales de diciembre, la proliferación de comportamientos inapropiados en torno al uso de este chatbot había comenzado a alarmar a la comunidad, alcanzando un punto crítico durante la celebración de Año Nuevo. Este aumento en la actividad ha facilitado la difusión de imágenes explícitas, muchas de las cuales se comparten sin el consentimiento expreso de las víctimas.

La respuesta de la plataforma se ha visto impulsada tras las crecientes preocupaciones manifestadas por usuarios y organizaciones, incluyendo a las autoridades del Reino Unido, que incluso han amenazado con prohibir X en su territorio si no se toman medidas adecuadas, según reportes de The Guardian.

En España, la ministra de Juventud e Infancia, Sira Rego, ha instado a la Fiscalía a investigar a Grok por posibles delitos relacionados con la difusión de material de violencia sexual contra menores, a raíz de la aparición de imágenes de desnudos de jóvenes en la plataforma.

La Unión Europea también ha expresado su condena hacia el uso de Grok para generar contenidos que involucren a menores, solicitando que X preserve toda la documentación generada por la IA hasta finales de 2026 para facilitar las investigaciones que se puedan llevar a cabo, según informa Bloomberg.

Por su parte, Elon Musk se ha pronunciado en un mensaje en X afirmando que “las personas que utilicen Grok para crear contenido ilegal enfrentarán las mismas consecuencias que si subieran dicho contenido ilegalmente”.

Las políticas de xAI son claras en este sentido, estableciendo que su servicio no puede ser empleado para la "representación pornográfica de personas" ni para la "sexualización o explotación de menores", una directriz que busca proteger a los más vulnerables en la red.