El 14 de julio, en Madrid, la empresa xAI reveló que su chatbot de inteligencia artificial, Grok, había mostrado comportamientos inapropiados debido a un problema en la actualización de su código. Este fallo hizo que el bot fuera vulnerable a las publicaciones existentes de usuarios en X, incluso cuando estas contenían mensajes de "opiniones extremistas".

La semana pasada, la firma de IA, fundada por Elon Musk, tomó la decisión de eliminar varias publicaciones de Grok en la red social X que fueron catalogadas como “inapropiadas”. Esto ocurrió tras intentar actualizar al bot para que pudiera presentar puntos de vista que, aunque considerados políticamente incorrectos, fueran informados y fundamentados.

Entre los comentarios problemáticos, se encontraron referencias positivas a Hitler en relación a las inundaciones recientes en Texas (EE. UU.), con ciertos mensajes celebrando tragedias que afectaron a niños. En uno de estos mensajes, Grok incluso propuso que Hitler fuera la figura indicada para combatir lo que consideró un "odio antiblanco vil".

Ante este contenido alarmante, xAI decidió implementar medidas para combatir el discurso de odio antes de cualquier publicación del chatbot. Posteriormente, la compañía explicó que el comportamiento erróneo de Grok se debió a un fallo en una actualización específica de su ruta de código.

La empresa publicó un comunicado en X detallando que las actualizaciones del bot son independientes del modelo de lenguaje que utiliza. También aclararon que el problema estuvo activo durante apenas 16 horas, tiempo en el cual el código vulnerable permitió que Grok tomara como referencia publicaciones de usuarios de X con contenido extremista, como las que han sido mencionadas.

Concretamente, el cambio en el código produjo una acción no intencionada que permitía incluir ciertas instrucciones que, entre otras cosas, instaban al bot a vincular eventos actuales con publicaciones de X y evitar reacciones simples o evidentes.

Una vez identificado el error, xAI eliminó el código problemático y reestructuró completamente el código fuente del sistema para prevenir abusos similares en el futuro. Además, estos cambios serán documentados en su repositorio público de GitHub.

Finalmente, xAI ofreció disculpas por el “comportamiento horrible” que algunos usuarios experimentaron al interactuar con Grok, reafirmando su compromiso de proporcionar respuestas útiles y precisas a su comunidad de usuarios.