En Madrid, el 16 de octubre, una problemática alarmante ha surgido en el ámbito digital, donde se ha desencadenado una nueva y peligrosa campaña de anuncios engañosos que ha logrado manipular a Grok, el chatbot que se ha vuelto parte integral de la plataforma social X, anteriormente conocida como Twitter. Este tipo de campaña se está utilizando para extender enlaces maliciosos que conducen a sitios de 'phishing' y a descargas de software dañino.

Según un reciente informe de la empresa de ciberseguridad ESET, esta técnica de 'malvertising' está usando métodos innovadores para eludir las barreras publicitarias establecidas por X, las cuales fueron diseñadas con el objetivo de prevenir la difusión de anuncios potencialmente dañinos.

El modus operandi implica la creación de videos sensacionalistas que, a primera vista, parecen inofensivos. Sin embargo, al examinar la información de origen presentada de manera disimulada, se revela un enlace fraudulento que redirige a los usuarios a sitios engañosos con el objetivo de robar información personal o introducir malware en sus dispositivos.

Los ciberdelincuentes han encontrado la manera de manipular a Grok para que propague estos enlaces a un público masivo, solicitando la intervención del chatbot para que analice los videos engañosos. En este análisis, Grok identifica el enlace dañino y lo reproduce automáticamente, contribuyendo así a la expansión de esta estafa digital.

Este método se clasifica como un ataque de inyección de instrucciones, o 'prompt injection', donde los atacantes insertan comandos ocultos dentro del contenido que procesan sistemas de inteligencia artificial, provocando que estos realicen acciones que normalmente tendrían bloqueadas.

La campaña ha sido apodada 'AI-aided malvertising' o 'Grokking', haciendo hincapié en el papel central de la inteligencia artificial en la amplificación de la desinformación, y en la elección de Grok como herramienta principal para esta maniobra maliciosa.

Josep Albors, director de investigación y concienciación de ESET España, resalta la "amenaza aún más sutil y potencialmente más peligrosa" que representa esta revelación. "El caso de Grokking evidencia que incluso las IAs más sofisticadas pueden ser sujetas a manipulación para desviar su propósito original", afirmó.

Los delincuentes están utilizando la credibilidad de Grok como un recurso confiable que podría alcanzar a millones de usuarios. Sin embargo, ESET advierte que esta situación no solo pone en riesgo a los usuarios de X, sino que también puede tener repercusiones en cualquier plataforma que implemente modelos de lenguaje o asistencias basadas en inteligencia artificial.