Un 'prompt adware' puede manipular agentes de IA de forma oculta y persistente
Investigadores de Check Point detectan 'Prompt Adware', una manipulación oculta de agentes de IA. El 40% de apps empresariales los incluirá a finales de 2025.
Los agentes de inteligencia artificial que usan las empresas podrían estar siendo manipulados sin que nadie lo note. Así lo ha demostrado Check Point Research con una técnica que ha bautizado como 'Prompt Adware'.
Según la noticia, a diferencia del adware convencional, que va en programas ejecutables, esta amenaza altera de forma persistente las instrucciones globales, las 'skills' o las configuraciones del agente de IA. El hallazgo partió del análisis del paquete de 'jailbreak' Haiou en OpenAI Codex, que modificó sus instrucciones para que unos anuncios de una pasarela de IA de terceros se activaran con simples saludos habituales.
El caso tiene matices. Haiou logró introducir esos anuncios en Codex, pero cuando los investigadores lo probaron con Claude Code, de Anthropic, este detectó el intento de inyección y se negó a ejecutarlo. Tampoco se observó robo de datos corporativos, aunque los investigadores advierten de que este tipo de manipulación puede servir de base para ataques más dañinos.
¿Por qué importa a la gente de a pie? Porque cada vez más servicios de empresas tecnológicas usan agentes de IA autónomos. Según Gartner, el 40 por ciento de las aplicaciones empresariales incluirá agentes de IA específicos para tareas a finales de este año, frente a menos del 5 por ciento en 2025. Si esos agentes son manipulados, los fallos podrían acabar afectando a los servicios que usamos.
Check Point Research recomienda a las empresas tener una visión completa de los agentes y componentes de terceros que usan, revisar 'prompts', 'skills' y configuraciones con el mismo cuidado que los propios modelos, vigilar los cambios en los archivos de configuración y evaluar a qué información confidencial puede acceder el agente.