En un movimiento significativo hacia la transparencia en la inteligencia artificial (IA), Google ha lanzado un programa de recompensas diseñado específicamente para abordar vulnerabilidades en sus sistemas de IA. Este nuevo esquema otorga la posibilidad de recompensar a los investigadores y desarrolladores con una cifra que alcanza hasta los 30.000 dólares (aproximadamente 25.699 euros) por sus hallazgos.

El Programa de Recompensas por Vulnerabilidades de IA surge como respuesta a las inquietudes manifestadas por la comunidad de ciberseguridad en torno a las recompensas, tras dos años de reportes sobre fallos en productos de IA bajo el marco del Programa de Recompensas por Vulnerabilidades de Abuso. Este nuevo enfoque busca aclarar el proceso y facilitar la colaboración en la identificación de problemas de seguridad en el ámbito de la inteligencia artificial.

Con la creación de este programa específico, Google ha decidido concentrar las recompensas en problemas de abuso de alto impacto y vulnerabilidades de seguridad, dejando de lado aquellos relacionados con el contenido de sus productos. Esta decisión se basa en el hecho de que sus sistemas de IA ya incorporan funciones que permiten reportar problemas de contenido, las cuales son examinadas por expertos en IA y otros profesionales capacitados.

Las directrices del nuevo programa abarcan seis áreas de riesgo, que incluyen la denegación de servicio entre usuarios, el uso no autorizado de productos, omisiones en controles de acceso con consecuencias limitadas para la seguridad, manipulación de contextos entre cuentas y el robo de modelos. Asimismo, se contempla el habilitar phishing, la exfiltración de datos confidenciales y otras acciones deshonestas. Además, el programa se divide en tres categorías de productos: buque insignia, estándar y otro.

Según la tabla de recompensas presentada por Google, las acciones deshonestas que ocurran en productos de buque insignia pueden alcanzar una recompensa individual de hasta 20.000 dólares (alrededor de 17.131 euros). No obstante, la compañía ha indicado que esta cifra podría incrementarse hasta los 30.000 dólares a través de multiplicadores de bonificación, incentivando así a los investigadores a participar en este esfuerzo colectivo por mejorar la seguridad en la inteligencia artificial.