Anthropic crea FlashProve para comprobar qué modelo de IA generó una respuesta

¿Sabes con certeza qué modelo de inteligencia artificial te ha contestado? Hoy, según Anthropic, no hay forma de saberlo a ciencia cierta. La compañía acaba de presentar FlashProve, un sistema de código abierto que busca cambiar eso.

Según explica Anthropic, FlashProve se basa en lo que llama 'inferencia demostrable': una prueba criptográfica que indica que una respuesta ha sido generada por un determinado modelo de IA. La tecnología se apoya en un 'zero-knowledge succinct argument' (argumento sucinto de conocimiento cero), que permite al proveedor enviar, junto a la respuesta, una prueba corta que el usuario puede verificar rápidamente sin que se revelen los pesos del modelo.

¿Por qué importa? Anthropic señala que, para la mayoría de los casos, este problema "no es preocupante", pero que en otros sí resulta de gran ayuda. Pone como ejemplos a los evaluadores independientes, que necesitan saber que el modelo que prueban es el que se ha servido, y a los clientes que usan modelos a través de servicios de enrutamiento de terceros, que quieren asegurarse de que los 'tokens' provienen del modelo por el que pagaron.

Según los datos que da la compañía, el prototipo es una herramienta de investigación que genera estas pruebas con una sola tarjeta gráfica H100 a un ritmo de 110 'tokens' por segundo. Cada paquete de 1.024 'tokens' ocupa 19 MB, lo que facilita su envío por internet y permite verificarlo en un ordenador convencional en segundos, incluso de forma local.

Para Anthropic, este avance tiene "implicaciones significativas para la seguridad, el ritmo de desarrollo de la IA, la garantía de integridad para los clientes de IA, la facilitación de herramientas para auditores y reguladores, entre otros aspectos". En lo que se refiere a la gente de a pie, la noticia no detalla más consecuencias concretas ni fechas de despliegue, así que de momento se trata de una herramienta en fase de prototipo.