La herramienta de código abierto permite a auditores y clientes comprobar con una prueba criptográfica el origen de los ‘tokens’ que reciben.
Anthropic desarrolla FlashProve, un prototipo de código abierto que demuestra con criptografía qué modelo de IA generó una respuesta, para que evaluadores independientes y clientes confirmen que reciben el modelo que prueban o pagaron.
El sistema se basa en la llamada “inferencia demostrable”. Se trata de una prueba criptográfica que indica que un determinado modelo de IA generó una respuesta.
🔍 Un problema de confianza
“Cuando un usuario envía una consulta a un modelo de IA, hoy no tiene forma de saber a ciencia cierta que el modelo que ha seleccionado es el que generó la respuesta”, indicó Anthropic.
La compañía señaló que en la mayoría de los casos esto “no es preocupante”, aunque en otros la verificación resulta de gran ayuda.
“Por ejemplo, evaluadores independientes que prueban los modelos de IA antes y después de su despliegue necesitan saber que el modelo que están probando es el modelo que se ha servido. Los clientes que usan un modelo a través de un servicio de enrutamiento de terceros quieren asegurarse de que los ‘tokens’ provienen del modelo por el que pagaron”, subrayó la tecnológica.
IA: Anthropic prohíbe a los usuarios de Claude trato cruel o abusivo contra sus modelos
🔐 Cómo funciona FlashProve
La mayoría de los modelos frontera son de pesos privados, lo que dificulta que un usuario o una empresa acceda a ellos para verificar su procedencia.
“El objetivo de la ‘inferencia demostrable’ es permitir que un usuario con recursos computacionales limitados y sin información sobre los pesos pueda verificar que una respuesta provino del modelo solicitado”, añadió Anthropic.
Para lograrlo, FlashProve utiliza un objeto criptográfico llamado ‘zero-knowledge succinct argument’ (argumento sucinto de conocimiento cero). El proveedor envía, junto con la respuesta, una prueba corta que el usuario puede verificar con rapidez y que no revela los pesos del modelo.
Anthropic lanza Claude Haiku 5.5, su modelo pequeño «más económico, rápido y potente»
📊 Los datos del prototipo
- Tipo de herramienta: prototipo de investigación de código abierto.
- Hardware: genera las pruebas con una sola tarjeta gráfica (GPU H100).
- Velocidad: 110 ‘tokens’ por segundo.
- Tamaño de la prueba: 19 MB por cada paquete de 1.024 ‘tokens’.
- Verificación: se realiza en segundos en un ordenador convencional, incluso de forma local.
🌐 Las posibles implicaciones
Anthropic considera “que este progreso tiene implicaciones significativas para la seguridad, el ritmo de desarrollo de la IA, la garantía de integridad para los clientes de IA, la facilitación de herramientas para auditores y reguladores, entre otros aspectos”.