Anthropic crea un sistema para comprobar qué modelo de IA escribió una respuesta

El lunes 2 de noviembre, Anthropic presentó FlashProve, un prototipo de código abierto que permite demostrar con criptografía qué modelo de IA ha generado una respuesta. Lo firma su equipo Frontier Red Team junto a investigadores de la EPFL y del MIT, entre otros, y la empresa atribuye a Claude parte de las mejoras técnicas del sistema.

El problema de partida es que hoy quien consulta un modelo no tiene forma de saber con certeza que la respuesta viene del modelo que anuncia el proveedor: un servicio intermediario podría cambiarlo por otro más barato, o un atacante podría alterar el texto por el camino. Juzgar por la calidad de la respuesta no basta.

El funcionamiento tiene dos fases. Primero, el proveedor publica una huella de los pesos del modelo (los números que lo definen), que lo identifica sin revelarlos. Después, acompaña cada respuesta de una prueba criptográfica de tipo zkSNARK (una prueba matemática compacta que se comprueba sin repetir el cálculo). Con la huella, la pregunta y la respuesta, cualquiera puede verificarla sin tener los pesos y sin ejecutar el modelo. La prueba oculta los pesos, pero no la arquitectura del modelo.

Anthropic lo ha medido con Llama 4 Maverick, el modelo de Meta de 400.000 millones de parámetros, en su versión de 4 bits y en un servidor con una sola H100 (una tarjeta gráfica de Nvidia para IA). Las pruebas se generan a unos 110 tokens por segundo (un token es un fragmento de texto); cada una ocupa aproximadamente 19 MB por petición de 1.024 tokens y se comprueba en 17 segundos en un procesador con 24 hilos, sin tarjeta gráfica. A cambio, probar exige aproximadamente entre 70 y 95 veces el tiempo de tarjeta gráfica que necesita vLLM (un programa habitual para servir modelos) para procesar las mismas peticiones.

Como referencia, la única prueba anterior sobre ese mismo modelo que cita Anthropic, VerInf, tardaba 14,3 horas en 1.000 tokens y generaba una prueba de 93,6 GB que costaba casi un día verificar. La empresa Attestable ha anunciado entre 53 y 77 tokens por segundo con un modelo más pequeño, Gemma 4 31B, pero no ha publicado su código.

Entre los usos que plantea Anthropic están detectar si alguien ha manipulado un servidor que sirve un modelo, que un cliente compruebe que un intermediario le da el modelo por el que paga y que un regulador verifique que un proveedor solo sirve modelos aprobados.

Es un prototipo de investigación con límites claros. Solo admite contextos de hasta 1.024 tokens, presupone modelos de tipo mezcla de expertos y la prueba se refiere a una versión del modelo con aritmética de números enteros y decodificación voraz (elige siempre la opción más probable), así que no cubre el muestreo ni, de forma directa, las versiones en coma flotante. Tampoco garantiza que el código rápido coincida exactamente con la versión verificada formalmente en Lean, un lenguaje de demostración matemática, y deja fuera los ataques que deducen información midiendo, por ejemplo, cuánto tarda en generarse una prueba.

El código, las demostraciones en Lean y la documentación se publican con licencia Apache 2.0. Los pesos del modelo no van incluidos: cada uno los descarga de Hugging Face con la licencia de Meta.