Anthropic publie FlashProve, qui prouve l'origine d'une réponse IA
Le système open source utilise des preuves à divulgation nulle de connaissance pour confirmer qu'une réponse provient bien du modèle indiqué, sans dévoiler ses poids.
Anthropic a publié FlashProve, un système open source qui permet de vérifier cryptographiquement si une réponse donnée a été produite par un modèle d'IA précis. L'annonce a été relayée par aitimes.com.
Le dispositif repose sur des preuves à divulgation nulle de connaissance zkSNARK : il confirme qu'une réponse correspond au calcul du modèle sans révéler les poids de celui-ci. Le fournisseur de service publie d'abord une empreinte numérique associée aux poids du modèle, puis génère un fichier de preuve pour chaque requête d'utilisateur. La vérification porte sur la conformité au calcul du modèle spécifié, et non sur l'exactitude factuelle ou la qualité de la réponse.
Les expériences ont été menées avec Llama 4 Maverick, un modèle mixture-of-experts de 400 milliards de paramètres aux poids publics en 4 bits et à arithmétique entière. La génération de preuve tournait sur un seul GPU H100 ; chaque fichier de preuve pesait environ 19 Mo et sa vérification prenait environ 17 secondes sur 24 threads CPU. Anthropic indique que, dans certaines conditions expérimentales, la génération de preuve a nécessité 70 à 95 fois plus de temps GPU qu'un prefill ordinaire avec vLLM.
Un cadre expérimental encore limité
L'implémentation actuelle fonctionne avec un contexte de 1024 tokens et des conditions de calcul restreintes : elle ne constitue pas encore un produit fini pour des services commerciaux à longues conversations. Les chercheurs ont utilisé le langage de vérification formelle Lean pour contrôler les propriétés de correction et de sécurité du protocole de preuve, sans prouver la correction de l'ensemble du code d'implémentation.
Jusqu'à présent, les utilisateurs ne pouvaient pas facilement confirmer quel modèle avait réellement répondu à leur requête sur un service d'IA.
Anthropic a mis en ligne le rapport technique, le code de génération et de vérification des preuves ainsi que les éléments de preuve Lean sur GitHub, sous licence Apache 2.0.
En bref
Qu'est-ce que FlashProve ?
Un système open source publié par Anthropic qui vérifie cryptographiquement si une réponse provient bien d'un modèle donné, à l'aide de preuves zkSNARK.
Quel modèle a servi aux expériences ?
Llama 4 Maverick, un modèle mixture-of-experts de 400 milliards de paramètres aux poids publics en 4 bits.
Où trouver le code et les documents ?
Sur GitHub, sous licence Apache 2.0, avec le rapport technique, le code de génération et de vérification des preuves et les éléments Lean.