앤스로픽, AI 응답 모델 검증 오픈소스 'FlashProve' 공개

앤스로픽이 2026년 11월 2일, 특정 AI 응답이 지정된 모델에서 나왔는지를 암호학적으로 검증하는 오픈소스 시스템 'FlashProve'를 공개했다. aitimes.com이 이를 보도했다.

FlashProve는 zkSNARK 영지식 증명을 사용해 모델 가중치를 드러내지 않고도 응답이 해당 모델의 연산과 일치하는지 확인한다. 서비스 제공자는 먼저 모델 가중치에 연결된 디지털 지문을 공개하고, 이후 사용자 요청마다 증명 파일을 생성한다. 검증 대상은 출력이 지정된 모델의 연산과 맞는지이며, 답변의 사실 여부나 품질은 확인하지 않는다.

실험에는 공개된 4비트 가중치와 정수 연산을 사용한 4000억 파라미터 규모의 전문가 혼합(MoE) 모델 'Llama 4 Maverick'이 쓰였다. 증명 생성은 H100 GPU 1장에서 실행됐고, 증명 파일 하나는 약 19MB, 검증에는 24개 CPU 스레드로 약 17초가 걸렸다. 앤스로픽은 특정 실험 조건에서 증명 생성에 vLLM의 일반 프리필 대비 70~95배의 GPU 시간이 필요했다고 밝혔다.

현재 구현은 1024토큰 문맥과 제한된 연산 조건을 사용하기 때문에 긴 대화를 처리하는 상용 서비스에 바로 적용할 완성품은 아니다. 연구진은 형식 검증 언어 'Lean'으로 증명 프로토콜의 정확성과 보안 속성을 검사했지만, 전체 구현 코드의 정확성까지 증명하지는 않았다.

기술 보고서와 증명 생성·검증 코드, Lean 증명 자료는 Apache 2.0 라이선스로 깃허브에 공개됐다. 이전까지 사용자는 AI 서비스에서 어떤 모델이 실제로 자신의 요청에 답했는지 쉽게 확인할 수 없었다.