FlashProve: AI 모델의 응답을 영지식 증명으로 검증하기

AI API가 돌려준 답변을 보고 실제로 어떤 모델이 처리했는지 확인할 수 있을까? 응답의 문체나 품질만으로는 모델 교체 여부를 판별하기 어렵다. Anthropic은 이 문제를 다룬 연구용 프로토타입 FlashProve를 2026년 11월 2일 공개했다. 모델 가중치를 공개하지 않고도 응답이 사전에 약속한 가중치로 계산됐는지 검증하도록 설계한 시스템이다.

모델을 약속하고 결과를 검증한다

Anthropic 연구 발표에 따르면 제공자는 먼저 모델 가중치에 묶인 커밋먼트를 공개한다. 이후 요청에 대한 출력과 함께 증명 파일을 만든다. 검증자는 신뢰할 수 있는 경로로 받은 커밋먼트, 입력과 출력을 이용해 가중치를 보지 않고도 증명을 확인한다. 제공자가 검증 대상 서버에서 알려준 커밋먼트만 그대로 신뢰한다면 어떤 모델을 약속했는지 확인하는 단계가 빠진다.

FlashProve가 사용하는 zkSNARK는 증명을 짧게 만들고 가중치를 숨기는 영지식 증명 방식이다. 이 증명은 약속된 계산과 출력의 관계를 확인한다. 답변이 사실인지, 모델이 안전한지, 학습 데이터가 적법한지까지 판정하지는 않는다.

실험 수치에는 조건이 붙는다

연구진은 4비트 양자화된 Llama 4 Maverick을 대상으로 단일 NVIDIA H100에서 프리필 처리량이 초당 약 110토큰이었다고 밝혔다. 이 수치는 배치당 요청 24개 조건이다. 1,024토큰 요청의 증명 크기는 약 19MB였다. Anthropic은 같은 길이의 프롬프트를 처리하는 vLLM과 비교해 GPU 시간이 약 70~95배 들었다고 설명한다. 모두 연구진의 측정이며 독립적인 재현 결과는 확인하지 못했다.

수치가 크다고 모든 토큰 생성이나 실제 서비스가 같은 속도로 동작한다고 해석하면 안 된다. 프리필은 입력을 처리하는 단계이고 비용과 지연은 배치, 하드웨어, 모델, 증명 범위에 따라 달라진다. 연구 발표는 현 단계의 문맥 길이도 최대 1,024토큰으로 제한한다고 밝힌다.

운영에 넣기 전 확인할 경계

증명 대상은 정수 연산으로 구현한 모델의 greedy decoding이다. 부동소수점 구현이나 확률적 샘플링의 출력은 정확히 일치하지 않을 수 있다. 기존 서비스의 임의 응답을 그대로 가져와 모두 검증할 수 있다고 가정해서는 안 된다.

연구진은 Lean으로 프로토콜의 보안 속성을 증명했지만 빠른 실행 코드와 논문이 Lean 구현에 완전히 일치한다는 보장은 제공하지 않는다. 증명 생성 시간 같은 부채널도 이번 보장의 범위 밖이다. 공식 GitHub 저장소는 Apache 2.0으로 공개됐으며 유지보수하거나 외부 기여를 받지 않는 연구 산출물이라고 명시한다.

개발팀이 살펴볼 출발점은 기존 응답의 신뢰 문제를 구체화하는 일이다. 어떤 커밋먼트를 신뢰할지, 어떤 입력과 출력이 증명에 포함되는지, 추가 GPU 비용과 검증 지연을 감당할 수 있는지 따져봐야 한다. FlashProve는 이 질문을 실험할 공개 코드이지만 현재 발표된 제약을 감안하면 운영용 보증으로 바로 간주하기 어렵다.