Anthropic, 가중치를 공개하지 않고 응답 생성 모델을 증명하는 연구 프로토타입 FlashProve 공개

FlashProve는 모델 제공자가 먼저 모델 가중치의 디지털 핑거프린트를 생성하고, 응답마다 그 특정 모델이 출력을 생성했음을 보여주는 작은 증명을 덧붙이는 구조다. 증명만으로는 비밀 가중치 자체를 알 수 없다. 배경에는 라우팅 서비스가 저렴한 모델로 바꿔 치기하거나 공격자가 데이터 스트림을 변조해도 이용자가 이를 확인할 수 없다는 문제가 있다.

기술 보고서에 따르면 Llama 4 Maverick(400B)은 단일 H100 GPU로 초당 약 110토큰의 증명을 생성한다. 증명 한 건은 약 19MB이며 표준 CPU에서 17초 만에 검증할 수 있다. 일반 추론 대비 오버헤드는 약 70배에서 95배다. Anthropic은 기존에 유일하게 비교 가능한 오픈소스 시스템은 1,000토큰을 처리하는 데 14시간 넘게 걸렸고, 93.6GB 증명을 검증하는 데 거의 하루가 걸렸다고 설명했다.

예상 용도로는 규제 당국이 제공자의 가동 모델이 승인된 것뿐인지 확인하는 것, 기업이 특정 안전성 모델로 코드가 검토되었음을 입증하는 것, 서버 상의 변조나 고성능 모델의 무단 투입을 탐지하는 것 등이 제시되어 있다. Anthropic은 Frontier Safety Roadmap에서 2026년 9월까지 추론 검증 프로토타입을 구축하는 것을 목표로 하고 있으며, 신뢰할 수 있는 서버에서 추론 트래픽에 서명하고 연산을 추적하는 별도 프로젝트로 이미 달성했다고 밝혔다. FlashProve는 같은 목표를 순수 암호 기술로 추구하여 신뢰된 하드웨어를 필요로 하지 않는다.