Anthropic, AI 응답의 출처를 암호 기술로 검증하는 FlashProve 공개
지금까지의 흐름
Anthropic은 특정 AI 모델이 실제로 생성한 응답인지 검증할 수 있는 기법 'FlashProve'를 발표했다. 이 회사의 공식 X 계정이 2026년 11월 4일에 전했으며, 코드는 오픈소스로 공개되었다. 암호 기술을 기반으로 하며, 기존 오픈소스 기법보다 크게 효율적이라고 설명하고 있다. 예상 용도는 채팅 탈취 방지와, 안전성 평가자가 검증 대상 모델과 고객에게 제공되는 모델의 동일성을 확인하는 것이다. 작동 방식에 대해 TechCrunch AI는 모델 가중치를 공개하지 않는 '핑거프린트'를 공개하는 방식으로 상업용 모델에도 적용할 수 있다고 보도했다. 검색으로 확인되는 보도는 연구팀의 발표일을 11월 3일로 제시하고 있어, X 게시물이 전해진 11월 4일과 하루 차이가 난다. 새로 The Decoder가 기술 보고서 내용을 자세히 보도했다. 모델 제공자가 가중치의 핑거프린트를 만들고, 응답마다 작은 증명을 첨부한다. 증명으로는 비밀 가중치를 알 수 없다. 배경에는 라우팅 서비스가 저렴한 모델로 바꿔치기하거나, 공격자가 통신을 변조해도 이용자가 확인할 수 없다는 문제가 있다. 성능 면에서는 Llama 4 Maverick(400B)을 H100 GPU 한 장으로 구동하면 초당 약 110토큰의 증명을 생성하며, 증명 1건은 약 19MB이고 일반 CPU에서 17초에 검증할 수 있다. 일반 추론에 비해 오버헤드는 약 70배에서 95배이다. Anthropic은 기존에 비교 가능한 유일한 오픈소스 시스템은 1,000토큰 처리에 14시간 이상이 걸렸고, 93.6GB 증명의 검증에는 거의 하루가 걸렸다고 설명했다. 용도로는 규제 당국이 가동 중인 모델이 승인된 것뿐인지 확인하는 것, 특정 안전성 모델로 코드가 검토되었음을 기업이 입증하는 것, 서버의 변조나 고성능 모델의 혼입을 탐지하는 것이 거론된다. 실용화 단계는 보도마다 표현이 갈린다. Anthropic은 '공개'라고 전했고, The Decoder는 연구용 프로토타입으로 보도했다. TechCrunch는 '개발 중'이라고 하면서 Anthropic이나 다른 연구소에서 도입할 계획은 없다고 밝혔다. 검색으로 확인되는 보도도 상업적 전개 계획은 제시되지 않았다고 한다. 또한 Anthropic은 Frontier Safety Roadmap에서 2026년 9월까지 추론 검증 프로토타입을 구축하는 것을 목표로 하고 있으며, 신뢰할 수 있는 서버에서 추론 트래픽에 서명하는 별도 프로젝트로 이를 달성했다고 밝혔다. FlashProve는 같은 목표를 순수한 암호 기술로 추구하며, 신뢰된 하드웨어를 필요로 하지 않는다. 제3자의 검증 결과나 다른 회사의 반응은 보도에서 확인되지 않았다.
보도를 바탕으로 AI가 작성 · 10시간 전 업데이트
보도 타임라인
보도를 따라가며 이슈의 여러 측면을 살펴보세요.
- The DecoderAnthropic, 가중치를 공개하지 않고 응답 생성 모델을 증명하는 연구 프로토타입 FlashProve 공개
Anthropic은 zkSNARK를 활용해 AI 응답이 주장된 모델에서 생성되었는지 검증하는 연구 프로토타입 FlashProve를 공개했다. Llama 4 Maverick(400B) 기준으로 단일 H100 GPU에서 초당 약 110토큰의 증명을 생성하며, 증명 크기는 약 19MB이고 표준 CPU에서 17초 만에 검증할 수 있다. 다만 컨텍스트는 1,024토큰까지로 제한된다.
- Search: AI launchesAnthropic, 암호학적 핑거프린트로 AI 모델의 동일성을 검증하는 오픈소스 「FlashProve」 공개
Anthropic 연구팀은 2026년 11월 3일, AI 모델의 동일성과 출력의 진위를 암호학적으로 검증하는 오픈소스 시스템 「FlashProve」를 발표했다. AI 연구소가 공개하는 모델마다 전용 fingerprint를 게시하고, 클라이언트가 이를 암호학적으로 대조하는 방식으로, fingerprint는 모델의 내부 가중치 데이터를 드러내지 않는다. 로컬 단말에서의 검증도 지원하며, 기술 사양과 동작하는 코드는 GitHub에서 공개되었으나 현재까지 상업적 전개 계획은 밝혀지지 않았다.
- TechCrunch AIAnthropic, AI 모델 출력 검증용 오픈소스 시스템 'FlashProve' 개발 중
Anthropic은 특정 AI 모델이 생성한 출력임을 암호학적으로 증명하는 오픈소스 시스템 'FlashProve'를 개발 중이다. 모델의 가중치를 공개하지 않고 '핑거프린트'를 공개하는 방식으로, 상용 모델에도 적용할 수 있다고 한다. 기술 사양과 구현 코드는 GitHub에 공개되어 있으나, 연구는 아직 진행 중이며 Anthropic이나 다른 연구소에서의 도입 계획은 없다.
- AnthropicAI (X)Anthropic, FlashProve 공개… LLM 응답 검증 효율화
Anthropic은 특정 AI 모델이 생성한 응답인지 개발자가 검증할 수 있는 암호 기술 기반 방식 「FlashProve」를 발표하고, 코드를 오픈소스로 공개했다고 밝혔다. 기존 오픈소스 방식보다 크게 효율적이라고 한다. 채팅 하이재킹 방지와, 안전성 평가자가 서비스 중인 모델과 동일한 모델인지 검증하는 용도가 제시되었다.
- AnthropicAI (X)Anthropic, AI 응답 검증을 효율화하는 FlashProve 공개
Anthropic은 특정 AI 모델이 실제로 어떤 응답을 생성했는지를 개발자가 검증할 수 있는 도구 「FlashProve」를 발표하고 코드를 오픈소스로 공개했다고 밝혔다. 암호 기술을 기반으로 하며, 기존 오픈소스 방식보다 크게 효율적이라고 설명했다. 채팅 하이재킹 방지와 함께, 안전성 평가자가 검증 대상 모델과 고객에게 제공되는 모델이 동일한지 확인하는 용도가 예상된다.
이 이슈의 화제도 추이
현재 화제도 22·비교 가능한 최고치 27 (11월 5일 02:00)·24시간 비교 가능 변화 +20%
추이는 연속으로 빠짐없이 관측한 계정만 비교하므로 현재 화제도 수치보다 범위가 좁을 수 있습니다. 포인터를 움직이거나 차트를 누르면 시간대별 화제도를 볼 수 있고, 키보드에서는 왼쪽·오른쪽 방향키를 쓰면 됩니다.