Anthropic, Claude 대상 증류 공격에 대한 방어 강화 기법과 성과 공개
Anthropic는 Claude에 대한 증류 공격을 막기 위한 새로운 방어책으로 증류자가 수집할 수 있는 데이터량이 약 90~99% 줄었다는 초기 증거를 공개했다. 대책에는 추론 요약, 2단계 분류기, 계정 차단 등이 포함되며, 일부 개발자는 연동 부분을 업데이트해야 하고 오탐률은 0.1% 미만이라는 트레이드오프도 있다.
선정 이유: 추론 트랜스크립트 요약과 분류기 등 증류(distillation) 대응의 구체적 기법과, 정상 사용자에게 미치는 영향이라는 대가가 함께 제시되어 있다.