METR, Anthropic의 AI 가속이 경계 임계값을 넘었을 가능성 제기

METR은 2026년 8월 12일부터 10월 29일까지 상근 환산 2.5명 규모의 팀으로 미공개 모델의 벤치마크 결과, 학습 지표, 직원 설문, 사내 분석, Anthropic 연구자 약 15명과의 인터뷰를 조사했다. METR은 Anthropic으로부터 자금을 받지 않았으나, 보안상의 이유로 Anthropic의 단말기에서 작업했다. 10월에 발표된 "employee-like access" 협업과는 별개의 범위가 좁은 프로젝트라고 한다. 여러 벤치마크를 묶은 지표 AECI에서 2025년 10월 이전에는 연간 약 15포인트였던 상승폭이 이후 29에 이르렀다. 2년치 진전이 1년에 압축된 셈으로, Claude 2.1에서 Sonnet 4.5로의 도약에 가깝다고 평가된다. 분석에는 7월부터 10월 사이에 학습을 마친 미공개 모델 3개도 포함됐다. METR은 가속의 원인이 학습 연산량 증가가 아니라, 가속의 약 80%가 AI가 자사 연구에 활용되고 있기 때문이라고 추정한다. 사내 Slack 조사에서는 최신 내부 모델로 생산성이 평균 약 12배 높아졌다는 응답이 나왔으나, METR은 이를 편향되기 쉽고 과대평가될 수 있는 "very loose evidence"로 규정했다. 현재로서는 완전 자율적인 연구가 아니라 AI가 어시스턴트로 일하고 있다. 다만 독립적인 기여가 늘어나는 조짐이 있으며, 향후 12개월 동안 감속 요인은 발견되지 않아 가속이 계속되는 "significant risk"가 있다고 한다. 불확실성도 커서 실제 가속 계수는 1.3에서 3 사이일 수 있다. OpenAI, Google, xAI 모델을 포함한 업계 전체로는 1.4에 그친다. Anthropic 내부에서도 의견이 갈려, AI의 기여를 15~20%로 보는 연구자와 신규 채용이 가장 큰 요인이라고 보는 연구자가 있다. Anthropic은 비공개 정보를 가릴 권한을 가지고 있었고, METR이 가장 유익하다고 평가한 증거의 대부분이 삭제됐다. 삭제된 내용에는 향후 모델 예측, 학습 단계별 내역, 병목 분석 등이 포함된다. Anthropic은 다른 개발사의 가속으로 이어질 수 있는 기밀을 제외하기 위한 조치라고 설명한다. 이로 인해 공개된 정보에서는 METR의 판단에 의존하는 비중이 커졌다. 함께 공개된 검토 보고서에 따르면, Anthropic이 2026년 8월 리스크 보고서에서 가속을 "less than a factor of 2"라고 밝힌 반면, 가림 처리가 없는 내부 버전은 1.97을 나타냈으며 임계치를 넘었을 가능성("plausible")을 인정했다. METR은 공개 버전이 가속과 불확실성을 과소하게 전달했다고 비판한다. 급성 파국적 위험이 "low"라는 평가에는 동의하지만, 향후 6개월 내에 다시 급격한 가속이 일어나면 평가가 올라갈 수 있다고 본다. 또한 능력 연구와 안전 연구에 대한 연산 자원 배분에 대한 검증은 Anthropic이 중도에 중단했다. Daniel Kokotajlo는 감속 약속을 검증 가능하게 하는 기반이라며 X에서 강하게 반응했다.

The Decoder 발췌

추이를 그릴 만큼 연속 관측 데이터가 아직 부족합니다.