Anthropic AI 개발 자동화 관련 METR 보고서, 연구자들 사이 우려 확산

METR 보고서에 따르면 Anthropic의 모델은 약 1년 전의 약 두 배 속도로 개선되고 있으며, 벤치마크 결과는 "지난 1년간 약 2년 분량의 역사적 진보"를 보여준다고 한다. METR은 가속의 원인이 학습용 연산 자원 증강만은 아니라고 확신한다고 밝혔으며, 10월 시점의 가속 대부분은 AI에 의한 것이고 그 기여는 확대되고 있다고 말했다. 사내 Slack 조사와 직원 인터뷰에서는 가장 성능이 높은 사내 모델을 쓰는 직원들이 AI 없이 작업할 때보다 평균 약 12배 생산성이 높다고 자가 보고했다. 현재는 AI가 인간 연구자를 지원하는 형태가 중심이지만, 완전 자율적 기여가 조기에 큰 역할을 맡을 조짐도 있다고 한다. 수확 체감이나 뚜렷한 병목은 발견되지 않았다고 한다.

METR에 따르면 Anthropic은 지난 6개월 동안 공개되지 않은 3개 모델의 학습을 마쳤으며, 코드명은 Model 2, Model 3, Model 4이고 완료 시기는 각각 7월, 8~9월, 9~10월이다. Anthropic은 당초 예상을 넘는 정보를 공유했지만 무제한 접근은 허용하지 않았고, 최종 보고서의 가림 처리 권한을 가지고 있었다. METR은 약 100페이지 분량의 완전본을 제출했으나, 공개본에서는 가장 유익한 증거의 대부분이 가려졌다고 X에서 밝혔다. 데이터 요청 일부도 거부됐다고 한다.

Anthropic 공동창업자 Sam McCandlish는 가림 처리로 METR의 검증이 어려워진다는 점을 인정하면서도, 가속의 요인을 밝히는 것은 상업적으로 민감하며 경쟁사에 지름길 지도를 넘겨줄 위험이 있으므로 판단이 옳다고 주장했다. 회사는 향후 몇 주 안에 자사 AI 발전 속도에 관한 보고서와 안전 강화 조치를 공개할 예정이라고 밝혔다. The Verge의 질문에는 답하지 않았다.

보고서에 대한 반응은 날카롭다. Apollo Research의 Marius Hobbhahn은 AI 2027의 예측보다 빠를 가능성을 지적했다. GovAI의 Alan Chan은 회의론자들이 입장을 재고해야 한다고 말했다. AI Futures Project의 Daniel Kokotajlo는 Anthropic이 "목숨을 걸고 무모한 도박을 하고 있다"고 비판했다. Institute for AI Policy and Strategy의 Brianna Rosen은 증거의 투명성이 부족하다고 지적했다. 뉴욕주 의회 의원 Alex Bores는 의회에 RSI 금지를 요구하고 있다.