Anthropic 공동창업자 Jack Clark, 자가 개선 AI 등장 예측 시점을 2027년으로 앞당겨

TasteVal은 연구의 좋고 나쁨을 가려내는 '리서치 테이스트' 가운데 실험 설계와 결과 해석 두 가지만 측정한다. 연구 과제의 선택은 미리 고정되어 있다. 8개 과제에는 학습 데이터 선택, 언어 모델의 사전 학습과 파인튜닝, 인간 선호 기반 학습, 적대적 프롬프트에 대한 방어 등이 포함된다. 실험은 NVIDIA H100 GPU 1개로 진행되며, 40 GPU시간 또는 실시간 120시간을 상한으로 실행된다. 인간 기준선은 최근 OpenAI, Google DeepMind, NVIDIA, Microsoft Research 등에 재직했던 전문가 24명이 만들었으며, 과제별 최고 시도가 기준이 되었다.

P-Zero Research는 리서치 테이스트를 계산 효율로 대체했다. 전문가와 같은 점수에 도달하는 데 필요한 계산량이 절반이라면 테이스트는 2배로 본다. 이 비율이 계산량 승수이며, Opus 5.5는 2.3이었고 통계적 범위는 1.15~4.37이었다. 1회 실행 비용은 전문가 시도의 평균 약 30분의 1이다. 승수는 2025년 12월 이후 대략 3개월마다 두 배로 늘고 있으며, 두 배가 되는 기간의 폭은 1.7~5.0개월로 크다. 그 이전의 증가는 훨씬 완만했고, 2025년에서 2026년으로 넘어가면서 기울기가 가팔라졌다.

저자 스스로도 이 결과가 테이스트 향상 속도를 과대평가했을 가능성을 인정한다. 과제는 빠르고 저렴하게 검증할 수 있어 AI 연구소가 최적화하기 쉬운 유형이며, 비교 대상에 최상위 수준의 연구자는 포함되지 않았다. Clark는 앞서 창의성이 AI의 자기 개선 속도를 좌우한다고 말했고, 올해 상반기에는 모델이 그 능력을 대규모로 보여주지 않는다고 썼다. 5월의 장문 글에서는 스스로 더 강한 후속 모델을 훈련하는 시스템이 나타날 확률을 2028년 말까지 약 60%, 2027년까지 30%로 제시했다. 벤치마크 1위 모델을 보유한 기업의 공동창업자가 내놓은 예측이므로 편향이 있을 수 있다는 지적도 나온다.

연구자 Herbie Bradley는 모델이 주니어 연구자의 업무를 맡을 가능성은 있지만 리서치 테이스트, 창의성, 장기 연구 계획은 아직 보이지 않는다고 반박한 바 있다. TasteVal은 실험 계획과 평가에 대해서는 이 견해에 이의를 제기하지만, 장기 연구 아젠다의 선택에 대해서는 다루지 않는다. 복단대학교 팀의 연구에서는 AI 에이전트가 방법론 제안의 최대 55%에 기여했지만, 최종 판단의 85% 이상은 인간이 내렸다.

논의의 배경으로 Anthropic은 6월에 RSI가 아직 달성되지 않았지만 "많은 기관의 대비보다 빨리 올 수 있다"고 밝혔다. Dario Amodei는 통제된 감속을 요구했고, OpenAI는 완전 자율적 RSI는 아직 일어나지 않았으며 인간의 감독이 보장되는 경우에만 허용되어야 한다고 주장하고 있다. 이 경향이 다른 테스트에서도 이어진다면, AI 개발은 빠르고 저렴해지는 한편, 모델이 스스로 실험을 계획하고 평가하므로 인간이 검증하기 어려운 연구의 비중이 늘어날 수 있다.