Anthropic, 개정 S-1에서 RSI(재귀적 자기 개선)에 근접하고 있을 가능성 시사

TechCrunch에 따르면, Anthropic은 월요일 제출한 개정 S-1A에서 재무 정보를 갱신하는 한편 리스크 요인 항목을 추가했다. 추가된 내용은 자사 연구개발에 AI를 활용하고 있다는 점, 그리고 이러한 AI 활용이 안전성·얼라인먼트·보안 대책의 정비보다 빠르게 모델 능력을 끌어올릴 수 있다는 점이다.

회사는 과거에 개발 속도의 큰 가속을 사후에야 인식한 적이 있으며, 앞으로도 같은 일이 일어날 수 있다고 밝혔다. 사내 추정과 향후 모델에 대한 전망을 보면, Responsible Scaling Policy가 정의한 'AI에 기인한 급격히 가속된 진보'에 곧 해당할 가능성이 있다고 한다. 다만 현행 모델을 임계값을 넘은 것으로 판정하지는 않았으며, 기초 데이터에 대한 평가를 계속하고 있다.

한편 Anthropic은 의미 있는 인간의 감독이나 이해 없이 Claude에게만 프런티어 모델의 후속 세대를 설계·구축하게 하는 것은 안전하지 않다고 전망하고 있다. 이에 따라 프런티어 모델 개발에서 인간의 통제를 유지하는 방향으로 Responsible Scaling Policy의 갱신을 검토하고 있다.

기사 필자는 S-1이 정보 공개인 동시에 마케팅의 성격도 지닌다는 회의적인 시각을 소개했다. 그러면서도 올해 Claude의 코딩, 수학, 사이버보안 능력이 크게 향상된 것은 분명하다고 하며, Anthropic이 리스크가 가까워졌다고 본다면 그에 걸맞게 받아들이고 대응해야 한다고 논했다.