Sam Altman CEO, 사내에서 AI 안전성의 세 가지 종착점 제시 보도
Sam Altman reportedly pitched three endgames for AI safety, one involving a single firm melting everyone else's GPUs
OpenAI의 Sam Altman CEO가 안전한 AI를 향한 세 가지 접근법을 사내에 설명했다고 The Information이 관계자의 말을 인용해 보도했다. IAEA형 국제기구, 주요 연구소를 통합하는 「Demis Plan」, 한 기업이 다른 기업의 컴퓨팅 자원을 차단하는 「Eliezer Plan」 등 세 가지 안이다. 트럼프 행정부가 초지능 개발자를 감독할 틀을 준비하는 시기의 발언으로 알려졌다.
보도에 따르면 첫 번째 안은 IAEA를 모델로 한 조직으로, 안전 기준을 집행한다. 시스템 검사, 감사 의무화, 컴퓨팅 자원과 에너지 사용 감시를 맡으며, 중국을 포함한 프런티어 모델 개발국과의 국제 협력을 전제로 한다. OpenAI는 2023년 5월에 이와 유사한 기관을 공개적으로 요구한 바 있다.
두 번째 안은 Altman이 「Demis Plan」이라고 부른 것으로, 약 10년 전 Demis Hassabis가 제시한 CERN형 AI 조직 구상에서 유래했다. Altman의 버전에서는 주요 연구소가 하나의 조직으로 통합되거나 그 산하에서 운영되며, 협력하는 국가에 모델을 제공한다.
세 번째 「Eliezer Plan」은 AI 안전성 이론가 Eliezer Yudkowsky의 이름에서 따왔다. 자기 개선형 AI로 경제력을 집중시킨 개발자가 다른 이들에게 컴퓨팅 자원 제공을 거부하고, 극단적인 경우 다른 이들의 연산 능력을 완전히 멈추는 시나리오다. Altman은 망라를 위해 든 예시일 뿐이라고 알려졌으나, Yudkowsky와 Anthropic의 관계를 고려하면 경쟁사를 겨냥한 빈정거림으로 받아들여졌다는 증언도 있다.
배경으로, Altman은 AI 개발의 「속도 제한」에 대해 실현 가능한 제안이 적다고 사내에서 불만을 토로했다고 한다. 한편 OpenAI는 경쟁사에 뒤처질 수 없는 상황이며, OpenAI와 Anthropic은 모두 IPO를 향해 움직이고 있는 것으로 알려졌다. OpenAI는 향후 1년 이내에 진로를 정할 계획이다. 사내에서는 안전 연구자 3명의 해고 이후 안전 전략에 의문을 품은 직원들도 있다.
출처: The Decoder · the-decoder.com