빌 게이츠, 약 20년간 이어질 AI 혼란에 대비 촉구 The Verge 인터뷰

게이츠는 8월 하순 공개한 에세이 이후 AI 안전성에 관한 발언을 강화하고 있다. 인터뷰에서 그는 지난 1년간 AI의 진보로 코드 작성, 사이버 취약점 발견, 생물학 분야의 추론, 인간관계 형성, 고용시장 혼란을 꼽았다. 당장의 위험은 안전장치를 해제할 수 있는 모델이 사이버 공격과 바이오테러에 쓰이는 것이라고 하면서, AGI의 정의나 의식의 유무는 안전성 논의와 관계없다고 말했다. AI는 의식을 갖지 않는다는 입장으로, 인간과는 다른 종류의 지능을 만들고 있다고 보고 있다.

통제(얼라인먼트) 문제에 대해서는 현 상황으로는 충분하지 않다고 답했다. 해결의 방향으로 RL을 대체하는 학습 방법 개발, 모델 내부를 이해할 수 있는 시각화, 기호적이고 깨지지 않는 규칙을 갖춘 경찰과 같은 안전 계층의 세 가지를 제시했으며, 마지막이 가장 유망하다고 보았다. 다만 얼라인먼트를 해결하더라도 악의적 이용자와 고용에 대한 영향은 남는다고 지적했다. 여러 기업이 경쟁하는 상황에서 책임은 기업이 아니라 정부에 있으며, 현재의 임의적 연락 체계에 의존하는 것은 불충분하다고 말했다.

오픈 웨이트에 대해서는 안전장치를 해제할 수 있는 상태는 무책임하다고 주장했다. 일정 수준 이상의 능력을 가진 모델은 맞춤화할 때 안전장치가 해제되지 않았는지 확인하는 플랫폼에서만 구동하도록 하고, 미국 법으로 의무화해야 한다고 설명했다. 규제는 칩이 아니라 Hugging Face나 GitHub 같은 배포 플랫폼 수준에서 이뤄져야 한다는 생각이다. 제조물 책임에 의한 관리는 결국 웃음거리가 될 것이라고 말했다.

고용에 대해서는 AI가 초인적 지능에 도달하면 사무직 화이트칼라 기술의 희소성이 사라지고, 결국 휴머노이드 로봇이 육체노동에도 영향을 미칠 것이라고 했다. 향후 2~3년 안에 사이버 공격과 고용시장에 큰 악영향이 나타날 것으로 보는 한편, 20년 후에는 물자 부족이 없는 풍요로운 사회에 이를 가능성이 있으며 문제는 그 이행기라고 말했다. 게이츠 재단은 보건, 교육, 농업 분야에서 AI를 활용하고 있으며, 아프리카 언어를 모델이 이해하도록 하는 프로젝트를 60개 파트너와 함께 발표했다고 밝혔다.