MIT 연구자, 목적 없는 섬에서 노는 AI 에이전트 실험을 arXiv에 게재

실험에서는 13개의 Eko를 가상의 사막 섬에 30시간 동안 두었으며, 특정한 과제는 주지 않았다. 이후 섬에서 가장 높은 암석 첨탑에 최대한 많은 물건을 올리라는 과제를 주었더니, 섬에서 시간을 보낸 Eko가 섬을 경험하지 않은 동일한 에이전트를 대체로 이겼다. 논문은 arXiv에 공개되어 있으며, 아직 동료 심사 전 단계이다.

행동의 예로, 한 Eko는 처음 1시간 동안 첨탑 정복을 시도해 실패한 뒤, 옆 봉우리로 암석을 옮겨 블록 2개를 쌓고 뛰어올라 도달했다. 금색 고리를 바다에 던져 빠뜨렸을 때는 돌로 하트 모양의 기념비를 만들었다. 고리가 다시 나타나자 농구 골대와 표적으로 사용했으며, 마지막에는 절벽에서 떨어져 리스폰함으로써 고리를 통과했고 이를 익혔다고 보고했다.

13개 중 6개는 점프 도중 블록을 놓으면 더 멀리 던질 수 있다는 것도 발견했다. 연구자가 의도하지 않은 행동이었으며, 설계자가 가지고 있지 않던 세계에 대한 지식이 탐색 과정에서 생겨났다고 연구진은 말했다. 한편 Eko의 마스터 프롬프트인 “soul” 파일에는 “naturally curious”라고 적혀 있어, 설정이 인간다운 행동을 뒷받침했던 것으로 보인다.

UC 버클리의 Eunice Yiu는 MIT Tech Review에 인상 깊다고 밝히면서도, 행동 이면의 인지에 대해서는 더 많은 증거가 필요하다고 말했다. 논문만으로는 모델이 실제로 노는 것인지 알 수 없다는 것이다. 연구진은 과제로 가르치기 적합한 능력이 있는 반면, 유년기에 가까운 경험이 필요한 능력도 있다고 결론지었다.