Hugging Face Daily Papers·· 16일 전AI 점수42
게임에서의 스케일링: 다양한 가상 세계의 체화형 에이전트를 위한 지속적 사전학습
Scaling in Games: Continued Pre-Training For Embodied Agents In Diverse Virtual Worlds
AI 요약
가상 세계의 체화형 에이전트는 지속적 사전학습에서 데이터량, 다양성, 모델 규모를 늘릴수록 학습 성능이 향상되지만, 멀리 떨어진 세계로의 일반화에는 한계가 있는 것으로 나타났다. 검증에는 0.8B부터 27B까지 4가지 모델 크기, 50시간부터 1,600시간까지의 데이터량, Minecraft만 사용한 데이터부터 다양한 멀티월드까지 5종의 혼합 데이터로 구성된 120개의 학습 설정이 활용됐다. 3D 세계에서는 Minecraft 전용 모델 및 프런티어 모델과 경쟁했으며, 실시간 설정에서 가장 높은 성능을 보였다.
출처: Hugging Face Daily Papers · huggingface.co