MAI-Gym, 모바일과 PC의 GUI 에이전트 평가와 강화학습을 통합한 오픈 플랫폼
MAI-Gym: An Open All-in-One Platform for GUI Agent Evaluation and RL Training across Mobile and Computer Environments
MAI-Gym는 모바일, 컴퓨터, 웹 환경에 걸친 GUI 에이전트의 평가, 데이터 수집, 온라인 강화학습(RL)을 하나로 묶은 오픈 플랫폼이다. 이를 활용해 훈련한 9B 모델 MAI-Gym-9B는 10B 미만의 오픈 GUI 에이전트 중 최고 수준으로 평가되며, MobileWorld에서 78.4%, OSWorld-Verified에서 76.2%를 기록했다. 프레임워크, 스킬, 모의 앱, 검증된 과제 2,000건, 모델 체크포인트도 함께 공개됐다.
MAI-Gym는 검증 가능한 보상을 바탕으로 한 온라인 강화학습을 수학, 코딩, 도구 사용 분야에서 성공시켜 온 흐름을 GUI 에이전트로 넓히기 위한 기반이다. 과제로는 대화형 환경의 높은 비용과 현실적인 훈련 과제의 부족이 꼽힌다. 공통 rollout 파이프라인을 통해 평가 시와 훈련 시 에이전트의 동작을 일치시키고, 기존 벤치마크 10종을 지원하며, 최대 20,000개의 병렬 환경 인스턴스까지 확장할 수 있다고 한다.
기반과 함께 다양한 GUI 앱과 난이도 높은 과제를 자동으로 합성하는 장치도 갖췄다. 초기화가 가능한 모의 앱과 앱 간에 일관된 세계를 만들고, 실행을 통해 검증하는 과제 검증기를 붙이는 것이 특징이다.
이 기반으로 훈련한 MAI-Gym-9B는 모바일과 컴퓨터 모두에 쓸 수 있는 통합형 9B 에이전트다. MobileWorld에서 78.4%, OSWorld-Verified에서 76.2%를 달성했으며, 10B 미만 오픈 GUI 에이전트 중 최고 수준이라고 밝혔다.
출처: Hugging Face Daily Papers · huggingface.co