본문 바로가기
원문
Hugging Face Daily Papers·· 6일 전AI 점수34

통합형 멀티모달 모델을 위한 연속 공간 잠재 추론(LARC)

Latent Reasoning in Continuous Space for Unified Multimodal Models

AI 요약

LARC는 통합형 멀티모달 모델(UMM)의 이미지 생성에서 이산 토큰이 아니라 연속적인 은닉 상태 위에서 추론을 수행하는 잠재 추론 프레임워크이다. GenEval에서는 BAGEN을 7%p 웃도는 state-of-the-art를 달성했으며, 병렬과 순차 모두의 테스트 시점 스케일링에서도 토큰 기반 생성을 능가한다고 보고되었다. 학습은 커리큘럼 지도 파인튜닝(SFT)과 정답 데이터를 사용하지 않는 정보 이득 강화학습(RL)의 2단계로 구성된다.

출처: Hugging Face Daily Papers · huggingface.co