Meta, 오픈 웨이트 멀티모달 MoE 모델 「Muse Spark Open」 공개
Meta가 오픈 웨이트 모델 「Muse Spark Open」을 공개했다. 총 파라미터는 약 816B이며, 토큰당 활성 파라미터는 약 42B인 MoE 구조다. 텍스트, 이미지, 음성, 동영상을 입력으로 받을 수 있고, 컨텍스트 윈도우는 최대 1M 토큰이다. Hugging Face 블로그에서는 transformers, llama.cpp, SGLang, vLLM, MLX에서의 실행 방법과 TRL을 활용한 파인튜닝, 데모를 소개하고 있다.
선정 이유: 총 파라미터 약 816B, 활성 파라미터 약 42B라는 구성과 각 추론 환경에서의 실행 방법 및 필요한 메모리 용량이 정리되어 있어, 도입 규모를 가늠하는 데 참고가 된다.