Mistral AI, 첫 추론 모델 Magistral 발표… 오픈소스 Small과 기업용 Medium 2종
Magistral
Mistral AI가 자사 첫 추론 모델 Magistral을 발표했다. 24B 파라미터의 오픈소스 모델 Magistral Small과 기업용 Magistral Medium 2종으로 제공한다. AIME2024에서 Medium은 73.6%(majority voting @64 시 90%), Small은 70.7%(동일 조건 83.3%)를 기록했다. Small은 Apache 2.0 라이선스로 Hugging Face에서 내려받을 수 있으며, Medium은 Le Chat과 La Plateforme API를 통해 프리뷰로 제공된다.
Magistral은 다단계 논리 추론에 맞춰 파인튜닝된 추론 모델로, 사용자의 언어로 추적 가능한 사고 과정을 보여주는 것이 특징이다. 영어, 프랑스어, 스페인어, 독일어, 이탈리아어, 아랍어, 러시아어, 중국어 간체 등에서 높은 충실도의 추론이 가능하다고 한다. Mistral AI는 초기 추론 모델의 한계로 전문 분야에서의 깊이 부족, 투명성의 한계, 원하는 언어로 추론할 때의 불안정성을 꼽았다.
제공 형태는 두 가지다. Magistral Small은 24B 파라미터의 오픈 웨이트 모델로, Apache 2.0 라이선스에 따라 자체 배포가 가능하며 Hugging Face의 mistralai/Magistral-Small-2506에서 받을 수 있다. Magistral Medium은 Le Chat과 La Plateforme을 통해 프리뷰로 체험할 수 있고, Amazon SageMaker에서도 이용할 수 있다. IBM WatsonX, Azure AI, Google Cloud Marketplace에도 순차적으로 지원할 예정이다. 온프레미스를 포함한 기업별 도입은 영업 창구에 문의하는 방식이다.
속도 면에서는 Le Chat의 Think 모드와 Flash Answers를 통해 Magistral Medium이 많은 경쟁 모델보다 최대 10배 빠른 토큰 처리량을 구현한다고 밝혔다. 활용 분야로는 법률 조사, 재무 예측, 소프트웨어 개발, 사업 전략, 규제 산업에서의 감사 가능한 추론, 창작 지원 등을 제시했다.
발표와 함께 논문도 공개됐으며, 평가, 학습 인프라, 강화학습 알고리즘, 추론 모델 학습에 관한 내용을 다룬다. Mistral AI는 Small의 공개로 커뮤니티가 구조와 추론 과정을 검증하고 수정하기를 환영한다며, 이번 출시를 계기로 모델을 빠르게 개선해 나갈 방침이라고 밝혔다.
24B 버전의 오픈 모델과 기업용 Medium 버전이라는 두 갈래로 나온 첫 추론 모델이다. AIME2024 수치와 제공처도 함께 공개돼 위치를 파악하기 쉽다.
출처: Mistral AI News · mistral.ai