Mistral AI, Mistral 3 발표… Mistral Large 3·Ministral 3를 Apache 2.0으로 공개

Mistral 3는 Ministral 3(3B, 8B, 14B)과 Mistral Large 3로 구성된다. Mistral Large 3는 Mixtral 시리즈 이후 처음 선보이는 MoE 모델로, NVIDIA H200 GPU 3,000기로 처음부터 학습했다. 베이스 버전과 인스트럭션 조정 버전을 공개했으며, 이미지 이해와 영어·중국어 이외의 다국어 대화에서 높은 성능을 내세운다. LMArena에서는 OSS 비추론 모델 부문 2위, OSS 모델 전체에서는 6위로 데뷔했다. 추론 버전은 곧 공개될 예정이다.

Ministral 3는 엣지 및 로컬 용도를 위한 시리즈다. 각 크기마다 베이스 버전, 인스트럭션 버전, 추론 버전을 제공하며, 모두 이미지 이해를 지원한다. 인스트럭션 버전은 동급 모델과 같거나 그 이상의 성능을, 종종 자릿수가 다른 적은 토큰 수로 낸다고 밝혔다. 추론 버전은 길게 생각함으로써 정확도를 높이며, 14B에서 AIME '25 85%에 도달한다.

배포 측면에서는 vLLM, Red Hat, NVIDIA와 협력하고 있다. llm-compressor로 만든 NVFP4 형식 체크포인트를 통해 Blackwell NVL72나 8×A100, 8×H100 단일 노드에서 vLLM으로 실행할 수 있다. NVIDIA는 TensorRT-LLM과 SGLang의 추론 지원을 돕고, Large 3를 위해 Blackwell 어텐션 및 MoE 커널, prefill/decode 분리 서빙, 추측적 디코딩을 탑재했다. 엣지에서는 DGX Spark, RTX PC, Jetson에서의 최적화 배포도 안내하고 있다.

제공처는 Mistral AI Studio, Amazon Bedrock, Azure Foundry, Hugging Face, Modal, IBM WatsonX, OpenRouter, Fireworks, Unsloth AI, Together AI이며, NVIDIA NIM과 AWS SageMaker는 곧 지원될 예정이다. 아울러 모델의 파인튜닝과 완전한 적응을 수행하는 맞춤형 학습 서비스도 안내하고 있다. Ministral 3의 아키텍처를 설명하는 연구 논문도 함께 공개됐다。