Mistral, Mistral Large 4 공개 프리뷰 시작… 가중치는 월말 공개 예정
Introducing Mistral Large 4
Mistral은 총 파라미터 1조, 활성 파라미터 520억의 네이티브 멀티모달 모델 Mistral Large 4(ML4)의 공개 프리뷰를 시작했다. 프리뷰 API는 Mistral Studio에서 체험할 수 있으며, 가중치는 이번 달 말 공개될 예정이다. 코딩, 에이전트형 워크플로, 멀티모달 이해에서 높은 성능을 보인다고 밝혔으며, Artificial Analysis Cyber Index에서는 세계 상위 5개 모델에 든다고 밝혔다.
ML4는 1 trillion 파라미터, 활성 52 billion 규모의 네이티브 멀티모달 모델로, 회사가 가장 크고 가장 성능이 높은 모델이라고 소개한다. NVIDIA Grace Blackwell GPU 3,800기를 사용해 유럽의 자체 데이터센터에서 처음부터 학습했다. 프리뷰도 같은 기반으로 제공된다. 학습 데이터에는 160개 이상의 언어가 포함되어 있으며, EU 공용어가 모두 들어 있다. 가중치 공개 전까지 사이버보안 분야의 파트너와 공공기관이 모더레이션을 완화한 동일 모델로 레드티밍을 진행하고 있다.
벤치마크에서는 Cybench 93%, Artificial Analysis Cyber Index의 취약점 재현 및 패치 테스트 82%를 기록했다. Claude Opus 5.5와 GPT-6 Astra는 과제를 거부하기 때문에 같은 테스트에서 거의 0에 가깝다고 한다. 코딩에서는 DeepSWE v1.1 61.7%, SWE-Atlas-QnA 59.4%, Terminal-Bench 4 28.3%를 기록했다. Surge AI의 블라인드 인간 평가에서는 5개 모델 중 2위(3.74)였고, 상위는 Claude Opus 5(4.22)뿐이었다. AutomationBench는 59.9%, AA-Briefcase는 1,393 Elo다.
멀티모달에서는 시각적 그라운딩이 강점이며, Dense 200에서 GPT-6-Astra를 42% 대 41%로 앞섰다. 과학·수학에서는 SciCode-Verified에서 오픈 모델 중 최고 수준으로 평가되며, Hartree–Fock 시뮬레이션을 한 번의 생성으로 만든 사례가 제시되었다. 법무·금융에서는 vals.ai 평가에서 GPT-6-Astra를 웃돌았고, HarveyAI의 Legal Agent benchmark에서는 모든 오픈소스 모델을 앞섰다고 밝혔다.
안전성에서는 간접 프롬프트 인젝션 내성에 관한 자체 벤치마크가 포화 상태에 이르렀으며, Lakera의 B3 AI Security Benchmark에서는 공격의 93.3%를 견뎠다. KORA Benchmark 점수는 1.691(최대 2)이다. 사이버 관련 프롬프트의 거부율도 오픈 모델 중 가장 높다고 설명했다.
학습 측면에서는 강화학습(RL)을 대규모로 운영하고 있다. 현재 규모는 3k GPU이며, 하루 약 33 billion 토큰을 생성하고 그중 약 16 billion이 학습 대상인 완성 토큰이다. 이 RL 실행은 아직 진행 중이며 포화 조짐은 없다고 한다. ML4는 €3 billion 규모의 Series D 로드맵에서 첫 번째 이정표이며, 앞으로 특화 모델군의 기반이 된다. 아키텍처, 추가 벤치마크, 포스트트레이닝 기법의 세부 사항도 가중치와 함께 공개될 예정이다.
사이버보안, 금융, 법무 분야의 평가 결과와 함께 학습 인프라 및 RL 운영 규모까지 공개되어, 오픈 웨이트 대형 모델의 위치를 비교하기 쉽다.
출처: Mistral AI News · mistral.ai