Microsoft AI (MAI) News·· 21일 전AI 점수50
Microsoft AI, MAI-Base-2 사전학습 해설
Frontier Pre-training at Microsoft AI
AI 요약
Microsoft AI가 활성 파라미터 80B, 총 2.8T 파라미터 규모의 MoE 기반 모델 MAI-Base-2의 사전학습을 완료했다. 보류 평가에서는 테스트한 모든 오픈 웨이트 모델을 웃돌았으며, DeepSeek-V4-Pro-Base 대비 사전학습 FLOPs 효율은 4~12배다. 16k GB200 GPU로 38일간 학습했으며, 현재 사후학습 중이다. 가중치는 Foundry를 통해 신뢰할 수 있는 파트너에게 라이선스 제공할 방침이다.
출처: Microsoft AI (MAI) News · microsoft.ai