Baidu, 280B 파라미터 오픈소스 기반 모델 「ERNIE 5.5 Flash Base」 공개

Baidu가 파인튜닝이나 사후 학습을 거치지 않은 오픈 기반 모델 「ERNIE-5.5-Flash-Base」를 공개했다. 총 파라미터는 280B이며, 입력마다 14B가 활성화되는 Mixture-of-Experts 구조로, 33.5T 토큰으로 사전 학습되었다. 가중치는 Hugging Face에서 FP8과 BF16 형식으로 공개됐으며, Baidu는 추론, 코드, 장문 과제 벤치마크에서 DeepSeek V4 Flash 등 같은 규모의 오픈 기반 모델과 경쟁한다고 설명했다.