오픈 모델 추론 시장 규모 추정, Baseten·Fireworks·Together AI 공개 데이터로 본 현황
오픈 모델 추론의 공개 토큰 처리량은 Baseten, Fireworks, Together AI가 공개한 데이터에서 거의 지수함수적인 성장세를 보이고 있다. Fireworks는 고객 맞춤형 모델을 위해 하루 40T 토큰 이상을 처리하고 있다고 발표했으며, 이 분야는 올여름 이후 2배 이상 성장했다고 밝혔다. Google 실적 자료에 나타난 토큰 처리량과 비교해 폐쇄형 모델과의 규모 차이도 검증한다.