Interconnects (Nathan Lambert)· Nathan Lambert·· 11시간 전AI 점수40
오픈 모델 추론 시장 규모 추정, Baseten·Fireworks·Together AI 공개 데이터로 본 현황
How big is the open model economy today?
AI 요약
오픈 모델 추론의 공개 토큰 처리량은 Baseten, Fireworks, Together AI가 공개한 데이터에서 거의 지수함수적인 성장세를 보이고 있다. Fireworks는 고객 맞춤형 모델을 위해 하루 40T 토큰 이상을 처리하고 있다고 발표했으며, 이 분야는 올여름 이후 2배 이상 성장했다고 밝혔다. Google 실적 자료에 나타난 토큰 처리량과 비교해 폐쇄형 모델과의 규모 차이도 검증한다.
출처: Interconnects (Nathan Lambert) · interconnects.ai