Inception、확산 기반 LLM 「Mercury 3」 발표… 초당 1,068토큰 주장

Inception이 확산 기반 대규모 언어 모델(LLM) 「Mercury 3」를 발표했다. NVIDIA GPU에서 초당 1,068토큰을 생성하는 것으로 알려졌으며, 컨텍스트 윈도우는 100만 토큰이다. 표준 가격은 입력 100만 토큰당 0.20달러, 출력 100만 토큰당 0.70달러이며, 도입 할인 50%가 적용된다. API 외에 OpenRouter, Baseten, Vercel을 통해 이용할 수 있다. 회사 측은 동급 속도 중시 모델보다 4~8배 빠르다고 주장하지만, 모두 회사가 공표한 데이터에 근거한 것이다.