LiveBench · 언어와 지시
LiveBench · Language + IF 두 항목 평균, 각 50%
무엇을, 어떻게 측정하나
먼저 Language와 IF 카테고리 성적을 각각 산출한 뒤 50%씩 평균을 내고 소수점 첫째 자리까지 남깁니다. 두 항목 평균은 공식 사이트에서 한 카테고리만 골랐을 때의 성적과 다릅니다. Language는 언어 이해를, IF는 지시와 형식 제약 준수를 측정하며, 소설 문장력은 이것으로 평가하지 않습니다. 2026년 10월 새 세대 릴리스에서 이 두 카테고리가 없어졌기 때문에 구세대 마지막 릴리스(2026-06-25)의 성적을 계속 사용합니다.
활용 방식
종합 순위의 글쓰기·표현 예산 중 3%를 유지합니다. 문예 창작 글쓰기 카테고리에는 넣지 않습니다.
결과
정해진 규칙에 따라 공개 모델마다 하나의 구성을 대표로 씁니다. 익명 테스트 모델은 표시하지 않고 원래 순위를 유지하며, 평가마다 최대 30개입니다.
| 원래 순위 | 모델 | 원래 점수 | 대표 구성 |
|---|---|---|---|
| 1 | gemini-3.8-flash-highGoogle | 84.6% | High 推論 |
| 2 | claude-fable-5-max-effortAnthropic | 83.2% | Max 推論 |
| 3 | gemini-3.7-flash-highGoogle | 82.7% | High 推論 |
| 4 | gpt-6-astra-maxOpenAI | 82.5% | Max 推論 |
| 5 | gemini-3.1-pro-preview-highGoogle | 82.2% | High 推論 |
| 6 | gpt-6.1-sol-maxOpenAI | 82.1% | Max 推論 |
| 7 | claude-fable-5-1-max-effortAnthropic | 81.2% | Max 推論 |
| 8 | muse-spark-1.3-xhighMeta | 80.4% | xHigh 推論 |
| 9 | gemini-3.5-flash-highGoogle | 80.1% | High 推論 |
| 11 | gpt-5.6-sol-maxOpenAI | 79.8% | Max 推論 |
| 12 | gemini-3.6-flash-highGoogle | 79.6% | High 推論 |
| 13 | gpt-5.5-xhighOpenAI | 79.0% | xHigh 推論 |
| 14 | kimi-k3Moonshot AI | 78.4% | ソース既定の構成 |
| 15 | muse-wonder-1.0-max— | 78.0% | Max 推論 |
| 16 | grok-4.6xAI | 77.8% | ソース既定の構成 |
| 17 | grok-4.7-xhighxAI | 77.7% | xHigh 推論 |
| 18 | smaug-agenticAbacus.AI | 77.7% | ソース既定の構成 |
| 19 | grok-4.5xAI | 77.2% | ソース既定の構成 |
| 21 | gpt-6-sol-maxOpenAI | 76.9% | Max 推論 |
| 22 | qwen3.7-maxAlibaba | 76.9% | ソース既定の構成 |
| 23 | qwen3.8-maxAlibaba | 76.9% | ソース既定の構成 |
| 24 | muse-spark-1.2-xhighMeta | 76.4% | xHigh 推論 |
| 25 | gpt-5.4-xhighOpenAI | 76.4% | xHigh 推論 |
| 27 | claude-opus-5-max-effortAnthropic | 76.2% | Max 推論 |
| 28 | claude-opus-5-5-max-effortAnthropic | 76.0% | Max 推論 |
| 29 | qwen3.8-flash-nextAlibaba | 75.9% | ソース既定の構成 |
| 30 | claude-opus-4-8-max-effortAnthropic | 75.8% | Max 推論 |
| 31 | deepseek-v4-flash-vision-expDeepSeek | 75.7% | ソース既定の構成 |
| 32 | deepseek-v4.1-flash-maxDeepSeek | 75.6% | ソース既定の構成 |
| 33 | smaug-miniAbacus.AI | 75.5% | ソース既定の構成 |
한계와 데이터 출처
구세대 마지막 릴리스로 고정되어 있어 그 이후 공개된 모델의 성적은 포함되지 않습니다. 두 항목 평균은 합산된 성적을 측정하는 것이므로 Language 단독 성적으로 볼 수 없습니다. 공식 페이지에서 카테고리나 파인튜닝 모델 포함 여부를 바꾸면 점수와 순위도 달라집니다. 운영에 관여하는 Abacus.AI는 Smaug 모델도 개발하므로, 그 자체 성적은 다른 독립 출처의 뒷받침이 필요합니다.
데이터 라이선스: Apache 2.0
항목별 성적은 LiveBench가 공개하며, 이 사이트가 위의 두 카테고리를 같은 가중치로 집계해 순위를 매깁니다. 두 항목 평균과 이 사이트의 합의 지수는 척도가 달라 그대로 더할 수 없습니다.