Google Developers Blog·· 1일 전AI 점수45
저렴한 분류기로 Gemini 모델과 사고 수준을 배분해 작업 단위 비용을 낮춘다
Cost per task: Using cheap classifiers to route across Gemini models and thinking levels
AI 요약
저렴한 분류기로 작업마다 가장 적합한 Gemini 모델과 사고 수준을 배분해 작업 단위 비용을 낮추는 방법을 검증했다. 50문제 테스트에서 TypeSafe의 Jev 분류기는 48문제(96.0%)를 올바르게 배분했다. maxOutputTokens를 300으로 제한해도 간단한 작업의 사고 토큰은 줄지 않았고, 어려운 작업 25문제 중 7문제에서는 정답을 내지 못했다.
출처: Google Developers Blog · developers.googleblog.com