Hugging Face Daily Papers·· 21일 전AI 점수41
도구 사용 에이전트를 위한 의미 검증 기반 궤적 수준 투기적 디코딩(SpecAgent)
Trajectory-Level Speculation with Semantic Verification for Tool-Using Agents
AI 요약
SpecAgent는 소형 Weak 모델이 행동 궤적을 초안으로 작성하면, 대형 Strong 모델이 한 번의 prefill 패스로 해당 구간을 검토해 Strong 모델의 디코딩 대부분을 prefill로 대체하는 도구 사용 에이전트용 기법이다.
출처: Hugging Face Daily Papers · huggingface.co