Hugging Face Daily Papers·· 17일 전AI 점수28
Heartbeat Thinking, 음성 에이전트가 발화 중에도 추론과 도구 실행을 선행하는 기법
Heartbeat Thinking: Speculative Reasoning and Tool Execution While Listening in Realtime Voice Agents
AI 요약
음성 에이전트가 발화 중에도 추론과 도구 호출 준비를 계속하는 「Heartbeat Thinking」을 제안한 논문이다. 발화 갱신 때문에 진행 중인 처리를 중단하지 않고, 주기적인 Thinker 호출로 최신 부분 트랜스크립트와 완료된 추론·도구 결과를 공유해 의존 관계가 있는 호출을 시작한다. FDBench v3에서는 SHANKS형 윈도우 방식 베이스라인과 비교해 도구 커버리지가 16포인트 향상되었고, 최종 응답의 평균 레이턴시는 36.4% 줄었다.
출처: Hugging Face Daily Papers · huggingface.co