Simon Willison·· 17일 전AI 점수13
llm-echo 0.5, 도구 호출과 추론 토큰까지 반영한 토큰 사용량 시뮬레이션 지원
llm-echo 0.5
AI 요약
LLM을 호출하지 않고 받은 프롬프트를 그대로 되돌려주는 디버그용 플러그인 「llm-echo」 0.5 버전이 출시됐다. 시뮬레이션되는 토큰 사용량 계산이 도구 호출, 시스템 프롬프트, 추론 토큰을 고려하도록 업데이트됐다. --usage 옵션을 붙이면 「hi there」 입력에 대해 입력 2, 출력 24 토큰의 사용량이 표시된다.
출처: Simon Willison · simonwillison.net