Apple Machine Learning Research·· 24일 전AI 점수42
SELFCOMPACT, 언어 모델 에이전트가 스스로 문맥을 압축하는 기법
Self-Compacting Language Model Agents
AI 요약
SELFCOMPACT는 모델 스스로 문맥을 언제, 어떻게 압축할지 결정하는 에이전트용 스캐폴드다. 압축 도구와 압축해야 할 때와 억제해야 할 때를 정하는 경량 루브릭을 결합해, 파인튜닝 없이 적응형 압축을 구현한다. 6개 벤치마크(경쟁 수학과 에이전트형 검색)와 7개 모델로 평가한 결과, 고정 간격 요약과 같거나 그 이상의 성능을 더 적은 토큰 비용으로 달성했다. 수학에서는 요약을 하지 않은 베이스라인보다 최대 18.1포인트, 에이전트형 검색에서는 5~9포인트 높았으며, 문제당 비용은 30~70% 낮았다.
출처: Apple Machine Learning Research · machinelearning.apple.com