본문 바로가기
원문
Hugging Face Daily Papers·· 22일 전AI 점수22

Function-Space Policy Optimization(FSPO), 자기 증류 기반 정책 최적화 제안

Function-Space Temporal Self-Distillation for Policy Optimization

AI 요약

제안된 방법인 FSPO(Function-Space Policy Optimization)는 현재의 특권적 적응과 함수 공간에서의 시간적 통합을 결합한 단일 정책 프레임워크이다. 과거 next-token 분포의 희소한 이력을 고정된 시간적 타깃으로 저장하여, 영구적인 교사 모델을 두지 않고도 시간적 분리를 구현한다. 원문에서는 최근의 자기 증류 정책 기법인 SDPO 대비 상당한 개선을 보였다고 소개하고 있다.

출처: Hugging Face Daily Papers · huggingface.co