본문 바로가기
원문
Hugging Face Daily Papers·· 21일 전AI 점수24

Waypoint-OPD, RL 유래 정책 변화를 초기와 후기의 일치 여부로 게이팅해 증류

Waypoint-OPD: Transferring RL-Induced Policy Shifts via Gated On-Policy Distillation

AI 요약

Waypoint-OPD는 같은 RL 실행에서 초기와 후기 교사 정책의 변화 방향이 일치하는지에 따라 엔드포인트 정책 변화를 게이팅하고, 방향이 반대일 경우 이를 억제하는 증류 기법이다. 추가 비용은 고정된 교사로 채점하는 1회의 패스뿐이다. Qwen3-4B 교사에서 Qwen3-8B, Qwen3-14B, Qwen3-30B-A3B 학생으로 수학과 코드 추론을 전이한 6개 설정 모두에서, 비교한 증류 기법 가운데 영역 평균 점수가 가장 높았다. Qwen3-8B 학생에 대한 절제 실험에서는 게이트를 제거하거나 섞었을 때 수학 추론 성능이 떨어졌다.

출처: Hugging Face Daily Papers · huggingface.co