Order-Only On-Policy Distillation(O^3PD): 확률값이 아닌 순위를 학습하는 증류 기법

Order-Only On-Policy Distillation(O^3PD)은 온-폴리시 증류(OPD)에서 교사 모델의 확률값을 학생 모델이 재현하도록 하는 대신, top-K 토큰의 순위만 학생 모델이 재현하도록 하는 기법이다. 교사·학생 모델의 6가지 조합 모두에서 HMMT25, AIME24, AIME25의 평균 점수가 OPD를 웃돌았으며, 최대 2.9포인트, AIME25에서는 최대 5.6포인트 향상되었다. 온도 조정이 필요 없고, 다른 순위 손실 함수에서도 같은 수준의 이득이 나타났다.