Hugging Face Daily Papers·· 22일 전AI 점수26
확산 모델의 학습과 추론 간 격차를 보정하는 「Correction Training」
Correction Training for Diffusion Models
AI 요약
확산 모델의 예측을 다듬는 보정 모듈(corrector)을 학습시켜 exposure bias를 줄임으로써, 가이던스 없이도 샘플 품질을 높이는 기법이 제안되었다. DiT, SiT, JiT에서 평가했으며, 가이던스 없는 생성의 FID를 크게 개선했다. CFG와 함께 사용하면 다양성이 높아지고 과포화도 억제된다. 나아가 보정된 예측을 베이스 모델에 증류함으로써, 추론 시 비용을 늘리지 않고도 품질 향상을 유지할 수 있다.
출처: Hugging Face Daily Papers · huggingface.co