본문 바로가기
원문
Hugging Face Daily Papers·· 17일 전AI 점수31

Swift: 약한 가이드에서 목표를 외삽해 확산 모델을 강화하는 학습 기법

SWIFT: Self-guided Weak-to-strong dIFfusion models via Target extrapolation

AI 요약

Swift는 고정된 약한 디노이저의 예측으로부터 회귀 목표를 외삽해 확산 모델을 학습하는 자기 가이드형 기법이다. 추론 시 오버헤드를 늘리지 않고 오차와 학습 비용을 낮추며, CIFAR-10과 ImageNet-256에서 성능 향상을 보였다. ImageNet-256의 한 구성에서는 가이드 준비와 학습 오버헤드를 포함해도 약 절반의 총 학습 연산량으로 베이스라인의 최고 FID를 넘어섰으며, RAEv2에서는 가이드 없이 FID 1.15, 가이드 사용 시 0.99를 달성했다.

출처: Hugging Face Daily Papers · huggingface.co