SPOT, 생성 순서 예측으로 확산 언어 모델의 추측적 디코딩을 가속

SPOT는 확산 언어 모델(DLM)을 위한 추측적 디코딩 기법으로, 생성 순서를 예측해 후보를 병렬로 검증함으로써 출력을 바꾸지 않고 타깃 모델의 포워드 패스 수를 최대 6.8배 줄인다. SDAR-8B에서는 표준 디코딩 대비 최대 3.4배의 처리량을 달성했으며, T=0과 T=1의 모든 과제와 예산에서 베이스라인과 같거나 그 이상의 성능을 보였다. 0.62M 파라미터의 드래프터는 6개의 서로 다른 DLM 사이에서 재사용할 수 있고, 동적 임계값 디코딩에 SPOT-Sets를 결합하면 SDAR-8B의 처리량이 평균 59% 향상된다.