이산 시각 토큰은 의미적 손실 없이 시각 신호를 표현할 수 있는가

Factorized Vector Quantization은 상호 보완적인 특징 뷰를 병렬 코드북으로 양자화하여, 이산 시각 토큰을 멀티모달 이해에서 연속 표현에 근접한 성능으로 끌어올리는 기법이다. 양자화 오차가 커도 이해 성능이 높은 경우가 있으며, 성능을 좌우하는 것은 이산 인덱스의 실효 비트 예산이라고 제시하고 있다. 산업 규모의 데이터로 학습한 모델은 9개 지표 평균에서 UniAR를 22.8%, Emu3-Chat을 59.2% 앞섰으며, 저자들이 아는 한 Qwen3-VL 등과 경쟁하는 이산 표현 모델로는 처음이라고 밝히고 있다.