멀티모달 LLM의 검색 헤드를 다각도로 분석

멀티모달 LLM(MLLM)의 검색 헤드는 음성·영상 입력에서도 희소한 상태를 유지하며, 상당수가 모달리티 간에 공유되는 것으로 나타났다. 18개의 체크포인트로 검증한 결과, 이 헤드들을 비활성화하면 음성·영상을 통한 검색이 거의 전부 사라지는 것으로 확인됐다.