Google DeepMind, 오픈 웨이트 멀티모달 임베딩 모델 EmbeddingGemma 2 공개

EmbeddingGemma 2는 로컬 및 프라이버시 중시 앱을 겨냥한 740M 파라미터 모델이다. 인코더는 모듈식이어서 필요한 부분만 불러올 수 있다. 이미지 캡셔닝, 음성 인식, 텍스트 임베딩 모델을 연결하는 구성과 비교해 지연 시간과 메모리 부담을 줄일 수 있다고 한다. 학습 데이터나 파인튜닝 없이도 입력을 레이블이나 설명문과 대조하는 제로샷 의도 라우팅에 쓸 수 있다.

데모는 Google AI Edge Gallery 앱에 추가되었다. Instant Media Search는 로컬의 이미지와 동영상을 자연어나 예시 이미지로 검색한다. 임베딩 벡터는 로컬 SQLite 데이터베이스에 저장되며 코사인 유사도가 높은 순으로 반환하므로, 입력할 때마다 결과가 갱신된다. Video Moments Finder는 음성 전사나 중간 캡션 없이 동영상 속 특정 장면을 찾을 수 있다. 앱은 Google Play와 App Store에서 받을 수 있다.

Mac용 실험적 앱 Google AI Edge Foresight는 EmbeddingGemma 2와 Gemma 4로 동작하는 회의 지원 도구다. 시스템 오디오와 마이크에 연결되어 메모 보강, 실시간 질문 응답, 문서와 이미지를 가로지르는 검색을 모두 로컬에서 수행한다.

개발자를 위한 여러 경로도 소개되었다. ML Kit 제공은 Android 대상으로 향후 수 주 내 예정되어 있으며, NPU 가속과 자동 모델 업데이트를 지원한다고 한다. MediaPipe Tasks는 Embedder와 Semantic Retriever를 지원하며, 768차원 또는 128d에서 512d로 잘라낸 정규화 벡터를 반환한다. MediaPipe Decision Task는 체스 예제에서 매 턴 500개의 선택지를 100ms 미만에 평가한다. LiteRT에서는 단일 .litertlm 파일이 CPU와 GPU에서 동작하며, MacBook M5 Pro GPU에서 이미지 임베딩은 37.3ms(초당 26.9장)이다.

최적화로는 INT4와 INT8을 위한 Quantization-Aware Training, 입력 크기에 따른 계산 그래프 동적 로딩, Matryoshka Representation Learning을 통한 차원 축소가 제시되었다. 차원 축소로 로컬 저장공간과 인덱스는 최대 8배 작아진다. 사전 양자화된 번들은 Hugging Face의 LiteRT Community에서 배포되며, Google Colab과 가이드도 마련되어 있다.