Google, SynthID·C2PA 기반 콘텐츠 검증을 Search·Gemini·Chrome 등으로 확대
Making it easier to understand how content was created and edited
Google은 AI 생성 콘텐츠의 출처와 편집 여부를 확인할 수 있는 투명성·검증 도구를 Search, Gemini, Chrome, Pixel, Cloud로 확대한다고 발표했다. SynthID 검증은 Gemini 앱에 이어 Search에서 제공을 시작하며, Chrome에도 수 주 안에 대응한다. Google Cloud에서는 새롭게 AI Content Detection API도 선보인다.
SynthID는 3년 전 도입된 전자 워터마크 기술로, 지금까지 1000억 장이 넘는 이미지·동영상과 6만 년 분량의 오디오에 워터마크를 삽입했다. Gemini 앱에 추가된 이미지·동영상·오디오 SynthID 검증은 전 세계에서 5000만 회 이용되었다. 이 검증 기능은 오늘부터 Search로 확대되며, Chrome에는 향후 수 주 안에 대응한다. Lens, AI Mode, Circle to Search, Chrome 내 Gemini에서 "Is this made with AI?"라고 물어 출처를 확인할 수 있다.
C2PA Content Credentials 검증도 추가된다. 카메라로 촬영한 미가공 원본인지, 가공되었다면 어떤 도구로 가공되었는지 확인할 수 있는 기능으로, 오늘부터 Gemini 앱에서 순차적으로 제공되며 Search와 Chrome에는 향후 몇 달 안에 도입된다. Pixel 10은 기본 카메라 앱으로 이미지에 Content Credentials를 부여한 최초의 스마트폰이며, 동영상 지원을 Pixel 8, 9, 10으로 수 주 안에 넓힌다.
업계 협력으로는 OpenAI, Kakao, ElevenLabs가 AI 생성 콘텐츠에 SynthID를 도입할 예정이다. Google은 이전에도 SynthID 텍스트 워터마크 기술의 오픈소스화와 NVIDIA Cosmos world foundation models가 생성하는 동영상에 대한 워터마크 부여에서 협력해 왔다.
Google Cloud의 Gemini Enterprise Agent Platform에는 AI Content Detection API가 새로 추가된다. Google과 다른 주요 모델이 만든 AI 콘텐츠를 판별할 수 있어, 피드 분류, 보험 사기 방지, 팩트체크, 합성 미디어 라벨링 등에 활용할 수 있다. 신뢰할 수 있는 파트너 기업을 대상으로 먼저 제공을 시작하며, 피드백을 반영해 개선할 계획이다. 또한 Meta는 Instagram에서 카메라로 촬영한 미디어에 Content Credentials 라벨을 표시하기 시작할 예정이며, 이에 따라 Pixel로 찍은 사진과 동영상이 공유 시 진본으로 표시되게 된다.
출처: Google DeepMind Blog · deepmind.google