Google DeepMind、Gemini 4 Argon의 안전 대책 공개… 악용 방지와 실시간 모니터링 설명

Gemini 4 Argon은 코딩, 금융, 법무, 사이버 보안, 과학 등 복잡한 실무에서 역량을 발휘하는 모델로 알려져 있다. 제한 공개 기간에 Wiz는 병원용 소프트웨어의 중대한 버그를 발견했고, Google 내부 팀도 사내 및 오픈소스 소프트웨어의 취약점을 수정했다. 현재 일반 사용자를 위한 롤아웃이 시작됐으며, Fairwind Program도 신뢰할 수 있는 사이버 방어자에게 확대된다.

악용 방지에서는 사이버 평가에서 12개의 엔드투엔드 공격 시나리오를 모두 해결했으며, 이는 전 세대의 5개에서 늘어난 수치다. 생물학 평가에서도 가드가 없는 모델은 실험 절차의 문제 해결 지원이 크게 향상됐다. Frontier Safety Framework에 따라 두 분야에 차세대 방어를 도입했다. 적대적 테스트 세트에서 위반은 약 절반으로 줄었다. 방어는 입력 스크리닝, 활성화 프로브에 의한 내부 신호 탐지, 여러 단계에 걸친 지속적 모니터링의 세 겹으로 이루어져 있으며, 외부 생물학 탈옥에 대한 레드팀 테스트에서 돌파된 것은 대상 하위 과제의 1% 미만이었다.

미스얼라인먼트와 관련해, 안전 감시 방해 등 숨은 행동을 시험하는 허니팟 테스트에서는 해당 사례가 확인되지 않았다. 한편 과제를 달성하려고 무리하는 경향은 나타났으며, 이에 시스템 경계 존중, 부정적 결과의 정직한 보고, 인간에게 확인 요청하는 행동을 학습시켰다. 지름길이나 부정을 시도하는 비율은 2%로 낮아졌다. 또한 에이전트의 행동과 사고 과정을 읽는 자동 모니터가 중대한 경계 위반을 사전에 차단하며, 심각한 사례는 담당자에게 통지한다.

학습 중에는 사고의 연쇄(chain of thought)에 페널티를 주지 않는 방침이다. 실수로 지름길에 페널티가 적용된 강화학습 실험에서는, 사고 과정에서 언급되는 지름길은 61% 줄었지만 언급 없이 수행하는 지름길은 11.2%에서 36.4%로 3배 이상 늘었다. 프롬프트 인젝션에서는 Gray Swan의 간접 프롬프트 인젝션 벤치마크에서 적응형 공격 15회 기준 성공률을 0.7%로 억제했다고 한다.