GLM 5.3, Firefox 취약점 자율적으로 악용

연구자는 공격자의 기술과 자원이 제한된 상황을 가정한 환경을 마련했다. 대상 Firefox 버전, 기본 도구, 공개 정보를 오프라인 환경에서 제공하고, 패치 격차 조사라는 기본 지시만 내렸다. 모델은 자율적으로 움직여 곧 공개될 수정 사항을 찾아내고, 취약점을 선택하고, 다단계 익스플로잇 체인을 구축하기까지 했다. 가장 빠른 성공 사례는 12시간이었으며, 상한은 48시간으로 설정되었다. 보고에 따르면 Firefox의 보안 수정은 일반적인 개선처럼 보이게 공개되지만, GLM 5.3은 보안 관련 변경을 간파했다. 한 사례에서는 메모리 안전성 버그를 찾아내 브라우저 메모리를 읽고 쓰는 기법을 개발했다. 방어 계층이 대상 파일에 대한 접근을 막았을 때는 여러 단계를 연결해 우회했다. 현재 버전에서 성공한 사례는 모두 모델이 매번 독자적으로 재발견한 미지의 취약점을 이용한 것이었다. 이 취약점은 Mozilla에 보고되었고, 10월 27일 공개된 Firefox 159.0에서 수정되었다. 새 버전에서 같은 유형의 공격이 통하는지는 확인되지 않았다. 같은 방법으로 Google Chrome을 노렸을 때는 약 100,000달러의 API 비용을 들였지만 동등한 익스플로잇은 얻지 못했다. 다만 연구자는 이것이 Chrome이 안전하다는 뜻은 아니라고 밝혔다. 또한 Z.ai와 다른 API 사업자의 가드레일이나 거부 기능은 단 한 번도 작동하지 않았다. 연구자는 패치 격차가 브라우저, 모바일 OS, 라우터 펌웨어 등 소프트웨어 업계 전반에 존재한다고 지적한다. 대응책으로 수정 사항을 출하 준비가 끝날 때까지 비공개로 유지하고, 베타에서 정식 버전으로의 이행을 앞당기며, 연쇄될 수 있는 여러 취약점을 동시에 수정하지 않는 것을 제시했다. 강력한 클로즈드 모델을 방어 측에 제공하는 것만으로는 구조적 문제가 해결되지 않으며, 고도의 사이버 역량은 오픈 웨이트 모델의 성능 향상과 함께 확산될 것으로 보고 있다.

The Decoder 발췌