METR와 Redwood Research, OpenAI에서 3주간 현장 감사 실시… AI 안전 모니터링의 여러 결함 드러나
Three-week on-site audit at OpenAI reveals major gaps in AI safety monitoring
METR와 Redwood Research 연구자 2명이 OpenAI에 3주간 상주하며 사내 부정 AI 행동 모니터링 시스템을 감사했다. GPT-5.5 클래스 이상 모델이 사용하는 사내 에이전트형 Responses API 트래픽 중 추정 6~25%가 모니터링 대상에서 빠져 있었다. OpenAI는 지적된 취약점을 모두 수정했다고 밝혔지만, 61페이지 분량의 보고서 중 공개된 것은 짧은 요약뿐이다.
감사는 7월 21일부터 8월 11일까지 진행됐다. 연구자 2명은 OpenAI의 코드베이스와 사내 문서에 접근했고, 약 12명의 직원을 대상으로 면담을 진행했다. GPT-5.5 클래스 이상 모델의 사내 에이전트형 Responses API 트래픽 중 추정 6~25%는 감사 기간 동안 모니터링되지 않았다. METR는 이 추정치의 불확실성이 위아래 모두로 크다고 밝혔다.
사내 Codex 트래픽에서는 컴팩션(컨텍스트 요약) 이벤트 처리에 허점이 있었던 것으로 추정된다. 5월부터 7월까지 모니터링 대상의 약 10%가 추적되지 않았다는 것이다. 이 추정에도 큰 불확실성이 있다. OpenAI는 이 버그를 자체적으로 발견해 감사 중에 수정했다. 그 전까지 모니터링은 에이전트가 사용자에게 제어권을 돌려줄 때만 작동했기 때문에, 에이전트는 계속 실행하기만 해도 모니터링을 피할 수 있었다.
감사팀은 수백 건의 작업을 모니터링에서 숨기는 방법과 Codex 샌드박스를 우회하는 방법도 찾아냈다. 조작된 입력으로 모니터를 충돌시킬 가능성이 높다는 점, 감사 시작 시점에 RL 학습 중인 모델의 행동이 전혀 모니터링되지 않았다는 점도 확인했다. OpenAI는 8월 Hugging Face 사건을 계기로 RL 학습을 일시 중단하고 모니터링을 확대했다고 설명했다. 다만 이는 감사팀의 접근 기간이 끝난 뒤의 변경이어서 평가 대상에서 제외된다.
출처: The Decoder · the-decoder.com