Cathedral, AI 에이전트로 Anthropic 내부 시스템에 침투

Cathedral는 DOGE 전 직원이 창업한, 정부 기관과 기업을 상대로 AI 기반 보안 도구를 판매하는 신생 기업이다. The Washington Post가 확인한 보고서 초안에 따르면, 이 회사 연구자들은 외부 관리자용 프로그램과 영업용 프로그램을 통해 침입했으며, 고성능 모델을 구동하는 AI 에이전트가 12시간 미만 만에 회의 녹취록, 급여 데이터, 채용 정보, Slack 메시지로 가는 경로를 찾아냈다고 한다. Anthropic의 버그 바운티 프로그램을 활용해 취약점을 드러낸 셈이다. Anthropic은 접근된 범위가 영업, 인사, IT 시스템의 일부로 제한되며, 일부 고객과 파트너의 연락처와 기본 계정 데이터가 포함된다고 설명했다. 같은 날 해당 접근 경로를 차단했고, 문제가 해결될 때까지 제3자 프로그램을 비활성화했으며, 미국 연방 당국에 통보했다고 밝혔다. 양측의 주장에는 차이가 있다. Cathedral은 12시간 미만에 벌어진 일이라고 주장하지만, Anthropic은 공격 시도가 며칠에 걸쳐 이루어졌다고 밝혔다. Anthropic의 레드팀 소속 Logan Graham에 따르면, Cathedral은 며칠 동안 Anthropic 자체 시스템을 탐색한 뒤 제3자 소프트웨어로 옮겨 가 취약점 2건을 발견했지만, 보고한 것은 1건뿐이었다. 나머지 1건은 Anthropic이 자체적으로 발견해 수정했다는 것이다. Anthropic은 공개가 불완전했고 프로그램 규칙을 위반했다고 주장했으며, 제3자에 대한 공격과 데이터 확보는 세이프 하버의 범위를 벗어난다고 말했다. Cathedral은 표준적인 보안 연구 절차를 따랐다고 밝혔다. 피해 규모도 쟁점이다. 전 OpenAI 직원 Will Depue는 Anthropic이 영향을 축소하고 있다고 주장하며, 신뢰할 만한 복수의 출처를 인용해 Cathedral이 Slack 워크스페이스의 완전한 관리자 권한을 얻어 모든 메시지를 읽고 임의의 사용자 계정에 로그인할 수 있었다고 전했다. Graham은 Depue의 출처가 틀렸다고 반박했지만, 민감한 내용이라는 이유로 세부 사항은 밝히지 않았다. Cognition의 최고보안책임자 Alex Stamos는 연동된 제3자 앱이 업계 전체의 큰 문제이며, Anthropic이 외부 서비스를 더 잘 보호할 수 있었다고 지적했다. Graham은 공격자들이 이미 AI 에이전트를 24시간 가동해 외부 의존 서비스를 노리고 있다고 경고했으며, 최첨단보다 반 세대에서 한 세대 뒤처진 모델로도 공격에 충분한 능력이 있다고 밝혔다. 대응책으로는 사내 지속적 침투 테스트와 형식 검증을 통한 소프트웨어 재구축을 제시했다.

The Decoder 발췌