Alex Stamos, AI가 사이버보안을 무너뜨리는 '암흑시대'를 말하다

Stamos는 10월부터 이어진 일련의 침해를 예로 들었다. Fireworks에서 탈취된 API 키로 Cursor에 침입했고, 악성 플러그인이 5,000개 회사에 배포되었다고 한다. 공격에는 중국발 오픈소스 도구 ARTEX가 사용되었으며, 뒤에서 GLM-5.3을 구동하면 다수의 조직에 침투할 수 있다고 설명했다. 한국의 3개 은행을 시작으로 이번 주에는 약 200개 회사가 피해를 입었다고 한다. Binance 사건은 주로 북한에 의한 교묘한 소셜 엔지니어링이며, AI의 관여는 일부에 그친다는 견해다.

기존 보안 산업은 고도의 기술을 가진 사람이 소수라는 전제와, 공격에는 연구팀과 운영팀의 분업이 필요하다는 전제 위에 성립해 있었다. AI로 인해 스크립트 키디도 패치 분석이나 익스플로잇 작성이 가능해지면서 이 전제가 무너지고 있다고 한다. 공격 측의 토큰 단가는 0에 가까워지는 반면 방어 측의 비용은 높은 수준에 머물러 있어, 저렴한 방어 수단의 확립이 시급하다고 말했다.

방어책으로 로그 모니터링에서는 먼저 기존 방식의 분류기로 범위를 좁힌 뒤, 작은 LLM, 큰 LLM으로 단계적으로 넘기는 구성을 제시했다. 자동으로 동작하는 방어 에이전트에는 정지시킬 수 있는 Okta 계정 수에 상한을 두는 등 결정론적 제한이 필요하다고 주장한다. 코드베이스에 1만 건의 버그가 있다면 수정하기보다 테스트와 사양을 정비해 재구축하는 편이 저렴하다고도 말했다. Google과 Amazon이 Linux 커널을 Rust로 재작성해야 한다는 제안도 있다.

기업에는 향후 90일 이내에 RTX 등으로 자사를 공격해 검증할 것을 요구했다. 리스크 관리와 법무 절차가 무거워 많은 기업이 실행하지 못할 것이라고 지적한다. 'swarm'이라는 말은 기술적 이해가 얕다는 표지라고도 말했다. 후반부에서는 AI 생성 콘텐츠 탐지는 확률적이어서 한계가 있으며, 카메라부터 앱까지의 출처를 암호로 검증하는 방식이 더 유망하다고 말했다. 암흑시대를 단축하는 지표로는 중대한 CVE와 Patch Tuesday 건수가 줄어드는지 여부를 꼽았다.