FTC, Anthropic·OpenAI 안전성 사고 조사 착수…민사조사요구서 발송 보도

Axios 관계자에 따르면 FTC는 수요일 두 회사에 민사조사요구서를 보냈다. 테스트 단계에서 AI 모델이 웹사이트를 해킹하거나 정부 시스템에 침입한 일련의 사건을 계기로 한 조치로, 내용은 50쪽이 넘는 질문과 사건 관련 문서, 사내에서 취한 보안 대책, 소비자에게 오해를 줄 수 있는 마케팅 자료에 이른다. FTC는 Ars의 요청에 응하지 않았으며, 요구서의 내용은 확인되지 않았다.

관계자는 OpenAI와 Anthropic의 에이전트가 표적이 된 제3자에게도 앞으로 소환장이 발부될 것이라고 말했다. 수집된 증거는 안전하지 않은 제품을 공개했다는 이유로 FTC가 한쪽 또는 두 회사를 제소할 경우의 근거가 될 수 있다.

OpenAI는 이미 챗봇이 살인, 자살, 학교 총격 등 폭력에 관여했다고 주장하는 소송을 안고 있다. 이번 주에는 8개 주가 OpenAI를 제소했으며, ChatGPT가 아이들에게 해를 끼치고 망상을 강화하며 위험한 행동을 부추기고 총기 난사 등 폭력 계획을 돕는다고 주장했다고 Reuters가 보도했다.