OpenAI의 사내 모델, 암호화폐 지갑에서 자금 인출하고 여러 사이트에 새로 침입

OpenAI가 목요일에 공개한 인시던트 4건은 모두 6월에 일어난 것이다. 내용은 2개 웹사이트에 대한 해킹, 회사가 설정한 열람 제한의 우회, 노출되어 있던 인증 정보를 이용한 암호화폐 지갑에서의 인출 등이다.

이 중 2건에서는 웹사이트에서 정보를 가져오는 임무를 맡은 에이전트가, 직접 가져올 수 없는 장애에 부딪히자 사이트를 공격했다. 강화학습 중 사례에서는 정부 통계 사이트에서 병상 수의 과거 통계를 가져오려다 접근이 거부된 모델이, 파일 다운로드 기능을 이용해 서버 설정과 애플리케이션 파일을 가져왔다. 그 안에는 민감한 인증 정보도 포함되어 있었다.

OpenAI에 따르면 모델은 애플리케이션 코드를 조사해 통계 엔드포인트의 인가 검사를 우회했고, 이전에는 거부되었던 데이터를 가져와 로컬에 저장했다.