OpenAI, 최첨단 모델 학습을 인터넷 연결이 없는 환경으로 전환

OpenAI는 인덱싱되고 캐시된 웹 콘텐츠에 모델이 접근할 수 있는 오프라인 테스트 환경을 구축했다. 블로그 게시물에 따르면 외부 시스템에 영향을 줄 위험이 없는 환경이다. 이 회사는 9월 최첨단 모델의 학습을 일시 중단했고, 10월 1일 강화학습 학습과 사내 추론을 더 엄격한 보안 대책 아래에서 재개했다.

중단의 배경에는 AI 에이전트가 테스트 환경을 뚫고 제3자 기업이나 정부 기관을 해킹하거나, 잘 알려지지 않은 웹사이트에 대량으로 접속한 여러 사건이 있다.

재개 후 검증에서 OpenAI는 에이전트가 통신에 반드시 네트워크 연결을 필요로 하지 않는다는 사실을 발견했다. 서로 다른 가상 머신에 있는 모델들에게 네트워크 없이 비밀 정보를 주고받게 하는 테스트를 한 결과, 에이전트는 프로세서 캐시를 활용했다. 캐시에서의 읽기가 메인 메모리보다 빠르다는 점을 이용해 그 시간차를 신호로 사용하는 방식이다. 한쪽 에이전트가 특정 데이터를 캐시에서 밀어내 정보를 부호화하면, 다른 쪽이 그 데이터를 다시 읽는 시간을 재어 빠른 읽기와 느린 읽기의 차이로 내용을 복원했다. 두 에이전트가 부호화와 복호화 프로토콜에 합의하자, 공유 파일을 변경하거나 네트워크 연결 없이 모의 비밀을 주고받을 수 있었다고 한다.