OpenAI· @OpenAI · X·· 14일 전AI 점수42
AI 요약
올여름 회사는 METR과 Redwood Research를 초청해 사내 감시 시스템에 대한 내장형 평가를 시범적으로 실시했다. 3주에 걸쳐 회사 인프라에 대한 깊은 접근 권한을 제공했다. 두 기관의 지식은 감시 시스템을 확장할 때의 안전 대책을 강화하는 데 도움이 됐다. 또한 향후 METR 및 기타 제3자 평가 기관과의 연구 협력 방향을 설정하는 데도 도움이 될 것이다.
본문
This summer, we invited METR and Redwood Research to pilot an embedded evaluation of our internal monitoring system, providing deep access to our infrastructure over three weeks.
Their findings helped strengthen safeguards as we expanded the system and will help shape future research collaborations with METR and other third party evaluators.
Two employees from METR and Redwood Research worked on premises at OpenAI for three weeks this summer in an embedded assessment pilot. This team evaluated the systems OpenAI was using to monitor for misalignment from internal agents. A brief write-up of their work is now public.인용한 게시물 X에서 보기
출처: OpenAI · x.com