Claude Blog·· 23일 전AI 점수50
Uber CISO 필립 마틴, AI 에이전트 대상 내부 위협 프로그램 소개
Uber's CISO on building an insider threat program for AI
AI 요약
Uber CISO 필립 마틴은 AI 에이전트에게도 직원과 같은 내부자 위협 프로그램이 필요하다고 주장했다. 이 회사는 오픈소스로 공개한 AI Detection and Response(ADR)를 통해 에이전트 하네스에서 텔레메트리를 실시간으로 수집하고, 허용 범위를 벗어난 동작에 즉시 대응하고 있다. ADR은 Anthropic의 Enterprise Frontier Safeguards를 보완하는 형태로 사용되며, 회사 데이터는 Uber의 허가 없이는 Anthropic이 접근할 수 없다고 한다.
출처: Claude Blog · claude.com