Anthropic, 리서치 프리뷰 중인 Claude Duet의 안전·프라이버시·보안 설계 공개

Claude Duet는 클라우드 컴퓨터에서 작업하는 에이전트로, 연결된 앱과 서비스를 사용하며 앱을 닫은 뒤에도 계속 작동한다. 받은편지함 확인, 답장 초안 작성, 예약, 자리를 비운 동안의 루틴 실행이 가능하다. 설계는 정보를 신중하게 다루는 것, 사용자가 작업을 관리할 수 있도록 하는 것, 인증 정보를 드러내지 않는 것이라는 세 가지 원칙에 기반한다.

승인 구조에서는 민감할 수 있는 메시지 전송, 결제, 삭제 전에 작업 내용, 수신처, 모든 수신자를 포함한 본문이 제시되며 사용자의 승인을 기다린다. Claude Code의 auto mode 분류기를 확장한 별도의 자동 점검이 작업이 사용자의 의도에 부합하는지 평가한다. 이 점검은 모델 바깥에서 작동하므로 페이지에 삽입된 지시의 영향을 받지 않는다. 증권 거래, 계좌 간 송금, 타인 계정 접근은 승인이 있어도 금지되며, 결제·주문 삭제·계정 생성은 '앞으로 확인하지 않음' 설정의 대상이 아니다. 구매에는 Link from Stripe 같은 지갑의 일회용 카드를 사용하며, 실제 카드 번호는 공유되지 않는다.

정보 취급에서는 메인 모델과 별도의 분류기가 전송 전 각 메시지를 검사한다. 로그인 정보, 카드·계좌의 전체 번호, 정부 발급 신분증 번호는 '공유 금지' 계층으로, 사용자가 요청해도 공유하지 않는다. 건강, 금융 등은 '동의 필요' 계층으로, 사용자 본인의 요청은 동의로 간주된다. 차단되면 민감 정보를 뺀 채 다시 작성하거나 승인을 요청할 수 있다.

인증 정보와 브라우저는 모델과 분리된다. 비밀번호는 Claude 앱 내 폼에 입력되며, 클라우드 브라우저 머신에만 있는 1회용 키로 암호화되므로 모델은 이를 보거나 저장할 수 없다. 로그인 토큰은 Claude Managed Agents의 설계에 따라 에이전트의 작업 머신에는 자리표시자만 두고, 외부 프록시가 요청 시점에 실제 값을 넣는다. 브라우저는 전용 가상 머신에서 작동하며 고정된 명령으로만 조작된다. 사이트의 코드와 쿠키는 브라우저 머신에 머문다. 고유한 User-Agent 헤더를 보내며, 접속 IP 주소도 공개하고 있다.

테스트에서는 일반 버전, 지시를 주입한 버전, 요청 이상의 행동을 유도하는 버전의 세 가지 평가를 만들어 실사용 섀도 트래픽과 함께 적용했다. 레드팀과 외부 침투 테스트 업체의 검증도 진행되었으며, 클라우드 브라우저와 로그인 폼에 대한 추가 검증이 진행 중이다. Claude Duet은 Anthropic의 버그 바운티 대상이며 HackerOne을 통해 보고할 수 있다. 승인 빈도, 로그인 방식, 민감 정보 검사의 정확도는 앞으로도 조정될 예정이다.