본문 바로가기
원문
Latent Space· swyx .ai·· 8일 전AI 점수62

Anthropic은 어떻게 거의 모든 제품을 Claude로 출시하는가, 두뇌와 손을 나누는 설계를 담당자가 말하다

How Anthropic ships Claude with Claude: Separating the Brain from the Hands

AI 요약

Latent Space가 Anthropic의 엔지니어링 책임자 Katelyn Lesse와 프로덕트 책임자 Angela Jiang을 만나 Opus 5.5 공개의 뒷이야기와 Claude Platform의 설계를 들었다. 증류 대책으로서의 thinking block 보존, Managed Agents에서 두뇌(하네스)와 손(샌드박스)의 분리가 주요 화제다. 모델 능력이 향상되면서 공개 시의 접근 관리와 안전 대책이 작업의 대부분을 차지하게 되었다고 한다.

자세히

Opus 5.5 공개에서는 모델 품질과 더불어 가격이 중시되었다. 전 세대에서 지적된 장황한 문장을 개선해 비용 대비 지능을 높였다고 한다. API 측에서는 증류 대책도 추진되어, 턴 사이에 thinking block을 보존하는 요건이 단계적으로 강화되었다. 이로 인해 하네스와의 호환성이 깨지는 고객도 나와, 오픈소스 하네스 관리자와 대형 고객에게 연락해 수동으로 처리하던 컴팩션 작업을 대신하는 기능을 API에 추가했다. 증류를 경계하는 주된 이유는 수익이 아니라 안전 분류기 없이 모델이 사용되는 위험에 있다고 설명한다.

모델 공개 준비에서는 Cognition, Cursor 등의 고객이 얼리 액세스로 자사 하네스와 평가를 활용해 검증한다. 가장 도움이 되는 것은 부정적인 피드백이라고 한다. 게으름과 적극성처럼 사용자마다 바람직한 동작이 다른 점은 난제이며, 초기 버전에서 게으름이 두드러져 재학습으로 되돌린 사례가 거론되었다. 개인화는 effort 등의 파라미터와 기본 설정으로 대응하고 있으며, 현 상태에 만족하지 않는다고도 밝혔다.

접근 관리 역시 큰 작업이 되고 있다. 모델별로 데이터 보존 요건을 정하고, 사이버 및 생명과학 검증 프로그램에서는 안전 대책을 완화한 이용을 허용한다. 그 승인을 시스템 전체에 적용하기 위해 trust grant라는 구조를 만들었고, 유예 기간 관리 등에도 사용하고 있다. 범용적으로 설계한 덕분에 모델 회수에도 활용할 수 있는 기반이 되었다고 말한다.

Claude Managed Agents는 Messages API의 원시 토큰 접근 위에 에이전트 정의와 세션 시작을 제공하는 고수준 추상화다. 샌드박스 기반은 Claude Code 등과 공유하지만 하네스는 별도라고 한다. 메모리와 dreaming의 우선순위는 안전 관련 작업이 늘어나면서 이전보다 낮아졌다. 하네스 자체는 의도적으로 단순하게 유지하여, 개발자가 그 위에 궁리를 더할 여지를 남기는 방침이다.

방송 서두에서 진행자는 Anthropic의 S-1 수치에도 언급했다. 12개월 직원 1인당 매출이 660만 달러로, 1년 전 140만 달러에서 성장했다고 소개했으며, 개선 루프와 투자 루프가 효율을 뒷받침한다는 회사 측 설명을 다뤘다.

출처: Latent Space · latent.space