Claude Platform、서버 측에서 대화를 유지하는 message threads를 베타 제공

Anthropic은 2026년 11월 2일 Claude Platform의 Messages API에 대화를 서버 측에서 유지하는 "message threads"를 퍼블릭 베타로 추가했다고 발표했다. Claude Blog와 릴리스 노트에 모두 공지됐다. 베타 헤더는 message-threads-2026-08-12다. 배경에는 장시간 작동하는 에이전트의 사정이 있다. 코딩 에이전트는 한 세션에서 수백 번의 요청을 보내기도 하는데, 기존에는 매번 이전 메시지와 도구 결과를 모두 다시 보내야 했다. 대화가 수십만 토큰에 이르면 이 재전송이 Claude의 응답 시작까지 걸리는 대기 시간을 늘렸다. 사용하려면 Messages API 요청에 `thread` 파라미터를 추가한다. 첫 요청에서는 대화 전체를 보내 스레드를 시작하고, 이후에는 새 메시지와 직전 응답 ID만 보낸다. 이렇게 하면 요청 크기가 작아지고 첫 토큰이 나오기까지의 시간도 줄어든다. 스레드는 턴 사이에 메모리에 유지되며, 암호화되어 디스크에는 기록되지 않는다. 마지막 요청으로부터 5분이 지나면 만료되며, 이후에는 클라이언트가 대화 전체를 다시 보내 새 스레드를 시작해야 한다. 또한 Claude는 매 턴마다 대화 전체를 읽기 때문에, 요청이 작아져도 토큰 사용량은 변하지 않는다. 11월 3일 The Decoder가 전한 바에 따르면, Anthropic은 50만~100만 토큰 요청에서 첫 토큰까지의 시간이 약 35% 단축된다고 설명했다. 특히 코딩 에이전트, 컴퓨터 조작 에이전트, 대량의 문서와 이미지를 다루는 워크플로에서 효과가 크다고 한다.

보도를 바탕으로 AI가 작성 · 2일 전 업데이트