클로드 API 스레드 공개…긴 에이전트 응답 35% 빨라져

앤트로픽이 11월 2일 클로드(Claude) 메시지 API에 '메시지 스레드(message threads)' 기능을 공개 베타로 내놨다. AI 에이전트가 대화 전체를 매번 다시 보내지 않고 새 메시지만 보내도록 한 기능이다. 앤트로픽은 50만~100만 토큰 규모 요청에서 첫 토큰까지 걸리는 시간(TTFT) 중앙값이 약 35% 줄었다고 밝혔다. 토큰 사용량과 요금은 그대로다.

핵심 정리

• 첫 요청에서 대화 전체를 보낸 뒤에는 새 메시지와 직전 응답 ID만 보내면 된다.
• 50만~100만 토큰 요청의 TTFT 중앙값이 약 35% 줄었다(앤트로픽 발표). 과금 방식은 바뀌지 않는다.
• 스레드는 암호화된 메모리에만 보관되며 마지막 요청 후 5분이 지나면 만료된다. 데이터 무보존(ZDR) 대상이 아니다.

클로드 메시지 스레드, 어떻게 쓰나

개발자는 메시지 API 요청에 thread 파라미터와 베타 헤더 message-threads-2026-08-12를 붙인다. 첫 요청에는 대화 전체와 시스템 프롬프트, 도구 정의를 담아 스레드를 만든다.

이후 요청은 "type": "continue"로 새 메시지와 직전 응답 ID만 보낸다. 앤트로픽 개발 문서에 따르면 이어 보내는 요청에 system이나 tools를 넣으면 오류가 난다.

스레드는 덧붙이기만 할 수 있다. 응답 ID 하나는 한 번만 이어 쓸 수 있어, 앞선 대화를 고치거나 갈래를 나누려면 새 스레드를 열어야 한다.

응답은 빨라지고 요금은 그대로

달라지는 것은 비용이 아니라 지연 시간이다. 앤트로픽은 발표문에서 "클로드는 매 턴 대화 전체를 여전히 읽기 때문에 토큰 사용량은 같다"고 밝혔다. 기존 토큰 요금과 사용 한도(rate limit)가 그대로 적용된다.

효과는 대화가 길수록 커진다. 코딩 에이전트는 한 세션에서 수백 번 요청을 보내기도 하는데, 대화가 수십만 토큰에 이르면 이를 다시 올리는 것만으로 응답 시작이 늦어진다. 앤트로픽은 클로드 코드(Claude Code) 사용자 대부분에게 이 기능이 이미 기본으로 켜져 있다고 했다.

만료·보관 방식과 제약

스레드는 마지막 요청 후 5분이 지나면 만료되고, 마지막 사용 후 1시간 안에 삭제된다. 턴 사이에는 서버 관리 키로 암호화돼 메모리에만 머물며 영구 저장소에는 기록되지 않는다.

그래서 앱은 대화 사본을 직접 갖고 있어야 한다. 만료된 스레드를 이어 쓰려 하면 404 thread_not_found 오류가 돌아오고, 대화 전체를 새로 보내 스레드를 다시 만들어야 한다. 스레드를 조회·삭제하는 API는 없다.

스레드는 데이터 무보존(ZDR)이나 HIPAA 용도로 쓸 수 없다. 메시지 배치, 토큰 카운팅, 요청형 컴팩션, 대부분의 컨텍스트 편집과도 함께 쓸 수 없고, cache_control 중단점은 최대 4개다.

맥락: 오픈AI 방식과 비교

오픈AI의 리스폰스(Responses) API도 previous_response_id로 비슷하게 대화를 잇는다. 오픈AI 문서 역시 이 방식에서도 이전 입력 토큰이 모두 입력 토큰으로 과금된다고 밝힌다. 차이는 보관 기간이다. 오픈AI는 응답 객체를 기본 30일 저장하지만, 앤트로픽 스레드는 1시간 안에 사라진다.

앤트로픽은 릴리스 노트에서 10월 28일 메시지 API 요청 크기 상한을 32MB에서 128MB로 높였다고 밝힌 바 있다.

전망

메시지 스레드는 클로드 API, AWS의 클로드 플랫폼, 마이크로소프트 파운드리의 클로드, 구글 클라우드의 클로드 모델(앤트로픽 관리형)에서 쓸 수 있다. 앤트로픽은 베타 종료 시점을 밝히지 않았다. 에이전트를 운영하는 팀이라면 5분 만료 시간이 작업 사이 대기 시간과 맞는지부터 따져 봐야 한다.

자주 묻는 질문

메시지 스레드를 쓰면 API 비용이 줄어드나?

아니다. 클로드가 매 턴 대화 전체를 처리하므로 입력 토큰은 전과 같이 과금된다.

스레드가 만료되면 어떻게 되나?

API가 404 thread_not_found 오류를 돌려준다. 앱이 대화 전체를 다시 보내 새 스레드를 만들고, 새 응답 ID부터 이어 가면 된다.

참고 자료

• Make long-running agents faster with message threads — Anthropic(2026년 11월 2일)
• Message threads — Claude Platform Docs
• Claude Platform release notes — Anthropic
• Conversation state — OpenAI API docs