Claude API에 Message Threads 베타 등장 — 긴 대화를 35% 빠르게

AI 에이전트가 길어질수록 느려지는 문제, 근본부터 접근했다.

2026년 11월 2일, Anthropic이 Claude Messages API에 새 베타 기능을 추가했다. 이름은 Message Threads. 긴 대화나 에이전트 루프에서 매 요청마다 전체 대화 내용을 다시 보내지 않아도 되게 해주는 기능이다.

결과는 첫 토큰 응답 시간(TTFT) 기준 약 35% 단축이다.

왜 긴 대화는 느려지나?

기존 Claude API의 작동 방식은 이렇다. 대화가 10번 오가면, 11번째 요청을 보낼 때 앞의 10번 대화 내용을 모두 함께 전송한다. 모델이 맥락을 이해하려면 전체 히스토리가 필요하기 때문이다.

에이전트 루프에서는 이게 급격히 무거워진다. 수십만 토큰짜리 대화가 쌓이면, 매 요청마다 그 모든 내용을 네트워크로 보내야 한다. 데이터가 클수록 첫 응답까지 기다리는 시간이 길어진다.

Message Threads는 어떻게 다른가?

Message Threads는 대화 컨텍스트를 서버에 보관한다.

첫 번째 요청은 여전히 전체 대화를 담아 보낸다. 하지만 그 이후부터는 이전 응답 ID만 함께 보내면 된다. 서버가 맥락을 기억하고 있으므로, 클라이언트는 새 메시지만 전송하면 충분하다.

Anthropic이 직접 측정한 수치로는, 50만~100만 토큰 대화에서 중앙값 기준 35% 단축이다. Claude Code 내부 요청 데이터를 기반으로 한 수치다. 외부 개발자 중에는 60만 토큰 루프에서 약 30% 개선을 보고한 사례도 있다.

토큰 비용은 절감되나?

아니다. 이 점이 중요하다.

Message Threads는 네트워크 전송 크기를 줄이는 기능이지, 모델이 처리하는 토큰 수를 줄이지는 않는다. 서버 측에서는 여전히 전체 맥락을 읽어 응답을 생성한다. 과금은 기존과 동일하게 전체 입력 토큰 기준으로 적용된다.

속도는 빠르지만, 비용은 그대로다.

사용하는 방법

Message Threads는 API 헤더 하나로 활성화한다.

anthropic-beta: message-threads-2026-08-12

첫 요청 후 Anthropic 서버가 반환하는 응답 ID를 다음 요청의 previous_message_id 필드에 넣으면 된다. 애플리케이션 단에서는 여전히 전체 대화 기록을 자체적으로 보관해야 한다. 서버 측 스레드는 마지막 요청 후 5분 뒤에 만료되기 때문이다. 스레드가 만료된 경우 API는 404를 반환하며, 앱이 자체 보관한 대화 내용으로 새 스레드를 시작할 수 있다.

어떤 환경에서 사용 가능한가?

현재 Message Threads는 다음 플랫폼에서 지원된다.

• Anthropic 네이티브 API
• AWS (Amazon Bedrock)
• Microsoft Azure AI Foundry
• Google Cloud Vertex AI

단, 무결 데이터 보존(zero-data-retention) 계약이나 HIPAA 규정 준수 계약 고객은 현재 사용할 수 없다. Anthropic 측 확인이 필요한 조건이다.

에이전트 개발자에게 무엇이 달라지나?

현재 긴 에이전트 루프를 운영하는 개발자라면 가장 직접적인 체감을 할 수 있다. 특히 Claude Code처럼 수십~수백만 토큰짜리 컨텍스트를 다루는 경우에 효과가 크다.

사용자 대면 애플리케이션에서는 "첫 응답까지의 대기 시간"이 UX에 직결된다. 35%의 단축은 체감 속도 개선으로 이어질 수 있다.

현재 베타이므로 프로덕션 적용 전 충분한 테스트가 권장된다.

활용 팁

• 스레드 만료(5분)를 고려해, 주기적으로 활성화 여부를 확인하는 로직을 넣는다.
• 스레드 404가 발생하면 전체 대화 기록을 자체 보관한 버퍼에서 꺼내 새 스레드를 시작한다.
• 짧은 단발성 대화보다는 긴 멀티턴 에이전트 루프에서 효과가 크다.
• 비용 절감이 목적이라면 Prompt Caching을 함께 사용하는 것이 더 직접적인 방법이다.

Sources:

• Anthropic opens Message Threads beta, 35% faster first token — aiweekly.co
• Anthropic Opens Claude Message Threads Beta for Long Agent Sessions — tokenpost.com
• Anthropic Message Threads Beta Cuts Latency 35% on Claude — emergent.sh
• Claude API Message Threads: How the Public Beta Works — aicatchup.com
• Claude Platform release notes — platform.claude.com