Claude API 메시지 스레드 베타: 대화는 서버에 두고 새 메시지만 보내 첫 토큰을 빠르게
무엇인가요
메시지 스레드는 Messages API 대화를 서버에 잠깐 보관해 두는 기능이에요. 첫 요청에는 지금처럼 전체 대화·시스템 프롬프트·도구를 보내면서 thread 파라미터를 create로 주고 다음 턴부터는 새 메시지와 직전 응답 id만 continue로 보내요. 그러면 API가 대화를 다시 조립해 모델을 불러요. 스레드는 마지막 요청 뒤 5분이 지나면 만료되고 늦어도 1시간 안에 지워져요. 베타 헤더 message-threads-2026-08-12가 필요하고 SDK의 스레드 도우미를 쓰면 헤더와 재전송을 알아서 처리해 줘요.
thread = client.beta.messages.thread(model="claude-opus-5-5", max_tokens=1024)
thread.send({"role": "user", "content": "Hi!"})왜 중요한가요
긴 에이전트 루프에서는 턴마다 전체 대화를 다시 올리고 API가 그걸 매번 검증하고 토큰으로 나눠요. 스레드를 쓰면 이 일이 새 턴 몫으로 줄어서 대화가 길어져도 첫 토큰까지 걸리는 시간이 낮고 고르게 유지된다는 게 Anthropic 설명이에요. 다만 스레드는 '최선을 다하는' 저장이라 언제든 404가 날 수 있어요. 대화 원본은 앱이 계속 갖고 있다가 전체를 다시 보내는 경로를 처음부터 만들어 둬야 해요.
완성도
Beta 베타베타 헤더가 있어야 쓸 수 있는 베타 기능이에요. Claude API와 Claude Platform on AWS, Claude Models on Google Cloud, Microsoft Foundry에서 쓸 수 있어요.
앞으로 이렇게 지켜보세요
- 정식 출시: 출시 노트에서 베타 헤더 없이 쓰는 정식 버전으로 바뀌는지 보세요.
- 실측: 긴 에이전트 루프에서 첫 토큰 시간이 실제로 얼마나 줄었는지 개발자 측정이 올라오는지 지켜보세요.
- 보관 정책: 5분 만료·1시간 삭제 기준과 프롬프트 캐싱 연동이 문서에서 바뀌는지 확인하세요.