跳到正文
X · 宝玉·· 9 小时前AI 评分33

Anthropic 为 Claude API 公测 Message Threads:长对话免重发历史,回复更快价格不变

Claude API 公测 Message Threads:长对话不用每轮重发历史,回复更快,价格不变 Anthropic 今天给 Messages API(开发者调用 Claude 的主要接口)上线了“消息线程”(message threads)公测:服务器替你把对话暂存几分钟,下一轮只需要发新消息和上一条回复的 ID。 以前这个接口不记历史消息,每次请求都要把之前所有消息、工具返回的结果从头再发一遍。Agent 一次会话可能发几百个请求,对话涨到几十万 token 后,光是重发就会拖慢 Claude 开始回复的时间。 Claude Code 已经给大多数用户默认开了这个功能。官方数据:50 万到 100 万 token 的请求,从发出到 Claude 开始输出的等待时间(中位数)缩短约 35%;长对话里,单次请求的大小(中位数)从约 800 KB 降到 1.8 KB。 【要多花钱吗】 不用,但也省不了钱。按标准 token 价格计费,速率限制不变。请求虽然变小了,Claude 每轮仍要读一遍完整对话,消耗的 token 和以前一样。 【和提示词缓存有什么区别】 提示词缓存(prompt caching)让服务器不用重复处理已经读过的内容,命中缓存的部分按更低价格计费,省的是钱和计算。消息线程省的是上传,你不用再把整段历史传过去。线程不会自动帮你做缓存,缓存断点还得自己设,官方示例里两者是一起用的。 【开发者怎么用】 在请求里加 thread 参数和 beta 请求头(message-threads-2026-08-12)。第一轮照常发完整对话、系统提示词和工具定义,标记为新建线程;之后每轮只发新消息,带上上一条回复的 ID。 线程 5 分钟没有新请求就过期,接口返回 404,这时要用你自己保存的完整对话重新建一个线程。所以本地仍要留一份完整记录,官方 SDK 的辅助方法能自动处理这一步。 线程中途不能改系统提示词和工具,模型、思考设置也要和第一轮一致,想改就得重开线程。线程数据加密存在内存里、不写硬盘,但它不支持零数据保留(ZDR)和 HIPAA 合规,对数据留存有严格要求的企业要留意。批处理接口暂不支持。 适合长时间运行的 Agent、操作电脑的 Agent(截图不用每轮重传),以及带大量文档、图片的对话。Claude 自家平台、AWS、Microsoft F

AI 导读

Anthropic 为 Claude Messages API 上线 Message Threads 公测,服务器暂存对话几分钟,下一轮只需发新消息和上一条回复 ID。

打开原文x.com
博主
宝玉@dotey

粉丝 26万

AI Engineer, dedicated to learning and disseminating knowledge about AI, software engineering, and engineering management.

互动数据
浏览
1.5万
点赞
46
评论
58
分享
4
收藏
41

数字来自平台,为最近一次抓取时的数据。

来源:X · 宝玉 · x.com