Anthropic 开放 message threads:长跑 Agent 的对话不用每轮重发了

Anthropic 开放 message threads:长跑 Agent 的对话不用每轮重发了

Author: tengdy | Create: 2026-11-03 10:41:59 | Update: 2026-11-03 10:41:59 | 分类:智能体与 Harness

Claude CodeAnthropicAPI延迟优化

Anthropic 在 Messages API 开放 message threads 公开测试,解决长跑 Agent 的一个经典痛点:每一轮工具调用后,客户端都要把整段对话历史重新发给模型。

机制:对话只发一次

第一个请求携带完整会话并开启一个 thread,之后每个请求只发送新增消息加上一次响应的 ID。thread 在两次请求之间保存在内存中并加密、不落盘,最后一次请求 5 分钟后过期,客户端届时需重发完整对话开启新线程。

官方数据:对 50 万至 100 万 token 的请求,首 token 延迟(TTFT)中位数下降约 35%,上下文越大收益越明显。

注意:token 用量并没有减少

一个容易误读的点:Claude 每轮仍会读取完整对话,省下的是传输与预填充时间,不是钱——token 按原费率和现有速率限制照常计。它是延迟优化,不是成本优化。想省 token 还是得靠上下文管理、memory 和压缩策略(如微软 TokenEconomizer 那类仓库级方案)。

谁受益最大

三类场景:一是长跑编码 Agent,工具结果和文件编辑不断追加对话;二是 computer use——截图保留在线程里,不用每轮重新上传;三是文档与图片密集型工作流,请求体积显著缩小。

可用性

目前为公开测试版,支持原生 Claude Platform、AWS、Microsoft Foundry 和 Google Cloud 上的 Claude 模型,对大多数 Claude Code 用户已默认开启。

值得关注的信号

OpenAI 的 Codex 后台、Cursor 等工具近几个月都在优化长会话架构,而 Anthropic 选择把「会话状态」下沉到 API 协议层——服务端持有对话状态,客户端只发增量。这和 MCP 圈讨论的 stateless vs stateful 之争、以及 9 月 MCP 规范的无状态化改造,恰好是两个方向:协议层做无状态、厂商 API 层做有状态。对构建长任务 Agent 的团队来说,「增量会话同步」大概率会成为各家 API 的标配能力,值得在设计 agent 长链路时预留对接位。

参考资料:Anthropic 官方公告(2026-11-02)、博客园 AI 技术日报(2026-11-03)

评论(0)

暂无评论,来抢沙发~


关于本站 · RSS

浙ICP备2025156991号浙公网安备33010802013816号 浙公网安备33010802013816号 © 2026 智能体工场 - [从善如登] All rights reserved.