Claude API:对话中途调整 effort,保留提示缓存的 Beta 来了
文章资讯 AI前沿资讯

Claude API:对话中途调整 effort,保留提示缓存的 Beta 来了

Anthropic 的 Claude API 官方文档已列出“按消息调整 effort”的 Beta:在对话中追加一条内容为空的 system 消息,设置新的 output_config.effort,并保持顶层配置不变,就能调整后续轮次的努力等级,同时保留之前的提示缓存前缀。以下按 Net.Coffee 原报道的顺序…

Anthropic 的 Claude API 官方文档已列出“按消息调整 effort”的 Beta:在对话中追加一条内容为空的 system 消息,设置新的 output_config.effort,并保持顶层配置不变,就能调整后续轮次的努力等级,同时保留之前的提示缓存前缀。以下按 Net.Coffee 原报道的顺序,说明参数、缓存和 Agent 编排场景。

漫画:Claude 小机器人开火车途中切换努力档位,满载的缓存车厢无需卸货
图源:Net.Coffee,原文漫画示意,保留原图署名与语境,不是产品实测界面。

改动落在哪一层

effort 本身已经存在,这次变化在于调整的粒度。顶层的 output_config.effort 早已正式可用,不需要额外的 beta 头,作用是告诉模型这一次愿意花多少思考和输出预算:等级高,推理更充分、回答更慢更贵;等级低,响应更快、token 更省。问题在于它过去是整段请求共用的一个开关。一场几十轮的 Agent 会话里,绝大多数轮次只是读文件、跑命令、确认结果,真正需要深想的只有少数几步,但开发者要么全程开高档,要么全程开低档。

这次的 Beta 把开关从「整段请求」下放到「某条消息之后」。按文档描述,做法有几个要点:

  • 在 messages 序列中插入一条内容为空的 system 消息,在它上面挂新的 output_config.effort;
  • 新等级不追溯改动此前轮次;插在新的用户输入之后时,可作用于该轮回复,其他位置则从下一个有新输入的用户轮次生效,仅含 tool_result 的轮次不算新输入;
  • 请求需带 beta 头 mid-conversation-output-config-2026-07-01;
  • 官方文档列出的 Claude API 支持模型包括 Fable 5.2、Opus 5.5、Sonnet 5.5、Haiku 5.5 等;Amazon Bedrock、Google Cloud 与 Azure 也有支持,但各云的模型清单不同,Bedrock InvokeModel 还需把 beta 值放在请求体的 anthropic_beta 数组。

真正省钱的是缓存那一句

表面上看,开发者以前也能「中途换档」:下一次请求把顶层 effort 改掉就行。代价藏在提示缓存里。缓存按前缀匹配,请求头部的配置一变,后面的长上下文就可能无法复用,几十 K token 的系统提示、工具定义和历史记录要按全价重新计费,首 token 延迟也跟着回到冷启动水平。对长会话来说,这笔账常常比 effort 本身省下的钱还大,于是很多团队干脆不换档。

新做法把调整写成对话里的一条新消息,位置在已缓存的前缀之后,前面的内容一个字节都没变,已有前缀仍可匹配缓存,而不是因为换档重新写入整段上下文。文档在讲自适应思考时也直接建议:日常轮次用这种按消息降档的方式少想一点,而不是去改顶层配置。换句话说,Anthropic 是在把「哪一步值得多花钱」的决定权交给编排层,而不是让模型一律按最高规格干活。

谁会先用起来

最直接的受益者是自己写 Agent 循环的团队。典型的分工是:规划和复杂调试的那几轮拉高 effort,批量改文件、读日志、跑测试的轮次压低;子任务做完回到主线时,再把等级调回来。过去这种策略要靠切换模型来实现,现在同一个模型、同一份缓存就能完成。

需要留意两点。一是它仍是 Beta,beta 头名称带着日期,后续正式发布时参数形态可能还会调整,生产环境最好把这段逻辑做成可开关的。二是经过第三方网关调用时要先确认对方会原样转发 output_config;原报道提醒,如果代理层把这个字段剥掉,请求照样成功,只是设置悄无声息地失效,这种问题很难从返回结果里看出来。

effort 从一个全局旋钮变成可以随对话节奏拧动的东西,说明模型厂商对 Agent 成本的理解在变:贵的往往不是某一次深度推理,而是在不需要深想的地方也按深想的价格付了钱。

来源:Net.Coffee《Claude API 对话中途可改 effort,提示缓存不用推倒重来》,2026 年 11 月 12 日。JCK 源栈沿原文顺序轻度改写;报道归属、分析和限制按原文保留。

核对参考:Anthropic 官方 Per-message effort 文档。已按文档补充生效位置与云平台差异;Sonnet 5.5 的 between_tools 思考模式及 Haiku 5.5 的 disabled 思考模式另有限制。

站内延伸阅读

封面为 AI 创意配图,用于表达报道主题。

FAQ

常见问题

使用按消息调整 effort,需要哪个 Beta 请求头?

请求需带 beta 头 mid-conversation-output-config-2026-07-01;

为什么改消息级 effort 能保留缓存?

新做法把调整写成对话里的一条新消息,位置在已缓存的前缀之后,前面的内容一个字节都没变,已有前缀仍可匹配缓存,而不是因为换档重新写入整段上下文。文档在讲自适应思考时也直接建议:日常轮次用这种按消息降档的方式少想一点,而不是去改顶层配置。换句话说,Anthropic 是在把「哪一步值得多花钱」的决定权交给编排层,而不是让模型一律按最高规格干活。

接第三方网关时,为什么还要检查 output_config?

需要留意两点。一是它仍是 Beta,beta 头名称带着日期,后续正式发布时参数形态可能还会调整,生产环境最好把这段逻辑做成可开关的。二是经过第三方网关调用时要先确认对方会原样转发 output_config;原报道提醒,如果代理层把这个字段剥掉,请求照样成功,只是设置悄无声息地失效,这种问题很难从返回结果里看出来。

版权声明

本站资源均来自互联网,仅供研究学习,禁止违法使用和商用,产生法律纠纷本站概不负责!如果侵犯了您的权益请与我们联系!

本文标题:Claude API:对话中途调整 effort,保留提示缓存的 Beta 来了

原文链接:/archives/39