Anthropic 的 Claude API 官方文档已列出“按消息调整 effort”的 Beta:在对话中追加一条内容为空的 system 消息,设置新的 output_config.effort,并保持顶层配置不变,就能调整后续轮次的努力等级,同时保留之前的提示缓存前缀。以下按 Net.Coffee 原报道的顺序,说明参数、缓存和 Agent 编排场景。
改动落在哪一层
effort 本身已经存在,这次变化在于调整的粒度。顶层的 output_config.effort 早已正式可用,不需要额外的 beta 头,作用是告诉模型这一次愿意花多少思考和输出预算:等级高,推理更充分、回答更慢更贵;等级低,响应更快、token 更省。问题在于它过去是整段请求共用的一个开关。一场几十轮的 Agent 会话里,绝大多数轮次只是读文件、跑命令、确认结果,真正需要深想的只有少数几步,但开发者要么全程开高档,要么全程开低档。
这次的 Beta 把开关从「整段请求」下放到「某条消息之后」。按文档描述,做法有几个要点:
- 在 messages 序列中插入一条内容为空的 system 消息,在它上面挂新的
output_config.effort; - 新等级不追溯改动此前轮次;插在新的用户输入之后时,可作用于该轮回复,其他位置则从下一个有新输入的用户轮次生效,仅含 tool_result 的轮次不算新输入;
- 请求需带 beta 头
mid-conversation-output-config-2026-07-01; - 官方文档列出的 Claude API 支持模型包括 Fable 5.2、Opus 5.5、Sonnet 5.5、Haiku 5.5 等;Amazon Bedrock、Google Cloud 与 Azure 也有支持,但各云的模型清单不同,Bedrock InvokeModel 还需把 beta 值放在请求体的 anthropic_beta 数组。
真正省钱的是缓存那一句
表面上看,开发者以前也能「中途换档」:下一次请求把顶层 effort 改掉就行。代价藏在提示缓存里。缓存按前缀匹配,请求头部的配置一变,后面的长上下文就可能无法复用,几十 K token 的系统提示、工具定义和历史记录要按全价重新计费,首 token 延迟也跟着回到冷启动水平。对长会话来说,这笔账常常比 effort 本身省下的钱还大,于是很多团队干脆不换档。
新做法把调整写成对话里的一条新消息,位置在已缓存的前缀之后,前面的内容一个字节都没变,已有前缀仍可匹配缓存,而不是因为换档重新写入整段上下文。文档在讲自适应思考时也直接建议:日常轮次用这种按消息降档的方式少想一点,而不是去改顶层配置。换句话说,Anthropic 是在把「哪一步值得多花钱」的决定权交给编排层,而不是让模型一律按最高规格干活。
谁会先用起来
最直接的受益者是自己写 Agent 循环的团队。典型的分工是:规划和复杂调试的那几轮拉高 effort,批量改文件、读日志、跑测试的轮次压低;子任务做完回到主线时,再把等级调回来。过去这种策略要靠切换模型来实现,现在同一个模型、同一份缓存就能完成。
需要留意两点。一是它仍是 Beta,beta 头名称带着日期,后续正式发布时参数形态可能还会调整,生产环境最好把这段逻辑做成可开关的。二是经过第三方网关调用时要先确认对方会原样转发 output_config;原报道提醒,如果代理层把这个字段剥掉,请求照样成功,只是设置悄无声息地失效,这种问题很难从返回结果里看出来。
effort 从一个全局旋钮变成可以随对话节奏拧动的东西,说明模型厂商对 Agent 成本的理解在变:贵的往往不是某一次深度推理,而是在不需要深想的地方也按深想的价格付了钱。
来源:Net.Coffee《Claude API 对话中途可改 effort,提示缓存不用推倒重来》,2026 年 11 月 12 日。JCK 源栈沿原文顺序轻度改写;报道归属、分析和限制按原文保留。
核对参考:Anthropic 官方 Per-message effort 文档。已按文档补充生效位置与云平台差异;Sonnet 5.5 的 between_tools 思考模式及 Haiku 5.5 的 disabled 思考模式另有限制。
站内延伸阅读
封面为 AI 创意配图,用于表达报道主题。