Claude API 能在对话中途换 effort 档位了,提示缓存不受影响

AI资讯11分钟前发布 Lindqvist
2.4K 0

给 Claude 开发者的一个小更新,但做智能体的人应该会很喜欢。

Anthropic 给 Claude API 加了一项 Beta 能力:在同一段对话里,可以随时调整模型的 effort 等级,也就是它回答问题时愿意“费多大劲”。

以前 effort 是整段请求的顶层参数,一段会话从头到尾用一个档位。想中途改,要么重开会话,要么改顶层配置,后者会让已经命中的提示缓存失效,成本一下就上去了。

新做法是在消息序列里插一条内容为空的 system 消息,在里面用 output_config.effort 指定新的等级。顶层配置不动,缓存照样命中。

有个细节要算准:新档位不回溯。它从下一条带新输入的用户消息开始生效,已经生成的内容不受影响。

effort 影响的不只是回答长短,还包括思考深度、调用工具的次数。典型用法是:前面检索、整理资料的阶段用低档,省 token、跑得快;到了真正要推理、做决策的节点再拉高。长链路的智能体任务里,这样分段调档比全程开高档便宜不少。

使用时要带 beta 头 mid-conversation-output-config-2026-07-01。支持 Fable 5.2、Opus 5.5、Sonnet 5.5、Haiku 5.5 等型号,Amazon Bedrock、Google Cloud、Azure 上也能用。

© 版权声明

相关文章

Claude API 能在对话中途换 effort 档位了,提示缓存不受影响 暂无评论

none
暂无评论...