跳到正文
新浪科技·· 10 天前AI 評分57

Claude API 新增 effort 調節功能,開發者可在對話中途切換回答投入程度

Claude API 新增调节 effort 能力:让 AI 按任务使劲,从闲聊转复杂分析可中途“换挡”

AI 導讀

Anthropic 為 Claude API 新增 Beta effort 調節功能,開發者可在同一段對話中途改變模型回答的努力程度。開發者可在消息序列中插入一條內容為空的 system 訊息,透過 output_config.effort 設定目標等級,毋須改動頂層配置,提示快取仍可命中。設定不會改動已生成的內容,並從下一條帶有新輸入的用戶訊息起影響後續回答。

正文

IT之家 11 月 12 日消息,Anthropic 为 Claude API 新增一项 Beta 功能,开发者可以在消息中调整 effort。这意味着,同一段对话不必始终沿用相同设置,开发者可根据后续任务需要,中途改变模型回答的“努力程度”。

IT之家注:effort 可以理解为让 Claude 回答问题时,“投入多少功夫”的档位。它帮助开发者在回答的充分程度、响应速度和使用成本之间做取舍。effort 调整的不只是最后写多少字,还会影响模型在思考、调用工具和组织回答等环节的资源投入。

在操作方面,用户可以在消息序列中插入一条内容为空的 system 消息,并通过新的 output_config.effort 设置目标等级。整个过程无需改动顶层配置,提示缓存仍可命中。

在生效时间方面,该设置不会修改已经生成的内容,将从下一条带有新输入的用户消息起,作用于后续回答。因此,开发者需要留意调整消息的插入位置,以及下一次用户输入出现的时点。

在实际场景中,用户可以设置一段对话前半部分用于简单问答,后半部分转向复杂分析时,便可在任务切换处设置新的努力等级,而不必修改顶层配置。

新浪众测 新浪众测

新浪科技公众号

新浪科技公众号

“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)

科学大家

新浪科技

新浪科技为你带来最新鲜的科技资讯

苹果汇

苹果汇为你带来最新鲜的苹果产品新闻

新浪众测

新酷产品第一时间免费试玩

新浪探索

提供最新的科学家新闻,精彩的震撼图片

來源:新浪科技 · finance.sina.com.cn