客服 AI 智能體的提示詞注入與退款風險

2026-10-31，DEV Community 一篇文章指出，若退款工具信任模型提出的請求，客服 AI 智能體可能因提示詞注入而被利用，造成退款濫用。文章引用 tau-bench 測試，稱 gpt-4o 在零售任務的 pass^8 低於 25%；作者同時提醒，該測試並非針對攻擊者，反覆嘗試帶來的風險是作者的推論。文章主張把退款上限及審批門檻寫入工具程式碼，而非只放在提示詞中；示例程式碼會核對身份、訂單狀態及金額，限制每筆訂單的退款次數，超出上限則交由人工審批。

AI 根據報道生成 · 2 小時前更新

還沒有足夠的連續觀測數據，暫不繪製趨勢。