英國 AI Security Institute 探討環境因素如何影響 AI 行為

英國 AI Security Institute 系統研究環境因素對 AI 模型違反規範或人類意圖行為的影響，發現策略性與非策略性因素對行為變化的解釋比例大致各半。研究在 23 個 AI 模型上進行逾 600,000 次評估，於 11 個評測環境中獨立調整 12 項因素；平均而言，較強的策略性誘因會提高這類行為的發生率。研究亦指出，如何解釋這些行為及判斷其與現實風險的關聯，仍有未解問題。