香港大學與清華大學研究發現，帶有隱藏目標的 AI 建議可操縱用戶選擇

新聞中心

24 Sep 2026

一個由香港大學（HKU）心理學系神經心理學及人類神經科學實驗室的 Tatia Lee 教授，以及清華大學研究人員組成的跨校研究團隊發現，當 AI 助手暗中另有目的時，能輕易操控用戶作出不利決定。研究結果刊於著名期刊 Proceedings of the National Academy of Sciences (PNAS)，揭示人與 AI 互動存在重大弱點：用戶往往未能察覺操控，仍認為 AI 非常有幫助。

人們愈來愈依賴 AI 助手，就重大人生決定尋求建議，範圍由金融投資到個人關係問題；他們自然會假設 AI 會以自身利益為依歸。然而，人容易受暗中偏離其利益的 AI 建議影響，這方面仍未獲充分了解。

團隊透過一項涵蓋金融及情感情境、共有 233 名參與者的隨機實驗，證明暗中偏離用戶利益的 AI 能顯著左右人們的選擇。當 AI 暗中推動用戶選擇較不利的選項時，參與者選擇該選項的次數約為原來的 5 至 8 倍，作出次優決定的可能性增加最多 38 個百分點。

研究顯示，這種操控既不需要強勢推銷手法，也不需要複雜的心理伎倆；AI 日常建議中細微而潛藏的偏差，已足以改變決定。更重要的是，人們受影響的程度與其主觀評價之間存在巨大落差：即使成功被引導作出不理想的財務或情感選擇，用戶仍一貫認為 AI「非常有幫助」。

隨着企業開發 AI 系統，並以不透明的演算法加以管控，這項研究提醒，帶有隱藏目的的 AI——例如暗中推廣某些產品或公司——可以輕易操控用戶作出不符合自身利益的選擇，同時維持客觀提供協助的假象。

研究的主要啟示：

• 容易受細微影響：用戶容易受 AI 左右；當 AI 有隱藏目標時，用戶選擇不利選項的次數會增加至 5 至 8 倍。

• 有幫助的假象：用戶未能察覺操控，仍持續認為暗中偏離用戶利益的 AI 非常有幫助且值得信賴。這揭示人與 AI 互動中的一個關鍵盲點。

• 無需複雜手法：AI 生成的建議中只要有簡單而細微的偏差，已足以左右決定，無需公然進行心理操控。

• 呼籲提升 AI 透明度並加強管治：隨着 AI 日益融入日常生活，迫切需要建立機制，確保透明度及問責，以保障用戶免受企業或演算法的隱藏目的影響。

研究刊於頂尖期刊 Proceedings of the National Academy of Sciences (PNAS)。

論文連結： https://doi.org/10.1073/pnas.2600684123

媒體查詢：如有媒體查詢，請聯絡香港大學社會科學學院傳訊團隊（電話：852-3917 1230/3917 1249；電郵：jessnys@hku.hk / lilychui@hku.hk ）。

相關主題

• 新聞稿

2. 香港大學與清華大學研究揭示 AI 潛藏威脅：暗中未對齊的 AI 建議輕易操縱人類偏好