史提芬蕭警告過度依賴 AI 或令專業技能退化

原文刊於信報財經新聞「CEO AI⎹ EJ Tech」

不少人使用生成式人工智能（GenAI）搜尋資料、協助推理，過程中可能逐漸放棄自行思考，不經查證便接受AI答案。英國倫敦國王學院助理教授史提芬蕭（Steven Shaw）早前出席牛津大學生成式人工智能峰會的專題座談，認為即使是專家，也可能會因為過度依賴AI，導致自身專業技能退化。

近八成人盲從錯誤生成答案

談到在AI浪潮下，要如何維護批判性思考，史提芬蕭以航空業為例，指飛行員都是先學習手動飛行，之後才再學習運用自動駕駛。

他建議，「先自己思考，再向AI提問」，因為一開始就直接求助AI，可能讓人過早接受特定問題框架，反而限縮探索其他可能性的空間。

早於今年1月，史提芬蕭發表過一篇關於「認知投降」（Cognitive Surrender）的論文，指出傳統將人類思考分為快速直覺，以及理性分析的二分法，已不足以解釋AI時代的決策模式。其研究團隊為此進行3項實驗，涉及1372名參加者、9593次答題紀錄。

結果發現，當參加者使用AI時，即使AI提供錯誤答案，仍有79.8%會採納其建議。當AI答案正確時，參加者答題準確率可達71%；但當AI出錯，準確率便跌至31.5%，甚至低於完全不用AI的45.8%。

雖然獎勵或即時回饋有助讓人糾正AI錯誤，但仍無法完全消除「認知投降」現象。