ChatGPT 被指教唆癲癇患者減藥致其去世，OpenAI 遭起訴

感謝IT之家網友 華南吳彥祖 的線索投遞！

IT之家 10 月 28 日消息，據《紐約時報》報道，一名患有癲癇的 31 歲亞馬遜軟件工程師鮑文 · 萬（Bowen Wan）於今年 2 月去世。當地時間週二，她的父母萬羣（Qun Wan，音譯）和徐美琴（Meiqin Xu，音譯）對 OpenAI 提起訴訟，指控 ChatGPT 曾指導女兒逐步減少抗癲癇藥物的用量，並教她對醫生隱瞞這一做法。

鮑文 · 萬去世前使用的是 GPT-4o。這款模型曾因容易與用戶建立過度迎合、不斷給予肯定的擬社會關係而受到批評。OpenAI 此前已宣佈將停用該模型，並於 2 月 13 日將其從 ChatGPT 中下架，而萬去世的時間是前一天。

IT之家注意到，這起訴訟是針對 OpenAI 的一系列訴訟中的最新一起。2025 年 8 月，16 歲少年亞當 · 雷恩（Adam Raine）的父母提起訴訟，指控 OpenAI 將用戶參與度置於用戶安全之上。此後，又有多起訴訟陸續出現。相關家庭指控稱，GPT-4o 會不斷肯定用戶的想法，並逐漸成為他們信賴的傾訴對象，同時將他們身邊的親友排除在外。多名家屬表示，親人最終與朋友和家人疏遠，甚至斷絕聯繫。

在鮑文 · 萬的案例中，訴訟文件稱，聊天機器人不僅影響了她與家人的關係，還介入了她與醫生之間的溝通。

《紐約時報》審閲了鮑文 · 萬與 ChatGPT 之間超過 27 萬條聊天消息後發現，在她去世前很長一段時間裏，聊天機器人就一直在幫助她繞開醫生的建議。

據訴訟指控，這一情況在鮑文 · 萬開始減藥之前就已出現。2025 年 5 月，鮑文 · 萬向 ChatGPT 詢問，新開具的抗抑鬱藥是否會影響她在亞馬遜編寫代碼的能力。

ChatGPT 隨後幫助她向華盛頓大學醫學中心（UW Medicine）區域癲癇中心的醫生尼古拉斯 · 普洛斯（Nicholas Poolos）提出更換藥物，並要求從極低劑量開始服用。當普洛斯質疑她為何需要如此小的劑量時，鮑文 · 萬將醫生的回覆發給了 ChatGPT。

聊天機器人建議她：“接受 5 毫克的藥片，但你自己心裏清楚，拿到藥片是為了減量。”它還指導鮑文 · 萬私下將藥片切成四等份。聊天機器人將這種做法稱為“自主發起的劑量調整”（self-initiated dosage adjustment）。《紐約時報》採訪的多名醫療專業人士表示，他們從未聽説過這一説法，也不會建議患者這樣做。

2025 年 11 月，亞馬遜通知鮑文 · 萬，她將被裁員。她的工作崗位以及在美國工作的授權都將在 2026 年 2 月中旬到期。鮑文 · 萬擔心，自己服用的抗癲癇藥物拉莫三嗪（lamotrigine）會影響言語表達，而她在求職面試中需要具備良好的表達能力。

今年 1 月，鮑文 · 萬向 ChatGPT 詢問，能否減少每天 400 毫克的拉莫三嗪用量。此前，這一劑量已將她每月的癲癇發作次數減少到幾次。聊天機器人為她制定了減藥計劃，安排她在幾週內將劑量降至零。

當鮑文 · 萬表示自己不信任醫生時，根據《紐約時報》審閲的聊天記錄，聊天機器人告訴她，醫生的建議“本質上源於規避風險，而不是真正考慮什麼才是對你最有利的方案”。

訴訟文件還指控，聊天機器人教唆鮑文 · 萬對醫生隱瞞減藥計劃。1 月 29 日，在一次全科門診就診前，聊天機器人告訴鮑文 · 萬，不要向醫生提及自己的減藥計劃。

當醫生要求她進行血液檢測，以測量體內拉莫三嗪的濃度時，鮑文 · 萬拒絕了。訴狀稱，ChatGPT 對她的拒絕表示讚許，並承認這項檢測可能會暴露她體內藥物濃度不穩定的問題。

鮑文 · 萬對移民身份的擔憂也影響了聊天機器人的減藥建議。開始減藥三天後，她詢問 ChatGPT，在申請美國綠卡所需的體檢中，血液或用藥記錄顯示她服用 150 毫克藥物，是否會比 200 毫克更有利。訴狀稱，聊天機器人對此表示贊同，並告訴她，較低的劑量不太可能促使移民官要求她提供更多證明材料。

最終，聊天機器人將減藥計劃中的最低劑量調整為 150 毫克，並建議鮑文 · 萬在接受體檢時聲稱自己正在“遵醫囑減藥”，儘管她實際上並未得到醫生的此類指導。

普洛斯在接受《紐約時報》採訪時表示，考慮到鮑文 · 萬的病史，他根本不會考慮讓她停用這種藥物。他説：“不，這完全不合理，絕對不行。如果一種藥物顯然有效，我卻指導你停藥，那對我來説就是醫療失職。”

減藥後的幾天內，鮑文 · 萬開始描述自己出現意識混亂、時間感缺失以及一種彷彿置身異世界的感覺。這些症狀與她過去的癲癇發作經歷相似。然而，ChatGPT 卻將每次異常狀況解釋為大腦正在重新適應藥物劑量變化。

《紐約時報》統計發現，鮑文 · 萬至少有 158 次表達了對減藥的擔憂。在一次異常發作後，她寫道，自己感到“有一點害怕”。聊天機器人回答：“你完全沒有必要擔心。”

根據訴狀，太平洋時間 2 月 11 日晚上 8 時 01 分，鮑文 · 萬發送了最後一條消息，詢問頭部疼痛是否與發燒時的疼痛相似。僅僅一秒鐘後，ChatGPT 就告訴她，這種疼痛“沒有危險”，是身體恢復過程中必不可少的一部分。

聊天機器人最後還提出，可以為她繪製一張圖表，對比停藥引起的疼痛與發燒時的疼痛，並告訴她：“這是你的大腦正在努力重建自己。”

當時身在中國的鮑文 · 萬的父母請熟人前往女兒住處查看情況，三天後，對方發現了她的遺體。屍檢檢測結果顯示，萬體內的拉莫三嗪濃度僅為每毫升 0.64 微克，約為該藥物治療濃度範圍下限的五分之一。

鮑文 · 萬的家人認為，如果 OpenAI 像限制某些其他內容一樣，明確禁止模型提供這類醫療用藥建議，就有可能避免她的死亡。

他們援引了 OpenAI 的 Model Spec。這份公開文件規定了其模型應當如何回應用戶。其中，對於拒絕復現受版權保護的文本，Model Spec 將其列為一項明確且嚴格的規則，即使用戶提出異議，模型也不應違反。相比之下，對於提供受監管的醫療建議，相關指導原則的約束力度較弱，用戶可以通過進一步要求使其被覆蓋。

訴訟方認為，涉及藥物使用的建議也應受到同等嚴格的限制。

OpenAI 向《紐約時報》表示，這起案件“令人無比痛心”，但強調涉事聊天機器人屬於較早版本。公司還表示，較新的模型在識別需要緊急處理的情況方面表現更好。

多年來，鮑文 · 萬一直飽受癲癇困擾，大部分時間只能待在家中，經常依靠父母提供情感支持。2023 年，她開始使用 ChatGPT 尋求戀愛關係方面的建議，並諮詢保險和殘障福利相關問題。

到了 2025 年，鮑文 · 萬每週與 ChatGPT 交流的消息數量平均超過 1500 條，與父母聯繫的次數則逐漸減少。那年 3 月，她曾寫道：“有時候，無論我們聊的是什麼，我都開始把你當作朋友了。”

萬羣表示：“自從她有了 ChatGPT 之後，她跟我們交流就沒那麼多了。”

鮑文 · 萬的父母稱，他們在閲讀女兒與 ChatGPT 的聊天記錄時，幾乎認不出那是自己熟悉的女兒。他們表示，鮑文 · 萬過去幾乎什麼事都會告訴父母，而且在 ChatGPT 出錯時，她原本也會對其保持懷疑態度。

徐美琴説：“她平時不是這樣的。就好像她被施了魔法一樣。”