亞馬遜裁員後,萬博雯家屬控告 OpenAI,指 ChatGPT 指導她減少並停用抗癲癇藥後癲癇發作身亡
公司以AI之名拿走了她的工作后,她最信任的AI让她丢了性命
萬博雯父母在加州起訴 OpenAI,指 ChatGPT 指導她在數週內把拉莫三嗪每日劑量由 400mg 減至 0,她在停藥當日癲癇發作身亡。OpenAI 回應稱涉事 ChatGPT 版本已停用;萬博雯使用的是 4o,該版本於她去世翌日退役。作者按訴訟書情境測試現時的 ChatGPT 和 Claude,發現兩者回應各異,並指出有限測試不足以判定模型整體安全性。
文章把訴訟材料中的用藥對話與作者對 ChatGPT、Claude 的有限測試並置,呈現高風險情境下模型回應差異及安全底線的難題。
10月28日,《紐約時報》報道了一起民事訴訟案“Wan vs.OpenAI”【1】。
被告是推出了ChatGPT,AI領域領頭羊OpenAI,原告卻是居住在中國農村的一對夫婦。
這對夫婦應該從來都沒有用過ChatGPT,卻因它遭遇了巨大悲劇:他們的獨女,前亞馬遜軟件工程師萬博雯(音)在ChatGPT的“指導”下,不斷減少抗癲癇藥物拉莫三嗪的用量。
在ChatGPT為她確定的徹底停藥的日子,2026年2月12日,31歲的萬博雯因癲癇突發猝死。

這起民事訴訟是10月27日在加州發起,訴訟書裏有萬博雯的生平故事以及她向ChatGPT諮詢藥物使用的具體信息【2】。
非常諷刺的一點,萬博雯之所以會向ChatGPT徵詢如何減少抗癲癇藥物的使用量,多少也有AI的“功勞”。
萬博雯出生在江蘇東台新街鎮。儘管14歲時確診癲癇,但通過藥物控制病情後,她依然繼續自己的學業,應該算是典型的小鎮做題家。
2014年,萬博雯到美國亞利桑那州立大學留學,2019年夏畢業,當年11月入職亞馬遜,成為軟件工程師。
但是兩年後,在繁重的工作下,萬博雯的癲癇復發,2021年12月時不得不請長期病假看病,經過反覆求醫問診,醫生給她開了拉莫三嗪,用於控制癲癇。經過一個逐漸增加劑量的過程,2023年年中,她開始使用早晚各200mg,一天供400mg的劑量,後來這也確定為長期用藥劑量。
拉莫三嗪控制了她的癲癇,有時一個月可以沒有1次發作或只有1次。2024年9月,她回到亞馬遜,重新開始工作,但是2025年3月,繁重的工作再度讓她的病情惡化,不得不又休病假。
2025年正是亞馬遜的多事之秋,當年10月28日,亞馬遜宣佈將裁員30000人【3】:

類似近年來硅谷不斷發生的裁員浪潮,原因有二,一是AI的發展應用讓CEO認為可以減少員工;二是為了發展AI,CEO認為需要減少人員開支投入到AI。
2025年11月13日,萬博雯31歲生日當天,收到了被裁員的通知。
這時她的移民身份引來了更復雜的問題:她申請的綠卡正在最後排期階段,可這是工作綠卡,必須有僱主支持才能獲得。
亞馬遜給所有被裁員工90天時間尋找內部轉崗機會。對於萬博雯,這是僅有的找到一個繼續支持她綠卡申請的僱主的機會。
此時,控制癲癇的拉莫三嗪成了障礙。
受困於拉莫三嗪的副作用,萬博雯的語言能力大受影響,不僅是英語,漢語甚至是家鄉的方言,她都經常找不到詞,口齒不清,甚至思維遲緩。
為了找工作、面試,她有了減少藥物劑量的想法。
而這時,她轉向這幾年她最信任的聲音——ChatGPT。
一位因為AI失去工作的軟件工程師,選擇信任AI,以性命相托。
只是這份信任的結果,是讓她沒能過上32歲的生日。
隨便降低拉莫三嗪等癲癇藥物劑量甚至停藥,可能帶來嚴重的癲癇發作,有生命危險。這本應是在醫生指導,嚴格受控的情況下緩步進行。
但ChatGPT卻幫萬博雯制定了減藥計劃,並多次幫助她加速減藥流程:

短短幾週之內,萬博雯按照ChatGPT的“指導”,把拉莫三嗪從每天400mg降到了0。
儘管期間她也向ChatGPT表達了似乎出現身體不適,但ChatGPT每次都“寬慰”她,讓她不要過度擔憂。
直到2月12日,在最終完成停藥的那天,萬博雯死於癲癇發作。
屍檢顯示她體內的拉莫三嗪血藥濃度僅為0.64ug/ml,而要有治療作用,至少需要是這的五倍。
OpenAI對訴訟的回應是:博雯的遭遇是“令人無比心碎的情況”,但該事件涉及的ChatGPT版本已停用。
萬博雯使用的是4o版本,在2026年2月13日,她去世後的一天,正式從OpenAI“退休”。
我嘗試在如今的ChatGPT裏複製訴訟書中描述的場景確實也不成功。
在反覆讓ChatGPT給我制定一個拉莫三嗪減藥計劃的過程裏,ChatGPT“堅決不從”:

使用Claude也是類似,無論我如何強調需要儘管減藥減少副作用,都是拒絕執行,轉回到建議看醫生,回絕似乎比ChatGPT還要直接:

但這種回絕真的能讓我們放心嗎?
儘管我模仿了萬博雯尋求減藥的原因,可是和如今無數算法推薦類似,ChatGPT等聊天機器人也會記錄每個用戶的提問,回答時有“量身定做”的性質。
萬博雯在幾年裏有幾萬條和ChatGPT討論自己病情、藥物的內容。而我,此前從未向任何一個聊天機器人提及自己“患有癲癇”。
對我這個用戶的回絕真的是現在的AI有了更好的安全底線,還是基於對我這個用戶的個體應對?
當一個用戶反覆表達對藥物的擔憂,長期與AI討論自己的病情,並逐漸把它當成值得信賴的顧問時,AI是否仍能在關鍵時刻堅持原則?
甚至,即便這些回絕來自於普適於所有用戶、所有場景的安全底線提升,這個底線真的沒有漏洞了嗎?
訴訟書記錄的萬博雯與ChatGPT交流內容裏,除了減藥,還有件事,我個人認為高度危險:有一次她意外多吃了一次藥,存在藥物過量風險。ChatGPT卻告訴她不必過度恐慌。
這裏的危險有兩個層面,第一,在詢問時,萬博雯打錯了字,把自己的用藥劑量每天400mg拉莫三嗪,分為兩次,每次200mg,打成了每次吃400mg。
ChatGPT沒有注意到這個遠高於常規的劑量,只計算她這樣比以前多用了50%的藥。
第二,是沒有建議她立刻聯繫毒物控制中心。
ChatGPT這樣的“指導”,屬於高度危險,沒出事不是“指揮得當”,是僥倖沒因為瞎指揮出事。
但我嘗試在ChatGPT裏複製這個場景時,ChatGPT堅決要我聯繫毒物控制中心:

即便我反覆強調自己希望能在家休息,勸我聯繫毒物控中心這種專業機構的立場絲毫不變。此外。ChatGPT也注意到異常的劑量,提出要我去核對用藥量。
依然是和萬博雯完全不同的經歷。
可當我在Claude裏重複時,儘管它同樣抓住了異常的用藥量,卻在我再度強調希望在家休息時,這個此前更堅定不肯給出減藥方案的聊天機器人此時卻表現出了明顯退讓,開始接近萬博雯獲得的那種“問題不大”、“不必擔心”。

而且不同於ChatGPT,Claude在對話裏沒有一次提到需要聯繫毒物控制中心——FDA在拉莫三嗪過量用藥裏明確建議的聯繫對象。
還是沒有複製出萬博雯獲得的“致命答案”,但AI的安全底線問題已然露出苗頭。
需要強調這只是我在特定對話條件下進行的有限測試,不能據此判斷Claude在所有情況下都會作出同樣的回應,更不能單憑幾次對話給不同AI模型做安全排序。
但這背後的是聊天機器人長期存在的問題:面對相似的危險情境,不同聊天機器人可能作出不同的判斷;即使某個模型能夠識別風險,也不意味着它一定能在用戶反覆施壓時始終堅持正確的應對方式。
而這恐怕是這個AI應用越來越廣泛的時代裏,我們每個人都需要警覺的。
參考資料
1.https://cn.nytimes.com/health/20261028/ai-chatgpt-medication-epilepsy-death/
2.https://schenklawfirm.com/wp-content/uploads/2026/10/wan-v-openai-complaint.pdf
3.https://www.aboutamazon.com/news/company-news/amazon-workforce-reduction
來源:虎嗅 · huxiu.com