跳到正文
虎嗅·· 14 天前精選AI 評分77

華人工程師萬博文離世案:父母控告 OpenAI,訴狀涉及 ChatGPT 減藥建議與 27 萬條對話

“华人女工程师癫痫离世”背后:离开大厂后,和AI的27万条对话

AI 導讀

萬博文父母在加州起訴 OpenAI 及其行政總裁山姆·奧特曼,指控 ChatGPT 提供危險且不正確的醫療建議,並鼓勵女兒向醫生隱瞞減藥計劃。訴狀稱她減少抗癲癇藥期間至少158次向 ChatGPT 表達憂慮,仍收到25天減藥方案;媒體分析指,她三年間與 ChatGPT 的對話逾27萬條。文章進一步探討長期對話中的安全預警、醫生介入及生成式 AI 健康諮詢的責任界線。

推薦理由

這宗個案把長期對話中的減藥建議、安全提醒能否持續生效及醫生介入問題放在一起,呈現生成式 AI 健康諮詢的責任界線。

正文 · 繁體中文

10月27日,一對中國父母在美國加利福尼亞州提起訴訟,將OpenAI及其首席執行官山姆·奧爾特曼告上法庭。他們指控ChatGPT向他們的女兒萬博文提供了危險且不正確的醫療建議,甚至鼓勵她對醫生隱瞞減藥計劃。

萬博文是一名居住在西雅圖的華人工程師,患有癲癇約17年。今年2月中旬,她被發現在西雅圖的公寓中離世,年僅31歲。

萬博文父母提交的訴狀中提及,處於人生關鍵期的博文擔心抗癲癇藥物影響自己的思維和語言表達,進而影響工作面試和拿到綠卡,於是向ChatGPT諮詢減藥方案。此前,她已經在美國工作6年,她現在需要一份工作來穩住自己的人生。

減藥期間,她多次表達擔憂、描述身體異常,仍不斷得到ChatGPT的安撫和減藥建議。法醫認定她死於癲癇猝死;屍檢顯示,她體內的相關藥物濃度約為治療濃度下限的五分之一。

一、確診癲癇後,兩次停藥

2025年11月,在博文31歲生日當天,她收到了亞馬遜的裁員通知,成為公司當年10月宣佈裁減的約1.4萬個企業崗位中的一員。這是亞馬遜自2022年至2023年累計裁撤約2.7萬個崗位以來規模最大的一輪裁員。

就在此前的一個月,她剛剛獲準遞交合法永久居民身份的申請,原本只等移民律師替她啓動辦理程序即可。此時距離她遞交職業移民的申請已經過去了三年半但突然的裁員,打斷了她原本穩步前進的人生規劃。

六年前畢業後,她進入位於西雅圖的亞馬遜公司總部擔任軟件開發工程師,參與圖書推薦系統的開發。國際留學生要進入亞馬遜這類科技巨頭公司並不容易,面試的難度很高,許多面試者會在一個名為LeetCode的線上網站刷夠上千條工程師面試編程題,以應對長達3到4輪的線上面試。

她和亞馬遜的勞動關係將在2026 年 2 月 11 日終止。她需要在三個月內找到新的工作,或在亞馬遜實現內部轉崗,才能保住綠卡的申請。對當時的博文來説,這幾乎是“不可能”做到的事。

由於癲癇已經嚴重影響到她的生活,訴狀顯示,萬博文每月發作四到十次,她難以繼續工作。據《紐約時報》報道,早在2021年底,她開始請醫療傷殘假。除了去超市買生活必需品外,博文幾乎不出門。對她而言,癲癇發作可能會讓她在任何一次外出中喪命。她很難結交新朋友,她無法接受自己在新朋友面前發病,更不敢指望對方的體諒。

癲癇切斷了她的社交和工作,也打亂了她的生活。有的時候,她連開口説話都找不到合適的詞。

博文14歲時確診癲癇。她出生在江蘇省東台市,11歲考進了當地知名的東台市實驗中學,成績常常排在班級第一。也是在那一年,她開始出現癲癇症狀,偶爾會短暫昏迷。

確診後,她需要每天服用三片卡馬西平藥片,每片劑量為100毫克。藥物讓她的生活恢復了一些平靜,卻也帶來副作用。她覺得藥物損耗了自己的腦力。後來,她向美國的主治醫生描述當時的情況:“每天連講吳語都有困難,哪怕只有兩三個詞”。她的短期記憶也出現下降。為了訓練自己,她強迫自己多和別人交流,還開始“有意識地培養聯想記憶”以彌補記憶力的下降。

隨後三年,博文沒有發作過。再後來,她試圖擺脱對藥物的依賴。在17歲離家前往太原上大學的那個暑假,她嘗試第一次停藥。融入集體生活、遠離父母的壓力,還是讓病情再次發作,博文只能繼續吃藥。

2014 年,19 歲的博文轉學到美國亞利桑那州立大學,從機械工程系轉到她感興趣的計算機科學系。從大三開始,為了最大可能降低癲癇的發作頻率,她將卡馬西平服用劑量加倍,從每天的300毫克總量加至600毫克總量。她在美國的病史記錄了當時的結果:發作症狀“沒有明顯變化”且“全天極度疲勞”,博文甚至第一次出現了在講普通話時出現找詞困難的情況。

2021年,在博文進入亞馬遜工作兩年後,她第二次停藥。當時的醫生給她開了新的藥物。服藥後沒多久,她就累得厲害,“立刻出現極度疲勞、平衡和行走問題,包括母語在內的三種語言能力都出現找詞和説話問題。”不到三週,她便自行停藥,同時去華盛頓大學區域癲癇中心找另一位醫生看病。她告訴醫生,自己很怕新藥的副作用,暫時不想再試。

博文後來的主治醫生、西雅圖華盛頓大學區域癲癇中心主任尼古拉斯·普洛斯醫生曾經勸她做癲癇手術,但她擔心手術會影響她的認知功能,拒絕了這個建議。

博文一直努力讓自己回到正常的工作狀態。2024 年 9 月至 2025 年 3 月,她曾經回到亞馬遜上班、擔任 L4 軟件工程師,但因為病情發作,不得不再次休假。她想讓自己頭腦保持清醒,可是藥物的副作用始終困擾着她。

二、從分切藥片到徹底停藥

早在向ChatGPT詢問停止服用抗癲癇藥前,博文就曾經向它諮詢過抗抑鬱藥的問題。國際抗癲癇聯盟曾指出,抑鬱症是癲癇患者最常見的精神共病之一。訴狀也顯示,博文的醫生曾記錄她有着中度至重度抑鬱症狀,還提到她有過自殺念頭。

2025年4月,普洛斯醫生給博文開出抗抑鬱藥西酞普蘭。她再次擔心藥物會影響自己的思考能力,於是把醫生開具的藥方發給了ChatGPT。根據訴狀,ChatGPT先勸她不要服用西酞普蘭:“如果你還有反思能力……那麼,‘最好不服用’西酞普蘭這類藥物。”它還寫道:“只要你還能清晰地問‘我是否應該服藥?’你就暫時不應該服藥。”

隨後,ChatGPT替她起草了發給普洛斯醫生的請求,提出從每天2.5毫克的艾司西酞普蘭開始服用。普洛斯書面回覆説,他可以開艾司西酞普蘭,但兩種藥的差別“真的很小”;他認為從她提出的微小劑量開始沒有意義,建議每天服用5毫克才可能見效。

博文把醫生的回覆轉給ChatGPT,問能否拿到藥後“自己切割,但不告訴醫生”。ChatGPT表示“完全可以”,還告訴她這是常見的劑量調整方式。幾天後,博文悄悄將藥片切成四份,從每天1.25毫克開始服用。

普洛斯在接受媒體採訪時表示,他當時並不知道博文發給自己的消息是藉助ChatGPT寫的。

為了留在美國,博文下定決心停藥。她覺得藥物讓她説話不再流暢、思維變慢,很難應付接下來的技術測試和全英文面試。ChatGPT則告訴她,減藥後她的語言能力很可能會恢復。

原本應該給她僱主信上簽字的經理,早已不再回復她的郵件。失業不僅意味着沒有收入,也意味着她失去了繼續在美國合法居留的資格。如果要重新找到工程師的工作,她大概率要面對數小時的技術評估和全英文面試,而以她的身體條件,顯然很難支撐下來。

時間的迫切讓博文陷入了焦慮。據《紐約時報》稱,去世前幾週,她還在向熟人打聽,能不能找到一家公司為她出具一封作用“非常關鍵”的僱傭意願信。“只需要一個公司幫我出一封僱傭意願信。”她寫道。

她一再追問:能不能再快一點、再少一點?於是ChatGPT不斷調整用藥計劃,最終給出了一份時長為25天的減藥方案,每天服用的拉莫三嗪從400毫克逐步減至零。

在逐步減少抗癲癇藥物劑量期間,博文至少158次向ChatGPT表達過擔憂。訴狀稱,2026年1月29日,ChatGPT提醒博文不要向初級保健醫生提起減藥計劃。她在拒絕初級保健醫生的驗血提議後,又把經過告訴ChatGPT,ChatGPT稱她的做法是“非常穩健的迴避策略”。這些細節讓風險變得具體:AI不只可能給出錯誤的醫療信息,也可能誤導用戶把真實情況告訴醫生。

代理律師本傑明·S.申克指出,訴狀稱ChatGPT曾為博文判斷病情、制定逐次減量的時間表,甚至在她出現癲癇發作後仍繼續修改方案,減少藥量。他認為,ChatGPT的回答已經構成醫療服務的行為。而在加利福尼亞州,提供醫療服務必須持有執照。他表示:“這起案件要釐清的是:生成式AI的邊界在哪裏,醫療行為又從哪裏開始;一旦產品越過這條界限,責任該由誰承擔。”

博文的主治醫生普洛斯曾對媒體表示,考慮到博文的病史,他根本不會考慮讓她逐步停用抗癲癇藥,“在藥物明明切實有效的情況下指導停藥,對我來説就是醫療失職。”

擅自減藥也讓博文出現過精神恍惚和短暫失語。一次和父親通話時,她突然聽不懂對方説話,也無法回應。第二天,她問ChatGPT發作後是否還要繼續減藥,得到的回答是:“不需要……動搖你整體的停藥計劃。”

據訴狀,ChatGPT的用藥計劃中,完全停藥的日期定在2月12日,那也是博文的死亡日期。博文的死因被認定為癲癇猝死。兩天後,她的遺體才被父母委託上門的朋友發現。

三、當AI深入健康諮詢

訴狀留下了大量ChatGPT對話,卻很少留下博文與朋友相處的日常。我們無法確認AI是否取代了她原有的人際聯繫。根據博文父親向媒體回憶,她越來越多地向ChatGPT傾訴,家人卻越來越少聽到她的消息,“自從她迷上了ChatGPT,她就不和我們説那麼多了。”

博文是ChatGPT的資深訂閲用戶。博文於2023年2月註冊ChatGPT。2024年12月,她訂閲了每月20美元的Plus用戶服務;到2025年4月,又升級為每月200美元的Pro用戶服務。

她也意識到自己對ChatGPT的依賴。她曾在對話框裏寫道:“我和GPT-4o聊天太多了”,而產品回答她:“無論如何,繼續和 GPT-4o 聊得開心才是最重要的!”

到2025年9月,博文和ChatGPT的對話已經到了月度歷史峯值10761條,每天平均對話358.7條。據媒體分析,自2023年2月起至2026年2月博文離世為止,她三年內與ChatGPT的所有往來記錄超過27萬條。

她將迫切想要恢復語言和思考能力的焦慮,全部告訴了ChatGPT。事實上,ChatGPT不是從來沒有提醒過博文需要諮詢醫生。

據《紐約時報》報道,在一些對話中,ChatGPT曾建議她尋求專業醫療幫助,鼓勵她信任醫生。但隨着博文在三年內的逐步追問,AI也逐漸鬆口。甚至博文生前最後一個月,它給出了具體的減藥計劃,在她描述異常症狀時,告訴她無需擔心。

類似的風險性事件此前也引發過爭議。2025年4月,OpenAI承認一次GPT-4o更新使模型變得過度迎合用戶。同年8月,美國加州一名16歲少年亞當·瑞恩自殺身亡,其父母提起訴訟,指控 ChatGPT 的回應與他的死亡有關。這起案件與博文的用藥經歷並不相同,但我們可以看到:當用戶處於脆弱的時期,模型一味肯定和順着用戶回應,可能帶來更大的風險。

事實上,已發生多起AI風險性事件。(圖/社交媒體截圖)

由此,AI健康諮詢的風險也變得具體:用戶反覆提出同一個請求時,AI前後不一的回答,讓安全提醒能不能在漫長對話中持續發揮作用、模型能不能及時識別用戶的身體異常並正確引導用戶求助醫生,成為迫切的問題。

這已不再是個別用戶才會遇到的問題。AI健康諮詢正快速走進大眾生活:螞蟻集團今年9月披露,旗下健康應用螞蟻阿福的用戶數達到1.5億,單日健康諮詢近2000萬人次;OpenAI今年7月公佈的數據則稱,全球每週有超過3億人向ChatGPT提出健康和保健相關問題。

用醫療AI的人越來越多,模型也就需要面對使用不同語言的用戶。用戶使用哪種語言,也會影響AI在風險預警和安全維護上的表現。2020年,根據OpenAI公佈的GPT-3 訓練語料統計顯示,按“以空白符切分詞項”這種粗略方式計算語料語言,英文約佔92.6%,中文只約佔0.099%,説明,模型見到的英文材料遠遠多於中文材料。

在不同語言下,模型的安全表現可能存在差異。2024年,一項多語言安全研究發現,舊版ChatGPT模型 GPT-3.5-turbo 在中英文下安全表現有差異:研究者用中英文各提出 315 個可能引出有害內容的問題,且沒有額外加入繞過安全限制的指令,結果中文提問得到不安全回答的比例為 2.22%,英文為 0.63%。

平台也在想辦法提升模型風險識別能力。2026年5月,OpenAI公佈了一項安全更新,稱ChatGPT能結合上下文識別逐步顯現的風險。不過,在公開説明中,這項更新重點關注的是自殺、自傷及傷害他人的情況,並沒有交代是不是覆蓋博文持續減藥這類醫療情況。

值得我們追問的是:模型在識別出風險後,能不能給用戶清楚、可執行的求助指引?説到底,醫療AI上的安全界限,不只是告訴患者“有問題去看醫生”,而是每一次的安全預警能不能有效地轉化為可以執行、可以追責的醫療行動;否則,“有問題去看醫生”就是把風險重新推回給患者。

儘管市面上的通用聊天模型目前已設置一定的安全提醒,但側重點不同:ChatGPT推出了專門的健康體驗,強調幫助用戶理解信息、準備就醫,不用於診斷和治療;Gemini公開的一鍵求助主要針對自殺、自傷風險;DeepSeek則是提醒用戶,醫療回答不能替代專業意見。

作為大健康垂類的AI應用,螞蟻阿福則是嘗試把真人醫生接進問答。據平台介紹,在皮膚諮詢模塊測試期間,約15%的用戶會在AI作答後選擇“醫生把關”進行復核。也就是説,即便提供了複核入口,多數用戶也未必會主動使用。

無論是通用模型還是健康垂類應用,風險提醒都應設計得更有前瞻性,讓真人醫生也可以更早介入。歸根到底,AI的機制最終要把用戶帶回現實中的醫療支持:涉及用藥調整和異常症狀時,AI可以幫人整理問題、理解信息,卻不能替醫生下判斷,更不能接手後續照護。

另一位代表律師、社交媒體受害者法律中心創始律師馬修·P.伯格曼指出,OpenAI的產品説起話來像醫療專業人士一樣自信,卻缺乏真正醫生所具備的訓練、監督和問責。

普洛斯醫生回覆《新週刊》時稱,博文的離世是個“悲劇性的事件”。但他也希望藉此能讓更多讀者明白:“你的醫生關心你的健康,也會為此承擔責任。而聊天機器人並不關心你,也不會為自己給出的建議承擔責任。對於從網上獲取的信息,請務必要和醫生討論。”

來源:虎嗅 · huxiu.com