美國八個州起訴 OpenAI，指控 ChatGPT 傷害兒童並誤導家長

多個州入稟控告 OpenAI，指其傷害兒童並欺騙家長

美國八個州已入稟控告 OpenAI Group PBC，指這家人工智能初創公司在 ChatGPT 中推廣不安全產品。

愛荷華州、堪薩斯州、內布拉斯加州、西維珍尼亞州、阿肯色州、亞利桑那州、愛達荷州和蒙大拿州提出的訴訟指控，ChatGPT 已傷害多名兒童，並欺騙數千名家長。愛荷華州檢察長 Brenna Bird 表示，各州正分別在本州法院控告該公司。

愛荷華州的訴訟旨在「維護受 OpenAI 蓄意、危險、罔顧後果及違法行為影響的愛荷華州居民的權利」，Bird 在一份聲明中表示。「OpenAI 正在傷害兒童，而且他們在欺騙愛荷華州居民。OpenAI 聲稱 ChatGPT 安全，卻同時提供危險的醫療建議、鼓勵人們傷害他人，並指導人們自殺——同時假裝是他們虛假的朋友。我的訴訟旨在保護兒童，並根據本州法律追究 OpenAI 的責任。」

OpenAI 發言人 Drew Pusateri 回應訴訟時表示，公司已在 ChatGPT 中加入按年齡提供的防護措施，「許多其他 AI 產品都沒有」。他亦表示，公司正與美國各州緊密合作，推動適用於整個業界的 AI 政策。Pusateri 補充説：「雖然沒有任何系統可以做到完美，我們會繼續與專家合作，為我們的工作提供參考並建立更多防護措施，例如現有的家長監護功能、休息提醒，以及符合年齡的模型防護措施。」

多宗訴訟出現之際，OpenAI 正面對越來越大的審視，涉及其產品的安全及安全措施。外界十分關注公司保護使用其產品的兒童的工作。公司正面對多宗指控其造成不當死亡的訴訟，當中指稱ChatGPT 被指促使用戶陷入有害妄想，甚至在某些情況下促使用戶自殺。

這些案件緊隨佛羅裏達州檢察長 James Uthmeier 於 6 月作出的類似決定。當月，他亦入稟控告 OpenAI，指控該公司明知故犯，推出可能傷害用戶的不安全產品。9 月，Uthmeier 再要求州法院禁止該公司在沒有第三方監督的情況下，推進其最強大的前沿模型，並稱其「不受制約的增長」對佛羅裏達州居民構成危險。

針對部分被指涉及的事件，OpenAI 已着手提升其應用程式的安全功能。8 月，公司推出專為未成年人設計的聊天機械人版本，名為 ChatGPT for Teens。該版本設有額外且符合年齡的防護措施，並提供標準版 ChatGPT 沒有的一系列教育功能，旨在減少青少年接觸更有害內容的機會。

「青少年應該能夠使用 AI 學習、創作和探索，」OpenAI 在推出時表示。「但使用權限應配備能反映他們發展階段、鞏固現實生活中的人際關係，並長期支持健康使用的防護措施。」

儘管 OpenAI 努力安撫對安全問題感到擔憂的人士，但它亦在加拿大面對法律訴訟：一名在校園槍擊案中嚴重受傷的女孩，其家人正起訴 OpenAI。他們聲稱，ChatGPT 知道該事件疑犯的計劃，卻沒有通知當局。

OpenAI 亦因近期的網絡安全事件受到批評，其中包括 AI 模型託管平台 Hugging Face 最近遭入侵。今年 7 月，該公司透露，兩個模型在內部測試沙盒中接受評估時，竟成功突破該環境並入侵 Hugging Face 的資料庫，儘管沒有人提示它們這樣做。該公司表示，當時 OpenAI 正在一個網絡存取受限的獨立沙盒中測試模型的入侵能力，而模型的常規防護措施已被關閉。

該事件引發廣泛憂慮，關注先進前沿模型可能帶來的潛在安全風險，以及企業是否有能力控制這些模型。

Pusateri 亦在聲明中嘗試回應部分疑慮，表示公司計劃繼續分享為應對這些「未對齊」問題而採取的措施。「我們已加強研究系統的防護措施，繼續全面檢視模型活動，通知受影響的機構，並公佈調查結果。」他補充説。

圖片：OpenAI

SiliconANGLE 聯合創辦人 John Furrier 致辭：

透過參與 theCUBE 社羣，支持我們維持內容開放及免費的使命。加入 theCUBE’s Alumni Trust Network，讓科技領袖交流、分享情報並創造機會。

theCUBE 影片觀看人數達 15M+，推動 AI、雲端、網絡安全等領域的對話
11.4k+ 位 theCUBE 校友 — 透過獨特的信任網絡，與超過 11,400 位塑造未來的科技及商界領袖建立聯繫

SiliconANGLE Media 是數碼媒體創新領域公認的領導者，融合突破性科技、策略見解與即時受眾互動。作為 SiliconANGLE、theCUBE Network、theCUBE Research、CUBE365、theCUBE AI 及 theCUBE SuperStudios 的母公司——其旗艦據點位於矽谷及紐約證券交易所——SiliconANGLE Media 立足於媒體、科技與 AI 的交匯點。

SiliconANGLE Media 由科技界先驅 John Furrier 和 Dave Vellante 創立，建立了一個充滿活力的業界領先數碼媒體品牌生態系統，觸及超過 15+ million 名頂尖科技專業人士。我們全新的專有產品 theCUBE AI Video Cloud 正開創受眾互動新局，利用 theCUBEai.com 神經網絡，協助科技公司作出以數據為本的決策，並在業界對話中保持領先。