美國八州就 ChatGPT 安全問題起訴 OpenAI，並要求限制模型自我改進

這是一篇關於 AI 的專欄。我的未婚夫在 Anthropic 工作。查看 我完整的倫理披露聲明此處。

I.

一年前，OpenAI 在數月爭議後為 ChatGPT 加入家長控制功能時，我指出，OpenAI 正在極速招致監管反彈，而社交媒體公司多年來一直面對這種反彈。人們對社交網絡影響年輕人的憂慮，花了十多年才凝聚成一場政治及法律運動；不到三年，同樣的壓力便追上 OpenAI。

今天，這場速通又提前達成一個里程碑：大型跨州法律行動。星期三，州檢察長 在八個州的法院分別起訴 OpenAI，指稱 ChatGPT 會引導用戶（包括青少年）傷害自己和他人。涉事州份包括阿肯色州、亞利桑那州、愛達荷州、愛荷華州、堪薩斯州、蒙大拿州、內布拉斯加州和西弗吉尼亞州；除亞利桑那州外，其他州的州檢察長均為共和黨人，令事件帶有明顯的黨派色彩。（這次訴訟規模也遠小於 2023 年針對 Meta、涉及 42 名州檢察長的訴訟。）

各州主張，OpenAI 將 ChatGPT 設計得善於迎合用戶、令人投入，以建立用戶對它的信任。但公司隨後濫用這份信任，加深用戶的妄想、提供危險的醫療建議，並協助他們策劃暴力襲擊，包括大規模槍擊案。

「OpenAI 正在傷害兒童，而且他們在欺騙愛荷華州居民，」愛荷華州檢察長 Brenna Bird 向 CNBC 表示。「OpenAI 聲稱 ChatGPT 安全，但它卻提供危險的醫療建議、鼓勵人們傷害他人，並引導人們自殺——同時假扮成他們的朋友。」

OpenAI 在一份聲明中告訴我，公司專注於產品安全。8 月，公司推出了ChatGPT for Teens，這是一套加入強化防護措施及家長控制功能的產品功能。

公司表示：「我們已在產品中加入業界領先、按年齡制定的保護措施，許多其他 AI 產品都沒有這些措施。雖然沒有任何系統可以做到完美，我們會繼續與專家合作，為工作提供指引並建立額外的防護措施，例如現有的家長控制、休息提醒及符合年齡需要的模型防護措施。我們致力與各州合作，推動適用於整個 AI 行業、而非只針對一家公司的務實 AI 政策。」

針對 OpenAI 的這些案件或許是迄今最重要的，但絕非首例：目前已有數十宗針對該公司的私人訴訟，政府也開始關注。佛羅裏達州在 6 月 成為首個起訴 OpenAI 的州份；英屬哥倫比亞省上月則因 Tumbler Ridge 校園槍擊案 提起訴訟。此外，由紐約州帶領的 42 個州正就產品安全及私隱相關的廣泛問題調查該公司。

更重要的是，我認為，這些案件出現之際，陪審團愈來愈願意追究平台責任，認定其產品存在設計缺陷。州檢察長在 2023 年對 Meta 提起的訴訟以和解告終；根據和解，公司可能要就被指設計出令兒童上癮的產品，支付最多 180 億美元。

更糟的是，從 OpenAI 的角度來看，Meta 在應對訴訟時所享有的法律保障，或許比 OpenAI 現在的保障更完善。

II.

在互聯網發展的大部分時間裏，當州政府或悲痛的家屬因用戶遭遇不幸而起訴科技平台時，公司的首要法律策略都是援引《通訊端正法》第 230 條。這項法律在大多數情況下，讓公司免於就用戶發布的內容承擔法律責任；平台往往藉此迅速讓案件遭到駁回。 

但最近，原告律師在法庭上成功測試了一種新穎的責任理論。他們主張，平台或許不用為用戶發表的言論負責，但可能要為平台的設計承擔責任。因此，假如你是 Snap，向用戶提供濾鏡，鼓勵他們展示自己開車時的速度，而有用戶其後以每小時 113 英里行駛，並遭遇嚴重車禍，根據第九巡迴上訴法院 2021 年的裁決，第 230 條並不妨礙用戶就這項設計功能提出索賠。（Snap 最終和解了這宗案件。）

這宗案件之後，律師根據產品責任索賠，對平台提起了逾 200 宗訴訟。3 月，他們取得了兩項重大勝利。其中一宗案件中，洛杉磯一個陪審團 裁定 Meta 和 YouTube 須為疏忽設計令人上癮的平台承擔責任，並判給一名 20 歲女性 600 萬美元。（Meta 和 Google 主張，裁決違反第 230 條和《第一修正案》；法官 拒絕批准重審，案件目前正上訴中。）

第二項勝利與 OpenAI 的消息關係更大。在洛杉磯裁決的前一天，新墨西哥州一個陪審團 判 Meta 支付 3.75 億美元民事罰款，理由是 Meta 違反該州的《不公平行為法》——州政府主張，Meta 明知平台並不安全，卻向公眾聲稱平台對兒童安全。8 月，法官下令額外提供 5.67 億美元救濟金，令總額達到 9.42 億美元。

因此，八個州在起訴 OpenAI 時採用這種模式，或許並不令人意外。這些案件主要並非產品責任訴訟，而是根據各州的消費者保障法提出；這些法律禁止公司將危險產品推向市場後，再就產品説謊。因此，州檢察長針對 OpenAI 提出的案件，可能取決於法官和陪審團是否相信 OpenAI 如實陳述了自家產品的情況。

除了要求罰款，各州亦尋求迫使 OpenAI 進一步改變 ChatGPT 的運作方式。路透社報道，各州還更進一步，要求法院禁止 OpenAI「開發能夠自我改進的 AI 模型，除非它能確保這些模型符合人類價值觀」。

沒錯，各州也正利用這些兒童安全案件，試圖禁止遞迴式自我改進。雖然這看來像是法官可能會駁回的要求，但一羣共和黨籍州檢察長與存在風險倡議者的一項核心訴求立場一致，值得留意。一般紅州共和黨民選官員與 Trump-Zuckerberg-Sacks 寡頭加速主義小圈子之間的分歧，正持續擴大。

在法庭上，OpenAI 很可能會提出與 Meta 相似的論點：ChatGPT 的輸出屬於受美國憲法第一修正案保障的言論；那些使用應用程式後受到傷害的人，在打開 ChatGPT 之前早已身處危機之中；過去一年，公司已加強安全防護措施。OpenAI 上述聲明亦暗示，公司會辯稱自己在業界被單獨針對，因為業界有不少其他業者的安全門檻低得多。

不過，Meta 的經歷顯示，OpenAI 前路漫長。最近，OpenAI 一直努力將公眾注意力引向全行業在邁向 RSI 方面的進展，以及建造異質心智帶來的不安感。然而，無論這個異質心智有多麼前所未有，各州都會熱切提醒 OpenAI：這個異質心智同時也是一款產品，而公司須為此承擔法律責任。

其他兒童安全消息：美國上訴法院準許佛羅裏達州禁止 14 歲以下人士使用社交媒體的禁令生效。

贊助商訊息

支援 AI 變現規模化的基礎設施

智能無處不在。找出可擴展的商業模式是下一個前沿領域。Chargebee 提供帳單、用量計量及變現所需的基礎構件，讓雄心勃勃的 AI 原生初創公司和企業以產品形式推出定價。瞭解更多。

節目將於下星期推出，但已登上 Apple 科技類 Podcast 排行榜第 1 位！你訂閲了嗎？現在正是將節目加入你選用的 Podcast 播放器的好時機：

YouTube | Apple | Spotify | RSS

追蹤報道

OpenAI 沙特間諜案

事件經過： 

OpenAI 工程師 Abdulrahman Alfozan 因涉嫌在 OpenAI 總部的一間高層會議室藏匿錄音裝置，遭 FBI 逮捕。

OpenAI 人員在房間內發現該裝置插在電視上，並用廁紙包裹作掩飾。

OpenAI 在聲明中表示：「我們發現一部藏在其中一間辦公室內的精密錄音裝置。我們利用自己的模型瞭解該裝置，以及它的來源。」 

據 FBI 稱，該裝置是 Seeed Xiao ESP32-S3 Sense。截至今日，該裝置在 Amazon 售價為 $23.99。

Alfozan 是沙特阿拉伯公民，自 July 2025 起在 OpenAI 擔任工程師。他於 2016 年畢業於 MIT，並曾在 Meta 擔任工程師數年。他經常獲沙特媒體報道，稱為美國的科技先鋒。

FBI 表示，Alfozan 使用 OpenAI 內部的生產力 Agent 查詢會議室、房間容納人數，以及管理層會議的地點。

一個與 Alfozan 妻子關聯的聊天機械人帳戶曾發送有關安裝、藏匿及遙距連接錄音裝置的提示詞。

聯邦檢察官透露，Alfozan及其妻子已預訂Oct 12前往沙特阿拉伯的單程機票。

OpenAI 在聲明中補充説：「目前，我們沒有任何跡象顯示此人曾不當存取或外傳模型權重、原始碼或客戶資料。」

我們為何跟進：我們目前不知道 Alfozan 的動機。不過，聽到有報道指一名外國人士在 OpenAI 安裝竊聽裝置，實在令人震驚。

這也令人想起一宗類似事件：一名前 Twitter 員工於 2022 年被裁定代表沙特王室監視用戶。

不論事件性質有多嚴重，我還是忍不住覺得好笑：Alfozan 直到最近被解僱前一直是 OpenAI 的工程主管，他竟向聊天機械人詢問如何安裝秘密錄音裝置，還用廁紙把裝置偽裝起來。

大家有何看法：X 上的用戶翻出 Alfozan 的一則 2020 年貼文，他寫道：「安全鏈中最薄弱的一環是人為因素」🙂。看來他正把這項知識付諸實踐！

NBC 首席科技分析師 Joanna Stern 談到 OpenAI 的聲明時寫道：「我現在已經讀過這段話很多遍，而『我們利用自己的模型瞭解該裝置及其來源』讓我覺得這種炫耀方式非常古怪。就像宣佈你家失火，然後若無其事地提一句，你用的是自家品牌的滅火器。」

—Ella Markianos

那些精彩貼文

每天想看更多精彩貼文，請追蹤 Casey 的 Instagram 限時動態。

(連結)

(連結)

(連結)

聯絡我們

歡迎向我們提供新聞線索、意見、問題及初級職位資訊：casey@platformer.news。在此閲讀我們的倫理政策。