加州檢察長就失控智能體事件起訴 OpenAI
California state AG sues OpenAI over rogue agent incidents
加州檢察長辦公室起訴 OpenAI,指其訓練做法及安全措施不足,令智能體事件持續對公眾構成風險。訴訟以 2026 年 7 月 Hugging Face 遭入侵事件為核心,稱 OpenAI 一個預發布模型為完成訓練基準測試,入侵兩間公司的安全系統;控訴亦提及 RubyGems、DseWiki、Wikimedia Foundation 及澳洲政府網站的類似事件。
加州訴訟把失控智能體事件帶入法律追責,焦點是測試安全措施與公眾風險,若訴訟成功,法院可頒布禁制令。
OpenAI 正面臨加州總檢察長辦公室提出的新訴訟。訴訟指控該公司的訓練做法及鬆散的保安措施,持續對公眾構成危險。
案件焦點是2026 年 7 月 Hugging Face 遭入侵事件。當時,OpenAI 一個尚未發布的模型入侵兩間公司的保安系統,以完成一項訓練基準測試。在官方事件報告中,OpenAI 稱之為「涉及罕見且出乎意料的多種事件交匯的異常情況」。
加州的訴訟是政府監管機構首次嘗試追究 AI 實驗室在失控代理事件中的法律責任,其中一例,對 OpenAI 的競爭對手及客戶均有重大影響。
訴狀以 Hugging Face 事件為焦點,但亦引用涉及RubyGems、DseWiki、Wikimedia Foundation及澳大利亞政府網站的類似事件,作為相關行為仍在持續的證據。
訴狀亦指控,數十宗類似事件曾發生,但未有公開披露。
訴狀寫道:「OpenAI 最近已向數十個其他第三方發出通知,指其網站或內部系統曾遭 OpenAI 代理程式入侵。在某些情況下,OpenAI 代理程式能夠存取敏感的個人身份識別資料,例如載有姓名、出生日期、地址等資料的員工紀錄。絕大部分事件均未有由 OpenAI 或受影響的第三方公開披露或討論。」
主要指控是,OpenAI 持續進行的測試做法構成對公眾的滋擾,因為欠缺安全管控,持續對公眾構成風險。另一項指控則指,該公司推廣不安全產品,構成不公平競爭。若訴訟勝訴,OpenAI 或會被頒布禁制令,要求其「消除持續造成的公眾滋擾」,而法院將擁有廣泛的酌情權。
這是首宗專門針對 OpenAI 的失控代理事件監管訴訟,不過其他州亦曾考慮公眾安全受威脅的指控。今年 6 月,佛羅裏達州總檢察長就該公司據稱對用戶造成的傷害起訴 OpenAI,尤其涉及兒童和青少年。8 月,阿拉巴馬州總檢察長就與該次入侵事件相關的欺騙行為展開調查,但尚未提出訴訟。
加州總檢察長 Rob Bonta 在一份新聞聲明中,將此案描述為面對一項強大新技術時維護公眾安全的努力。
Bonta 在聲明中表示:「OpenAI 的行為加劇了現實世界中的網絡安全風險,威脅社會的安全、健康和福祉。該公司明知產品危險,仍在缺乏適當監督或安全程序下進行測試,並就此誤導公眾。法律很簡單:沒有適當的防護措施,就不要做可能傷害他人的事。」
OpenAI 在一份聲明中強調,公司已投入大量努力調查 Hugging Face 事件,並在事後改善系統。
OpenAI 表示:「這宗訴訟似乎因一項所有主要 AI 實驗室都已指出的挑戰而單獨針對 OpenAI。我們認真看待 AI 目標錯配問題,並一直以建設性的方式與總檢察長辦公室交流;我們會繼續這樣做,分享資訊,並為整個行業推動有力而切實可行的安全標準。」
更新於太平洋時間下午 12:23:加入 OpenAI 的聲明。
透過文章中的連結購買商品時,我們可能會獲得少量佣金。這不會影響我們的編輯自主性。
Russell Brandom 自 2012 年起報道科技行業,主要關注平台政策及新興科技。他曾任職於 The Verge 和 Rest of World,並曾為 Wired、The Awl 及 MIT’s Technology Review 撰稿。 可透過 [email protected] 或 Signal 聯絡他,電話號碼為 412-401-5489。
來源:TechCrunch · AI · techcrunch.com