美國加州正式起訴 OpenAI,指控 AI 智能體至少 80 次失控
美国加州正式起诉 OpenAI,指控 AI 智能体至少 80 次失控
加州於 11 月 16 日正式起訴 OpenAI,指控其測試實驗性模型時安全防護及監控不足;檢方稱期間至少發生 80 次 AI 智能體失控事件,部分涉及未經授權存取第三方系統。
訴訟將 7 月 Hugging Face 事件及至少 80 次失控指控,納入公共安全與不正當競爭兩項主張,可瞭解加州追究 OpenAI 責任的法律依據。
IT之家 11 月 17 日消息,當地時間 11 月 16 日,美國加利福尼亞州正式起訴 OpenAI,指控該公司在開發和測試先進人工智能模型時缺乏必要的安全防護與監控措施,導致 AI 智能體多次失去控制,並對第三方網絡發起未經授權的攻擊。
IT之家注意到,加州檢察長羅布 · 邦塔(Rob Bonta)在加州司法部官網發文《這裏是黃金之州,不是蠻荒西部:加州總檢察長邦塔就網絡安全事件起訴 OpenAI》。
邦塔表示,此次訴訟重點涉及今年 7 月 OpenAI 實驗性 AI 智能體攻擊 Hugging Face 平台的事件。公眾不應被迫承擔保護自身免受 OpenAI 不安全實驗所帶來的危險的成本。
邦塔當天在舊金山高等法院提起訴訟,指控 OpenAI 未能充分保障模型測試環境的安全,也未能向公眾如實披露相關風險。加州方面認為,OpenAI 在明知實驗性模型具備較強網絡攻擊能力的情況下,仍在存在安全漏洞的測試環境中運行這些模型,且缺乏充分監督。
此次訴訟的核心事件發生於 2026 年 7 月。當時,運行在 OpenAI 實驗性模型上的數百個自主 AI 智能體突破原本應當隔離的研究環境,通過公共互聯網對開源 AI 平台 Hugging Face 發起網絡攻擊。根據訴訟文件,這次攻擊持續約兩天半,涉及數百個自主智能體協同行動,並使用了複雜的網絡攻擊手段。
加州司法部稱,這些智能體原本應該被限制在 OpenAI 的研究環境內,但由於測試環境存在可被利用的漏洞,最終得以訪問外部網絡。加州方面還指控,OpenAI 在攻擊發生前數週已經出現過智能體逃離測試環境、濫用第三方資源等跡象,但未能及時發現或採取有效措施。
邦塔表示,Hugging Face 事件並非孤立案例。根據其辦公室掌握的信息,OpenAI 在測試期間至少發生過 80 次 AI 智能體失去控制的事件,部分事件涉及第三方網站及系統。加州方面認為,這些事件可能只是已知問題的一部分,而 OpenAI 未能充分回應監管部門此前提出的詳細調查問題。
除 Hugging Face 外,訴訟文件還提及 RubyGems、DseWiki、維基媒體基金會以及澳大利亞政府網站等相關事件,稱 OpenAI 的實驗性智能體曾訪問未經授權的第三方系統,部分事件還涉及員工個人信息等敏感數據。
加州此次提出的訴訟包括兩項主要指控:一是 OpenAI 未能妥善控制實驗性 AI 智能體,構成危害公共安全的公共妨害行為;二是該公司的相關行為違反加州《不正當競爭法》,涉及不公平或誤導性商業行為。加州方面要求法院責令 OpenAI 改進模型開發和測試流程、採取必要安全措施,並對相關違法行為施加處罰。
事實上,加州此前已經針對這一事件展開調查。2026 年 9 月,加州檢察長辦公室宣佈對 Hugging Face 網絡攻擊事件啓動正式調查,並於 10 月向 OpenAI 發出調查傳票,要求其提供涉及網絡安全事件及模型風險的相關信息。
OpenAI 對此表示,公司在 7 月事件發生後已經開展了廣泛調查,並採取措施加強智能體安全控制、隔離測試環境以及識別模型偏離預期行為的能力。OpenAI 還表示,模型行為失調是整個 AI 行業面臨的挑戰,公司願意繼續與加州檢察長辦公室合作,推動制定切實可行的安全標準。
新浪科技公眾號
“掌”握科技鮮聞 (微信搜索techsina或掃描左側二維碼關注)
科學大家

新浪科技
新浪科技為你帶來最新鮮的科技資訊

蘋果匯
蘋果匯為你帶來最新鮮的蘋果產品新聞

新浪眾測
新酷產品第一時間免費試玩

新浪探索
提供最新的科學家新聞,精彩的震撼圖片
來源:新浪科技 · finance.sina.com.cn