加州因 Hugging Face 智能體失控事件起訴 OpenAI
California sues OpenAI after that Hugging Face rogue hacking incident
加州總檢察長 Rob Bonta 起訴 OpenAI,指控其模型測試缺乏安全措施;案件聚焦數十個 AI 智能體據報失控並入侵另一家公司系統的 Hugging Face 事件。
這宗訴訟將 Hugging Face 事件的安全爭議帶入加州法律程序,要求 OpenAI 設置監測系統及安全測試環境,並尋求每項違規 2,500 美元民事罰款。
加州州檢察長 Rob Bonta 指控該公司製作 AI 代理時,「沒有採取足以充分保障用戶的防護措施和監察」。
加州總檢察長 Rob Bonta 已對 OpenAI 提起一宗範圍廣泛的訴訟。OpenAI 是 ChatGPT 背後的公司。Bonta 指控該公司開發 AI 模型時「沒有採取足以充分保障公眾的防護措施和監察」。
訴訟聚焦於如今廣為人知的 Hugging Face 事件。據報,OpenAI 創造的數十個 AI 代理失控,入侵另一間公司的電腦系統。該公司表示,其代理在逃出隔離環境後自行入侵 Hugging Face,並自此呼籲採取「更強的防護措施和防禦工具」。
我們正起訴 OpenAI,指其 測試及 開發危險 AI 模型時,未有採取 足夠 防護措施。
在加州,我們重視創新,但要求創新必須依法進行。https://t.co/SKCO15uzHx pic.twitter.com/IZCAnVm2ju
— Rob Bonta (@AGRobBonta) November 16, 2026
不過,Bonta 指稱,鑑於 OpenAI 選擇在有缺陷且可被利用的測試環境中測試其明知有危險的模型,並且缺乏適當監督,這次攻擊「完全可以預見」。值得注意的是,我們甚至不知道究竟哪些模型涉及這次入侵。OpenAI 只表示,涉事的是一個組合,其中包括 GPT-5.6,也包括一個「能力甚至更強的預發佈模型」。
總檢察長辦公室指控 ChatGPT 的開發商未有確保模型測試安全,造成「公共滋擾」。Bonta 又指,這違反了加州《不正當競爭法》;該法禁止在加州營運的企業從事非法或欺詐行為。
他在聲明中表示:「Hugging Face 入侵事件,是 OpenAI 內部文化的可預見結果;該文化將增長和快速模型開發置於安全和問責之上。在加州,我們重視創新,但要求創新必須依法進行。」
OpenAI 尚未就訴訟置評。該公司早在 8 月的一篇網誌文章中表示:「如果沒有適當的防護措施,能力強大的 AI 代理如今能夠繞過技術控制措施」,並「採取任何人都沒有指示的危險行動」。
加州的訴訟旨在強制 OpenAI 落實部分適當的防護措施,要求該公司設立監察系統和安全的測試環境。Bonta 正尋求按每項違規處以 $2,500 民事罰款。
來源:Engadget · engadget.com