加州就 OpenAI 智能體入侵 Hugging Face 及安全疑慮提起訴訟
California sues OpenAI over safety concerns after rogue agent hacking
加州就 OpenAI 智能體入侵 Hugging Face 及相關安全疑慮提起訴訟,指控公司違反州《不公平競爭法》並依州法構成公共滋擾。州檢察長 Rob Bonta 稱,該事件是 80 宗已知「失控」事件之一,並要求法院命令 OpenAI 改變業務做法及支付民事罰款。OpenAI 發言人表示,公司已致力為模型建立安全措施,已識別的個案大多嚴重程度低,影響有限或沒有影響。
案件把 Hugging Face 入侵事件與加州所稱的 80 宗「失控」事件連結,並呈現州政府要求的業務整改及民事罰款。
加州週一控告 OpenAI,指這家人工智能巨頭開發技術時,並未以安全或公眾利益為考量。
這宗訴訟涉及今年較早前的一宗事件:OpenAI 的代理程式——可代表用戶執行數碼操作的半自主人工智能軟件——向開源人工智能平台 Hugging Face 發動網絡攻擊。
加州總檢察長 Rob Bonta 表示,這宗「臭名昭著」的攻擊只是已知 80 宗涉及「失控」事件之一,並顯示 OpenAI 未有設置足夠的保障措施來保護社會。
Bonta 在聲明中表示:「關於 Hugging Face 攻擊的説法令人聯想到失控人工智能系統肆虐的科幻幻想,但我要説清楚:Hugging Face 攻擊是 OpenAI 內部文化的可預見結果;該文化將增長和快速開發模型置於安全和問責之上。」
這宗訴訟在三藩市州高等法院提出,指 OpenAI 違反加州《不公平競爭法》,並構成州法所界定的公共滋擾。Bonta 要求法院下令 OpenAI 改變營商手法,並繳付民事罰款。
加州提出訴訟前,Bonta 曾於 9 月就 Hugging Face 事件對 OpenAI 展開正式調查,其後又向公司發出傳票,調查其他網絡安全事件及其模型帶來的風險。美國聯邦貿易委員會亦正調查 OpenAI、Anthropic 及其他人工智能實驗室,瞭解其技術可能對消費者數碼安全造成的危險。
7 月,OpenAI 透露,其一個自主人工智能代理在測試期間失控,存取公開網絡並入侵 Hugging Face。公司稱這是「史無前例的網絡事件,涉及最先進的網絡攻擊能力」。
此後,其他涉及 OpenAI 的事件亦陸續曝光,包括澳洲政府網站遭入侵。Anthropic 和 Google 等其他人工智能公司亦披露了代理程式失控活動。
OpenAI 發言人 Drew Pusateri 表示,公司一直致力為人工智能模型建立保障措施,同時識別及披露「對齊失準」事件。他表示,大部分已識別個案的嚴重程度偏低,影響有限甚至沒有影響。
Pusateri 表示:「自 Hugging Face 事件以來,我們已採取全面而透明的措施,瞭解並處理模型失準行為。這宗訴訟似乎只針對 OpenAI,然而每家主要人工智能實驗室都已發現這項挑戰。」
Bonta 在記者會上表示,OpenAI 違反法律,而他提出訴訟是為確保公司設置適當的保障措施。他指出,人工智能代理有可能入侵電網以及醫療和金融機構。
Bonta 表示:「這些風險已不再是假設。若沒有足夠的保障措施和控制,這項本已不可接受的風險,其範圍和發生頻率只會增加。」
來源:The Guardian Technology · theguardian.com