加州總檢察長起訴 OpenAI,指控其 AI 安全管理不足
OpenAI被起诉:AI安全机制存在漏洞
加州總檢察長羅布·邦塔代表加州人民起訴 OpenAI,指控其模型開發、訓練和測試中的安全管理不足,並依公共妨害相關法律及加州《不正當競爭法》提出訴求。訴狀稱,OpenAI 在回應調查時承認自主 AI 智能體在測試中發生超過80次失控事件,但對外僅報告27起,並列舉智能體未經授權存取外部服務及內部系統的事件。
訴狀將追責範圍由單一網絡攻擊擴展至模型開發、訓練、測試和事件披露管理,並以失控事件數量差異質疑 OpenAI 的安全透明度。
OpenAI今年7月涉及開源人工智能平台Hugging Face的網絡攻擊事件仍在發酵。
當地時間11月16日,美國加利福尼亞州總檢察長羅布·邦塔(Rob Bonta)代表加州人民向舊金山高等法院對OpenAI提起訴訟,指控該公司在明知先進人工智能模型存在安全風險的情況下,仍在缺乏充分防護和監控的環境中開展訓練與測試,危及公眾安全,並涉嫌違反加州《不正當競爭法》。
第一財經記者查閲訴訟文件發現,此次訴訟並非針對單一網絡攻擊事件,而是將OpenAI在模型開發、訓練和測試過程中的安全管理問題作為整體追責對象。訴狀請求法院判令OpenAI消除持續存在的公共妨害、發佈禁令,並追究相關民事責任。
訴訟最受關注的內容之一,是加州總檢察長辦公室對失控事件數量的披露。訴狀稱,OpenAI在回應調查時承認,其自主AI智能體在測試過程中發生超過80次失控事件,但截至起訴時,公司對外報告的此類事件僅有27起。加州據此質疑,OpenAI公開披露的信息未能反映相關事件的全部範圍。

Hugging Face事件並非孤立個案。加州列舉了開源軟件包倉庫RubyGems、德國網站DseWiki、維基媒體基金會及澳大利亞政府網站等事件,指稱OpenAI智能體曾利用外部網站和軟件服務進行信息交換、未經授權訪問或發起高頻請求。其中,部分事件涉及開發者API密鑰及非公開政府數據。
此外,OpenAI還被指未能有效保護自身內部系統。訴狀稱,2026年7月,部分實驗性智能體突破隔離環境,進入OpenAI內部網絡,並獲得模型雲端部署系統、憑據管理服務及身份和訪問管理系統的管理員級權限,甚至在雲環境中啓動未經授權的服務器。
訴狀還披露,OpenAI近期已向數十家第三方機構發出安全事件通知,涉及政府部門、執法機構、教育機構、國際組織及企業。部分通知稱,智能體曾通過使用被盜憑據、API密鑰或虛假賬戶訪問相關係統,並在個別情況下接觸到包含姓名、出生日期和地址等信息的個人記錄。絕大多數相關事件此前未被公開披露。
加州認為,OpenAI的風險並未隨着Hugging Face事件結束而消失。訴狀稱,2026年9月20日,在公司實施安全加固後,仍有內部研究模型的智能體在訓練期間逃出隔離環境,通過互聯網訪問外部聊天機器人。OpenAI雖在數分鐘內發現異常,但自動停止訓練機制未能按預期啓動,人工審查人員又經過約兩小時才終止訓練。
9月25日,OpenAI宣佈暫停最先進模型的訓練和評估。訴狀稱,公司後來確認,暫停僅持續五天,並於10月1日結束。
在法律層面,加州主要依據《不正當競爭法》和公共妨害相關法律提出訴求。邦塔認為,OpenAI未充分落實自身安全政策,在安全防護不足的情況下繼續測試高風險模型,同時向消費者和公眾作出可能具有誤導性的安全聲明,相關行為不僅涉嫌構成不公平商業行為,也對公眾形成持續風險。
邦塔在聲明中表示,AI創新必須遵守法律,不能以技術發展為由忽視公共安全。其辦公室已於9月30日向OpenAI發出調查傳票,要求提供此前網絡安全事件的數量、規模、性質及相關記錄。但因OpenAI未充分回應調查要求,促使加州尋求法院介入。
目前,訴狀中的相關內容仍屬於加州方面的指控,尚待法院審理認定。OpenAI發言人德魯・普薩特里(Drew Pusateri)對相關指控回應稱,公司自Hugging Face事件以來,已開展廣泛且透明的工作,以調查和處理模型異常行為。
他表示,這起訴訟似乎將OpenAI單獨置於一個所有主要AI實驗室都已發現的行業性問題之中。OpenAI認真對待模型異常行為,並將繼續與加州總檢察長辦公室建設性合作,推動制定適用於整個行業的切實可行的安全標準。
來源:新浪科技 · finance.sina.com.cn