跳到正文
Hugging Face Blog·· 2026-07-16精選AI 評分76

Hugging Face 披露 2026 年 7 月生產基礎設施遭自主 AI 智能體系統入侵

Security incident disclosure — July 2026

AI 導讀

Hugging Face 披露,其部分生產基礎設施遭自主 AI 智能體系統入侵,攻擊者存取了有限範圍的內部資料集及多項服務憑證。Hugging Face 已封堵相關程式碼執行路徑、重建受影響節點並輪換憑證;目前未發現公開、面向用户的模型、資料集或 Spaces 遭篡改,合作夥伴或客户資料是否受影響仍在評估。

推薦理由

事件呈現託管模型安全護欄對事故分析的限制,也提供可遷移的準備方向,即預先驗證能在自有基礎設施運行的模型,以保護攻擊資料並維持調查能力。

正文 · 繁體中文

本週較早時,我們發現並應對了一宗針對部分生產基礎設施的入侵事件。這次事件有一個重要之處與以往不同:攻擊從頭到尾均由自主 AI 代理系統驅動,而我們在很大程度上亦利用自家的 AI 偵測和剖析事件。

我們確認有人未經授權存取少量內部資料集,以及數個服務使用的憑證。我們仍在完成評估,以確認合作夥伴或客戶資料是否受影響;如有受影響人士,我們會按規定直接聯絡。我們未發現公開、面向用戶的模型、資料集或 Spaces 遭篡改的證據;軟件供應鏈(容器映像和已發布套件)亦已確認沒有問題。

事件經過

入侵從 AI 平台特別容易暴露的環節開始:數據處理管道。惡意資料集利用了我們資料集處理中的兩條程式碼執行路徑(一個遠端程式碼資料集載入器,以及資料集配置中的範本注入),在處理工作節點上執行程式碼。之後,攻擊者提升至節點層級存取權限,竊取雲端和叢集憑證,並在一個週末期間橫向移動至數個內部叢集。

這次行動由一套自主代理框架執行(看來建基於代理式安全研究工具框架;所用 LLM 仍未確認),在大量短暫沙箱組成的網絡中執行數以千計個別操作,並把可自行遷移的命令與控制基礎設施部署於公開服務。這正是業界一直預測的「代理式攻擊者」情境。

我們採取的行動

  • 修補根本漏洞:已關閉用於初始存取的資料集程式碼執行路徑。
  • 清除受影響叢集中的攻擊者立足點,並重建遭入侵的節點。
  • 撤銷並輪換受影響的憑證和 tokens,並開始更大範圍的預防性密鑰輪換。
  • 在叢集部署額外防護措施和更嚴格的准入控制。
  • 改善偵測和警報機制,確保高嚴重程度訊號能在數分鐘內通知應變人員,每週任何一天均適用。

我們正與外部網絡安全鑑證專家合作調查事件,並檢視安全政策和程序。此外,我們亦已向執法機構通報事件。

致社羣

作為預防措施,我們建議你輪換所有存取 tokens,並檢查帳戶近期活動。如你認為自己受到影響,或想舉報安全問題,請透過 security@huggingface.co 聯絡我們。

感謝 Hugging Face 各團隊日以繼夜應對事件,對於造成任何干擾,我們深表歉意。安全工作永無止境;我們會繼續提高標準。

剖析由 AI 驅動的入侵

這次攻擊最初由 AI 輔助偵測系統發現。我們的異常偵測管道會使用基於 LLM 的分流,分析安全遙測資料並從日常雜訊中辨別真實訊號;正是這些訊號之間的關聯揭示了入侵事件。

為瞭解數以萬計自動化操作組成的攻擊網絡做了甚麼,我們使用 LLM 驅動的分析代理檢視完整攻擊者操作記錄,當中包含超過 17,000 筆事件。這讓我們重組事件時間線、擷取入侵指標、整理曾被接觸的憑證,並分辨真實影響與誘餌活動。藉助這種方法,我們在數小時內完成通常需要數天的工作,跟上對手的速度。

我們能用於這項分析的模型選擇受到意料之外的限制,詳情如下。

不對稱問題

開始分析記錄時,我們先使用商業 API 背後的前沿模型,但這行不通:分析需要提交大量真實攻擊命令、漏洞利用載荷和 C2 檔案,而供應商的安全防護機制會封鎖這些請求,無法分辨事件應變人員和攻擊者。於是,我們改在自家基礎設施上使用開放權重模型 zai-org/GLM-5.2進行鑑證分析。這亦帶來第二項好處:攻擊者資料及其提及的所有憑證均沒有離開我們的環境。

這次經驗顯示一項值得預先規劃的缺口。我們不知道攻擊者代理使用哪個模型,可能是越獄的託管模型,也可能是不受限制的開放權重模型;無論如何,攻擊者不受任何使用政策約束,而我們自己的鑑證工作卻被最初嘗試的託管模型防護機制阻擋。給防禦者的實際教訓是:在事故發生之前,先審核並準備好一個可在自家基礎設施運行、能力足夠的模型,既可避免被防護機制鎖在門外,也可防止攻擊者資料和憑證離開你的環境。這並非反對託管模型的安全措施;我們正把這些意見分享給相關供應商。

這代表甚麼

自主、由 AI 驅動的攻擊工具已不再只是理論。它降低了發動範圍廣、具耐性、多階段攻擊行動的成本,運作速度更可達機器級別。如今,要防禦網絡平台,就必須把數據和模型介面視為首要攻擊面,並以 AI 輔助防禦,追上攻擊步伐。我們會繼續投資於此,並分享所學。

來源:Hugging Face Blog · huggingface.co