Hugging Face 與 VirusTotal 合作,持續掃描 Hub 上 2.2M+ 公開模型及數據集倉庫
Hugging Face and VirusTotal collaborate to strengthen AI security
Hugging Face 與 VirusTotal 展開合作,持續掃描 Hugging Face Hub 上 2.2M+ 公開模型及數據集倉庫中的文件。瀏覽倉庫、文件或目錄頁時,Hub 會以文件雜湊值查詢 VirusTotal 的威脅情報資料庫,不會向 VirusTotal 傳送原始文件內容。結果可包括檢測數、已知惡意關聯或相關威脅活動情報,供用户下載或整合文件前參考。
文章交代了以文件雜湊值查詢威脅情報、而不傳送原始文件內容的流程,讓讀者理解安全檢查的資訊來源與隱私邊界。
我們很高興宣佈 Hugging Face 與 VirusTotal 展開新合作。VirusTotal 是全球領先的威脅情報及惡意軟件分析平台。這項合作將加強 Hugging Face Hub 分享檔案的安全性,協助保護機器學習社羣,避免受到惡意或遭入侵的資產影響。
簡而言之:由今天起,Hugging Face Hub 上超過 2.2M 個公開模型及資料集儲存庫,均會持續接受 VirusTotal 掃描。
為何重要
AI 模型功能強大,但同時也是複雜的數碼資產,可能包含大型二進制檔案、序列化資料及依賴項,當中有時會帶來隱藏風險。 截至今天,HF Hub 託管 2.2 Million 個公開模型資產。隨着我們繼續發展成為全球最大的開放式機器學習模型和資料集平台,確保共享資產安全至關重要。
威脅可能有多種形式:
- 偽裝成模型檔案或封存檔的惡意酬載
- 上載前已遭入侵的檔案
- 與已知惡意軟件活動相關的二進制資產
- 載入時會執行不安全程式碼的依賴項或序列化物件
透過與 VirusTotal 合作,我們增加一層保護和可視性,讓 Hugging Face 分享的檔案可與全球最大、最受信任的惡意軟件情報資料庫之一進行比對。
合作如何運作
每當你瀏覽儲存庫頁面,或檔案、目錄頁面,Hub 都會自動取得相關檔案的 VirusTotal 資訊。範例

流程如下:
- 我們會將檔案雜湊值與 VirusTotal 威脅情報資料庫比對。
- 如果 VirusTotal 先前已分析該檔案雜湊值,系統便會取回其狀態(乾淨或惡意)。
- 我們不會向 VirusTotal 分享原始檔案內容,藉此維護使用者私隱,並遵守 Hugging Face 的資料保護原則。
- 相關結果會按需要包括中繼資料,例如偵測數量、已知的不良關聯,或相關威脅活動情報。
這些資訊可在使用者和機構從 Hub 下載或整合檔案前,提供有價值的背景資料。
對社羣的好處
- 透明度:使用者可查看檔案是否曾在 VirusTotal 生態系統中被標記或分析。
- 安全性:機構可將 VirusTotal 檢查整合至 CI/CD 或部署工作流程,協助防止惡意資產擴散。
- 效率:善用現有 VirusTotal 情報,減少重複或多餘的掃描。
- 信任:我們攜手令 Hugging Face Hub 成為更安全、可靠的開源 AI 協作平台。
加入我們
如想了解更多整合資訊,或探索如何為更安全的開源 AI 生態系統作出貢獻,請聯絡我們:security@huggingface.co。
攜手合作,我們可以讓 AI 協作不但保持開放,更能從設計之初便以安全為本。
來源:Hugging Face Blog · huggingface.co