跳到正文
Hugging Face Blog·· 2025-03-04精選AI 評分64

Hugging Face 與 JFrog 合作,將 JFrog 掃描器整合至 Hugging Face Hub

Hugging Face and JFrog partner to make AI Security more transparent

AI 導讀

Hugging Face 與 JFrog 合作,將 JFrog 掃描器整合至 Hugging Face Hub,以分析模型權重中的程式碼並減少誤報。現有 picklescan 按模組名稱作模式匹配,JFrog 則會解析程式碼、檢查潛在惡意用法,並可捕捉 pickle 與 Keras Lambda layers 的相關利用方式。

推薦理由

JFrog 會解析模型權重中的程式碼,補充 picklescan 以模組名稱作模式匹配的檢查方式,並讓公開模型倉庫自動納入掃描。

正文 · 繁體中文

我們很高興宣佈與 JFrog 建立合作夥伴關係。JFrog 是 JFrog Software Supply Chain Platform 的創建者;這項合作延續我們對 ML 社羣的長期承諾,致力提供安全可靠的平台,詳情可參閲相關介紹。

我們決定在平台加入 JFrog 掃描器,持續提升 Hugging Face Hub 的安全性。JFrog 掃描器帶來新的掃描功能,旨在減少 Hub 上的誤報。我們目前觀察到,模型權重可能包含在反序列化時執行的程式碼;視乎格式而定,有時亦會在推論時執行。這類程式碼往往只是開發者使用上的便利,並無惡意。由於我們的 picklescan 掃描器只會比對模組名稱模式,因此未必能確認某個函式或模組的使用是否惡意。 JFrog 會深入一步,解析並分析模型權重中的程式碼,以檢查是否存在潛在惡意用途。

有興趣加入我們的安全合作,或在 Hub 提供掃描資訊嗎?請透過 security@huggingface.co 聯絡我們。

模型安全知識重温

為了分享模型,我們會將權重、設定及其他用來與模型互動的資料結構序列化,以便儲存和傳輸。部分序列化格式容易受到嚴重漏洞利用,例如任意程式碼執行(説的就是你,pickle),因此使用這些格式的共享模型可能帶有危險。

Hugging Face 已成為熱門的模型分享平台,我們希望協助保護社羣,因此開發了 picklescan 等工具,並將 JFrog 整合至我們的掃描工具組。

Pickle 並非唯一可被利用的格式;可參閲此參考資料,瞭解如何利用 Keras Lambda 層執行任意程式碼。好消息是,JFrog 能捕捉這兩類漏洞利用,亦支援更多檔案格式;請查看其 Model Threats 頁面,瞭解最新掃描器資訊。

請在此閲讀我們所有安全文件:https://huggingface.co/docs/hub/security 🔥

整合

你無需採取任何行動即可受惠!所有公開模型儲存庫在你將檔案推送至 Hub 後,都會由 JFrog 自動掃描。你可以查看這個示範儲存庫,瞭解功能實際運作情況:mcpotato/42-eicar-street。

`mcpotato/42-eicar-street`'s' `danger.dat` 掃描結果

請留意,由於模型儲存庫數以百萬計,今天未必能看到你的模型已完成掃描;我們可能需要一些時間才能追上進度 😅。

我們已掃描數以億計的檔案,因為我們相信,讓社羣能安全、順暢地分享模型,將推動整個領域發展。

來源:Hugging Face Blog · huggingface.co