Hugging Face 推出模型卡建立工具、指南及更新範本
Hugging Face 推出模型卡建立工具及配套指南，並在 huggingface_hub library 發佈更新版模型卡範本。工具以圖形介面支援不同背景與角色的團隊毋須編程或使用 Markdown 協作撰寫，範本加入預設提示文字，特別涵蓋偏差、風險與限制。這項工作亦包括 Hugging Face 的模型卡使用者研究，以及機器學習文檔現況分析和文獻回顧。
#Hugging Face
#Hugging Face
今日 8 條Hugging Face BlogAI 評分5656
Hugging Face Blog精選AI 評分6363 Hugging Face 倫理與社會電子報第 2 期：談談機器學習中的偏見
Hugging Face 的 Ethics and Society 團隊在第 2 期電子報中，探討機器學習偏見如何隨部署情境轉化為風險，並整理團隊用於不同開發階段的工具與建議。
推薦理由：文章把機器偏見連結至具體部署情境，並按任務定義、資料整理與模型開發階段整理評估及記錄做法，讓風險辨識不只停留在模型輸出檢查。
Hugging Face BlogAI 評分5555 Hugging Face Datasets 音訊資料集完整指南
Hugging Face 示範如何透過 🤗 Datasets 一行 Python 程式碼載入音訊資料集，並以 GigaSpeech 説明重採樣、預處理和篩選流程。
Hugging Face Blog精選AI 評分6868 RLHF 圖解：人類反饋強化學習的訓練流程
Hugging Face Blog 梳理 RLHF 的三階段訓練流程，包括預訓練語言模型、收集偏好數據並訓練獎勵模型，以及以強化學習微調模型。人類標註者透過比較並排序同一提示下生成的文本來建立偏好數據；PPO 微調時，KL 懲罰用於限制策略偏離初始模型。
推薦理由：文章拆解 RLHF 的三階段訓練流程，並説明偏好排序如何訓練獎勵模型，以及 KL 懲罰如何約束後續策略更新。
Hugging Face Blog精選AI 評分6262 蛋白質深度學習入門：遷移學習與摺疊預測
Hugging Face Blog 説明如何將語言模型的遷移學習應用於蛋白質序列，先以大量蛋白質序列預訓練，再遷移至摺疊和分類等任務。文章指出，ESMFold 類似 AlphaFold2，但執行時毋須外部資料庫或搜尋步驟。文中亦提供 PyTorch 和 TensorFlow 的蛋白質模型微調範例，以及目前僅支援 PyTorch 的 ESMFold 筆記本。
推薦理由：文章以語言模型遷移學習作類比，説明蛋白質序列預訓練如何延伸至摺疊及分類任務，並提供微調筆記本作實作起點。
Hugging Face Blog精選AI 評分7474 在 Apple Silicon 上透過 Core ML 使用 Stable Diffusion
Hugging Face Blog 介紹如何在 Apple Silicon 上透過 Core ML 運行 Stable Diffusion，並提供自行轉換後上載至 Hugging Face Hub 的模型權重。
推薦理由：文章交代 Python 與 Swift 所需的模型封裝、attention 變體及運算單元差異，能幫助開發者按硬件和使用方式選擇 Core ML 推理配置。
Hugging Face BlogAI 評分3434 Hugging Face 招募實習生！
Hugging Face 宣佈 2023 年實習計劃，招募開源、科學及其他團隊的實習生。職位涵蓋 Accelerate、文字轉語音、具身 AI、大語言模型分散式訓練框架、LLM 資料集、社會影響評估及 AI 藝術工具。申請須建立 Hugging Face 帳户。
Hugging Face BlogAI 評分4444 Hugging Face 擴散模型社羣活動將於 11 月 30 日舉行
Hugging Face 將於 11 月 30 日舉辦擴散模型社羣活動，並於 11 月 28 日推出與 Jonathan Whitaker 合作的免費 Diffusion Models Class。課程涵蓋擴散模型理論與應用；活動講者包括 Stable Diffusion 創作者、Stability AI 與 Meta 研究人員等，分享擴散模型及其應用工具。
Hugging Face Blog精選AI 評分6464 Hugging Face 分享以開源模型加速 Document AI 的方法
Hugging Face 介紹如何以開源模型建立 Document AI 方案，並按任務梳理文件分類、版面分析、文件解析、表格處理及文件問答。文中以 RVL-CDIP 為例，列出 BERT-base、DiT、LayoutLMv3 和 Donut 的文件分類準確率分別為 89%、92% 及 95%，並討論授權、數據準備、微調與評估等實作考量。
推薦理由：文章按文件類型與任務梳理 Document AI 模型選擇，並串連授權、數據準備和評估考量，提供從小規模微調起步的實作思路。
Hugging Face BlogAI 評分5757 Concrete-ML 教程：如何以同態加密進行情感分析
Hugging Face Blog 示範以 Concrete-ML 建立同態加密情感分析流程，讓伺服器可在不解密資料的情況下預測加密文本表徵。流程由客户端以 Transformer 產生文本表徵，再交由 XGBoost 分類；文章報告模型準確率為 85%，高於 Transformer 本身的 80%，FHE 推理在 16 核 CPU 上每例需 4.4 秒。
Hugging Face BlogAI 評分5656 Hugging Face Spaces 與 arXiv 整合，論文摘要頁新增 Demo 標籤
Hugging Face 與 arXiv 合作，將 Hugging Face Spaces 整合至 arXivLabs，並在論文摘要頁加入 Demo 標籤，方便讀者瀏覽相關演示。讀者可直接試用社羣或作者製作的開源 Demo，毋須執行程式碼。文中以 BERT 為例，其論文頁面有超過 200 個社羣 Demo。
Hugging Face BlogAI 評分5656 Hugging Face 更新定價與計費安排，Inference API 付費層將取消
Hugging Face 調整付費服務安排，Inference API 將取消付費層，並繼續免費向所有人開放。Inference Endpoints 是面向快速、企業級推理即服務的新方案；Spaces 亦新增硬件升級，讓機器學習示範可在自選硬件上運行。使用這些服務無須訂閲，只需在帳户加入信用卡，也可為組織綁定付款方式；付費服務及訂閲費用於每月月初收取，並提供合併發票。
Hugging Face Blog精選AI 評分7373 使用 Diffusers 以 Dreambooth 微調 Stable Diffusion 的實驗與設定建議
Hugging Face 團隊以 Diffusers 的 `train_dreambooth.py` 對 Stable Diffusion 進行 Dreambooth 微調實驗，整理降低過擬合及改善生成品質的設定建議。
推薦理由：文中以不同主體的對照實驗梳理學習率、訓練步數與 prior preservation 對過擬合的影響，為 Dreambooth 微調提供具體設定參照。
Hugging Face Blog精選AI 評分7373 使用 🤗 Transformers 微調 Whisper 以支援多語言 ASR
Hugging Face Blog 提供使用 🤗 Transformers 為多語言 ASR 資料集微調 Whisper 的逐步指南，涵蓋資料準備、訓練與評估。
推薦理由：文章將 Whisper 多語言微調拆解為資料準備、特徵處理、訓練評估與示範流程，並以印地語資料展示從預處理到模型分享的可複用實作路徑。
Hugging Face BlogAI 評分5858 如何使用 Optimum Intel 和 OpenVINO 加速模型推理
Hugging Face 宣佈 Optimum Intel 整合 Intel OpenVINO，可透過 OpenVINO Runtime 在多種 Intel 處理器上推理 Transformers 模型，並使用 NNCF 量化多種 encoder 模型。
Hugging Face BlogAI 評分5454 使用 🤗 Evaluate 評估語言模型偏差
Hugging Face 團隊在 🤗 Evaluate 加入多項偏差評估指標，並示範如何檢視因果語言模型根據提示詞生成的文本。示例使用 Toxicity、Regard 和 HONEST 評估文本毒性、不同羣體的語言極性差異，以及有害句子完成中的性別刻板印象。文章提醒，現有資料集涵蓋的身份特徵有限，這些指標只能呈現偏差的不同面向，建議結合多種指標使用。
Hugging Face BlogAI 評分5656 從 PyTorch DDP 到 Accelerate 再到 Trainer：輕鬆掌握分散式訓練
Hugging Face Blog 以 MNIST 示例講解 PyTorch DDP、Accelerate 與 Transformers Trainer 如何用於多 GPU 或多機分散式訓練。
Hugging Face Blog精選AI 評分7171 MTEB 提供文本嵌入模型的大規模基準測試與排行榜
MTEB 是一套評估文本嵌入模型在多種任務上表現的大型基準測試，並以排行榜彙整模型成績。該基準涵蓋 56 個數據集、8 類任務及最多 112 種語言，排行榜彙整 >2000 項結果。
推薦理由：MTEB 把 56 個數據集、8 類任務納入同一排行榜，並提供自行測試及提交結果的流程，方便按具體任務比較文本嵌入模型。
Hugging Face Blog精選AI 評分6767 Hugging Face Inference Endpoints 入門：從 Hub 部署模型並設定存取方式
Hugging Face 推出 Inference Endpoints，讓用户可從 Hugging Face Hub 將機器學習模型部署至所選雲端的受管基礎設施。
推薦理由：文章逐步展示從 Hugging Face Hub 將模型部署至 AWS，並比較 Protected 與 Private 端點的存取範圍和 VPC 設定。
Hugging Face Blog精選AI 評分6363 BLOOM 推理優化實錄：延遲降低 5x、吞吐量提升 50x
Hugging Face 團隊記錄了為 BLOOM 建置推理伺服器的優化過程，稱數週內將延遲降低 5x、吞吐量提升 50x。改用 Tensor Parallelism 後，延遲由 300ms/token 降至 91ms/token，吞吐量升至 10RPS；其後透過 torch.jit.script 和自訂 kernel 將延遲再降至 71ms/token。
推薦理由：文章以 BLOOM 的實測串連並行策略、算子融合和批次服務的取捨，呈現大型模型推理優化中如何平衡延遲與吞吐量。
Hugging Face BlogAI 評分5252 Hugging Face Hub 為模型與資料集新增 DOI 生成及引用功能
Hugging Face Hub 現已支援為模型或資料集生成 DOI，任何人都可在資源頁點擊「引用此模型／資料集」來引用。註冊 Hub 用户可在 repo 設定中申請 DOI；Hugging Face 與 DataCite 合作，申請者填妥必要元資料後即可取得。
Hugging Face Blog精選AI 評分6161 Hugging Face Evaluation on the Hub 如何評估超大型語言模型
Hugging Face 的 Evaluation on the Hub 現已支援免寫程式對 Hub 上的因果語言模型進行零樣本分類評估，最高支援 66 billion parameters。
推薦理由：文章説明如何用 Evaluation on the Hub 比較不同規模模型，並以 WinoBias 案例展示零樣本評估如何檢視職業性別偏見。
Hugging Face BlogAI 評分5959 Hugging Face AutoTrain 新增圖像分類任務
Hugging Face 為 AutoTrain 新增圖像分類任務，擴展其 Computer Vision 支援，讓用户可透過免配置流程訓練圖像分類模型。AutoTrain 可載入本地資料或 Hugging Face Hub 上的資料集，並嘗試多個模型候選；文中的蝴蝶分類例子中，最佳模型準確率為 84%。使用 5 個候選模型及少於 500 張圖片訓練免費。
Hugging Face Blog精選AI 評分7070 Hugging Face 介紹 SetFit：無需提示詞的高效少樣本學習框架
Hugging Face 與 Intel Labs、UKP Lab 共同介紹 SetFit，這是一套無需提示詞、以少量標註資料微調 Sentence Transformers 的少樣本學習框架。
推薦理由：文章比較 SetFit 與其他少樣本方法在 RAFT 等基準的表現，並列出訓練時間與成本，提供分類效能和訓練效率的直接參照。
Hugging Face BlogAI 評分3838 Hugging Face《倫理與社會通訊》第 1 期
Hugging Face 推出《倫理與社會通訊》，分享將協作、責任與透明度等價值融入 AI 開發的思考與實踐。通訊每季於春分、秋分及夏至、冬至刊出，內容涵蓋文件與評估工具、教育項目、資料偏斜與偏見分析，以及模型訓練碳排追蹤。Hugging Face 亦開放對模型、資料及 Spaces 的直接回饋，並支援舉報模型與 Spaces 儲存庫中的倫理及法律問題。
Hugging Face Blog精選AI 評分8181 Diffusers 0.3 新增圖生圖、Textual Inversion 等功能
Hugging Face 團隊介紹 Diffusers 0.3 的功能更新，涵蓋圖生圖、Textual Inversion、實驗性修補管線及推理優化。Textual Inversion 可用 3-5 張樣本個人化 Stable Diffusion；啟用優化後，Stable Diffusion 僅需 3.2GB VRAM，生成結果相同但速度降低 10%。
推薦理由：Diffusers 0.3 把圖生圖、模型個人化等功能更新，連同小顯存、Mac 與 ONNX 的操作示例一併呈現，便於對照 Stable Diffusion 在不同環境的操作與部署方式。
Hugging Face BlogAI 評分5858 Hugging Face 示範如何從零訓練第一個離線 Decision Transformer
Hugging Face 示範如何使用離線強化學習資料，從零訓練 Decision Transformer，使其學習 Gym HalfCheetah 環境中的奔跑行為。
Hugging Face BlogAI 評分5757 如何使用 Megatron-LM 訓練語言模型
Megatron-LM 可在 NVIDIA GPU 上用於訓練 GPT2，並可將訓練後的模型轉換為 Transformers 支援的格式。教程以 110M 參數的 CodeParrot 為例，涵蓋資料預處理、8 張 GPU 訓練（約需 12 小時）及權重轉換。文章指出額外的預處理和轉換會增加時間開銷，建議將 Megatron-LM 用於預訓練或較長時間微調，而非中型模型的短期微調。
Hugging Face BlogAI 評分5454 在 Hugging Face Spaces 中可視化蛋白質
這篇教程示範如何在 Hugging Face Spaces 中使用 3Dmol.js 和 Gradio HTML 區塊呈現蛋白質結構。示例應用接受 4 位 PDB code 或上傳的 PDB 檔案，並透過 iframe 顯示結構。2024 年 5 月更新建議使用 Molecule3D Gradio Custom Component，讓用户可即時修改蛋白質可視化，亦更容易設定預設可視化。
Hugging Face Blog精選AI 評分7878 使用 Diffusers 執行 Stable Diffusion 圖像生成並自訂推理流程
Hugging Face 文章示範如何用 Diffusers 的 StableDiffusionPipeline 執行 Stable Diffusion 文生圖，並介紹模型原理及自訂推理流程。
推薦理由：文章從 Stable Diffusion 的基礎生成示例延伸至參數設定與自訂推理流程，並解釋 VAE、U-Net 和文字編碼器在潛在空間生成中的分工，提供拆解 Diffusers pipeline 的實用脈絡。
Hugging Face BlogAI 評分5656 在 Vertex AI 部署 🤗 ViT
Hugging Face Blog 示範將 🤗 Transformers 中以 TensorFlow 實作的 ViT B/16 部署至 Vertex AI，並透過 Python SDK 建立端點及發送預測請求。文章説明模型版本管理、流量分配、監控與資源設定，並記錄 Locust 本機負載測試約發出 17230 次請求，平均延遲為 646 Milliseconds。
Hugging Face Blog精選AI 評分8484 Hugging Face Transformers、Accelerate 與 bitsandbytes 的大規模 8-bit 矩陣乘法入門
Hugging Face 將 LLM.int8() 整合至 Transformers 與 Accelerate，透過混合 INT8/FP16 矩陣乘法降低大型語言模型推理所需的記憶體。
推薦理由：文章串連 LLM.int8() 的離羣特徵處理、效能比較與 Transformers 整合細節，呈現 8-bit 量化降低大型模型記憶體需求的實作脈絡。
Hugging Face BlogAI 評分5555 Hugging Face 推出 Skops，支援託管 scikit-learn 模型及建立模型卡
Hugging Face 推出 Skops，這個程式庫可將 scikit-learn 模型託管至 Hugging Face Hub，並建立模型卡以記錄模型資訊及促進協作。
Hugging Face Blog精選AI 評分6060 Hugging Face 的 TensorFlow 設計理念
Hugging Face 説明 Transformers 的 TensorFlow 設計取向，將模型和層設為 Keras Model 與 Keras Layer，讓使用者可直接調用 fit()、compile() 和 predict()。
推薦理由：文章梳理 Hugging Face Transformers 對 TensorFlow 的六項設計取向，並以 Keras 訓練、資料管線、XLA 與部署示例，呈現這些取捨如何落實到模型訓練和部署流程。
Hugging Face BlogAI 評分5050 使用 TF Serving 在 Kubernetes 上部署 Hugging Face Transformers 的 ViT
Hugging Face Blog 示範如何以 Docker 和 TensorFlow Serving，將 🤗 Transformers 的 Vision Transformer（ViT）部署至 Kubernetes。
Hugging Face BlogAI 評分5656 PPO（近端策略優化）原理與 PyTorch 實作教程
Hugging Face 深度強化學習課程第 8 單元講解 PPO（近端策略優化），説明其透過裁剪策略概率比限制更新幅度，以提升訓練穩定性。文章介紹裁剪替代目標函數，並以 PyTorch 從零實作 PPO，在 CartPole-v1 和 LunarLander-v2 測試；示例裁剪範圍為 [0.8,1.2]（ϵ=0.2）。
Hugging Face BlogAI 評分5151 🤗 Datasets 新增音訊與視覺資料集文件
Hugging Face 為 🤗 Datasets 新增音訊與圖像資料集文件，並更新 Quickstart，提供使用 PyTorch 或 TensorFlow 載入及處理資料集的端到端示例。
Hugging Face BlogAI 評分5656 Hugging Face Transformers 如何用 TF Serving 部署 TensorFlow 視覺模型
Hugging Face Transformers 的 Vision Transformer（ViT）圖像分類模型，可使用 TensorFlow Serving 在本機部署並透過 REST 或 gRPC 提供服務。教程將圖像解碼、縮放至 224×224、正規化及分類後處理整合至 SavedModel，使其接收 base64 編碼圖像並輸出分類標籤和信心度。
Hugging Face BlogAI 評分4949 優勢 Actor-Critic（A2C）
Hugging Face 深度強化學習課程第 7 單元講解 Advantage Actor Critic（A2C），以 Actor 和 Critic 結合政策式與價值式方法，降低 Reinforce 策略梯度估計的方差並穩定訓練。課程使用 Stable-Baselines3，在 PyBullet 機械人模擬環境訓練雙足步行者和蜘蛛智能體。
Hugging Face BlogAI 評分4646 MNIST 模型如何利用動態對抗資料訓練
Hugging Face 的教學以 MNIST 手寫數字識別示範，如何動態收集人類生成的對抗樣本並用於模型訓練。示範模型訓練 20 epochs 後，在測試集準確率為 89%；用户可在 Spaces 畫布書寫 0-9，並標記能騙過模型的樣本。樣本累積至門檻後會用來再訓練模型，並重複多輪，以提高模型穩健性。