訓練側的門道：數據集構建、合成數據、預訓練與後訓練方法、算力與訓練成本。
Hugging Face 推出 🤗 PEFT 函式庫，整合 🤗 Transformers 與 🤗 Accelerate，支援以參數高效微調大型語言模型。該方法凍結預訓練模型的大部分參數，只訓練少量參數並保存增量權重，以降低計算和儲存成本，同時達到與完整微調相若的效能。文中 LoRA 範例為 bigscience/T0_3B 保存的 adapter_model.bin 僅 19MB。
推薦理由：文章以 LoRA 範例展示 🤗 PEFT 如何接入 🤗 Transformers 的微調流程，並説明只保存增量權重可減少儲存負擔，另交代訓練參數設定與權重載入方式。
Hugging Face Blog 梳理對話智能體的訓練方法，涵蓋 IFT、SFT、RLHF 和 CoT。文中指出，IFT 所需指令數據僅為數百例量級，SFT 以人工標註改善有用性和安全性，RLHF 則根據人類偏好訓練獎勵模型，再用強化學習訓練對話智能體。
推薦理由：文章把 IFT、SFT、RLHF 與 CoT 放在對話智能體訓練脈絡中梳理，並比較多個系統的訓練資料和評估方向，呈現各方法的分工。
Hugging Face 的 Ethics and Society 團隊在第 2 期電子報中，探討機器學習偏見如何隨部署情境轉化為風險，並整理團隊用於不同開發階段的工具與建議。
推薦理由：文章把機器偏見連結至具體部署情境，並按任務定義、資料整理與模型開發階段整理評估及記錄做法，讓風險辨識不只停留在模型輸出檢查。
Hugging Face Blog 梳理 RLHF 的三階段訓練流程，包括預訓練語言模型、收集偏好數據並訓練獎勵模型，以及以強化學習微調模型。人類標註者透過比較並排序同一提示下生成的文本來建立偏好數據；PPO 微調時，KL 懲罰用於限制策略偏離初始模型。
推薦理由：文章拆解 RLHF 的三階段訓練流程，並説明偏好排序如何訓練獎勵模型，以及 KL 懲罰如何約束後續策略更新。
Hugging Face Blog 説明如何將語言模型的遷移學習應用於蛋白質序列，先以大量蛋白質序列預訓練，再遷移至摺疊和分類等任務。文章指出，ESMFold 類似 AlphaFold2，但執行時毋須外部資料庫或搜尋步驟。文中亦提供 PyTorch 和 TensorFlow 的蛋白質模型微調範例，以及目前僅支援 PyTorch 的 ESMFold 筆記本。
推薦理由：文章以語言模型遷移學習作類比，説明蛋白質序列預訓練如何延伸至摺疊及分類任務，並提供微調筆記本作實作起點。
Hugging Face Blog 提供使用 🤗 Transformers 為多語言 ASR 資料集微調 Whisper 的逐步指南，涵蓋資料準備、訓練與評估。
推薦理由：文章將 Whisper 多語言微調拆解為資料準備、特徵處理、訓練評估與示範流程，並以印地語資料展示從預處理到模型分享的可複用實作路徑。
Hugging Face 與 Intel Labs、UKP Lab 共同介紹 SetFit，這是一套無需提示詞、以少量標註資料微調 Sentence Transformers 的少樣本學習框架。
推薦理由：文章比較 SetFit 與其他少樣本方法在 RAFT 等基準的表現，並列出訓練時間與成本，提供分類效能和訓練效率的直接參照。
OpenAI 透過 Video PreTraining（VPT），使用大量未標註的人類 Minecraft 遊玩影片，配合少量已標註的承包商數據訓練神經網絡玩 Minecraft。經微調後，模型可學會製作鑽石工具；熟練玩家完成這項任務通常需要超過 20 分鐘（24,000 次操作）。模型使用按鍵輸入和滑鼠移動這種原生人類操作介面，研究將其視為邁向通用電腦操作智能體的一步。
推薦理由：這項研究展示如何利用大量未標註的人類遊玩影片，配合少量標註數據訓練可透過鍵盤和滑鼠操作遊戲的模型。
這篇教程示範使用 🤗 Datasets 與 🤗 Transformers，將預訓練模型 google/vit-base-patch16-224-in21k 微調為豆類葉片圖像分類器。
推薦理由：文章以 beans 葉片分類串起資料載入、ViT 圖像預處理、Trainer 微調與評估，並展示資料即時轉換及訓練參數設定。
Hugging Face 介紹以 PyTorch / XLA 在 Cloud TPU 訓練 Transformers 的整合方式，並保留 Hugging Face Trainer 原有介面。
推薦理由：文章梳理 PyTorch / XLA 接入 Hugging Face Trainer 的設備選擇、梯度同步與輸入流水線，並説明固定張量形狀對減少編譯成本的作用。
OpenAI 將人類反饋強化學習用於訓練語言模型，以提升模型的摘要能力。
推薦理由：這項研究把人類反饋納入摘要模型訓練，呈現以強化學習提升語言模型摘要能力的一條具體研究路徑。
OpenAI 的研究指出，雙重下降現象會出現在 CNN、ResNet 和 Transformer 中。隨模型規模、數據量或訓練時間增加，性能會先改善、再變差，然後再次改善。這種情況常可透過謹慎的正則化避免，但其成因尚未完全理解，後續研究仍是重要方向。
推薦理由：研究在 CNN、ResNet 與 Transformer 中觀察到雙重下降，並指出性能會隨模型規模、數據量或訓練時間增加而先升、再降、再升。
OpenAI 使用人類回饋微調 774M 參數的 GPT-2，使模型在多項任務上匹配外部人類標註者的偏好。摘要任務需 60k 個人類標註，標註者偏好整句照抄輸入，模型因此學會複製；多種風格的續寫任務則需 5k 標註。OpenAI 指出，標註者的偏好並不總與自身一致，並希望藉由讓安全技術更接近「機器與人交談」的一般任務，提取人類價值資訊。
推薦理由：這項實驗對比摘要與續寫任務的標註需求，並呈現標註者偏好整句照抄輸入時，微調模型也會學會相同行為。
OpenAI 發佈分析指出，自 2012 年起，最大規模 AI 訓練所用算力以 3.4 個月的週期翻倍。同期該指標增長逾 300,000 倍；相比之下，Moore’s Law 的翻倍週期為 2 年，按此週期只會增長 7 倍。OpenAI 指出，算力改進是 AI 進步的重要組成部分；若趨勢延續，應預備面對能力遠超今日的系統所帶來的影響。
推薦理由：文中以大型 AI 訓練算力的 3.4 個月翻倍週期對照 Moore’s Law 的 2 年週期，並量化自 2012 年以來逾 300,000 倍的增長。
OpenAI 發佈近端策略優化（PPO），一類強化學習算法，其表現可媲美或優於最先進方法，同時更易實作和調校。OpenAI 表示，PPO 因易用且表現良好，已成為其預設的強化學習算法。
推薦理由：材料比較 PPO 與前沿方法的表現，並交代較簡單的實作和調校如何與良好性能共同構成 OpenAI 採用它作為預設算法的理由。