Hugging Face

推薦理由：文章提供在 Diffusers 中以 Quanto 量化擴散 Transformer 與文字編碼器的操作步驟，並用記憶體和延遲數據呈現精度設定的取捨。

推薦理由：文章以 TGI 的部署及調用示例，展示單一基礎模型按請求選用不同 LoRA adapter 的做法，並比較多模型部署的成本與擴展管理。

推薦理由：文章梳理 SmolLM 的資料集整理流程、訓練配置與各參數級別的基準結果，並列出三種模型規模及本地運行選項，便於比較小型模型的訓練和部署取捨。

推薦理由：文章串起文件切塊、合成查詢三元組、微調領域嵌入模型、向量檢索與對話評估，提供一套可複用的文件問答 RAG 實作流程。

推薦理由：共享模型保存格式讓受支援架構的 Transformers 模型可直接載入 KerasHub，並透過 TensorFlow、JAX 或 PyTorch 後端運行，呈現跨框架使用的實際路徑。

推薦理由：文章比較 offloading、移除 T5 與 8-bit T5 的顯存和耗時，並提供 torch.compile 加速與 LoRA 微調腳本，可作為 SD3 推理部署與微調的實作參考，並呈現節省顯存方案的耗時取捨。

推薦理由：文章對照 RLOO 與 PPO 的 GPU 記憶體用量、訓練速度及回答勝率，並披露 bf16 下 RLOO 有較多批次資料的梯度被清零。

推薦理由：文章拆解資料集格式、損失函數、訓練參數、評估器與 Trainer 的配合，並展示多資料集搭配不同損失函數的訓練方式，方便轉用於不同嵌入任務。

推薦理由：文章比較 Azure MI300X 與 MI250 執行 Llama 3 70B 推理和微調的結果，並公開基準程式碼，便於核對性能差異及復現測試。

推薦理由：文中比較 Code 與 JSON 智能體在不同模型上的表現，並展示 Llama-3-70B-Instruct 智能體於 GAIA 的名次，可作為評估 Agent 架構與模型搭配的具體參照。

推薦理由：榜單把逾 100 個無伺服器 LLM API 端點的品質、價格與速度指標集中呈現，並以多種提示長度和並行查詢組合供工程師比較。

推薦理由：文章展示如何把 ASR、説話人分離與推測解碼組成單一端點，並以長短音訊基準説明推測解碼的效益會隨輸入長度改變。

推薦理由：文章梳理了從 The Stack V1 種子函數生成指令，再以執行測試篩選回答的自對齊流程，説明程式碼模型如何利用自身生成數據進行微調。

推薦理由：文章透過文件問答應用示範 Gradio reload mode，並説明如何用 gr.NO_RELOAD 保留客户端，減少開發迭代時重建資源的等待。

推薦理由：Idefics2 同時公開 8B 權重、Apache-2.0 授權與多項視覺問答基準成績，便於對照小型多模態模型的效能表現和使用條件。

推薦理由：這項整合串起 Hugging Face 模型探索與 Google Cloud 部署，並為數百個熱門開放 LLM 提供測試硬件配置，呈現更直接的雲端部署流程。

推薦理由：文章拆解 Cosmopedia 從種子資料、提示詞擴展到去污染與訓練的流程，並交代如何藉由受眾和文體變化擴大提示詞規模。

推薦理由：StarCoder2 同步公開模型、The Stack v2 數據集及訓練程式碼，並按倉庫組織訓練資料，呈現程式碼模型與數據建設的完整鏈路。

推薦理由：文章逐項比較 cat、linear、SVD、TIES 與 DARE 等 LoRA 合併方法，並整理 rank、density 和 GPU 記憶體需求對實作選擇的影響。

推薦理由：文中以 Python、JavaScript、LangChain 和 LlamaIndex 示範如何沿用 OpenAI 相容介面接入開放模型，並交代 function calling 等限制。