把模型跑起來的工程實踐：推理優化、顯存與成本、Serving 架構與基礎設施選型。
OpenAI 與 Cerebras 簽訂多年協議，將分階段部署 750 megawatts 的 Cerebras 晶圓級系統，為 OpenAI 客戶提供服務。部署將於 2026 年開始；Cerebras 稱這將成為全球最大高速 AI 推理部署。Cerebras 表示，其系統上的大語言模型在編碼智能體或語音聊天場景中，回應速度較基於 GPU 的系統快達 15×。
推薦理由：文章列出 750 megawatts 的部署規模，並引述 Cerebras 稱其推理回應較 GPU 系統快達 15×，呈現合作的規模與方案定位。
LlamaIndex 在 OpenAI Developer Day 當日為其程式庫加入對兩款新模型及多項 OpenAI 功能的支援。
推薦理由：文章列出 LlamaIndex 對新模型、Azure endpoints、嵌入向量抽象層及函數調用的支援，並附模型調用程式例子，呈現這次更新涵蓋的整合範圍。
OpenAI 分享以 Skills、託管 shell 和服務端 compaction 構建長時間運行智能體的實作模式，涵蓋技能路由、容器復用與網絡配置。Glean 面向 Salesforce 的 skill 將評測準確率由 73% 提升至 85%，並令 time-to-first-token 縮短 18.1%。
推薦理由：文章將 Skills、shell 與服務端 compaction 的分工整理成長流程建構方法，並涵蓋技能路由、產物交接及網絡隔離等可複用設計。
MiniMax 正式開源並推出面向智能體與編碼的 MiniMax M2，同時在中國推出 M2 驅動的 MiniMax Agent，並升級海外版本。
推薦理由：MiniMax M2 公佈 Artificial Analysis 10 項測試成績、API 定價與約 100 TPS 推理速度，並開放權重，呈現智能體模型在表現、速度與部署成本間的取捨。
AWS Machine Learning Blog 提供 Claude Platform on AWS 多環境存取指南，示範為 AWS 工作負載、開發者筆電及外部環境配置推理存取。
推薦理由：文章按 AWS 工作負載、開發者筆電與外部環境，示範 cross-account SigV4、workspace-scoped API key 和 OIDC federation 如何配置，並維持 workspace 隔離。
Google Research 公佈採用可信執行環境（TEE）的新一代聯邦學習系統，讓伺服器端的數據匿名化處理可供驗證和審計。設備上傳的訓練數據只會交由符合預先授權存取政策的 TEE 工作負載解密處理，相關政策亦發布於 Rekor 公開透明日誌。Gboard 已採用新系統推出英文及日文下一詞預測模型，模型私隱保障更強、準確度更高，計算時間亦較舊系統大幅縮短。
推薦理由：文章比較舊式聯邦學習與 TEE 架構在服務端可驗證性上的差異，並交代存取政策公開記錄機制及 Gboard 部署後在私隱、準確度和訓練速度上的變化。
Amazon Bedrock AgentCore 的參考實作把 Amazon S3 上傳或排程事件轉成智能體工作，並讓智能體在需要澄清、審批或覆核時暫停等待人員回應。
推薦理由：文章把事件來源、AgentCore 執行與人在迴路處理串成參考架構，並清楚區分樣本內建能力與需自行擴展的訊號來源。
CoreWeave 宣佈在 CoreWeave Cloud 提供 NVIDIA Vera Rubin NVL72，並推出 CoreWeave Forge，推進智能體 AI 從訓練到生產的部署。
推薦理由：文章披露 Cognition 對 Vera Rubin NVL72 與 GB200 NVL72 的 SWE-2 推理測試，列出最高 4.8x 的總 token 吞吐提升，讓兩種平台在智能體編碼工作負載下可作量化比較。
Microsoft 宣佈 Physical AI Toolchain 新增機械人推理卸載功能，支援透過 Kubernetes 工具把 AI 工作負載分配至機械人、邊緣 GPU 和雲端。
推薦理由：文章將實機工作負載的效能、電池續航與算力配置放在同一脈絡比較，並介紹以 Kubernetes 分配推理的工具，呈現卸載方案的收益與代價。
Anthropic 在 8 月以兩週衝刺，將 claude.ai 和 Claude 桌面應用程式的核心用戶體驗整體加快至原來約 3 倍。
推薦理由：這次衝刺展示了以可重複基準、CI 效能門檻和分階段上線構成優化閉環的方法，並由工程師把關改動風險與用戶體驗。
Hugging Face 為 Transformers 加入 GGUF 支援，讓用户可透過熟悉的 Transformers API 在本機載入量化檢查點並生成內容。
推薦理由：文章示範透過 Transformers API 從 Hub 載入 GGUF 量化檢查點，並以 Q4_K_M 等選項説明檔案大小與精度的取捨。
Mistral 宣佈完成 €3 billion D 輪融資，投後估值超過 €21 billion，並將藉此擴大前沿研究、訓練算力及基礎設施。本輪由 Samsung Electronics 領投，Scaleup Europe Fund（由 EQT 管理）與現有投資者 PSG Equity 共同領投；Mistral 稱這是歐洲科技公司完成過的最大股權融資。
推薦理由：融資不只用於前沿研究和訓練算力，也涵蓋基礎設施與商業拓展，呈現 Mistral 主權 AI 全棧路線的擴張重點。
Hugging Face 推出開源工具 funes，讓 Claude Code、Codex、pi 和 Hermes 共用可檢索的持久記憶。funes 預設在本機索引、嵌入及重排工作記錄，檢索時返回原文並標示智能體、時間戳、工作階段和回合；記憶亦可發布至預設私有的 Hugging Face 資料集，供其他機器使用。
推薦理由：funes 將不同編碼智能體的工作記錄轉為本機可檢索記憶，並保留原始片段及來源脈絡，展示跨會話延續決策依據的實作方式。
Hugging Face 推出 @huggingface/kernels JavaScript loader，並在 Hub 發布首批 207 個 WebGPU kernels。
推薦理由：文章將 207 個 WebGPU kernels 的版本化操作契約、正確性測試與基準案例一併呈現，並提供 Apple M4 上與 ORT WebGPU 的比較數據。
Gradio 內置的 gr.Workflow 可把 AI 工作流表示為由帶類型節點組成的圖，並提供可拖放、逐節點執行及查看中間結果的畫布。節點可執行 Python 函數、調用 Hugging Face Inference Providers 模型或其他 Gradio Space，也可處理 Hub 數據集資料。
推薦理由：文章以多個可執行示例展示如何把模型、Python 函數與 Gradio Space 串成工作流，並讓節點輸出直接成為 API。
Hugging Face 以 Inference Endpoints、Jobs 和 Storage Buckets 建立 Papers with Code 混合搜尋系統，為來自 arXiv 和 Daily Papers 的超過 110,000 篇論文維護嵌入向量。
推薦理由：文章拆解離線批次建向量與線上查詢的分工，並説明端點冷啟動時如何回退全文檢索，呈現混合搜尋進入生產環境的工程取捨。
Sentence Transformers v6.0 新增 MultiVectorEncoder，支援 ColBERT 式多向量檢索。文中示範載入 PyLate 與 Stanford-NLP ColBERT checkpoint、接入檢索索引，以及以同一 API 執行 ColPali 視覺文件檢索。
推薦理由：文章對照 LateOn 與 DenseOn 在 NanoBEIR 13 個資料集的結果，並以索引體積數據呈現多向量檢索表現與儲存成本的取捨。
Epoch AI 以 Anthropic 基建融資為案例，指出近 $50 billion 債務融資顯示，至少短期內融資不太可能成為前沿算力擴張的瓶頸。其中，機構投資者承諾提供 $34.5 billion 債務，支持租賃超過 1 GW 的 Google TPU 系統；另有約 $15.2 billion 貸款支持五個數據中心建設，涉及 1.43 GW 的關鍵 IT 容量。
推薦理由：Anthropic 個案拆解供應商信用支持租賃融資的結構，呈現未來租金如何轉化為機構資金，以及融資成本如何受風險分擔安排影響。
Diffusers 現已原生支援 Nunchaku Lite 的 4-bit 擴散模型推理，預量化檢查點可用 `from_pretrained()` 載入，無須獨立推理引擎或本機編譯 CUDA。
推薦理由：文章説明 Nunchaku Lite 在 Diffusers 的原生載入方式，並以 RTX PRO 6000 基準量化呈現延遲與顯存變化。
Google 在 DOE Genesis Mission Summit 2026 宣佈，將提供 $40 million 的 AI tokens 和雲端額度，支持 Genesis Mission 研究人員。
推薦理由：承諾同時涵蓋科學 AI 工具與 Gemini for Government 一年使用權，並附有顯微鏡校準時間及手動步驟的前後數據，可見資源投入如何落到實驗室工作流程。