Hugging Face 與 OpenRouter 合作,簡化開放權重模型的調用
Hugging Face 宣佈與 OpenRouter 合作,將 Inference Providers 的語言模型請求改由 OpenRouter 路由,按供應商即時價格、速度和可靠性選擇服務商,並在失敗時改由其他供應商重試。
推薦理由:文章説明語言模型路由如何按即時價格、速度和可靠性選擇供應商,並交代故障重試及自備 API key 不再適用的影響。
Hugging Face 宣佈與 OpenRouter 合作,將 Inference Providers 的語言模型請求改由 OpenRouter 路由,按供應商即時價格、速度和可靠性選擇服務商,並在失敗時改由其他供應商重試。
推薦理由:文章説明語言模型路由如何按即時價格、速度和可靠性選擇供應商,並交代故障重試及自備 API key 不再適用的影響。
llama.cpp 團隊發佈 llama.cpp 與 ggml 函式庫 v1.0.0,並宣佈日後以主版本號標示 API 和 ABI 不相容變更。版本規則將破壞相容性的公開 C API 變更列為 MAJOR,向後相容功能、後端更新、模型支援或 API 新增列為 MINOR,沒有 API 變更的錯誤修正列為 PATCH。
Runway 的 Praxis-1 將 27B 參數影片基礎模型轉為開放權重世界動作模型,可同步預測未來畫面與機械人動作。DROID 微調版本在 RoboLab-120 排名世界動作模型及開源機械人基礎模型第一;RT-1 微調版本在 SimplerEnv 四項任務的平均成功率為 80.0%。
Runway 現已向所有人開放 Praxis-1,並以 Apache 2.0 授權提供模型權重。這款 27B 參數的 MoE 擴散 Transformer 同時預測影片與動作,在 RoboLab-120 的 1,200 個測試回合中成功率為 46.2%,高於 FLUX 3 Action 的 42.9%、Cosmos3 Nano 的 36.8% 及 π0.5 的 28.0%。
Elith 與 NVIDIA 發佈 Nemotron-Personas-Finance-Japan,這是一個以日本官方統計及家庭金融資訊為基礎、供金融 AI 開發使用的合成人物資料集。資料集共包含 9M 個人物設定,每筆記錄涵蓋 50 個欄位,並以 CC BY 4.0 授權提供商業及非商業使用。它可用於建立客服智能體、評估銷售對話和市場推廣、進行用戶模擬,以及紅隊測試面向客戶的 AI。
推薦理由:資料集把日本官方人口與勞動統計、家庭財務及金融素養欄位結合,並列出客服智能體、用戶模擬和公平性測試等具體用途。
NVIDIA 為 Cosmos 3 模型系列新增四個開放權重 checkpoint,用於互動式世界模擬及多感測器、多視角駕駛場景生成。四個模型均以 Cosmos 3 Nano 為基礎進行後訓練,各有 16B 可訓練參數,並按 OpenMDW1.1 條款供商業及非商業用途。
推薦理由:四個 checkpoint 涵蓋多視角駕駛資料、同步攝影機與 LiDAR 串流、模擬器控制轉影片及雙臂機械人互動,並分別交代用途與後訓練流程。
Hugging Face 提出 transformers-mic,將縮小版模型、可執行的使用路徑及人工審核基線組成 Model Integration Contract,用於在 PR 中檢查模型整合回歸。
推薦理由:文章交代如何以縮小版模型、可執行的使用路徑及人工審核基線建立測試契約,並展示其在 CPU 上重現 UMT5 回歸的過程。
Hugging Face 宣佈 Project ProtoStar,聯合大學、研究機構、業界和開放科研社羣,推動公開資助科研資源以 AI 就緒格式釋出及重用。
AnySpeechRecognizer 與 AnyDecisionModel 兩個 Swift 套件正式公佈,分別為 Apple 平台提供可選擇辨識引擎的語音轉文字功能,以及輸出型別化答案和機率的決策 API。
推薦理由:文章列出語音模型的測試結果、下載體積及平台限制,讓讀者可比較 Apple 裝置本機部署的取捨。
OlmoEarth 發佈 v1.3 衞星嵌入模型,並提供全球預先計算的年度嵌入向量及 OlmoEarth Embeddings Explorer。模型為每個 10 米像素提供 128 維嵌入,亦可使用 64 維版本;在 27 項評測中,兩者分別於 20 項和 18 項評測表現領先,2023 至 2025 年的嵌入資料覆蓋全球。
推薦理由:這次發佈把全球預先計算的嵌入向量與免登入探索工具一併提供,讀者可瞭解如何免用 GPU 進行衞星資料比較和簡單分類。
NVIDIA 開放模型正支援歐洲公共部門新一波項目,協助政府提升行政效率,同時保留對數據及基礎設施的控制。波蘭正建構支援逾 400 間勞工辦公室的智能體工廠,將運行 PLLuM、GPT OSS 和 Inkling。英國 Locai Labs 已發布包含 1 million 個合成角色的 Nemotron-Personas-UK 數據集。
NVIDIA Earth-2 開放模型正由歐洲多個團隊用於天氣及氣候預測,涵蓋區域風暴預測、空氣質素建模、太陽能預測及氣旋風險研究。StormScope EU 利用 EUMETSAT 衞星觀測,每 10 分鐘預測 16 個 Meteosat 頻道的雲層變化。
歐洲金融服務機構在 GTC Berlin 展示以 NVIDIA 加速運算、開放權重模型及自有基礎設施構建生產級智能的做法。Revolut 正以 PRAGMA 擴展生產服務,初期支援 80 million 名客戶,並按 3x 規模擴展設計。Stripe 的離線測試顯示,GPU 加速數據管道速度提升 42x,成本節省 92%。
Hugging Face 推出 TorchTPU,為 PyTorch 加入原生 TPU 後端,並讓 Transformers、Diffusers 和 Kernels 原生支援 TPU。
推薦理由:文章展示 TorchTPU 如何把 TPU 接入 PyTorch 及 Hugging Face 常用庫,並以測試通過率和問題修復數據呈現目前支援狀況。
Hugging Face 發佈 AnyLanguageModel 1.0,並同步推出 swift-huggingface 1.0 和 swift-xet 1.0。AnyLanguageModel 以相同 Swift API 支援本機及託管模型,新增各供應商通用的工具呼叫、引導式生成和圖像支援,並可在 Linux 執行。
Amazon SageMaker JumpStart 在 2026 年 1 月至 9 月新增逾 100 個模型,涵蓋 30 家供應商,並更新模型探索及部署功能。
vLLM 的 push-based NIXL connector 透過預先註冊 decode 端 KV 區塊,並將傳輸準備移至背景執行緒,改善分離式推理的 TTFT 與 TPOT。
Reflection AI 發佈開放權重模型 Reflection Beam,面向智能體編碼及維護程式碼、使用工具等長流程任務。
推薦理由:文章並列 SageMaker JumpStart 託管端點與 HyperPod 上的 JumpStart、SGLang、vLLM 部署選項,並説明各路徑對應的基礎設施控制程度。
NVIDIA 與 IIT Madras、AI4Bharat 介紹 Nemotron-pretraining-Indic-v1,這套涵蓋 22 種印度語言、約 2.8 trillion tokens 的預訓練語料及 GPU 加速開源生成流程即將推出。
推薦理由:文章交代語料的語言與文字系統覆蓋,並拆解翻譯、品質評估及修復流程,呈現這套生成配方如何按不同語言工作流調整。
FLUX.3 Image Klein 現已支援 Diffusers,可用於文生圖、多參考圖圖生圖及邊界框版面控制。兩款開放檢查點分別是預設以 16 步生成且不使用 CFG 的蒸餾版,以及使用 50 步和 CFG 的 base 版。蒸餾版生成 1024 × 1024 圖像,在單張 NVIDIA H100 80GB 上平均耗時 1.93 s;文章亦提供 LoRA 微調腳本及量化權重載入方法。
推薦理由:文章展示了以邊界框安排生成版面及移動參考圖區域的做法,並附上 Diffusers 範例與 LoRA 微調腳本。
NVIDIA 在 OCP 全球峯會透過開放式 NVIDIA MGX 架構,向 OCP 提交 Vera Rubin 機架及運算托盤設計,並宣佈多項 AI 工廠基礎設施合作與開放標準。
推薦理由:文章將機架、供電、網絡與軟件更新放在共同開放標準下,呈現跨供應商協作如何支撐 AI 工廠擴展的整體架構。
Microsoft Research Asia 開源 Agent Lightning v1.0,讓實際部署所用的智能體框架直接參與強化學習,無須在訓練框架內重新實作智能體。
推薦理由:這套方法把部署時使用的智能體框架直接納入強化學習,並處理樣本拆分後的優勢計算與損失正規化問題,呈現可遷移的訓練設計。
電訊營運商正愈來愈多以開放模型制定 AI 策略,重視的不只是成本,還包括對關鍵工作負載的信任、控制及自訂能力。NVIDIA 最新《電訊業 AI 現況報告》顯示,89% 受訪者認為開源模型及軟件對公司 AI 策略很重要。
Ai2 開源 AstaBrief 8B,這款模型可把研究問題和檢索到的文獻摘錄生成帶引用報告,並已在 Asta 的 Generate a report 功能中提供 Fast mode。
文章示範如何將 Amazon S3 Vectors 設為 NVIDIA NeMo Agent Toolkit(NAT)的持久記憶層,並把智能體工作流部署到 Amazon EKS。
Hugging Face 建立 Open TTS Leaderboard,以客觀指標評估開源、多語言 TTS 模型及聲音複製能力。評估涵蓋 WER/CER、批次推理速度(RTFx)、首段音訊延遲(TTFA)及説話者相似度(SIM),可把單個模型的評估時間由數週縮短至數小時。排行榜不取代人工偏好評選,並設有 Listen 頁籤供用户比較生成音訊及投票;其指標不直接衡量自然度、表現力或聽者偏好。
推薦理由:排行榜以客觀指標並列呈現語音清晰度、説話者相似度與速度表現,並保留聆聽投票,方便比較多語言及聲音複製模型。
NVIDIA 發佈開放式表格基礎模型 Kumo Tabular,用於表格分類與回歸,可根據帶標籤的上下文列,在單次前向傳播中預測新列標籤,無需訓練、調參或特徵工程。
推薦理由:文章列出四項基準的結果,並以梯度提升樹、AutoGluon 等方法作對照,為表格預測模型的效能評估提供具體比較參照。
Hugging Face 宣佈,oMLX 創作者兼維護者 Jun Kim 加入團隊,並會繼續領導 oMLX。oMLX 維持 Apache 2.0 授權,項目將轉為獲資助並持續維護;Hugging Face 預期這有助提升穩定性,並希望加快開發。Hugging Face 亦希望以 oMLX 作為新想法的試驗場,並加快將 transformers 模型定義轉成不同引擎可使用的 MLX 參考實作。
Hugging Face 為 Transformers 加入 GGUF 支援,讓用户可透過熟悉的 Transformers API 在本機載入量化檢查點並生成內容。
推薦理由:文章示範透過 Transformers API 從 Hub 載入 GGUF 量化檢查點,並以 Q4_K_M 等選項説明檔案大小與精度的取捨。
香港生成式人工智能研發中心(HKGAI)推出開源音樂生成模型 YuE2,透過分離符號規劃與聲學渲染,支援創作、翻唱及編輯。按材料截至 2026年9月18日的數據,YuE2 在 HuggingFace Trending 排第4,上線9天官方主模型下載11,626次,連同周邊生態累計約17.9萬次。模型支援六種語言及逾60種音樂流派,權重可免費下載作非商業用途,並可用單張消費級顯示卡在本地執行。
推薦理由:文章交代 YuE2 如何分離符號規劃與聲學渲染,並讓創作者在生成各步驟介入修改,具體呈現可控音樂生成的設計方式。
Mistral 宣佈完成 €3 billion D 輪融資,投後估值超過 €21 billion,並將藉此擴大前沿研究、訓練算力及基礎設施。本輪由 Samsung Electronics 領投,Scaleup Europe Fund(由 EQT 管理)與現有投資者 PSG Equity 共同領投;Mistral 稱這是歐洲科技公司完成過的最大股權融資。
推薦理由:融資不只用於前沿研究和訓練算力,也涵蓋基礎設施與商業拓展,呈現 Mistral 主權 AI 全棧路線的擴張重點。
Hugging Face 推出開源工具 funes,讓 Claude Code、Codex、pi 和 Hermes 共用可檢索的持久記憶。funes 預設在本機索引、嵌入及重排工作記錄,檢索時返回原文並標示智能體、時間戳、工作階段和回合;記憶亦可發布至預設私有的 Hugging Face 資料集,供其他機器使用。
推薦理由:funes 將不同編碼智能體的工作記錄轉為本機可檢索記憶,並保留原始片段及來源脈絡,展示跨會話延續決策依據的實作方式。
Hugging Face 推出 @huggingface/kernels JavaScript loader,並在 Hub 發布首批 207 個 WebGPU kernels。
推薦理由:文章將 207 個 WebGPU kernels 的版本化操作契約、正確性測試與基準案例一併呈現,並提供 Apple M4 上與 ORT WebGPU 的比較數據。
Meta 發佈 Muse Glimmer,一款由 Muse 蒸餾而來、面向本地智能體應用的多模態 30B 模型,採用 Apache 2.0 授權。模型由 2B ViT-style 視覺編碼器和 28B 文字解碼器組成,支援圖像、影片輸入及多模態工具調用。
推薦理由:文章把 Muse Glimmer 的本地智能體定位、30B 架構與 transformers、llama.cpp、vLLM 等入口連起來,提供從本地推理到託管部署的實作參考。
Pollen Robotics 發佈開源、低成本的 Grabette 手持式系統,可記錄人工操作示範並轉成機械人訓練數據集。裝置配備兩部攝影機,瀏覽器處理流程透過 RTAB-MAP 執行 SLAM,並輸出 LeRobot 格式數據;Grabette 的物料清單成本約 490€。
推薦理由:Grabette 把手持式示範、SLAM 軌跡處理與 LeRobot 數據集串成採集流程,並以 200 段示範呈現訓練及機械臂評估的端到端用法。
Hugging Face 更新 vLLM 的 Transformers 建模後端,令多種相容 LLM 架構的推理吞吐量達到或超過 vLLM 手寫原生實作。測試涵蓋 Qwen3-4B 單 GPU、Qwen3-32B 張量並行,以及 Qwen3-235B-A22B-FP8 MoE 在同一 8×H100 節點上的數據並行與專家並行,三者均達到或超越原生實作吞吐量。
推薦理由:文章以三種不同規模及並行配置的 Qwen3 模型對照 vLLM 手寫實作,並説明 torch.fx 分析與運行時融合如何使相容模型達到原生推理速度。
Hugging Face 與 Microsoft 將每週更新的精選開放權重模型目錄加入 Microsoft Foundry Model Catalog,並可一鍵部署至 Foundry Managed Compute。
推薦理由:文章梳理模型篩選、權重預置和執行環境掃描的上架流程,説明企業如何在私有網絡內部署而毋須連出 Hugging Face Hub。
LeRobot v0.6.0 新增世界模型策略、統一六項模擬基準的 lerobot-eval,以及用於部署和收集人工修正資料的 lerobot-rollout CLI。
推薦理由:版本把策略部署、人工接管修正與資料回訓串成可重複流程,並以統一 CLI 整合六項模擬基準,呈現機械人學習由實作到評估的工作流。
Hugging Face Storage 現已成為 SkyPilot 的一級儲存後端,可透過 hf:// URL 將 Bucket 或 Hub 倉庫接入跨雲任務。
推薦理由:這項整合把模型與數據集的存放位置和 GPU 雲端選擇分開,並明確呈現讀取不收 egress 費與跨雲寫回仍需付費的成本差異。
Hugging Face 為 Kernels 項目推出重大更新,新增 Hub 的 kernel 倉庫類型(https://huggingface.co/kernels),並加入可信發佈者及程式碼簽署機制。