Inkling 2 Mini 發佈,面向本地部署的多模態 MoE 模型
Thinking Machines Lab 與 Hugging Face 發佈 Inkling 2 Mini,一款支援 1M-token 上下文及圖像、文字輸入的本地多模態 MoE 模型。
推薦理由:文章拆解 Inkling 2 Mini 如何重用中間層權重、透過跨輪訊息逐步修正計算,讓 24 個實體層執行相當於 48 個邏輯層的計算,呈現循環式架構的設計。
Thinking Machines Lab 與 Hugging Face 發佈 Inkling 2 Mini,一款支援 1M-token 上下文及圖像、文字輸入的本地多模態 MoE 模型。
推薦理由:文章拆解 Inkling 2 Mini 如何重用中間層權重、透過跨輪訊息逐步修正計算,讓 24 個實體層執行相當於 48 個邏輯層的計算,呈現循環式架構的設計。
Google DeepMind 向符合資格的 Google AI Ultra 訂戶推出新版 Project Genie,提供 Genie 4、Project Genie 智能體及社羣作品廊。
推薦理由:新版體驗把 Genie 4 的即時世界編輯與原生音訊、Genie 3 的延長生成,以及智能體創作和作品分享整合起來,呈現互動世界的創作與探索流程。
NVIDIA 為 Cosmos 3 模型系列新增四個開放權重 checkpoint,用於互動式世界模擬及多感測器、多視角駕駛場景生成。四個模型均以 Cosmos 3 Nano 為基礎進行後訓練,各有 16B 可訓練參數,並按 OpenMDW1.1 條款供商業及非商業用途。
推薦理由:四個 checkpoint 涵蓋多視角駕駛資料、同步攝影機與 LiDAR 串流、模擬器控制轉影片及雙臂機械人互動,並分別交代用途與後訓練流程。
Google Research 在《Nature》發表研究,提出 AI-PPG-ACC-HTN 系統,利用消費級智能手錶被動檢測高血壓徵兆,無需袖帶校準,並以 24 小時動態血壓監測(ABPM)作為臨牀基準。
推薦理由:研究以 24 小時動態血壓監測作臨牀基準,分別檢視手錶系統在初篩及確認測試中的表現,並交代多日生理訊號聚合的做法。
AWS Machine Learning Blog 介紹如何在 Amazon EKS、EKS Auto Mode 和 SageMaker HyperPod EKS 上部署 NVIDIA Nemotron 模型,以支援智能體 AI 工作流程。
推薦理由:文章以並行度測試比較聚合與分離式部署,並示範如何根據 TTFT、ITL 和吞吐量規劃容量及判斷擴展方向。
Mistral Large 4(Le Chonk)以開放權重形式登上 Hugging Face,提供 FP8 和 NVFP4 兩個官方版本。模型是多模態、多語言 MoE,約有 1T 總參數、49B 活躍參數及 1M tokens 上下文窗口,支援文字和圖片輸入並生成文字。
推薦理由:文章整理 Mistral Large 4 在 Transformers、vLLM 和 llama.cpp 的部署方式,並附上不同硬件配置與上下文長度下的實測速度,提供實際部署參考。
Liquid AI 發佈 LFM3 新一代模型系列,以共享骨幹涵蓋文字、視覺、音訊、全模態及決策模型。LFM3-1.7B 以少 35% 參數超越 LFM2.5-2.6B;文字模型的上下文窗口為 256K,所有模型均可在單張 GPU 微調。LFM3 全系列採開放權重,現已在 Hugging Face 提供。
推薦理由:LFM3 將文字、視覺、音訊與決策模型建基於同一骨幹,並支援單張 GPU 微調及端側部署,呈現小型模型按任務專門化的實作路徑。
Property Finder 評估將視覺 AI 工作負載遷移至 Amazon Bedrock 時,發現 96.8% 的評測標籤直接沿用單一模型預測,因而重新建立專家標註的評測集。
推薦理由:文章以房地產影像分類案例,説明專家標註、多標籤設計和逐輪提示詞優化如何減少評測偏差,並讓不同模型的比較更貼近實際正確性。
Google Research 介紹其結核病篩查工作,從胸部 X 光 AI 工具的臨牀部署,延伸至 MedGemma、MedSigLIP 等開放模型。合作方 Nexus AI 的工具已在六個國家約 40 間醫療機構運作,超過 90 名臨牀人員評估逾 25,000 張胸部 X 光影像,將處理時間由數週縮短至不足 45 秒。
推薦理由:文章串連臨牀驗證、監管認證與多國部署案例,呈現胸部 X 光篩查工具從研究成果走向醫療現場所需的合作與落地環節。
NVIDIA 擴展 Nemotron Retriever 系列,推出可商用的開放模型 Nemotron 3.5 Embed、Nemotron 3.5 Rerank 及 Nemotron 3.5 Parse,涵蓋多模態檢索、重排及文件抽取。
推薦理由:這次更新把多模態嵌入、重排與文件解析納入同一檢索系列,並列出多項基準與吞吐數據,呈現準確度和部署效率的取捨。
Octave 為 Reliance 在 Amazon Bedrock 上建立三層多租戶 AI 基礎平台,以支援受監管產業的文件搜尋與 AI 工作流程。平台採用 Cohere Embed v4,並以每租戶向量儲存、AgentCore 隔離執行環境及 Amazon Bedrock Guardrails 分層控制資料存取與內容風險。
推薦理由:文章拆解多租戶合規場景中的隔離、身份與內容安全取捨,並呈現如何把共用基礎設施轉化為可重用的 AI 功能底座。
PyTorch 2.15 為 Mac 的 MPS 後端加入 FP8 支援,並加快 LLM 解碼及多項 Metal 運算。在 M3 Ultra 使用 torch.compile 時,Qwen3.6-35B-A3B 的 MoE 解碼速度由 9.4 升至 61.3 tokens/s;Wan2.2 影片 VAE 解碼的峯值驅動程式記憶體由約 270 GiB 降至約 8 GiB。
推薦理由:文章列出 Mac MPS 上的模型解碼提速和 Wan2.2 影片 VAE 記憶體降幅,具體呈現 PyTorch 2.15 後端更新對本機推理工作負載的變化。
Meta 推出 Muse Spark Open,一款約 816B 參數、每個 token 約啟用 42B 參數的開放權重多模態混合專家模型,支援文字、圖像、音訊和影片輸入,並生成文字。模型的上下文窗口最高為 1M tokens。文章列出 Transformers、llama.cpp、SGLang 和 vLLM 等推理部署方式,以及使用 TRL 進行 LoRA 微調的示例。
推薦理由:文章把模型規模、長上下文與多模態輸入能力,連同多種部署和微調方案放在同一份技術指南中,可用來瞭解模型的運行配置與使用方式。
Apertus 1.5 更新 8B 和 70B 模型,加入圖像與音訊理解及可選思考模式,並將上下文窗口擴至 262,144 tokens。持續預訓練分別為 8B 和 70B 模型加入 4 trillion tokens 和 2 trillion tokens 的文字及多模態訓練資料,總訓練量分別達 19T 和 17T。
推薦理由:文章同時公開訓練資料、各階段檢查點與可重跑的評測記錄,讀者可據此瞭解 Apertus 1.5 的訓練流程及比較評測結果。
Google DeepMind 發佈 Gemini 4 Argon,今日起按用戶類別透過 Gemini API、AI Studio、Google Antigravity、Gemini app 及 Search 的 AI Mode 提供使用。
推薦理由:文章並列 Argon 的跨領域基準表現、使用入口、定價與工程及科研案例,讀者可據此瞭解其能力定位和實際應用範圍。
OpenAI 開始向更多 ChatGPT 用戶推出 GPT-6,並為 ChatGPT 加入 Intelligent UI,讓回應可按問題組合文字、視覺內容和互動元件。
推薦理由:這次更新把可按問題生成互動介面與逐步作答帶進 ChatGPT,並交代推出方案及回應速度數據,呈現 GPT-6 在使用方式和回應節奏上的改變。
Liquid AI 發佈兩款開放權重端側決策模型 d1-3B 和實驗版 d1-omni-600M。d1-3B 支援文字與圖像輸入,在 Decision Index 0.2.1 得分 48.57,並在七個公開數據集取得 82.9 的平均分;d1-omni-600M 支援文字與圖像或文字與音訊輸入。
推薦理由:文章把 d1-3B 的公開基準成績與多款邊緣設備的延遲數據並列,讓讀者瞭解其決策表現及端側推理速度。
Google DeepMind 發佈 EmbeddingGemma 2,將文字、程式碼、圖像、影片及音訊映射至同一嵌入空間,供裝置端推理使用。
推薦理由:EmbeddingGemma 2 將文字、程式碼、圖像、影片及音訊映射至同一嵌入空間,並列出裝置端記憶體與向量儲存數據,方便評估跨模態搜尋的本地部署。
Mistral AI 推出 Mistral Large 4 公開預覽版,權重預計月底釋出。模型具原生多模態能力,總參數量為 1 trillion、活躍參數量為 49 billion,並可透過 Mistral Studio API 試用。在 Artificial Analysis Cyber Index 名列全球前五,漏洞重現及修補測試得分 82%,Cybench 則解決 93% 的挑戰。
推薦理由:文章以 Cyber Index、漏洞重現與修補測試及 Cybench 結果,呈現 Mistral Large 4 在網絡安全基準中的相對表現。
Microsoft Research 介紹 Quine,一個結合生物學多模態世界模型與互動式研究流程的 AI 研究系統,並開放首屆 Quine Fellows 計劃申請。
推薦理由:Quine 將跨生物模態的世界模型接入文獻、科研工具與實驗迴圈,並以胰臟癌細胞狀態轉換案例展示預測如何進入濕實驗驗證。