Liquid AI 發佈面向邊緣應用的 LFM2-VL-3B 視覺語言模型
Liquid AI 發佈 3B 參數的視覺語言模型 LFM2-VL-3B,面向需要更高準確度並保留 LFM2 架構速度優勢的應用。模型以 LFM2-2.6B 為骨幹,整合 SigLIP2 400M NaFlex 編碼器,並可調整每張圖片的視覺 token 數量,以平衡效能與速度;現已可透過 LEAP 及 Hugging Face 取得。
Liquid AI 發佈 3B 參數的視覺語言模型 LFM2-VL-3B,面向需要更高準確度並保留 LFM2 架構速度優勢的應用。模型以 LFM2-2.6B 為骨幹,整合 SigLIP2 400M NaFlex 編碼器,並可調整每張圖片的視覺 token 數量,以平衡效能與速度;現已可透過 LEAP 及 Hugging Face 取得。
Liquid AI 發佈 LFM2-2.6B-Transcript,支援在 CPU、NPU 和 GPU 上完全本機執行。模型針對 30–60 分鐘會議逐字稿設計,並已在 LEAP 和 Hugging Face 開放下載,可輸出討論要點、決策及標註負責人的行動項目。
Liquid AI 發佈 LFM2.5-1.2B-Thinking,一款可完全在裝置上運行的推理模型,手機記憶體佔用低於 900 MB。模型有 1.2 billion 個參數,在多數推理基準中匹敵或超越 Qwen3-1.7B(thinking mode),參數量少 40%。現已可透過 Hugging Face、LEAP 和 Playground 使用。
Liquid AI 發佈基於 LFM2 架構的 LFM2.5-350M,這款 350M 參數模型經額外預訓練(由 10T 增至 28T tokens)及大規模強化學習。
Liquid AI 發佈 LFM2.5-VL-450M,作為 LFM2-VL-450M 的改進版本,提升視覺定位與指令遵循能力,並新增函數調用支援。預訓練規模由 10T 增至 28T tokens;RefCOCO-M 邊界框預測分數由 0 升至 81.28,MMMB 多語言分數由 54.29 提升至 68.09。
Liquid AI 發佈 2.6B 參數的 LFM2.5-2.6B,這款智能體模型可完全在裝置端運行,支援規劃、工具調用及多步任務。基準測試中,它在所有指令遵循基準及幾乎所有工具使用基準領先對照模型,較大型模型則在編碼上佔優。CPU 解碼速度在 M5 Max 達 220 tokens/s、Ryzen AI Max+ 395 達 113 tokens/s,手機上為 30 tokens/s。
Liquid AI 發佈視覺語言模型 LFM2.5-VL-3B,稱其視覺表現可媲美參數量兩倍的模型,並在多種 CPU、GPU 部署中運行更快。相較前代,屏幕理解、工具調用、定位及多圖輸入均有提升,ScreenSpot-v2 平均得分為 80.7,ToolSandbox 由 26.4 升至 59.5,RefCOCO precision@1 由 57.1 升至 87.9。
Liquid AI 發佈 LFM2.5-VL-3B 的實驗性視覺 DSpark 草稿模型,GPU 解碼吞吐量最高提升 2.66×,端側最高提升 3.13×。端到端吞吐量在 GPU 和端側分別最高提升 2.27× 和 2.62×;草稿模型約有 280M 參數,令部署模型參數量增加 8.9%,並支援 llama.cpp、SGLang 及 MLX-VLM。
Stepped MoE提出結合彈性結構與稀疏門控架構的統一框架,讓模型可按部署限制和任務需求調整推理計算。實驗展示的模型可使用 1、2、3、4 billion parameters,在知識密集型基準上比對應的密集模型準確 2-5%,延遲指標則與密集模型相近。共享模型參數可節省裝置磁碟空間,並按可用 DRAM 和計算資源調整服務。
大眾安徽與眾 09 夏測實車亮相,並已開啟預售,售價 19.99 萬元起。新車搭載端到端智能輔助駕駛模型,可實現高速/城區 NOA 和車位到車位 AI 代駕,並標配圖靈 AI 晶片,總算力 750TOPS。
NPU 是專為 AI 任務設計的處理器,可把支援的工作從 CPU 或 GPU 分擔到本機處理,提升效率並可能減低耗電。視像會議背景模糊、即時降噪、會議轉錄及本機 AI 助手等用途可受惠;日常瀏覽、文書處理和串流媒體則未必需要 NPU。
弋途科技完成近億元人民幣 Pre-B 輪融資,AICAR 正式上線。截至目前,公司已服務超過 70% 的國內頭部車企及主流合資品牌,數十款車型規模化量產上車,累計交付達百萬級。本輪資金將用於加速 AICAR 規模化推廣,並推進與自研端側模型深度結合的下一代 AICAR 落地。
Apple 宣佈新款 Mac mini 和 Mac Studio 今日開售,Mac mini 配備 M6 或 M5 Pro,Mac Studio 則配備 M5 Max 或 M5 Ultra。
Hugging Face 宣佈,oMLX 創作者兼維護者 Jun Kim 加入團隊,並會繼續領導 oMLX。oMLX 維持 Apache 2.0 授權,項目將轉為獲資助並持續維護;Hugging Face 預期這有助提升穩定性,並希望加快開發。Hugging Face 亦希望以 oMLX 作為新想法的試驗場,並加快將 transformers 模型定義轉成不同引擎可使用的 MLX 參考實作。
Ubuntu 26.10(stonking)進入 Feature Freeze,但多項例外變更仍在進行,活躍變動預計會延續至 9 月 10 日左右。Ubuntu 26.04.1正準備推出,目標為8月24日當週,基礎設施問題仍可能令發佈延期。
Arduino 於 2026年8月25日發佈 VENTUNO Q,並透過正規經銷商開始接受預訂;這款微控制器板可直接執行本地 LLM。它配備 8 核 CPU、40TOPS NPU、GPU、16GB LPDDR5 記憶體,以及負責實體控制的 STM32H5F5 微控制器。
Google Assistant 將於 2026年9月在流動裝置上退場,全面轉用 Gemini。轉變將規則式指令處理改為自回歸大型語言模型推理,支援含糊表達、上下文任務及讀取畫面內容,但回應時間可能增加。裝置端 Gemini Nano 有助降低延遲及保護私隱,但穩定運行需要足夠硬件效能。
NVIDIA Nemotron 3.5 Lightning 現已在 Ollama 上提供,是一款總參數量 30B、每個 token 啟用 3B、專為持續運行的 Agent 設計的開放模型,支援本機運行。
HKU 研究團隊開發出基於二維 MoS2 flash memories 的類比 CAM,以每個儲存單元 2 個電晶體直接在資料儲存位置進行搜尋。晶片每次搜尋每個單元的能耗低於 0.1 femtojoules,延遲為 36 picoseconds;用於機器學習分類的類比 Hamming distance 計算,速度約為標準 CPU 的 108 倍。
LG AI Research 與 LG U+ 把 EXAONE 整合至 ixi-O,將 AI 通話分析和 AI 接聽服務的推理轉移至裝置端。項目選用 EXAONE 4.0 1.2B,支援長達 65K 的上下文。團隊以多任務學習讓單一模型支援所有服務,並降低 RAM 使用量及對雲端伺服器的依賴。
InnoHK AI Chip Center for Emerging Smart Systems(ACCESS)在 LEAP East 2026 展示最新研究成果,重點包括面向 LLM 邊緣運算的硬件加速技術及 AC-Transformer accelerator series。
Gemini Nano v3 透過軟件最佳化,令處理速度提升最多 50%,並把常駐記憶體用量減少約 130MB。記憶體佔用下降可延後 Low Memory Killer(LMK)觸發,改善應用程式切換流暢度,並有助改善續航及抑制發熱。目前適用機種包括 Pixel 9、10 系列及 Galaxy S26 系列等旗艦裝置,這項最佳化亦為日後在中階 SoC 上運行進階 AI 鋪路。
Google Research 已將 Multi-Token Prediction(MTP)架構部署至 Pixel 9 和 10 系列的 Gemini Nano v3,透過凍結主模型權重加快裝置端文字生成。
推薦理由:文章對照整合式 MTP head 與獨立草稿模型,説明直接利用主模型狀態如何提升候選 token 準確度,並改善 Pixel 端的速度與記憶體效率。
安克創新創辦人兼 CEO 陽萌接受四小時訪談,分享對消費電子生存、端側模型及產品方法的思考。訪談亦涵蓋第三類公司、組織變革、融資與 IPO,以及從 easy 模式轉向 hard 難度的遊戲比喻。
Google Research 在 Nature 發表 PHRM 研究系統,透過智能手機前置鏡頭在面部解鎖後擷取 8 秒影片,於日常使用中被動估算心率(HR)及每日靜息心率(RHR)。
推薦理由:研究結合實驗室測試與八日自由生活驗證,按膚色報告 HR 誤差,並呈現 RHR 估算覆蓋率及穿戴裝置對照,讓讀者掌握日常使用中的證據範圍。
ACCESS 於 HKUST Unicorn Day 2026 展示四家衍生公司的技術,涵蓋晶片設計、AI 運算、金融科技及機械人。OCTOP 的 OctopOS 可將處理速度提升至 50x,延遲低於 10 毫秒,並將部署時間由數星期縮短至數小時。QuantaEdge 的系統處理金融數學模型時,延遲低於一微秒。
Google 發佈 Gemini Intelligence,並指出 Android 17 正轉向由 OS 整合的自主智能體體驗,能理解畫面及用戶情境,主動建議和執行操作。
Tensor G6的流出資訊顯示,Google或會採用TSMC N2製程,設計取向由追求峯值性能轉為提升功耗效率及日常使用體驗。其CPU據稱採用7核心配置,並換用Imagination Technologies CTX GPU及MediaTek M90 modem。第6代TPU「Santafe」則針對Android 17的智能體AI作出優化。
Google 於 2026年4月2日以 Apache 2.0 授權發布 Gemma 4 開放模型,提供 E2B、E4B、26B MoE 和 31B Dense 四種規模。
推薦理由:Gemma 4 提供四種規模,並以較小版本支援離線多模態處理、較大版本支援長上下文推理,呈現本地部署在不同硬件場景的配置方式。
Google DeepMind 發佈 Gemma 4 開放模型家族,提供 E2B、E4B、26B MoE 和 31B Dense 四種尺寸,並採用 Apache 2.0 授權。
推薦理由:Gemma 4 提供從手機端到工作站的多種尺寸,並列出排行榜名次與上下文窗口,便於比較本地部署時的硬件需求和能力差異。
文章探討智能眼鏡能否在五年內取代智能手機,並比較兩者作為個人數碼互動平台的優勢與限制。AI 和 AR 令智能眼鏡可即時識別物件、翻譯文字或語音,並把虛擬資訊疊加於現實場景;手機則具備成熟的硬件和應用程式生態。
Canonical 與 Renesas 合作,為 RZ/G2L、RZ/G2LC 提供 certified Ubuntu 24.04 LTS 和 Ubuntu Core 24 映像,並為搭載 DRP-AI 的 RZ/V2L 提供早期存取版映像。
goose 資助計劃選出 Goose In A Pond 為資助得主;該項目以 goose 開源智能體框架打造本地運作、以私隱為先的智能家居助理。它以 NVIDIA Jetson Orin Nano 運行量化 1–7B 參數語言模型,速度為每秒 40–70 tokens;語音辨識、語言模型和裝置控制均在本機執行,不會把數據傳到雲端。
Mistral AI 發佈 Voxtral Transcribe 2,包含用於批次轉寫的 Voxtral Mini Transcribe V2,以及面向即時應用的 Voxtral Realtime。
推薦理由:批次版與即時版的定位和能力差異清晰,文章亦列出即時轉寫的延遲設定、開放權重授權及兩款模型的 API 價格,便於比較部署選項。
Google Research提出分解式流程,令小型多模態 LLM 從網頁及手機互動軌跡提取意圖,表現勝過 CoT 提示和端到端微調。流程先逐屏摘要,再從摘要序列抽取整體意圖;測試涵蓋手機、網頁軌跡及 Gemini、Qwen2 基礎模型。Gemini 1.5 Flash 8B 配合此法,效果可媲美 Gemini 1.5 Pro,展示裝置端意圖理解的應用潛力。
ACCESS 在香港首屆 SIIAS 峯會展示便攜式 AI 視網膜篩查系統,以及採用數碼存算一體(DCIM)技術的便攜式基因分析原型;其 AutoDCIM 是業界首款專用 DCIM 電路設計 EDA 工具。
ACCESS 在 ICCAD Expo 2025 展示三項 AI 晶片技術成果,涵蓋便攜式視網膜篩查系統、DCIM 技術及健身姿勢分析。AutoDCIM 是專用於 DCIM 電路設計的 EDA 工具;搭載 DCIM 的便攜式基因分析儀獲日內瓦國際發明展「評審團祝賀金獎」。健身分析系統在本機處理數據,延遲低於 50 毫秒。
Ubuntu 26.04 LTS(resolute)開發正式啟動,團隊正準備開發環境,並討論基礎軟件選型,OpenSSL 3.5 暫為首選。ESWIN Computing 發佈預裝 Ubuntu 24.04 LTS 的 EBC7702 RISC-V 主板,支援最高 40TFLOPS(INT8),可用於邊緣推理及 LLM 推理。
Hugging Face 的 Swift 函式庫 swift-transformers 發佈 1.0,標誌套件進入穩定階段,並為後續功能迭代奠定基礎。Tokenizers 和 Hub 現已成為頂層模組,套件亦採用支援有狀態模型的 Modern Core ML API,並完整支援 Swift 6。團隊表示,後續將聚焦 MLX 與智能體應用。
Gemma 3n 已接入多個主流開源工具庫,並推出 E2B、E4B 兩種尺寸的 base 與 instruct 版本。支援工具包括 Transformers、timm、MLX、llama.cpp、Transformers.js 和 Ollama;兩款模型實際參數量為 5B 和 8B,GPU 記憶體佔用約相當於 2B 和 4B 模型。
推薦理由:文章並列模型的實際參數量、GPU 記憶體需求和多個工具庫的接入方式,方便衡量 Gemma 3n 本地多模態部署時的硬件門檻與工具選擇。