跳到正文
10月6日週二
  1. Liquid AI 模型與工程博客69

    Liquid AI 發佈可在裝置端運行的 LFM2.5-2.6B 模型

    Liquid AI 發佈 2.6B 參數的 LFM2.5-2.6B,這款智能體模型可完全在裝置端運行,支援規劃、工具調用及多步任務。基準測試中,它在所有指令遵循基準及幾乎所有工具使用基準領先對照模型,較大型模型則在編碼上佔優。CPU 解碼速度在 M5 Max 達 220 tokens/s、Ryzen AI Max+ 395 達 113 tokens/s,手機上為 30 tokens/s。

  2. Liquid AI 模型與工程博客63

    Liquid AI 發佈 LFM2.5-VL-3B 端側視覺語言模型

    Liquid AI 發佈視覺語言模型 LFM2.5-VL-3B,稱其視覺表現可媲美參數量兩倍的模型,並在多種 CPU、GPU 部署中運行更快。相較前代,屏幕理解、工具調用、定位及多圖輸入均有提升,ScreenSpot-v2 平均得分為 80.7,ToolSandbox 由 26.4 升至 59.5,RefCOCO precision@1 由 57.1 升至 87.9。

10月5日週一
  1. HuggingFace Daily Papers(社區熱門論文)36

    Stepped MoE: Segment-Level Routing with Configurable Inference Complexity

    Stepped MoE提出結合彈性結構與稀疏門控架構的統一框架,讓模型可按部署限制和任務需求調整推理計算。實驗展示的模型可使用 1、2、3、4 billion parameters,在知識密集型基準上比對應的密集模型準確 2-5%,延遲指標則與密集模型相近。共享模型參數可節省裝置磁碟空間,並按可用 DRAM 和計算資源調整服務。

10月3日週六
9月30日週三
9月23日週三
  1. elsewhere:文章39

    獲雲啟天使輪投資的「弋途科技」完成 Pre-B 輪融資,AICAR 正式上線|雲啟夥伴

    弋途科技完成近億元人民幣 Pre-B 輪融資,AICAR 正式上線。截至目前,公司已服務超過 70% 的國內頭部車企及主流合資品牌,數十款車型規模化量產上車,累計交付達百萬級。本輪資金將用於加速 AICAR 規模化推廣,並推進與自研端側模型深度結合的下一代 AICAR 落地。

9月22日週二
  1. Hugging Face Blog51

    oMLX 創作者兼維護者 Jun Kim 加入 Hugging Face 支援 MLX 社羣

    Hugging Face 宣佈,oMLX 創作者兼維護者 Jun Kim 加入團隊,並會繼續領導 oMLX。oMLX 維持 Apache 2.0 授權,項目將轉為獲資助並持續維護;Hugging Face 預期這有助提升穩定性,並希望加快開發。Hugging Face 亦希望以 oMLX 作為新想法的試驗場,並加快將 transformers 模型定義轉成不同引擎可使用的 MLX 參考實作。

8月28日週五
8月27日週四
8月13日週四
8月11日週二
8月4日週二
  1. The HKU Lead 港大新聞 · AI 研究及應用46

    HKU Engineering develops atomically thin “analogue in-memory search” chip to redefine AI computing limits with minimalist architecture

    HKU 研究團隊開發出基於二維 MoS2 flash memories 的類比 CAM,以每個儲存單元 2 個電晶體直接在資料儲存位置進行搜尋。晶片每次搜尋每個單元的能耗低於 0.1 femtojoules,延遲為 36 picoseconds;用於機器學習分類的類比 Hamming distance 計算,速度約為標準 CPU 的 108 倍。

7月27日週一
  1. LG AI Research:官方研究博客50

    LG U+ ixi-O 的裝置端智能體 AI:由 EXAONE 驅動

    LG AI Research 與 LG U+ 把 EXAONE 整合至 ixi-O,將 AI 通話分析和 AI 接聽服務的推理轉移至裝置端。項目選用 EXAONE 4.0 1.2B,支援長達 65K 的上下文。團隊以多任務學習讓單一模型支援所有服務,並降低 RAM 使用量及對雲端伺服器的依賴。

7月26日週日
7月23日週四
  1. gihyo.jp41

    Gemini Nano v3 的「12GB RAM」系統需求揭示了甚麼

    Gemini Nano v3 透過軟件最佳化,令處理速度提升最多 50%,並把常駐記憶體用量減少約 130MB。記憶體佔用下降可延後 Low Memory Killer(LMK)觸發,改善應用程式切換流暢度,並有助改善續航及抑制發熱。目前適用機種包括 Pixel 9、10 系列及 Galaxy S26 系列等旗艦裝置,這項最佳化亦為日後在中階 SoC 上運行進階 AI 鋪路。

6月27日週六
  1. Google Research61

    Google Research 為凍結權重的 Gemini Nano v3 加入 Multi-Token Prediction,加速 Pixel 端生成

    Google Research 已將 Multi-Token Prediction(MTP)架構部署至 Pixel 9 和 10 系列的 Gemini Nano v3,透過凍結主模型權重加快裝置端文字生成。

    推薦理由:文章對照整合式 MTP head 與獨立草稿模型,説明直接利用主模型狀態如何提升候選 token 準確度,並改善 Pixel 端的速度與記憶體效率。

6月8日週一
6月5日週五
  1. Google Research65

    Google Research 發表 PHRM 研究,探索智能手機被動監測心率與靜息心率

    Google Research 在 Nature 發表 PHRM 研究系統,透過智能手機前置鏡頭在面部解鎖後擷取 8 秒影片,於日常使用中被動估算心率(HR)及每日靜息心率(RHR)。

    推薦理由:研究結合實驗室測試與八日自由生活驗證,按膚色報告 HR 誤差,並呈現 RHR 估算覆蓋率及穿戴裝置對照,讓讀者掌握日常使用中的證據範圍。

6月4日週四
  1. ACCESS 智能晶片中心27

    從研究走向市場:ACCESS 於 HKUST Unicorn Day 2026 展示新一代 AI 晶片及邊緣智能

    ACCESS 於 HKUST Unicorn Day 2026 展示四家衍生公司的技術,涵蓋晶片設計、AI 運算、金融科技及機械人。OCTOP 的 OctopOS 可將處理速度提升至 50x,延遲低於 10 毫秒,並將部署時間由數星期縮短至數小時。QuantaEdge 的系統處理金融數學模型時,延遲低於一微秒。

5月28日週四
5月14日週四
4月3日週五
3月16日週一
3月13日週五
2月24日週二
  1. goose 官方博客40

    資助得主:Goose In A Pond

    goose 資助計劃選出 Goose In A Pond 為資助得主;該項目以 goose 開源智能體框架打造本地運作、以私隱為先的智能家居助理。它以 NVIDIA Jetson Orin Nano 運行量化 1–7B 參數語言模型,速度為每秒 40–70 tokens;語音辨識、語言模型和裝置控制均在本機執行,不會把數據傳到雲端。

2月5日週四
1月23日週五
  1. Google Research44

    小模型,大成果:Google Research 以分解方法提升意圖提取效果

    Google Research提出分解式流程,令小型多模態 LLM 從網頁及手機互動軌跡提取意圖,表現勝過 CoT 提示和端到端微調。流程先逐屏摘要,再從摘要序列抽取整體意圖;測試涵蓋手機、網頁軌跡及 Gemini、Qwen2 基礎模型。Gemini 1.5 Flash 8B 配合此法,效果可媲美 Gemini 1.5 Pro,展示裝置端意圖理解的應用潛力。

2025年12月8日週一
2025年11月27日週四
  1. ACCESS 智能晶片中心26

    ACCESS 於 ICCAD Expo 2025 展示 AI 晶片創新成果

    ACCESS 在 ICCAD Expo 2025 展示三項 AI 晶片技術成果,涵蓋便攜式視網膜篩查系統、DCIM 技術及健身姿勢分析。AutoDCIM 是專用於 DCIM 電路設計的 EDA 工具;搭載 DCIM 的便攜式基因分析儀獲日內瓦國際發明展「評審團祝賀金獎」。健身分析系統在本機處理數據,延遲低於 50 毫秒。

2025年10月24日週五
2025年9月26日週五
  1. Hugging Face Blog48

    swift-transformers 升至 1.0,並展望未來

    Hugging Face 的 Swift 函式庫 swift-transformers 發佈 1.0,標誌套件進入穩定階段,並為後續功能迭代奠定基礎。Tokenizers 和 Hub 現已成為頂層模組,套件亦採用支援有狀態模型的 Modern Core ML API,並完整支援 Swift 6。團隊表示,後續將聚焦 MLX 與智能體應用。

2025年6月26日週四
  1. Hugging Face Blog74

    Gemma 3n 全面接入主流開源工具庫,推出 E2B、E4B 尺寸模型

    Gemma 3n 已接入多個主流開源工具庫,並推出 E2B、E4B 兩種尺寸的 base 與 instruct 版本。支援工具包括 Transformers、timm、MLX、llama.cpp、Transformers.js 和 Ollama;兩款模型實際參數量為 5B 和 8B,GPU 記憶體佔用約相當於 2B 和 4B 模型。

    推薦理由:文章並列模型的實際參數量、GPU 記憶體需求和多個工具庫的接入方式,方便衡量 Gemma 3n 本地多模態部署時的硬件門檻與工具選擇。