愛信開發全球首款集成 STT-MRAM 的 16nm AI SoC,目標檢測能效提升 50 倍
愛信與東北大學合作開發全球首款集成 STT-MRAM 的 16nm AI SoC,採用近內存計算設計,集成 32MB 嵌入式 MRAM,可在本地儲存 AI 模型權重和操作系統啓動數據。該芯片使用 Tiny YOLOv3 實現目標檢測,每幀能耗為 50.7mJ,是傳統解決方案的 1/50;從開機到操作系統啓動需時 65.7ms。
愛信與東北大學合作開發全球首款集成 STT-MRAM 的 16nm AI SoC,採用近內存計算設計,集成 32MB 嵌入式 MRAM,可在本地儲存 AI 模型權重和操作系統啓動數據。該芯片使用 Tiny YOLOv3 實現目標檢測,每幀能耗為 50.7mJ,是傳統解決方案的 1/50;從開機到操作系統啓動需時 65.7ms。
愛信與日本東北大學合作開發全球首款整合 STT-MRAM 的 16nm AI SoC,採用近記憶體運算(NMC)設計,整合 32MB 嵌入式 MRAM。晶片可在本地儲存 AI 模型權重和作業系統啟動資料,開機時毋須調用外置 DRAM 快取或 SSD 儲存;它以 8/16 位混合乘法架構和權重共享技術,在片上 STT-MRAM 容量內使用 Tiny YOLOv3 進行目標檢測。
CEVA 發佈第二代 NeuPro NPU 產品系列,提升 AI 處理吞吐量並改善能源效益。新系列每平方毫米的 AI 處理吞吐量最高達第一代的兩倍,能源效益提升 50%。產品現正向部分客戶提供早期使用,全面量產供應預定於 2027 年第二季度開始。
在一般及入門級硬件上本地運行 3B 以下模型,可把大語言模型用作系統工具,處理日常任務並提升私隱保障。文章列出 Ollama、LM Studio 和 KoboldCPP,並以 qwen2.5:3b、llama3.2:3b 和 phi3:mini 作為不同用途的模型例子。本地模型的回應速度較雲端服務慢。
智能座艙基礎硬件已普及,但高階芯片仍集中在20萬以上車型,平價車型的座艙智能體驗和持續升級能力受算力限制。面壁智能與梧桐科技、英特爾合作打造的AI Box,將算力做成可插拔、可單獨升級的模塊,已選裝搭載於長安深藍L06並正式交付,配置4B VLM模型及多個端側模型。此路線能否普及,仍待市場驗證消費者付費意願及車規可靠性等因素。
孫千、鍾楚曦佩戴今日宜休推出的 ISHO Ring,王騰稱愈來愈多高知人羣開始使用智能戒指。ISHO Ring 售價 1799元,支援睡眠分期、健康監測及運動識別等功能。產品搭載 Apollo 330B Plus 芯片,內置 32MB 儲存,支援端側 AI 運算,可結合身體指標及環境監測數據分析睡眠質素並提供改善建議。
Ceva表示,Mobilint已在REGULUS邊緣AI SoC中部署SensPro AI DSP及NeuPro-Nano NPU,這是NeuPro NPU系列首次投入量產部署。REGULUS提供10 TOPS AI運算效能,功耗低於3W,支援最高8GB記憶體;其硬件已驗證超過490種模型架構。
Apple 計劃於 2027 年底推出第二代觸控 OLED MacBook Pro,搭載 M7 Pro 和 M7 Max,並可能提升 AI 硬件能力及本地 AI 算力。M7 系列具體支援哪些 AI 功能尚未公佈。文章指出,價格仍是這款產品面對的主要購買障礙。
家校小程式可透過插件加入 AI 體測能力,以手機鏡頭擷取影像、識別人體 17 個關鍵點,自動計數、判斷姿勢及評分。方案支援即時鏡頭和上傳影片分析,並可配置運動項目與判定規則;最快一到三天完成聯調上線。
聯想正式推出 YOGA Pro 15 RTX Spark,配備 NVIDIA RTX Spark N1X,提供 64GB 記憶體、1TB 固態硬碟版及 128GB 記憶體、2TB 固態硬碟版,售價分別為 29999 元和 42999 元。
d3kOS 是一款為船隻而設的開源海事作業系統,現行版本 v0.9.9.5.1 可在 Raspberry Pi 上運行,透過 Signal K 整合船上裝置已有的數據。它提供 AI 航海問答、引擎監測、語音助理及碰撞預警等工具,支援離線核心功能,並非經認證的導航儀器。
Snor 是一款以本機推理為核心的 Android AI 助手,可在裝置上執行語言模型,無需把每次提示詞傳送至外部 AI 服務。它支援透過 llama.cpp 執行 GGUF 量化模型,並探索 LiteRT-LM;目前聚焦 SmolLM2 135M 和 SmolLM2 360M。應用程式無須帳戶,採用本機優先設計,亦提供由用戶選擇使用的雲端 AI 整合。
開發者打造 Ofrenda,讓用戶在離線狀態下建立亡靈節紀念內容。它以本機運行的 Gemma3 : 4b 生成紀念文字、温柔的回信和祭壇物品清單。內容不會離開用戶的電腦,無需伺服器、帳戶或 API key。
GhostPort 是一個供初學者學習 Nmap 的互動教室,以本機 Gemma 解釋指令並回答問題。它只解析指令,不會執行指令或連接目標;WebLLM 0.2.87 在用戶的 GPU 上運行開放權重 Gemma 2 2B。首次下載模型約需 1.5 GB,並需要兼容 WebGPU 的瀏覽器及約 2 GB GPU 記憶體。
作者開發 bringYourOwnBrain,讓開發者和用戶可透過 WebGPU 和 WASM,在本地免費運行小型開放權重 LLM,減少輕量 AI 任務對數據中心模型的依賴。模型首次載入後可離線使用,推理在本地記憶體進行,提示詞不會傳送至遠端伺服器。整個平台及遊戲以 Apache 2.0 License 開源。
Afterlight 是一款以本機為先的回憶撰寫工具,使用 Google Gemma 3 4B 將用戶提供的回憶整理成標題、短篇紀念文字及一行紀念短句。模型透過 Ollama 在同一部裝置上運行,回憶儲存在本機,生成內容不會傳送至託管式 AI API。下載模型後,生成和儲存回憶可離線進行。
神經形態晶片在輸入稀疏、事件少的邊緣感測工作負載中,能以按活動量計算的方式節能;面對密集語言推理則不具優勢。正文指出,在安靜場景下,事件驅動晶片的能耗可比密集模型低一個數量級,並可在微秒內回應事件。相關晶片適合常開感測,但資料中心的密集工作負載仍由成熟的 GPU 堆疊佔優。
Booji 是一款在 Android 手機上運作的開源記帳應用,讀取銀行發送的 SMS,分類交易、標示重複收費,並預估本月支出及餘額。它以 Gemma 4 E2B 在裝置上處理無法由規則解析的訊息及商戶分類,毋須後端或帳戶。應用以 Kotlin 和 Jetpack Compose 開發,採用 MIT 授權。
Ofrenda de los Modelos 是一個紀念 AI 模型的互動作品,讓開放權重模型在用戶裝置上依次回答問題。GPT-2 可在瀏覽器即時運行,Gemma 1、2、3 使用錄音,Gemma 4 的 WebGPU 實際運行仍待測試。網站沒有伺服器,用戶輸入不會離開裝置;已退役而未公開權重的模型則以暗色相框呈現。
The Room Is Not Empty 是一款在用戶裝置上運行的鬧鬼聊天機械人,對話越久,回覆越令人不安。裝置支援 WebGPU 時,應用會透過 WebLLM 在瀏覽器運行 Llama 3.2 1B;否則會改用預先寫好的台詞。整個應用只有一個 index.html 檔案,沒有後端;約 700 MB 的模型下載完成後,可在關閉 Wi-Fi 的情況下運行,聊天內容不會傳送至伺服器。
Shadow Guardian 是以 Python 建構的離線本地記憶保存 CLI,使用 Ollama 執行 Gemma 2(gemma2:2b),並以 SQLite3 儲存兒童的成長里程碑、引言和回憶。它使用 pygame 播放背景音訊,並以 rich 和自訂打字效果呈現回應;資料保存在加密的本地磁碟區,不連接網絡。作者指出,採用本地開放權重模型可讓家庭記憶留在自己控制的基礎設施內。
Tell the Tree 使用透過 Ollama 本機運行的 Gemma 4 E2B,讓用戶以日常句子建立家譜,並在確認前預覽修改;資料不會離開電腦。程式會處理關係歧義及家譜檢查,必要時詢問用戶。Gemma 4 E2B 配合程式在 15 句測試中答對 15 句,另在 6 句日常意大利語測試中作出 5 次正確決定。
全志科技前三季度實現營業收入27.98億元、歸母淨利潤6.59億元,分別同比增長29.49%和136.76%,毛利率同比提升10.35個百分點。第三季度營收及歸母淨利潤分別環比下降6.87%和41.14%;截至9月末,存貨較上年末增長102.43%,前三季度經營活動現金流同比下降21.25%。文章將業績增長歸因於產品提價、新品量產及產品結構升級,並指出存貨去化和結構升級能否延續是後續觀察重點。
Madarbulb 使用 Gemma 4 E4B,在瀏覽器內生成追思文字和 calaverita,並呈現在虛擬祭壇上。應用程式透過 WebGPU 和 LiteRT-LM 執行模型,模型檔案由用戶從裝置選取,不會上載或複製到應用程式儲存空間。追思內容和照片無須傳送至託管 AI 服務;應用程式亦可在裝置上備妥程式和模型檔案後離線運作。
Prospero 是以 C++ 編寫、面向本機及開放權重模型的編碼智能體框架,作者聲稱其資源用量約少兩個數量級,但沒有提供基準測試。它不內置模型供應商,用戶可連接自己的 llama.cpp,或接入 OpenRouter、Anthropic、OpenAI 的 API。
Ghostlight AI 是一款以 HTML、CSS 和 JavaScript 建構的瀏覽器 AI 故事體驗,使用 Transformers.js 在瀏覽器載入開放權重模型 FLAN-T5 Small 生成文字。它提供鬼故事生成器及 Memory Keeper,分別用來創作故事和書寫紀念訊息;推理不需付費 AI API 金鑰或自訂應用程式伺服器。
Echoes 是一款以本地優先為設計方向的 AI 記憶保存助理,結合 Whisper、Ollama、Gemma、Python 和本機儲存,將錄音轉成文字、整理記憶並生成摘要。用戶可用自然語言搜尋及重温保存的故事;盡可能在本地處理,讓個人資料保留在用戶掌控之中,毋須每次互動都傳送至第三方 AI API。
Echoes of Yesterday 是一個離線、由 AI 驅動的數碼記憶保存平台,可將家庭對話或錄音轉錄、整理成可搜尋的個人記憶檔案,並根據實際錄音回答問題。
Echoes of the Lantern 是一個以私隱為重點的記憶典藏應用程式,利用瀏覽器 AI 將用戶保存的個人資料整理成追憶故事,並讓用戶透過 Ask the Echo 查詢記憶。
The Lantern 是一款本機紀念日誌,使用 Qwen2.5-0.5B-Instruct 將選取的家庭回憶編織成可編輯的追思文字,並保留原始回憶供比較和核對。模型以 Q8_0 GGUF 權重透過 llama.cpp 在 CPU 上本機運行,無需 API 帳戶或按次付費;用戶可審閲內容並匯出 Markdown。測試發現模型曾遺漏來源標籤及改動細節,因此匯出前須由人手審閲。
THE VEIL 是一款在本機運行的 AI 占卜板,使用 Ollama 執行 llama3.2:3b,無需雲端或 API 金鑰;載入模型後,即使沒有網絡也可使用。用戶輸入問題後,木製占卜板上的指示片會逐字移動、顯示回答,最後移至 GOODBYE。3B 參數模型可在手提電腦 CPU 上運行,無需 GPU。
Ofrenda Viva 是一款以 100% 本機開源 AI 打造的互動數碼紀念祭壇,向計算先驅致敬,亦可供用戶離線建立先人、導師及寵物的紀念祭壇。內置 Espíritu 本機 AI 預言引擎,可生成悼詞、墨西哥傳統韻文、書信及祭壇供品建議;照片和紀念資料儲存在本機。祭壇另有 6 支互動蠟燭、程式合成音效,以及以 60 FPS 運行的萬壽菊與焚香粒子效果。
作者在 iPhone 15 上以 llama.cpp 離線執行 LFM2-2.6B,將文字、語音及掃描帳單轉成 JSON。短文本轉 6 欄 JSON 需 4–6 秒,語音備忘錄轉巢狀任務清單需 7–9 秒,掃描帳單轉 7 個欄位需 10–14 秒。做法包括用 GBNF 限制 JSON 結構、以規則讀取金額等數字,並補充日曆資訊及重複語言指示。
Ofrenda AI 是一款以 Google Gemma 2 驅動的開源、離線優先數碼紀念祭壇及口述歷史資料庫,設計為在本機運行。它使用 gemma2:9b 將家族記憶整理成紀念文字、口述歷史和傳家食譜,並支援 ElevenLabs 語音旁白,離線時可切換至瀏覽器語音合成。
香港工具品牌 Arrowmax 在 Kickstarter 上線 AI 電動螺絲刀 S1,24 小時內達成眾籌目標。S1 可識別螺絲、自動匹配批頭及調節扭矩,搭載本地 AI 模型,無需連網。起售價為 80 美元,預計 2027 年 4 月發貨。
The Last Clue 是一款以 Arduino UNO Q 和本地 AI 驅動的恐怖主題多人卧底猜詞遊戲,Arduino UNO Q 會託管遊戲伺服器,並以 LED 矩陣呈現幽靈表情及回應遊戲事件。
OpenAI 行政總裁 Sam Altman 認為,個人電腦 DRAM 使用率偏低,主張把 AI 運算更多集中於雲端資料中心。他以記憶體只有「5% 的時間」被使用為例,認為雲端可讓不同用戶輪流使用記憶體;SK hynix 預計記憶體供不應求可能延續至 2030 年。本地 AI 則有私隱及離線使用優勢,選擇亦取決於模型大小、成本、私隱要求和使用頻率。
Ghost Papers 使用本機運行的 Gemma 3 (4B) 閲讀家人留下的文件,並整理成一份遺產檔案和可列印的家庭文件冊。它透過 Ollama 離線運作,毋須 API key 或雲端服務;個人資料可只保留在記憶體中,儲存則由用戶選擇。文件內容支援英語、孟加拉語和印地語,但孟加拉語和印地語文件仍須對照原件核實。
EIDOLON-OS 是一套完全離線、零雲端的認知作業系統,利用本機 Google Gemma 2 (2B) 推理,並以本機檔案儲存數碼記憶。系統採用 Ollama IPC socket、確定性餘弦向量引擎及加密本機資料庫,並以 Docker 和 Docker Compose 封裝。程式碼以 MIT License 開源。
Butu 是適用於 Chrome 和 Firefox 的專注夥伴,會在用戶離開工作頁面時,逐步把分心頁面變成「鬧鬼」頁面。它使用 Xenova/paraphrase-MiniLM-L3-v2 嵌入模型,在瀏覽器內比對工作任務與頁面內容;模型量化權重約 17.5 MB,下載並快取後可離線偵測。用戶回到工作頁面後,頁面便會恢復原狀。