跳到正文
11月3日週二
  1. 新浪科技44

    愛信開發全球首款集成 STT-MRAM 的 16nm AI SoC,目標檢測能效提升 50 倍

    愛信與東北大學合作開發全球首款集成 STT-MRAM 的 16nm AI SoC,採用近內存計算設計,集成 32MB 嵌入式 MRAM,可在本地儲存 AI 模型權重和操作系統啓動數據。該芯片使用 Tiny YOLOv3 實現目標檢測,每幀能耗為 50.7mJ,是傳統解決方案的 1/50;從開機到操作系統啓動需時 65.7ms。

  2. IT之家51

    愛信與日本東北大學開發全球首款整合 STT-MRAM 的 16nm AI SoC

    愛信與日本東北大學合作開發全球首款整合 STT-MRAM 的 16nm AI SoC,採用近記憶體運算(NMC)設計,整合 32MB 嵌入式 MRAM。晶片可在本地儲存 AI 模型權重和作業系統啟動資料,開機時毋須調用外置 DRAM 快取或 SSD 儲存;它以 8/16 位混合乘法架構和權重共享技術,在片上 STT-MRAM 容量內使用 Tiny YOLOv3 進行目標檢測。

11月2日週一
  1. 車東西37

    智駕平權之後,座艙算力為什麼平權不了?

    智能座艙基礎硬件已普及,但高階芯片仍集中在20萬以上車型,平價車型的座艙智能體驗和持續升級能力受算力限制。面壁智能與梧桐科技、英特爾合作打造的AI Box,將算力做成可插拔、可單獨升級的模塊,已選裝搭載於長安深藍L06並正式交付,配置4B VLM模型及多個端側模型。此路線能否普及,仍待市場驗證消費者付費意願及車規可靠性等因素。

  2. 新浪科技37

    孫千、鍾楚曦佩戴 ISHO Ring,王騰稱愈來愈多高知人羣使用智能戒指

    孫千、鍾楚曦佩戴今日宜休推出的 ISHO Ring,王騰稱愈來愈多高知人羣開始使用智能戒指。ISHO Ring 售價 1799元,支援睡眠分期、健康監測及運動識別等功能。產品搭載 Apollo 330B Plus 芯片,內置 32MB 儲存,支援端側 AI 運算,可結合身體指標及環境監測數據分析睡眠質素並提供改善建議。

11月1日週日
  1. DEV Community37

    我為 Android 開發了一款無需雲端的 AI 助手 Snor

    Snor 是一款以本機推理為核心的 Android AI 助手,可在裝置上執行語言模型,無需把每次提示詞傳送至外部 AI 服務。它支援透過 llama.cpp 執行 GGUF 量化模型,並探索 LiteRT-LM;目前聚焦 SmolLM2 135M 和 SmolLM2 360M。應用程式無須帳戶,採用本機優先設計,亦提供由用戶選擇使用的雲端 AI 整合。

  2. DEV Community44

    GhostPort:以本機 Gemma 教初學者學習 Nmap

    GhostPort 是一個供初學者學習 Nmap 的互動教室,以本機 Gemma 解釋指令並回答問題。它只解析指令,不會執行指令或連接目標;WebLLM 0.2.87 在用戶的 GPU 上運行開放權重 Gemma 2 2B。首次下載模型約需 1.5 GB,並需要兼容 WebGPU 的瀏覽器及約 2 GB GPU 記憶體。

  3. DEV Community39

    Afterlight:留存的回憶

    Afterlight 是一款以本機為先的回憶撰寫工具,使用 Google Gemma 3 4B 將用戶提供的回憶整理成標題、短篇紀念文字及一行紀念短句。模型透過 Ollama 在同一部裝置上運行,回憶儲存在本機,生成內容不會傳送至託管式 AI API。下載模型後,生成和儲存回憶可離線進行。

  4. DEV Community40

    脈衝與 Attention:神經形態晶片在哪些場景真正節能

    神經形態晶片在輸入稀疏、事件少的邊緣感測工作負載中,能以按活動量計算的方式節能;面對密集語言推理則不具優勢。正文指出,在安靜場景下,事件驅動晶片的能耗可比密集模型低一個數量級,並可在微秒內回應事件。相關晶片適合常開感測,但資料中心的密集工作負載仍由成熟的 GPU 堆疊佔優。

  5. DEV Community44

    The Room Is Not Empty:在裝置上運行的鬧鬼聊天機械人

    The Room Is Not Empty 是一款在用戶裝置上運行的鬧鬼聊天機械人,對話越久,回覆越令人不安。裝置支援 WebGPU 時,應用會透過 WebLLM 在瀏覽器運行 Llama 3.2 1B;否則會改用預先寫好的台詞。整個應用只有一個 index.html 檔案,沒有後端;約 700 MB 的模型下載完成後,可在關閉 Wi-Fi 的情況下運行,聊天內容不會傳送至伺服器。

  6. DEV Community29

    Shadow Guardian:使用 Gemma 2、Pygame 和 Rich 建構氣隙隔離的本地 AI 時光膠囊

    Shadow Guardian 是以 Python 建構的離線本地記憶保存 CLI,使用 Ollama 執行 Gemma 2(gemma2:2b),並以 SQLite3 儲存兒童的成長里程碑、引言和回憶。它使用 pygame 播放背景音訊,並以 rich 和自訂打字效果呈現回應;資料保存在加密的本地磁碟區,不連接網絡。作者指出,採用本地開放權重模型可讓家庭記憶留在自己控制的基礎設施內。

  7. DEV Community36

    家譜網站變成 404 後,我打造了一個在本機運行的家譜工具

    Tell the Tree 使用透過 Ollama 本機運行的 Gemma 4 E2B,讓用戶以日常句子建立家譜,並在確認前預覽修改;資料不會離開電腦。程式會處理關係歧義及家譜檢查,必要時詢問用戶。Gemma 4 E2B 配合程式在 15 句測試中答對 15 句,另在 6 句日常意大利語測試中作出 5 次正確決定。

  8. 新浪科技52

    全志科技前三季度營收27.98億元、淨利潤6.59億元,淨利同比增長136.76%

    全志科技前三季度實現營業收入27.98億元、歸母淨利潤6.59億元,分別同比增長29.49%和136.76%,毛利率同比提升10.35個百分點。第三季度營收及歸母淨利潤分別環比下降6.87%和41.14%;截至9月末,存貨較上年末增長102.43%,前三季度經營活動現金流同比下降21.25%。文章將業績增長歸因於產品提價、新品量產及產品結構升級,並指出存貨去化和結構升級能否延續是後續觀察重點。

  9. DEV Community38

    Madarbulb:以 Gemma 4 在瀏覽器中建立私密追思祭壇

    Madarbulb 使用 Gemma 4 E4B,在瀏覽器內生成追思文字和 calaverita,並呈現在虛擬祭壇上。應用程式透過 WebGPU 和 LiteRT-LM 執行模型,模型檔案由用戶從裝置選取,不會上載或複製到應用程式儲存空間。追思內容和照片無須傳送至託管 AI 服務;應用程式亦可在裝置上備妥程式和模型檔案後離線運作。

  10. DEV Community26

    Echoes:以本地 AI 留存記憶

    Echoes 是一款以本地優先為設計方向的 AI 記憶保存助理,結合 Whisper、Ollama、Gemma、Python 和本機儲存,將錄音轉成文字、整理記憶並生成摘要。用戶可用自然語言搜尋及重温保存的故事;盡可能在本地處理,讓個人資料保留在用戶掌控之中,毋須每次互動都傳送至第三方 AI API。

10月31日週六
  1. DEV Community32

    The Lantern:以本機開放式 AI 延續家庭故事

    The Lantern 是一款本機紀念日誌,使用 Qwen2.5-0.5B-Instruct 將選取的家庭回憶編織成可編輯的追思文字,並保留原始回憶供比較和核對。模型以 Q8_0 GGUF 權重透過 llama.cpp 在 CPU 上本機運行,無需 API 帳戶或按次付費;用戶可審閲內容並匯出 Markdown。測試發現模型曾遺漏來源標籤及改動細節,因此匯出前須由人手審閲。

  2. DEV Community38

    Ofrenda Viva:以 100% 本機開源 AI 打造紀念先人的數碼祭壇

    Ofrenda Viva 是一款以 100% 本機開源 AI 打造的互動數碼紀念祭壇,向計算先驅致敬,亦可供用戶離線建立先人、導師及寵物的紀念祭壇。內置 Espíritu 本機 AI 預言引擎,可生成悼詞、墨西哥傳統韻文、書信及祭壇供品建議;照片和紀念資料儲存在本機。祭壇另有 6 支互動蠟燭、程式合成音效,以及以 60 FPS 運行的萬壽菊與焚香粒子效果。

  3. DEV Community68

    LFM2-2.6B 在 iPhone 上始終輸出有效 JSON

    作者在 iPhone 15 上以 llama.cpp 離線執行 LFM2-2.6B,將文字、語音及掃描帳單轉成 JSON。短文本轉 6 欄 JSON 需 4–6 秒,語音備忘錄轉巢狀任務清單需 7–9 秒,掃描帳單轉 7 個欄位需 10–14 秒。做法包括用 GBNF 限制 JSON 結構、以規則讀取金額等數字,並補充日曆資訊及重複語言指示。

  4. unwire.hk · 人工智能49

    Sam Altman 稱電腦 RAM 閒置浪費資源,主張 AI 運算集中雲端

    OpenAI 行政總裁 Sam Altman 認為,個人電腦 DRAM 使用率偏低,主張把 AI 運算更多集中於雲端資料中心。他以記憶體只有「5% 的時間」被使用為例,認為雲端可讓不同用戶輪流使用記憶體;SK hynix 預計記憶體供不應求可能延續至 2030 年。本地 AI 則有私隱及離線使用優勢,選擇亦取決於模型大小、成本、私隱要求和使用頻率。

  5. DEV Community45

    Ghost Papers:離線 AI 閲讀並解釋家人留下的文件

    Ghost Papers 使用本機運行的 Gemma 3 (4B) 閲讀家人留下的文件,並整理成一份遺產檔案和可列印的家庭文件冊。它透過 Ollama 離線運作,毋須 API key 或雲端服務;個人資料可只保留在記憶體中,儲存則由用戶選擇。文件內容支援英語、孟加拉語和印地語,但孟加拉語和印地語文件仍須對照原件核實。

  6. DEV Community48

    Butu 🧸:離開工作時會感到孤單的瀏覽器夥伴

    Butu 是適用於 Chrome 和 Firefox 的專注夥伴,會在用戶離開工作頁面時,逐步把分心頁面變成「鬧鬼」頁面。它使用 Xenova/paraphrase-MiniLM-L3-v2 嵌入模型,在瀏覽器內比對工作任務與頁面內容;模型量化權重約 17.5 MB,下載並快取後可離線偵測。用戶回到工作頁面後,頁面便會恢復原狀。