跳到正文
10月24日週六
  1. DEV Community52

    Sloth Roll 在 iPhone 本機把截圖整理成日曆事件、地點和支出卡片

    Martin Espericueta 開發 Sloth Roll,以 iPhone 本機運行的開放權重視覺模型讀取截圖,並整理成日曆事件、地點或支出卡片。用戶可左右滑動處理卡片,亦可先編輯內容;完成一次模型下載後,掃描和卡片處理可離線進行,資料不會離開手機。在 19 張人工核對圖片中,類型判斷有 18 張正確(95%);事件日期和時間同時判斷正確的有 6/10 個事件。

  2. HuggingFace Daily Papers(社區熱門論文)46

    邊緣離線生成式 AI 的信任機制:連線狀態框架及 Raspberry Pi 5 實證研究

    研究提出 C0-C4 連線狀態框架及推理時信任機制分類,並在 Raspberry Pi 5 上評估本地檢索增強生成,測試三種 Qwen2.5 模型規模。檢索分數閘門識別知識缺口的 AUROC 為 0.97,但對主題內無法回答的問題表現較差,AUROC 為 0.68。有效簽署的污染知識包仍可通過所有檢查,令 30 條原本答對的問題全數答錯,當中 14 條返回注入答案;所測機制均不能確立證據真偽。

  3. DEV Community28

    LazyFlow AI:用本地 AI 將雜亂筆記轉為可執行任務

    LazyFlow AI 使用 Ollama 和開放權重模型 Qwen2.5 3B,在本地整理雜亂筆記、生成摘要並擷取可執行任務。應用程式採用 React、TypeScript、Python、FastAPI 和 SQLite,目前只在作者的電腦本地運行,沒有公開部署的示範版本。作者仍在改進任務優先級分類和使用體驗,尚未測量可靠的節省時間數據。

10月23日週五
  1. DEV Community28

    InboxSloth AI:讓 AI 處理大量訊息

    InboxSloth AI 是一款以 Gemma 3 1B 和 Ollama 本機推理的應用程式,將冗長對話整理成摘要,並提取待辦事項、期限及重要更新。項目亦旨在支援英語、馬拉地語及兩者混用的對話,避免每次請求都依賴付費推理 API;目前的省時效益仍有待測試驗證。

  2. DoNews30

    楊元慶預測:80% Token 將在端邊側生成

    聯想集團董事長兼 CEO 楊元慶預測,未來 80% Token 將在終端及邊緣側生成,推動端、邊、雲協同演進。大模型邁入萬億參數時代,提升 AI 計算效率及降低 Token 成本將是規模化普及的關鍵;他亦預測,個人 AI 普及將帶動「家用 AI 伺服器」需求,智能體(Agent)將直接調用設備。聯想本財季 AI PC 全球市場份額達 25.1%。

  3. IT之家41

    聯想楊元慶預測:未來 80% Token 將在終端和邊緣生成,每人都需要家用伺服器或 AI 中心

    聯想集團董事長兼 CEO 楊元慶預測,未來 80% 的 Token 將在終端和邊緣側生成,AI 推理任務亦有望更多在這些位置完成。他認為,個人 AI 普及後,每個人都需要一台家用伺服器或自己的 AI 中心。未來很多設備將不再由人直接使用,而是由 Agent 使用。

  4. DEV Community28

    Slow & Steady AI:以小步驟減輕壓力|Hacktoberfest 第 3 週

    Slow & Steady AI 是一款輕量級 AI 任務助手,可把大型任務拆成四個較易處理的步驟,協助用戶開始行動。用戶輸入任務並選擇可用時間和精力水平,即可獲得簡單行動計劃。項目使用 Transformers.js 在瀏覽器執行開放權重模型,計劃採用 FLAN-T5 Small,無需付費 AI API 或專用後端。

  5. 新浪科技36

    從實時控制到邊緣 AI,恩智浦 FRDM 開發者賦能計劃正式啟動

    恩智浦攜手合作夥伴推出「Designing with NXP|FRDM Lab」系列活動,透過技術課程、現場實操和應用交流,協助開發者探索從實時控制到邊緣 AI 的開發實踐。活動將在杭州、深圳、合肥、蘇州等城市舉行,涵蓋 MCX MCU、實時作業系統、eIQ 工具鏈及嵌入式圖形介面。符合要求並通過報名審核、完成現場培訓的參與者,有機會獲得活動使用的 FRDM 開發板。

  6. DEV Community39

    2026 年如何選擇裝置端推理引擎:llama.cpp 不再是唯一選擇

    2026 年,裝置端推理引擎的選擇不再限於 llama.cpp;運行視覺語言模型或處理長上下文時,啟用激活量化的引擎可降低預填充耗時。M5 Pro 上以 Cider 執行 4B VLM、處理 4516 tokens 上下文,W8A8 預填充需時 2.519s,較 W8A16 基準快約 12.7%,解碼速度則相近。短文本推理仍可使用 MLX 或 llama.cpp,選擇亦取決於目標硬件世代。

  7. 新浪科技43

    楊元慶:未來 80% Token 將在終端和邊緣生成,AI 設備迎來新變革

    聯想集團董事長兼 CEO 楊元慶預測,未來 80% Token 將在終端和邊緣側生成,AI 計算架構將由雲端集中式計算轉向端邊雲協同。聯想正以 Token Hub 分配不同工作負載至不同模型,並推進由 AI PC 延伸至各種智能終端的個人 AI 戰略。原文稱,聯想內部每月消耗的 Token 已達一萬億個。

  8. 中華網科技31

    CEIC2026 消費電子創新大會在深圳舉行

    CEIC2026 消費電子創新大會近日在深圳舉行,逾千名產學研人士出席,聚焦智能體時代的終端演進、跨品牌互通及 AI 走進物理世界。大會推出由 8 家產業組織聯合發起的 (PI)²物理智能夥伴計劃,面向全行業開放招募。與會者亦指出,端側大模型的功耗、散熱和存儲,以及跨品牌標準落地,仍是產業面對的挑戰。

  9. 新浪科技47

    科大訊飛劉慶峯:端雲一體大模型是兼顧安全與性價比的必然選擇

    科大訊飛董事長劉慶峯表示,全棧自主可控的端雲一體大模型是兼顧 AI 安全與性價比的必然選擇,端側處理與雲端協同可降低資料外洩風險和使用成本。訊飛星火 X2.6 經端雲一體訓練後,智能體任務覆蓋度達 41.9%;長程任務動態並行訓練技術可令超長上下文訓練效率提升約 4 倍。

  10. 新浪科技33

    10月23日週五早盤必讀

    美股隔夜漲跌互見,納指跌2.6%、標普跌1.21%,大型科技股多數下跌;倫敦現貨黃金跌超2%,白銀跌超5%,布倫特原油升至每桶113美元上方。PHP兩項嚴重安全漏洞的修復補丁已發布,漏洞由研究人員藉助人工智能工具發現。科大訊飛發布訊飛星火X2.6,雲端及端側能力同步提升。

  11. IT Square · AI78

    NVIDIA RTX Spark 筆電開賣,最高提供 1 petaflop FP4 效能及 128GB 統一記憶體

    NVIDIA 開賣 RTX Spark 筆電,最高提供 1 petaflop FP4 AI 效能及 128GB 統一記憶體。產品以 Blackwell RTX GPU 和 Grace CPU 組成單一超級晶片,支援在本機執行 AI 模型及代理。RTX Spark 筆電全球起售價為 2,599 美元,香港定價及上市安排尚未公佈。

    推薦理由:RTX Spark 把最高 128GB 統一記憶體、1 petaflop FP4 效能與本地代理帶入 Windows 筆電,呈現其兼顧創作與 AI 工作流的定位。