跳到正文
10月21日週三
  1. DEV Community41

    🦥 SlothAI: Work Less, Automate More, Stay Slow

    SlothAI 是一款本機優先、開放權重的 AI 生產力工作區,可摘要文件、從筆記提取任務、整理檔案及編製每日簡報。它以 FastAPI 和 Ollama 在本機執行推理,建議預設模型為 Qwen3 4B(qwen3:4b),並在執行檔案操作前提供審批流程。項目採用 MIT 授權;本機設定完成並下載相容模型後,可離線推理。

  2. DEV Community55

    SlothSort 以本地 3B 模型在 4.5 W 筆電上整理檔案

    Ruslan Sivak 開發開源工具 SlothSort CLI,以規則分類檔案,並用本地 3B 模型為內容難辨的文件重新命名。工具預設先執行 dry run,不會刪除檔案,亦支援 --undo 還原;在 4.5 W 筆電上,暖機後整理 14 個檔案至 7 個資料夾並重新命名 3 個,耗時 10.6 秒。程式碼:https://github.com/Mystical89/slothsort

  3. DEV Community49

    My first fine-tuning patch made my model worse. The second one, with fewer examples and half the learning rate, fixed it

    Spawn Point 開發者以較少的新訓練例子和減半的學習率修補微調回歸,讓多組舊評測集得分回升,但部分新評測集仍有下降。第二次修補使用約 370 個新例子、1,080 條重播資料及 3e-5 學習率;Spawn Point 0.3.3 則改為專注像素藝術,加入六種新怪物。

  4. Nathan Lambert:Interconnects52

    最新開放 AI 成果(第 25 期):DeepSeek-V4.1-Flash-1017、美國本土模型與中美新監管措施

    Interconnects 第 25 期開放 AI 成果綜述聚焦中美監管動向、DeepSeek-V4.1-Flash-1017,以及多款開放模型與工具更新。中國商務部提出政策草案,要求前沿 AI 模型及部分技術在國際共享前獲政府預先批准,並稱開源技術將設自動審批;美國 DHS 則限制 DeepSeek 公司及其模型平台成為聯邦民事採購供應商。

  5. DEV Community41

    LazySort:藉助 AI 整理檔案

    LazySort 是一款以本機優先的 AI 檔案整理工具,會分析文件內容並建議描述性檔名和分類。它以 Python 和開源 AI 技術構建,探索以精簡開放權重語言模型及本機推理處理檔案,面向資源有限的硬件,毋須依賴昂貴的 AI 訂閲服務。

  6. DEV Community14

    ML hacks artifacts in the library

    Digital Spirit Library 是一個概念性作品,將開發者社羣協作描繪成持續演變的知識檔案,呈現智能科技時代寫作與編碼的交織。活化手稿、低語程式碼、漂浮燈籠和多維書架,分別象徵不斷演變的文件與開源貢獻、開發者和教育者,以及協作形成的知識分支。作品指出,AI 輔助起草、開源文件和教學敍事,令寫作更易參與、更具社羣性,也更能適應變化。

  7. DEV Community54

    Shoebox 以 Gemma 4 在本機夜間讀取收據,金額未能核實者交由人工檢查

    Kai Chen 開發的 Shoebox 會在本機每晚以 Gemma 4 讀取新收據,核對金額後按月份和類別歸檔,無法核實的收據移至 Check me/。照片不會上傳,Gemma 4 E4B 在 CPU 本機執行,Temporal 負責維持夜間工作流程。作者以 CORD v2 的 95 張測試收據比較單次和雙次讀取,錯誤總額入帳由 4 張降至 1 張,但多 7 張收據需要人工檢查。

  8. Hacker News:AI 熱帖48

    Respan(YC W24)推出以插件為核心的開源 Rust AI 閘道

    Respan 推出以插件為核心的開源 Rust AI 閘道,採用小型核心,讓供應商、協議、模態及閘道功能以插件擴充。Respan Gateway 可處理工具、圖片及推理協議,並支援 OpenAI、Anthropic、Gemini 等供應商。程式以 MIT 或 Apache-2.0 授權開源,目前仍處於 pre-alpha,可在本機運行,無須使用 Respan 的託管平台。

  9. DEV Community47

    Clutter Sloth: The Lazy, Local-First Downloads Sorter for International Sloth Day 🦥

    Clutter Sloth 是一款由本機運行的開放權重視覺模型驅動的下載資料夾整理工具,只在電腦閒置時分類檔案,並保留復原能力。新類別須連續獲批 5 次才會自動整理;税務文件、身份證及護照則僅供預覽,不會自動移動。所有檔案均留在本機,文章列出的示例平均掃描時間約為 6 分鐘,使用 GTX 1650(4 GB VRAM)。

10月20日週二
  1. DEV Community74

    35 款開源大語言模型到底需要多少顯存?2026 年 10 月 GGUF 實際檔案大小

    作者整理 35 款開源模型的 GGUF 權重檔案大小,並按各模型配置計算不同上下文長度下的 KV cache、執行時開銷及總顯存需求。千問(Qwen3)32B 從 8k 增至 32k 上下文約多需 6 GiB,Qwen3.8 27B 則約多需 1.5 GiB;作者亦提供可按量化方式、上下文長度和並行請求數查看顯存拆分及適用 GPU 的計算器:https://gpu.nz/en/tools/vram

  2. DEV Community43

    QuietShelf gives your sort-this-later pile a gentle landing

    QuietShelf 以本地開放權重模型為文字及 Markdown 筆記排序,提出收納位置供用戶審核,原始檔案不會被移動或刪除。十項自動化測試全部通過;虛構測試資料中的五則不同主題筆記均把預期分類排第一,其中三則仍因分數或差距不足而留待審核。專案程式碼採用 MIT 授權,模型採用 Apache-2.0 授權。

  3. DEV Community40

    Patch Pacer: a local model that makes a noisy patch queue smaller

    Patch Pacer 使用本地開放權重嵌入模型,將安全公告或工單的 JSONL 匯出資料分組並排序,整理成較短的審核佇列。它透過 FastEmbed 和 ONNX Runtime 在用戶裝置上執行 BAAI/bge-small-en-v1.5,排序只採用記錄中的嚴重程度、到期日及資產映射。合成示例把 7 條記錄整理成 4 組;作者未有測量真實佇列的節省時間。

  4. 404 Media64

    AI 逆向工程熱潮延伸至軟件克隆與智能裝置改寫

    近幾日,網民以 AI 逆向改寫智能電視等裝置的軟件,亦克隆現有應用功能,讓部分被廠商停用的設備恢復功能。名為「Reverse Engineer Anything」的 GitHub 項目可分析沒有原始碼的應用功能並協助重建,撰文時已超過 342,000 個星標。作者警告,AI 克隆程式可能帶有使用者難以修復的錯誤,快速擴散亦可能增加裝置安全風險及開源社羣的審核負擔。

  5. DEV Community24

    SlothOS:助你少做一點而不落後的開源 AI 助手

    SlothOS 是一個以開源 AI 為核心的助手項目,旨在簡化日常工作流程,減少管理任務及切換工具所需的精力。項目以開放權重模型及開源工具為方向,讓開發者可檢視、自訂和按需要調整 AI 體驗。SlothOS 設有可在瀏覽器試用的示範版,作者計劃透過實際使用和用戶回饋評估效用。