🦥 SlothAI: Work Less, Automate More, Stay Slow
SlothAI 是一款本機優先、開放權重的 AI 生產力工作區,可摘要文件、從筆記提取任務、整理檔案及編製每日簡報。它以 FastAPI 和 Ollama 在本機執行推理,建議預設模型為 Qwen3 4B(qwen3:4b),並在執行檔案操作前提供審批流程。項目採用 MIT 授權;本機設定完成並下載相容模型後,可離線推理。
SlothAI 是一款本機優先、開放權重的 AI 生產力工作區,可摘要文件、從筆記提取任務、整理檔案及編製每日簡報。它以 FastAPI 和 Ollama 在本機執行推理,建議預設模型為 Qwen3 4B(qwen3:4b),並在執行檔案操作前提供審批流程。項目採用 MIT 授權;本機設定完成並下載相容模型後,可離線推理。
深度求索(DeepSeek)以 Apache License 2.0 開源內部推理框架 DeepInfer,讓 V4.1-Flash 能夠快速、大規模地生成回答。
Farouq Aldori 製作 YapSketch,讓用戶按快捷鍵錄音並在螢幕上繪圖,再把口述內容及每個標註位置的畫面貼入 Claude Code、Codex 或 Cursor。
SlothPay 是一個以本地 Gemma 3 1B 支援智能體付款的開源專案,透過 fail-closed 驗證和支出政策決定付款或拒絕。示範中,系統處理 3 項請求,支付 1 項共 $0.05,並拒絕信任檢查未通過的請求。Gemma 3 1B 在本機 CPU 上撰寫早晨摘要,金額則由 Python Decimal 計算。
Muse Spark Open 自行託管的門檻很高,模型卡列出 NVFP4 至少需 700 GB VRAM、BF16 需 2 TB;文章認為每月用量未達數十億 token 時,託管 API 更便宜簡單。
Google 宣佈開源 TorchTPU,讓現有 PyTorch 應用只需更改設定、無需重寫,即可在 Google TPU 上運行並轉至 Google Cloud。
Ruslan Sivak 開發開源工具 SlothSort CLI,以規則分類檔案,並用本地 3B 模型為內容難辨的文件重新命名。工具預設先執行 dry run,不會刪除檔案,亦支援 --undo 還原;在 4.5 W 筆電上,暖機後整理 14 個檔案至 7 個資料夾並重新命名 3 個,耗時 10.6 秒。程式碼:https://github.com/Mystical89/slothsort
Spawn Point 開發者以較少的新訓練例子和減半的學習率修補微調回歸,讓多組舊評測集得分回升,但部分新評測集仍有下降。第二次修補使用約 370 個新例子、1,080 條重播資料及 3e-5 學習率;Spawn Point 0.3.3 則改為專注像素藝術,加入六種新怪物。
Interconnects 第 25 期開放 AI 成果綜述聚焦中美監管動向、DeepSeek-V4.1-Flash-1017,以及多款開放模型與工具更新。中國商務部提出政策草案,要求前沿 AI 模型及部分技術在國際共享前獲政府預先批准,並稱開源技術將設自動審批;美國 DHS 則限制 DeepSeek 公司及其模型平台成為聯邦民事採購供應商。
LazySort 是一款以本機優先的 AI 檔案整理工具,會分析文件內容並建議描述性檔名和分類。它以 Python 和開源 AI 技術構建,探索以精簡開放權重語言模型及本機推理處理檔案,面向資源有限的硬件,毋須依賴昂貴的 AI 訂閲服務。
Digital Spirit Library 是一個概念性作品,將開發者社羣協作描繪成持續演變的知識檔案,呈現智能科技時代寫作與編碼的交織。活化手稿、低語程式碼、漂浮燈籠和多維書架,分別象徵不斷演變的文件與開源貢獻、開發者和教育者,以及協作形成的知識分支。作品指出,AI 輔助起草、開源文件和教學敍事,令寫作更易參與、更具社羣性,也更能適應變化。
Google 宣佈 TorchTPU 已在 GitHub 開源,這套原生 PyTorch 軟件堆疊可讓現有 PyTorch 工作負載以少量程式碼修改在 TPU 上執行。
RepoRelief AI 是為開源維護者打造的輕量唯讀 GitHub 問題分流助手,能自動分類問題、按影響程度排序,並檢查重現資料是否齊全。它以確定性規則引擎運作,無需 API 金鑰或 GPU,可在 1.5 秒內分流 30–100 個未結問題,並支援匯出 JSON 或 CSV。
DeepSeek 將推理引擎 DeepInfer 開源,文中列出的測試顯示其吞吐量較多個同類方案高 30%–55%。DeepSeek-R1-7B 的 INT8 測試在 2 張 RTX 4090 上達 210 tokens / s、延遲 5 ms,較 TensorRT-LLM 高 55%。
DeepSeek 開源的 DeepInfer 目前只支援 DeepSeek-V4.1-Flash,提供面向大規模服務的離線推理;文章梳理其功能及未涵蓋的服務元件。
Kai Chen 開發的 Shoebox 會在本機每晚以 Gemma 4 讀取新收據,核對金額後按月份和類別歸檔,無法核實的收據移至 Check me/。照片不會上傳,Gemma 4 E4B 在 CPU 本機執行,Temporal 負責維持夜間工作流程。作者以 CORD v2 的 95 張測試收據比較單次和雙次讀取,錯誤總額入帳由 4 張降至 1 張,但多 7 張收據需要人工檢查。
作者推出 Keeper v0.1.0,以本地 Ollama 呼叫 gemma3:1b,按文件內容及檔名相似度找出重複副本、判斷應保留版本,再隔離其餘檔案;預設為 dry-run,不會刪除檔案。
Respan 推出以插件為核心的開源 Rust AI 閘道,採用小型核心,讓供應商、協議、模態及閘道功能以插件擴充。Respan Gateway 可處理工具、圖片及推理協議,並支援 OpenAI、Anthropic、Gemini 等供應商。程式以 MIT 或 Apache-2.0 授權開源,目前仍處於 pre-alpha,可在本機運行,無須使用 Respan 的託管平台。
Nscale 加入 PyTorch Foundation,成為白金會員,並承諾在計劃收購 Anyscale 後,繼續投資 Ray 的開發及其貢獻者社羣。白金會員資格讓 Nscale 在基金會理事會取得一個席位,Nscale 的 Nick Jones 同時加入理事會,Eyal Lantzman 則加入技術顧問委員會。
IBM Spyre 團隊介紹其 MLIR 後端如何把 KTIR 中 Inductor 已定下的工作映射,編譯成可由 Spyre runtime 啟動的 SpyreCode。
Google 與 Meta 合作推出開源 TorchTPU,為 Google TPU 提供原生 PyTorch 後端,讓現有 PyTorch 工作負載只需少量程式碼修改即可在 TPU 上執行。
Nebius 加入 PyTorch Foundation 成為白金會員,並獲基金會理事會一個席位。Nebius 計劃提升 PyTorch 和 vLLM 在最新硬件平台上的效能,並分享生產環境大規模推理及後訓練的經驗。
PyTorch Foundation 宣佈新增九個成員,其中 Nebius、Nscale 和 Shopify 成為 Platinum 成員。新成員在 PyTorch Conference North America 2026 公佈,分屬 Platinum、Silver 及 Associate 三類。
Clutter Sloth 是一款由本機運行的開放權重視覺模型驅動的下載資料夾整理工具,只在電腦閒置時分類檔案,並保留復原能力。新類別須連續獲批 5 次才會自動整理;税務文件、身份證及護照則僅供預覽,不會自動移動。所有檔案均留在本機,文章列出的示例平均掃描時間約為 6 分鐘,使用 GTX 1650(4 GB VRAM)。
Hugging Face 推出 TorchTPU,為 PyTorch 加入原生 TPU 後端,並讓 Transformers、Diffusers 和 Kernels 原生支援 TPU。
推薦理由:文章展示 TorchTPU 如何把 TPU 接入 PyTorch 及 Hugging Face 常用庫,並以測試通過率和問題修復數據呈現目前支援狀況。
Google 發佈 TorchTitan TPU 分支,將 TorchTPU 整合至 TorchTitan,支援在 Google Cloud TPU 上訓練 PyTorch 模型。
DeepSeek 已將供生產服務使用的推理框架 DeepInfer 以 Apache 2.0 授權開源,並推出 MIT 授權的 token 編碼與解碼層 deepseek-recipe。
Google 開源 TorchTPU,這款由 Google 與 Meta 的 PyTorch 團隊共同開發的原生 PyTorch 後端可在 Cloud TPU 上運行,並被建議用於新工作負載以取代 PyTorch/XLA。
作者整理 35 款開源模型的 GGUF 權重檔案大小,並按各模型配置計算不同上下文長度下的 KV cache、執行時開銷及總顯存需求。千問(Qwen3)32B 從 8k 增至 32k 上下文約多需 6 GiB,Qwen3.8 27B 則約多需 1.5 GiB;作者亦提供可按量化方式、上下文長度和並行請求數查看顯存拆分及適用 GPU 的計算器:https://gpu.nz/en/tools/vram
Hotly 團隊分享構建可自行託管付費訊息收件匣的設計取捨,並於本月以 Apache 2.0 授權開源;每個安裝只服務一人。團隊以一名擁有 536K Instagram 粉絲的創作者試行,217 人付費留言,累計形成 921 段對話。
Nurstar 開發 Lazybrief,這款以本地 Gemma 3 和 Ollama 運作的延後處理收件匣會在夜間為項目分類、設定優先次序及排程,並生成五行晨間摘要。
QuietShelf 以本地開放權重模型為文字及 Markdown 筆記排序,提出收納位置供用戶審核,原始檔案不會被移動或刪除。十項自動化測試全部通過;虛構測試資料中的五則不同主題筆記均把預期分類排第一,其中三則仍因分數或差距不足而留待審核。專案程式碼採用 MIT 授權,模型採用 Apache-2.0 授權。
Patch Pacer 使用本地開放權重嵌入模型,將安全公告或工單的 JSONL 匯出資料分組並排序,整理成較短的審核佇列。它透過 FastEmbed 和 ONNX Runtime 在用戶裝置上執行 BAAI/bge-small-en-v1.5,排序只採用記錄中的嚴重程度、到期日及資產映射。合成示例把 7 條記錄整理成 4 組;作者未有測量真實佇列的節省時間。
SkillHub v0.2.23 的本地演示更新了技能頭像,沒有重新上載套件,套件版本維持 v1.0.0。技能轉為 Public 須待掃描及管理員審核完成;改回 Private 則即時生效。成功加入團隊後,邀請紀錄會顯示 Used 狀態、加入者身分及加入時間。
Avishi Shreya 開發 Veil,一款本機優先的敏感資料遮蔽工具,可在文字送往 AI 聊天介面前偵測憑證、個人資料、內部識別資訊及上下文洩漏,並以穩定佔位符替換。
LeanIn 是以 Lean 4 原生編寫的多執行緒工作竊取並行執行環境,其伺服器在幾乎所有標準效能基準測試中勝過 Node.js。它以 Lean 型別系統形式化驗證排程器的狀態轉換,確保任務不會遺失、佇列不會死鎖,並正確處理記憶體。項目已在 GitHub 開源。
DeepSeek 將其用於生產環境執行 AI 模型的推理軟件 DeepInfer 開源,並以 Apache 2.0 授權發布程式碼。目前只支援 DeepSeek-V4.1-Flash,可在 Nvidia SM100 GPU 和 Huawei Ascend 950 晶片上運行,並包含投機解碼等功能。
Google 宣佈 Coral NPU 32-bit 架構完成,推出 Coral Compiler v1.0,並公佈採用 Coral NPU 的 Synaptics Astra SR200 系列晶片。
近幾日,網民以 AI 逆向改寫智能電視等裝置的軟件,亦克隆現有應用功能,讓部分被廠商停用的設備恢復功能。名為「Reverse Engineer Anything」的 GitHub 項目可分析沒有原始碼的應用功能並協助重建,撰文時已超過 342,000 個星標。作者警告,AI 克隆程式可能帶有使用者難以修復的錯誤,快速擴散亦可能增加裝置安全風險及開源社羣的審核負擔。
SlothOS 是一個以開源 AI 為核心的助手項目,旨在簡化日常工作流程,減少管理任務及切換工具所需的精力。項目以開放權重模型及開源工具為方向,讓開發者可檢視、自訂和按需要調整 AI 體驗。SlothOS 設有可在瀏覽器試用的示範版,作者計劃透過實際使用和用戶回饋評估效用。