跳到正文
10月27日週二
  1. DEV Community36

    PHANTOM Terminal:仍有東西在運行 👻

    開發者打造 PHANTOM Terminal,讓用戶在本機體驗以 AI 生成怪談的終端介面。它設有終端怪談、鬼故事和記憶檔案三種模式,預設使用 Qwen2.5 3B,透過 Ollama 在本機推理。應用程式不會自動讀取 Shell 歷史或執行指令;Ollama 無法使用時,亦可透過離線範本瀏覽介面。

  2. 新浪科技34

    從開源驅動到完整軟件棧:Imagination 助力 RISC-V 圖形生態發展

    Imagination 在 RISC-V 中國峯會分享 GPU 開源驅動及軟件棧進展,持續推進 GPU 驅動、編譯器和 RISC-V 平台適配。PowerVR DRM 驅動已進入 Linux 內核上游,Mesa 用戶態 Vulkan 驅動已開源;BXM-4-64 已實現 Vulkan 1.2 開源支持並完成相關一致性測試。來自 E 系列的神經計算核心性能最高可達 200 TOPS,具體取決於配置。

  3. DEV Community61

    Wayback Séance 讓已停運網站開口,並為回答附上存檔引用

    作者開發 Wayback Séance,讓用戶根據 Internet Archive 的網站快照,與已停運網站對話。工具以本機開源權重模型生成回答,為每項陳述附上日期和存檔引用;找不到依據時,則回覆不記得。項目透過 Ollama 執行 Gemma 4 E2B,並以 nomic-embed-text 檢索段落,再由程式檢查引用是否有效。

  4. DEV Community39

    Ofrenda:離線優先的記憶保存工具

    Ofrenda 是為 Hacktoberfest Open-Source AI Challenge 打造的私隱優先、離線優先記憶保存工具,可把摯愛者的故事、喜好和重要日期整理成紀念卡及數碼亡靈節祭壇。它在瀏覽器本機儲存記憶,無須帳戶或資料庫,並以可替換的本機模型介接器連接 WebLLM、llama.cpp 等模型或本機推理伺服器。

  5. DEV Community14

    Ghost in the Machine:開源 AI 恐怖故事生成器

    Ghost in the Machine 是一款以開源 AI 驅動的恐怖故事生成器,用戶可輸入提示詞、選擇背景設定,由模型生成帶有陰森氛圍的故事。項目採用開放權重語言模型。文章指出,這類模型可讓開發者更靈活地更換或自訂模型,並選擇在本機進行推理,減少對單一專有 AI 服務的依賴。

  6. DEV Community44

    Ecos:記憶即使不完整,仍值得保存

    Ecos 是一款以 Transformers.js 3.8.1 和開源多語言 MiniLM 建構的瀏覽器文字記憶檔案庫,可按語意搜尋,同時保留原文段落及有爭議或未明的日期。搜尋在瀏覽器內執行,故事文字不會傳送至推理服務;Ecos 不會替記憶者裁定不同説法何者正確。作者以 12 條英語及葡萄牙語查詢測試模型,10 條的預期記憶排在首位;這是小型自製實驗,並非通用準確度評測。

  7. 阿里雲開發者社區 AI20

    阿里 Qwen3.8 全系列開源,支援多端部署

    阿里通義實驗室宣佈 Qwen3.8 全系列開源,涵蓋 1.5B 至 72B,並公開權重、訓練資料及評估報告。文章稱,模型在 HumanEval 和 MBPP 的程式碼生成準確率達 90%+,原生支援 128K 上下文窗口。Qwen3.8 支援手機至伺服器部署及 HuggingFace Transformers、vLLM、Ollama,私有化部署成本降低近 80%。

  8. DEV Community36

    Dead Deal Seance:以本地 Gemma 重算失敗房地產交易並撰寫悼詞

    作者製作本地命令列工具 Dead Deal Seance,重算投資者放棄或失去的房地產交易,並由本地 Gemma 為每宗交易撰寫「鬼魂」悼詞。Python 負責計算及排序,模型不會左右評級;以 gemma3:4b 處理 11 宗虛構交易的示範中,結果為 6 宗值得再看、1 宗利潤空間偏薄、4 宗不予考慮,整次執行在 CPU 上約需 213 秒。

  9. DEV Community36

    Agent Skills 成為新基礎設施:本月最熱門的 5 個 GitHub 儲存庫

    本月 GitHub 熱門 Agent Skills 榜單聚焦 5 個開源儲存庫,涵蓋工程規範、安全審計、SEO 診斷、技能索引及 AI 搜尋優化。mattpocock/skills 有 38 個 SKILL.md 檔案;seo-audit-skill 的 --format llm 可將全站診斷壓縮 50%–70%。榜單反映 Skills 正轉向工程規範、安全檢查及面向 LLM 的精簡輸出。

  10. 新浪科技51

    菲爾茲獎得主鄧煜批評 AI 公司以防蒸餾為由拒絕公開思維鏈

    菲爾茲獎得主鄧煜批評 AI 公司以防蒸餾為由拒絕公開思維鏈,認為公司不應一面蒸餾全人類知識、一面阻止外界瞭解其思維鏈。他提議開源數學模型,讓數學界掌握自己的模型,並按學術規範處理數據使用、思維鏈公開及可追溯性。另有 25 位菲爾茲獎得主作為最初簽署人,於當地時間 9 月 11 日聯合發表聲明,警告 AI 公司與數學共同體出現嚴重錯位,並指出倉促發布的 AI 解答帶來署名及抄襲問題。

  11. DoNews38

    鄧煜呼籲開源數學 AI 模型並公佈思維鏈

    10月26日,菲爾茲獎得主鄧煜呼籲開源數學專用 AI 模型,並主張 AI 在數學研究中應作為工具而非主體。鄧煜批評部分 AI 公司以「防蒸餾」為由拒絕公開 AI 證明的思維鏈,認為此舉違背學術規範。他提議由數學界自主掌控模型,並落實數據使用、思維鏈披露及可追溯性等準則。

  12. DEV Community64

    低成本推理時擴展:如何以自一致性和驗證器提升小型本地大語言模型的推理能力

    作者在 RTX 3090 上以 8B 本地模型實作推理時擴展,透過多次抽樣配合自一致性投票或外部驗證,提升可驗證任務的答案準確度,毋須重新訓練模型。使用 llama.cpp 的 8 個並行 slot 時,生成 500 個 token 的 8 個並行請求約需 8-9 秒,單一請求約需 5 秒。文章亦提供答案正規化、以一致率作信心值和程式碼沙盒的做法,並説明開放式任務及較弱模型不適合直接採用。

  13. DEV Community24

    科技業如何讓硅谷奪走未來,以及開發者如何奪回它

    科技業由開放協作轉向封閉平台與企業集中控制,開發者也在逐步妥協中失去對創新方向的影響力。文章指出,當 AI 主要被用作削減成本、製造合成內容和集中權力的工具,技術進步便未必能回應社會需要。開發者可透過支持真正的開源、採用互通協議和本地優先軟件,抵抗封閉生態。

  14. DEV Community32

    GhostShell:由本地 AI 驅動的鬧鬼終端機

    開發者建立 GhostShell,一款以本地 AI 運行的終端機助理,可解釋終端機指令及生成以軟件開發為題材的驚悚故事。它使用 Ollama 提供本地模型服務,並以 Llama 3.2 生成回應,後端採用 Python 和 Flask。提示詞可在用戶的電腦上處理,但效能取決於硬件,較大型模型亦需要更多記憶體和運算能力。

  15. DEV Community35

    EchoVault:我打造開源 AI,讓珍貴回憶得以保存

    EchoVault 是一個開源 AI 記憶檔案庫,讓用戶保存、整理及搜尋個人故事,並透過語音轉錄和摘要協助重温回憶。系統以本機運行的 OpenAI Whisper 轉錄支援的錄音,再由開放權重 Gemma 提取摘要及資料;本機架構可減少向外部 AI 服務傳送資料的需要,但不保證應用程式完全離線。

  16. DEV Community38

    seance:與已停用的程式語言進行降神會

    seance 是一款 Python CLI,可讓用戶向 COBOL、FORTRAN、BASIC 或 ALGOL 提問,並以各語言的風格獲得回答。它透過 Ollama 在本機使用 Gemma;無需帳戶或 API 金鑰,問題不會離開用戶的裝置。模型無法連線時,程式會以確定性離線備用模式回覆,並標示回覆來源。