跳到正文
10月21日週三
  1. DEV Community26

    Neuro-Symbolic AI 為何是建立可信賴智能的關鍵

    Neuro-Symbolic AI 將深度學習的感知能力與符號邏輯結合,旨在改善黑箱模型的可解釋性、安全性及確定性推理。神經網絡處理非結構化資料並提取概念,再由符號引擎套用規則、限制和因果推理。文章列出自動駕駛、精準醫療及金融風險與詐騙偵測等應用。

  2. DEV Community66

    如何排序提示詞以加快混合專家模型批次工作

    排序相近提示詞可減少離線混合專家(MoE)批次工作每個解碼步驟讀取的專家權重;Hugging Face 在不更改 vLLM 的測試中測得吞吐量提升 5% 至 17%。沒有主題標籤時,可用小型嵌入模型和 k-means 分羣;無標籤聊天數據的 Qwen 測試仍提升約 5% 吞吐量。線上服務的排隊延遲可能抵銷收益,密集模型則不會因排序而受益。

  3. 比特網 AI47

    不止提速,還能兼容預訓練模型:談 MiTA 高效注意力

    北京郵電大學研究團隊提出 MiTA 高效注意力,融合壓縮與路由,並以快速權重視角統一分析多種高效注意力方案。無需重新預訓練、直接替換注意力,語義分割的算力最高可降低 42%,長序列基準的總訓練時間減少 77%。標準注意力訓練的現成模型可在推理階段改用 MiTA,精度損失約一個百分點;目前實驗尚未涵蓋大語言模型的自回歸解碼。

  4. DEV Community39

    LLM 上下文如何運作:訊息、推理與工具呼叫

    LLM 上下文由指令、訊息、工具互動及推理狀態等項目組成,模型讀取這些內容並生成回答或工具呼叫。上下文窗口限制生成時可處理的 tokens 數量,輸入與輸出均計算在內;超出限制時,系統可能截短上下文或拒絕請求。工具呼叫透過函數名稱、參數及呼叫 ID 連接工具輸出,讓模型繼續推理或作答。

  5. HuggingFace Daily Papers(社區熱門論文)41

    DecisionPivot:評估 LLM 系統決策模型的診斷基準測試

    DecisionPivot 是一項診斷基準測試,用於評估 LLM 系統中的決策模型在受控變化下的表現。測試涵蓋 48 項任務、40,033 個項目及七種決策角色,並評估準確率、校準和推理投入等指標。兩個 27B 模型在參考軌道僅差 2.6 分,對比組準確率卻分別為 70.1% 和 44.2%。

  6. HuggingFace Daily Papers(社區熱門論文)43

    S-Agent 2.0:通用編碼智能體的空間推理

    S-Agent 2.0 為通用編碼智能體整合持久場景記憶、自然語言解讀及 3D 感知工具,以提升空間推理能力。在 MMSI-Bench 和 ReVSI 上,搭配 Qwen3.8-27B 分別取得 66.5 和 82.3 分,搭配 Gemini-3.8-Flash 則取得 74.1 和 90.5 分。它亦可配合 Codex 和 Claude Code 等不同通用編碼智能體框架使用。

  7. HuggingFace Daily Papers(社區熱門論文)44

    PAR:以進度對齊循環提升狀態追蹤的長度泛化能力

    PAR 改進循環語言模型的長度外推能力,在每次循環預測相應步驟後的狀態,並重新縮放隱藏狀態。在 swap-S5 任務中,0.5B 模型以最多 32 步的序列訓練,在 512 步達到 95.5% 完整狀態準確率;同一設定下,RLT 為 55.7%,CoT 為 0.8%。PAR 亦可只用最終答案監督訓練,毋須中間狀態標註。

  8. HuggingFace Daily Papers(社區熱門論文)46

    Lafa:大型流語言模型

    Lafa 是一款大型連續流語言模型,透過區塊式流設計、自我投機解碼及多 token 預測,實現高效訓練、高品質生成與更快推理。模型以少於 30B tokens 訓練,涵蓋 0.5B、7B 和 8B 規模;在品質相若的情況下,自我投機解碼的吞吐量達自回歸模型的 2.54x。

  9. HuggingFace Daily Papers(社區熱門論文)28

    Sage-A1.5:從長期任務執行到科學探索的能力組合

    Sage-A1.5 是一款 35B MoE 智能體模型,透過自適應能力組合提升長期任務的問題解決能力。相較 A1,它能組織工作並在執行期間調整方法,並著重智能體協作、驗證及開放式科學探索。模型透過任務委派、進度檢查、證據驗證和策略修訂,支援協作且可檢視的科學研究。

  10. 創業邦60

    AI 別再過分欺負數學家

    文章指出,AI 不會取代數學家,但以大量快速解題為導向的做法,可能損害數學研究的理解、驗證與傳承。文章以 OpenAI 公開的 722 篇模型生成數學手稿為例,稱其中約 42% 完成 Lean 形式化驗證,多篇被發現有缺陷,官方撤回 3 篇、修訂 14 篇。作者主張改革評價體系,重視成果的清晰闡釋、驗證與知識整合,並強制標註 AI 使用情況。

  11. IT之家54

    TrendForce 預估 2026Q4 DRAM 合約價按季上漲約 20%

    TrendForce 預估,2026 年第四季度 DRAM 合約價按季上漲約 20%,低於第二季度約 80% 及第三季度約 40% 的升幅。AI 推理需求帶動伺服器 DRAM 和企業級 SSD 的容量與頻寬需求,記憶體廠商優先把產能投向 HBM 等高端產品,令傳統 DRAM 供應更緊張;高基數、終端市場購買力轉弱及長期採購協議的價格上限則限制升幅。

  12. Latent Space55

    Evan Conrad談SF Compute的可編程數據中心與GPU算力交易市場

    SF Compute行政總裁Evan Conrad在訪問中介紹,公司正建立雲端所需的營運能力,以交付市場交易的GPU算力,並將數據中心基建虛擬化、變得可編程。其實物交割把GPU世代、網絡配置及工作負載能否中斷等條件納入訂單匹配;Conrad稱,總容量約5%已放上訂單簿,公司亦已完成數億美元的交易量。客戶現可即時細分 InfiniBand fabric,無須要求 SF Compute 代為處理。

  13. HuggingFace Daily Papers(社區熱門論文)47

    LLM2Cert:以 LLM 合成證書,並透過 SMT/Lean 驗證

    LLM2Cert 是一個以 LLM 驅動的框架,可合成穩定性與安全性證書,並透過 SMT 求解器或 Lean Proof-Repair agent 驗證。研究提出包含 105 個實例的 DynaCertBench,LLM2Cert 成功驗證 81 個,比例為 77.1%,較不帶回饋的一次性提案提高 17.1 個百分點。

  14. HuggingFace Daily Papers(社區熱門論文)38

    用於檢索增強大語言模型搜尋狀態感知的自我評估強化學習

    Self-Assessment Reinforcement Learning(SARL)讓模型在訓練期間識別搜尋狀態、改善搜尋行為,無須在推理時額外評估。雙重獎勵設計鼓勵有效而高效的搜尋軌跡,SARL 較最強基線相對提升 24.3%,在多跳推理及深度研究基準上平均分別提升 35.9% 和 27.9%。作為獨立強化學習框架,SARL 在延長搜尋過程中仍能保持訓練穩定。

  15. Nathan Lambert:Interconnects52

    最新開放 AI 成果(第 25 期):DeepSeek-V4.1-Flash-1017、美國本土模型與中美新監管措施

    Interconnects 第 25 期開放 AI 成果綜述聚焦中美監管動向、DeepSeek-V4.1-Flash-1017,以及多款開放模型與工具更新。中國商務部提出政策草案,要求前沿 AI 模型及部分技術在國際共享前獲政府預先批准,並稱開源技術將設自動審批;美國 DHS 則限制 DeepSeek 公司及其模型平台成為聯邦民事採購供應商。