跳到正文
11月16日週一
  1. HuggingFace Daily Papers(社區熱門論文)41

    CONGA:編譯高斯纖維幾何以進行結構化貝葉斯推理

    研究團隊提出 CONGA,透過辨識條件高斯區塊並按其結構和計算成本選擇實作,為後驗推理構建傳輸映射。在 Stock-Watson 通脹模型上,CONGA 將 NUTS 的每秒最低有效樣本量(ESS)提升 12.5x。它亦在原始目標無法收斂的情況下恢復收斂,包括同一模型上的 WALNUTS,以及將 6760 維電力負載模型縮減至 34 個核心座標後使用 NUTS。

  2. HuggingFace Daily Papers(社區熱門論文)41

    DNeo:並行草稿模型需要更佳的目標特徵編碼

    DNeo 改良並行草稿模型的目標特徵編碼,以提升大型語言模型推理速度。其架構結合 Mixture-of-Features Attention(MoFA)、拒絕記憶、2-tap 因果卷積、僅前綴交叉注意力及非均勻目標層選擇。相較 SoTA(DFlash-2),DNeo 的生成速度快 1.3x,且不影響草稿模型規模或生成質素。

  3. HuggingFace Daily Papers(社區熱門論文)75

    研究顯示語言模型可改寫自身權重

    研究發現,27B 語言模型可透過自身推理,在不使用梯度或訓練的情況下改寫自身權重,並在預先固定的 490 道未見題目上提升 6.6 個百分點的準確率。模型只在自身測試支持改動時才提交修訂;首八次修訂中,其準確率持續上升。此外,模型僅憑文字數學題定位受損矩陣並以自身數值重寫,令副本在六個未見圖像基準上的準確率由 7% 升至 70%,相當於未受損模型的 83%。

  4. HuggingFace Daily Papers(社區熱門論文)41

    MedJev:實現快速醫學影像理解的單次視覺語言決策模型

    MedJev 將醫學影像、問題及候選答案直接映射為決策,無需自回歸生成,在單次多模態前向傳遞中完成判斷。基於 Qwen3.5-4B 的 MedJev-4B,在四項醫學影像分類及視覺問答基準上,準確率絕對提升 7.93%,端到端速度提升 6.04 倍;與 20 個模型比較,在 4B–9B 通用及醫學 VLM 中取得最先進的效能及推理速度。

  5. elsewhere:文章29

    【年終回顧③】用 Kimi 加速 Kimi:RSI 前夜,一位 AI Infra 從業者的 10 個 Aha Moments|對話趙晨陽

    AI Infra 從業者趙晨陽在「十字路口」年終回顧中分享 10 個觸動他的 AI 瞬間,聚焦 RSI、遞迴自我改進,以及用 Kimi 加速 Kimi。內容亦涉及模型優化模型、Kernel 優化、推理加速、NVIDIA B300、OpenRSI 和評估標準,並提及 SGLang-Omni、ASR、TTS 與 Claude。

11月15日週日
  1. DEV Community74

    十年 LLM 發展解讀:從下一個 token 預測到 Agent

    Walid Hadri 以「法國首都是甚麼?」為貫穿例子,梳理語言模型從 Shannon 的下一字母預測到現代 Agent 的演進。內容涵蓋 word2vec、RNN/LSTM、Transformer、RLHF、推理模型及 Agent,並附有多組開源模型實驗程式與輸出。實驗輸出是在 RTX 4070 Ti 上取得,硬件和精度不同時結果可能略有差異。

  2. 新浪科技44

    開源盤古模型 openPangu-2.1-Pro 上線華為雲,升級 Agent 開發、AI 編碼及推理優化能力

    華為雲 MaaS 模型即服務平台正式上線開源盤古模型 openPangu-2.1-Pro,模型針對 Agent 開發、AI 編碼及推理優化三大方向升級。模型在深度研究、鴻蒙系統操控、鴻蒙 App 開發、昇騰算子生成及推理鏈路優化等場景有所增強,並將接入智果 AgentArts、碼道 CodeArts 及果辦 OfficeAce。

  3. IT之家47

    開源盤古模型 openPangu-2.1-Pro 上線華為雲,升級智能體開發、AI 編碼及推理優化能力

    華為雲 MaaS 平台正式上線開源盤古模型 openPangu-2.1-Pro,聚焦智能體開發、AI 編碼和推理優化三大方向升級能力。模型以 10 萬餘條專項數據優化 Skills 觸發、工具選擇與調用,並加強深度研究、鴻蒙系統操控及昇騰算子生成等場景。平台提供模型 API,推理輸入價格為每百萬 tokens 0.8 元,推理輸出為 3.2 元。

  4. 虎嗅68

    Cerebras 2026年第三季度業績與指引勝預期,數據中心建設成瓶頸

    Cerebras公佈2026年第三季度業績,Core收入按年增長70%至2.31億美元,並預期第四季度Core收入為3.10-3.30億美元。雲服務收入增長受數據中心產能建設進度限制,OpenAI相關容量交付已落後合約進度;公司稱芯片和整機供應沒有問題。第四季度Core毛利率指引為47%-49%,管理層預期毛利率向60%的長期目標推進。

  5. DEV Community35

    Graph Deep Learning 第 5 章:圖生成與推理

    Graph Deep Learning 第 5 章探討圖生成與推理,涵蓋生成、補全圖結構,以及利用圖中的關係進行推理。文中介紹 GraphVAE、生成對抗方法和圖擴散模型,並説明知識圖譜推理如何結合邏輯、路徑與神經方法。知識圖譜亦可透過實體和關係組織檢索證據,支援檢索增強生成。

  6. HuggingFace Daily Papers(社區熱門論文)46

    多分支 Transformer

    Multi-Branch Transformer(MBT)透過並行分支處理 Transformer 區塊,並結合共享 KV cache,提升語言模型品質及推理效率。實驗顯示,標準 Transformer 需要多用最多 1.26x 訓練計算量,才能達到最終模型的驗證損失;模型最多減少 34% KV cache 儲存,並在單張 H200 GPU 上提升最多 51.4% 解碼吞吐量。

  7. HuggingFace Daily Papers(社區熱門論文)40

    RAPO:長鏈多模態推理中的傳播感知視覺保留反思錨點

    RAPO 透過識別高熵推理位置作為稀疏反思錨點,並以 chain-masked KL 目標訓練策略在後續推理中保留視覺影響。在 Qwen3-VL-2B-Instruct 上,RAPO 將六項基準的平均 mean@8 accuracy 從 GRPO 的 40.79 提升至 43.01。標準推理時無須額外重新注入視覺資訊或選擇錨點。

11月14日週六
  1. DEV Community66

    大語言模型的 temperature=0 貪婪解碼仍會分歧:模擬中 5,000 個向量有 17 個首選 token 翻轉

    temperature=0 的大語言模型輸出仍可能不一致,因 GPU 浮點運算的求和次序會隨批次形狀改變,令接近的最高 logits 對應 token 翻轉。作者的玩具 float16 模擬中,5,000 個向量有 17 個(0.34%)的 argmax 翻轉;按每步獨立估算,500-token 輸出至少分歧一次的機率約 82%,但這只是示意,並非生產模型測量。

  2. DEV Community41

    廉價模型並非愚笨,而是缺少世界模型

    Mocu 開發者認為,廉價模型在智能體任務上的弱點可能不在知識不足,而在於缺少預測行動後果的世界模型。論文提出的 WorldEvolver 透過情節記憶、語義記憶和選擇性預見,在不改動模型權重的情況下改善預測及下游任務表現。開發者計劃為 Mocu 採用類似機制,讓世界模型以文字累積經驗,並以信心度篩除低信心預測。

  3. DEV Community60

    AI 基礎設施工程師平台系統設計面試問題與答案指南

    DevOpsInterview.Cloud 提供 AI 基礎設施工程師面試指南,按平台系統設計流程整理從需求分析到模型回滾的問題與答案。指南涵蓋 GPU 容量估算、訓練與推理資源分池、以請求佇列及 KV cache 指標進行推理擴縮容,以及冷啟動和每次請求成本。內容亦説明 GPU 上的模型發布與回滾,並提供 KEDA、Prometheus、vLLM 等相關配置和指標示例。

  4. 新浪科技57

    算力上天、火箭成列、衞星出海,北京商業航天邁上新台階

    北京商業航天在太空算力、火箭運力和衞星應用等環節取得進展,產業發展正由單點突破轉向協同推進。「辰光一號」在軌穩定運行超三個月,供電、算力和散熱通過第三方在軌評測,並驗證多個大模型訓練及推理任務。銀河航天低軌寬帶通信試驗星座在印尼完成應用演示,星河動力一年內成功入列穀神星二號和智神星一號兩款新型號火箭。

  5. 雷鋒網59

    百度詞元所發布首日新增供應商逾100家、客戶逾1000家

    百度詞元所發布首日新增申請入駐的供應商超過100家,並新增超過1000家客戶接入。平台於11月12日在百度世界2026正式發布,連接模型供應方與企業及個人用戶,並透過模型核驗、上線後監測及供應商信用評級建立信任機制。試運行期間,平台已有超過100個供應資源,日均調用次數突破5000萬次,目前上架40餘款模型。

  6. 虎嗅61

    如果黃仁勳再創業,NVIDIA或將面對新競爭對手

    文章推演,若黃仁勳再創業,憑藉其技術判斷、人才號召力及供應鏈關係,新公司可能成為 NVIDIA 的競爭對手。文章以阿莫迪創辦 Anthropic 為例,指出按兩家公司各自披露口徑,Anthropic 今年第二季度營收超過110億美元,OpenAI為67億美元,首次超過老東家。文中提出,新公司可從推理服務、機械人計算系統或收購已有技術的公司切入,並藉助供應鏈關係推進生產與交付。