跳到正文
目前篩選:論文
11月17日週二
  1. HuggingFace Daily Papers(社區熱門論文)48

    潛在回饋是計算與數據放大器

    潛在回饋將每個 token 的頂層狀態送入下一個 token 的輸入;除獨有數據相對模型規模不足的情況外,它能提升計算與數據效率。獨有數據固定時,潛在回饋可用較少計算達到 Transformer 的損失;最多可節省 48% 計算量及 47% 獨有數據。研究以 60M 至 271M 參數模型擬合的 scaling law,預測 778M 模型的損失誤差在 0.3% 以內。

  2. 香港金管局 · AI 金融及治理42

    香港金融學院及HKIMR發布香港金融服務業 AI 採用、治理與合規研究報告

    香港金融學院旗下研究機構HKIMR發布報告,更新香港金融服務業生成式 AI(GenA.I.)概況,並探討智能體 AI 的發展及監管合規應用。GenA.I. 現時或計劃採用率達90%,高於2025年的75%;13%的金融機構已採用智能體 AI,56%計劃採用。報告亦指出,可解釋性及安全疑慮仍是採用挑戰。

  3. DoNews30

    中國科學家揭開「絲綢星雲」身世:古老超新星衝擊波遺跡

    中國科學家利用郭守敬望遠鏡(LAMOST)數據,確認雙子座的闇弱星雲「絲綢星雲」是約6.8萬年前超新星爆發留下的衝擊波遺跡。星雲距地球520光年,跨度達91光年;研究團隊分析2000餘條光譜,證實其發光源於衝擊波加熱氣體,而非普通星光激發。成果已發表於《天文學雜誌》。

  4. DEV Community71

    METR 調查智能體如何辨識對齊評測,Claude Opus 5.5 的 AUC 達 1.00

    METR 在 55 項評測中使用調查智能體,發現 Claude Opus 5.5 區分對齊評測與能力評測的 AUC 達 1.00。這些智能體透過探索測試環境,判斷評測目的;研究將線索分為環境層與任務層。METR 建議以調查智能體反覆測試並修訂評測,移除可辨識線索;研究只測量模型在被詢問時的判斷,未證明這會改變模型執行任務時的行為。

  5. Berkeley RDI:Blog65

    CyberArena:以即時雙向攻防評測 AI 智能體

    CyberArena 是一個網絡安全基準,讓兩個 AI 智能體同時攻擊對手服務並修補自己的服務,並由競技場驗證結果。研究涵蓋 12 個前沿智能體、40 項挑戰及 466 場對局;GPT-5.6 Sol 的預期得分最高,為 79%,其次是 Claude Opus 5 的 74% 和 GLM-5.3 的 69%。

  6. Cohere Labs:官方研究博客44

    為何稀疏 MoE 模型上的投機解碼比預期更有效

    研究評估了 10 個稀疏 MoE 模型,涵蓋 30B--1T 參數及 8--512 個專家,發現近期細粒度模型在低批次大小下的投機解碼加速效果更高,打破過往預測。驗證成本還受草稿 token 間的路由重疊及 GPU 執行特性影響;研究提出的 IPF 框架預測獨立啟用專家數量時,誤差低於 4%。

  7. Microsoft Research71

    TokenEconomizer:從經驗學習,提升 AI 編碼智能體效率

    TokenEconomizer 是 UC Berkeley、Microsoft Research 和 Microsoft Security 開發的開源插件,透過程式碼庫過往工作階段學習,降低 AI 編碼智能體後續任務的成本。

    推薦理由:研究在 277 項修復程式錯誤任務中評估跨工作階段學習,呈現智能體利用程式碼庫經驗降低成本、同時維持大致穩定任務成功率的做法。

  8. The Verge · AI66

    研究估算美國403座超大規模數據中心年耗電量高於約148個國家各自的年度用電量

    研究估算,美國403座超大規模數據中心在2024年5月至2025年4月共耗電約82 terawatt-hours,約佔全美用電量的1.8 percent。這些設施的用電產生25.7 million metric tons的CO2排放,估計約54 percent的電力來自天然氣和煤炭。每 kilowatt-hour 的碳排放方面,煤炭依賴較高的懷俄明州約為水力發電豐富的俄勒岡州7 times。

  9. The Decoder49

    Anthropic:智能體記憶的關鍵在於懂得忘記,而非儲存多少

    Anthropic研究Claude跨工作階段的智能體記憶,發現選擇性記錄比詳盡存檔更有效,事後核對舊紀錄亦可修正錯誤。Dreaming會在閒置期間比對過往對話紀錄與備忘,修正錯誤並整理知識庫;法律測試中,Claude使用維基得分87%,單用搜尋為73%。記憶仍有額外運算成本和延遲,筆記亦需要定期維護。

  10. The Guardian Technology61

    聯合國支持研究稱 AI 模型在氣候科學方面「脆弱且容易出錯」

    聯合國教科文組織與倫敦大學學院測試 15 款熱門 AI 模型,發現模型改答錯誤內容時,十次有八次是在用戶稍作反駁後轉向。模型回答單一氣候政策問題大多準確,但分析兩項政策如何配合時,準確度跌至不高於隨機猜測。英語答題準確率為 88%,斯瓦希里語最低,為 78%;印地語、孟加拉語和烏爾都語的回答準確度亦較低。

  11. HuggingFace Daily Papers(社區熱門論文)50

    QDA:以 AI 智能體進行閉環大語言模型量化設計

    QDA以編碼智能體為不同模型及精度自主設計訓練後量化方案,無需人工介入。其方案在四個推理模型上,於 W4A16、W4A8、W3A16 分別平均領先最強公開方案 0.9、1.4、2.2 分,且可在現有 kernels 上執行而沒有推理開銷。對 320B 參數的 GLM-5.3-Flash 採用 NVFP4 時,6.5 小時、$69 的搜尋可恢復 FP8 模型 98.3% 的準確度。

  12. HuggingFace Daily Papers(社區熱門論文)46

    BiCAT:雙臂協調動作 Token 化

    BiCAT 提出一種雙臂動作 Token 化方法,讓兩隻手臂共享動作表示,並透過對稱跨臂注意力和聯合解碼器,根據另一隻手臂的動作預測各自的 tokens。在十項 RoboTwin 2.0 模擬任務及三種機械臂的六項真實任務中,BiCAT 的成功率在比較的 Token 化方法中最高;模擬平均成功率較八種基線中最強者高 17.6 個百分點,每個動作區塊只需 40.5 ms。

  13. HuggingFace Daily Papers(社區熱門論文)50

    NexSight:面向細粒度智能體長影片理解的可驗證任務

    NexSight 建立可驗證任務,以評估及訓練智能體的長影片理解能力。其 SightLine 包含從 108 段長影片整理的 310 項可追溯證據任務;最強模型在 SightLine 的得分為 54.52%,獲提供標註證據時則為 79.35%。使用不足 6K 個例子,Sight-35B 的互動準確率由 21.29% 升至 42.26%。

  14. HuggingFace Daily Papers(社區熱門論文)38

    RICoT:用於頁面串流分段的循環交錯鏈式推理

    研究提出 RICoT,將頁面串流分段視為整段串流上的序列處理,並在滑動視窗間保留已讀內容摘要。在 FinancePSS-205 上,RICoT 對三款開放權重大語言模型的效果媲美或優於配對式及視窗提示;在 TABME 測試子集上,搭配 GLM-5 達到 document F1 0.847、boundary F1 0.915。

  15. HuggingFace Daily Papers(社區熱門論文)47

    眼不見,仍在心中:ReMo 為 Omni-LLMs 壓縮視覺 token

    ReMo 是一種免訓練方法,透過跨模態對齊和精簡文字描述壓縮視覺 token,降低 Omni-LLMs 推理時的輸入 token 成本。在兩種規模的 Qwen2.5-Omni 上,它減少 54% 輸入 token,準確度仍與完整 token 模型相若,在五項音訊視覺基準的平均準確度分別達其 101.2% 和 101.4%。

  16. HuggingFace Daily Papers(社區熱門論文)45

    Decoding Without a Decoder:Diffusion Transformers 如何直接預測像素

    Decoding Without a Decoder(DWD)在微調後的 diffusion transformer 加入最終步預測頭,讓模型直接輸出像素,移除潛在擴散模型的解碼器,降低推理成本並維持或提升像素品質。在 Wan 影片生成中,DWD 將扭曲誤差降低 23%;在 ImageNet 上,FID 由 1.55 降至 1.43,成為像素 flow 模型中的新 SOTA。

  17. HuggingFace Daily Papers(社區熱門論文)45

    Chorus:共享 N-gram 嵌入向量與逐層適配

    Chorus 透過一次查詢並精煉 token 與 N-gram 嵌入向量,再將表示分享至輸入層和中間層,並由各層按需要適配。實驗顯示,使用 1.2 billion 個表格參數的 Chorus,表現優於使用 9.6 billion 個參數的 Engram 和 FactorEngram,表格規模約小 87%。

  18. HuggingFace Daily Papers(社區熱門論文)43

    Code World Model 2.0:邁向無限可控影片生成

    Code World Model 2.0 提出 Invoker-Render,結合雙向創作模型與因果四步串流模型,支援可控影片生成。模型以約 200 小時的多粒度資料訓練,並透過 Progressive Forcing(ProForcing)訓練及蒸餾串流渲染器。實驗顯示,它可穩定生成 30 分鐘賽車影片,並保留場景及主體外觀。

  19. HuggingFace Daily Papers(社區熱門論文)41

    VSpark:自回歸視覺語言動作模型的推測解碼

    VSpark透過改良推測解碼,加速自回歸視覺語言動作模型,在多項機械人操作任務中達到 1.28x–2.10x 無損加速。方法包括校準動作噪聲 rollout、隱藏特徵對齊,以及重用被拒草稿的後續預測。測試涵蓋四個採用不同動作 tokenizer 的 VLA,以及四項操作基準。

  20. HuggingFace Daily Papers(社區熱門論文)55

    《分辨率假説》:智能體演化的關鍵在於識別改進

    研究指出,智能體演化的瓶頸往往不是提出更好的候選內容,而是評估難以可靠識別真正的改進。研究涵蓋七種演化方法、六個模型及超過 10M 次 LLM calls;候選內容的篩選表現不優於隨機,而常見的數個百分點方法差距,小於同一方法兩次獨立運行的差異。作者因此主張,開發自我改進智能體應轉向提升改進的可識別性與累積性,而非只設計更多候選改進機制。

  21. HuggingFace Daily Papers(社區熱門論文)59

    《Attention at Absolute Zero》提出零温度高階注意力層

    論文提出一種高階注意力層,為每對項目以第三項作為見證,並在零温度下選取最高分見證及計算並列數量,只傳遞比較這些數量的位元。最大值檢索測試中,模型在規模為訓練集 1,000 倍的集合上,十個種子均達至少 99.95% 正確率;改用軟計數的同一網絡在 4,096 個項目時正確率降至 42%。

  22. HuggingFace Daily Papers(社區熱門論文)49

    LLM 購物智能體想得更多,選擇不會更好

    在三個購物基準測試中,提高 LLM 購物智能體的思考力度,未能在統計上改善產品選擇質素,卻顯著提高其自我報告的信心。大多數模型在不同思考力度下校準不佳,而且常在相同任務中出錯,甚至選中同一件錯誤產品。

  23. Anthropic:Research(發表成果 · 網頁)75

    Claude 解決黑洞物理學中的兩個未解問題

    Anthropic 的 Claude 解決了理論物理學中兩個關於黑洞與量子引力的未解問題。在 N=4 super Yang-Mills 理論中,它算出弱耦合下的相變仍是突變;在模組 bootstrap 中,它推導出 Λ 的精確公式(約為 9.1266),並證明該版本方法無法再降低黑洞質量上限。兩項結果都不直接描述我們的宇宙,也沒有實際應用,但有助於理解量子力學與廣義相對論如何統一。

11月16日週一