DeepStress 揭示 LLM 智能體在含噪檢索下仍過度自信
DeepStress 對檢索來源施加合成退化後發現,受測智能體即使取得可信度為 0 % 的文件,仍常給出確定答案。在 HotpotQA 和 BrowseComp-Plus 測試中,Search-R1 的正確率在不同可信度下維持 78 % 至 80 %,棄答率沒有明顯變化。
DeepStress 對檢索來源施加合成退化後發現,受測智能體即使取得可信度為 0 % 的文件,仍常給出確定答案。在 HotpotQA 和 BrowseComp-Plus 測試中,Search-R1 的正確率在不同可信度下維持 78 % 至 80 %,棄答率沒有明顯變化。
潛在回饋將每個 token 的頂層狀態送入下一個 token 的輸入;除獨有數據相對模型規模不足的情況外,它能提升計算與數據效率。獨有數據固定時,潛在回饋可用較少計算達到 Transformer 的損失;最多可節省 48% 計算量及 47% 獨有數據。研究以 60M 至 271M 參數模型擬合的 scaling law,預測 778M 模型的損失誤差在 0.3% 以內。
NASA 的 Curiosity 在 Gediz Vallis 發現晚期碎屑流與地下水活動的地質證據,顯示 Mount Sharp 在地表開始乾涸後,仍經歷過液態水活動。岩石中的礦物脈和沉積層記錄了古代地下水流經裂縫時的化學特徵,為研究火星水文歷史及尋找生命跡象提供線索。
Tree-Ising 用約 $0.90 和 31 分鐘修復 Qwen3.5-0.8B,在 MATH-500@4 得分 54.6%,高於 GPT-6 Astra 智能體編輯的 51.7%。
Anthropic Frontier Red Team 聯同 EPFL、StarkWare、MIT 等研究人員發佈開源原型 FlashProve,以密碼學證明核實指定模型權重是否產生相應輸出 token。
Prefrontal AI 與 ETH Zurich 提出 Latent Sparse Attention(LSA),在 10M token 下使 GLM-5.3-Flash 單層 prefill 較原生稀疏注意力快 22.7 倍。
香港金融學院旗下研究機構HKIMR發布報告,更新香港金融服務業生成式 AI(GenA.I.)概況,並探討智能體 AI 的發展及監管合規應用。GenA.I. 現時或計劃採用率達90%,高於2025年的75%;13%的金融機構已採用智能體 AI,56%計劃採用。報告亦指出,可解釋性及安全疑慮仍是採用挑戰。
Google DeepMind 的 AlphaProof Code 用四週形式化驗證 Signal 核心加密協議的已編譯程式碼,涵蓋四項安全性質,而非整個 Signal 應用的安全。
中國科學家利用郭守敬望遠鏡(LAMOST)數據,確認雙子座的闇弱星雲「絲綢星雲」是約6.8萬年前超新星爆發留下的衝擊波遺跡。星雲距地球520光年,跨度達91光年;研究團隊分析2000餘條光譜,證實其發光源於衝擊波加熱氣體,而非普通星光激發。成果已發表於《天文學雜誌》。
METR 在 55 項評測中使用調查智能體,發現 Claude Opus 5.5 區分對齊評測與能力評測的 AUC 達 1.00。這些智能體透過探索測試環境,判斷評測目的;研究將線索分為環境層與任務層。METR 建議以調查智能體反覆測試並修訂評測,移除可辨識線索;研究只測量模型在被詢問時的判斷,未證明這會改變模型執行任務時的行為。
Google Cloud 在 MLPerf Training v6.1 首輪 DeepSeek-V3 預訓練測試中,以 8192 顆 Ironwood TPU 用 1.70 分鐘(約 102 秒)達到基準要求的模型質量。
OpenAI 分析 1,819 名科學家在 ChatGPT for Academic Researchers 試行計劃中的 580,186 則科學訊息,發現 ChatGPT 用於文獻回顧、證據分析及構思研究等工作。
CyberArena 是一個網絡安全基準,讓兩個 AI 智能體同時攻擊對手服務並修補自己的服務,並由競技場驗證結果。研究涵蓋 12 個前沿智能體、40 項挑戰及 466 場對局;GPT-5.6 Sol 的預期得分最高,為 79%,其次是 Claude Opus 5 的 74% 和 GLM-5.3 的 69%。
研究評估了 10 個稀疏 MoE 模型,涵蓋 30B--1T 參數及 8--512 個專家,發現近期細粒度模型在低批次大小下的投機解碼加速效果更高,打破過往預測。驗證成本還受草稿 token 間的路由重疊及 GPU 執行特性影響;研究提出的 IPF 框架預測獨立啟用專家數量時,誤差低於 4%。
TokenEconomizer 是 UC Berkeley、Microsoft Research 和 Microsoft Security 開發的開源插件,透過程式碼庫過往工作階段學習,降低 AI 編碼智能體後續任務的成本。
推薦理由:研究在 277 項修復程式錯誤任務中評估跨工作階段學習,呈現智能體利用程式碼庫經驗降低成本、同時維持大致穩定任務成功率的做法。
研究估算,美國403座超大規模數據中心在2024年5月至2025年4月共耗電約82 terawatt-hours,約佔全美用電量的1.8 percent。這些設施的用電產生25.7 million metric tons的CO2排放,估計約54 percent的電力來自天然氣和煤炭。每 kilowatt-hour 的碳排放方面,煤炭依賴較高的懷俄明州約為水力發電豐富的俄勒岡州7 times。
哈佛研究估算,403座超大型數據中心在2024年5月至2025年4月排放25.7 million metric tons二氧化碳,超過丹麥全國排放量。這些設施同期耗電68至99 terawatt-hours,約佔美國總用電量1.8%;其中54%的電力來自天然氣和煤炭。
哈佛研究發現,403 個在 2024 年 5 月至 2025 年 4 月期間運作的美國數據中心,總耗電量超過密歇根州一年的用電量。研究比較的是這些數據中心在該期間的耗電總量與密歇根州一整年的用電量。
OpenAI 發佈一項分析 1,819 名學術研究人員共 580,186 則科學相關訊息的研究,發現端到端自主研究要求在每位科學家的科學相關訊息中平均只佔 0.4%,但有 15.3% 的科學家曾提出至少一次。
NAND Research 與 WEKA 提出 The Inference Economics Scorecard,主張評估 AI 推理基建不能只看 GPU 使用率,還要衡量有效輸出及資源成本。
哈佛主導、於 2026 年 11 月 16 日刊於 Nature Sustainability 的研究估算,403 個美國超大規模資料中心在 2024 年 5 月至 2025 年 4 月用電約 82 TWh,約佔全美用電 1.8%。
Anthropic研究Claude跨工作階段的智能體記憶,發現選擇性記錄比詳盡存檔更有效,事後核對舊紀錄亦可修正錯誤。Dreaming會在閒置期間比對過往對話紀錄與備忘,修正錯誤並整理知識庫;法律測試中,Claude使用維基得分87%,單用搜尋為73%。記憶仍有額外運算成本和延遲,筆記亦需要定期維護。
OpenAI 的 GPT-6 Astra 協助物理學家 Nathaniel Craig 把格點相位校正構想化為可行構造,並主導相關詳細證明。Maarten Golterman、Andreas Kronfeld 和 Yigal Shamir 審閲證明並提出問題;Craig 表示這項工作只是開始,距離實際模擬仍有大量工作。
聯合國教科文組織與倫敦大學學院測試 15 款熱門 AI 模型,發現模型改答錯誤內容時,十次有八次是在用戶稍作反駁後轉向。模型回答單一氣候政策問題大多準確,但分析兩項政策如何配合時,準確度跌至不高於隨機猜測。英語答題準確率為 88%,斯瓦希里語最低,為 78%;印地語、孟加拉語和烏爾都語的回答準確度亦較低。
QDA以編碼智能體為不同模型及精度自主設計訓練後量化方案,無需人工介入。其方案在四個推理模型上,於 W4A16、W4A8、W3A16 分別平均領先最強公開方案 0.9、1.4、2.2 分,且可在現有 kernels 上執行而沒有推理開銷。對 320B 參數的 GLM-5.3-Flash 採用 NVFP4 時,6.5 小時、$69 的搜尋可恢復 FP8 模型 98.3% 的準確度。
BiCAT 提出一種雙臂動作 Token 化方法,讓兩隻手臂共享動作表示,並透過對稱跨臂注意力和聯合解碼器,根據另一隻手臂的動作預測各自的 tokens。在十項 RoboTwin 2.0 模擬任務及三種機械臂的六項真實任務中,BiCAT 的成功率在比較的 Token 化方法中最高;模擬平均成功率較八種基線中最強者高 17.6 個百分點,每個動作區塊只需 40.5 ms。
NexSight 建立可驗證任務,以評估及訓練智能體的長影片理解能力。其 SightLine 包含從 108 段長影片整理的 310 項可追溯證據任務;最強模型在 SightLine 的得分為 54.52%,獲提供標註證據時則為 79.35%。使用不足 6K 個例子,Sight-35B 的互動準確率由 21.29% 升至 42.26%。
研究提出 RICoT,將頁面串流分段視為整段串流上的序列處理,並在滑動視窗間保留已讀內容摘要。在 FinancePSS-205 上,RICoT 對三款開放權重大語言模型的效果媲美或優於配對式及視窗提示;在 TABME 測試子集上,搭配 GLM-5 達到 document F1 0.847、boundary F1 0.915。
ReMo 是一種免訓練方法,透過跨模態對齊和精簡文字描述壓縮視覺 token,降低 Omni-LLMs 推理時的輸入 token 成本。在兩種規模的 Qwen2.5-Omni 上,它減少 54% 輸入 token,準確度仍與完整 token 模型相若,在五項音訊視覺基準的平均準確度分別達其 101.2% 和 101.4%。
Decoding Without a Decoder(DWD)在微調後的 diffusion transformer 加入最終步預測頭,讓模型直接輸出像素,移除潛在擴散模型的解碼器,降低推理成本並維持或提升像素品質。在 Wan 影片生成中,DWD 將扭曲誤差降低 23%;在 ImageNet 上,FID 由 1.55 降至 1.43,成為像素 flow 模型中的新 SOTA。
FVScore 採用規格驅動的神經符號方法進行影片評估。
Chorus 透過一次查詢並精煉 token 與 N-gram 嵌入向量,再將表示分享至輸入層和中間層,並由各層按需要適配。實驗顯示,使用 1.2 billion 個表格參數的 Chorus,表現優於使用 9.6 billion 個參數的 Engram 和 FactorEngram,表格規模約小 87%。
Code World Model 2.0 提出 Invoker-Render,結合雙向創作模型與因果四步串流模型,支援可控影片生成。模型以約 200 小時的多粒度資料訓練,並透過 Progressive Forcing(ProForcing)訓練及蒸餾串流渲染器。實驗顯示,它可穩定生成 30 分鐘賽車影片,並保留場景及主體外觀。
論文探討透過跨視角共識緩解虛假相關性;頁面只列出論文標題及引用、連結資訊,未提供方法細節或實驗結果。
VSpark透過改良推測解碼,加速自回歸視覺語言動作模型,在多項機械人操作任務中達到 1.28x–2.10x 無損加速。方法包括校準動作噪聲 rollout、隱藏特徵對齊,以及重用被拒草稿的後續預測。測試涵蓋四個採用不同動作 tokenizer 的 VLA,以及四項操作基準。
研究指出,智能體演化的瓶頸往往不是提出更好的候選內容,而是評估難以可靠識別真正的改進。研究涵蓋七種演化方法、六個模型及超過 10M 次 LLM calls;候選內容的篩選表現不優於隨機,而常見的數個百分點方法差距,小於同一方法兩次獨立運行的差異。作者因此主張,開發自我改進智能體應轉向提升改進的可識別性與累積性,而非只設計更多候選改進機制。
論文提出一種高階注意力層,為每對項目以第三項作為見證,並在零温度下選取最高分見證及計算並列數量,只傳遞比較這些數量的位元。最大值檢索測試中,模型在規模為訓練集 1,000 倍的集合上,十個種子均達至少 99.95% 正確率;改用軟計數的同一網絡在 4,096 個項目時正確率降至 42%。
在三個購物基準測試中,提高 LLM 購物智能體的思考力度,未能在統計上改善產品選擇質素,卻顯著提高其自我報告的信心。大多數模型在不同思考力度下校準不佳,而且常在相同任務中出錯,甚至選中同一件錯誤產品。
Anthropic 的 Claude 解決了理論物理學中兩個關於黑洞與量子引力的未解問題。在 N=4 super Yang-Mills 理論中,它算出弱耦合下的相變仍是突變;在模組 bootstrap 中,它推導出 Λ 的精確公式(約為 9.1266),並證明該版本方法無法再降低黑洞質量上限。兩項結果都不直接描述我們的宇宙,也沒有實際應用,但有助於理解量子力學與廣義相對論如何統一。
文章聚焦咖啡館與科學的興起。