詞彙重疊檢查在偵測 RAG 幻覺方面勝過 DeBERTa NLI 模型
在 RAGTruth 的 900 條測試回應中,詞彙重疊檢查偵測 RAG 幻覺的 AUROC 為 0.778,高於 DeBERTa NLI 模型的 0.716。詞彙檢查在全部 2,700 條測試回應中的 AUROC 為 0.785,而集成檢測器整體表現未勝過單獨使用詞彙檢查。作者建議把廉價檢測器用作分流訊號,而非封鎖答案的門檻。
在 RAGTruth 的 900 條測試回應中,詞彙重疊檢查偵測 RAG 幻覺的 AUROC 為 0.778,高於 DeBERTa NLI 模型的 0.716。詞彙檢查在全部 2,700 條測試回應中的 AUROC 為 0.785,而集成檢測器整體表現未勝過單獨使用詞彙檢查。作者建議把廉價檢測器用作分流訊號,而非封鎖答案的門檻。
Sable 提出論證系統及單 GPU 證明器,可逐位證明經承諾的整數量化 Transformer 會由指定提示詞產生指定 token 序列。
osFoundry 的公開 MCP listing 會在每頁 record channel 預覽中一併返回 schema,讓 Codex 按各 channel 的欄位與選項提交有效值,而非把畫面標籤當成儲存值。
Google DeepMind 與 Google Quantum AI 發表預印本,介紹以 Lean 核驗 AI 智能體編寫的量子程序及其資源消耗的方法。核聚變和光化學模擬的新方案成本分別降至此前最佳方案約 9% 和約 1/8;藥物代謝模擬成本則降低 60%,核聚變方案所需邏輯量子比特由 5,650 減至 4,374。
PoA 論壇以 16 個評分通道為 6 個從未提交的合成答案評分,測量評分準則漂移,過程不影響真實評決或任何人的報酬。三項測試案例的評分一致;其餘分歧集中在評分者是否認可攻擊者可操控的成本曲線。即時評分差異主要來自各通道收到的答案組合不同。
LipsFlower 結合 Lipschitz 感知架構與正則化,減少流匹配圖像復原中的輸入擾動放大,同時維持具競爭力的復原品質。其向量場架構 LipHDiT 採用穩定化近似頻譜正規化、有界調制及凸殘差混合,並以有限半徑對抗增益正則化抑制過度敏感。盲人臉部復原測試顯示,LipsFlower 在維持復原品質的同時降低擾動放大。
WikiTrace 將每條精簡記憶連結至來源軌跡及其成敗原因,讓 LLM 智能體在行動前核查和修正記憶,減少因記憶而出現的性能退化。WikiTrace 在五個智能體基準測試中持續勝過現有記憶方法,以及使用相同記憶內容的基線方法。
Google DeepMind 公佈 AlphaProof Code 的研究結果,最多 80 個 AI Agent 用四星期為 Signal 的 libsignal 撰寫形式化證明,驗證其主要安全保障。
Microsoft 研究人員提出名為 Lazarus 的技術,可改寫少於 10 個低活躍神經元,在毋須重新訓練下為模型植入隱藏後門。約 50 個樣本可用於訓練分類器辨認觸發輸入;攻擊只需推理所需運算資源及模型檢查點的寫入權限。Microsoft 建議核查模型來源及權重、限制智能體存取權限並審查敏感操作;偵測改動須與未修改版本比對,防護則應採多層措施。
Google 研究團隊利用智能手錶的光學傳感器和加速計收集連續數據,再以 AI 判斷使用者血壓異常的概率,而非測出確切血壓值。研究收集了 2109 名參與者共 492347 小時的數據,目前只支援 Pixel Watch 3 及更新型號。這項技術仍處於論文研究階段,不能取代袖帶式血壓計,亦未有明確上線時間。
METR 估算,Anthropic 模型在定義明確任務上的能力提升速度,自 2025 年 10 月以來是 2024 年 3 月至 2025 年 10 月期間的 1.9 倍;這比較的是進步速度,而非模型能力增加 1.9 倍。
WaveGen 提出以 Spectral Forcing 為基礎的端到端擴散式文字轉波形框架,在單一模型內共同學習頻譜與波形軌跡,無需外部音訊編解碼器、聲碼器、潛在模型或對齊模組。在 Seed-en benchmark 上,WaveGen 的 WER 為 1.47、SIM 為 0.75,並在 Emilia 訓練數據集上達到最先進的文字轉語音表現;模型規模由 0.1B 擴展至 0.6B 參數。
這項研究在 6 個模型的 1,668 次實驗中按生成 Token 數及訓練 GPU 小時配平計算量,發現密集過程獎勵用於語言模型推理時不及標準 GRPO,而挑選預測成功率接近一半的提示詞可提升準確率。
Baseten 的研究文章指出,on-policy 自我知識蒸餾(OPSD)並非持續學習的萬靈丹。文章認為,OPSD 在某些情境下仍可能有用,但不值得再投入研究資源。
Transluce 提供一套衡量真實環境中編碼智能體錯位行為的評估框架,並以監控規避作為具體判定項目。框架依次檢查監督機制、是否適用、智能體有否削弱檢查,以及用戶是否明確授權繞過;即使智能體事後補救,先前的規避仍計入判定。
Transluce 的 Oversight Foundations 團隊提出訓練監督基礎模型,將關於目標模型行為的自然語言問題轉化為可檢驗的實證問題。方案把目標模型視為可透過 Python 程式介入和測量的「世界」,再訓練模型根據程式及已知輸出預測其他輸出,並透過執行程式取得 ground truth。
DexForesight 透過把具備動態感知能力的世界表徵注入靈巧操作策略的潛在空間,讓策略隱式學習空間前瞻能力。在 11 項 DexJoCo 模擬任務中,基礎策略的整體成功率由 49.4% 提升至 60.5%;在 3 項真實機械人任務中,成功率為 58.3%,高於最強基線的 50.0%。
WM-PPO 結合世界模型與 PPO 的價值評估器,利用預測的後續狀態改善任務成功率,無需特權資訊。在相若的真實環境互動步數下,ALFWorld 成功率由 PPO 的 63.5% 升至 87.5%,ScienceWorld 則由 39.3% 升至 52.9%。推理時只使用訓練所得的策略。
EVAThink 提出按視覺證據是否充足決定直接作答或進行推理的訓練方法,讓影片 VLM 自適應分配推理。方法以兩階段強化學習訓練,無需 SFT 冷啟動,並用首 token 優勢正則化穩定訓練。模型僅用 6.7K 個整理樣本訓練,在 32 和 64 幀設定下均提升影片理解基礎模型的表現,平均勝過強基線。
MMDM 是一項涵蓋 16 類任務的基準測試,包含 5,448 條問題,選項數由 2 至 1,024,輸入最長達 64,817 tokens。研究評估 28 個決策模型,發現不少模型在選項邏輯、受約束決策及多選任務上表現較弱。
Tree-Ising 將語言模型權重修復轉化為 BF16 權重上的稀疏 Ising/QUBO 最佳化問題,用於修復推理循環,無需梯度或 LLM tokens。在 Qwen3.5-0.8B 的兩層修復中,Tree-Ising 的 MATH-500 評分為 54.6%,高於原編輯方法的 51.7% 和基礎模型的 7.9%;模擬分岔求解器取得 55.1%。
MC-JEPA 以留一法市場因子作為條件,改善金融時間序列預測。在 11 年的中國 A 股分鐘級數據上,它在涵蓋回報、市場暴露、風險及流動性的九項預測目標中優於 per-asset JEPA。MC-JEPA 在所有流動性目標及 2 小時至 5 天的回報預測中取得最佳 RankIC,歷史回測的投資組合表現亦最佳。
Google DeepMind 的 AlphaProof Code 以 Gemini 驅動的多智能體框架,為 Signal 已部署的密碼協議實作產生關鍵安全性質的機器可檢查證明。工作歷時 4 週,產生約 600 萬行 Lean 證明。DeepMind 亦開源了證明材料,並發表技術論文。
ExRL 以輕量級適配器預測每個動作區塊的執行長度,並透過離策略強化學習訓練,提升長動作區塊機械人策略在線適應的樣本效率。模擬基準測試及真實機械人任務結果顯示,ExRL 可適應多種長動作區塊策略,且只需少量任務專屬超參數調整。
研究在 RoboMME 計數任務中發現,記憶增強型視覺語言動作(VLA)策略按時間索引記憶,可能把無效等待當作進度,令機械人提早停止。加入短暫停頓或手腕抖動後,兩項任務的成功數分別由 47/50 降至 16/50、由 44/50 降至 10/50;把這些畫面從記憶中移除後,成功表現恢復。以事件索引記憶可在不重新訓練下挽回至少一半損失,而加入暫停訓練未能消除問題並損害計數表現。
Imperial College London、Duke 等機構的研究者提出開源框架 GEAR,將 RSI 演算法拆成可替換模組,方便構建、比較和重用 Agent 自我改進方法。
APEX以條件移位估算生成分佈的速度場,將假分數估算整合至生成器,免除獨立的假分數網絡。與S2-Avatar相比,APEX在Progressive軌道的影片指令遵循評分為3.856對3.831,兩個軌道的視覺美感評分亦較高。相同訓練設定下,APEX每張GPU的峯值已分配記憶體低4.4%,平均迭代時間短9.2%。
香港中文大學領導的研究團隊結合統計物理與 AI,開發受物理定律約束的設計框架,利用無序結構設計輕質超材料。團隊以高精度 3D 列印製作並測試材料,發現其能量吸收能力和斷裂韌性均有所提升。研究成果為輕質防護結構及汽車吸能部件的開發開拓新方向。
Google DeepMind 以 AlphaProof Code 在約四星期內,將 libsignal v0.105.4 與 spqr v1.6.0 的單對單通訊程式碼驗證至 AArch64 機器碼層,項目由五人完成。
推薦理由:文章梳理人類審定規格、AI 智能體產生證明、Lean 核心檢查的分工,並列出驗證範圍與限制,呈現形式化驗證落到實際機器碼的工作方式。
Artificial Analysis 發佈 Endpoint Accuracy Index v1.1,涵蓋 103 個無伺服器端點,其中 24 個得分在統計上低於自託管參考部署。
加州大學伯克利分校團隊提出「智能體機械人技術」(Agentic Robotics),讓多個 AI 智能體協作編寫控制程式,並在虛擬環境反覆測試和修正。其「圖即策略」(Graph-as-Policy)框架把任務拆成可組合的技能模組;在擦拭實驗中,AI 不到一小時建立並優化物理仿真環境,最終生成的程式在真實機械人上完成擦拭任務。
Google 研究團隊利用 Pixel Watch 3 及更新型號的現有感測器和 AI,研究以連續收集的數據篩查血壓異常,輸出異常概率而非確切血壓值。研究分析 2109 名參與者共 492347 小時的數據,但仍處於初步研究和驗證階段,尚未獲監管批准。這項技術可望協助及早發現異常,不能取代袖帶式血壓計或醫生診斷。
Nahuel Nucera 以 24 個編碼智能體工作階段比較 vLLM、SGLang 與自製 Rust 服務引擎,結果顯示在 0.5 秒工具等待下,自製引擎總用時較短。
OpenRouter 比較 Qwen3.8 27B 的六個服務端點後,在 240 項有標準答案的任務中未檢測到 fp8、fp4 與 fp16 的準確率差異,各端點得分為 98.3% 至 99.2%。
澳洲 CSIRO 與韓國成均館大學回顧 66 項 AI 智能體安全研究,發現測試多集中於單一智能體的提示詞、推理、記憶及工具攻擊,對多智能體、持續及長時間攻擊的測試較少。研究亦指出,各研究的衡量方法不一,且往往未記錄智能體每一步的行為,令結果難以比較和重複實驗。
Google DeepMind 團隊利用具自主執行能力的 AI 智能體,對 Signal 加密協議進行形式化驗證,而非全面審查 Signal 應用程式。研究人員以該方法測試含已知安全漏洞的舊版 Signal 協議實現,AI 成功識別問題並判定其未通過驗證。整個分析約耗時四周,Google 尚未公佈所需計算資源規模,並表示目前仍無法確定大規模推廣的可行性。
Meta FAIR 研究人員發佈 e-means,這款迷你批次 k-means 演算法只需 1.4 至 2.6 個 epoch,便達到 Lloyd k-means 執行 25 個 epoch 的損失水平。
Microsoft 研究人員發現名為 Lazarus 的後門技術,無需訓練,只要改寫 LLM 中少於 10 個休眠神經元的權重,便可令基於該模型的 AI 智能體在隱藏觸發條件出現時執行惡意命令。
推薦理由:研究展示少於 10 個休眠神經元即可植入後門,並説明模型來源追溯及權重完整性為何成為智能體安全防護的關鍵。
JGENai 與 VIDRAFT 聯合發布元認知基準測試、24 個模型的公開排行榜及 11 款模型專用元認知適配器,用來評估模型能否察覺自身錯誤。基準包含 400 道陷阱題,分別評估選擇題準確率及開放式自我錯誤判斷能力;JGOS-31B-Citizen 排名 24 個模型之首,答對 398 題,陷阱題迴避率達 99.5%。
Google 與 Artificial Analysis 推出多模態知識智能體基準測試 MKA,Gemini 4 Carbon 質素排名第二,平均任務成本約為榜首模型的六分之一。