SoK:網絡控制迴路中的語義決策引擎
這項 SoK 研究整理 139 個語義決策引擎論文系列,評估其用於網絡控制迴路的證據。50 個系列聲稱符合控制迴路或時間預算要求,只有 4 個有配對測量支持;全部系列中也只有 4 個報告達成期限。缺乏確定性計算步驟的 72 個系列提出 22 項聲稱,均無支持,只有 2 個指定覆蓋責任人。
這項 SoK 研究整理 139 個語義決策引擎論文系列,評估其用於網絡控制迴路的證據。50 個系列聲稱符合控制迴路或時間預算要求,只有 4 個有配對測量支持;全部系列中也只有 4 個報告達成期限。缺乏確定性計算步驟的 72 個系列提出 22 項聲稱,均無支持,只有 2 個指定覆蓋責任人。
UK AI Security Institute 的研究提出 RepliBench,透過 20 項 LLM 智能體評測衡量 AI 系統的自主複製能力。研究測試 7 個前沿模型,最佳模型在 15/20 個任務系列取得 >50% pass@10,在最難變體的 9/20 個任務系列達到此水平;沒有模型能完成自主複製所需的全部組成任務。
英國 AI Security Institute 與多名合作者撰寫《An Example Safety Case for Safeguards Against Misuse》,提出一種把防護措施評估連結至部署風險判斷的安全論證框架。
英國 AI Security Institute 開源 SandboxEscapeBench,用於在隔離環境中評估 AI 智能體的容器逃逸能力。基準涵蓋18種橫跨編排、執行階段及核心層的情境,每個容器均在加固虛擬機內運行。評測顯示,前沿模型能可靠地利用常見錯誤設定突破沙盒,增加推理時的 tokens 預算亦會提高成功率,但沒有模型解決最難的情境。
Zyphra 提出 Tree Attention,以樹狀歸約平行化多 GPU Transformer 解碼,實測可提升長上下文注意力的解碼速度並降低記憶體開銷。Zyphra 估算,在 1M 序列長度下,Tree Attention 的解碼速度較 Ring Attention 快逾 8x,通訊量則減至一半或更低。其跨裝置複雜度為對數級,而 Ring Attention 為線性級。
Prime Intellect 提出 TOPLOC,以局部敏感雜湊驗證 LLM 推理,並在實驗中以 100% 準確率檢測模型、提示詞或計算精度遭未授權修改。TOPLOC 將最後隱藏狀態的 top-k 特徵編碼成證明並透過重算驗證,驗證速度最高可達原始推理速度的 100×,生成證明的儲存開銷減少 1000×。
Zyphra Research 介紹 PUFFER,一套為持續增長的訓練語料設計的增量模糊去重系統,可逐批加入數據集而無須重建完整索引。
Replit 將 Replit Agent 的評估由發佈前的單次檢查,轉為結合離線基準、線上 A/B 測試及生產軌跡分析的持續改進閉環。ViBench 以自然語言產品需求文件和測試計劃評估生成應用是否符合規格,Telescope 則整理生產軌跡並聚類失敗模式。改進循環會提出候選修正、建立草稿 PR 並彙整評估證據,工程師仍負責審核及決定是否發佈。
Prime Flash MoE 是一組為 Blackwell 優化的 CUDA kernels,速度最高比 PyTorch grouped GEMM 快 2.4×。在 4k-128k token 範圍內,速度提升約 2.3×,並已整合至 prime-rl,以加速 MoE 模型的前向傳播。
STILL 可在毫秒內將 LLM 的 KV cache 壓縮 8 倍,並在不同領域保留 85% 以上的事實準確度。它以固定的學習型查詢向量對完整 KV cache 執行交叉注意力,在單次前向傳播中生成緊湊快取,並以 KL 蒸餾訓練。
Still 可在單次前向傳播中將語言模型的 KV cache 壓縮 200×,並保留正確回答能力。在 Qwen 和 Gemma 模型上,壓縮倍率由 8× 至 200×、上下文長度由 8k 至 128k,均處於速度與品質權衡的有利區間。在長上下文 RULER 測試中,Still 比最強基線高 8–22 分。
NAVER 在聖地亞哥舉行的 NeurIPS 2025 展示 9 篇研究論文及最新技術示範,研究聚焦效率、可控性與真實世界 AI。其中,KVzip 的記憶體節省幅度最高達 4 倍、速度提升接近 2 倍;CodeGEMM 令 70B 模型運行速度最高提升 8.93 倍。NAVER 亦提出 C-SEO Bench,並以開源方式發布數據集、程式碼及基準。
Google Research 公佈以 TEE 為基礎的新一代聯邦學習系統,並稱其中央差分隱私(DP)保證可由外部驗證。裝置會在本地加密訓練樣本,存取政策公開記錄於 Rekor,KMS 只向符合政策的工作負載發放金鑰。Gboard 已用新系統推出英文及日文下一詞預測模型;訓練現可跨機器並行,瓶頸轉為 TEE 資源,Google 未公佈具體加速倍數。
論文提出 CUAWright,以最小化終端介面作為數碼智能體的統一操作方式。它使用約 3K 行程式碼,以 bash 命令作為唯一操作介面,並以檔案系統動態建立工具及管理上下文。
Microsoft 宣佈 Physical AI Toolchain 新增機械人推理卸載功能,支援透過 Kubernetes 工具把 AI 工作負載分配至機械人、邊緣 GPU 和雲端。
推薦理由:文章將實機工作負載的效能、電池續航與算力配置放在同一脈絡比較,並介紹以 Kubernetes 分配推理的工具,呈現卸載方案的收益與代價。
MIT 研究人員開發 HardFlow,讓生成式 AI 在安全關鍵任務中滿足硬性約束,並找到較現有方法更優質的解決方案。它只在最終輸出施加約束,可於部署時套用至預訓練生成模型,無需重新訓練。在機械人操作、迷宮導航及文字指引圖像編輯測試中,HardFlow 完全滿足約束,運算時間與多數競爭方法相若或更低。
Hugging Face 推出開放基準 ScarfBench,評測 AI 智能體遷移企業 Java 框架的能力。它涵蓋 Spring、Jakarta EE、Quarkus,包含 34 個應用程式、102 個框架實作及 204 項遷移任務,並驗證建置、部署和行為。現有最強智能體的行為成功率低於 10%,Jakarta EE 遷移尤其具挑戰。
Google Research 提出線性彈性快取,將頁面淘汰建模為 ski rental 問題,按即時工作負載動態調整快取容量,以降低快取管理的總擁有成本。在 Spanner 生產環境測試中,記憶體用量減少 15.5%,快取未命中僅增加 5.5%,總擁有成本約降低 5%,實際 I/O 成本影響僅 0.5%。
Google Research提出 Sequential Attention,將子集選擇整合至單次模型訓練,以較低開銷提升模型效率並維持準確度。該方法以注意力分數逐步挑選特徵,在多項神經網絡基準測試中取得最先進結果。
Google Research 發表 Project Suncatcher 的研究,探討以太陽能衞星搭載 Google TPU、透過光學鏈路構建可擴展的太空 AI 基礎設施。