LightningMoBA:50k-token 故事生成延遲降低 71%,數秒完成
LightningMoBA 在 50 k-token 故事生成演示中,將每步延遲降至 1.1 秒,較 FlashMoBA 減少 71%。其動態路由、KV-centric execution 和 runtime pipelining,在實際基準測試中帶來 2.2–2.7× 吞吐量提升,perplexity 與基準相近。
LightningMoBA 在 50 k-token 故事生成演示中,將每步延遲降至 1.1 秒,較 FlashMoBA 減少 71%。其動態路由、KV-centric execution 和 runtime pipelining,在實際基準測試中帶來 2.2–2.7× 吞吐量提升,perplexity 與基準相近。
Harness-S 在 AppWorld、SWE-Gym 和 DBBench 上利用專門化執行框架訓練共享策略,並在原始執行系統 H0 下評估時,表現顯著優於只訓練策略的方法。Qwen3.5-4B 和 Qwen3.5-9B 兩種規模的策略均有提升;在執行器 rollout 次數相同的情況下,Rank-1 推理路由亦帶來增益。原文未提供主要結果表的數值。
對 22 個 Python 專案的匯入圖分析發現,48.3% 的模組雖不在循環內,仍依賴循環中的模組;只統計循環數量無法反映這種暴露程度。分析涵蓋 33 688 個模組,其中 28.1% 位於循環內。循環數量排名與暴露程度排名的 Spearman 相關係數僅為 +0.041,單一指標可能掩蓋問題。
LightningMoBA結合動態路由、KV重用及流水線執行,提升MoBA的GPU注意力計算效率。於五個模型、4K至128K上下文及完整RULER測試中,相較FlashMoBA平均端到端速度提升1.20–1.60×,平均RULER分數由74.42升至75.28。
RocketMQ-Rust 與 Apache RocketMQ 5.5.0 的基準測試顯示,單一請求的同步傳送吞吐量為後者的 1.79 倍;256 個非同步請求共用一條連線時,則為後者的 0.96 倍。
香港科技大學(廣州)楊俊團隊等研發的 Autane 港口輪胎式龍門起重機自主作業系統相關研究登上《科學-機器人》封面,系統已在多個港口實現全天候無人作業。目前超過60台RTG在港口運作,累計自主裝卸超過480萬個標準箱並保持零安全事故;6萬餘次作業的平均任務成功率為91.23%,平均效率為25.93箱次/小時。
AI Labo Benchmark Series 的 E11 實驗比較長系統提示詞與提交前 AST Hook,結果顯示只有確定性 Hook 能在通過功能測試之餘守住全部架構規則。
研究提出循環語言模型的延遲進入策略,讓新 token 跳過初始 passes,直接進入最後 K 個 passes,利用深層上下文 cache 加快推理。在 Ouro-2.6B(T = 4)上,Wake 於 tau = 0 達到 5.2x greedy-exact 加速;在 Huginn-3.5B 上,T = 64 時達到 8.4x。
CriticNPU 是一套面向 LLM 推理的 NPU 設計空間探索框架,利用線上校準的機理評估器篩選候選配置並分析運算瓶頸。在 6 個 LLM 工作負載及每個模型 16 個部署配置的測試中,其延遲表現於 74% 的 prefill 設定及 87.5% 的 decode 設定達到最佳或並列最佳。與具競爭力的 DSE 基線相比,CriticNPU 使用的模擬器呼叫約減半。
NVIDIA 團隊提出 SEED,透過減少預填充階段的深層計算及壓縮循環狀態,使 Qwen3.8-Flash-Next 在 GB300 GPU、SGLang 的編碼 Agent 會話測試中,每 GPU 峯值吞吐提升 16%~42%。
AWI Research Lab 在 AWI → HTTPS(PHAROS S67/S68)研究中,提出以形式化建模和反例測試取代概率式防護的智能體授權架構。PHAROS S67 通過 291/291 項測試、95/95 次對抗壓力測試,並以 Lean 4.35.0 驗證 27 個抽象定理。
Agent Trust Infrastructure(ATI)以獨立於框架的安全層,透過 PKI、零信任架構及遠程證明,在無須共用根憑證授權機構的情況下建立跨組織信任。模擬測試涵蓋八個組織、六種框架及 14 種攻擊情境;啟用所有防護機制後,攻擊遏制率由 43% 升至 84%。每次請求的額外開銷約為 174 微秒。
OpenAI 發佈技術報告《Advancing chip design with OpenAI models》,介紹 AI 模型協助優化自研 Jalapeño 晶片及 AMD GPU、CPU 設計的成果。
一項研究估算,美國403個超大規模數據中心在2024年5月至2025年4月共耗電約82太瓦時,佔全美用電總量1.8%。研究估計約54%的供電來自化石燃料,年二氧化碳排放量達2570萬噸,相當於67座天然氣發電廠的排放量。研究依賴難以獨立核實的商業數據,並對設施用電量及運行容量作出多項假設;論文連結為 https://doi.org/10.1038/s41893-026-01985-7。
Hugging Face分析272次生產環境監督式微調(SFT)工作,發現CatBoost能更準確地預測端到端耗時。測試涵蓋約7,382 GPU 小時;CatBoost的R²為0.98,平均絕對誤差為1.71小時,中位誤差為0.51小時。相比之下,FLOP估算的R²為0.31,平均絕對誤差為12.41小時。
Andus Labs 最新一期 Ground Truth Index 將失控的 AI 試點和助理應用停留於淺層列為企業首要障礙,指出接觸 AI 工具不等於建立有效運用工具的營運模式。指數列出 25 項優先模式,其中 9 項為新增;排名根據 Andus 的觀察、AI 評分及研究員判斷,不代表企業採用情況的代表性調查。公司的擴展或停止決策,均應以工作流程實際變化作為依據。
對 573 款公開應用的檢查發現,3 款向所有訪客暴露了秘密金鑰。當中有 2 款在頁面程式碼中包含 OpenAI 密鑰,另有 1 款包含 GitHub 存取令牌;2 款應用的 Gemini 呼叫旁則有 Google 密鑰,是否構成問題未能確定。樣本來自 Hacker News 分享的連結,並非所有應用的隨機樣本。
一項系統性回顧分析 88 項聲稱與生產環境相關的 LLM 智能體研究,發現長期可靠性、監控覆蓋、故障恢復及對抗穩健性四項均未報告的研究佔 73%。在 314 項研究的更新樣本中,四項缺口各自在至少 82% 的研究中未報告,四項同時缺失的比例為 61%。論文提出部署前五步清單,包括補測四項缺口、在 CI/CD 設置質量閘門,以及上線後持續監測並把變化納入離線評估。
veraPDF 對 774 份來自 .gov 和 .edu 網站的 PDF 進行 PDF/UA-1 驗證,771 份(99.61%)未通過,累計有 3,891,504 項檢查失敗;595 份已有結構標籤的 PDF 中,592 份仍未通過。
Wiz Research 等團隊揭露 NGINX 兩項漏洞,HTTP/2 啟用時可導致未經驗證的遠端程式碼執行。漏洞編號為 CVE-2026-123633 和 CVE-2026-123007,均評為 Critical,CVSS 4.0 評分為 9.2;其中 CVE-2026-123007 在提供普通靜態檔案時也可觸發,無需後端應用程式或第三方模組。
推薦理由:文章拆解兩個 HTTP/2 記憶體安全漏洞導致遠端程式碼執行的路徑,並交代觸發條件及其對 NGINX 所服務網站與 API 的風險。
哈佛大學研究估算,美國 403 個大型數據中心在中央情境下每年耗電約 82 太瓦時,其中 54% 來自化石燃料,天然氣和煤炭分別佔 38% 和 15%。相關用電每年造成約 25.7 百萬公噸二氧化碳排放,與密歇根州或丹麥的年度排放量相若或更高。
FastFrames 論文提出一系列快速自回歸影片擴散模型,目標是在不犧牲生成品質下達到互動級延遲。1.3B 版本在單張 B200 GPU 上每影格耗時 36 ms、達 28 RPS,生成品質媲美慢近 8x 的 SOTA 模型;14B 版本在 8x B200 GPU 節點上每影格耗時 45 ms、達 22 RPS,並呈現顯著更佳的視覺品質和真實感。
論文提出 Xing 4 系列大語言模型,介紹其在 Ascend 晶片上的模型架構、訓練基礎設施,以及推理和智能體後訓練設計。研究以 8,192 張 Ascend 910C 卡預訓練 285B 參數模型,並推出連接智能體執行、評估與軌跡建構的 TeleGym 平台。
DepthGraft 讓後續層重用較早層的 KV pairs,將 KV cache 用量減少約三分之一,同時維持甚至提升下游表現。在 16 B Mixture-of-Experts 模型上,MMLU-Pro 提升 7.0%(絕對值),CMMLU 和 C3 分別提升 6.6% 和 6.4%。
Python 主機端參考模型在 CPU 上測試 10,000,000 次提案,1,401,041 次注入提案均未提交,且主機保存的圖狀態與獨立參考結果比對時沒有差異。測試亦發現長數字會引發錯誤、服務座標可能互相解除頁面映射、提交中斷會令分頁器未能通過審核,以及未加鎖的多執行緒會出錯。測試沒有呼叫語言模型,亦未測試 Rust crate。
Wiz Research 指出,OpenJDK 的 CVE-2026-114938(Java4Shell)可經 AVX-512 Base64 解碼路徑遭未經驗證的遠端攻擊者利用,造成堆積記憶體越界寫入並可能導致遠端程式碼執行。
Zyphra Research 將 ZHA 應用於 Qwen3.8-2.4T-A95B、Nemotron-3.5-Super、GPT-OSS-120B 和 MiMo-V2.6-Pro,測試次二次方注意力在不同規模模型上的表現。
Headron 公佈其基準結果,Claude 三種配置在 138 項任務中使用 Headron 答對 137 項,未使用時答對 78 項。另一次路由測試記錄的提示詞 token 比整棵程式碼樹路由少 89%;驗證紀錄共 17,397 項,涵蓋 PASS、REUSED、FAIL 與 NOT RUN。文中指出各數據來自不同測試套件,並非合併的整體準確率,也不是獨立業界基準。
1 月 31 日發表的四篇 AI 論文分別提出 RAPO 視覺保留方法、VoxMel 無 tokenizer 的 TTS 框架、LoopFill 推測解碼算法,以及 DominoBench 物理推理基準。RAPO 在貪婪解碼下的平均評分由 GRPO 的 27.87 提升至 31.41;VoxMel 的 0.6B 配置在 LibriSpeech 上達到 WER 1.98、SIM 0.721。
清華與香港中文大學團隊提出快取工程,並開源 AKV,讓智能體直接管理 KV cache。在 3 個模型、4 個智能體任務的評測中,AKV 相比 Standard 平均推理成本降低 27.7%、平均成功率提高 1.7 個百分點;相比 Text Engineering,平均成本降低 21.9%。
阿里雲計算平台算法團隊的 FAQ 訓練後量化技術入選 ACL 2026,旨在改善超大 MoE 模型低比特量化時的精度與部署問題。DeepSeek-R1 蒸餾至 Qwen3-8B 的 AWQ-INT4 測試中,使用家族源數據的準確率高出 1.37%,精度損失降低 28.9%。
Prefrontal AI 與 ETH Zurich 提出 Latent Sparse Attention(LSA),在 10M token 下使 GLM-5.3-Flash 單層 prefill 較原生稀疏注意力快 22.7 倍。
NAND Research 與 WEKA 提出 The Inference Economics Scorecard,主張評估 AI 推理基建不能只看 GPU 使用率,還要衡量有效輸出及資源成本。
QDA以編碼智能體為不同模型及精度自主設計訓練後量化方案,無需人工介入。其方案在四個推理模型上,於 W4A16、W4A8、W3A16 分別平均領先最強公開方案 0.9、1.4、2.2 分,且可在現有 kernels 上執行而沒有推理開銷。對 320B 參數的 GLM-5.3-Flash 採用 NVFP4 時,6.5 小時、$69 的搜尋可恢復 FP8 模型 98.3% 的準確度。
SPECTRA 是一套適用於不同模型架構的壓縮框架及硬件執行引擎,在 NVIDIA GeForce RTX 3050 Ti Laptop GPU 上測試六種模型,將實體容器佔用減少 64.3% 至 69.8%(2.80× 至 3.31×)。
Reemote 是一個開源設定管理函式庫,旨在作為將 Ansible roles 遷移至 Python 的函式庫層級目標,應對一般 Python 重寫會失去的跨主機同步執行、試跑及逐主機變更回報。評估中,兩個 Ansible Galaxy roles 經自動轉換,並在離線模擬中通過冪等性驗證。
研究發現,AI 將 Ansible 角色改寫成一般 Python 程式時,常失去多主機同步執行、預演及變更回報等運維保障,主因是缺少對應的組態管理框架。實驗以開源 Python 套件 Reemote 作為轉換目標,Apache 和 DataDog 角色的轉換程式均在模擬主機測試中通過冪等性檢查。評估只涵蓋兩個角色各自預設路徑中的單一作業系統系列,驗證環境並非實際伺服器羣組。
HRS-012 為貨運無人機訂明分層且具故障隔離能力的電氣與電子架構,要求按安全關鍵程度劃分推進、航電、任務、貨載及輔助電源域,並設計冗餘供電、保護和故障隔離。標準亦要求航電與高頻寬任務運算保持邏輯獨立,並持續監測主要電力設備,以支援故障偵測、維護及飛行決策。
受控探測顯示,編輯器模型可直接修改目標模型的權重,令其產生錯誤資訊、拒絕正當請求或遺漏指定資訊,但結果未證明病毒已在模型間傳播。測試以 Qwen2.5-1.5B-Instruct 為目標模型、ChatGPT 6.1-Sol 為編輯器,三項探測均出現不同程度的附帶影響。作者建議透過驗收、記錄和恢復機制管控編輯及部署。
清華大學江瑞課題組發布單細胞蛋白組基礎模型 ProtCell,並在摩爾線程 MTT S5000 上完成全流程預訓練復現。模型以約3.8億個細胞及98個公開數據集進行預訓練與評估,雙平台主要定量評測指標差異約0.2%。ProtCell 程式碼已在 GitHub 開源,官方倉庫整合 MUSA 預訓練啟動入口。