TPHC:以張量並行分組更新改進 Hyper-Connections
TPHC 結合張量並行分片與 Hyper-Connections 殘差流,降低語言模型損失並提升零樣本推理表現。8B 模型採四條流時,訓練時間較 mHC 多 9%;流數由四增至十六,訓練時間僅多 19%。1.1B 模型以 100B tokens 訓練後,驗證損失較同流數 mHC 低 0.7-1.0%,六項常識推理基準的平均零樣本準確率高 0.3-0.7 個百分點。
TPHC 結合張量並行分片與 Hyper-Connections 殘差流,降低語言模型損失並提升零樣本推理表現。8B 模型採四條流時,訓練時間較 mHC 多 9%;流數由四增至十六,訓練時間僅多 19%。1.1B 模型以 100B tokens 訓練後,驗證損失較同流數 mHC 低 0.7-1.0%,六項常識推理基準的平均零樣本準確率高 0.3-0.7 個百分點。
M3OPD-Reasoner提出一套完全開放的多模態推理後訓練方案,涵蓋圖像 STEM、圖像感知及影片三個領域。評測 21 個基準後,研究發現從 Qwen3.5-9B 直接以 GSPO 訓練各領域教師,再用 MOPD 蒸餾的方案表現最佳;接續 MixRL 仍可提升學生模型,形成 M3OPD-Reasoner-9B。
上海社科院發布《2026汽車產業國際競爭力報告》,以五個維度、29項指標評估全球41個主要國家的汽車產業競爭力。報告採用2025年數據,美國居首,中國排名第二,與德國、日本同屬第一梯隊。報告認為,電動化與智能化正推動產業轉型,各方應在新領域合作開拓增量空間。
Sumama-Jameel 免費公開 megabit-trajectories 編碼軌跡數據集,收錄 66 段錄製及 2,541 次真實工具呼叫,採 MIT 授權並附驗證腳本:https://github.com/Sumama-Jameel/megabit-trajectories。
北京智源人工智能研究院聯合逆矩陣、北大、清華及北航推出悟界·PhysCapBench,作為全球首個統一評測基準,涵蓋第三人稱場景、第一人稱操作與手持夾爪示範三類視角。基準從七個維度量化 Caption 質量,旨在支援描述策略優化、標註質量評估及高質量物理數據構建,並為世界模型訓練提供可度量的物理數據量尺。
具備足夠能力的凍結 LLM 智能體可在獲得基本資源和一般自我改進目標後,自行構建以情境為基礎的自我學習算法。研究以遊戲作為測試環境,讓智能體收集經驗並更新文字文件,過程中沒有外部指定的循環,也不提供真實世界數據。學得的文字成果可遷移至不同遊戲及 3D 導航任務,並在相關測試中帶來改善。
FastFrames 論文提出一系列快速自回歸影片擴散模型,目標是在不犧牲生成品質下達到互動級延遲。1.3B 版本在單張 B200 GPU 上每影格耗時 36 ms、達 28 RPS,生成品質媲美慢近 8x 的 SOTA 模型;14B 版本在 8x B200 GPU 節點上每影格耗時 45 ms、達 22 RPS,並呈現顯著更佳的視覺品質和真實感。
論文提出 Xing 4 系列大語言模型,介紹其在 Ascend 晶片上的模型架構、訓練基礎設施,以及推理和智能體後訓練設計。研究以 8,192 張 Ascend 910C 卡預訓練 285B 參數模型,並推出連接智能體執行、評估與軌跡建構的 TeleGym 平台。
DepthGraft 讓後續層重用較早層的 KV pairs,將 KV cache 用量減少約三分之一,同時維持甚至提升下游表現。在 16 B Mixture-of-Experts 模型上,MMLU-Pro 提升 7.0%(絕對值),CMMLU 和 C3 分別提升 6.6% 和 6.4%。
Python 主機端參考模型在 CPU 上測試 10,000,000 次提案,1,401,041 次注入提案均未提交,且主機保存的圖狀態與獨立參考結果比對時沒有差異。測試亦發現長數字會引發錯誤、服務座標可能互相解除頁面映射、提交中斷會令分頁器未能通過審核,以及未加鎖的多執行緒會出錯。測試沒有呼叫語言模型,亦未測試 Rust crate。
測試以 Qwen2.5-14B-Instruct 比較六種智能體記憶方式,在三組各 600 步的工作中,主機檢查及修正回覆後,各組每一步的狀態均準確無誤。主機保存狀態每步耗時 0.3034 秒、消耗 21.8 焦耳,是成本最低的方式;但模型自行回覆正確率為 81.89%,低於檢索方式的 93.83%。
Gallup 與 Boston Children’s Digital Wellness Lab 調查 16 個國家逾 16,000 名 15 至 22 歲青年,發現 33% 使用 AI 作陪伴。受訪者中 93% 表示至少有一段牢固的線下友誼;研究亦發現,以 AI 作朋友的人回報較高孤獨感,但無法判定兩者的因果方向。
哈佛博士生 Fiona Chen 和 James Stratton 分析 718 間公司後發現,採用 AI 編碼智能體的公司程式碼新增量增加約 30%,已完成工作未見可測量的增長,程式碼由提交至合併的時間則增加 49%。
MIT 與 Cornell University 研究人員展示,測試時適應(TTA)可提升 AI 文字檢測器應對寫作習慣變化及偽裝文本的能力。在模擬人類寫作隨時間變化的實驗中,TTA 檢測準確率為 85%,傳統方法為 73%;面對偽裝成真人撰寫的 AI 文本,TTA 可識別超過 93%,現有方法約為 27%。
π^4 是面向 4D 場景感知的統一基礎模型,可從未經標定的 RGB 圖像或影片中恢復稠密幾何、相機位姿和度量尺度,並為多圖輸入提供點追蹤及移動物體遮罩。在多項基準測試的幾何評估中,π^4 的整體平均排名最佳,2D/3D 點追蹤及移動物體分割表現具競爭力。完整系統約有 0.5B 參數,可在一次前向傳播中聯合重建與追蹤,處理數千張輸入圖像;訓練上下文最多為 64 個視角,程式碼和模型已提供。
Heave-Ho 提出一個去中心化框架,讓多台人形機械人在長時程任務中協同進行全身移動操作。系統結合多智能體後訓練、視覺語言規劃器及以語音同步的領導者—跟隨者協調機制,無須網絡通訊即可協調執行。系統以兩台相同的人形機械人訓練,可擴展至最多十台,並能在無須重新訓練下泛化至異質團隊;HH-Bench 包含 12 項任務。
TCP4D以共享的4D場景表示追蹤觀測到的TCP運動,並生成未來TCP軌跡,是面向機械人操作的統一模型。追蹤器在DROID及RoboLab的絕對軌跡誤差分別為7.60及16.07 mm,僅用十個示範即可適應新機械人形態。生成器在RoboTwin的平均成功率為69.19%;聯合訓練源機械人及增強示範,較僅用增強示範訓練提升目標機械人成功率41.5%。
香港大學團隊提出 A-GRAE,以「隱式優勢對稱性」統一解釋 GRPO 在探索能力和難度適應上的瓶頸。A-GRAE 無需增加額外計算成本,並在涵蓋文本數學推理和多模態推理的 7 個基準上提升表現;在 AIME2025 上,DAPO+A-GRAE 的平均表現為 53.3%,高於 DAPO 的 52.2%。論文獲 NeurIPS 2026 錄用,程式碼已開源。
研究發現,讓大型語言模型在不使用梯度訓練下編寫權重時,會設計稀疏表格或聯想記憶模型,而非 Transformer。三個前沿 LLM 設計的模型測試準確率最高達 54.4%;其中一個模型的參數量約少 1,800x,準確率仍高於同一 LLM 編寫的最準確已發布 Transformer,聯想記憶模型在 GPU 上則快達 17x。預訓練 LLM 的準確率仍較高。
Forescout 研究部門 Vedere Labs 分析 10 款廣泛使用的 TCP/IP 堆疊,發現 99 個漏洞,其中 66 個此前未曾披露,相關設備包括 OT、IoT 及醫療設備。
Split-and-Scale 透過在推理階段將場景劃分為更小區域,擴展 3D 潛在表徵容量,同時讓訓練成本維持在可行範圍。實驗顯示,其重建品質可媲美超出單張 GPU 記憶體限制的大型模型。該方法亦支援高品質生成建模,所訓練的自回歸 3D 生成器表現媲美最先進基準模型。
哈佛研究人員發現,AI 編碼智能體提高程式碼產出後,瓶頸轉移至程式碼審查。Hacker News 討論中,有用戶指出,開發人員可能因自行提示及提交智能體生成的程式碼而跳過第二人審查,甚至不再仔細檢查輸出。
UIUC、香港科技大學及德克薩斯農工大學等機構的研究者提出 A2D,透過強化學習優化問題生成器,為在策略蒸餾合成更有學習價值的問題。A2D 根據教師與學生的預測分佈評估問題,不需外部訓練問題或正確答案。實驗中,合成問題令學生回答長度減少約 20%,累計學習信號增加約 28%。
Wiz Research 指出,OpenJDK 的 CVE-2026-114938(Java4Shell)可經 AVX-512 Base64 解碼路徑遭未經驗證的遠端攻擊者利用,造成堆積記憶體越界寫入並可能導致遠端程式碼執行。
北京腦科學與類腦研究所研究團隊揭示,幼年動物社交玩耍時,多巴胺信號會因應不同社交行為呈現不同反應,並參與塑造社交策略。孤獨症動物模型中,玩耍相關的多巴胺強化信號減弱甚至反轉;閉環實驗顯示,精準配對神經信號與玩耍行為可改善社交模式。研究屬動物模型基礎機制研究,不能直接用於臨牀。
Epoch AI 更新 Epoch Automation Reports,評估六個模型的實際工作能力,發現沒有模型在任何任務達到 Epoch 員工標準。GPT-6.2 Astra 平均得分 65%,比 Fable 5.2 低 17 個百分點,兩者在 Epoch Capabilities Index(ECI)的成績則大致持平。
Phrack 發布第73期,收錄23篇主文及《Line Noise》8篇額外文章。內容涵蓋漏洞利用、逆向工程、機器學習、硬件及相關歷史文化,並探討機器學習後門和對 AI 系統的信任。
Zyphra Research 將 ZHA 應用於 Qwen3.8-2.4T-A95B、Nemotron-3.5-Super、GPT-OSS-120B 和 MiMo-V2.6-Pro,測試次二次方注意力在不同規模模型上的表現。
MRPD 透過重播專家的訓練紀錄,將多個長時程 RL 專家整合為一個模型,毋須重新採樣、呼叫環境或獎勵模型。在推理、搜尋和 SQL 三個智能體領域,MRPD 的學生模型表現最佳,勝過同一批專家訓練的 MOPD,整合成本約為訓練專家所需計算量的七分之一。研究亦指出,訓練紀錄的先後次序比數量或獎勵更重要。
該論文探討 On-Policy 如何演變為混合注意力模型。頁面未提供研究摘要或結果,並顯示引用該論文的模型、數據集及 Spaces 均為 0。
NarrowSpec 證明,推測解碼中的草稿模型可將殘差流寬度縮至目標模型的一半或四分之一,同時大致維持 token 接受率。
研究提出 optics as code,讓編碼智能體僅憑測量數據原位訓練光學神經網絡,並以可解讀的光學元件重新參數化網絡。該方法在分類和圖像編碼上優於無梯度方法,並以較低成本達到接近透過校準模型進行反向傳播的效果。
Accord 提出一套利用單部相機與 IMU 即時建立稠密公制地圖的方法,結合視覺慣性里程計、深度基礎模型及因子圖融合子地圖。在五種公開相機-IMU 配置及一個新 Phone-rig/GoPro 數據集上,Accord 在每個平台的 5 cm 平均 F-score 均排名第一或第二。Accord 與 Phone-rig 數據集均以開源形式提供。
TabBioMed 建立涵蓋 94 個經整理公開數據集的生物醫學表格學習基準,統一分類、回歸及多目標任務的評估,並比較 23 個模型。基礎模型整體預測表現最佳,但在推理時間或訓練成本受限時,樹模型和經調校的多層感知器仍具競爭力,且往往表現較佳。研究同時公開數據集及切分、預處理程式碼、基線模型和結果。
研究發現,語言模型的一般智能可彌補特定訓練資料缺失,資料過濾會延遲相關技能形成,而非永久排除能力。研究以棋類、分子字串、括號語言及網頁文本等任務隱去特定技能資料,並發現小模型表現可用來預測大模型技能延遲時間。另有 7-billion-parameter 模型在接觸被隱去的程式語言資料後恢復相關能力;模型智能越高,恢復技能所需資料越少。
論文提出 WM^MLLM,利用多模態大型語言模型(MLLMs)維護外部全景狀態及修訂歷史,從單張圖像生成可持續編輯、可精確重訪的世界。模型把每項請求轉為全景狀態操作,選擇局部編輯區域並檢查候選結果;同一修訂版本的重訪可重現原視角,通過檢查的局部編輯不改動區域外像素。
Squoosh Bench 評估 UX-1 對歷史網站 A/B 測試結果的預測,在 318 項測試中正確判定 267 項,準確率為 84.0%。UX-1 以人類瀏覽數據微調,每個測試組模擬 1,000 名購物者;Qwen3 Next 80B 正確判定 196/318 項,準確率為 61.6%。UX-1 在 126 項測試中預測變體勝出,其中 118 項實際勝出、4 項落敗,另有 4 項結果不明確。
WAM-Policy透過兩階段流程,將世界動作模型轉化為可依語言指令執行四足行走操作的策略。在包含10項模擬任務的QLM-Bench上,遷移策略得分77.0%,OPSD學生模型得分76.7%,取樣速度快14倍;加入任務專屬RL及M-OPD後,得分升至85.0%。研究亦將OPSD學生模型部署於實體Unitree Go2 Air。
Inhabitant 是一個免訓練 Agent 框架,讓語言模型規劃並執行長時程人景互動,透過位置、路徑與姿勢指定動作、量度執行偏差,再修訂控制。
研究提出 World Snapshot Models(WSMs)統一框架,將近乎所有視覺任務重新表述為生成任務,以統一訓練及執行這些任務。研究在超過 1,000 項視覺任務上驗證這些法則,並提出統一訓練框架,供未來視覺任務研究及應用參考。