跳到正文
目前篩選:論文
11月18日週三
  1. HuggingFace Daily Papers(社區熱門論文)38

    TPHC:以張量並行分組更新改進 Hyper-Connections

    TPHC 結合張量並行分片與 Hyper-Connections 殘差流,降低語言模型損失並提升零樣本推理表現。8B 模型採四條流時,訓練時間較 mHC 多 9%;流數由四增至十六,訓練時間僅多 19%。1.1B 模型以 100B tokens 訓練後,驗證損失較同流數 mHC 低 0.7-1.0%,六項常識推理基準的平均零樣本準確率高 0.3-0.7 個百分點。

  2. HuggingFace Daily Papers(社區熱門論文)47

    M3OPD-Reasoner:以多教師 on-policy 蒸餾進行多模態推理後訓練的開放方案

    M3OPD-Reasoner提出一套完全開放的多模態推理後訓練方案,涵蓋圖像 STEM、圖像感知及影片三個領域。評測 21 個基準後,研究發現從 Qwen3.5-9B 直接以 GSPO 訓練各領域教師,再用 MOPD 蒸餾的方案表現最佳;接續 MixRL 仍可提升學生模型,形成 M3OPD-Reasoner-9B。

  3. 第一財經29

    報告:電動化、智能化重塑賽道,全球汽車產業在競爭中尋求合作增量

    上海社科院發布《2026汽車產業國際競爭力報告》,以五個維度、29項指標評估全球41個主要國家的汽車產業競爭力。報告採用2025年數據,美國居首,中國排名第二,與德國、日本同屬第一梯隊。報告認為,電動化與智能化正推動產業轉型,各方應在新領域合作開拓增量空間。

  4. DoNews34

    智源研究院聯合推出首個物理資訊影片 Caption 評測基準 PhysCapBench

    北京智源人工智能研究院聯合逆矩陣、北大、清華及北航推出悟界·PhysCapBench,作為全球首個統一評測基準,涵蓋第三人稱場景、第一人稱操作與手持夾爪示範三類視角。基準從七個維度量化 Caption 質量,旨在支援描述策略優化、標註質量評估及高質量物理數據構建,並為世界模型訓練提供可度量的物理數據量尺。

  5. HuggingFace Daily Papers(社區熱門論文)49

    LLM 智能體仍需要被告知如何自我改進嗎?

    具備足夠能力的凍結 LLM 智能體可在獲得基本資源和一般自我改進目標後,自行構建以情境為基礎的自我學習算法。研究以遊戲作為測試環境,讓智能體收集經驗並更新文字文件,過程中沒有外部指定的循環,也不提供真實世界數據。學得的文字成果可遷移至不同遊戲及 3D 導航任務,並在相關測試中帶來改善。

  6. HuggingFace Daily Papers(社區熱門論文)61

    FastFrames 提出互動級延遲的自回歸影片擴散模型

    FastFrames 論文提出一系列快速自回歸影片擴散模型,目標是在不犧牲生成品質下達到互動級延遲。1.3B 版本在單張 B200 GPU 上每影格耗時 36 ms、達 28 RPS,生成品質媲美慢近 8x 的 SOTA 模型;14B 版本在 8x B200 GPU 節點上每影格耗時 45 ms、達 22 RPS,並呈現顯著更佳的視覺品質和真實感。

  7. DEV Community41

    提示詞注入與 LLM 智能體狀態:1,401,041 次注入提案未能通過主機閘門(共測試 10,000,000 次)

    Python 主機端參考模型在 CPU 上測試 10,000,000 次提案,1,401,041 次注入提案均未提交,且主機保存的圖狀態與獨立參考結果比對時沒有差異。測試亦發現長數字會引發錯誤、服務座標可能互相解除頁面映射、提交中斷會令分頁器未能通過審核,以及未加鎖的多執行緒會出錯。測試沒有呼叫語言模型,亦未測試 Rust crate。

  8. DEV Community44

    14B 模型上的 LLM 智能體記憶方式比較:整段對話、摘要、滑動視窗、檢索與主機保存狀態

    測試以 Qwen2.5-14B-Instruct 比較六種智能體記憶方式,在三組各 600 步的工作中,主機檢查及修正回覆後,各組每一步的狀態均準確無誤。主機保存狀態每步耗時 0.3034 秒、消耗 21.8 焦耳,是成本最低的方式;但模型自行回覆正確率為 81.89%,低於檢索方式的 93.83%。

  9. 404 Media54

    Gallup 調查揭示年輕人對 AI 陪伴的看法

    Gallup 與 Boston Children’s Digital Wellness Lab 調查 16 個國家逾 16,000 名 15 至 22 歲青年,發現 33% 使用 AI 作陪伴。受訪者中 93% 表示至少有一段牢固的線下友誼;研究亦發現,以 AI 作朋友的人回報較高孤獨感,但無法判定兩者的因果方向。

  10. MIT News47

    測試時適應如何協助 AI 文字檢測器跟上變化

    MIT 與 Cornell University 研究人員展示,測試時適應(TTA)可提升 AI 文字檢測器應對寫作習慣變化及偽裝文本的能力。在模擬人類寫作隨時間變化的實驗中,TTA 檢測準確率為 85%,傳統方法為 73%;面對偽裝成真人撰寫的 AI 文本,TTA 可識別超過 93%,現有方法約為 27%。

  11. HuggingFace Daily Papers(社區熱門論文)45

    π^4:用於 4D 場景幾何與運動的基礎模型

    π^4 是面向 4D 場景感知的統一基礎模型,可從未經標定的 RGB 圖像或影片中恢復稠密幾何、相機位姿和度量尺度,並為多圖輸入提供點追蹤及移動物體遮罩。在多項基準測試的幾何評估中,π^4 的整體平均排名最佳,2D/3D 點追蹤及移動物體分割表現具競爭力。完整系統約有 0.5B 參數,可在一次前向傳播中聯合重建與追蹤,處理數千張輸入圖像;訓練上下文最多為 64 個視角,程式碼和模型已提供。

  12. HuggingFace Daily Papers(社區熱門論文)48

    Heave-Ho:去中心化長時程多台人形機械人協作

    Heave-Ho 提出一個去中心化框架,讓多台人形機械人在長時程任務中協同進行全身移動操作。系統結合多智能體後訓練、視覺語言規劃器及以語音同步的領導者—跟隨者協調機制,無須網絡通訊即可協調執行。系統以兩台相同的人形機械人訓練,可擴展至最多十台,並能在無須重新訓練下泛化至異質團隊;HH-Bench 包含 12 項任務。

  13. HuggingFace Daily Papers(社區熱門論文)44

    TCP4D:用於機械人操作的統一工具中心點追蹤與生成模型

    TCP4D以共享的4D場景表示追蹤觀測到的TCP運動,並生成未來TCP軌跡,是面向機械人操作的統一模型。追蹤器在DROID及RoboLab的絕對軌跡誤差分別為7.60及16.07 mm,僅用十個示範即可適應新機械人形態。生成器在RoboTwin的平均成功率為69.19%;聯合訓練源機械人及增強示範,較僅用增強示範訓練提升目標機械人成功率41.5%。

  14. 新浪科技44

    香港大學團隊提出 A-GRAE,破解 GRPO 探索與難度適應瓶頸

    香港大學團隊提出 A-GRAE,以「隱式優勢對稱性」統一解釋 GRPO 在探索能力和難度適應上的瓶頸。A-GRAE 無需增加額外計算成本,並在涵蓋文本數學推理和多模態推理的 7 個基準上提升表現;在 AIME2025 上,DAPO+A-GRAE 的平均表現為 53.3%,高於 DAPO 的 52.2%。論文獲 NeurIPS 2026 錄用,程式碼已開源。

  15. HuggingFace Daily Papers(社區熱門論文)48

    權重空間編程不需要 Transformer

    研究發現,讓大型語言模型在不使用梯度訓練下編寫權重時,會設計稀疏表格或聯想記憶模型,而非 Transformer。三個前沿 LLM 設計的模型測試準確率最高達 54.4%;其中一個模型的參數量約少 1,800x,準確率仍高於同一 LLM 編寫的最準確已發布 Transformer,聯想記憶模型在 GPU 上則快達 17x。預訓練 LLM 的準確率仍較高。

  16. Apple Machine Learning Research44

    Split-and-Scale 以推理階段擴展 3D 潛在表徵容量

    Split-and-Scale 透過在推理階段將場景劃分為更小區域,擴展 3D 潛在表徵容量,同時讓訓練成本維持在可行範圍。實驗顯示,其重建品質可媲美超出單張 GPU 記憶體限制的大型模型。該方法亦支援高品質生成建模,所訓練的自回歸 3D 生成器表現媲美最先進基準模型。

  17. 新浪科技49

    讓大語言模型學會向教師提問:UIUC 等提出 Ask to Distill,推動知識蒸餾由「回答問題」轉向「優化問題」

    UIUC、香港科技大學及德克薩斯農工大學等機構的研究者提出 A2D,透過強化學習優化問題生成器,為在策略蒸餾合成更有學習價值的問題。A2D 根據教師與學生的預測分佈評估問題,不需外部訓練問題或正確答案。實驗中,合成問題令學生回答長度減少約 20%,累計學習信號增加約 28%。

  18. 新浪科技47

    研究揭示幼年動物社交玩耍背後的多巴胺密碼

    北京腦科學與類腦研究所研究團隊揭示,幼年動物社交玩耍時,多巴胺信號會因應不同社交行為呈現不同反應,並參與塑造社交策略。孤獨症動物模型中,玩耍相關的多巴胺強化信號減弱甚至反轉;閉環實驗顯示,精準配對神經信號與玩耍行為可改善社交模式。研究屬動物模型基礎機制研究,不能直接用於臨牀。

  19. Hacker News 熱門(buzzing.cc 中文翻譯)43

    《Phrack》第73期發布

    Phrack 發布第73期,收錄23篇主文及《Line Noise》8篇額外文章。內容涵蓋漏洞利用、逆向工程、機器學習、硬件及相關歷史文化,並探討機器學習後門和對 AI 系統的信任。

  20. HuggingFace Daily Papers(社區熱門論文)47

    不要重新採樣:長時程 RL 專家的離線策略整合

    MRPD 透過重播專家的訓練紀錄,將多個長時程 RL 專家整合為一個模型,毋須重新採樣、呼叫環境或獎勵模型。在推理、搜尋和 SQL 三個智能體領域,MRPD 的學生模型表現最佳,勝過同一批專家訓練的 MOPD,整合成本約為訓練專家所需計算量的七分之一。研究亦指出,訓練紀錄的先後次序比數量或獎勵更重要。

  21. HuggingFace Daily Papers(社區熱門論文)43

    編碼智能體原位訓練光學神經網絡

    研究提出 optics as code,讓編碼智能體僅憑測量數據原位訓練光學神經網絡,並以可解讀的光學元件重新參數化網絡。該方法在分類和圖像編碼上優於無梯度方法,並以較低成本達到接近透過校準模型進行反向傳播的效果。

  22. HuggingFace Daily Papers(社區熱門論文)42

    Accord:利用單部相機與 IMU 進行通用線上公制定位與稠密建圖

    Accord 提出一套利用單部相機與 IMU 即時建立稠密公制地圖的方法,結合視覺慣性里程計、深度基礎模型及因子圖融合子地圖。在五種公開相機-IMU 配置及一個新 Phone-rig/GoPro 數據集上,Accord 在每個平台的 5 cm 平均 F-score 均排名第一或第二。Accord 與 Phone-rig 數據集均以開源形式提供。

  23. HuggingFace Daily Papers(社區熱門論文)45

    TabBioMed:大型生物醫學表格學習基準

    TabBioMed 建立涵蓋 94 個經整理公開數據集的生物醫學表格學習基準,統一分類、回歸及多目標任務的評估,並比較 23 個模型。基礎模型整體預測表現最佳,但在推理時間或訓練成本受限時,樹模型和經調校的多層感知器仍具競爭力,且往往表現較佳。研究同時公開數據集及切分、預處理程式碼、基線模型和結果。

  24. HuggingFace Daily Papers(社區熱門論文)60

    語言模型的一般智能可彌補特定訓練資料缺失

    研究發現,語言模型的一般智能可彌補特定訓練資料缺失,資料過濾會延遲相關技能形成,而非永久排除能力。研究以棋類、分子字串、括號語言及網頁文本等任務隱去特定技能資料,並發現小模型表現可用來預測大模型技能延遲時間。另有 7-billion-parameter 模型在接觸被隱去的程式語言資料後恢復相關能力;模型智能越高,恢復技能所需資料越少。

  25. HuggingFace Daily Papers(社區熱門論文)51

    WM^MLLM 將多模態大型語言模型轉化為世界模型

    論文提出 WM^MLLM,利用多模態大型語言模型(MLLMs)維護外部全景狀態及修訂歷史,從單張圖像生成可持續編輯、可精確重訪的世界。模型把每項請求轉為全景狀態操作,選擇局部編輯區域並檢查候選結果;同一修訂版本的重訪可重現原視角,通過檢查的局部編輯不改動區域外像素。

  26. HuggingFace Daily Papers(社區熱門論文)53

    Squoosh Bench 評估 UX-1 在 318 項歷史網站 A/B 測試中的表現

    Squoosh Bench 評估 UX-1 對歷史網站 A/B 測試結果的預測,在 318 項測試中正確判定 267 項,準確率為 84.0%。UX-1 以人類瀏覽數據微調,每個測試組模擬 1,000 名購物者;Qwen3 Next 80B 正確判定 196/318 項,準確率為 61.6%。UX-1 在 126 項測試中預測變體勝出,其中 118 項實際勝出、4 項落敗,另有 4 項結果不明確。

  27. HuggingFace Daily Papers(社區熱門論文)45

    WAM-Policy:以在策略蒸餾實現四足行走操作的世界動作模型

    WAM-Policy透過兩階段流程,將世界動作模型轉化為可依語言指令執行四足行走操作的策略。在包含10項模擬任務的QLM-Bench上,遷移策略得分77.0%,OPSD學生模型得分76.7%,取樣速度快14倍;加入任務專屬RL及M-OPD後,得分升至85.0%。研究亦將OPSD學生模型部署於實體Unitree Go2 Air。