跳到正文
目前篩選:論文
11月15日週日
  1. HuggingFace Daily Papers(社區熱門論文)47

    居中消融:為何末層方向消融效果不足或導致崩潰,以及一種封閉形式的修正方法

    研究提出 Centered Ablation(CA),以封閉形式從消融方向中投影去除共同模式,解釋並修正標準末層方向消融效果不足或令文本崩潰的問題。在 8 個模型上,CA 在標準方法效果不足時將攻擊成功率提高 29 和 46 個百分點,並將 Gemma-2-9B 的崩潰率由 50% 降至 1%。研究亦指出,兩種標準安全評審對崩潰文本的評分方向相反,可能造成 46 個百分點的效果差異。

  2. HuggingFace Daily Papers(社區熱門論文)58

    JEPA4R:具身 JEPA 世界模型以 4D 點雲進行規劃

    論文提出 JEPA4R,一種以單部深度相機取得的點雲為觀測、在潛在空間預測及規劃,並透過凍結潛在表示上的策略頭執行動作的 JEPA 世界模型。解碼器生成的 4D 點雲在 200 步內平均點誤差維持在 1.1 cm 以內;在 MetaWorld 和 Adroit Relocate 分別取得 98.4% 和 88.0%,高於排名第二的 R3M 的 96.0% 和 65.3%。

11月14日週六
  1. MarkTechPost53

    Stanford 研究人員開源 Memorilla 記憶系統,凍結 LLM 僅需 16 個記憶 token

    Stanford 研究人員開源 Memorilla,這個記憶系統把整個文件集轉為 16 個記憶 token,供凍結的 LLM 使用。在 FactKG 上,凍結的 Qwen3-8B 配合 Memorilla 得分為 84.33%,高於完整上下文的 80.43%,文件 token 用量少 108 倍。程式碼、訓練配方及模型檢查點以 Apache 2.0 公開;可訓練的記憶模組有 194M 參數。

  2. 新浪科技41

    北大、微信安全團隊以《Pandora's Toolbox》梳理通用智能體全生命週期安全

    北京大學知識計算實驗室(KCL)與騰訊微信安全技術團隊聯合發佈綜述論文,提出從來源、編排、執行及持久反饋分析通用智能體安全的框架。論文梳理技能、用戶、記憶與環境四類攻擊面,並歸納安全評測和防禦方法。摘要指出,執行結果可能污染長期記憶、技能或項目工件,使風險跨會話延續。

  3. Baseten Base Labs:模型研究39

    梯度對齊獎勵:能否令監督轉為 on-policy?

    Baseten Base Labs 探討梯度對齊獎勵能否以學生模型生成的樣本計算梯度,同時以專家示範提供學習訊號。研究指出,利用張量運算可用兩次標準反向傳播,高效計算完整對齊獎勵,實際開銷不大。實驗以 Qwen3-8B 和 Opus 5.5 生成的示範測試四數 Countdown,考察模型能否擬合及會否過度貼近示範原句。

  4. 新浪科技57

    香港科技大學如何為 AI 搜尋結果中的圖片編號,讓智能體跨工具調用

    香港科技大學 MMSense Lab 提出視覺原生智能體框架,為圖像分配編號並存入同一圖像庫,讓不同工具在解題流程中接續調用同一張圖。團隊另提出 ODE,按模型 rollout 的解題紀錄修訂出題規則;在八項評測中,8B 模型平均準確率由 24.9% 升至 39.0%,30B 模型由 30.6% 升至 41.5%。

  5. 新浪科技50

    鋰電池由「鋰—氧配位」轉向「鋰—氟配位」

    南開大學與上海空間電源研究所等單位的科研團隊,以氟代烴溶劑開發新型電解液,將鋰電池的離子配位方式由「鋰—氧配位」轉為「鋰—氟配位」。實驗顯示,新體系的電池在同等體積和重量下,能量密度有望比目前頂級傳統鋰電池提升一倍以上,並改善低温性能。技術仍需解決溶劑低成本合成與純化、電極材料匹配及製造工藝等問題,工程化攻關可能需要1—2年甚至更長時間。

  6. Google Research85

    Google Research 公佈 Antigravity /teamwork 在數學、科學與工程領域的成果

    Google Research 公佈 Antigravity 的 /teamwork 結合 Gemini 4 models 在數學、科學及工程任務上的多項成果,並向外部研究人員和開發者開放相關工具。

    推薦理由:文章以數學、化學與系統工程案例,呈現 /teamwork 如何透過並行探索、獨立驗證和任務分工支援長程研究工作。

  7. Hacker News 熱門(buzzing.cc 中文翻譯)50

    模型在權重空間中傳播病毒?受控探測揭示權重編輯風險

    受控探測顯示,編輯器模型可直接修改目標模型的權重,令其產生錯誤資訊、拒絕正當請求或遺漏指定資訊,但結果未證明病毒已在模型間傳播。測試以 Qwen2.5-1.5B-Instruct 為目標模型、ChatGPT 6.1-Sol 為編輯器,三項探測均出現不同程度的附帶影響。作者建議透過驗收、記錄和恢復機制管控編輯及部署。

  8. DEV Community81

    作者重現權重檢查,五款中國開放權重模型呈現 Blackwell-class GPU 指紋

    DEV Community 作者 frank chu 重現 Will DePue 的權重指紋檢查,五款中國開放權重模型的初始權重特徵指向 Blackwell-class GPU。

    推薦理由:文章拆解如何從未訓練 embedding 權重比對隨機種子與 SM 佈局,並界定指紋所能支持的硬件推論及其不能回答的地點與合規問題。

  9. HuggingFace Daily Papers(社區熱門論文)43

    LogT:透過圖像進行邏輯推理以支援視覺搜尋

    LogT 提出全自動 SFT 數據引擎,透過邏輯鏈引導推理,生成具挑戰性的視覺問題及結構化工具使用軌跡。以 Qwen2.5-VL-7B 為基礎的 LogT-SFT 使用的數據少 3.1 倍、GPU 時數少逾 120 倍,表現仍超越結合 SFT 和 RL 訓練的 SOTA 方法。只採用簡單 RL 配方且不作工具專用設計,模型表現亦較先前複雜 RL 設定高 9.59 分。

  10. HuggingFace Daily Papers(社區熱門論文)44

    S1CogBench:System One 決策模型在認知實驗中能做甚麼、不能做甚麼

    S1CogBench 評估 System One 決策模型在 24 項認知任務上的表現,揭示其能力與限制。評測涵蓋 27 種評估模式、七個開源模型及 API 模型 Jev。結果顯示,模型在部分學習任務表現良好,但可能未能蒐集資訊或因應回饋調整;快速決策亦未必有充分證據支持。

  11. HuggingFace Daily Papers(社區熱門論文)47

    語言模型中的探測與引導,是否偏好相同方向?

    研究發現,在三個不同系列的指令微調語言模型中,最適合探測概念的隱藏狀態方向,並非最適合引導模型朝該概念改變的方向。這種差異在 60 組「層級—模型—概念」組閤中有 59 組成立,引導則一貫偏向較接近平均差異的方向。轉移至其他模型的探測方向可保留目標模型高於隨機水平探測表現的 81-91%;在 PopQA 引導模型回答「unknown」,可令不確定錯誤的棄答增加 18-44 個百分點。

  12. HuggingFace Daily Papers(社區熱門論文)47

    ResWAM:世界動作模型學習變化,而非保持不變的內容

    ResWAM以凍結的DINOv3特徵進行視覺殘差學習,並以0.5B雙分支DiT提升視覺語言動作策略成功率,同時降低訓練與推理計算量。模型總參數量為2.3B,在LIBERO-Plus、RoboTwin 2.0及RoboDojo分別取得81.1%、93.8%及9.40%的成功率,訓練計算量為2.7-4.0 TFLOPs,推理計算量為1.0-1.4 TFLOPs。

  13. HuggingFace Daily Papers(社區熱門論文)44

    LoopFill:面向 Looped Transformers 的流水線式多 token 推測解碼

    LoopFill 是一種免訓練的推測解碼演算法,將多 token 後綴草稿與淺層循環預測合併至同一草稿樹,並透過完整深度驗證保留自回歸輸出分佈。七項基準測試中,LoopFill 在 Ouro-2.6B 和 Huginn-3.5B 上較貪婪自回歸解碼分別加速 5.85 倍和 5.13 倍,較最強基線 LoopAhead 分別快 40% 和 25%。

  14. HuggingFace Daily Papers(社區熱門論文)45

    思考的價值:混合決策模型如何學習何時進行推理

    混合決策模型(HDM)透過自我路由區塊,在單次前向傳遞的隱式思考與自回歸推理之間作出選擇,並以 CDPO 訓練路由區塊。在 JevBench 上,HDM-4B 得分為 0.857,對比 Jev 的 0.851(+0.7%);中位延遲為 0.179\,s,對比 0.652(-72.5%)。在 MiniWoB 上,HDM-27B 將 token 成本降低 80.1%。

  15. Ai2 / Allen Institute for AI59

    Ai2 發佈 XYBench 基準,測試模型能否識別用戶問題中的錯誤假設

    Ai2 發佈 XYBench,這個包含 8,115 個真實問題的基準,用來評估 AI 助手能否識別用戶問題中的錯誤假設,並轉向處理其真正目標。在 Stack Overflow 題目中,五款受測模型只有 35–41% 的回答主要聚焦真正目標,人類參考答案則為 55%。另在二選一測試中,六款模型有 71–84% 選出目標導向答案,顯示模型選出好答案與自行寫出好答案的表現有落差。

  16. HuggingFace Daily Papers(社區熱門論文)33

    用於遞歸自我改進的經驗交接強化學習

    研究提出一種經驗交接強化學習方法,讓語言模型智能體在固定框架下學習執行任務、反思經驗及整理任務專用手冊,並按這些經驗對未來執行結果的影響來評估其效用。該方法在多項智能體基準測試中的留出表現高於基線方法。

  17. HuggingFace Daily Papers(社區熱門論文)47

    拆解多模態視覺編碼的設計選擇

    受控實驗顯示,多模態語言模型不需要預訓練視覺編碼器;從零開始與主幹模型聯合訓練的編碼器,表現可媲美預訓練編碼器,且毋須額外訓練階段。模型需要專用視覺容量,但不必在融合前配置;將視覺模組加入主幹早期層並在融合過程中訓練,表現相若,亦可縮短首個 token 的生成時間。

11月13日週五
  1. DEV Community45

    Marionette 的 AI 開發成本評測

    Codex 對 Marionette 等六種技術堆疊各生成四個 Pokémon 應用,並比較成本、耗時、token 用量與交付質素。Marionette 的假設 API 成本中位數為 $0.3107,每次生成中位數需 5.07 分鐘;四個應用均通過 54 項驗收測試,但成本並非實際帳單。