跳到正文
10月30日週五
  1. HuggingFace Daily Papers(社區熱門論文)36

    AuditFL:為開放式聯邦學習提供合約支持的結算層

    AuditFL 提出一個由區塊鏈支持的結算層,讓開放式聯邦學習的訓練輪次可供審計並受經濟規則約束,同時保留聚合器。該系統將訓練和聚合保留在鏈下,鏈上記錄內容識別碼及經濟狀態;在最多 200 個客戶端的測試中,AuditFL 保持 Plain FL 的學習軌跡,並在多種故障測試下完成輪次結算。

  2. HuggingFace Daily Papers(社區熱門論文)50

    DAMI:用於提升門控線性注意力長上下文檢索的雙軸記憶初始化

    DAMI 為 GDN、GDN2、KDA、Mamba-2 和 RWKV-7 提出雙軸記憶初始化方法,聯合設定控制衰減係數的 A_log 與 dt_bias 初始值。100M 參數、5B tokens 的預訓練實驗中,五種架構的 RULER 檢索準確率平均較隨機初始化高 5.29–16.71,整體能力基本不變。這種方法無需增加參數或更改運算子,也不影響推理。

  3. HuggingFace Daily Papers(社區熱門論文)49

    AI 智能體在工具結果不明確及部分執行情況下的證據引導式任務恢復

    研究提出面向 AI 智能體的證據引導式任務恢復方法,處理工具結果不明確及部分執行後的安全完成判定。在 19 個任務系列的 58 組配對比較中,規劃建議認證完成 30 次,證據提示則為 9 次,相差 36.2 個百分點(exact family sign-flip p=0.0078)。全部 116 條執行軌跡均通過獨立重播。

  4. HuggingFace Daily Papers(社區熱門論文)40

    DecisionRank:面向決策模型重排器的 on-policy 蒸餾

    DecisionRank 以 item-space on-policy 蒸餾,把生成式教師模型的排序知識轉移至決策模型,在檢索基準上達到最先進表現,推理速度亦顯著提升。1.7B 參數的 DecisionRank 在 TREC DL19–23 超越 27B 生成式教師模型;8B 版本在 TREC DL 上快 24.5 倍,在 BRIGHT 上快 16.7 倍。

  5. HuggingFace Daily Papers(社區熱門論文)35

    EvoTeam:透過團隊演化實現多智能體協作

    EvoTeam 提出以協作為核心的演化框架,根據執行經驗同步調整多智能體團隊組織、互動規則及個別智能體技能。框架維護可重用的團隊庫,選擇或建立團隊,並以團隊專屬互動規則引導協作;四項基準測試顯示其有效性,程式碼已提供。

  6. HuggingFace Daily Papers(社區熱門論文)43

    無需訓練的 MoE 專家剪枝:替換算子與路由語義

    研究比較無需訓練的 MoE 專家剪枝替換算子,發現閘門縮放及校準資料域會顯著影響效能,且沒有單一算子在所有設定中佔優。剪枝率為 50% 時,tilted novice 增加 1.2-1.8% 參數量,在 OLMoE 和 Moonlight 分別較常數替換提升 3.45 及 1.37 分。

  7. HuggingFace Daily Papers(社區熱門論文)44

    LARC:統一多模態模型的連續空間潛在推理

    LARC 為統一多模態模型引入連續空間潛在推理,改善圖像生成質素,並支援測試時擴展,避免離散 token 瓶頸。其訓練分兩階段:課程式監督微調,以及資訊增益強化學習;後者無需真值監督。LARC 在 GenEval 上取得最先進表現,較 BAGEL 提升 7%p,並在平行及循序測試時擴展策略下,展現優於基於 token 生成的表現。

  8. HuggingFace Daily Papers(社區熱門論文)40

    MUON-RT 重用教師軌跡,實現面向 LLM 自蒸餾的無動量 Muon

    Muon-RT 重用教師與學生的位移,免除隱藏權重矩陣的獨立動量緩衝區。在 Qwen2.5-7B-Instruct 的 SDFT 中,其平均準確率較 AdamW 高 2.6 點、持久記憶體用量少 42%;較 momentum Muon 高 5.4 點、記憶體用量少 27%。在 Olmo-3-7B-Instruct 的 SDPO 中,平均準確率較 AdamW 高 2.0 點。

  9. HuggingFace Daily Papers(社區熱門論文)37

    輔助獎勵如何幫助小型語言模型從經驗證的推理軌跡中自我改進並評估遷移能力

    研究比較信心指標 SC 與結合全局熵變化和局部平滑度的 UID-Conj.,評估輔助軌跡偏好對小型語言模型自我改進及遷移的作用。Qwen3-1.7B 在 30 道 AIME 題目上的在線實驗中,UID-Conj. 較未修改的 TTRL 在適應基準及三個遷移基準的宏平均高 2.08 個百分點;離線加權 SFT 中則較均勻加權高 1.93 個百分點。

  10. HuggingFace Daily Papers(社區熱門論文)45

    WeFair:面向短影片搜尋個人化查詢改寫的保真度感知人類回饋對齊

    WeFair 以示範、偏好和驗證三階段的人類回饋,改善微信短影片搜尋的個人化查詢改寫,減少意圖偏移。離線實驗中,WeFair-2B 的整體準確度和意圖保留表現優於強基線;線上 A/B 測試中,有效影片觀看率相對提高 2.593%,查詢改寫率相對降低 2.350%。WeFair-2B 已部署於微信短影片搜尋系統,每日服務超過 100 million 次查詢。

  11. HuggingFace Daily Papers(社區熱門論文)57

    MoLRSI:用於分子發現的遞迴自我改進 AI 智能體

    MoLRSI 是一個用於分子發現的 AI 智能體,結合工作流程及模型架構的系統性優化與持續跨任務記憶,遞迴改進搜尋策略。抗生素發現實驗中,其篩選命中率為 15.9%,高於使用相同訓練數據和篩選庫的先前專家工作流程(8.7%)。

  12. HuggingFace Daily Papers(社區熱門論文)42

    DeFT-RAG:將多跳問題拆解為可重用答案的自包含子問題

    DeFT-RAG 透過逐步生成自包含子問題、以規則更新和輕量決策模型處理部分工作,以及快取和重用答案,改善多跳問答。在 MuSiQue、2WikiMultiHopQA 和 HotpotQA 上,使用 gpt-4o-mini 和 Qwen3.6 作為基礎模型時,其準確率均勝過 13 個基準方法,輸入 LLM 的 token 數亦少於其他迭代式方法。

  13. HuggingFace Daily Papers(社區熱門論文)37

    跨提示詞重用實體替換回答

    研究測試固定模型權重下,隱藏狀態重用能否把實體替換回答的變化跨英文事實問題轉移。以其他關係的問題作來源時,0.5-1B Qwen 和 Llama 分別消除 45% 和 49% 的答案不變誤差;恢復預設 BOS token 後,流程在三個 cohort 均通過比較,成效為 58-68%。效果亦受格式和 cohort 影響。

  14. HuggingFace Daily Papers(社區熱門論文)40

    TurnTurk-GPT:土耳其語文本發言輪替預測

    TurnTurk-GPT 是以 GPT-2 微調而成的土耳其語文本發言輪替預測器,在錄音分離及説話者分離評估中均勝過多語言偵測器。移除輪次末詞語的後綴,平均精確率(AP)最多下降 44%;移除句內詞語則下降 2%,顯示輪替線索與動詞句末形態有關。模型及評估流程已公開發布。

  15. HuggingFace Daily Papers(社區熱門論文)54

    CogBattery:以人類為參照評估語言模型的認知任務行為與結構

    CogBattery 以 13 種認知範式的文字改編測試 54 個開放權重語言模型,並與各範式原研究的人類數據比較。模型在 n-back 誘餌上的反應方向與人類相同,但對一般非目標項目出現更多誤報;多數模型的信心區分正確與錯誤答案的能力不及人類,且多數模型總是選擇同一賭注,包括分類準確的模型。模型規模與人類相似度並不一致,預設認知分組的預測表現也未可靠勝過同規模的隨機分組。

  16. HuggingFace Daily Papers(社區熱門論文)50

    WMIP:受工作記憶啟發的大語言模型累積狀態追蹤探針

    WMIP 是一套以程式計算答案、用於測試大語言模型累積狀態追蹤能力的探針,涵蓋 3 至 100 次更新及不同查詢和輸出協議。18 個模型在單步算術的準確率為 84.9%,但在需處理三至七次更新的核心項目上只有 31.7%;更新達 50 次後,沒有模型的準確率超過 10%。加入書寫步驟並要求答案置於末行後,核心準確率升至 88.0%,研究亦公開生成器、測試項目、評分程式碼及模型回應。

  17. HuggingFace Daily Papers(社區熱門論文)48

    RoboArchitect:以持久記憶自動化設計機械人智能體

    RoboArchitect 透過觀察機械人執行結果並反覆修改控制程式碼,自動設計凍結策略周邊的智能體控制框架,無須更新模型權重。多個基準測試中,未見場景的平均成功率由 9.7% 升至 43.3%,未見任務則由 12.7% 升至 40.2%。框架亦會累積持久記憶,將已學到的經驗帶入後續決策。

  18. Hacker News 熱門(buzzing.cc 中文翻譯)66

    殭屍數據:AI 引用的數字從何而來

    Trakkr Research 追查五款 AI 助手引用的 1,285 項統計數字,只有 40% 可追溯至內容一致的研究。這些數字來自五款助手對 200 個需要數字回答的問題;另有 8% 找到研究但數字或背景已改變,40% 無法核實,11% 的引用鏈未找到研究,1% 的頁面無法載入。只有 21% 的首個引用頁面是原始研究,54% 是公司網誌;ChatGPT 的數據來源核實率最高,為 57%。

  19. Figma AI / Agent / Make48

    Figma 如何訓練熟悉 Figma 編輯的模型

    Figma 以監督式微調和強化學習訓練專用設計編輯模型,讓模型能理解 Figma 原生檔案格式並修改畫布上的設計。早期 Llama 3.3 70B 模型使用逾 250,000 個訓練例子;最新編輯模型則以 Qwen 3.8 27B 為基礎進行後訓練。Figma agent 的典型任務速度提升約 20%,在與專家設計師的對比測試中,勝過或追平上一代正式版 agent 的比例為 62%。

  20. DEV Community50

    六款 AI 模型為學生作文評分:引用學生原句準確嗎?本次三項預測均成立

    這項 FeedType 數據集研究檢查六款大語言模型在學生作文回饋中的引文,三項事前預測均獲支持。在 27,462 條引文中,1.18% 改動學生原文;4–6 詞短引文改動率為 2.29%,11+ 詞長引文為 0.68%。小模型組改動率為 3.85%,四款較大型模型組為 0.81%,但 LearnLM 的大量且幾乎都忠實的引文拉低後者平均值;Mistral-24B 的改動率最高,為 13.2%。

  21. The Decoder70

    Anthropic 研究發現專家會採納 AI 智能體的隨機偏好,並以為建議出自自己

    Anthropic以50名因果推論專家進行實驗,發現他們常採納AI智能體經擲硬幣隨機指定的分析偏好,並多數認為最終建議出自自己。在四項分析決策中,參與者有86%採納智能體偏好。智能體對最終政策建議的直接影響未達統計顯著,但52%受試者認為建議較像自己作出,另有35%認為大部分或完全出自自己;研究建議智能體先詢問專家立場,或同時為正反兩方提出論據。

  22. Microsoft Research37

    Microsoft Research Focus 第 97 期

    Microsoft Research Focus 第 97 期分享 Microsoft 研究社羣的最新成果,涵蓋智能體、工作中的 AI 使用方式及延伸時段天氣預測。ForkPilot 在六項基準測試中表現媲美最佳現有方法,並最多減少 59% AI 處理需求。CABRA 顯示,理解陌生程式碼庫仍是編碼智能體面對的主要障礙之一。

  23. Cartesia 產品與研究65

    Cartesia 發表 H-Nets 規模擴展研究:從 Tokens 到 Bytes(一)

    Cartesia 研究團隊分享改良版 H-Nets 的規模測試,結果顯示模型可在模型內動態分塊,並在語言建模中提升計算效率。受控的單階段 H-Net 比較中,BPE Transformer 需 1.28× 計算量才能達到相同驗證損失;在 Paloma 和 OLMES 評測中,所需計算量分別是 H-Net 的 1.83× 和 2.06×。

  24. Amazon Science48

    加快語言模型在旅遊應用中的運行速度

    研究團隊與 Booking.com 結合知識蒸餾(KD)和 Medusa,優化旅遊服務使用的語言模型,以改善推理速度和成本效益。以 TinyLlama(1.1 billion parameters)作為學生模型、Llama-3.1(70 billion parameters)作為教師模型,最終模型達到教師模型的品質,速度提升 10 至 20 倍,成本低於三分之一。

  25. Unite.AI48

    BBERT 利用 AI 識別土壤樣本中隱藏的細菌 DNA

    耶路撒冷希伯來大學及合作機構開發 BBERT,能識別短至 100 個鹼基的細菌 DNA 片段。基準測試中,BBERT 分辨細菌與非細菌 DNA 的準確率約為 90%,識別蛋白質編碼片段及其讀取框的準確率分別約為 88% 和 96%。團隊將工具應用於 1,969 個土壤 DNA 數據集;模擬混合樣本中,平均組裝時間由約 66 小時降至 25 小時。

10月29日週四
  1. Hacker News 熱門(buzzing.cc 中文翻譯)63

    Dream 研究人員揭露攻擊者利用 PHP2Shell 與 Fragnesia 漏洞鏈取得 25 台伺服器 root 權限,涉及美國政府關聯環境

    Dream 研究人員披露,攻擊者利用 PHP2Shell 與 Fragnesia 漏洞鏈取得 25 台伺服器的 root 權限,其中涉及美國政府關聯環境。攻擊者從約 19,000 台對外開放的防火牆篩選出 240 個目標,透過持久化反向 SSH 通道進入內網,入侵內部管理伺服器,並解密 LDAP 服務帳戶密碼、列舉 Active Directory 用戶和羣組。

  2. HuggingFace Daily Papers(社區熱門論文)35

    沒有通道被遺忘:透過殘差閘理解擴散模型加速

    研究發現,REPA 等擴散 Transformer 加速方法會重組 AdaLN-Zero 殘差閘 α,而較廣泛的閘參與度與較佳生成品質相關。研究提出無需教師模型的徑向目標,透過特徵範數正則化促進廣泛參與;在 ImageNet 256times256 的 SiT-B/2 實驗中,該方法的 FID 優於 dispersive loss。

  3. HuggingFace Daily Papers(社區熱門論文)42

    視覺基礎模型中的空間狀態表徵探究

    研究以 10 種表徵檢視視覺基礎模型的空間能力,發現可讀取場景不代表能持續追蹤物件、預測空間更新或可靠地支援目標導向行動。物件持續性和可行動性建基於相機位姿讀取,特徵預測則建基於可見場景讀取。各項能力亦隨任務、網絡層及觀察前綴長度而異。

  4. 新浪科技44

    研究:電池能量密度突破 500Wh/kg,太陽能飛機可在高空連飛數月

    一項由美國主導的新研究指出,500 Wh/kg 是太陽能飛行器在大氣條件適宜的區域連續飛行數周至數月的關鍵電池能量密度門檻。這約為商用電動汽車電池(約 250 Wh/kg)的兩倍,現有實驗型特種電池約達 400 Wh/kg,但成本仍是阻礙。研究提出的是研發指標,並非已造出新型電池;持續飛行亦取決於當地大氣條件。

  5. IT之家40

    研究:太陽能飛機高空連飛數月,電池能量密度需達 500Wh/kg

    一項由美國主導的新研究指出,長航時太陽能飛行器的電池能量密度需達 500 Wh/kg,才有望在大氣條件適宜的區域持續飛行數周甚至數月。這個目標約為商用電動車電池能量密度的兩倍,目前實驗型特種電池約達 400 Wh/kg,但成本仍是阻礙。研究提出的是研發指標,並非已造出符合目標的電池或完成數月飛行。

  6. HuggingFace Daily Papers(社區熱門論文)45

    rTaste:研究智能體有研究品味嗎?早期研究判斷評估

    rTaste以7篇近期NLP論文測試六個前沿模型的研究智能體,評估它們提出和排序新實驗、設定門檻及預測結果的能力。415項實驗中,194項被評為可靠、有價值且具新意,當中只有73項同時超越種子論文且並非顯而易見。智能體首選比隨機選擇更常符合評審最看重的實驗,但預測表現未能證明優於只閲讀論文和實驗計劃的同模型實例。

  7. Unite.AI74

    Pluto Security 詳述 Hugging Face 上的 Load/Mine 加密貨幣挖礦與後門活動

    Pluto Security 發佈 Load/Mine 報告,披露透過 Hugging Face 惡意模型倉庫散播的加密貨幣挖礦及後門活動。報告統計 7 個 Hugging Face 帳戶涉及 31 個惡意倉庫,另有 ModelScope 鏡像;記錄下載量為 29,818 次,計入 13 個關聯倉庫後為 32,376 次,這些數字並非已確認感染或獨立受害者數。