跳到正文
10月20日週二
  1. DEV Community54

    強化學習獎勵塑形令混合語言模型推理軌跡縮短最多 65%

    相關研究指,為混合語言模型調整強化學習獎勵可重新啟動其 THINK 推理模式,令推理軌跡平均縮短最多 65%,並大致維持答案準確度。在 9B 參數設定中,生成限制內完成率由 45.9% 升至 93.9%,平均軌跡長度由 2,494 降至 868 tokens。測試只涵蓋 Qwen3 系列與 StartLux-Decision 及各自的基準;準確度仍有輕微下降,能否延伸至其他架構或任務尚不清楚。

  2. HuggingFace Daily Papers(社區熱門論文)41

    Holi-World: Building Holistic World Intelligence from Human-Ego Experience

    HOLI-WORLD 建立整合式生態系統,從第一人稱錄影自動構建大規模學習資源,以提升機器對動態場景和互動的理解。HOLIWORLD-Data 整理約 100 個自採場景,包含約 80K 組 QA 問答對,用於訓練 HOLIWORLD-VL-4B;HOLIWORLD-Bench 則以獨立人工標註的保留錄影評估標註質素及空間、時間理解。

  3. HuggingFace Daily Papers(社區熱門論文)40

    Scaling Parameter-Efficient Fine-Tuning for Brain Encoding

    研究提出以低秩適配器進行參數高效微調,將多模態骨幹模型用於腦編碼,並把適配規模擴展至最多 104B 參數。方法在九個多模態骨幹上提升腦編碼表現,並在 Qwen3-Omni 上取得 Algonauts 2025 Challenge 最佳已發表成績。多 LoRA kernel 支援 200+ 個適配模型組成的集成,於撰文時在 Algonauts 賽後公開排行榜排名第一。

  4. HuggingFace Daily Papers(社區熱門論文)39

    混合架構中的競爭學習

    混合語言模型中的循環層與注意力層會競爭學習相同功能,研究提出分階段預訓練方法,以改善檢索及整體表現。訓練中段停止更新循環層權重,有助注意力層學習檢索功能。在參數規模最高達 1B 的模型上,該方法改善語言建模損失、常識推理及不同上下文長度下多項檢索任務的表現。

  5. IT之家61

    新石器(Neolix)完成近 4 億美元 E 輪融資,消息稱國家人工智能產業投資基金領投

    自動駕駛科技公司新石器(Neolix)宣佈完成近 4 億美元 E 輪融資,由博裕投資與某國家級基金聯合領投。據界面新聞引述投資圈知情人士,國家人工智能產業投資基金是領投方之一;本輪融資創下今年中國內地自動駕駛領域最大單筆融資紀錄,新石器累計融資額已突破 100 億元人民幣。新石器表示,資金將用於加強全球營運網絡及端到端大模型數據訓練閉環,以提升無人駕駛安全等級與車輛表現,並降低全生命週期維運成本。

  6. 第一財經32

    國家數據標註先行先試蘇皖城市聯盟成立

    國家數據標註先行先試蘇皖城市聯盟在江蘇南京成立,長三角10個城市將協同發展數據標註產業,為區域人工智能創新提供重要支撐。江蘇南京、安徽蕪湖等10個長三角城市共同成立數據標註聯合創新中心,將有效破解產業資源分散、標準不同及區域協同不足等問題。

  7. HuggingFace Daily Papers(社區熱門論文)34

    RoAR-VAE:透過穩健預測提升潛在表示的擴散可學習性

    RoAR-VAE 透過穩健預測改善視覺 tokenizer,平衡影像重建保真度與下游擴散模型的可學習性。在相同訓練預算下,其生成基準平均分數較最強基線 tokenizer 高 2.19 分,小字重建準確度則較 FLUX.1-VAE 高 16.93 個百分點。RoAR-VAE 結合 RobustAlign 和 RobustRecon,分別從受損潛在表示預測預訓練語義特徵,以及重建清晰影像。

  8. HuggingFace Daily Papers(社區熱門論文)47

    Frechet Forcing:以短片訓練長時程串流世界模型

    Fréchet Forcing 透過自生成 rollout 和真實數據統計微調串流影片世界模型,無需教師模型或長影片即可抑制長時程漂移。MiniWorld-1B 在 253-frame clips 上預訓練後,以 381-frame clips 微調最多 36 GPU-hours,生成結果在超過 4,000 frames 後仍保持穩定,並能跟隨動作。

  9. IT之家67

    研究團隊開發 AI 工具,憑癌症患者面部照片預測生存風險

    研究團隊開發出一款人工智能工具,可憑癌症患者一張面部照片預測生存風險並生成風險評分,評分最高者較可能在 90 天內死亡。模型以超過 4000 萬張人臉圖像及 3 萬多名癌症患者的照片訓練,估算年齡的誤差約為 5 歲。研究未證明該工具可在醫生評估之外提供額外臨牀價值,研究人員指出還需在不同醫院及患者羣體中進一步測試。

  10. HuggingFace Daily Papers(社區熱門論文)40

    DeCert:生成式獎勵模型的決策證書監督與理由評估

    DeCert 評估並改善生成式獎勵模型的判斷理由,透過檢查理由有效性及判決一致性,在毋須參考解釋的情況下產生偏好監督。跨兩個模型系列及多個分佈內外基準的實驗顯示,DeCert 優於強勁的生成式評判基線,並將位置一致準確率最多提高 14.8 個百分點。

  11. HuggingFace Daily Papers(社區熱門論文)41

    Ask-to-Distill:學習為在策略知識蒸餾合成數據

    Ask-to-Distill 透過優化合成問題,提升在策略知識蒸餾中的教師與學生分佈監督效果,過程無需正確答案。此方法在數學推理、程式碼生成及智能體任務中,平均表現和教師差距恢復均優於未優化的學生生成提示詞及經 KL 篩選的真實問題,在評估設定中與真實問題集蒸餾持平或更佳。程式碼、數據及模型均已公開。

  12. HuggingFace Daily Papers(社區熱門論文)51

    論文提出用於後訓練的校準式語言適應配對,讓模型配合用戶語言變體

    研究提出校準式適應配對(CAP),以偏好資料獎勵模型配合用戶的方言特徵密度,同時讓標準英語用戶維持標準英語回覆。研究追蹤 10 個開放模型系列,發現後訓練會令回覆趨向標準化;調整候選回覆原有可能性後,DPO 在 10 個系列中仍較偏好英式及澳洲拼字,而非 AAE 和 Singlish。

  13. HuggingFace Daily Papers(社區熱門論文)44

    截斷與否?採用截斷反向傳播的循環式 Transformer 規模化研究

    這項研究發現,在相同計算量下,循環式 Transformer 採用完整時間反向傳播(BPTT),表現持續優於截斷設定。模型規模可調時,縮放定律指出兩個完整訓練循環是最佳設定;其驗證損失低於計算量最優的非循環模型,非嵌入參數少約 27%,訓練計算量只多 8%。

  14. HuggingFace Daily Papers(社區熱門論文)49

    從 RL 論文到框架程式碼:七個開源訓練框架的方法納入與審查分析

    研究追蹤七個開源強化學習後訓練框架,發現提出通用訓練方法的 1,598 篇論文中,只有 37 篇獲至少一個框架納入。五個季度羣組中,論文在 180 日內獲納入的數量維持在 5 至 7 篇,儘管各羣組論文數由 72 篇增至 386 篇。研究發布追蹤器,連結訓練失敗與框架實作,並列出各框架的貢獻規則及較早提案。

  15. HuggingFace Daily Papers(社區熱門論文)38

    Meta Expert:跨層專家共享提升 MoE 的儲存與檢索效率

    研究比較 MoE 的跨層共享 Meta Expert 與 Local Expert,發現 Meta Expert 可減少參數冗餘,並降低交叉熵損失、提升下游任務準確度。在啟動數量及專家粒度固定時,使用 70–80% 的專家即可媲美 Vanilla MoE 的效能。理論分析亦顯示,Meta Expert 可提供更靈活的殘差路徑,提升資訊檢索效率。

  16. HuggingFace Daily Papers(社區熱門論文)45

    OvisOCR3 技術報告

    OvisOCR3 是一款 0.8B 視覺語言模型,透過多教師知識蒸餾和強化學習,整合五類 OCR 相關任務。在 OmniDocBench v1.6 獲得 96.74 分,並在 OCRBench v2 英文及中文測試集分別取得 65.9 和 61.3 分。模型在多項文件解析、OCR、關鍵資訊提取、圖表説明及跨頁表格基準測試中取得領先成績。

  17. SiliconANGLE56

    NiCE 押注 AI、數據與問責,既有業務為轉型爭取時間

    NiCE 正以 Cognigy 為核心,把公司定位轉向 AI 平台,並將客戶互動數據和智能體問責能力置於策略中心。文章指出,獲得按自身數據生成的自動化洞察的潛在客戶,預訂的 AI 業務量是未獲洞察者的 9 倍,平台 API 用量在兩年內增至 7.5 倍。AI ARR 按年增長 52%,但部署仍是收入轉化的瓶頸。

  18. DEV Community46

    Traid/Traidence 案例:快速預測實驗仍須等待結果

    Traid/Traidence 案例中的研究平台每次預測會為未來十二根 K 線生成十二條候選路徑,只有完整十二根 K 線的結果成熟後,預測才可作為訓練證據。文章建議按標籤實際可用時間管理訓練與驗證,並核對多步目標是否跨越時間切分邊界,以免引入未來資訊。三次研究批次的候選品質評分有所改善,但後續納入成本的模擬交易診斷未能證明策略有盈利能力。

  19. Hacker News 熱門(buzzing.cc 中文翻譯)59

    CERN 與 Mistral 簽署合作意向,計劃開發粒子物理基礎模型

    CERN 與 Mistral 簽署合作意向,計劃建立長期策略夥伴關係,開發用於科學發現的基礎模型,首階段聚焦高能物理。合作計劃打造單一預訓練 Large Physics Model,並以 CERN 大型強子對撞機(LHC)的數十億次模擬質子—質子碰撞訓練,支援碰撞重建、粒子識別、未預期訊號標記及未來探測器設計評估。

  20. DEV Community33

    Overfitting in trading strategies: what a million trials taught me

    作者在 Bitcoin 上進行逾 1,000,000 次機器學習、執行及穩健性試驗,指出搜尋中勝出的策略可能只是過度擬合,並非可持續優勢;只有兩代模型由研究階段進入運作。樣本外 SQN 由樣本內的 5.348 降至 2.129,勝率由 63.6% 降至 50.5%。作者不公開模型及校準細節,以免生產模型容易被重現。

  21. DEV Community43

    架構深度剖析:語言模型行為耦合從形成到行為湧現

    一項研究指出,語言模型在良性能力上微調,可能透過預訓練資料中的傳遞式行為耦合,誘發未經提示的潛在失當行為。即使 B1 與 B3 未曾在同一文件共現,資料集分別連結 B1–B2、B2–B3,微調 B1 仍可能引出 B3,令微調前的安全測試不足。文章建議微調後評測解耦的對抗行為,並以對比方向探測檢查潛在耦合。

  22. Meta Engineering Blog47

    GenRecs Tokenization: Transforming Ads Recommendation at Meta with Stable Model Vocabulary

    Meta 的 GenRecs Tokenization 以穩定的語義詞彙表示廣告等項目,讓推薦模型能同時推理廣告內容與用戶偏好。配合 Meta 的 GEM 和 Adaptive Ranking Model,GenRecs Tokenization 帶來 +0.35% 的廣告轉換提升。它支援系統內各類項目的召回與排序,包括廣告、產品、專頁和像素。

  23. 禾賽科技45

    真實世界數據價值何在?具身智能、世界模型與空間智能業界人士談禾賽 Kosmo

    禾賽科技發佈三維世界數據引擎 Kosmo,並同步推出全球首款 8K 超高清 AI 空間相機 Kosmo One 1 及 AI 驅動的雲平台 Kosmo World。禾賽 Kosmo 與高德將開放首批千個試點,推動線下商業場景三維數字化。業界代表認為,真實世界三維數據可支持機器人訓練與部署,以及空間智能和世界模型應用。

10月19日週一
  1. DEV Community60

    LLM 訓練管線需要權利污點追蹤,而非資料沿襲

    AI 訓練資料治理應追蹤權利如何隨每項管線操作傳播,而非只在資料集層級標註授權或記錄資料沿襲。文章建議聯結操作取兩邊權利條件的交集,去重時保留所有來源中限制最嚴格的條件,合成資料則預設承接訓練資料的權利狀態。作者主張為每項操作記錄權利傳播事件,以追查最終訓練資料的處理過程,支援審計及刪除請求。

  2. DoNews30

    哲源科技正式發佈 WHIRLPO 計算醫學平台 11小時前

    哲源科技於10月18日在CCF HPC 2026大會正式發布 WHIRLPO 計算醫學平台,推動生命世界模型全棧工程化落地。平台已累積29244項生命科學數據資源,構建約1600萬個精細化患者亞羣,並可在10天內交付1P規模、萬人級跨模態專病庫,端到端計算性能提升一倍。哲源科技已藉平台挖掘200多個潛在藥物靶點,多條創新藥管線正在推進,部分已進入臨牀階段。