為何大型模型學得更多:容量、幹擾與罕見任務保留的影響
頁面內容稱此頁應重新導向 arXiv,卻未提供大型模型為何學得更多的研究內容或結論。頁面另列三項研究及其日期,並介紹 Silico 為可解釋性 Agent,以先進的可解釋性方法及基礎設施解釋、除錯並精確控制模型行為。
頁面內容稱此頁應重新導向 arXiv,卻未提供大型模型為何學得更多的研究內容或結論。頁面另列三項研究及其日期,並介紹 Silico 為可解釋性 Agent,以先進的可解釋性方法及基礎設施解釋、除錯並精確控制模型行為。
Goodfire Research 發佈 Predictive Data Debugging 研究,提出在訓練前預測偏好數據如何影響模型行為的方法。其預測與模型實際學到的結果達到 R² = 0.9,並可追溯至相關數據羣組。使用 Dolci 和 Tulu 3 數據集的案例顯示,DPO 可能削弱模型對部分有害請求的穩健性;以除錯數據訓練則可同時改善安全與效能。
Prime Intellect 在 verifiers 0.3.0 和 prime-rl 0.8.0 加入多智能體訓練與評估支援,並以 Agent 和 Env 抽象編排智能體互動。
Liquid AI 發佈 2.6B 參數的 LFM2.5-2.6B,這款智能體模型可完全在裝置端運行,支援規劃、工具調用及多步任務。基準測試中,它在所有指令遵循基準及幾乎所有工具使用基準領先對照模型,較大型模型則在編碼上佔優。CPU 解碼速度在 M5 Max 達 220 tokens/s、Ryzen AI Max+ 395 達 113 tokens/s,手機上為 30 tokens/s。
Prime Intellect 正式開放 Prime Sandboxes,提供以完整 Linux 虛擬機為基礎的沙盒,支援數萬個並發實例。服務可透過 CLI/SDK 獨立使用,亦整合 verifiers、prime-rl 和 Prime Tunnels;所有帳戶預設並發上限為 1,024。
Baseten Base Labs 以 Qwen3 模型測試持續將事實寫入權重,發現後續寫入會幹擾先前事實的提取;需要組合或抵受後續寫入的事實,透過上下文提供較可靠。連續寫入 20 次後,單句陳述訓練寫入的事實準確率為 1%,以廣泛學習資料寫入的事實則為 46%。研究亦發現,行為上被遺忘的事實仍保留大部分寫入所增加的對數概率;把被遺忘的研究事實放入提示詞後,相關問題準確率回升至 77–80%。
Baseten Base Labs 比較 Qwen3 不同規模先蒸餾再接受 GRPO 的效果,發現蒸餾在強化學習後的收益因模型大小和任務而異。經 80M RL response tokens 後,SFT + RL 在 0.6B、1.7B 和 4B 分別領先 11.3%、13.1% 和 2.1%,而 8B 則由 RL only 領先 6.4%。
LangChain 宣佈推出 LangSmith Fine-Tuning,開放用戶透過 smithtune 將 LangSmith traces 中成功的 runs 轉成監督式微調數據集,並在 Baseten Loops 訓練模型。
NAVER 在聖地亞哥舉行的 NeurIPS 2025 展示 9 篇研究論文及最新技術示範,研究聚焦效率、可控性與真實世界 AI。其中,KVzip 的記憶體節省幅度最高達 4 倍、速度提升接近 2 倍;CodeGEMM 令 70B 模型運行速度最高提升 8.93 倍。NAVER 亦提出 C-SEO Bench,並以開源方式發布數據集、程式碼及基準。
NAVER Cloud 的 Sommelier 論文於 ACL 2026 發表,提出供全雙工語音語言模型使用的多輪音訊預處理流程。Sommelier 開源流程包含説話者及發言時間標記、重疊語音還原,以及多個語音辨識模型輸出的交叉校驗。團隊以 83 小時對話資料進一步訓練全雙工 Moshi,插話內容回應評分由 0.765 升至 3.684,短回應頻率由 0.001 升至 0.052。
Thinking Machines Lab 與 NVIDIA 宣佈多年期戰略合作,計劃部署至少 1 吉瓦的下一代 Vera Rubin 系統,支援前沿模型訓練及大規模提供可自訂 AI 的平台。
Thinking Machines Lab 以經專家核驗的 BIRD-Platinum 資料進行 RLVR 微調 Kimi-K2.6,訓練出 text-to-SQL 模型 ReViSQL-K2.6。
Q Labs Research 提出 Dust,一種以模型中間表示擾動訓練 Transformer 語言模型、毋須反向傳播的零階最佳化方法。Dust 在每個 token 獨立加入擾動,令每個 token 成為虛擬族羣成員,並以一次前向傳播並行評估。
麥當勞在芝加哥聯邦法院面臨一宗擬議的全國性集體訴訟,原告指控其利用 AI 定價系統非法協調特許經營店與直營餐廳的餐單價格。訴狀稱,演算法以非公開數據訓練;路透社上週報道,定價引擎持續分析近 14,000 家門店每天數百萬筆交易數據。麥當勞否認 AI 設定餐品價格,稱指控屬主觀揣測、缺乏事實依據,並表示特許加盟商擁有定價決策權。
EDiS 提出圖神經網絡稀疏訓練框架,先一次性分解出可快取的邊不相交子圖,再按邊預算於各訓練週期重新組合。在相同邊預算下,EDiS 在 19 項同質、異質及大規模節點分類基準測試中比較 17 個基線,取得最高平均評分、最低平均排名及最小的與最佳結果差距。
KLPO 為大型語言模型智能體的非同步強化學習提出一種 KL 正則化策略優化框架,透過最小二乘法擬合採樣器軌跡的對數比率,不需重要性權重。它以每個提示詞一次 rollout 計算無評論家的更新,不需學習正規化器或為每個提示詞生成一組回應;SPPO、GPO、REBEL 和 BPO 均可視為 KLPO 的特例。
NP-OPD 在在策略蒸餾(OPD)中加入能力較弱的負向策略 rollout,為學生模型提供負向訊號,同時保留教師模型的正向監督。這種方法在 rollout 階段引入負向策略,而非修改蒸餾獎勵公式。實驗顯示,NP-OPD 在不同模型規模、生成模式、推理領域及 OPD 變體中均提升 OPD 表現,並能抑制負向策略偏好的 token,使學生模型遠離負向策略。
CDMD 提出無需訓練輔助 fake-score 網絡的無數據擴散蒸餾方法,並將樣本生成與速度估計統一於單一學生網絡。該方法只需一個凍結教師、一個可訓練學生及一個目標函數,在 ImageNet 256×256 上以 1 NFE 達到 2.04 FID,優於 DMD2 的 3.43 FID。以 4 NFEs 推理時,CDMD 達到 1.37 FID,接近教師的 1.35 FID。
Aleph Alpha 發佈 Kolibri,這是一款擁有 78 billion 個參數的德英雙語開放權重模型,採用混合專家架構,每個 token 約啟用 3 billion 個參數。
MEND 提出一種以近端速度匹配為基礎的流模型強化學習方法,透過獎勵上限和位移成本篩選更新方向,不使用 KL 項、凍結參考模型或優勢權重。在 100 次更新後,MEND 在六項評估指標中的五項超越 Flow-GRPO,且與基礎模型圖像的距離相同;在相同預算下,它於四種訓練獎勵的每個評估更新點均勝過 ReFL 和 DiffusionNFT。
Turba 技術報告提出一套三層開源機器學習堆疊,用於在摩洛哥可重現地進行地點特定肥料推薦。首個數據集以 44,096 個 ESA WorldCereal 地點構建,擴展後包含 132,017 項作物地點推薦請求及 22 個變數。報告評估九類回歸模型,現行版本收錄五個表現最佳的作物專屬模型;機器學習任務是模擬推薦函數,而非預測實際作物反應。
TRIAGE 透過分段診斷重新平衡策略梯度更新,並對嚴重失配進行有界修復,以穩定原生 NVFP4 強化學習中的策略最佳化。Qwen3-4B 和 Qwen3-30B-A3B 的實驗在五項數學推理基準測試中達到全精度水平的表現,並在整個評估訓練期間保持穩定。配合 TRIAGE 的原生 NVFP4 推理 rollout 吞吐量較 BF16 最多提升 2.3x。
MiniCorp 是一個辦公室模擬器,讓 AI 智能體協作營運公司,並大規模生成供智能體訓練與評估使用的企業數據。它記錄智能體的通訊、決策及後續業務結果,並可重播相同情境以比較不同決策。實驗顯示,智能體能跨角色協作,並根據市場回饋調整決策。
研究發現,良性監督式微調(SFT)大幅降低軟件工程智能體中後門的攻擊成功率,但後續任務級強化學習(RL)往往保留殘餘後門行為,有時甚至提高攻擊成功率。
研究發現,權重衰減會因果性地調控 Transformer 中巨型激活值的整體尺度變化。控制實驗顯示,在峯值附近移除權重衰減,尺度會繼續上升;保留權重衰減則會下降,即使學習率不變。掃描衰減係數 λ 時,峯值時間約呈對數線性移動,峯值幅度則約按 λ^{-1/2} 縮放。
激活對齊利用完整上下文訓練模型,使模型在只使用部分上下文時,仍能維持接近完整上下文的預測表現。研究在 TabArena 的 38 個分類數據集上評估 TabPFN-3 和 TabFM,兩者經對齊的學生模型在不同上下文預算下均顯著優於未對齊基線;低數據量時,對齊可追回教師模型近一半的預測優勢。對齊器在合成無標籤數據上訓練,無需 GPU,並可在數秒至數分鐘內收斂。
TIDES 將輸入依賴性由步長移至對角狀態矩陣,使選擇性狀態空間模型原生處理不規則時間戳,同時保留逐 token 表達能力。在 UEA 時間序列分類及 Physiome ODE 回歸基準上,TIDES 取得最佳平均排名,並在 8 個原生不規則資料集中的 6 個匹配或超越參考基線模型。
論文提出 Distributionally Robust MoE Training(DRMoET),以優化高損失路由結果,提升稀疏 MoE 的路由穩健性。在 10.3B 總參數、67B 訓練 tokens 設定下,七項任務平均分由 standard FLAME-MoE 的 0.6625 升至 0.6767,無輔助損失平衡基線則為 0.6431。
研究提出 One-stage Policy Optimization(OnePO),以僅用 RL 的方式把基礎模型適配至目標領域,並將教師輸出作為暫時指引。在醫療適配中,OnePO 僅用 20K 訓練樣本便在 HealthBench (Total) 取得 67.2 分,較 SFT+RL 和純 RL 分別高 2.7 和 7.4 分。
LoGRA 以低秩梯度草圖保留有效學習訊號,降低大型語言模型強化學習後訓練的記憶體需求。在推理任務中,LoGRA 平均可減少最多 45.7% 的訓練記憶體用量,且不犧牲效能。它亦可在單一八 GPU 節點上,穩定訓練 27B 參數模型超過 1,100 步;使用 dense Adam 則會耗盡記憶體。
WildMatch 研究僅以身份標籤弱監督適配預訓練關鍵點匹配器,用於野生動物個體再識別。在多個開源野生動物再識別數據集上,該方法準確率高於未適配匹配器及一種最先進的局部—全局融合方法。在留出個體的開放世界測試中,模型學得可遷移的對應先驗,而非記憶訓練身份。
研究提出面向智能體強化學習的分層路由控制框架,令 MoE 回合級專家選擇與智能體操作對齊,並正則化 token 級選擇以維持局部一致性。框架另引入熵閘控控制機制,處理後訓練期間的穩定性問題。所有評測基準的成功率均提升逾 10 個百分點。
Google Research 公佈以 TEE 為基礎的新一代聯邦學習系統,並稱其中央差分隱私(DP)保證可由外部驗證。裝置會在本地加密訓練樣本,存取政策公開記錄於 Rekor,KMS 只向符合政策的工作負載發放金鑰。Gboard 已用新系統推出英文及日文下一詞預測模型;訓練現可跨機器並行,瓶頸轉為 TEE 資源,Google 未公佈具體加速倍數。
CURIO 提出好奇心驅動的測試時學習框架,透過內在好奇心世界模型補充任務回饋。在 Qwen3 8B 至 235B 模型上,六項數學探索任務中有五項優於僅用任務回饋的強化學習對照,Circle Packing 達到最佳已報告表現;單細胞去噪在各測試規模的兩個留出語料上,去噪 Score 和均方誤差均有改善。相對提升在 Hadamard 達 18.3%,去噪 Score 達 10.8%。
LLM-as-Jev 指出,現代大語言模型本身已具備 Jev 式決策能力;Qwen3.5-4B 無需訓練,即可匹配採用相同骨幹的社羣 Jev 式模型。微調能顯著提升較弱模型及特定任務的表現,但對強模型的額外收益有限。KL 錨定可避免對話生成能力退化,而 LoRA 在能力較強的模型上表現最佳。
研究發現,模型在推理期間持續從自身輸出學習,會令長期測試時訓練不穩定;研究以 128K-token 資料流分析 TTT-E2E 模型及 Qwen3-4B 的適應情況。使用凍結模型生成訓練文本,可在 125M 和 760M 模型上減少超過 98% 的損害。Settlement 會先以獨立文本測試候選更新,再決定是否保留,可大幅減少損害並保留對真實文本的適應。
研究人員將 Clalit Health Services 超過 5.4 million 名患者的資料蒸餾成評分工具,供智能體探索血液生物標誌物;工具針對 13 種免疫介導疾病訓練圖注意力網絡,僅發布訓練所得的權重。
LlamaIndex 新增 EmbeddingAdapterFinetuneEngine,讓使用者可在任意嵌入模型產生的查詢嵌入上微調線性轉接層,同時保持文件嵌入固定。
LlamaIndex 示範微調 Cohere reranker,並報告自訂 reranker 在該測試中的檢索指標有所改善。
LlamaIndex 示範以差分隱私將敏感資料轉成合成資料,再透過 NetworkRetriever 讓多個貢獻者跨網絡檢索。在包含 1,200 個樣本、24 種疾病標籤的 Symptom2Disease 示例中,NetworkRetriever 的 hit rate 和 mean reciprocal rank 高於單一貢獻者檢索器。