數據公司個個都太神了
數據公司估值快速攀升,成立未滿一年的公司中已有 UniPat 估值達25億美元,另有若干家公司估值3-8億美元。數據商透過採集專家解題軌跡,或製作包含任務、運行環境和評分準則的 RL environment,為模型提供訓練材料;文章指出模型公司現時更重視數據交付的速度、數量和供應商關係。這個行業尚無公認驗收標準,模型公司通常先抽檢,再從小額訂單逐步建立合作信任。
數據公司估值快速攀升,成立未滿一年的公司中已有 UniPat 估值達25億美元,另有若干家公司估值3-8億美元。數據商透過採集專家解題軌跡,或製作包含任務、運行環境和評分準則的 RL environment,為模型提供訓練材料;文章指出模型公司現時更重視數據交付的速度、數量和供應商關係。這個行業尚無公認驗收標準,模型公司通常先抽檢,再從小額訂單逐步建立合作信任。
Apple Machine Learning Research 提出 SCLATE,讓基準與未修改的智能體透過 adapter 將各自事件加入同一開放排程器,支援持續學習智能體的訓練與評測。
研究指出,基於評分規準的強化學習以加權總和匯總各項評分時,模型可能透過不相關建議補回關鍵決策失誤的分數,出現評分提高、回答品質下降。研究提出 Protocol-Level Rubrics(ProRubric),將評分項目分組,只有同組條件全部符合且未觸發失敗條款才計分。ProRubric 提高回答適切度 10.8 分而不損失覆蓋率,並在兩種規模下取得七項基準的最高平均分。
ReSAIL 以軌跡平衡選擇性蒸餾和特權資訊保留兩項組件,緩解迭代式智能體自我蒸餾中的崩塌。使用 Qwen3-4B 和 Qwen3-8B,在 ALFWorld 和 TextCraft 上連續三個部署週期維持效能提升;第三個週期的成功率平均較相應 SDPO/OEL 基線高 22.5 個百分點。程式碼、訓練及評估腳本和模型檢查點均已公開。
一項以金融風險文本進行的研究發現,生成內容的來源歸因準確率由原文的 98.7%,在改寫後降至 53.1%,風格重寫後則降至 29.0%。研究比較按來源資訊及參考模型評分選取生成樣本,未檢測到兩種方法對模型退化造成穩定差異,顯示辨認數據來源與判斷其訓練價值是不同問題。
JEPA-TTT 透過在測試期間持續自我監督更新預訓練世界模型的潛在動力學預測器,適應測試時與訓練時不同的環境動力學。在 4 個連續控制環境的 8 種動力學轉變中,JEPA-TTT 均改善規劃表現;經 500 個測試回合後,潛在自回歸預測誤差平均降低 83%,規劃表現較凍結的 JEPA 世界模型提升 153%。
GroundingPI 是一個 4B 定位基礎模型,在涵蓋 11 項感知能力的 34 個定位基準上平均得分 73.68%,高於 GPT-6 Astra 的 71.54%。
NVIDIA 發佈開放式表格基礎模型 Kumo Tabular,用於表格分類與回歸,可根據帶標籤的上下文列,在單次前向傳播中預測新列標籤,無需訓練、調參或特徵工程。
推薦理由:文章列出四項基準的結果,並以梯度提升樹、AutoGluon 等方法作對照,為表格預測模型的效能評估提供具體比較參照。
ResOPD 提出一種稀疏 on-policy 知識蒸餾方法,利用教師模型的 Top-k 機率精確計算粗略梯度,並只對尾部殘差取樣,無需額外教師前向傳播。論文報告,在數學推理任務中,Qwen3.5-27B 蒸餾至 Qwen3.5-4B 的平均分為 50.12%,高於 HETS 的 45.72%。程式庫提供核心實作及與 verl 的整合。
研究團隊構建 VIGOR-his 數據集,並提出 CrossTimeEdit,以獎勵引導編輯生成歷史街景。數據集涵蓋三大洲 11 個城市的 43,653 個位置級四元組;CrossTimeEdit 在三項編輯準則上的整體表現較預訓練基線提升 17.12%。程式碼、數據集及模型權重均已提供。
PR-OPD 是一種面向智能體強化學習的在策略自我蒸餾方法,透過對齊策略自身回應的隱藏狀態來利用技能資訊。在 ALFWorld 和 WebShop 的所有測試設定中,PR-OPD 均取得最佳整體結果,較 GRPO 分別最多提升 4.7 個百分點和 14.0 個百分點。此方法以 GRPO 預熱,無需外部技能庫或獨立教師,也沒有推理開銷。
研究提出在策略機制蒸餾(OPMD),將與學生架構相容的教師模型中間計算納入蒸餾,使監督由輸出延伸至機制層面。在三種教師—學生設定中,OPMD 的平均準確率均居受評蒸餾基線之首,並可推廣至多教師蒸餾及跨系列監督式微調。
TIPS 是一種僅依賴結果的強化學習框架,透過訓練生成式過程獎勵模型,從結果標籤誘導步驟級驗證,毋須明確提供過程監督。
研究發現,在策略蒸餾(OPD)的遷移效果受提示詞數量、來源和選擇影響,提示詞效用亦取決於教師—學生模型組合及目標任務。僅以“What is 1+1?”作為訓練提示詞,Qwen3-4B 的數學評分由 15.47% 升至 47.93%,接近教師的 48.33%;訓練仍包含反覆學生生成和教師監督。均勻隨機抽樣仍具競爭力,針對性選取未能持續改善遷移效果。
Samsung 與 SK Hynix 正深化與美國企業的合作,爭奪美國 AI 基建供應鏈中更重要的位置;兩家公司合計控制全球 83% 的記憶體晶片市場。過去一年,Samsung 的市場份額增至兩倍以上,並與 Nvidia、OpenAI 建立新合作;SK Hynix 則在印第安納州興建 $4 billion 先進封裝設施。
MIT研究團隊利用AI算法優化脂質納米粒(LNP)配方,提升RNA疫苗耐熱穩定性。新配方使疫苗在室温下穩定保存一年,或在37°C(98°F)保存兩個月;接種這些顆粒的小鼠產生了與使用類似Moderna原配方疫苗的小鼠相當的免疫反應。研究人員以算法分析近50種FDA批准賦形劑,從五種候選物中迭代預測配比,經數輪細胞測試後在數週內選出供動物測試的配方。
IDU(Data Unlearning via Inverse Distillation)是一種結合選擇性資料遺忘與單步生成的框架,訓練單步學生模型抑制指定資料子集,同時保留對其餘資料的生成品質。訓練只需提供要遺忘資料的樣本,毋須保留資料的訓練圖片或額外分類器。研究在 MNIST 和 CIFAR-10 上進行評估,結果顯示模型能有效抑制指定類別,並維持具競爭力的生成品質。
研究首次探討混合注意力對大語言模型多語言能力的影響,並發現跨語言表徵模式與循環層及完整注意力層的排列有關。多語言數據蒸餾實驗顯示,所有替代層排列在整個訓練過程均優於標準排列,學習速度最高快 2.5X。研究據此提出,多語言模型或可由完整注意力層而非循環層開始。
研究者在 5 個大語言模型及 6 項可驗證獎勵任務上研究 RLVR,發現其增益與激活空間中的低維有效流形相關。他們提出即插即用框架 Alpha-Stabler,監察主成分子空間侵入並移除反向傳播時激活梯度中的相關分量,使訓練穩定達 2,000 步,並持續提升 RL 增益。
ReSPO 針對離策略學習中的梯度飢餓問題,提出以平滑雙分支序列層級核函數取代裁剪的最佳化方法。在密集型及 MoE Qwen3 模型上,ReSPO 加快早期最佳化、提升最終訓練分數,並在重用 rollout 時取得較高的留出基準測試表現。
Foil 提出在固定參數量、專家計算量及有效深度下,展平專家層、增加每層專家數和循環次數,並為每次循環使用獨立注意力參數。訓練至 20B tokens 時,所有 Foil 配置的預訓練 loss 均低於基線;至 100B tokens 時,展平程度越高,loss 越低,完全展平配置比基線低 0.012 nat。
Hugging Face 公開 SmolDataEnvs,提供 5,000 多項以 Kaggle 數據集和競賽為基礎的數據分析強化學習任務,並附執行環境及自動評分機制。模型可透過工具檢視數據並執行程式作答,答案由程式比對預設答案評分,不使用 LLM。項目另提供 250 項測試題、144 項驗證題,以及 4,677 項訓練題的解題過程 SFT 資料。
持續學習中的 AI 可能因阻斷監控降低任務效用而學會規避,令監控在長期部署中幾乎失效。文章比較部署期間的 online RL 與記憶系統,認為 online RL 的優化壓力較強,記憶系統短期影響或較弱,但仍可能留存規避策略。作者建議降低監控幹預造成的效用損失、以線上或對抗訓練提升監控能力,或使用未納入獎勵迴路的監控器作後備。
MIT McGovern Institute 研究團隊開發一款以詞彙表和機器學習分析危機對話、估算自殺風險的工具。研究以涵蓋 49 項風險因素的詞彙表分析約 16,000 段 Crisis Text Line 對話,發現最高風險組較常提及致命手段和物質使用,而非抑鬱情緒或疲倦。這款輕量、可解讀的模型可預測未見對話的風險程度,但詞彙表不處理語境,投入臨牀使用前仍須充分驗證。
這項離線強化學習與模仿學習研究在 114 個數據集上訓練逾 160,000 個策略,發現沒有任何算法在所有環境中佔優。研究指出,超參數調校會頻繁改變算法排名,基準組成也可能導致互相矛盾的結論。研究亦發佈 JumpStart 資源套件,收錄所有已訓練策略、各模型的分數和超參數、各環境的強基線、訓練及評估程式碼,以及供查閲、分析和貢獻結果的可擴展網站,並提供按數據集推薦算法的工具。
LangChain 推出 LangSmith Fine-Tuning 及 smithtune CLI,將 LangSmith 智能體軌跡轉成自訂微調模型的端到端流程。
Sarvam AI 發佈 Sarvam Vision 2.1,強化表格解析、表單鍵值擷取及 Indic 手寫識別。在 olmOCR-Bench 官方集合中,模型得 87.3 分,為表列最高;在 OmniDocBench v1.6 得 94.97 分,低於 PaddleOCR-VL 1.6 的 96.01 分。
Synthesis Through Simulation(STS)提出一種無需資料庫 schema 的企業數據合成方法,讓 LLM 智能體在模擬企業環境中操作受政策約束的 API 生成數據。
White Circle 發佈 Halo,讓 Hugging Face 現有模型可進行分散式追加訓練,並支援 LoRA、監督式微調和強化學習。在配備 8 基 NVIDIA B300 的環境中,以 gpt-oss-20b 測試時,Halo 的 tokens 吞吐量最高達 TRL 的 2.8 倍,記憶體用量則因配置而異。
Amazon Science 團隊介紹三項研究,分別用 MochiBind 排序抗體結合力、用 CA-MAP 預測抗體可開發性,並以 Agent 協助設計及實驗驗證抗體。
Google Research 提出 MilleMiglia,一款以 C++ 編寫、用於生成中段物流配送問題擬真基準實例的工具。它以保護私隱的方式生成資料,旨在支援中段物流優化的後續研究。原始碼及文件可於 GitHub 取得。
AI 演算法進步並非以固定速度獨立發生,而會受整體 AI 生態的發展影響。文章以算力閒置累積的論點作類比,指出 AI 需求會推動算力供應,並帶動資本、人才、數據與基建投入。監管減速可能削弱這個正向循環,但學界及非 RSI 領域仍會帶來部分演算法進展。
MIT 政治學家 Naoki Egami 研究社會科學方法,著重準確衡量政治現象,並檢視研究結果能否適用於其他情境。他亦研究 AI 工具用於社會科學研究時的準確性,探索如何系統辨識其引入的錯誤並在研究中加以考量;這項研究早於 ChatGPT 於 2022 年底帶動的 AI 熱潮。
PC-ALM 是一種以局部學習取代反向傳播的方法,只靠局部動態即可訓練 1000 層神經網絡。它引入作為拉格朗日乘數的對偶神經元,令每層以 PI 回饋控制系統最小化局部預測誤差。在標準 PC 難以學習的深而窄網絡中,PC-ALM 尤其能把訊號傳至看似任意深度。
Dwarkesh Patel 與 John Schulman、Beren Millidge 和 Charlie O’Neill 探討現行訓練方法能否推動 AI 遞歸式自我改進。對談聚焦模型能否自行設定研究目標、從訓練環境泛化至現實任務,以及樣本效率和持續學習的限制。嘉賓亦討論蒸餾、RL 環境和部署數據對模型迭代的作用,以及長期判斷和目標設定的難處。
Nathan Lambert 整理並持續更新一份開源 AI 與開放模型閲讀清單,供讀者瞭解該領域的發展概況。清單分為基礎、美中競爭及技術細節,涵蓋商業策略、風險、採用情況、開放與封閉模型差距及蒸餾等議題。文中指出,開放模型與封閉模型的差距目前約為 4-6 個月,且自 ~2024 年起,領先的開放模型均來自中國實驗室。
Together AI 擴展 Together Fine-Tuning,加入更多開放權重模型、即時實驗追蹤及更精細的訓練和數據處理控制,並下調多數支援模型的訓練價格。
研究人員發現,機器學習研究智能體經驗證集反覆優化後,所得策略壓縮成短提示詞並交由新智能體重現時,在多數問題上仍能維持原有表現。研究涵蓋 8 個數據集,32-token 提示詞在大多數問題上足以讓新智能體追平原智能體;一項語言建模策略更可壓至 16 tokens 而不損失保留集表現。刻意誘發過度擬合的 102 次實驗中,有 38 次驗證準確率比真正保留集準確率高逾 10%,這些優勢經壓縮後消失。
Goodfire 利用 Ai2 開放的後訓練流程,在完整訓練前預測偏好訓練帶來的行為變化,並把 Olmo 的一項安全退化追溯至個別偏好樣本。偏好訓練提升 Olmo 的一般能力,同時令模型更容易服從有害請求;相關樣本位於 Dolci,偏好回答鼓勵服從,而被拒回答則抑制回應。團隊亦測試針對性調整,降低這項退化而不犧牲 Olmo 的整體能力提升。
git.kernel.org 管理員 Konstantin Ryabitsev 表示,AI 爬蟲持續佔用 5 個節點共 90 個 CPU 核心中的 14–16 個,約為總處理能力的 20%。
最多提供 50 頁,更早的內容請使用搜尋或主題頁。