跳到正文

#數據/訓練

今日 4 條
今天10月8日週四4 則
  1. a16z:News60

    a16z 投資 Preference Model

    a16z 投資 Preference Model,該團隊為 AI 研究及 ML 工程任務建設強化學習環境。團隊本週開源 Karotte,這套框架可找出模型弱點、生成針對性任務,並以嘗試攻破環境的智能體進行測試。Karotte 設有終止評分前殘留程序、拒收可能令評分器崩潰的檔案等防護,並經逾 1,000,000 次評估運行及受控紅隊測試。

  2. HuggingFace Daily Papers(社區熱門論文)45

    Sherpa:訓練 LLMs 因材施教

    Sherpa 是一個多輪強化學習框架,透過模擬不同學習偏好的學生類型,訓練 LLM 教師按學生的學習成效調整教學。經 Sherpa 訓練的教師模型,令各類學生的表現平均提升 20.5 個百分點,MathTutorBench 教學評分由 52.5% 升至 79.2%。人類研究中,受訓教師在 79.6% 的配對比較中獲選勝過基礎模型。

10月7日週三
  1. Hugging Face Blog75

    Nemotron 微調在 IOI 2026 和 IMO 2026 達金牌水平

    研究團隊從 Nemotron 3 出發,結合 SFT、RL 和回饋式推理建立專項系統,在 IOI 2026 得 535.4/600,高於金牌門檻 361.12;在 IMO 2026 得 30/42,高於金牌門檻 29。

    推薦理由:文章並列 IOI 與 IMO 的資料、微調方法及推理流程,呈現專項模型如何配合生成、驗證與修訂環節應對兩類競賽任務。

  2. IT之家55

    Microsoft、OpenAI 遭美國多家地方媒體起訴,被指侵犯版權

    Emmerich Newspapers 等美國地方媒體起訴 Microsoft 和 OpenAI,指控兩家公司未經授權使用數萬篇版權文章訓練 AI 模型。原告稱兩家公司已透過相關內容賺取數十億美元,而出版商未分得任何款項;他們亦指控兩家公司繞過付費牆等限制。原告要求損害賠償,並請求法院頒布禁令,刪除模型中的侵權訓練資料。

  3. MarkTechPost64

    Laya 開發者指南:零樣本決策與校準

    MarkTechPost 的指南以 CLINC150 銀行意圖資料測試 Laya,在 15 個意圖的零樣本分類中取得 0.878 準確率。使用意圖名稱而非自訂描述,準確率由 0.804 升至 0.878;温度校準將 ECE 由 0.102 降至 0.059,但以驗證資料設定為 5% 錯誤率的拒答門檻,在測試集的錯誤率為 9.2%。

  4. HuggingFace Daily Papers(社區熱門論文)40

    EmbodiedSmith:透過模擬中的遞迴自我改進飛輪擴展具身數據

    EmbodiedSmith 提出一套模擬框架,透過遞迴自我改進擴展具身數據生成,並整合資產、場景和任務生成。其智能體改進循環讓場景與任務互相引導修訂,並支援移動操作機械人、人形機械人、靈巧手,以及涉及可變形物件和流體的互動。實驗顯示,增加數據多樣性可提升下游策略的泛化能力;框架亦可用於機械人預訓練和評估。

  5. IT之家57

    中國科研團隊全球首次構建水稻全生命週期三維時空細胞圖譜

    中國多個科研機構合作完成的研究成果於10月6日晚在《細胞》(Cell)網上發表,研究團隊全球首次構建出涵蓋水稻由種子萌發至開花結實全過程的三維時空細胞圖譜。圖譜整合基因組測序、單細胞測序及空間轉錄組測序;團隊亦建成可供全球研究者使用的資料庫與水稻單細胞基礎模型,支援基因查詢、空間表達展示和比較分析。

10月6日週二
  1. HuggingFace Daily Papers(社區熱門論文)61

    Prior-Fitted Language Model(PFLM)學會從上下文推斷語言

    研究提出 300M 參數的 Prior-Fitted Language Model(PFLM),讓模型在凍結權重下從真實文本前綴推斷語言並預測後續內容。它只以合成的非語言先驗樣本預訓練;每條訓練序列均由從分佈中重新抽取的遞迴結構因果模型生成,因此模型未見過任何真實語言的詞,也不會在訓練中兩次遇到同一語言。

  2. IT之家63

    韓國擬推 4.7 萬億韓元計劃,2027 年 3 月起研發前沿 AI 大模型

    韓國政府擬推出總規模 4.7 萬億韓元的專項計劃,自 2027 年 3 月起研發前沿 AI 大模型。計劃結合國家股權投資與民間資本,集中算力晶片、數據及人才;待國會於 12 月審議通過 2027 財年預算後,政府將透過競爭性招標遴選牽頭開發主體,中標方最早有望於次年 2 月敲定。這項新計劃獨立於現有本土基礎大模型研發項目;後者仍會推進,並於 2027 年 2 月第三階段評審中選出兩支最終開發團隊。

  3. 英國 AI Security Institute:Blog58

    英國 AI Security Institute 梳理能力日益增強的開放權重 AI 系統風險管理方法

    英國 AI Security Institute 概述開放權重通用 AI 系統的風險管理策略,涵蓋模型內防護、外部防護及程序措施。該機構指出,訓練資料篩選有助降低模型發佈風險,而具備完整模型存取權的審核可更準確評估風險,支援發佈決策。與 EleutherAI 及牛津大學合作的研究發現,從 LLM 訓練資料移除有害資料,抵禦對抗性微調的效果是訓練後加入防護的逾 10x,且未帶來顯著性能代價。

  4. 英國 AI Security Institute:Blog66

    AI Security Institute 聯同 Anthropic 及 Alan Turing Institute 探討大規模後門資料投毒

    AI Security Institute、Anthropic 與 Alan Turing Institute 的研究發現,少至 250 份文件便可能成功污染所有受測模型的訓練資料。研究以同一後門攻擊測試四種模型,參數量由 600M 至 13B;所需文件數沒有隨模型或資料集規模增加。這與過往認為攻擊者須污染一定比例資料才能成功的假設不同,研究指出投毒攻擊可能比先前認為更可行。

  5. Thinking Machines Lab:News60

    Thinking Machines Lab 推出 Tinker 微調 API,並開源 Tinker Cookbook

    Thinking Machines Lab 推出 Tinker,一個用於微調語言模型的彈性 API,並以託管服務處理分散式訓練。Tinker 支援多種大、小型開放權重模型,包括 Qwen-235B-A22B;開源 Tinker Cookbook 提供可在 Tinker API 上執行的後訓練方法實作。Tinker 目前處於研究者和開發者私人測試階段,初期免費,並將於未來數週引入按用量收費。

  6. Thinking Machines Lab:News39

    Tinker 徵集社羣項目

    Tinker 邀請開發者和研究人員提交社羣項目,並計劃定期在網誌刊出精選成果。徵集涵蓋機器學習研究、微調模型應用、產品原型、數據集及基礎設施;投稿應附研究説明,最好開源程式碼,並展示嚴謹評估和透明結果。

  7. Cohere 產品與研究博客52

    Cohere 研究提出「文化漏斗」,指出訓練流程中的文化多樣性逐步收窄

    Cohere 分析超過 5.6 million 個涵蓋不同訓練階段的樣本,發現文化多樣性由預訓練進入後訓練時持續收窄。增加語言種類可擴大地理多樣性,但整體文化內容比例會趨於停滯。在 TinyAya base model 微調時加入文化標記後,NormAd、BBQ、GMMLU 分別提升 +8%、+6%、+2.3%,且一般多語能力未受損。

  8. Prime Intellect56

    Prime Intellect 發佈 INTELLECT-2,這是首個透過全球分散式強化學習訓練的 32B 參數模型

    Prime Intellect 發佈 INTELLECT-2,稱這是首個透過全球分散式強化學習訓練的 32B 參數推理語言模型。訓練以跨異構運算節點的全非同步 RL 為核心,並配套推出 PRIME-RL、TOPLOC 和 SHARDCAST;模型、程式碼及數據均已開源,技術報告見 primeintellect.ai/intellect-2。

  9. Goodfire Research62

    Goodfire Research 提出模型差分放大法,協助發現罕見不良行為

    Goodfire Research 提出模型差分放大法,放大模型在後訓練前後的 logits 差異,以協助浮現罕見不良行為。實驗顯示,該方法令湧現失配回覆增加 10 至 300 倍;當資料集含 5% 不良醫療建議時,有害回覆由每 10,000 次抽樣 1 次增至每 30 次 1 次。研究亦把此法用於監察後訓練和偵測後門行為;作者指出,放大後的回覆頻率不代表模型行為的實際發生率。

  10. Fireworks AI53

    企業如何邁向專門化智能並訓練自有模型

    Fireworks AI 的文章梳理企業邁向專門化智能的路徑,從租用封閉式前沿模型、加入開源模型,逐步走到微調自有模型。在 UIPad 測試中,Kimi K3 與 GPT 5.6 Sol 整體同為 87.7 分,但 Kimi K3 執行成本為 $56,GPT 5.6 Sol 為 $115;按題型分流,可把座標題交給 Sol,其餘題目交給 K3。