跳到正文

數據與訓練

訓練側的門道:數據集構建、合成數據、預訓練與後訓練方法、算力與訓練成本。

107條精選相關主題論文研究部署工程模型發佈

最新精選

第 21–40 條 · 共 107 條
11月6日週五
  1. 404 Media76

    Meta 暫停遭廣泛反對的 AI 訓練條款更新

    Meta 已暫停商業條款更新,相關條款不會於 2026 年 11 月 20 日生效,現行條款維持有效。原更新要求商業帳戶容許 Meta 使用相關網域、網頁或網址的內容,以提供、開發、改進、研究、訓練 Meta 產品及維護其完整性。更新曾因記者及用戶反對而由 10 月 30 日延至 11 月 20 日;挪威法院已暫時禁止新條款,英國競爭及市場管理局亦表示會自行調查。

    推薦理由:暫停決定置於媒體與用戶反彈、挪威法院暫時禁令及英國競爭監管調查的背景中,呈現這項資料使用條款面對的多方壓力。

11月5日週四
  1. Silicon Republic76

    中國阻止 SoftBank 以 $5.4bn 收購 ABB 機械人部門

    中國阻止 SoftBank 以近 $5.4bn 收購 ABB 機械人部門,ABB確認中國外商投資安全審查工作機制已禁止收購其在中國的機械人業務。ABB表示,相關機械人部門交易的企業價值為 $5.375bn。《金融時報》引述消息人士指,審查涉及 ABB 中國供應鏈及保留部分產能,當局亦憂慮中國製資產和數據可能轉移至日本,用於訓練 AI 模型。

    推薦理由:報道交代交易遭阻的審查脈絡,涵蓋中國供應鏈、部分製造能力留存,以及中國製資產和數據可能轉移至日本的疑慮。

11月4日週三
  1. DEV Community78

    權重空間編程奏效:GPT-6 Astra 僅修改 Qwen3.5-0.8B 的 0.016% 權重,修復數學循環問題

    MIT CSAIL 研究團隊的權重空間編程研究顯示,GPT-6 Astra 無需梯度下降或微調,便可修改 Qwen3.5-0.8B 的 131,072 個權重以修復重複循環。

    推薦理由:文章並列成功與失敗案例,呈現直接編輯權重較適合移除單一故障障礙,未能補足模型原本欠缺的能力。

11月3日週二
  1. AWS Machine Learning Blog66

    如何在 Amazon SageMaker AI 上以知識蒸餾建立高效購物智能體

    AWS 示範以 SeqKD 在 Amazon SageMaker AI 上微調 Qwen3.5-4B 購物智能體。流程以 Amazon Bedrock 上的 GLM-5.3 生成多步軌跡,並用 ShoppingBench 評分器保留成功樣本。

    推薦理由:ShoppingBench 保留測試集顯示,4B 學生模型平均 ASR 比基礎模型高 24 個百分點,保留教師推理也比只訓練工具呼叫高約 13 個百分點。

10月31日週六
  1. OpenAI News68

    OpenAI 彙整各界支持 AI 訓練適用合理使用的法律意見摘錄

    OpenAI 刊出多個團體、專家及美國政府提交法院的意見摘錄,支持將受版權保護作品用於生成式 AI 訓練屬合理使用。部分意見認為,訓練用途具轉化性且不取代公眾接觸原作,並指出限制訓練或會影響研究、教育、無障礙服務及創作者使用 AI。

    推薦理由:文章並列法律學者、圖書館、創作者及政府提交的論點,呈現合理使用爭議如何牽涉訓練方式、作品市場影響與公共利益。

10月29日週四
  1. Unite.AI78

    NVIDIA 發佈 Nemotron 3.5 Transcribe 開放權重語音模型及 Granary v2 數據集

    NVIDIA 於 2026 年 10 月 28 日發佈開放權重語音模型 Nemotron 3.5 Transcribe,並同步推出 Granary v2 語音數據集及整理流程。

    推薦理由:Nemotron 3.5 Transcribe 將多語轉錄、説話者標註、翻譯與音訊問答整合於單一檢查點;Granary v2 公開清單涵蓋 48 種語言及 463,062 小時,呈現模型功能與數據集範圍。

10月28日週三
  1. Hugging Face Blog76

    NVIDIA 推出 Nemotron 3.5 Transcribe,並公開 Granary v2 多語言語音資料及整理流程

    NVIDIA 推出開放權重的 Nemotron 3.5 Transcribe,並公開 Granary v2 多語言語音資料及整理流程。模型支援 40 種語言轉錄,其中 31 種可與英文互譯,並支援 13 種語言的説話者標註;Granary v2 公開清單涵蓋 48 種語言、463,062 小時及 16 個來源語料庫。醫療語音案例中,微調令留出説話者的 WER 較最佳提示詞基線相對下降 45.8%。

    推薦理由:文章串連提示詞控制、資料整理與微調流程,並以留出説話者的醫療語音評估呈現 WER 相對下降 45.8% 的結果。

  2. Hacker News 熱門(buzzing.cc 中文翻譯)76

    Anthropic 被裁定曾盜版斯坦福教授著作訓練 Claude

    聯邦法官裁定 Anthropic 曾非法取得逾 10 名斯坦福教授的著作訓練 Claude,並不得盜版書籍建立永久中央藏書庫;法官同時認為,合法購書用於大語言模型訓練屬合理使用。

    推薦理由:裁決將盜版建庫與合法購書訓練分開處理,作者退出集體和解並另行索賠,呈現 AI 訓練版權爭議中的法律界線與補償分歧。

10月24日週六
  1. AWS Machine Learning Blog70

    Amazon SageMaker AI 多輪強化學習實作指南

    Amazon SageMaker AI 的多輪強化學習(MTRL)可按整個任務的結果獎勵訓練 Agent 模型,文章以 Wordle 展示端到端實作流程。以 medium effort、temperature 1.0 評估時,gpt-oss-20b 的解題率由 61% 升至 84%;訓練 token 費用約 $339,AgentCore 執行環境費用另約 $79。

    推薦理由:文章以 Wordle 示範按多輪任務整體結果設計獎勵的方法,並拆解 SageMaker AI 訓練流程,提供企業內部工作流可參照的實作脈絡。

10月23日週五
  1. 虎嗅77

    SpaceX 將 AI 算力做成高周轉租賃生意

    SpaceX 快速擴建 AI 算力並對外出租,第三季度營收達145.75億美元、淨利潤44億美元。AI 業務當季收入75.6億美元,佔總營收52%,首次超過星鏈,成為最大收入來源。Anthropic 與 Google 均租用其算力,SpaceX 稱新部署算力回本週期不足一年。

    推薦理由:文章串聯算力部署速度、租賃合約與回本週期,呈現 SpaceX 將大型基建投入轉為短約現金流的商業模式。

  2. Hugging Face Blog62

    ThinkingBox-Training 開放 GitHub,將資料庫終態檢查用作智能體後訓練獎勵

    ThinkingBox-Training 已在 GitHub 開放,將智能體完成任務後的資料庫終態可執行檢查用作後訓練獎勵。以 GRPO 對 Qwen3.8-27B 訓練 50 步後,在 ThinkingBox-Bench 的 507 項任務(每項測試 20 次)中,pass@1 由 51.70% 升至 60.78%,20 次全部成功的任務由 38 項增至 107 項。

    推薦理由:文章展示如何把資料庫終態的可執行檢查轉成智能體後訓練獎勵,並按基礎策略成功率篩選任務,説明混合成敗回報如何為 GRPO 提供組內對比。

  3. AWS Machine Learning Blog66

    Amazon SageMaker AI training session APIs 如何讓用戶自訂訓練迴圈而毋須管理 GPU

    AWS 為 Amazon SageMaker AI 加入 training session APIs,讓用戶以本機 Python 自訂訓練迴圈,並由服務管理 GPU 運算。

    推薦理由:文章以 GSM8K 數學題及競賽編程 RL 範例,拆解本機訓練迴圈如何組合抽樣、獎勵計算與梯度更新,並由 SageMaker 管理 GPU 執行及檢查點。

  4. AWS Machine Learning Blog64

    AWS SageMaker AI 正式推出 Serverless Training Sessions,支援自訂模型後訓練迴圈

    AWS SageMaker AI 正式推出 Serverless Training Sessions,讓用戶自訂模型後訓練迴圈、損失函數及獎勵訊號,而無需管理底層 GPU 基礎設施。

    推薦理由:Training sessions 讓團隊自訂後訓練迴圈,同時由 SageMaker AI 管理 GPU 密集運算;文中以 GRPO 説明採樣、評分和權重更新如何串接。

  5. Hugging Face Blog68

    OlmoEarth v1.3 發佈全球衞星嵌入模型

    OlmoEarth 發佈 v1.3 衞星嵌入模型,並提供全球預先計算的年度嵌入向量及 OlmoEarth Embeddings Explorer。模型為每個 10 米像素提供 128 維嵌入,亦可使用 64 維版本;在 27 項評測中,兩者分別於 20 項和 18 項評測表現領先,2023 至 2025 年的嵌入資料覆蓋全球。

    推薦理由:這次發佈把全球預先計算的嵌入向量與免登入探索工具一併提供,讀者可瞭解如何免用 GPU 進行衞星資料比較和簡單分類。

10月22日週四
  1. Google DeepMind68

    超越樹冠覆蓋:Google DeepMind 等機構繪製全球森林類型地圖 ForTy 2020

    Google DeepMind、Google Research、WRI 及 IIASA 發佈 Forest Typology (ForTy) 2020 全球地圖,以 10 米解析度將土地分為六類森林及土地利用類型。

    推薦理由:ForTy 將全球土地分為六類森林及土地利用類型,並追蹤 2017 至 2025 年的變化,補充樹冠覆蓋地圖難以呈現的天然林轉為種植園或農地等轉換。

  2. NVIDIA Blog66

    NVIDIA Cosmos 擴展工具,支援世界模型訓練、評估及部署

    NVIDIA 擴展 Cosmos 平台,加入訓練工具、模擬檢查點及 Cosmos Data Factory 藍圖,支援世界模型訓練、評估和部署。Cosmos Data Factory 提供五種雲端原生藍圖;Cosmos Framework 則支援透過微調和強化學習調適開源模型,並以知識蒸餾和量化作最佳化。

    推薦理由:文章串連數據整理、模型調適與模擬測試等更新,並列出 Porsche、ANYbotics 等企業案例,呈現 Cosmos 工具鏈在實體 AI 開發流程中的應用。

  3. Hugging Face Blog71

    NVIDIA 推出 Kumo Relational,無需任務專屬訓練即可預測關聯數據

    NVIDIA 推出預訓練關聯數據基礎模型 Kumo Relational,可直接在企業數據庫上預測,並以最多 10,000 個歷史樣本作上下文,無需任務專屬訓練。

    推薦理由:文章比較 Kumo Relational 與監督式模型及 AutoGluon,並交代評測範圍和樣本限制,呈現其在關聯數據預測中的適用邊界。

10月21日週三
  1. 創業邦85

    SpaceX 首次錄得季度盈利,淨利潤 44 億美元;馬斯克談 Tesla 合併及自研記憶體晶片

    SpaceX 第三季度錄得 44 億美元淨利潤,營收達 145.75 億美元,成為上市以來首個錄得盈利的季度。由 xAI 整合而來的 SI 業務收入達 75.60 億美元,佔總營收 52%;公司同期資本開支升至 195.93 億美元,主要投向 AI 算力基建及星艦等項目。

    推薦理由:報道把 AI 算力收入、各業務盈利貢獻與資本開支放在同一份季度帳目中,呈現 SpaceX 扭虧與擴張投入並行的財務結構。