如何利用 Amazon SageMaker HyperPod Data Capture 建立模型改進飛輪
Amazon SageMaker HyperPod Data Capture 提供三個獨立層級的擷取方式,讓團隊把推理數據記錄至 Amazon S3,供分析和訓練使用。
推薦理由:文章以合成資料展示從生產推理記錄、Athena 分析到 SQL 標註與微調的完整流程,並比較留出測試的前後結果。
Amazon SageMaker HyperPod Data Capture 提供三個獨立層級的擷取方式,讓團隊把推理數據記錄至 Amazon S3,供分析和訓練使用。
推薦理由:文章以合成資料展示從生產推理記錄、Athena 分析到 SQL 標註與微調的完整流程,並比較留出測試的前後結果。
Hugging Face Blog 提供 TRELLIS.2 微調指南、腳本及 Docker 容器,示範如何用 LoRA 針對鞋類 3D 幾何生成進行微調。實驗使用 GSO 的 188 件鞋類物件,只微調 sparse-structure flow DiT 和 shape flow DiT,並凍結 texture flow DiT;其中 9 件留作評估。
推薦理由:文章示範如何按任務與資料特性選擇 TRELLIS.2 的微調部件,並以留出鞋類物件的幾何指標比較調整前後結果。
文章示範在 Amazon SageMaker HyperPod 的 PyTorch DDP 訓練流程加入三項檢查,以偵測靜默數據損壞並定位可疑 GPU。流程涵蓋非有限梯度檢查、跨節點 ring replay 和權重指紋比對,並説明如何隔離及替換可疑節點,再從可疑窗口前的檢查點恢復。
推薦理由:文章將靜默數據損壞的偵測、定位及節點恢復連成 DDP 實作流程,並説明各項檢查的覆蓋範圍與效能成本。
Google DeepMind 發佈 AlphaGenome 2,預測 DNA 序列及其變異對特定人類細胞類型的影響,連接單細胞生物學與人類遺傳學。模型以來自 68 種組織、超過 1.07 億個細胞的單細胞資料訓練,可按指定細胞類型或狀態預測基因表達等讀數,並新增 DNA 甲基化預測。
推薦理由:AlphaGenome 2 在 TenK10K 數據集上將因果變異識別率由 16% 提升至 30%,呈現其針對特定免疫細胞解析變異效應的改進。
文章示範如何用 Sentence Transformers 為多向量嵌入模型加入 Token Pooling 感知訓練,令模型同時以原始及壓縮後的文件向量進行檢索訓練。
推薦理由:文章將壓縮後的檢索目標納入訓練損失,並在相同儲存預算下比較一般訓練與池化感知訓練的檢索品質保留差異。
Google DeepMind 開放 SatWeave 和 PARDIG 的即時資料及歷史檔案,供研究人員和開發者用於天氣、水文及氣候應用。SatWeave 每小時更新,涵蓋 17 個可見光、水汽及紅外線通道;PARDIG 提供時間解析度為 15 分鐘、約 10 公里解析度的全球降水圖,平均延遲約 5 小時。
推薦理由:兩套數據集分別提供全球衞星影像拼接與降水估算,並開放即時資料和歷史檔案,呈現它們支援天氣、水文及氣候應用的資料基礎。
Elith 與 NVIDIA 發佈 Nemotron-Personas-Finance-Japan,這是一個以日本官方統計及家庭金融資訊為基礎、供金融 AI 開發使用的合成人物資料集。資料集共包含 9M 個人物設定,每筆記錄涵蓋 50 個欄位,並以 CC BY 4.0 授權提供商業及非商業使用。它可用於建立客服智能體、評估銷售對話和市場推廣、進行用戶模擬,以及紅隊測試面向客戶的 AI。
推薦理由:資料集把日本官方人口與勞動統計、家庭財務及金融素養欄位結合,並列出客服智能體、用戶模擬和公平性測試等具體用途。
AWS 示範以 SeqKD 在 Amazon SageMaker AI 上微調 Qwen3.5-4B 購物智能體。流程以 Amazon Bedrock 上的 GLM-5.3 生成多步軌跡,並用 ShoppingBench 評分器保留成功樣本。
推薦理由:ShoppingBench 保留測試集顯示,4B 學生模型平均 ASR 比基礎模型高 24 個百分點,保留教師推理也比只訓練工具呼叫高約 13 個百分點。
OpenAI 刊出多個團體、專家及美國政府提交法院的意見摘錄,支持將受版權保護作品用於生成式 AI 訓練屬合理使用。部分意見認為,訓練用途具轉化性且不取代公眾接觸原作,並指出限制訓練或會影響研究、教育、無障礙服務及創作者使用 AI。
推薦理由:文章並列法律學者、圖書館、創作者及政府提交的論點,呈現合理使用爭議如何牽涉訓練方式、作品市場影響與公共利益。
AWS 示範以 Ray Train DLC、KubeRay 和 EFA 在 EKS 上用 FSDP 微調 Qwen2.5-1.5B。
推薦理由:文章逐一説明容器、叢集與傳輸設定如何分工,並展示以預建映像部署多機訓練及檢查 EFA 網絡路徑的方法。
NVIDIA 推出開放權重的 Nemotron 3.5 Transcribe,並公開 Granary v2 多語言語音資料及整理流程。模型支援 40 種語言轉錄,其中 31 種可與英文互譯,並支援 13 種語言的説話者標註;Granary v2 公開清單涵蓋 48 種語言、463,062 小時及 16 個來源語料庫。醫療語音案例中,微調令留出説話者的 WER 較最佳提示詞基線相對下降 45.8%。
推薦理由:文章串連提示詞控制、資料整理與微調流程,並以留出説話者的醫療語音評估呈現 WER 相對下降 45.8% 的結果。
Amazon SageMaker AI 的多輪強化學習(MTRL)可按整個任務的結果獎勵訓練 Agent 模型,文章以 Wordle 展示端到端實作流程。以 medium effort、temperature 1.0 評估時,gpt-oss-20b 的解題率由 61% 升至 84%;訓練 token 費用約 $339,AgentCore 執行環境費用另約 $79。
推薦理由:文章以 Wordle 示範按多輪任務整體結果設計獎勵的方法,並拆解 SageMaker AI 訓練流程,提供企業內部工作流可參照的實作脈絡。
ThinkingBox-Training 已在 GitHub 開放,將智能體完成任務後的資料庫終態可執行檢查用作後訓練獎勵。以 GRPO 對 Qwen3.8-27B 訓練 50 步後,在 ThinkingBox-Bench 的 507 項任務(每項測試 20 次)中,pass@1 由 51.70% 升至 60.78%,20 次全部成功的任務由 38 項增至 107 項。
推薦理由:文章展示如何把資料庫終態的可執行檢查轉成智能體後訓練獎勵,並按基礎策略成功率篩選任務,説明混合成敗回報如何為 GRPO 提供組內對比。
AWS 為 Amazon SageMaker AI 加入 training session APIs,讓用戶以本機 Python 自訂訓練迴圈,並由服務管理 GPU 運算。
推薦理由:文章以 GSM8K 數學題及競賽編程 RL 範例,拆解本機訓練迴圈如何組合抽樣、獎勵計算與梯度更新,並由 SageMaker 管理 GPU 執行及檢查點。
Google DeepMind、Google Research、WRI 及 IIASA 發佈 Forest Typology (ForTy) 2020 全球地圖,以 10 米解析度將土地分為六類森林及土地利用類型。
推薦理由:ForTy 將全球土地分為六類森林及土地利用類型,並追蹤 2017 至 2025 年的變化,補充樹冠覆蓋地圖難以呈現的天然林轉為種植園或農地等轉換。
OlmoEarth 發佈 v1.3 衞星嵌入模型,並提供全球預先計算的年度嵌入向量及 OlmoEarth Embeddings Explorer。模型為每個 10 米像素提供 128 維嵌入,亦可使用 64 維版本;在 27 項評測中,兩者分別於 20 項和 18 項評測表現領先,2023 至 2025 年的嵌入資料覆蓋全球。
推薦理由:這次發佈把全球預先計算的嵌入向量與免登入探索工具一併提供,讀者可瞭解如何免用 GPU 進行衞星資料比較和簡單分類。
NVIDIA 擴展 Cosmos 平台,加入訓練工具、模擬檢查點及 Cosmos Data Factory 藍圖,支援世界模型訓練、評估和部署。Cosmos Data Factory 提供五種雲端原生藍圖;Cosmos Framework 則支援透過微調和強化學習調適開源模型,並以知識蒸餾和量化作最佳化。
推薦理由:文章串連數據整理、模型調適與模擬測試等更新,並列出 Porsche、ANYbotics 等企業案例,呈現 Cosmos 工具鏈在實體 AI 開發流程中的應用。
NVIDIA 推出預訓練關聯數據基礎模型 Kumo Relational,可直接在企業數據庫上預測,並以最多 10,000 個歷史樣本作上下文,無需任務專屬訓練。
推薦理由:文章比較 Kumo Relational 與監督式模型及 AutoGluon,並交代評測範圍和樣本限制,呈現其在關聯數據預測中的適用邊界。
NVIDIA 與 IIT Madras、AI4Bharat 介紹 Nemotron-pretraining-Indic-v1,這套涵蓋 22 種印度語言、約 2.8 trillion tokens 的預訓練語料及 GPU 加速開源生成流程即將推出。
推薦理由:文章交代語料的語言與文字系統覆蓋,並拆解翻譯、品質評估及修復流程,呈現這套生成配方如何按不同語言工作流調整。
Mistral AI 發佈 Timestral 時序基礎模型系列,提供 5M、28M、123M 和 209M 四種尺寸,支援機率式多變量預測及過去與已知未來協變量。209M 模型在 GIFT-Eval、TIME 和 fev-bench 三個公開基準均排名第一;以三週、每 15 分鐘一筆的歷史資料預測一天,在 8 threads 的標準伺服器 CPU 上耗時 140 ms。
推薦理由:Timestral 的四種模型尺寸對應不同的預測表現與推理速度,文章提供公開基準結果和 CPU 延遲數據,方便比較準確度與部署效率之間的取捨。