SageMaker AI Serverless Model Customization 的 Full Fine-Tuning(FFT)實驗與調校指南
AWS 在 SageMaker AI Serverless Model Customization 上比較 Full Fine-Tuning(FFT)與 LoRA,並分享 FFT 的實驗結果和超參數調校指引。
AWS 在 SageMaker AI Serverless Model Customization 上比較 Full Fine-Tuning(FFT)與 LoRA,並分享 FFT 的實驗結果和超參數調校指引。
AWS 為 Amazon SageMaker HyperPod 推出三項工作負載復原及基礎設施檢查能力,分別驗證訓練運算、監察 EKS 故障,以及偵測 Slurm 停滯任務。
Hugging Face分析272次生產環境監督式微調(SFT)工作,發現CatBoost能更準確地預測端到端耗時。測試涵蓋約7,382 GPU 小時;CatBoost的R²為0.98,平均絕對誤差為1.71小時,中位誤差為0.51小時。相比之下,FLOP估算的R²為0.31,平均絕對誤差為12.41小時。
Amazon SageMaker AI 推出 AI 數據準備功能,擴展模型開發工作流,可生成合成數據、評估及改善現有數據集,並納入專家意見。功能涵蓋自動標註、人工覆核、合成數據生成、數據品質評估及數據轉換,可透過 SageMaker Python SDK APIs 或 AWS AI-ML agent skill 使用。
OpenTSLM-Flamingo 現已可在 Amazon SageMaker JumpStart 部署,文章示範如何以數值時間序列和文字上下文進行推理。
香港中文大學供應鏈及物流研究所舉辦 Smart Logistics Datathon 2026,吸引來自亞洲各地逾150支大學隊伍參賽,刷新參賽紀錄。20支大學隊伍及20支中學隊伍、共112名參賽者晉級決賽,完成35小時不間斷數據分析與建模挑戰。韓國科學技術院的 Team Smooth Operator 奪得大學組冠軍。
Amazon SageMaker HyperPod Data Capture 提供三個獨立層級的擷取方式,讓團隊把推理數據記錄至 Amazon S3,供分析和訓練使用。
推薦理由:文章以合成資料展示從生產推理記錄、Athena 分析到 SQL 標註與微調的完整流程,並比較留出測試的前後結果。
Hugging Face Blog 提供 TRELLIS.2 微調指南、腳本及 Docker 容器,示範如何用 LoRA 針對鞋類 3D 幾何生成進行微調。實驗使用 GSO 的 188 件鞋類物件,只微調 sparse-structure flow DiT 和 shape flow DiT,並凍結 texture flow DiT;其中 9 件留作評估。
推薦理由:文章示範如何按任務與資料特性選擇 TRELLIS.2 的微調部件,並以留出鞋類物件的幾何指標比較調整前後結果。
文章示範在 Amazon SageMaker HyperPod 的 PyTorch DDP 訓練流程加入三項檢查,以偵測靜默數據損壞並定位可疑 GPU。流程涵蓋非有限梯度檢查、跨節點 ring replay 和權重指紋比對,並説明如何隔離及替換可疑節點,再從可疑窗口前的檢查點恢復。
推薦理由:文章將靜默數據損壞的偵測、定位及節點恢復連成 DDP 實作流程,並説明各項檢查的覆蓋範圍與效能成本。
Google Research 提出研究框架,利用穿戴式數據評估心血管—腎臟—代謝(CKM)健康風險,並提供個人化生活習慣指導。其中的 SensorWM 以 2.28 million person-weeks 的 Fitbit 數據訓練,根據兩週基線資料預測 20 項生理指標未來 12 週的變化,再由語言模型智能體生成指導方案。
Google DeepMind 發佈 AlphaGenome 2,預測 DNA 序列及其變異對特定人類細胞類型的影響,連接單細胞生物學與人類遺傳學。模型以來自 68 種組織、超過 1.07 億個細胞的單細胞資料訓練,可按指定細胞類型或狀態預測基因表達等讀數,並新增 DNA 甲基化預測。
推薦理由:AlphaGenome 2 在 TenK10K 數據集上將因果變異識別率由 16% 提升至 30%,呈現其針對特定免疫細胞解析變異效應的改進。
文章示範如何用 Sentence Transformers 為多向量嵌入模型加入 Token Pooling 感知訓練,令模型同時以原始及壓縮後的文件向量進行檢索訓練。
推薦理由:文章將壓縮後的檢索目標納入訓練損失,並在相同儲存預算下比較一般訓練與池化感知訓練的檢索品質保留差異。
Google DeepMind 開放 SatWeave 和 PARDIG 的即時資料及歷史檔案,供研究人員和開發者用於天氣、水文及氣候應用。SatWeave 每小時更新,涵蓋 17 個可見光、水汽及紅外線通道;PARDIG 提供時間解析度為 15 分鐘、約 10 公里解析度的全球降水圖,平均延遲約 5 小時。
推薦理由:兩套數據集分別提供全球衞星影像拼接與降水估算,並開放即時資料和歷史檔案,呈現它們支援天氣、水文及氣候應用的資料基礎。
Elith 與 NVIDIA 發佈 Nemotron-Personas-Finance-Japan,這是一個以日本官方統計及家庭金融資訊為基礎、供金融 AI 開發使用的合成人物資料集。資料集共包含 9M 個人物設定,每筆記錄涵蓋 50 個欄位,並以 CC BY 4.0 授權提供商業及非商業使用。它可用於建立客服智能體、評估銷售對話和市場推廣、進行用戶模擬,以及紅隊測試面向客戶的 AI。
推薦理由:資料集把日本官方人口與勞動統計、家庭財務及金融素養欄位結合,並列出客服智能體、用戶模擬和公平性測試等具體用途。
Amazon Marketplace 以 Amazon SageMaker AI 建立 A+ Content 質素評估流程,整體評估商品詳情頁並提供改善建議。系統把完整頁面渲染成單一快照,結合 VLM 評分、OCR 可讀性訊號、CatBoost 分類器及 SHAP 解釋結果,再由 LLM 整理改善建議。
Dharma-AI 發佈 2-billion-parameter Field Extractor,可從文件影像抽取欄位並輸出結構化 JSON。模型支援開放式抽取,以及按指定 schema 輸出欄位、類型和鍵名;文件中缺少的欄位會返回 null。
Palette以LoRA微調20B開放權重模型,讓模型按指定設計語言規劃並生成簡報,並以檢查器核驗版面。訓練數據依據 IBM Design Language 合成,涵蓋約 1000 份簡報、約 10,000 張投影片;模型在 PresentBench 測試的三個領域中有兩個排名第一。設計與編寫程式碼分工後,每張投影片可並行處理,編碼階段快約 6–7×。
AWS 示範以 SeqKD 在 Amazon SageMaker AI 上微調 Qwen3.5-4B 購物智能體。流程以 Amazon Bedrock 上的 GLM-5.3 生成多步軌跡,並用 ShoppingBench 評分器保留成功樣本。
推薦理由:ShoppingBench 保留測試集顯示,4B 學生模型平均 ASR 比基礎模型高 24 個百分點,保留教師推理也比只訓練工具呼叫高約 13 個百分點。
HKGAI、度小滿及香港科技大學推出「軒轅4.5」金融增強大模型,稱其為業界首個具備自我進化能力的金融大模型。模型採用遞迴自我改進(RSI)技術,在拓展客源、風險管理及客戶關係管理等場景的表現提升30%,運算成本僅為通用模型的10%。
OpenAI 刊出多個團體、專家及美國政府提交法院的意見摘錄,支持將受版權保護作品用於生成式 AI 訓練屬合理使用。部分意見認為,訓練用途具轉化性且不取代公眾接觸原作,並指出限制訓練或會影響研究、教育、無障礙服務及創作者使用 AI。
推薦理由:文章並列法律學者、圖書館、創作者及政府提交的論點,呈現合理使用爭議如何牽涉訓練方式、作品市場影響與公共利益。
OpenAI 宣佈將遵守 robots.txt 中讓網站表達其內容能否用於基礎生成式 AI 訓練的共用訊號,網站可藉此一次向多個參與供應商傳達偏好。網站營運者以往須為各供應商分別設定爬蟲規則,OpenAI 計劃在未來數月實施共用訊號,並會再公佈細節。新訊號不會取代現有 robots.txt 爬蟲控制,現有控制仍會繼續適用並獲尊重。
AWS Batch 的 quota management 為 SageMaker Training jobs 提供按團隊、項目或工作負載劃分配額及分享閒置運算資源的排程方式。
Hugging Face 宣佈 Project ProtoStar,聯合大學、研究機構、業界和開放科研社羣,推動公開資助科研資源以 AI 就緒格式釋出及重用。
AWS 示範以 Ray Train DLC、KubeRay 和 EFA 在 EKS 上用 FSDP 微調 Qwen2.5-1.5B。
推薦理由:文章逐一説明容器、叢集與傳輸設定如何分工,並展示以預建映像部署多機訓練及檢查 EFA 網絡路徑的方法。
NVIDIA 推出開放權重的 Nemotron 3.5 Transcribe,並公開 Granary v2 多語言語音資料及整理流程。模型支援 40 種語言轉錄,其中 31 種可與英文互譯,並支援 13 種語言的説話者標註;Granary v2 公開清單涵蓋 48 種語言、463,062 小時及 16 個來源語料庫。醫療語音案例中,微調令留出説話者的 WER 較最佳提示詞基線相對下降 45.8%。
推薦理由:文章串連提示詞控制、資料整理與微調流程,並以留出説話者的醫療語音評估呈現 WER 相對下降 45.8% 的結果。
Google Research 提出 sleep framework,讓 LLM 交替進行主動互動與離線記憶整合,把短期上下文知識寫入長期參數以持續學習。該方法在 BABILong 長上下文測試中近乎完美地擴展至 10M tokens,並在未見語言的多階段持續翻譯評估中維持近乎零性能下降。
Exowatt 以 Amazon SageMaker AI serverless model customization 微調 Qwen3-1.7B 和 Qwen3-14B,應用於端側告警分流和雲端能源市場分析,兩者在各自測試中均勝過前沿模型。
C-BRAIN 與 NVIDIA 合作,運用 AI 支援阿茲海默症研究,目標是加快研究發現,推進新治療所需的科學工作。其已建構 OpenScientist 和 InsightEngine 兩項開源智能體 AI 工具,分別用於生成及分析研究假設,以及對照科學文獻、用戶提供的數據集和生物醫學知識圖譜核驗主張。
Amazon SageMaker AI 的多輪強化學習(MTRL)可按整個任務的結果獎勵訓練 Agent 模型,文章以 Wordle 展示端到端實作流程。以 medium effort、temperature 1.0 評估時,gpt-oss-20b 的解題率由 61% 升至 84%;訓練 token 費用約 $339,AgentCore 執行環境費用另約 $79。
推薦理由:文章以 Wordle 示範按多輪任務整體結果設計獎勵的方法,並拆解 SageMaker AI 訓練流程,提供企業內部工作流可參照的實作脈絡。
ThinkingBox-Training 已在 GitHub 開放,將智能體完成任務後的資料庫終態可執行檢查用作後訓練獎勵。以 GRPO 對 Qwen3.8-27B 訓練 50 步後,在 ThinkingBox-Bench 的 507 項任務(每項測試 20 次)中,pass@1 由 51.70% 升至 60.78%,20 次全部成功的任務由 38 項增至 107 項。
推薦理由:文章展示如何把資料庫終態的可執行檢查轉成智能體後訓練獎勵,並按基礎策略成功率篩選任務,説明混合成敗回報如何為 GRPO 提供組內對比。
AWS 為 Amazon SageMaker AI 加入 training session APIs,讓用戶以本機 Python 自訂訓練迴圈,並由服務管理 GPU 運算。
推薦理由:文章以 GSM8K 數學題及競賽編程 RL 範例,拆解本機訓練迴圈如何組合抽樣、獎勵計算與梯度更新,並由 SageMaker 管理 GPU 執行及檢查點。
AWS SageMaker AI 正式推出 Serverless Training Sessions,讓用戶自訂模型後訓練迴圈、損失函數及獎勵訊號,而無需管理底層 GPU 基礎設施。
推薦理由:Training sessions 讓團隊自訂後訓練迴圈,同時由 SageMaker AI 管理 GPU 密集運算;文中以 GRPO 説明採樣、評分和權重更新如何串接。
OlmoEarth 發佈 v1.3 衞星嵌入模型,並提供全球預先計算的年度嵌入向量及 OlmoEarth Embeddings Explorer。模型為每個 10 米像素提供 128 維嵌入,亦可使用 64 維版本;在 27 項評測中,兩者分別於 20 項和 18 項評測表現領先,2023 至 2025 年的嵌入資料覆蓋全球。
推薦理由:這次發佈把全球預先計算的嵌入向量與免登入探索工具一併提供,讀者可瞭解如何免用 GPU 進行衞星資料比較和簡單分類。
Google DeepMind、Google Research、WRI 及 IIASA 發佈 Forest Typology (ForTy) 2020 全球地圖,以 10 米解析度將土地分為六類森林及土地利用類型。
推薦理由:ForTy 將全球土地分為六類森林及土地利用類型,並追蹤 2017 至 2025 年的變化,補充樹冠覆蓋地圖難以呈現的天然林轉為種植園或農地等轉換。
NVIDIA 擴展 Cosmos 平台,加入訓練工具、模擬檢查點及 Cosmos Data Factory 藍圖,支援世界模型訓練、評估和部署。Cosmos Data Factory 提供五種雲端原生藍圖;Cosmos Framework 則支援透過微調和強化學習調適開源模型,並以知識蒸餾和量化作最佳化。
推薦理由:文章串連數據整理、模型調適與模擬測試等更新,並列出 Porsche、ANYbotics 等企業案例,呈現 Cosmos 工具鏈在實體 AI 開發流程中的應用。
AWS 示範在單一 trn2.48xlarge 上以 torchtitan 訓練 Qwen3,涵蓋 Transformers v5、原生 Qwen3 及 NKI MoE 三種配置。三種配置沿用相同的 torchrun 啟動模式和設定結構;文章亦示範透過 override registry 接入自訂 NKI 核心,並説明檢查訓練輸出與擴展並行的方法。
NVIDIA 推出預訓練關聯數據基礎模型 Kumo Relational,可直接在企業數據庫上預測,並以最多 10,000 個歷史樣本作上下文,無需任務專屬訓練。
推薦理由:文章比較 Kumo Relational 與監督式模型及 AutoGluon,並交代評測範圍和樣本限制,呈現其在關聯數據預測中的適用邊界。
NVIDIA Kumo Forecast 是一款多變量時間序列預測模型,結合預訓練 Transformer 主幹、領域感知表徵與檢索(DARR)歷史模式檢索,以及結果可解釋性。
i14 與 AWS 使用 TorchNeuron Native 的原生 PyTorch 支援,在 AWS Trainium2 上訓練及推理 Laplace 3B,保留 Gated Linear Attention(GLA)架構。
AWS 作者展示在 Amazon SageMaker HyperPod 上微調 GPT-OSS-20B,50 個測試案例中的指定語言推理正確率由基礎模型的 22% 升至 SFT 後的 100%。