Zephon 整合至 TorchTitan

2026年10月17日，PyTorch 的 Blog 報道 Zephon 已整合至 TorchTitan，為其引入可彈性調整的確定性數據載入。報道指出，訓練在 GPU 數量不同的情況下恢復時，仍可重現相同的全局批次。數據處理會在訓練工作進行期間即時完成，毋須預先製作處理後的語料副本。這項整合同時涵蓋訓練恢復時維持全局批次可重現，以及訓練期間處理數據的做法。

AI 根據報道生成 · 1 小時前更新

還沒有足夠的連續觀測數據，暫不繪製趨勢。