TorchTPU為PyTorch加入原生TPU支援

2026年10月20日，Hugging Face Blog 報道 Hugging Face 推出 TorchTPU，為 PyTorch 加入原生 TPU 後端，並讓 Transformers、Diffusers 和 Kernels 原生支援 TPU。同日，vLLM 發佈 vLLM TorchTPU（vllm-torchtpu）後端，讓 vLLM 可在 Google Cloud TPU 上運行，並沿用既有模型程式碼及服務介面。當日稍後，MarkTechPost 稱 Google 開源 TorchTPU，指其由 Google 與 Meta 的 PyTorch 團隊共同開發，並建議新工作負載以此取代 PyTorch/XLA。就推出主體而言，早先報道稱 Hugging Face 推出，後續報道稱 Google 開源。10月21日，PyTorch Blog 稱 TorchTPU 由 Google 與 Meta 合作開發，支援 eager execution、torch.compile 及 PyTorch 分散式 API。Google 同日推出建基於 TorchTPU 的 vLLM-TorchTPU 和 SGLang-TorchTPU，並發佈 TorchTitan TPU 分支，支援在 Google Cloud TPU 上訓練 PyTorch 模型，亦介紹 TPU 模型優化方法。

AI 根據報道生成 · 32 分鐘前更新

1. 10月21日 00:00 · 1 篇報道
   TorchTitan 適配 Google Cloud TPU
   Google Developers Blog：Google 將 TorchTPU 整合至 TorchTitan，並介紹 TPU 模型優化方法
2. 10月21日 00:00 · 1 篇報道
   Google推出TPU原生推理引擎
   Google Developers Blog：Google 推出 TPU 原生 PyTorch 版 vLLM-TorchTPU 和 SGLang-TorchTPU
3. 10月20日 08:00 · 3 篇報道
   Google 開源 TorchTPU
   Hugging Face Blog：Hugging Face 推出 TorchTPU，為 PyTorch 加入原生 TPU 支援
4. 10月20日 08:00 · 1 篇報道
   vLLM 發佈 TorchTPU 後端
   vLLM 官方博客：vLLM 推出 TorchTPU 後端，可在 Google Cloud TPU 上運行

還沒有足夠的連續觀測數據，暫不繪製趨勢。