Microsoft 與 AMD 合作部署大規模 AI CPU 及 GPU 叢集
Microsoft Taps AMD For At Scale AI CPU And GPU Clusters
Microsoft 與 AMD 宣佈合作,在 Azure 部署基於 AMD「Helios」機架的大規模 AI 系統,主要用於前沿模型推理。每個雙寬 Helios 機架配備 72 張 Altair MI455X GPU 和 18 顆 Venice Epyc 9006 CPU,GPU FP4 算力為 2.9 exaflops,合計搭載 31 TB HBM 4 記憶體。
文章提供 Helios 機架的硬件配置與 Azure 部署方向,可看出 GPU 推理叢集和 Venice CPU 叢集各自對應的工作負載。
NEXTPLATFORM AD
雲端
我們身處一個古怪的時代。AMD 和 Nvidia 在 2026 年餘下時間能生產的每一部 GPU 和 CPU,早已全部售罄,即使當中有些仍未製造出來。既然如此,兩家公司如果想停止推出新產品,大可直接停下來。
我們聽到的只會是蟲鳴聲。 . . .
NEXTPLATFORM AD
不過,可惜的是,重大產品發布帶來的免費宣傳和分析,對任何 IT 供應商而言都是好事;例如 AMD 本週四在矽谷舉行的 Advancing AI 2026 活動便是如此。無論是 GPU 加速系統還是全 CPU 叢集,AMD 都幾乎是唯一一家在兩個關鍵領域直接向 GenAI 硬件巨頭 Nvidia 施壓的公司,而 Nvidia 正在這些領域賺得盆滿缽滿。
在 Advancing AI 活動舉行前,Microsoft 和 AMD 宣佈雙方將合作推出大型 AI 系統,系統將採用AMD「Helios」機櫃設計,並配備 AMD 一系列硬件及軟件技術,包括「Altair」MI455X GPU、「Venice」Epyc 9006 CPU、Pensando DPU,以及 ROCm 軟件堆疊。
雙倍寬度的 Helios 機櫃在 18 個運算托盤中搭載 4,600 個 Zen 6 CPU 核心,每個托盤配備一部 CPU 和四部 GPU。換算下來,每部 Venice 處理器有 256 個核心;每個機櫃的 72 部 GPU 則合共提供 18,000 個 GPU 運算單元,並可在 FP4 精度下達到 2.9 exaflops。這些 GPU 合共配備 31 TB 的 HBM 4 堆疊式記憶體,並透過可使用 P4 語言編程的 Pensando DPU,提供合計 43 TB/sec 的頻寬。這是其中一項重要特點,而 Microsoft 對此特別欣賞,因為迄今為止,它可能是部署 Pensando DPU 最多的公司。
Microsoft 和 AMD 都沒有透露 Big Bill 為 Helios 機櫃投入多少資金,但我們預計會涉及數十萬部 GPU,金額介乎 $5 billion 至 $10 billion。我們確知的是,這是一次大規模部署,而且明確是要在 Azure 雲端上為前沿模型執行推理。
NEXTPLATFORM AD
Helios 機櫃的橫向擴展網絡無疑會採用乙太網絡,而 Arista Networks 很可能會為這部分網絡供應交換器。
至於機櫃內的縱向擴展網絡,以及如何連接 MI455X GPU 的 HBM 記憶體,情況則較不明朗。Microsoft 和 Meta Platforms 都積極支持 ESUN 一致性記憶體互連協定。該協定正逐漸成為 Nvidia NVLink/NVSwitch 組合,以及AMD 與合作夥伴於 2024 年 5 月推出的 UALink 協定的替代方案。(我們在翌年 4 月詳細介紹過 UALink,亦在今年 1 月與 Upscale AI 對談,談及該公司希望推出首款高基數、高頻寬 UALink 交換器。)Microsoft 或會先在初期的 Helios 機櫃中,採用透過低延遲乙太網絡交換器運行的 ESUN,之後再轉用 UALink 交換器。不過,正如我所説,這一點尚不清楚;在 Microsoft 決定大談其所做的事之前,情況都會如此。
或許我們能在 Advancing AI 活動上了解更多。
除了大規模部署 Helios 叢集外,Microsoft 亦承諾部署 Venice Epyc CPU 叢集,作為 Azure 雲端兩種不同執行個體的基礎。Azure HDv2 執行個體將針對 Agentic AI 工作負載及其資料管道處理;HXv2 執行個體(推測核心數較多)則將針對晶片電子設計自動化。
NEXTPLATFORM 廣告
此外,Microsoft 正與 AMD 合作,將 Azure Boost 加速軟件移植至 Pensando DPU。Microsoft 曾為 Azure Boost 在 2024 年 11 月首次部署而自行開發 DPU;如今看來,Microsoft 正把自家開發的網絡及儲存虛擬化技術移植至 P4 程式例程和 Pensando DPU。
話雖如此,我們仍然認為,Microsoft 對 Nvidia 和 AMD GPU 的採購分配比例可能約為 70% 比 30%,或 75% 比 25%。關鍵在於誰能分到多少 HBM 記憶體,以及何時分到。如果 Nvidia 取得 80% 的 HBM,便大致能售出 80% 的 XPUs。事情就是這麼簡單。不過,我們確實認為 AMD 在 AI 訓練和推理市場的份額正在增加,這必然意味著 AMD 獲分配的 HBM 也在增加。最好確實如此,否則可能會出現一些涉及反壟斷及限制貿易的大型訴訟。
來源:The Next Platform · nextplatform.com