NVIDIA 在 OCP 開放 Vera Rubin 架構，推進 AI 工廠全球擴展

當 AI 工廠的規模由兆瓦擴展至吉瓦，建設這些工廠所需的不只是先進運算能力。開放標準正協助業界更快速、更有效率及更可靠地擴展 AI 基礎設施。

在 San Jose McEnery Convention Center 舉行的 Open Compute Project (OCP) 全球峯會上，NVIDIA 宣佈建立新的合作夥伴關係並作出多項貢獻，旨在為新一代 AI 基礎設施打造共同基礎。

NVIDIA 透過開放式 NVIDIA Vera Rubin 架構 NVIDIA MGX，向 OCP 貢獻了重要的機架及運算托盤設計，為系統建造商開發新一代 AI 工廠基礎設施提供共同基礎。

這些工作涵蓋 AI 工廠本身、為其供電的電力網，以及現代加速運算核心所在的機架級架構。

NVIDIA 與合作夥伴宣佈開放架構新進展

在 OCP 活動上，NVIDIA 與合作夥伴宣佈了數項消息：

NVIDIA 與超大規模雲端服務商發布了新一代 AI 工廠的開放標準，包括 AI 工廠設計標準及電網韌性。
NVIDIA 為 NVIDIA DSX AI Factory 推出新的開源軟件元件。
Meta 與 NVIDIA 推進開放式 AI 網絡技術，推出 NVIDIA Spectrum-X Ethernet SuperNIC 和 Spectrum-6 的創新技術。
Visionbay 為 Vera Rubin 時代推出 800V DC AI 工廠設計方案。
NVIDIA 與 Cisco 宣佈推出超高密度小型可插拔 (USFP) 標準，這是業界首個用於以 400Gb/s 為基礎的網絡架構的模組。
NVIDIA 與 Google 宣佈未來的 NVIDIA ConnectX-10 SuperNIC 和 BlueField DPU 將支援 Falcon Transport。

在座無虛席的會場上，NVIDIA 超大規模運算及高效能運算副總裁 Ian Buck 討論了開放式基礎設施如何成為在全球擴展 AI 工廠的重要元素。

OCP 的消息突顯 NVIDIA 的極致協同設計結合開放標準，正加快部署、提升能源效益，並推動每瓦特 token 效能。

透過 OCP 的 MGX 機架貢獻，Vera Rubin AI 工廠取得進展

NVIDIA 透過 OCP 的 Open DC Initiative，與業界領導者共同為第三代 MGX AI 資料中心參考設計作出貢獻。

結合 MQD 和 MQDB 等開放式液冷技術，這項工作有助將經驗證的 AI 工廠設計轉化為業界標準，讓其他業者採用、生產及擴展。

對於 NVIDIA Vera Rubin AI 工廠，更新後的 MGX 1.2 規格進一步擴展 AI 工廠的開放架構，加入機架級盲插式液冷、可互通的機架級互連基礎設施，以及專為功率較高的 AI 系統而設的液冷式 5,000A 母線。規格亦加入原生 19 英寸設備支援及更高密度的機架設計。

MGX 1.2 進一步提升模組化程度，提供可配置的 I/O 插槽、無風扇液冷運算托盤、標準化電力及冷卻介面，以及通用基礎設施，協助生態系統合作夥伴打造可互通的加速運算平台。這項設計縮短組裝、測試及維修所需時間，簡化製造和現場服務流程，從而加快並提高基礎設施設置效率。此架構支援最高 250kW 的機櫃部署，同時簡化維修、部署及基礎設施重用。

Vera CPU 機櫃設計規格將 NVIDIA MGX 開放式架構擴展至加速運算以外，為日益發展的代理式 AI 時代提供專用平台。Vera Rubin NVL72 是大規模訓練和推理的基礎，而 NVIDIA Vera CPU 機櫃則旨在支援工具呼叫、協調及沙盒化執行，協助 AI Agent 即時與應用程式、資料及服務互動。

Vera CPU 機櫃採用第三代 NVIDIA MGX 機櫃架構，沿用相同的機櫃級設計原則，將運算、網絡、電力及冷卻整合至通用模組化平台。合作夥伴可藉此部署專用基礎設施，同時受惠於共用生態系統、簡化的整合流程，以及為新一代 AI 工廠提供的一致基礎。

NVIDIA 為 DSX AI Factory 推出全新開源軟件元件

NVIDIA DSX AI factory platform 採用極致協同設計，整合運算、網絡、電力、冷卻、設施及軟件，協助 AI 工廠作為單一最佳化系統運作，在現有基礎設施限制下將 AI 產出最大化。 DSX OS 是這個統一系統的核心，作為開放式作業層，讓 DSX 架構能夠大規模實現協調一致、可重複的營運。

在 OCP 上，NVIDIA 為 DSX OS 擴充了開源元件，用於設定網絡、驗證叢集、管理機櫃及配置裸機：

NVIDIA Config Manager：大規模自動化交換器配置，讓客戶能以極少甚至毋須手動介入，部署、驗證及維護一致的 AI 工廠網絡架構/
NVIDIA Cluster Readiness Engine：透過以真實工作負載模擬進行壓力測試，檢驗 GPU 叢集，確保訓練開始前硬件運作正常，協助避免成本高昂的工作崩潰
NVIDIA Rack Management Service：提供機櫃硬件抽象層及營運方案，將機櫃視為一級管理單位，以提升 AI 工廠的大規模韌體管理能力。
Cluster API Provider for NVIDIA Infrastructure Controller：加快裸機部署及租戶上線，數小時內便可將原始 AI 硬件轉化為可投入生產的叢集，而非耗時數天。

這些開源元件源自 NVIDIA 營運 NVIDIA DGX Cloud 的經驗，讓雲端服務供應商及軟件合作夥伴能將 AI 工廠功能直接整合至其多租戶平台。

開發者可前往 DSX AI Factory Github 頁面，探索 NVIDIA DSX AI Factory 平台的新舊開源軟件元件，並為其作出貢獻。

NVIDIA 與超大規模雲端服務商發布新一代 AI 工廠開放標準

要讓 AI 基礎設施在全球擴展，除了先進硬件，還需要一個整個行業都能共同建基的基礎。

在 OCP 上，NVIDIA 聯同 AMD、Google 及 Meta 共同發布一項新的開放規格，為這個基礎訂立標準。Open Data Center Specification v0.7 為新一代 AI 工廠設施設計訂立統一藍圖，涵蓋電力架構、冷卻基礎設施以至實體佈局。

OCP Grid Resilience Specification 由 Google、Meta、Microsoft 和 NVIDIA 發布，訂明大型 AI 基礎設施在公用電網受幹擾時應如何運作：保持連線、自動作出回應，並在不到兩秒內恢復至接近滿載。

這些標準現已開放，世界各地的製造商有了共同的建造目標。設備製造商、共置服務供應商和數據中心營運商可開始設計、製造並交付全球在建 AI 工廠所需的基礎設施層，無須等待個別客戶提供專有規格。

這些規格兼容 NVIDIA DSX 參考設計，並為兩項規格提供經驗證且可部署的實作方案，涵蓋設施佈局、電力架構，以至即時監察電網訊號並作出回應的軟件。對於正在建造 Vera Rubin AI 工廠的營運商而言，如今從開放社羣標準到實際運行的系統，已有清晰直接的路徑。

Visionbay.ai 為 Vera Rubin 時代設計 800VDC AI 工廠

隨着 AI 工廠規模擴大、功率提升，一項挑戰日益突出：如何為推動新一代 AI 的加速運算系統提供足夠電力。

在 OCP 上，Visionbay 公佈 K-1 的計劃。這是一個新一代 AI 工廠平台，以 800 VDC 架構為設計核心，並為未來部署 NVIDIA Vera Rubin 作好準備。項目結合 NVIDIA 的 800 VDC 參考架構，以及 Vertiv 的電力和熱管理技術，為高密度 AI 基礎設施打造可擴展的基礎。

這項設計應對行業日益嚴峻的挑戰。隨着 AI 訓練、推理和推理工作負載不斷擴展，機櫃功率密度持續上升。傳統低電壓配電方式愈來愈難以擴展，需要更多銅材、更多電纜和更多電力轉換設備。

採用 NVIDIA 的 800 VDC 架構後，K-1 為建設更高密度的 AI 基礎設施開闢了道路，同時保留現有部署的靈活性。平台的設計並非要求首日便全面轉換，而是逐步在最能發揮效益的地方引入 800 VDC 配電，協助營運商為未來世代的加速運算作好準備，無須大幅重新設計設施。

此架構以叢集層級的電力中心為核心，集中進行交流電轉直流電，並將 800 VDC 配電延伸至更接近運算資源的位置。這種做法簡化了下游電力輸送，支援模組化擴充，並為未來 AI 工廠的擴展建立可重複使用的基礎模組。

K-1 亦體現了 NVIDIA AI 工廠背後的系統級設計理念，將電力、冷卻和運算一併設計。此項目支援液冷基礎設施、可擴展的電力分配，以及未來的 Vera Rubin 級部署，展示生態系統合作夥伴如何將 NVIDIA 的 AI 工廠架構轉化為可部署的基礎設施，迎接加速運算的新時代。

Meta 與 NVIDIA 透過 Spectrum-6 和 Multiplane 技術推進 AI 網絡

在活動上，Meta 與 NVIDIA 宣佈，Meta 將採用 NVIDIA Spectrum-6 102.4Tb/s 乙太網絡交換器，透過開放式網絡架構建設規模更大、效能更高的 NVIDIA Vera Rubin AI 工廠。

Spectrum-6 的交換容量和每通道頻寬均為 Spectrum-4 的兩倍，並提供每通道 200G 的無損乙太網絡 AI 網絡架構，具備高有效頻寬和效能隔離，避免一項工作的流量拖慢另一項工作。

Meta 的以 Spectrum-6 為基礎的交換器 N-IceCube，安裝於 IcePack（Meta 的 100T 液冷機架）中。N-IceCube 使用 Facebook Open Switching System (FBOSS)；這是 Meta 的開源網絡作業系統，並已貢獻予 OCP，以支援超大規模環境中的高效網絡。

FBOSS 建基於 Switch Abstraction Interface（交換器抽象介面）；這項 OCP 標準由 NVIDIA 協助開發，提供不受供應商限制的交換器硬件控制方式。這些技術共同支援配備超過 100,000 個 GPU 的代理式 AI 工廠，用以訓練和運行大型專家混合模型。

這項公告標誌着雙方合作邁進新階段，結合 Meta 在超大規模營運 AI 基礎設施方面的經驗與 NVIDIA 的網絡技術。

這項合作的核心是 Spectrum-X Multiplane 技術，由 Spectrum-6 交換器和 ConnectX-9 SuperNIC 啟用。Multiplane 透過硬件將 GPU 流量分配至最多八個獨立網絡平面，讓 AI 工廠以較少的交換器層級和較低的基礎設施成本，擴展至超過 100,000 個 GPU。GPU 之間的多條路徑可提升網絡使用率和韌性：當元件故障時，流量會轉移至其餘網絡平面，讓 GPU 保持運作、AI 應用程式繼續運行，即使頻寬有所下降亦然。

Meta 與 NVIDIA 憑藉部署經驗和快速工程迭代，共同提升了這種韌性。兩個團隊在本地部署和雲端環境中驗證了各項改進。

Meta 資料中心及 AI 網絡高級總監 Omar Baldonado 表示：「我們很高興與 NVIDIA 緊密合作，令多平面網絡架構在營運上具備可擴展性和高效能；這對我們自行建設基礎設施及共同的雲端合作夥伴而言，都是關鍵要求。將 FBOSS 擴展至 Spectrum ASIC，代表我們可以在各個網絡架構上執行同一套軟件堆疊；Meta 新推出的 Spectrum 交換器 N-IceCube，則將這項技術引入 Icepack——這是我們採用液冷技術、用於橫向擴展的 102.4T 網絡機架，可連接我們旗下即將推出的多代加速器。」

Meta 與 NVIDIA 正共同開發一套架構和營運指南，供其他 AI 基礎設施營運商採用，將高要求生產工作負載中的經驗轉化為更具可擴展性、更有韌性和更高效率的 AI 工廠。

透過 USFP，NVIDIA 與 Cisco 重新構想可插拔光學技術，支援 AI 工廠規模化

隨着 AI 工廠擴展，以支援更大型模型及急升的推理需求，基礎設施堆疊中的每個元件都必須在效能、效率和簡潔性方面更進一步，網絡連接本身也不例外。

在 OCP 上，NVIDIA 與 Cisco 宣佈 USFP 計劃。USFP 是一種全新的可插拔光收發模組外形規格，旨在協助 AI 工廠建設者擴展新一代 AI 網絡架構，同時提高頻寬密度和能源效益。

USFP 的佔用空間與廣泛採用的 OSFP 外形規格大致相同，後者每通道支援 200Gb/s。USFP 將為每通道 400Gb/s 的網絡技術鋪路，並延續以收發器為基礎的部署模式；這種模式已在多代數據中心網絡中證實可行。USFP 配備 16 條全雙工通道，並計劃擴展至 32 條，頻寬密度將達到傳統每通道 200Gb/s 可插拔光學元件的四倍。

這讓用戶可以連接更多運算資源，而毋須增加可能提高延遲、耗電量和複雜性的網絡層級。

這種新外形規格專為新一代 AI 工廠的規模和效率需求而設，在支援更高頻寬網絡架構的同時，保留可插拔光學元件在現代數據中心廣泛使用的靈活性和可維修性。其功率效率亦將提高約 1.3 倍，協助營運商以更少能源傳輸更多數據。

為推動開放生態系統，NVIDIA 與 Cisco 正與 TE Connectivity 及 Amphenol 合作開發籠架、連接器和模組，並計劃透過社羣主導、多來源參與的方式推進 USFP。各公司正共同奠定基礎，推動 AI 工廠網絡更具可擴展性、效率及互通性。

Google Falcon Transport 支援 NVIDIA ConnectX-10，推動互通式 AI 網絡

NVIDIA 與 Google 亦宣佈，未來的 NVIDIA ConnectX-10 SuperNIC 和 BlueField DPU 將支援 Falcon Transport，協助提升大規模 AI 基礎設施的網絡效率。

Falcon 是一種傳輸協定，旨在透過乙太網絡可靠地傳送數據；乙太網絡在擁塞時可能會丟棄封包。它透過多路徑負載平衡、可程式化擁塞控制、硬件封包遺失恢復及逐連線安全防護，支援 AI 及儲存工作負載。

這項合作結合 NVIDIA 硬件加速與 DOCA 軟件，以實作 Falcon，並將 NVIDIA 網絡技術延伸至 Google 的數據中心傳輸。NVIDIA 與 Google 的網絡介面卡可透過共用傳輸協定互相通訊，同時讓應用程式保留標準 RDMA 程式設計介面。

Falcon 透過將流量分散至不同路徑、適應擁塞情況、恢復已丟棄的封包及保護連線，協助工作負載更有效運用可用頻寬，並在乙太網絡架構擴展時維持可預測的效能。

在 OCP 與 NVIDIA 一同瞭解更多，請 參與 NVIDIA at OCP。