在 Computex 2024 上,華擎 Rack 推出了一系列利用強大的 NVIDIA Blackwell 架構的縱向擴充伺服器。華擎 Rack 展示了多款尖端系統,旨在滿足人工智慧、高效能運算和資料中心工作負載的需求。
在 Computex 2024 上,華擎 Rack 推出了一系列利用強大的 NVIDIA Blackwell 架構的縱向擴充伺服器。華擎 Rack 展示了多款尖端系統,旨在滿足人工智慧、高效能運算和資料中心工作負載的需求。
華擎機架發表的核心是ORV3 NVIDIA GB200 NVL72,這是一種液冷機架解決方案。該系統圍繞著最近發布的 NVIDIA GB200 NVL72 擴展系統構建,該系統使用 NVIDIA NVLink 技術整合了 36 個 NVIDIA Grace CPU 和 72 個 NVIDIA Blackwell Tensor Core GPU。這種配置形成了一個巨大的 GPU 單元,能夠更快地進行即時大語言模型 (LLM) 推理,同時降低總擁有成本 (TCO)。
除了 ORV3 系統外,華擎 Rack 還推出了 6U8X-EGS2 NVIDIA HGX B100 和 6U8X-GNR2/DLC NVIDIA HGX B200 高級伺服器型號。這些伺服器分別配備了 NVIDIA HGX B100 和 B200 8-GPU 系統。
NVIDIA HGX B100 是現有 NVIDIA HGX H100 基礎設施的直接替代品,有助於輕鬆過渡。 6U8X-GNR2/DLC NVIDIA HGX B200 採用直接晶片液體冷卻技術,使系統能夠在 6U 機架安裝設計中高效處理 NVIDIA Blackwell GPU 的熱設計功率 (TDP)。對於沒有液冷基礎設施的用戶,華擎 Rack 計畫推出風冷 8U8X-GNR2 NVIDIA HGX B200,同樣配備 NVIDIA HGX B200 8-GPU 系統,可在萬億參數模型上進行高性能即時推理。
增強的連通性
所有華擎機架 NVIDIA HGX 伺服器均支援多達 3 個 NVIDIA BlueField-XNUMX SuperNIC,並利用 NVIDIA Spectrum-X 平台(端到端人工智慧優化的乙太網路解決方案)。這些系統還將獲得全端 NVIDIA AI 和加速運算平台的認證,包括 NVIDIA NIM 推理微服務,作為用於生成 AI 的 NVIDIA AI Enterprise 軟體套件的一部分。
華擎 Rack 總裁 Sa Weishi Sa 強調,該公司致力於提供由 NVIDIA Blackwell 架構支援的頂級資料中心解決方案。 「我們展示的資料中心解決方案適用於法學碩士培訓和生成式人工智慧推理中最苛刻的工作負載。我們將繼續擴展我們的產品組合,將 NVIDIA Blackwell 架構的優勢帶入主流 LLM 推理和資料處理。
ASRock Rack 正在開發基於 NVIDIA GB200 NVL2 的新產品,將 NVIDIA Blackwell 架構的優勢擴展到橫向擴展配置,確保與現有資料中心基礎架構無縫整合。
NVIDIA GPU 產品管理副總裁 Kaustubh Sanghani 強調了與 ASRock Rack 的合作。他表示:“透過與華擎 Rack 合作,我們為企業提供強大的人工智慧生態系統,無縫整合硬體和軟體,提供突破性的性能和可擴展性,幫助突破人工智慧和高效能運算的界限。”
NVIDIA MGX 模組化參考架構
除了新產品外,華擎 Rack 還展示了 4UMGX-GNR2,這是一款符合 NVIDIA MGX 4U 架構的雙路 GPU 伺服器。此伺服器最多支援200個FHFL雙槽GPU,例如NVIDIA H5.0 NVL Tensor Core GPU,適用於主流企業伺服器。它具有 16 個 FHHL PCIe 5.0 x16 插槽和 3 個 HHHL PCIe 7 x200 插槽,支援 NVIDIA BlueField-400 DPU 和 NVIDIA ConnectX®-16 NIC,可實現多個 1Gb/s 或 5.0Gb/s 網路連接。該伺服器還具有 4 個用於 EXNUMX.S (PCIe XNUMX xXNUMX) SSD 的熱插拔驅動器托架。
華擎 Rack MGX 平台最有趣的方面之一是其 E1.S 儲存解決方案的實作。多達 16 個 E1.S 驅動器中有一半直接連接到 CPU,但更有趣的是,另外 8 個連接到 GPU 背板也連接到的 PCI-e 交換器。這展示了 GPU 直接儲存的幾個有趣且非常引人入勝的用例。
ASRock Rack 攤位預計將展示更先進的伺服器系統,包括 ASRock Rack 今年稍早推出的 MECAI-NVIDIA GH200 Grace Hopper Superchip 伺服器。華擎 Rack 的全新伺服器產品組合採用 NVIDIA Blackwell 架構,代表了資料中心和人工智慧技術的重大進步。這些系統提供卓越的效能、靈活性和可擴展性,滿足尋求突破人工智慧和高效能運算界限的企業的需求。
參與 StorageReview
電子報 | YouTube | 播客 iTunes/Spotify | Instagram | Twitter | 的TikTok | RSS訂閱