ASRock Rack presenta los servidores NVIDIA Blackwell

En Computex 2024, ASRock Rack presentó una serie de servidores escalables que aprovechan la robusta arquitectura NVIDIA Blackwell. ASRock Rack presentó varios sistemas de vanguardia diseñados para satisfacer las demandas de IA, HPC y cargas de trabajo de centros de datos.

En el centro del anuncio de ASRock Rack estaba el ORV3 NVIDIA GB200 NVL72, una solución de rack refrigerada por líquido. Este sistema se basa en el sistema escalable NVIDIA GB200 NVL72 recientemente anunciado, que integra 36 CPU NVIDIA Grace y 72 GPU NVIDIA Blackwell Tensor Core que utilizan la tecnología NVIDIA NVLink. Esta configuración forma una unidad GPU masiva capaz de realizar una inferencia más rápida de modelos de lenguaje grande (LLM) en tiempo real y, al mismo tiempo, reducir el costo total de propiedad (TCO).

Además del sistema ORV3, ASRock Rack presentó los modelos de servidor avanzado 6U8X-EGS2 NVIDIA HGX B100 y 6U8X-GNR2/DLC NVIDIA HGX B200. Estos servidores están equipados con los sistemas NVIDIA HGX B100 y B200 de 8 GPU, respectivamente.

NVIDIA HGX B100 es un reemplazo directo para las infraestructuras NVIDIA HGX H100 existentes, lo que facilita una transición sencilla. El 6U8X-GNR2/DLC NVIDIA HGX B200 cuenta con tecnología de refrigeración líquida directa al chip, lo que permite que el sistema maneje la potencia de diseño térmico (TDP) de las GPU NVIDIA Blackwell de manera eficiente dentro de un diseño de montaje en rack de 6U. Para aquellos sin infraestructura de refrigeración líquida, ASRock Rack planea presentar la NVIDIA HGX B8 8U2X-GNR200 refrigerada por aire, también equipada con el sistema NVIDIA HGX B200 de 8 GPU para inferencia en tiempo real de alto rendimiento en modelos de billones de parámetros.

Conectividad mejorada

Todos los servidores ASRock Rack NVIDIA HGX admiten hasta ocho NVIDIA BlueField-3 SuperNIC, aprovechando la plataforma NVIDIA Spectrum-X, una solución Ethernet de extremo a extremo optimizada para IA. Estos sistemas también estarán certificados para la plataforma de computación acelerada y la IA de NVIDIA de pila completa, incluidos los microservicios de inferencia NIM de NVIDIA, como parte del paquete de software NVIDIA AI Enterprise para IA generativa.

Weishi Sa, presidente de ASRock Rack, enfatizó el compromiso de la compañía de brindar soluciones de centro de datos de primer nivel impulsadas por la arquitectura NVIDIA Blackwell. “Estamos mostrando soluciones de centros de datos para las cargas de trabajo más exigentes en formación LLM e inferencia de IA generativa. Continuaremos ampliando nuestro portafolio para llevar las ventajas de la arquitectura NVIDIA Blackwell a la inferencia LLM y el procesamiento de datos”, dijo Sa.

ASRock Rack está desarrollando nuevos productos basados en NVIDIA GB200 NVL2 para extender los beneficios de la arquitectura NVIDIA Blackwell a configuraciones escalables, asegurando una integración perfecta con las infraestructuras de centros de datos existentes.

Kaustubh Sanghani, vicepresidente de gestión de productos GPU de NVIDIA, destacó la colaboración con ASRock Rack. Dijo: "Al trabajar con ASRock Rack, ofrecemos a las empresas un poderoso ecosistema de IA que integra perfectamente hardware y software para ofrecer un rendimiento y una escalabilidad innovadores, ayudando a ampliar los límites de la IA y la informática de alto rendimiento".

Arquitectura de referencia modular NVIDIA MGX

Además de los nuevos productos, ASRock Rack presentó el 4UMGX-GNR2, un servidor GPU de doble socket compatible con la arquitectura NVIDIA MGX 4U. Este servidor admite hasta ocho GPU FHFL de doble ranura, como la GPU NVIDIA H200 NVL Tensor Core, lo que lo hace adecuado para servidores empresariales convencionales. Cuenta con cinco ranuras FHHL PCIe 5.0 x16 y una ranura HHHL PCIe 5.0 x16, que admiten DPU NVIDIA BlueField-3 y NIC NVIDIA ConnectX®-7 para múltiples conexiones de red de 200 Gb/s o 400 Gb/s. El servidor también tiene 16 bahías de unidades de intercambio en caliente para SSD E1.S (PCIe 5.0 x4).

Uno de los aspectos más interesantes de la plataforma ASRock Rack MGX es su implementación de la solución de almacenamiento E1.S. La mitad de las 16 unidades E1.S están conectadas directamente a la CPU, pero lo más interesante es que las otras 8 están conectadas al conmutador PCI-e al que también está conectada la placa posterior de la GPU. Esto presenta varios casos de uso interesantes y fascinantes para el almacenamiento directo de GPU.

Se espera que el stand de ASRock Rack muestre sistemas de servidores más avanzados, incluido el servidor MECAI-NVIDIA GH200 Grace Hopper Superchip, que ASRock Rack lanzó a principios de este año. La nueva cartera de servidores de ASRock Rack, impulsada por la arquitectura Blackwell de NVIDIA, representa un avance significativo en las tecnologías de inteligencia artificial y centros de datos. Estos sistemas ofrecen rendimiento, flexibilidad y escalabilidad excepcionales, satisfaciendo las necesidades de las empresas que buscan ampliar los límites de la IA y la informática de alto rendimiento.

Estante ASRock

Interactuar con StorageReview