WEKA presentó una vista previa de la primera solución de almacenamiento de alto rendimiento basada en el Superchip de CPU NVIDIA Grace y entregada en un Supermicro ARS-121L-NE316R.
En la SC24 de Atlanta, WEKA presentó la primera solución de almacenamiento de alto rendimiento de la industria diseñada específicamente para el superchip de CPU NVIDIA Grace. Desarrollada en colaboración con NVIDIA, Arm y Supermicro, esta solución aprovecha el software WEKA Data Platform para proporcionar una densidad de rendimiento y una eficiencia energética inigualables para cargas de trabajo de inteligencia artificial y computación de alto rendimiento (HPC) empresariales. Cuenta con núcleos Arm Neoverse V2, tarjetas de interfaz de red NVIDIA ConnectX-7 y tarjetas de interfaz de red BlueField-3 SuperNIC, que se ejecutan en un servidor de almacenamiento de vanguardia de Supermicro para abordar los crecientes desafíos de acceso a los datos, espacio y limitaciones de energía en los centros de datos modernos.
Impulsando la próxima generación de innovación en IA
El superchip de CPU NVIDIA Grace integra las capacidades de un servidor insignia de doble socket x86-64 en un solo módulo alimentado por 144 núcleos Arm Neoverse V2. Este diseño ofrece el doble de eficiencia energética que los servidores x2 tradicionales. Junto con las NIC NVIDIA ConnectX-86 y las SuperNIC BlueField-7, que ofrecen un rendimiento de hasta 3 Gb/s, la solución proporciona redes de alta velocidad y baja latencia esenciales para las cargas de trabajo de IA y HPC. Estos avances se combinan con la arquitectura de copia cero de WEKA Data Platform, que elimina los cuellos de botella de E/S y reduce drásticamente la latencia del flujo de trabajo de IA.
Combinada con la arquitectura nativa de IA de la plataforma de datos WEKA, esta capacidad permite a las organizaciones acelerar los flujos de trabajo de IA hasta 10 veces, reduciendo el tiempo hasta el primer token y mejorando la eficiencia general en las canalizaciones de datos de IA.
La arquitectura de memoria LPDDR5X de la CPU Grace, con hasta 1 TB/s de ancho de banda de memoria, elimina los cuellos de botella y garantiza un flujo de datos sin interrupciones. La plataforma de datos WEKA, que aprovecha la arquitectura distribuida y la tecnología de omisión de kernel, admite un entrenamiento de modelos más rápido, tiempos de época reducidos y velocidades de inferencia más altas, lo que la convierte en una solución ideal para escalar las cargas de trabajo de IA empresarial.
Esta solución ofrece una eficiencia energética sin precedentes, ya que la plataforma WEKA aumenta la eficiencia de la pila de GPU en 10-50xAl reducir las copias de datos y aprovechar la elasticidad de la nube, la plataforma reduce la huella de carbono de la infraestructura de datos entre 4 y 7 veces, lo que reduce la emisión de carbono en hasta 260 toneladas de CO2e por petabyte al año y reduce los costos de energía hasta 10 veces. Con la eficiencia energética del superchip de CPU Grace, las organizaciones pueden cumplir con los objetivos de sostenibilidad y, al mismo tiempo, mejorar el rendimiento de la IA.
Transformando los centros de datos para la IA empresarial
La colaboración entre WEKA, NVIDIA, Arm y Supermicro subraya una visión compartida para crear soluciones de alto rendimiento y eficiencia energética adaptadas a los centros de datos de próxima generación. Nilesh Patel, director de productos de WEKA, destacó el potencial transformador de esta asociación y destacó cómo la solución acelera las cargas de trabajo de IA y HPC, al tiempo que reduce el tiempo necesario para obtener información útil y aborda el creciente consumo de energía de los centros de datos.
El servidor de almacenamiento Supermicro ARS-121L-NE316R presenta:
- 16 bahías SSD NVMe Gen5 E3.S para almacenamiento de alto rendimiento.
- Tres ranuras de red PCIe Gen 5, que admiten hasta dos NVIDIA ConnectX-7 o BlueField-3 SuperNIC y un adaptador de red OCP 3.0.
- Un diseño optimizado para IA, análisis de datos y aplicaciones en la nube a gran escala.
Ivan Goldwasser, director de CPU para centros de datos de NVIDIA, elogió la solución por integrar sin problemas el superchip de CPU NVIDIA Grace con la plataforma WEKA para mejorar las cargas de trabajo de inteligencia artificial con uso intensivo de datos. Patrick Chiu, director sénior de gestión de productos de almacenamiento de Supermicro, describió el servidor de almacenamiento a petaescala ARS-121L-NE316R de Supermicro como el primer servidor optimizado para almacenamiento que utiliza el superchip NVIDIA Grace, diseñado a medida para cargas de trabajo de almacenamiento de alto rendimiento, como inteligencia artificial, análisis de datos y aplicaciones en la nube a gran escala.
Disponibilidad
La solución de almacenamiento WEKA y Supermicro con superchips de CPU NVIDIA Grace estará disponible comercialmente a principios de 2025.
Interactuar con StorageReview
Boletín | YouTube | Podcast iTunes/Spotify | Instagram | Twitter | TikTok | RSS Feed
