A medida que las industrias continúan adoptando e integrando IA en la infraestructura informática, los recursos se gravan y la eficiencia energética se vuelve difícil de mantener. En general, la computación acelerada y la tecnología subyacente brindan la eficiencia para desarrollar la próxima generación de innovación, con NVIDIA GPU, NVIDIA AI y procesadores de próxima generación como el nuevo Intel Xeon de cuarta generación escalable plataforma de procesadores a la cabeza.
A medida que las industrias continúan adoptando e integrando IA en la infraestructura informática, los recursos se gravan y la eficiencia energética se vuelve difícil de mantener. En general, la computación acelerada y la tecnología subyacente brindan la eficiencia para desarrollar la próxima generación de innovación, con NVIDIA GPU, NVIDIA AI y procesadores de próxima generación como el nuevo Intel Xeon de cuarta generación escalable plataforma de procesadores a la cabeza.
Con el lanzamiento del procesador escalable Intel Xeon de 4.ª generación, NVIDIA y sus socios lanzan una nueva generación de sistemas informáticos acelerados por IA que ahorran energía. cuando se combina con GPU NVIDIA H100 Tensor Core, estos sistemas ofrecen un rendimiento mucho mayor, una mayor escala y una mayor eficiencia que las generaciones anteriores.
Los nuevos sistemas agregan rendimiento y eficiencia a la IA empresarial
Los nuevos sistemas impulsados por NVIDIA e Intel permitirán que las empresas ejecuten cargas de trabajo 25 veces más eficientes que los servidores de centros de datos solo con CPU. Ofrecer este rendimiento por vatio equivale a usar menos energía, lo que significa más energía para que los centros de datos aceleren las cargas de trabajo modernas.
La nueva generación de servidores acelerados por NVIDIA acelera el entrenamiento y la inferencia, lo que aumenta la eficiencia energética en 3.5 veces, lo que se traduce en ahorros reales, lo que reduce el TCO para los centros de datos de IA en 3 veces.
Las CPU Intel Xeon de cuarta generación cuentan con soporte para PCIe Gen 4
La nueva CPU Intel Xeon de cuarta generación es compatible con PCIe Gen 4, lo que duplica las tasas de transferencia de datos de la CPU a las GPU NVIDIA y las redes. Los carriles PCIe aumentados proporcionan una mayor densidad de GPU y redes de alta velocidad dentro de cada servidor.
Un ancho de banda de memoria más rápido mejora el rendimiento de las cargas de trabajo con uso intensivo de datos, como la IA, mientras que las velocidades de red de hasta 400 gigabits por segundo (Gbps) por conexión admiten transferencias de datos más rápidas entre servidores y almacenamiento.
Los sistemas y servidores NVIDIA DGX H100 de los socios de NVIDIA que ofrecen sistemas y servidores NVIDIA DGX H100 equipados con GPU PCIe H100 vienen con una licencia para NVIDIA IA empresarial, un conjunto completo, seguro y nativo de la nube de software de desarrollo e implementación de IA, que proporciona una plataforma completa para una IA empresarial eficiente.
Sistemas NVIDIA DGX H100 con NVIDIA Base Command
Los sistemas NVIDIA DGX H100 proporcionan una plataforma optimizada impulsada por el Comando base de NVIDIA sistema operativo diseñado para el centro de datos acelerado. Cada sistema cuenta con ocho GPU NVIDIA H100, 10 NVIDIA ConnectX-7 adaptadores de red y procesadores escalables duales Intel Xeon de 4.ª generación para ofrecer el rendimiento necesario para crear grandes modelos generativos de IA, grandes modelos de lenguaje, sistemas de recomendación y más.
En combinación con las redes de NVIDIA, se espera que esta arquitectura potencie la computación eficiente a escala y ofrezca hasta 9 veces más rendimiento que la generación anterior y entre 20 y 40 veces más rendimiento que los servidores X86 de doble socket no acelerados para entrenamiento de IA y cargas de trabajo de HPC. Con ese tipo de rendimiento, lo que solía tomar un tren de 40 días de modelo de idioma podría completarse en menos de dos días.
Los sistemas NVIDIA DGX H100 son los componentes básicos de la SuperPOD NVIDIA DGX, ofreciendo hasta un exaflop de rendimiento de IA, un salto en la eficiencia para la implementación de IA empresarial a gran escala.
Los socios de NVIDIA aumentan la eficiencia del centro de datos
Para las cargas de trabajo del centro de datos de IA, las GPU NVIDIA H100 permiten a las empresas crear e implementar aplicaciones de manera más eficiente.
Se espera que los socios de NVIDIA, incluidos ASUS, Atos, Cisco, Dell Technologies, Fujitsu, GIGABYTE, Hewlett Packard Enterprise, Lenovo, QCT y Supermicro, comiencen a ofrecer pronto la nueva cartera de GPU H100 y servidores de CPU escalables Intel Xeon de cuarta generación.
La conexión de servidores con la red NVIDIA ConnectX-7 y los procesadores escalables Intel 4th Gen Xeon aumentará la eficiencia y reducirá la infraestructura y el consumo de energía. Los adaptadores NVIDIA ConnectX-7 admiten PCIe Gen 5 y velocidades de conexión de 400 Gbps a través de Ethernet o InfiniBand, lo que duplica el rendimiento de la red entre servidores y almacenamiento.
Los adaptadores admiten descargas avanzadas de red, almacenamiento y seguridad. ConnectX-7 reduce la cantidad de cables y puertos de conmutador necesarios, lo que ahorra un 17 % o más en la energía necesaria para conectar en red grandes clústeres de IA y HPC acelerados por GPU y contribuye a una mejor eficiencia energética de estos nuevos servidores.
NVIDIA AI Enterprise Software ofrece una solución de IA completa
Estos sistemas de próxima generación están optimizados para NVIDIA AI Enterprise Suite. Al ejecutarse en NVIDIA H100, NVIDIA AI Enterprise acelera la canalización de la ciencia de datos. Agiliza el desarrollo y la implementación de modelos predictivos de IA para automatizar procesos esenciales y obtener información rápida a partir de los datos.
Con una amplia biblioteca de software de pila completa, que incluye flujos de trabajo de IA de aplicaciones de referencia, marcos, modelos preentrenados y optimización de infraestructura, el software proporciona una base ideal para escalar el éxito de la IA empresarial.
Interactuar con StorageReview
Boletín informativo | Canal de YouTube | Podcast iTunes/Spotify | @Instagram | Twitter | @TikTok | RSS Feed
