Inicio Empresa Dell y AMD presentan una solución de IA generativa ampliada con aceleradores AMD Instinct

Dell y AMD presentan una solución de IA generativa ampliada con aceleradores AMD Instinct

by Jordan Ranous

Dell está creando la bestia perfecta para admitir soluciones de IA generativa, agregando ocho GPU MI300X, 192 GB de memoria de alto ancho de banda (HBM5.3) de 3 TB/s por GPU para una capacidad total coherente de HBM3 de 1.5 TB por servidor y más de 21 petaflops de rendimiento FP16. .

Dell y AMD han anunciado una expansión de la cartera de soluciones de IA generativa de Dell, cuyo objetivo es acelerar las cargas de trabajo avanzadas y brindar a las empresas más opciones para continuar con sus viajes únicos de GenAI. Esta nueva tecnología enfatiza el papel fundamental que desempeñan los ecosistemas abiertos y la diversidad del silicio a la hora de brindar a los clientes soluciones simples, confiables y personalizadas para llevar la IA a sus datos.

DellXE9680

GenAI es enorme en este momento, con el 78 por ciento de la gente de TI entusiasmada con su impacto en su organización. Se trata de aumentar la productividad, optimizar y ahorrar dinero. Hacer que GenAI sea correcto es clave para seguir siendo competitivo. Dell y AMD garantizan que las empresas tengan la fuerza necesaria para impulsar sus sueños de IA. Ahora hay más opciones para cargas de trabajo de IA y GenAI sobre la mesa.

PowerEdge XE9680: el músculo para impulsar los sueños de IA

Ese músculo viene en forma de Dell PowerEdge XE9680, la solución de rampa más rápida en la historia de Dell y una de las favoritas absolutas del equipo de Storagereview. Pronto admitirá el acelerador AMD Instinct MI300X recientemente anunciado, ofreciendo a los clientes más opciones con respecto al rendimiento de la IA.

El PowerEdge XE9680 con AMD Instinct MI300X proporciona capacidades de alto rendimiento para empresas que buscan desbloquear el valor de sus datos y diferenciar su negocio con modelos de lenguaje grande (LLM) personalizados. Este servidor está equipado con ocho GPU MI300X, 192 GB de memoria de alto ancho de banda (HBM5.3) de 3 TB/s por GPU, para una capacidad HBM3 coherente total de 1.5 TB por servidor y más de 21 petaflops de rendimiento FP16. Al ofrecer esta tecnología, el PowerEdge XE9680 con MI300X está preparado para democratizar aún más el acceso a GenAI para empresas deseosas de entrenar modelos más grandes, reducir el espacio del centro de datos, reducir el TCO y obtener una ventaja competitiva.

Liberando a la Bestia

El Dell PowerEdge XE9680 es una bestia en términos de rendimiento, seguridad y facilidad de uso. Tiene Dell Open Manage Enterprise para una configuración rápida de GenAI y CloudIQ para una automatización inteligente y remota. Además, es súper seguro con recuperación cibernética y Zero Trust.

Dell también está implementando la siguiente fase de Soluciones de IA generativa de Dell. Esto incluye el nuevo diseño validado de Dell para GenAI con AMD, lo que hace que la implementación confiable de GenAI sea muy sencilla. Espere verlo el próximo año con marcos de IA impulsados ​​por AMD ROCm y contará con LLM de código abierto. AMD ROCm es un paquete completo de herramientas de código abierto para aceleradores AMD Instinct. Dell facilita la creación de plataformas GenAI que se adaptan a necesidades específicas.

El PowerEdge XE9680, con la plataforma AMD Instinct, ofrece una excelente escalabilidad y baja latencia para el entrenamiento y la inferencia de GenAI. Conecta GPU a través de servidores PowerEdge para obtener una red de IA sólida.

Como parte del Consorcio Ultra Ethernet, Dell está impulsando la creación de redes estándar. Se encuentran en una posición única para aprovechar un enfoque abierto en toda su solución GenAI: computación, estructura y almacenamiento. El Dell PowerEdge XE9680 con aceleradores AMD Instinct MI300X y el nuevo diseño GenAI llegará al mercado en la primera mitad de 2024.

Interactuar con StorageReview

Boletín | YouTube | Podcast iTunes/Spotify | Instagram | Twitter | TikTok | RSS Feed