En el campo de alto riesgo de la IA empresarial, los titanes tecnológicos se encuentran en una carrera implacable para revelar la próxima innovación significativa en hardware. Dell Technologies presentó recientemente el Dell PowerEdge XE9680 para IA generativa y está flexionándolo en un documento técnico reciente. El PowerEdge XE9680, diseñado explícitamente para hacer frente a las cargas de trabajo de IA, no es solo un nuevo participante en la carrera: es un favorito potencial.
En el campo de alto riesgo de la IA empresarial, los titanes tecnológicos se encuentran en una carrera implacable para revelar la próxima innovación significativa en hardware. Dell Technologies presentó recientemente el Dell PowerEdge XE9680 para IA generativa y está flexionándolo en un documento técnico reciente. El PowerEdge XE9680, diseñado explícitamente para hacer frente a las cargas de trabajo de IA, no es solo un nuevo participante en la carrera: es un favorito potencial.
Examinando el documento técnico, observamos cómo esta potencia redefine el panorama de la IA y por qué podría ser el arma secreta de su empresa para conquistar la frontera de la IA.
Dell PowerEdge XE9680 para IA generativa
La Dell PowerEdge XE9680 es un servidor en rack denso en GPU diseñado para aplicaciones de alto rendimiento dirigidas a los campos de la inteligencia artificial. Está equipado con dos procesadores escalables Intel Xeon de cuarta generación, cada uno con hasta 4 núcleos, y puede equiparse con ocho GPU NVIDIA HGX H56 u ocho NVIDIA HGX A100; todo interconectado con la tecnología NVIDIA NVLink.
El PowerEdge XE9680 admite velocidades DIMM de hasta 4800 MT/s y tiene 32 ranuras DIMM DDR5, con una capacidad máxima de RAM de 4 TB. Ofrece hasta 8 unidades SSD NVMe de 2.5 pulgadas para almacenamiento, con una capacidad máxima de 122.88 TB. El servidor también incluye una variedad de características de seguridad, como firmware firmado criptográficamente, Cifrado de datos en reposo (DRE), Arranque seguro y más. Se administra a través del sistema integrado iDRAC9 y es compatible con una variedad de integraciones y herramientas de administración. El servidor está alojado en un factor de forma de rack de 6U y pesa 235.89 libras. (107 kg).
Dell PowerEdge XE9680 Especificaciones
El PowerEdge XE9680 está diseñado para manejar cargas de trabajo de IA con huellas de memoria masivas. Gracias a NVLink, las GPU obtienen acceso a una gran cantidad de memoria de otras GPU del sistema, lo que brinda acceso de alta velocidad a los recursos compartidos. Esta importante capacidad de memoria debería conducir a un mayor rendimiento, modelos más complejos y la capacidad de trabajar con conjuntos de datos más grandes y detallados, mejorando la precisión y la utilidad al aprovechar modelos de parámetros más grandes.
Modelo:
Capacidades del procesador:
Propiedades Físicas:
Soporte de memoria:
|
Capacidades de E/S:
Optimización de GPU:
Capacidades de inteligencia artificial:
Soporte de unidad:
|
Modelos de generación de imágenes: la ciencia del arte
¿Alguna vez deseó poder pintar como Van Gogh o dibujar como Da Vinci pero terminar con figuras de palo que ni siquiera impresionarían a un niño de jardín de infantes? Ingrese al mundo de los Modelos de generación de imágenes (IGM), el equivalente de aprendizaje automático de un artista prodigioso, menos las excentricidades y las boinas.
Los IGM son un subconjunto de modelos de aprendizaje automático diseñados para abordar la creación de nuevas imágenes. Los IGM se encuentran en el campo más amplio del modelado generativo, que se trata de comprender y replicar patrones de datos. Aún así, en lugar de generar números o texto, estos modelos están en el negocio de crear imágenes. En los últimos meses, los IGM han sido noticia generando de todo, desde nuevas obras de arte hasta rostros humanos inquietantemente realistas.
Estos modelos se han abierto camino en todo, desde el arte y el entretenimiento hasta la publicidad y la investigación científica. Están creando imágenes de células para diagnóstico médico, simulando el espacio exterior y generando selfies tan realistas que puedes pescar tú mismo. A medida que evolucionan estos modelos, aumentan los requisitos para ejecutarlos rápidamente.
Dell PowerEdge XE9680 para IA generativa: impulsando el perímetro de difusión estable
Los métodos de difusión, cuando se generan nuevas imágenes durante la inferencia, generalmente dependen de clústeres de GPU masivos que funcionan en sincronización y requieren un tiempo de ejecución de hardware extenso. Sin embargo, el documento técnico de Dell revela que con el servidor Dell PowerEdge XE9680, estas operaciones de IA generativa pueden acelerarse significativamente.
Esto permite producir de docenas a cientos de imágenes razonablemente resueltas en solo unos segundos. Dell señala que al aprovechar las capacidades de Dell PowerEdge XE9680 para IA generativa, se pueden producir imágenes grandes de alta resolución (Dell usó 2,096 x 2,096) a partir de un solo mensaje de texto en cuestión de segundos.
XE9680 generado con mensaje de texto = "Retrato de perro feliz, primer plano"
La whitepaper evalúa la latencia de generación de imágenes para el modelo de texto a imagen de HuggingFace Diffusers en el servidor PowerEdge XE9680, considerando el tamaño del lote y las variaciones de resolución de imagen. El servidor XE9680 podría generar imágenes con resoluciones de hasta 2,048 x 2,048.
A medida que aumentaron los tamaños de los lotes, también lo hicieron las demandas de memoria en la infraestructura. Por lo tanto, se pudieron lograr lotes de gran tamaño con imágenes de menor resolución (como 256 x 256). Sin embargo, debido a limitaciones de memoria, las imágenes de muy alta resolución (como 2,048 x 2,048) solo podían generar un tamaño de lote de una.
Tiempos de generación de imágenes por lotes de PowerEdge XE9680
Centrarse en la generación de imágenes por lotes con resoluciones de 256 x 256 y 512 x 512 muestra las poderosas capacidades de Dell PowerEdge XE9680 para IA generativa que genera múltiples imágenes en segundos. Esta capacidad acelera la evaluación, el ajuste rápido y la evaluación adicional requerida para los ciclos de diseño creativo. Estos resultados demuestran cómo se pueden generar lotes de 32 imágenes con una resolución de 512 x 512 con el paquete HuggingFace Diffusers en el servidor Dell PowerEdge XE9680 en menos de 10 segundos. Además, se pueden crear lotes de 64 imágenes con una resolución de 256 x 256 en menos de 5 segundos con la misma plataforma, lo que permite ciclos rápidos de creación de prototipos y diseño creativo para empresas y profesionales.
Puntos de referencia de generación de imágenes
En el análisis del documento técnico, el servidor Dell PowerEdge XE9680 se evaluó frente a los puntos de referencia de latencia de generación de imágenes establecidos por Lambda. Esta comparación involucró una sola GPU NVIDIA H100 con 80 GB de RAM en el servidor Dell PowerEdge XE9680 y la prueba comparativa NVIDIA H100 GPU Stable Diffusion lanzada por el equipo de ML Labs en Lambda.
Latencia de generación de imágenes Dell PowerEdge XE9680
El estudio demostró que el XE9680 superó los puntos de referencia de Lambda, logrando aproximadamente el doble de rendimiento. Los hallazgos de Dell se presentan en el mismo formato que los de Lambda, utilizando datos de su estudio de GPU NVIDIA H100 en condiciones idénticas definidas por software. La única diferencia fue el hardware: Lambda usó una GPU NVIDIA H100 con factor de forma PCIe, mientras que el servidor Dell PowerEdge XE9680 usó un factor de forma HGX, lo que podría explicar algunas diferencias de rendimiento.
Impacto empresarial de los modelos de generación de imágenes
La generación de imágenes a través de Stable Diffusion permite a los profesionales creativos crear rápidamente prototipos y refinar su trabajo, como mejorar la eficiencia de las estrategias de marketing y publicidad y acortar el tiempo de comercialización. Los profesionales de campos como la arquitectura, la publicidad, el marketing, la creatividad, el cine, los efectos especiales, la fotografía y el arte ya han adoptado esta tecnología.
Las tecnologías de IA generativa, como Stable Diffusion, pueden generar cambios transformadores en las operaciones empresariales, especialmente cuando la velocidad es crítica. En el diseño y desarrollo de productos, estos modelos pueden generar rápidamente prototipos visuales, lo que permite a los equipos de diseño evaluar y refinar conceptos en tiempo real. Esto acelera el proceso de diseño y reduce el tiempo de comercialización.
Uno de los conceptos más interesantes proviene de la industria minorista. La IA podría generar rápidamente imágenes realistas de varias configuraciones de productos u opciones de color según las preferencias del cliente, como "Muéstrame esta silla, pero en rojo" o "¿Cómo se vería ese sofá con estampado de leopardo?". Para los negocios inmobiliarios y de construcción, la IA generativa podría crear rápidamente visualizaciones de nuevos edificios o proyectos de remodelación, lo que ayudaría en la planificación y las presentaciones de ventas.
En el campo de la capacitación y la educación dentro de una empresa, las imágenes generadas por IA se pueden usar para crear escenarios realistas para los programas de capacitación de los empleados, lo que mejora los resultados del aprendizaje. La velocidad de generación de imágenes puede mejorar significativamente la agilidad de las empresas, lo que les permite responder a los cambios del mercado, las necesidades de los clientes y los requisitos internos de manera más efectiva.
Pensamientos Finales
El Dell PowerEdge XE9680 es un servidor de alto rendimiento con capacidades impresionantes que puede manejar fácilmente cargas de trabajo de IA exigentes (al menos por ahora). Si bien el XE9680 está dirigido al mercado de IA de tendencia, podría haber otros casos de uso intrigantes en análisis y procesamiento de datos para una caja tan poderosa. Cabe señalar que el XE9680 sustenta Proyecto Helix de Dell, un servicio para ayudar a las organizaciones a poner en línea sus proyectos de IA de manera más oportuna.
Interactuar con StorageReview
Boletín | YouTube | Podcast iTunes/Spotify | Instagram | Twitter | TikTok | RSS Feed
