El servidor Lenovo ThinkSystem SR675 V3, impulsado por las nuevas GPU L40S de NVIDIA, subió al escenario en SIGGRAPH en Los Ángeles, convirtiéndose en un punto focal en los planes de NVIDIA para avanzar en los despliegues globales de IA e introducir aplicaciones de IA generativa como chatbots inteligentes, búsqueda y herramientas de resumen para usuarios de diversas industrias.
El servidor Lenovo ThinkSystem SR675 V3, impulsado por las nuevas GPU L40S de NVIDIA, subió al escenario en SIGGRAPH en Los Ángeles, convirtiéndose en un punto focal en los planes de NVIDIA para avanzar en los despliegues globales de IA e introducir aplicaciones de IA generativa como chatbots inteligentes, búsqueda y herramientas de resumen para usuarios de diversas industrias.
El nuevo ThinkSystem se presentó como un servidor NVIDIA OVX y pronto integrará las GPU NVIDIA L40S recientemente anunciadas. Se espera que esta colaboración ayude a revolucionar las implementaciones de IA, permitiendo la próxima generación de IA, simulaciones de metaverso inmersivas y decisiones cognitivas a gran escala.
GPU NVIDIA L40S
La GPU NVIDIA L40S recientemente presentada se erige como un potente procesador de centro de datos universal, diseñado específicamente para acelerar las aplicaciones de cómputo intensivo, incluido el entrenamiento y la inferencia de IA, los diseños y la visualización en 3D, el procesamiento de video y la digitalización industrial con la plataforma NVIDIA Omniverse. Cuenta con una revolucionaria aceleración de múltiples cargas de trabajo para aplicaciones de video, gráficos e inferencia de modelo de lenguaje grande (LLM).
La GPU L40S potencia la próxima generación de aplicaciones de audio, voz, 2D, video y 3D habilitadas para IA y es un componente crucial para las próximas plataformas NVIDIA Omniverse OVX 3.0, que ofrece gemelos digitales precisos y de alta fidelidad.
La GPU NVIDIA L40S será un activo clave en los sistemas NVIDIA OVX. Impulsado por la arquitectura de GPU NVIDIA Ada Lovelace y una generosa memoria de 48 GB, cada servidor puede albergar hasta ocho GPU L40S. También cuenta con Tensor Cores de cuarta generación y un motor de transformador FP8, que ofrece una asombrosa potencia de procesamiento de tensor de 1.45 petaflops.
En comparación con su predecesora, la GPU NVIDIA A100 Tensor Core, la L40S demuestra un rendimiento de inferencia de IA generativa hasta 1.2 veces mayor y un rendimiento de entrenamiento hasta 1.7 veces más rápido para manejar cargas de trabajo de IA complejas con miles de millones de parámetros y múltiples modalidades de datos.
La GPU L40S está diseñada para atender una amplia gama de flujos de trabajo profesionales. Incluye 142 RT Cores de tercera generación, que ofrecen 212 teraflops de rendimiento de trazado de rayos, ideal para flujos de trabajo de visualización profesional de alta fidelidad como renderizado en tiempo real, diseño de productos y creación de contenido 3D.
Además, los 40 18,176 núcleos CUDA de la L5S proporcionan casi 32 veces el rendimiento de punto flotante de precisión simple (FP100) de la GPU NVIDIA AXNUMX, lo que garantiza que las demandas computacionales para simulaciones científicas y de ingeniería se satisfagan con una eficiencia acelerada.
Configuraciones de ThinkSystem SR675 V3
Lenovo está estratégicamente posicionado para admitir el L40S con su nueva línea de servidores optimizados para las nuevas GPU. Al combinar gemelos digitales completamente simulados con IA generativa, Lenovo tiene como objetivo mejorar sus procesos comerciales y resultados de diseño. La colaboración entre Lenovo y NVIDIA en el sistema NVIDIA OVX facilita la construcción y operación de mundos virtuales, extendiendo las capacidades del sistema a la IA generativa y brindando rendimiento energético para centros de datos con cargas de trabajo de IA.
ThinkSystem SR675 V3 ofrece tres configuraciones de servidor en una, que incluye soporte para sistemas NVIDIA HGX A100 4-GPU con NVLink y refrigeración líquida híbrida Lenovo Neptune. Además, es compatible con configuraciones de 4 u 8 GPU que cuentan con servidores NVIDIA L40S, NVIDIA H100 de 80 GB o NVIDIA H100 NVL en un espacio de 3U.
Lenovo ve estos desarrollos como un salto significativo en la simplificación de la implementación de IA, haciéndola accesible a organizaciones de todos los tamaños e impulsando la inteligencia transformadora en todas las industrias.
Configuraciones de ThinkSystem SR675 V3: módulos base, denso y HGX
En el ámbito de las configuraciones de servidores de IA/HPC, comprender las compensaciones y los beneficios de las diferentes configuraciones es crucial para la optimización y los requisitos de carga de trabajo específicos. Lenovo ThinkSystem SR675 V3 ofrece flexibilidad con sus configuraciones de módulo Base, Dense y HGX, cada una diseñada para necesidades particulares.
Módulo Base
La configuración del módulo base está dirigida a organizaciones que buscan una combinación equilibrada de compatibilidad con GPU y capacidad de almacenamiento. Puede acomodar hasta 4 doble ancho, altura completa, longitud completa; GPU FHFL, que utilizan conexiones PCIe Gen5 x16. Esto ofrece capacidades de procesamiento paralelo decentes para cargas de trabajo de inteligencia artificial y aprendizaje profundo.
En cuanto al almacenamiento, el módulo base admite hasta 8 unidades SAS/SATA/NVMe intercambiables en caliente de 2.5”, lo que proporciona un equilibrio entre el volumen de almacenamiento y la velocidad.
Módulo denso
Para las organizaciones que priorizan el procesamiento de GPU paralelo, el módulo denso puede admitir hasta 8 GPU de doble ancho, altura completa y longitud completa. Cada GPU utiliza PCIe Gen5 x16 en un conmutador PCIe, lo que maximiza la cantidad de GPU en un solo servidor para un procesamiento paralelo mejorado.
Cuando se trata de almacenamiento, el módulo denso es versátil. Admite hasta 6 SSD EDSFF E1.S NVMe o hasta 4 SSD EDSFF E3.S 1T NVMe HS. Esta configuración es ideal para escenarios donde las tareas intensas de procesamiento de datos requieren más GPU a costa de cierta flexibilidad de almacenamiento.
Módulo HGX
La configuración del módulo HGX es especializada y se enfoca en las necesidades de alto rendimiento con requisitos específicos de GPU. Aprovecha NVIDIA HGX H100 con 4 GPU SXM5 conectadas a NVLink. Estas GPU SXM5 pueden limitar el número total que puede caber en el chasis, pero ofrecen un rendimiento de chip superior, lo que las hace ideales para tareas exigentes de inteligencia artificial y aprendizaje profundo.
En términos de almacenamiento, el Módulo HGX está optimizado para la velocidad. Puede albergar hasta 4 SSD NVMe de intercambio en caliente de 2.5" o hasta 4 SSD EDSFF E3.S 1T NVMe HS.
Pensamientos Finales
Cada configuración de módulo del ThinkSystem SR675 V3 tiene sus puntos fuertes únicos. Si bien las GPU SXM5 en el módulo HGX ofrecen un rendimiento sin igual, las organizaciones que requieren más procesamiento paralelo pueden optar por el módulo denso para adaptarse a más GPU PCIe. Sin embargo, esto tiene el costo de la pérdida de TDP y la posible degradación del rendimiento. El módulo base proporciona un término medio, ofreciendo un equilibrio de compatibilidad con GPU y opciones de almacenamiento. Como siempre, la mejor opción depende de los requisitos y limitaciones específicos de la tarea en cuestión, y nunca eliminaríamos ninguna de estas configuraciones de nuestro laboratorio.
Interactuar con StorageReview
Boletín informativo | YouTube | Podcast iTunes/Spotify | Instagram | Twitter | TikTok | RSS Feed
