De Lenovo ThinkSystem SR675 V3-server, aangedreven door NVIDIA's nieuwe L40S GPU's, betrad het podium op SIGGRAPH in Los Angeles en werd een centraal punt in NVIDIA's plannen om wereldwijde AI-implementaties te bevorderen en generatieve AI-applicaties zoals intelligente chatbots, zoek- en samenvattingstools te introduceren om gebruikers in verschillende branches.
De Lenovo ThinkSystem SR675 V3-server, aangedreven door NVIDIA's nieuwe L40S GPU's, betrad het podium op SIGGRAPH in Los Angeles en werd een centraal punt in NVIDIA's plannen om wereldwijde AI-implementaties te bevorderen en generatieve AI-applicaties zoals intelligente chatbots, zoek- en samenvattingstools te introduceren om gebruikers in verschillende branches.
Het nieuwe ThinkSystem werd gepresenteerd als een NVIDIA OVX-server en zal binnenkort de onlangs aangekondigde NVIDIA L40S GPU's integreren. Deze samenwerking zal naar verwachting een revolutie teweegbrengen in AI-implementaties, waardoor AI van de volgende generatie, meeslepende metaverse simulaties en cognitieve beslissingen op grote schaal mogelijk worden.
NVIDIA L40S GPU's
De onlangs onthulde NVIDIA L40S GPU staat als een krachtige, universele datacenterprocessor, speciaal gebouwd om rekenintensieve toepassingen te versnellen, waaronder AI-training en inferentie, 3D-ontwerpen en -visualisatie, videoverwerking en industriële digitalisering met het NVIDIA Omniverse-platform. Het beschikt over een baanbrekende multi-workload versnelling voor grote taalmodellen (LLM) inferentie en omscholing, grafische en videotoepassingen.
De L40S GPU maakt de volgende generatie AI-compatibele audio-, spraak-, 2D-, video- en 3D-applicaties mogelijk en is een cruciaal onderdeel voor de aankomende NVIDIA Omniverse OVX 3.0-platforms, die hifi en nauwkeurige digitale tweelingen bieden.
De NVIDIA L40S GPU wordt een belangrijk onderdeel van de NVIDIA OVX-systemen. Aangedreven door de NVIDIA Ada Lovelace GPU-architectuur en een royale 48 GB geheugen, kan elke server maximaal acht L40S GPU's huisvesten. Het beschikt ook over Tensor Cores van de vierde generatie en een FP8 Transformer Engine, die een verbazingwekkende 1.45 petaflops aan tensorverwerkingskracht leveren.
Vergeleken met zijn voorganger, de NVIDIA A100 Tensor Core GPU, demonstreert de L40S tot 1.2 keer meer generatieve AI-inferentieprestaties en tot 1.7 keer snellere trainingsprestaties voor het afhandelen van complexe AI-workloads met miljarden parameters en meerdere datamodaliteiten.
De L40S GPU is ontworpen om tegemoet te komen aan een breed scala aan professionele workflows. Het bevat 142 derde generatie RT Cores, die 212 teraflops aan ray-tracing-prestaties leveren, ideaal voor high-fidelity professionele visualisatieworkflows zoals real-time rendering, productontwerp en 3D-contentcreatie.
Bovendien bieden de 40 CUDA-kernen van de L18,176S bijna 5x de single-precision floating-point (FP32)-prestaties van de NVIDIA A100 GPU, waardoor wordt gegarandeerd dat aan de computereisen voor technische en wetenschappelijke simulaties met versnelde efficiëntie wordt voldaan.
ThinkSystem SR675 V3-configuraties
Lenovo is strategisch gepositioneerd om de L40S te ondersteunen met zijn nieuwe reeks servers die zijn geoptimaliseerd voor de nieuwe GPU's. Door volledig gesimuleerde digitale tweelingen te combineren met generatieve AI, wil Lenovo zijn bedrijfsprocessen en ontwerpresultaten verbeteren. De samenwerking tussen Lenovo en NVIDIA op het NVIDIA OVX-systeem vergemakkelijkt de constructie en werking van virtuele werelden, breidt de mogelijkheden van het systeem uit naar generatieve AI en levert krachtige prestaties voor datacenters met AI-workloads.
De ThinkSystem SR675 V3 biedt drie serverconfiguraties in één, inclusief ondersteuning voor NVIDIA HGX A100 4-GPU-systemen met NVLink en Lenovo Neptune hybride vloeistofkoeling. Bovendien is het compatibel met 4 of 8 GPU-configuraties met NVIDIA L40S-, NVIDIA H100 80GB- of NVIDIA H100 NVL-servers in een 3U-footprint.
Lenovo ziet deze ontwikkelingen als een belangrijke stap in het vereenvoudigen van de uitrol van AI, waardoor het toegankelijk wordt voor organisaties van elke omvang en het stimuleren van transformatieve intelligentie in alle sectoren.
ThinkSystem SR675 V3-configuraties: basis-, dichte- en HGX-modules
Op het gebied van AI/HPC-serverconfiguraties is het begrijpen van de afwegingen en voordelen van verschillende configuraties van cruciaal belang voor optimalisatie en specifieke werklastvereisten. De Lenovo ThinkSystem SR675 V3 biedt flexibiliteit met zijn Base-, Dense- en HGX-moduleconfiguraties, elk ontworpen voor specifieke behoeften.
Basismodule
De Base Module-configuratie is geschikt voor organisaties die op zoek zijn naar een evenwichtige mix van GPU-ondersteuning en opslagcapaciteit. Het is geschikt voor maximaal 4 dubbelbrede, volledige hoogte, volledige lengte; FHFL GPU's, gebruikmakend van PCIe Gen5 x16-verbindingen. Dit biedt behoorlijke parallelle verwerkingsmogelijkheden voor AI en deep learning-workloads.
Qua opslag ondersteunt de basismodule maximaal 8x 2.5-inch Hot Swap SAS/SATA/NVMe-schijven, waardoor een balans wordt geboden tussen opslagvolume en snelheid.
Dichte module
Voor organisaties die prioriteit geven aan parallelle GPU-verwerking, kan de Dense Module maximaal 8 dubbelbrede GPU's van volledige hoogte en volledige lengte ondersteunen. Elke GPU gebruikt PCIe Gen5 x16 op een PCIe-switch, waardoor het aantal GPU's op een enkele server wordt gemaximaliseerd voor verbeterde parallelle verwerking.
Als het op opslag aankomt, is de Dense Module veelzijdig. Het ondersteunt tot 6x EDSFF E1.S NVMe SSD's of tot 4x EDSFF E3.S 1T NVMe HS SSD's. Deze configuratie is ideaal voor scenario's waarin intensieve gegevensverwerkingstaken meer GPU's vereisen ten koste van enige opslagflexibiliteit.
HGX-module
De configuratie van de HGX-module is gespecialiseerd en richt zich op behoeften met hoge prestaties met specifieke GPU-vereisten. Het maakt gebruik van NVIDIA HGX H100 met 4 NVLink-verbonden SXM5 GPU's. Deze SXM5 GPU's beperken misschien het totale aantal dat u in het chassis kunt passen, maar ze bieden superieure chipprestaties, waardoor ze ideaal zijn voor veeleisende AI- en deep learning-taken.
Qua opslag is de HGX-module geoptimaliseerd voor snelheid. Er kunnen maximaal 4x 2.5-inch Hot Swap NVMe SSD's of maximaal 4x EDSFF E3.S 1T NVMe HS SSD's worden ondergebracht.
Sluiting Gedachten
Elke moduleconfiguratie van de ThinkSystem SR675 V3 heeft zijn unieke sterke punten. Terwijl de SXM5 GPU's in de HGX-module ongeëvenaarde prestaties bieden, kunnen organisaties die meer parallelle verwerking nodig hebben, kiezen voor de Dense Module om meer PCIe GPU's te plaatsen. Dit gaat echter ten koste van TDP-verlies en mogelijke prestatievermindering. De basismodule biedt een middenweg en biedt een evenwicht tussen GPU-ondersteuning en opslagopties. Zoals altijd hangt de beste keuze af van de specifieke vereisten en beperkingen van de taak die voorhanden is, en we zouden nooit een van deze configuraties uit ons lab schoppen.
Neem contact op met StorageReview
Nieuwsbrief | YouTube | Podcast iTunes/Spotify | Instagram | Twitter | TikTok | RSS Feed
