Lenovo ThinkSystem SR675 V3-servern – som drivs av NVIDIAs nya L40S GPU:er – tog scenen på SIGGRAPH i Los Angeles och blev en samlingspunkt i NVIDIAs planer på att främja globala AI-utbyggnader och introducera generativa AI-applikationer som intelligenta chatbots, sök- och sammanfattningsverktyg för att användare inom olika branscher.
Lenovo ThinkSystem SR675 V3-servern – som drivs av NVIDIAs nya L40S GPU:er – tog scenen på SIGGRAPH i Los Angeles och blev en samlingspunkt i NVIDIAs planer på att främja globala AI-utbyggnader och introducera generativa AI-applikationer som intelligenta chatbots, sök- och sammanfattningsverktyg för att användare inom olika branscher.
Det nya ThinkSystem visades upp som en NVIDIA OVX-server och kommer snart att integrera de nyligen tillkännagivna NVIDIA L40S GPU:erna. Detta samarbete förväntas hjälpa till att revolutionera AI-implementeringar, möjliggöra nästa generations AI, uppslukande metaverse-simuleringar och kognitiva beslut i stor skala.
NVIDIA L40S GPU:er
Den nyligen avtäckta NVIDIA L40S GPU står som en kraftfull, universell datacenterprocessor, specialbyggd för att accelerera datorintensiva applikationer, inklusive AI-träning och slutledning, 3D-design och visualisering, videobearbetning och industriell digitalisering med NVIDIA Omniverse-plattformen. Den har banbrytande acceleration för flera arbetsbelastningar för slutledning av stora språkmodeller (LLM) och omskolning, grafik och videoapplikationer.
L40S GPU ger nästa generation av AI-aktiverade ljud-, tal-, 2D-, video- och 3D-applikationer och är en avgörande komponent för de kommande NVIDIA Omniverse OVX 3.0-plattformarna, som erbjuder högtrohet och exakta digitala tvillingar.
NVIDIA L40S GPU kommer att vara en viktig tillgång i NVIDIA OVX-systemen. Drivs av NVIDIA Ada Lovelace GPU-arkitekturen och ett generöst 48 GB minne, varje server kan hysa upp till åtta L40S GPU:er. Den har också fjärde generationens Tensor Cores och en FP8 Transformer Engine, som levererar häpnadsväckande 1.45 petaflops av tensorprocessorkraft.
Jämfört med sin föregångare, NVIDIA A100 Tensor Core GPU, visar L40S upp till 1.2 gånger mer generativ AI-inferensprestanda och upp till 1.7 gånger snabbare träningsprestanda för att hantera komplexa AI-arbetsbelastningar med miljarder parametrar och flera datamodaliteter.
L40S GPU är designad för att tillgodose ett brett utbud av professionella arbetsflöden. Den innehåller 142 tredje generationens RT-kärnor, som levererar 212 teraflops av strålspårningsprestanda, perfekt för professionella visualiseringsarbetsflöden med hög kvalitet som realtidsrendering, produktdesign och skapande av 3D-innehåll.
Dessutom ger L40S:s 18,176 5 CUDA-kärnor nästan 32 gånger högre prestanda med enkel precision (FP100) från NVIDIA AXNUMX GPU, vilket säkerställer att beräkningskraven för tekniska och vetenskapliga simuleringar tillgodoses med accelererad effektivitet.
ThinkSystem SR675 V3-konfigurationer
Lenovo är strategiskt positionerat för att stödja L40S med sin nya serie servrar optimerade för de nya GPU:erna. Genom att kombinera helt simulerade digitala tvillingar med generativ AI, strävar Lenovo efter att förbättra sina affärsprocesser och designresultat. Samarbetet mellan Lenovo och NVIDIA på NVIDIA OVX-systemet underlättar konstruktionen och driften av virtuella världar, utökar systemets kapacitet till generativ AI och ger kraftprestanda för datacenter med AI-arbetsbelastningar.
ThinkSystem SR675 V3 erbjuder tre serverkonfigurationer i en, som inkluderar stöd för NVIDIA HGX A100 4-GPU-system med NVLink och Lenovo Neptune hybrid vätskekylning. Dessutom är den kompatibel med 4 eller 8 GPU-konfigurationer som har NVIDIA L40S, NVIDIA H100 80GB eller NVIDIA H100 NVL-servrar i ett 3U-fotavtryck.
Lenovo ser den här utvecklingen som ett betydande steg för att förenkla AI-utbyggnaden, göra den tillgänglig för organisationer av alla storlekar och driva på transformativ intelligens inom alla branscher.
ThinkSystem SR675 V3-konfigurationer: Bas-, Dense- och HGX-moduler
När det gäller AI/HPC-serverkonfigurationer är förståelsen av avvägningarna och fördelarna med olika konfigurationer avgörande för optimering och specifika krav på arbetsbelastning. Lenovo ThinkSystem SR675 V3 erbjuder flexibilitet med sina Base-, Dense- och HGX-modulkonfigurationer, var och en designad för särskilda behov.
Basmodul
Base Module-konfigurationen vänder sig till organisationer som letar efter en balanserad blandning av GPU-stöd och lagringskapacitet. Den kan rymma upp till 4 dubbel breda, full höjd, full längd; FHFL GPU:er som använder PCIe Gen5 x16-anslutningar. Detta erbjuder anständiga parallellbearbetningsmöjligheter för AI och djupinlärning.
Lagringsmässigt stöder basmodulen upp till 8x 2.5” Hot Swap SAS/SATA/NVMe-enheter, vilket ger en balans mellan lagringsvolym och hastighet.
Tät modul
För organisationer som prioriterar parallell GPU-bearbetning kan Dense Module stödja upp till 8 dubbelbredda, fullhöjda, fullängds GPU:er. Varje GPU använder PCIe Gen5 x16 på en PCIe-switch, vilket maximerar antalet GPU:er på en enda server för förbättrad parallell bearbetning.
När det kommer till förvaring är Dense Module mångsidig. Den stöder upp till 6x EDSFF E1.S NVMe SSD eller upp till 4x EDSFF E3.S 1T NVMe HS SSD. Denna konfiguration är idealisk för scenarier där intensiva databearbetningsuppgifter kräver fler GPU:er till priset av viss lagringsflexibilitet.
HGX-modul
HGX-modulens konfiguration är specialiserad, inriktad på högpresterande behov med specifika GPU-krav. Den utnyttjar NVIDIA HGX H100 med 4 NVLink-anslutna SXM5 GPU:er. Dessa SXM5 GPU:er kan begränsa det totala antalet du får plats i chassit, men de erbjuder överlägsen chipprestanda, vilket gör dem idealiska för krävande AI- och djupinlärningsuppgifter.
När det gäller lagring är HGX-modulen optimerad för hastighet. Den kan hysa upp till 4x 2.5” Hot Swap NVMe SSD eller upp till 4x EDSFF E3.S 1T NVMe HS SSD.
Utgående Tankar
Varje modulkonfiguration i ThinkSystem SR675 V3 har sina unika styrkor. Medan SXM5 GPU:erna i HGX-modulen erbjuder oöverträffad prestanda, kan organisationer som kräver mer parallell bearbetning välja att dense modulen ska passa fler PCIe GPU:er. Detta kommer dock på bekostnad av TDP-förlust och potentiell prestandaförsämring. Basmodulen ger en mellanväg och erbjuder en balans mellan GPU-stöd och lagringsalternativ. Som alltid beror det bästa valet på de specifika kraven och begränsningarna för den aktuella uppgiften, och vi skulle aldrig kasta ut någon av dessa konfigurationer från vårt labb.
Engagera dig med StorageReview
Nyhetsbrev | Youtube | Podcast iTunes/Spotify | Instagram | Twitter | TikTok | Rssflöde
