Een van de minder bekende producten waar Mellanox aan werkte voordat NVIDIA werd overgenomen, was een gegevensverwerkingseenheid (DPU) genaamd BlueField. De toonhoogte van zes jaar geleden is vergelijkbaar met die van vandaag, waarbij opslag (en nu versnellers) directe toegang tot het netwerk krijgen zonder dat de traditionele x86-architectuur in de weg zit. CPU's kunnen immers beter worden gebruikt voor toepassingen dan PCIe-verkeersstrookbeheer. De acceptatie van BlueField verliep echter erg traag; er zijn tegenwoordig minder dan een handvol commerciële ondernemingen die gebruik maken van DPU's. NVIDIA heeft een nieuwe impuls om daar verandering in te brengen.
Een van de minder bekende producten waar Mellanox aan werkte voordat NVIDIA werd overgenomen, was een gegevensverwerkingseenheid (DPU) genaamd BlueField. De toonhoogte van zes jaar geleden is vergelijkbaar met die van vandaag, waarbij opslag (en nu versnellers) directe toegang tot het netwerk krijgen zonder dat de traditionele x86-architectuur in de weg zit. CPU's kunnen immers beter worden gebruikt voor toepassingen dan PCIe-verkeersstrookbeheer. De acceptatie van BlueField verliep echter erg traag; er zijn tegenwoordig minder dan een handvol commerciële ondernemingen die gebruik maken van DPU's. NVIDIA heeft een nieuwe impuls om daar verandering in te brengen.
Waarom DPU's in de eerste plaats?
De aantrekkingskracht van de DPU is behoorlijk fascinerend en daarom investeert NVIDIA zwaar in het succes ervan. Vergeleken met de meer traditionele high-speed Ethernet NIC die de meesten kennen en waarderen, hebben DPU's gewoon meer verwerkingskracht aan boord, waardoor ze meer op minicomputers lijken dan op voertuigen voor gegevensverplaatsing. Om eerlijk te zijn, in de context van opslag is het belangrijkste doel van de DPU echter om gegevens snel te verplaatsen. Het is alleen zo dat deze actie nu kan worden uitgevoerd in een JBOF, zonder dat er helemaal geen x86 nodig is.
NVIDIA DPU in VAST-gegevensknooppunt
We hebben dit onlangs in een paar gevallen gezien, een met het NVIDIA-product en een ander met zijn eigen DPU. VAST Data maakt gebruik van de NVIDIA DPU in hun dataknooppunten, wat nu extreem dichte 1U-boxen zijn die 675 TB onbewerkte flash kunnen delen. Er zijn echter alternatieve routes; Fungible heeft een plan voor desaggregatie, gebruikmakend van zijn eigen DPU. We hebben hun gehad opslagarray in het lab, en ze hebben onlangs ook een aangekondigd GPU-inspanning.
Fungible Storage Array - DPU's binnenin
Als al dit DPU-gesprek overweldigend klinkt, is het moeilijk om jou de schuld te geven. Er is al heel lang geen fundamentele verandering geweest in de manier waarop gegevens worden beheerd en verplaatst. We hebben een podcast met NVIDIA op DPU's vanuit een opslagperspectief is dat een goede inleiding op wat er op de markt gebeurt.
DPU's zijn moeilijk
Zelfs na zes jaar of langer werk hebben we nog maar twee voorbeelden gezien van DPU's die hands-on goed werkten en we kunnen waarschijnlijk minder dan een handvol bedrijven noemen die zelfs maar voorbij de laboratoriumvalidatie hebben geploeterd. Waarom is dat? Van wat ons is verteld door systeemleveranciers, is het erg moeilijk om BlueField te gebruiken. Er is een enorme hoeveelheid softwarewerk aan de winkel, en tot op heden zijn de kaarten geen eenvoudig drop-and-go-product, dus de lift is veel zwaarder. Koppel dit en het feit dat traditionele opslagbedrijven terughoudend zijn om geavanceerde technologie te omarmen in combinatie met elke DPU die een andere coderingsaanpak vereist, en we hebben weinig DPU-adoptie.
NVIDIA erkent dit natuurlijk en heeft dringend behoefte aan snellere voertuigen om gegevens naar hun GPU's te verplaatsen. Om eerlijk te zijn willen klanten dit ook, vooral in HPC-workloads waar het fulltime operationeel houden van dure GPU-investeringen een prijsdoelstelling is. Dus NVIDIA heeft gisteren een poging gedaan om deze adoptiepijn te verlichten.
NVIDIA is een van de oprichters geworden van het Open Programmable Infrastructure (OPI)-project van de Linux Foundation. In wezen heeft NVIDIA zijn DOCA-netwerksoftware-API's algemeen beschikbaar gemaakt. Dit betekent dat het zware integratiewerk om operationeel te worden op een DPU nu mogelijk sneller zou moeten zijn.
Het "OPI-project heeft tot doel een door de gemeenschap aangestuurd, op standaarden gebaseerd, open ecosysteem te creëren voor het versnellen van netwerken en andere datacenterinfrastructuurtaken met behulp van DPU's", aldus een blogpost van NVIDIA. Dit is natuurlijk een goede zaak. Organisaties en systeemverkopers die voorheen de DPU-muur te hoog vonden om over te springen, zouden nu een veel gemakkelijkere weg naar DPU-adoptie moeten hebben.
NVIDIA ging verder met het delen van wat ze van plan zijn te bieden;
Wat biedt de toekomst voor DPU's?
Op basis van wat we hebben gezien van VAST en Fungible, is de DPU-wereld heel reëel en klaar om een enorme impact te hebben op het datacenter en de cloud. Adoptie was een uitdaging omdat software-integratie moeilijk is. Verder is de hardware geen vervanging voor NIC's. Niet dat het zo gepositioneerd is, maar dit is niet hetzelfde als van 25GbE naar 200GbE gaan door NIC's te verwisselen. De inspanning om DPU's te integreren is lang niet triviaal.
NVIDIA DPU
Initiatieven als deze zouden de industrie moeten helpen, al was het maar op NVIDIA-silicium. DPU's bieden zoveel potentieel als het gaat om het sneller, veiliger en uiteindelijk efficiënter maken van infrastructuur. Nu bijna elke grote organisatie aan groene initiatieven werkt, is het datacenter een goede plek om te beginnen met het omarmen van moderne infrastructuren die niet dezelfde afhankelijkheden hebben als de legacy-stack.
We hebben goede hoop dat deze beweging naar open source de DPU-logjam zal doorbreken, want wat er met deze technologie mogelijk is, is behoorlijk opmerkelijk.
Neem contact op met StorageReview
Nieuwsbrief | YouTube | Podcast iTunes/Spotify | Instagram | Twitter | Facebook | TikTok | RSS Feed
