Op zoek naar een platform om je AI/ML-applicaties te testen voor de lancering, maar heb je geen toegang tot die redundante omgeving? De mogelijkheid hebben om nieuwe AI-workloads te bouwen en te testen, kan tijd, geld en hoofdpijn besparen. NVIDIA heeft een antwoord dat mogelijk de oplossing is voor uw ontwikkelprobleem. En het is gratis! Welkom NVIDIA LaunchPad.
Op zoek naar een platform om je AI/ML-applicaties te testen voor de lancering, maar heb je geen toegang tot die redundante omgeving? De mogelijkheid hebben om nieuwe AI-workloads te bouwen en te testen, kan tijd, geld en hoofdpijn besparen. NVIDIA heeft een antwoord dat mogelijk de oplossing is voor uw ontwikkelprobleem. En het is gratis! Welkom NVIDIA LaunchPad.
Maak kennis met NVIDIA LaunchPad!
NVIDIA heeft onlangs LaunchPad aangekondigd – een hands-on omgeving waar zakelijke gebruikers NVIDIA AI Enterprise-servers in een vSphere 7-omgeving gratis kunnen gebruiken gedurende 2-4 weken. Hoewel ondernemingen meer dan welkom zijn om deze service te gebruiken met werklasten die ze overwegen te implementeren in een NVIDIA-omgeving, kunnen ze ook labs doorlopen die NVIDIA heeft gemaakt waarmee IT-professionals vertrouwd kunnen raken met het gebruik van NVIDIA-compatibele servers. Als u wilt, wij ook heb een podcast waarin Brian Beeler een gesprek heeft met Luke Wignall van NVIDIA over hoe LaunchPad is ontstaan en wat er binnen gebeurt.
NVIDIA AI LaunchPad wordt gehost in een Equinix-faciliteit. Het platform stelt ondernemingen in staat om de ontwikkeling van complexe AI-modellen te versnellen met behulp van DGX SuperPOD, NVIDIA Base Command, NVIDIA Vloot Commando, en vooraf getrainde modellen van NVIDIA NGC. Het ondersteunt ook schaalvergroting van reguliere AI op NVIDIA-gecertificeerde servers die over het netwerk zijn verspreid. Deze industriestandaard servers zijn ideaal voor het uitvoeren van de NVIDIA AI Enterprise softwaresuite op VMware vSphere om AI-workloads in de moderne hybride cloud te schalen.
NVIDIA LaunchPad openen
Na het invullen van een profielformulier krijgt de gebruiker een gedetailleerd overzichtsscherm te zien. Het proces is eenvoudig en geeft instructies over het opzetten van de omgeving om toegang te krijgen tot AI-software en -infrastructuur. Het doel van NVIDIA LaunchPad is om de ontwikkeling en implementatie van applicaties te versnellen.
NVIDIA is van mening dat sommige bedrijven niet meer AI gebruiken, is de ongegronde angst in de complexiteit van het opzetten van een omgeving waarin AI kan werken. Met dit in gedachten creëerde NVIDIA labs die zijn ontworpen om deze angsten aan te pakken met twee verschillende AI-professionals in gedachten; IT-beheerders en -managers die op moeten staan en AI-omgevingen moeten ondersteunen en AI-beoefenaars die ze moeten gebruiken. Het aanbieden van deze service zal helpen vertrouwen op te bouwen in het ondersteunen en gebruiken van AI voordat een IT-budget wordt geïnvesteerd in het bouwen van een specifieke infrastructuur om die AI-applicaties te laten draaien. Bovendien stelt het inzetten van AI-workloads in deze omgeving, met bekende tools, ontwikkelaars in staat om de waarde van hun AI-project te realiseren met een NVIDIA GPU.
NVIDIA LaunchPad-workflow
GPU-geoptimaliseerde softwarehub voor AI, ML en high-performance computing
De NGC-catalogus is een hub van GPU-geoptimaliseerde AI, high-performance computing (HPC) en data-analysesoftware die end-to-end workflows vereenvoudigt en versnelt. Met containers op ondernemingsniveau, vooraf getrainde AI-modellen en branchespecifieke SDK's die on-premises, in de cloud of aan de edge kunnen worden geïmplementeerd, kunnen ondernemingen snel en met vertrouwen oplossingen bouwen en leveren.
De systemen kunnen op dit moment worden uitgerust met een NVIDIA A30 of een T4 GPU, maar dat kan veranderen als er nieuwe kaarten worden uitgebracht. Ongeacht de hardware gebruiken alle systemen NVIDIA AI Enterprise, die NVIDIA omschrijft als:
"een end-to-end, cloud-native suite van AI- en data-analysesoftware, geoptimaliseerd, gecertificeerd en ondersteund door NVIDIA om te draaien op VMware vSphere met NVIDIA-gecertificeerde systemen. Het bevat sleuteltechnologieën van NVIDIA voor snelle implementatie, beheer en schaalvergroting van AI-workloads in de moderne hybride cloud. '
De labs hebben vSphere vooraf geïnstalleerd met toegang tot een vSphere-client via de URL die door NVIDIA wordt verstrekt.
IT-beheerders hebben labs die hen door de stappen leiden die betrokken zijn bij het configureren van VM's voor het gebruik van GPU's. AI-beoefenaars hebben toegang tot labs die zijn gebouwd op de NVIDIA AI Enterprise-suite die applicaties, frameworks en tools bevat die AI-onderzoekers, datawetenschappers en ontwikkelaars gebruiken voor het maken van hun AI- en machine learning-applicaties.
Een van de NVIDIA AI Enterprise LaunchPad-reizen leidt u door een Jupyter-labnotebook met behulp van NVIDIA-RAPIDS en de taxidataset van New York City om rittarieven in Manhattan te voorspellen. De dataset bevat kolommen zoals ophaalpunten, afzetpunten, tariefbedrag, aantal passagiers. De gegevens in dit lab worden gebruikt om een XGBoost-model op GPU te trainen. De labs die door NVIDIA worden aangeboden, duren 30 minuten tot enkele uren. NVIDIA zorgt voor de juiste omgeving voor elk lab.
Los van de NVIDIA-labomgeving is de mogelijkheid om een werkend AI-model op te zetten. Het aanvragen van de volledige AI LaunchPad-omgeving is vergelijkbaar met het aanvragen van een Lab.
Eenmaal ingelogd op de NVIDIA LaunchPad, zijn er gedetailleerde instructies voor het instellen van de VM door een Ubuntu VM te maken, er een NVIDIA GPU aan te koppelen, een NVIDIA-stuurprogramma aan te schaffen en toe te voegen aan het besturingssysteem, een NVIDIA API-sleutel en -software aan te schaffen en licenties voor de VM om de GPU te gebruiken. Aangezien AI-software op containers is gebaseerd, omvat het lab de installatie van Docker, NVIDIA-containertoolkit, Tensor-flow en het uitvoeren van AI-voorbeelden. Dit is een totale werkomgeving waarin u uw eigen AI-project kunt bouwen en implementeren.
Stapsgewijze aanpak
Het configureren van de VM is goed gedocumenteerd en invoerschermen hebben indien nodig de nodige hulp. NVIDIA heeft in samenwerking met VMware een eenvoudige interface gecreëerd om de vereiste configuratie te implementeren en de juiste tools te installeren om de proof-of-concept-omgeving met minimale stress aan de praat te krijgen. Laten we ook op dit punt duidelijk zijn. Dit zijn zeer goed uitgeruste machines. Onze omgeving had een Dell PowerEdge R750, met een NVIDIA A30 en veel DRAM en kernen.
Zodra het aanmeldingsverzoek is goedgekeurd, stuurt NVIDIA een URL, inclusief gebruikersnaam en tijdelijk wachtwoord. Zoals opgemerkt, was onze omgeving een Dell NVIDIA-gecertificeerd systeem met A30 GPU's. Er zijn echter specifieke configuratie-opties beschikbaar om de ervaring aan te passen aan de behoeften van de gebruiker.
Wilt u iets wijzigen? NVIDIA LaunchPad is zo ontworpen dat de gebruiker een stap terug kan doen als er onderweg wijzigingen nodig zijn. Het menu is altijd toegankelijk met gedetailleerde instructies.
De VM wordt gemaakt op basis van de hardware- en softwarevereisten die tijdens het configuratieproces zijn ingevoerd.
Na de Docker-containerinstallatie en het uitvoeren van de Docker Utility Engine voor NVIDIA GPU-configuratie, is de laatste stap het installeren van AI- en Data Science-applicaties en -frameworks.
Schakelen tussen het vSphere-scherm en de VM-console is ook naadloos en toegankelijk via het hoofdmenu. Sommige aanbevolen browsers lijken beter te werken dan andere. Safari kan je wat maagzuur bezorgen, maar er zijn manieren om er omheen te werken.
Ten slotte voltooit het installeren van de AI-applicatie en verdere VM-configuraties het proces. NVIDIA reageert erg snel als je problemen tegenkomt. We kwamen zelfs enkele problemen tegen die we zelf hadden veroorzaakt en hadden hulp nodig. We waren weer in actie met heel weinig downtime. Om eerlijk te zijn, we zijn een mediaorganisatie die LaunchPad evalueert, maar NVIDIA is zeer gemotiveerd om ervoor te zorgen dat iedereen die LaunchPad test een productieve tijd heeft.
Conclusie
De NVIDIA LaunchPad is een robuuste proof-of-concept-tool die indrukwekkend gebruiksvriendelijk is. Uiteindelijk biedt de samenwerking tussen NVIDIA, VMware en Equinix een robuuste omgeving voor het testen van echte AI- en ML-applicaties tegen enkele van de populairste GPU's van NVIDIA.
Beter nog, NVIDIA heeft ervoor gezorgd dat dit goed werkt voor twee belangrijke personen die moeten samenwerken, de IT-beheerder en de datawetenschapper/AI-beoefenaar. Zo vaak veroorzaken deze moderne AI-workloads stress op de traditionele IT-stack. De workloads zijn gecompliceerd, draaien op dure hardware en veroorzaken supporthoofdpijn voor IT. Door LaunchPad binnen de goed begrepen grenzen van vSphere te plaatsen, verdwijnen veel van de typische zorgen van IT. Aan de andere kant krijgen AI-beoefenaars alle tools die ze nodig hebben, met een robuuste GPU en rekenomgeving om op te starten. Als ze klaar zijn, zijn de VM's gemakkelijk overdraagbaar als een organisatie hun werk wil meenemen.
We zijn enthousiast over dit gratis aanbod van NVIDIA, omdat het ons doet denken aan VMware Hands-on-labs en VMware TestDrive, evenals het extra voordeel dat je er met je eigen AI-project aan kunt werken. In onze tijd in NVIDIA LaunchPad vonden we de documentatie behoorlijk diep en de ondersteuning uitstekend toen we per ongeluk onze arme omgeving uitroeiden. Met maximaal vier weken om op LaunchPad te spelen, moeten organisaties die serieus bezig zijn met het laten groeien van hun AI-karbonades dit onmiddellijk proberen.
Voor meer informatie over NVIDIA AI Enterprise, klik hier. Voor meer informatie over NVIDIA LaunchPad, klik hier. Praat met uw NVIDIA-verkoopvertegenwoordiger over hoe u aan de slag kunt met NVIDIA LaunchPad.
Leer meer door naar onze NVIDIA te luisteren LaunchPad-podcast.
Neem contact op met StorageReview
Nieuwsbrief | YouTube | Podcast iTunes/Spotify | Instagram | Twitter | Facebook | TikTok | RSS Feed
