Cerchi una piattaforma per testare le tue applicazioni AI/ML prima del lancio, ma non hai accesso a quell'ambiente ridondante? Avere la capacità di creare e testare nuovi carichi di lavoro di intelligenza artificiale può far risparmiare tempo, denaro e grattacapi. NVIDIA ha una risposta che potrebbe essere la soluzione al tuo problema di sviluppo. Ed è gratis! Benvenuto NVIDIA LaunchPad.
Cerchi una piattaforma per testare le tue applicazioni AI/ML prima del lancio, ma non hai accesso a quell'ambiente ridondante? Avere la capacità di creare e testare nuovi carichi di lavoro di intelligenza artificiale può far risparmiare tempo, denaro e grattacapi. NVIDIA ha una risposta che potrebbe essere la soluzione al tuo problema di sviluppo. Ed è gratis! Benvenuto NVIDIA LaunchPad.
Presentazione di NVIDIA LaunchPad!
NVIDIA ha recentemente annunciato LaunchPad – un ambiente pratico in cui gli utenti aziendali possono utilizzare gratuitamente i server NVIDIA AI Enterprise in un ambiente vSphere 7 per 2-4 settimane. Sebbene le aziende siano più che benvenute a utilizzare questo servizio con i carichi di lavoro che stanno valutando di implementare su un ambiente NVIDIA, possono anche frequentare i laboratori creati da NVIDIA che consentono ai professionisti IT di acquisire dimestichezza con l'utilizzo dei server abilitati NVIDIA. Se preferisci, anche noi avere un podcast in cui Brian Beeler ha una conversazione con Luke Wignall da NVIDIA su come è nato LaunchPad e cosa succede al suo interno.
NVIDIA AI LaunchPad è ospitato in un file Struttura Equinix. La piattaforma consente alle aziende di accelerare lo sviluppo di modelli IA complessi utilizzando DGX SuperPOD, NVIDIA Base Command, Comando della flotta NVIDIAe modelli pre-addestrati da NVIDIA NGC. Supporta inoltre la scalabilità dell'intelligenza artificiale tradizionale su server certificati NVIDIA distribuiti sulla rete. Questi server standard del settore sono ideali per l'esecuzione di NVIDIA AI aziendale suite software su VMware vSphere per scalare i carichi di lavoro AI nel moderno cloud ibrido.
Accesso a NVIDIA LaunchPad
Dopo aver completato un modulo di profilo, all'utente viene presentata una schermata panoramica dettagliata. Il processo è semplice e fornisce istruzioni sulla configurazione dell'ambiente per accedere al software e all'infrastruttura di intelligenza artificiale. L'obiettivo di NVIDIA LaunchPad è accelerare lo sviluppo e la distribuzione delle applicazioni.
NVIDIA ritiene che alcune aziende non utilizzino più l'intelligenza artificiale è il timore infondato nella complessità della creazione di un ambiente in cui l'intelligenza artificiale può funzionare. Con questo in mente, NVIDIA ha creato laboratori progettati per affrontare queste paure pensando a due diversi professionisti dell'intelligenza artificiale; Amministratori e manager IT che devono prendere posizione e supportare gli ambienti di intelligenza artificiale e professionisti dell'intelligenza artificiale che devono utilizzarli. L’offerta di questo servizio aiuterà a rafforzare la fiducia nel supporto e nell’utilizzo dell’intelligenza artificiale prima di investire un budget IT nella creazione di un’infrastruttura specifica per eseguire tali applicazioni IA. Inoltre, l'implementazione di carichi di lavoro AI in questo ambiente, con strumenti familiari, consente agli sviluppatori di realizzare il valore del proprio progetto AI con una GPU NVIDIA.
Flusso di lavoro di NVIDIA LaunchPad
Hub software ottimizzato per GPU per AI, ML e calcolo ad alte prestazioni
Il catalogo NGC è un hub di software di intelligenza artificiale ottimizzata per GPU, calcolo ad alte prestazioni (HPC) e analisi dei dati che semplifica e accelera i flussi di lavoro end-to-end. Con contenitori di livello aziendale, modelli di intelligenza artificiale preaddestrati e SDK specifici del settore che possono essere distribuiti in locale, nel cloud o all'edge, le aziende possono creare e fornire soluzioni in modo rapido e sicuro.
Al momento i sistemi potrebbero essere dotati di una GPU NVIDIA A30 o T4, anche se ciò potrebbe cambiare con il rilascio di nuove schede. Indipendentemente dall'hardware, tutti i sistemi utilizzano NVIDIA AI aziendale, che NVIDIA descrive come:
"una suite end-to-end nativa per il cloud di software di intelligenza artificiale e analisi dei dati, ottimizzata, certificata e supportata da NVIDIA per l'esecuzione su VMware vSphere con sistemi certificati NVIDIA. Include le principali tecnologie abilitanti di NVIDIA per l'implementazione, la gestione e il dimensionamento rapidi dei carichi di lavoro IA nel moderno cloud ibrido. "
Nei laboratori è preinstallato vSphere con accesso a un client vSphere dall'URL fornito da NVIDIA.
Gli amministratori IT dispongono di laboratori che li guidano attraverso i passaggi coinvolti nella configurazione delle VM per l'utilizzo delle GPU. I professionisti dell'intelligenza artificiale hanno accesso ai laboratori basati sulla suite NVIDIA AI Enterprise che include applicazioni, framework e strumenti che i ricercatori, i data scientist e gli sviluppatori di intelligenza artificiale utilizzano per creare le loro applicazioni di intelligenza artificiale e machine learning.
Uno dei percorsi NVIDIA AI Enterprise LaunchPad ti guida attraverso un notebook da laboratorio Jupyter, utilizzando RAPIDI NVIDIA e il set di dati sui taxi di New York per prevedere le tariffe delle corse a Manhattan. Il set di dati contiene colonne come punti di ritiro, punti di riconsegna, importo della tariffa, numero di passeggeri. I dati di questo lab vengono utilizzati per addestrare un modello XGBoost su GPU. I laboratori forniti da NVIDIA durano da 30 minuti a diverse ore. NVIDIA fornirà l'ambiente appropriato per ciascun laboratorio.
Separata dall'ambiente di laboratorio NVIDIA è la capacità di stabilire un modello di intelligenza artificiale funzionante. Richiedere l'ambiente AI LaunchPad completo è simile a richiedere un Lab.
Una volta effettuato l'accesso a NVIDIA LaunchPad, sono disponibili istruzioni dettagliate per configurare la VM creando una VM Ubuntu, associandovi una GPU NVIDIA, acquisendo e aggiungendo un driver NVIDIA al sistema operativo, acquisendo una chiave API e un software NVIDIA e concedendo in licenza il VM per utilizzare la GPU. Poiché il software di intelligenza artificiale è basato su container, il laboratorio include l'installazione di Docker, il kit di strumenti per contenitori NVIDIA, il flusso di Tensor e l'esecuzione di esempi di intelligenza artificiale. Si tratta di un ambiente di lavoro totale che ti consente di creare e distribuire il tuo progetto di intelligenza artificiale.
Approccio passo dopo passo
La configurazione della VM è ben documentata e le schermate di input forniscono l'aiuto necessario, se necessario. NVIDIA, in collaborazione con VMware, ha creato una semplice interfaccia per implementare la configurazione richiesta e installare gli strumenti appropriati per rendere operativo l'ambiente proof-of-concept con il minimo stress. Cerchiamo di essere chiari anche su questo punto. Queste sono macchine molto ben equipaggiate. Il nostro ambiente aveva a Dell PowerEdge R750, con una NVIDIA A30 e molta DRAM e core.
Una volta approvata la richiesta di registrazione, NVIDIA invia un URL, inclusi nome utente e password temporanea. Come notato, il nostro ambiente era un Dell Sistema certificato NVIDIA con GPU A30. Tuttavia, sono disponibili opzioni di configurazione specifiche per personalizzare l'esperienza e soddisfare le esigenze dell'utente.
Hai bisogno di fare un cambiamento? NVIDIA LaunchPad è stato progettato per consentire all'utente di fare un passo indietro se sono necessarie modifiche lungo il percorso. Il menu è sempre accessibile con istruzioni dettagliate.
La VM viene creata in base ai requisiti hardware e software immessi durante il processo di configurazione.
Dopo l'installazione del contenitore Docker e l'esecuzione del Docker Utility Engine per la configurazione della GPU NVIDIA, il passaggio finale consiste nell'installare applicazioni e framework di intelligenza artificiale e data science.
Anche lo spostamento tra la schermata vSphere e la console VM è semplice ed è accessibile dal menu principale. Alcuni browser consigliati sembrano funzionare meglio di altri. Safari potrebbe farti venire il bruciore di stomaco, ma ci sono modi per aggirare il problema.
Infine, l'installazione dell'applicazione AI e ulteriori configurazioni della VM completano il processo. NVIDIA è molto reattiva in caso di problemi. In effetti, ci siamo imbattuti in alcuni problemi autoinflitti e abbiamo avuto bisogno di aiuto. Siamo tornati in azione con tempi di inattività minimi. Per essere onesti, siamo un'organizzazione multimediale che sta valutando LaunchPad, ma NVIDIA è fortemente motivata a garantire che tutti coloro che testano LaunchPad si divertano in modo produttivo.
Considerazioni finali
NVIDIA LaunchPad è un robusto strumento di prova di concetto straordinariamente facile da usare. In definitiva, la collaborazione tra NVIDIA, VMware ed Equinix fornisce un ambiente robusto per testare applicazioni reali di intelligenza artificiale e ML rispetto ad alcune delle GPU NVIDIA più popolari.
Meglio ancora, NVIDIA ha fatto in modo che tutto questo funzioni bene per due figure chiave che devono collaborare: l'amministratore IT e il data scientist/professionista dell'intelligenza artificiale. Molto spesso questi carichi di lavoro di intelligenza artificiale moderna causano stress allo stack IT tradizionale. I carichi di lavoro sono complicati, vengono eseguiti su hardware costoso e causano grattacapi al supporto IT. Inserendo LaunchPad nei ben noti confini di vSphere, molte delle preoccupazioni tipiche dell'IT scompaiono. D'altro canto, i professionisti dell'intelligenza artificiale ottengono tutti gli strumenti di cui hanno bisogno, con una solida GPU e un ambiente di elaborazione per l'avvio. Una volta completate, le VM sono facilmente trasportabili, se un'organizzazione desidera portare con sé il proprio lavoro.
Siamo entusiasti di questa offerta gratuita di NVIDIA poiché ci ricorda VMware Hands-on-labs e VMware TestDrive, oltre al vantaggio aggiuntivo di consentirti di lavorare su di esso con il tuo progetto AI. Durante il nostro periodo con NVIDIA LaunchPad, abbiamo riscontrato che la documentazione era piuttosto approfondita e il supporto eccellente quando abbiamo accidentalmente sradicato il nostro povero ambiente. Con un massimo di quattro settimane per giocare su LaunchPad, le organizzazioni seriamente intenzionate a sviluppare le proprie capacità di intelligenza artificiale devono assolutamente verificarlo immediatamente.
Per ulteriori informazioni su NVIDIA AI Enterprise, fai clic qui. Per ulteriori informazioni su NVIDIA LaunchPad, fai clic qui. Parla con il tuo rappresentante di vendita NVIDIA su come iniziare con NVIDIA LaunchPad.
Ottieni di più ascoltando la nostra NVIDIA Podcast su LaunchPad.
Interagisci con StorageReview
Newsletter | YouTube | Podcast iTunes/Spotify | Instagram | Twitter | Facebook | TikTok | RSS feed
