All’evento VMware Explore 2023, VMware ha presentato nuove offerte di intelligenza artificiale privata volte a promuovere l’adozione dell’intelligenza artificiale generativa all’interno delle aziende e a sfruttare il potenziale dei dati affidabili. Caratterizzato dal suo approccio architetturale, VMware Private AI bilancia i vantaggi dell'intelligenza artificiale con i requisiti pratici di privacy e conformità delle organizzazioni.
All’evento VMware Explore 2023, VMware ha presentato nuove offerte di intelligenza artificiale privata volte a promuovere l’adozione dell’intelligenza artificiale generativa all’interno delle aziende e a sfruttare il potenziale dei dati affidabili. Caratterizzato dal suo approccio architetturale, VMware Private AI bilancia i vantaggi dell'intelligenza artificiale con i requisiti pratici di privacy e conformità delle organizzazioni.
VMware Private AI Foundation con NVIDIA consentirà alle aziende di personalizzare modelli ed eseguire applicazioni di intelligenza artificiale generativa, inclusi chatbot intelligenti, assistenti, ricerca e riepilogo. La piattaforma sarà una soluzione completamente integrata caratterizzata da software di intelligenza artificiale generativa e elaborazione accelerata di NVIDIA, costruita su VMware Cloud Fondazione e ottimizzato per l'intelligenza artificiale.
Basandosi sulla loro partnership strategica, l’offerta VMware Private AI Foundation con NVIDIA fornisce alle aziende che implementano l’infrastruttura cloud di VMware gli strumenti per abbracciare il crescente interesse nell’era dell’intelligenza artificiale generativa. Questa estensione integra l'architettura Private AI di VMware con il software NVIDIA AI Enterprise e l'elaborazione accelerata, fornendo una soluzione chiavi in mano per l'implementazione di applicazioni AI generative nei data center, nei cloud pubblici e nell'edge.
Per ottenere vantaggi aziendali più rapidamente, le aziende cercano di semplificare lo sviluppo, il test e l’implementazione delle applicazioni di intelligenza artificiale generativa. VMware Private AI Foundation con NVIDIA consentirà alle aziende di sfruttare questa capacità, personalizzando modelli linguistici di grandi dimensioni, producendo modelli più sicuri e privati per il loro utilizzo interno e offrendo AI generativa come servizio ai propri utenti, eseguendo in modo sicuro carichi di lavoro di inferenza su larga scala.
Si prevede che la piattaforma includa strumenti di intelligenza artificiale integrati per consentire alle aziende di eseguire modelli collaudati addestrati sui propri dati privati in modo economicamente efficiente. I clienti ottengono i risultati IA desiderati con VMware Private AI Reference Architecture for Open Source, sfruttando tecnologie software open source di alto livello, soddisfacendo i requisiti presenti e futuri.
Si prevede che la piattaforma sarà basata su VMware Cloud Foundation e sul software NVIDIA AI Enterprise, con numerosi vantaggi. Dal punto di vista della privacy, i clienti possono eseguire servizi di intelligenza artificiale adiacenti al luogo in cui risiedono i dati con un’architettura che preserva la privacy dei dati con accesso sicuro.
Le aziende avranno un'ampia scelta su dove costruire ed eseguire i propri modelli, da NVIDIA NeMo a Llama 2. Comprende configurazioni hardware OEM e, in futuro, offerte di cloud pubblico e provider di servizi.
Le prestazioni previste dovrebbero essere pari o superiori al bare metal con la piattaforma in esecuzione sull'infrastruttura accelerata NVIDIA. Le ottimizzazioni del dimensionamento della GPU negli ambienti virtualizzati consentiranno ai carichi di lavoro di intelligenza artificiale di scalare fino a 16 vGOU/GPU in una singola VM e più nodi per accelerare la messa a punto e le implementazioni del modello di intelligenza artificiale generativa.
Massimizzare l’utilizzo di tutte le risorse di elaborazione su GPU, DPU e CPU significa che si prevede che i costi complessivi saranno inferiori creando al contempo un ambiente di risorse in pool condiviso tra i team. VMware vSAN Express Storage Architecture (ESA) fornirà storage NVMe con prestazioni ottimizzate, supportando lo storage GPUDirect su RDMA fornendo trasferimento I/O diretto dallo storage alle GPU senza coinvolgere la CPU.
La profonda integrazione tra vSphere e NVIDIA NVSwitch consentirà l'esecuzione di modelli multi-GPU senza colli di bottiglia tra GPU, garantendo un networking accelerato.
Tutti questi vantaggi avranno poco significato se l’implementazione e la realizzazione del time-to-value richiederanno troppo tempo. Con le immagini VM e il repository di immagini vSphere Deep Learning, le funzionalità di prototipazione rapida offrono un'immagine stabile della soluzione chiavi in mano che include framework preinstallati e librerie con prestazioni ottimizzate.
NVIDIA NeMo, un framework end-to-end nativo del cloud e il sistema operativo per la piattaforma NVIDIA AI inclusa in NVIDIA AI Enterprise, è una funzionalità della piattaforma. NeMo consente alle aziende di creare, personalizzare e distribuire modelli di intelligenza artificiale generativa praticamente ovunque, combinando framework di personalizzazione, kit di strumenti guardrail, strumenti di data curation e modelli pre-addestrati per offrire alle aziende un percorso semplice, conveniente ed efficiente verso l'adozione dell'intelligenza artificiale generativa.
Implementando l'intelligenza artificiale generativa in produzione, NeMo utilizza TensorRT for Large Language Models (TRT-LLM), accelerando e ottimizzando le prestazioni di inferenza sugli ultimi LLM su GPU NVIDIA. Con NeMo, VMware Private AI Foundation con NVIDIA consente alle aziende di inserire i propri dati per creare ed eseguire modelli di IA generativa personalizzati sull'infrastruttura cloud ibrida di VMware.
VMware Private AI Foundation estende le funzionalità e i modelli di intelligenza artificiale laddove i dati aziendali vengono generati, elaborati e consumati, indipendentemente dal fatto che si trovino all'interno di un cloud pubblico, di un data center aziendale o all'edge. Introducendo queste nuove offerte, VMware mira a consentire ai clienti di unire flessibilità e controllo, promuovendo una nuova generazione di applicazioni basate sull’intelligenza artificiale. Le applicazioni hanno il potenziale per migliorare significativamente la produttività dei lavoratori, innescare la trasformazione di funzioni aziendali chiave e generare un impatto economico sostanziale: un rapporto McKinsey prevede che l’intelligenza artificiale generativa contribuirà fino a 4.4 trilioni di dollari all’anno all’economia globale.
Fondamentale per il successo di questa evoluzione è la creazione di un ambiente multi-cloud, poiché apre la strada all’utilizzo di dati privati ma ampiamente distribuiti. La strategia multi-cloud di VMware offre alle aziende una maggiore flessibilità nella creazione, personalizzazione e implementazione di modelli di intelligenza artificiale utilizzando dati privati, garantendo al tempo stesso sicurezza e resilienza in ambienti diversi.
Raghu Raghuram, CEO di VMware, sottolinea che la fattibilità dell’intelligenza artificiale generativa dipende dal mantenimento della privacy dei dati e dalla minimizzazione dei rischi legati alla proprietà intellettuale. VMware Private AI risponde a queste preoccupazioni, consentendo alle organizzazioni di sfruttare i propri dati affidabili per la creazione e l'esecuzione efficiente di modelli AI all'interno di un ambiente multi-cloud.
Piattaforma aziendale di intelligenza artificiale NVIDIA
Interagisci con StorageReview
Newsletter | YouTube | Podcast iTunes/Spotify | Instagram | Twitter | TikTok | RSS feed
