Nell’arena ad alto rischio dell’intelligenza artificiale aziendale, i titani della tecnologia sono impegnati in una corsa incessante per svelare la prossima innovazione significativa nell’hardware. Dell Technologies ha recentemente introdotto Dell PowerEdge XE9680 per l'intelligenza artificiale generativa e lo è spiegandolo in un recente whitepaper. Il PowerEdge XE9680, progettato esplicitamente per affrontare i carichi di lavoro dell'intelligenza artificiale, non è solo un nuovo concorrente in gara, è un potenziale apripista.
Nell’arena ad alto rischio dell’intelligenza artificiale aziendale, i titani della tecnologia sono impegnati in una corsa incessante per svelare la prossima innovazione significativa nell’hardware. Dell Technologies ha recentemente introdotto Dell PowerEdge XE9680 per l'intelligenza artificiale generativa e lo è spiegandolo in un recente whitepaper. Il PowerEdge XE9680, progettato esplicitamente per affrontare i carichi di lavoro dell'intelligenza artificiale, non è solo un nuovo concorrente in gara, è un potenziale apripista.
Analizzando il whitepaper, abbiamo esaminato come questa centrale elettrica ridefinisce il panorama dell’IA e perché potrebbe essere l’arma segreta della tua azienda per conquistare la frontiera dell’IA.
Dell PowerEdge XE9680 per l'intelligenza artificiale generativa
Le Dell PowerEdge XE9680 è un server rack ad alta densità di GPU progettato per applicazioni ad alte prestazioni destinate ai campi dell'intelligenza artificiale. È dotato di due processori scalabili Intel Xeon di quarta generazione, ciascuno con un massimo di 4 core, e può essere dotato di otto GPU NVIDIA HGX H56 o otto GPU NVIDIA HGX A100; il tutto interconnesso con la tecnologia NVIDIA NVLink.
PowerEdge XE9680 supporta velocità DIMM fino a 4800 MT/s e dispone di 32 slot DIMM DDR5, con una capacità RAM massima di 4 TB. Offre fino a 8 unità SSD NVMe da 2.5 pollici per l'archiviazione, con una capacità massima di 122.88 TB. Il server include anche una serie di funzionalità di sicurezza, come firmware firmato crittograficamente, Data at Rest Encryption (DRE), Secure Boot e altro ancora. Viene gestito tramite il sistema iDRAC9 integrato e supporta una varietà di strumenti di gestione e integrazioni. Il server è alloggiato in un fattore di forma rack 6U e pesa 235.89 libbre. (107 chilogrammi).
Specifiche dell'PowerEdge XE9680
PowerEdge XE9680 è progettato per gestire carichi di lavoro AI con enormi occupazioni di memoria. Grazie a NVLink, le GPU ottengono l'accesso a una grande quantità di memoria da altre GPU nel sistema, fornendo accesso ad alta velocità alle risorse condivise. Questa significativa capacità di memoria dovrebbe portare a prestazioni più elevate, modelli più complessi e alla capacità di lavorare con set di dati più grandi e dettagliati, migliorando la precisione e l'utilità sfruttando modelli di parametri più ampi.
Modello:
Capacità del processore:
Proprietà fisiche:
Supporto di memoria:
|
Funzionalità I/O:
Ottimizzazione GPU:
Capacità di intelligenza artificiale:
Supporto unità:
|
Modelli di generazione di immagini: la scienza dell'arte
Hai mai desiderato poter dipingere come Van Gogh o disegnare come Da Vinci, ma ritrovarti con figure stilizzate che non impressionerebbero nemmeno un bambino dell'asilo? Entra nel mondo degli Image Generation Models (IGM), l'equivalente dell'apprendimento automatico di un artista prodigioso, senza eccentricità e berretti.
Gli IGM sono un sottoinsieme di modelli di machine learning progettati per affrontare la creazione di nuove immagini. Gli IGM rientrano nel campo più ampio della modellazione generativa, che riguarda la comprensione e la replica di modelli di dati. Tuttavia, invece di generare numeri o testo, questi modelli si occupano di creare immagini. Negli ultimi mesi, gli IGM hanno fatto notizia generando di tutto, da nuove opere d'arte a volti umani stranamente realistici.
Questi modelli hanno trovato la loro strada in ogni cosa, dall’arte e l’intrattenimento alla pubblicità e alla ricerca scientifica. Stanno creando immagini di cellule per diagnosi mediche, simulando lo spazio esterno e generando selfie così realistici che puoi pescare tu stesso. Man mano che questi modelli si evolvono, crescono i requisiti per eseguirli rapidamente.
Dell PowerEdge XE9680 per l'intelligenza artificiale generativa: potenziare l'edge, con una diffusione stabile
I metodi di diffusione, quando si generano nuove immagini durante l'inferenza, in genere dipendono da enormi cluster GPU che operano in sincronia e richiedono un ampio runtime dell'hardware. Tuttavia, il white paper di Dell rivela che con il server Dell PowerEdge XE9680, queste operazioni di intelligenza artificiale generativa possono essere notevolmente accelerate.
Ciò consente di produrre da dozzine a centinaia di immagini ragionevolmente risolte in pochi secondi. Dell sottolinea che sfruttando le funzionalità di Dell PowerEdge XE9680 per l'intelligenza artificiale generativa, è possibile produrre immagini di grandi dimensioni ad alta risoluzione (Dell ha utilizzato 2,096 x 2,096) da un singolo messaggio di testo in pochi secondi.
XE9680 generato con il messaggio di testo = "Ritratto di cane felice, primo piano",
Le whitepaper valuta la latenza di generazione dell'immagine per il modello testo-immagine dei diffusori HuggingFace sul server PowerEdge XE9680, considerando le dimensioni del batch e le variazioni della risoluzione dell'immagine. Il server XE9680 può generare immagini con risoluzioni fino a 2,048 x 2,048.
Con l’aumento delle dimensioni dei batch, sono aumentate anche le richieste di memoria sull’infrastruttura. Pertanto, era possibile ottenere lotti di dimensioni enormi con immagini a risoluzione inferiore (come 256 x 256). Tuttavia, a causa dei limiti di memoria, le immagini ad altissima risoluzione (come 2,048 x 2,048) potevano generare solo una dimensione batch pari a uno.
PowerEdge XE9680 Tempi di generazione di immagini batch
Concentrandosi sulla generazione batch di immagini con risoluzioni 256 x 256 e 512 x 512 vengono mostrate le potenti funzionalità di Dell PowerEdge XE9680 per l'intelligenza artificiale generativa che genera più immagini in pochi secondi. Questa funzionalità accelera la valutazione, la messa a punto tempestiva e l'ulteriore valutazione richiesta per i cicli di progettazione creativa. Questi risultati dimostrano come è possibile generare batch di 32 immagini con risoluzione 512 x 512 con il pacchetto HuggingFace Diffusers sul server Dell PowerEdge XE9680 in meno di 10 secondi. Inoltre, è possibile creare batch di 64 immagini con risoluzione 256 x 256 in meno di 5 secondi con la stessa piattaforma, consentendo una prototipazione rapida e cicli di progettazione creativa per aziende e professionisti.
Benchmark per la generazione di immagini
Nell'analisi del white paper, il server Dell PowerEdge XE9680 è stato valutato rispetto ai benchmark di latenza di generazione delle immagini stabiliti da Lambda. Questo confronto ha coinvolto una singola GPU NVIDIA H100 con 80 GB di RAM sul server Dell PowerEdge XE9680 e il benchmark NVIDIA H100 GPU Stable Diffusion rilasciato dal team ML Labs presso Lambda.
Latenza di generazione delle immagini Dell PowerEdge XE9680
Lo studio ha dimostrato che l’XE9680 ha superato i benchmark di Lambda, ottenendo circa il doppio della produttività. I risultati di Dell sono presentati nello stesso formato di quelli di Lambda, utilizzando i dati dello studio sulla GPU NVIDIA H100 in condizioni identiche definite dal software. L'unica differenza era l'hardware: Lambda utilizzava una GPU NVIDIA H100 con fattore di forma PCIe, mentre il server Dell PowerEdge XE9680 utilizzava un fattore di forma HGX, che potrebbe spiegare alcune differenze di prestazioni.
Impatto aziendale dei modelli di generazione di immagini
La generazione di immagini tramite Stable Diffusion consente ai professionisti creativi di prototipare e perfezionare rapidamente il proprio lavoro, migliorando ad esempio l'efficienza delle strategie di marketing e pubblicitarie e abbreviando il time-to-market. Professionisti in campi come l’architettura, la pubblicità, il marketing, la creatività, il cinema, gli effetti speciali, la fotografia e l’arte hanno già adottato questa tecnologia.
Le tecnologie di intelligenza artificiale generativa, come Stable Diffusion, possono apportare cambiamenti trasformativi nelle operazioni aziendali, soprattutto quando la velocità è fondamentale. Nella progettazione e nello sviluppo del prodotto, questi modelli possono generare rapidamente prototipi visivi, consentendo ai team di progettazione di valutare e perfezionare i concetti in tempo reale. Ciò accelera il processo di progettazione e riduce il tempo di commercializzazione.
Uno dei concetti più interessanti viene dal settore della vendita al dettaglio. L’intelligenza artificiale potrebbe generare rapidamente immagini realistiche di varie configurazioni di prodotto o opzioni di colore in base alle preferenze del cliente, come “Mostrami questa sedia, ma in rosso” o “Come starebbe quel divano con la stampa leopardata”. Per le imprese immobiliari e di costruzione, l’intelligenza artificiale generativa potrebbe creare rapidamente visualizzazioni di nuovi edifici o progetti di ristrutturazione, aiutando nella pianificazione e nelle presentazioni di vendita.
Nel campo della formazione e dell’istruzione all’interno di un’impresa, le immagini generate dall’intelligenza artificiale possono essere utilizzate per creare scenari realistici per i programmi di formazione dei dipendenti, migliorando i risultati dell’apprendimento. La velocità di generazione delle immagini può migliorare significativamente l’agilità delle aziende, consentendo loro di rispondere in modo più efficace ai cambiamenti del mercato, alle esigenze dei clienti e ai requisiti interni.
Pensieri di chiusura
Dell PowerEdge XE9680 è un server ad alte prestazioni con capacità impressionanti in grado di gestire facilmente carichi di lavoro AI impegnativi (almeno per ora). Sebbene l'XE9680 sia rivolto al mercato di tendenza dell'intelligenza artificiale, potrebbero esserci altri casi d'uso interessanti nell'analisi e nell'elaborazione dei dati per un dispositivo così potente. Va notato che l'XE9680 è alla base Il progetto Helix di Dell, un servizio che aiuta le organizzazioni a mettere online i propri progetti di intelligenza artificiale in modo più tempestivo.
Interagisci con StorageReview
Newsletter | YouTube | Podcast iTunes/Spotify | Instagram | Twitter | TikTok | RSS feed
