Dell PowerEdge XE9640 è un server con montaggio su rack con accelerazione GPU 4x in grado di fornire potenza IA in modo efficiente dal punto di vista energetico, grazie al raffreddamento a liquido. L'XE9640 è stato annunciato durante SC22 insieme all'XE8640 e uno dei nostri preferiti, l'8 vie XE9680 ServerGPU. Oggi l'XE9640 è generalmente disponibile e stiamo approfondendo l'hardware sottostante.
Dell PowerEdge XE9640 è un server con montaggio su rack con accelerazione GPU 4x in grado di fornire potenza IA in modo efficiente dal punto di vista energetico, grazie al raffreddamento a liquido. L'XE9640 è stato annunciato durante SC22 insieme all'XE8640 e uno dei nostri preferiti, l'8 vie XE9680 ServerGPU. Oggi l'XE9640 è generalmente disponibile e stiamo approfondendo l'hardware sottostante.
Dell PowerEdge XE9640
Famiglia di server con accelerazione GPU Dell
La famiglia di server PowerEdge XE è progettata appositamente per carichi di lavoro complessi di intelligenza artificiale e HPC che richiedono prestazioni e affidabilità. Questi server sono progettati per essere ad alte prestazioni, basati su insight e intelligenti. Oggi la famiglia di server XE comprende XE9680 (Abbiamo già detto che era uno dei preferiti di Jordan?), XE9640, XE8640 e XE8545. Il filo conduttore tra tutti questi server è la progettazione per supportare un’ampia varietà di iniziative di intelligenza artificiale con un’opzione di raffreddamento che abbia senso per il cliente.
|
Prodotti |
Scopo | Vantaggi | Casi d'uso |
| XE9680 | Progettato per potenziare gli insight con l'accelerazione dell'intelligenza artificiale progettata per prestazioni ottimali e time-to-value più rapido | Sfrutta prestazioni estreme per AI e HPC con 8 GPU NVIDIA H100 o A100 Tensor Core SXM | Grandi modelli linguistici |
| Il funzionamento intelligente con raffreddamento ad aria (fino a 35°C) massimizza la conversione dei dati in risultati | Elaborazione del linguaggio naturale | ||
| Il funzionamento intelligente con raffreddamento ad aria (fino a 35°C) massimizza la conversione dei dati in risultati | Formazione sul motore di raccomandazione di grandi dimensioni | ||
| Modellazione e simulazione | |||
| Gemelli digitali e produzione | |||
| XE9640 | Progettato appositamente per promuovere iniziative di intelligenza artificiale in un server intelligente raffreddato a liquido 2U ad alta densità | Ottieni risultati migliori per l'intelligenza artificiale con 4 GPU NVIDIA H100 Tensor Core o 4 GPU Intel Data Center Max OAM | Elaborazione del linguaggio naturale |
| CPU e GPU intelligenti raffreddate a liquido massimizzano le prestazioni | Formazione sul motore di raccomandazione di grandi dimensioni | ||
| TCO ridotto con efficienza di utilizzo dell'energia ottimizzata | Modellazione e simulazione | ||
| Intelligenza Artificiale, Formazione ML/DL per il riconoscimento di oggetti | |||
| XE8640 | Gestisci carichi di lavoro di intelligenza artificiale, HPC e analisi con prestazioni superiori | Automatizza l'analisi degli insight con 4 GPU NVIDIA H100 per un'ampia gamma di applicazioni | Modelli di linguaggi di set di dati medi |
| Funziona con raffreddamento ad aria (fino a 35°C) per aumentare l'efficienza energetica | Elaborazione del linguaggio naturale | ||
| Aumenta le operazioni con opzioni di espansione intelligenti | Modellazione e simulazione | ||
| Intelligenza artificiale, training e inferenza ML/DL, riconoscimento di immagini | |||
| XE8545 | Prestazioni tradizionali dell'intelligenza artificiale e delle applicazioni grafiche | Migliora le prestazioni di training e inferenza con 4 GPU NVIDIA A100 | Modellazione e simulazione, inclusa l'analisi sismica |
| Il funzionamento con raffreddamento ad aria (fino a 35°C) garantisce un funzionamento efficiente | Intelligenza artificiale, formazione e inferenza ML/DL, riconoscimento di immagini e chatbot | ||
| TCO inferiore con una soluzione bilanciata prestazioni/watt |
Dell PowerEdge XE9640 – Diversità GPU e raffreddamento a liquido
Il PowerEdge XE9640 offre il raffreddamento a liquido diretto (DLC) per GPU e CPU grazie ad una profonda partnership con il partner CoolIT. Il server vende alcune ventole per garantire che le schede di espansione DRAM, storage e PCIe ricevano un flusso d'aria e un raffreddamento sufficienti. Detto questo, queste ventole non hanno bisogno di funzionare al massimo numero di giri, con un notevole risparmio energetico.
Dell PowerEdge XE9640 – Vassoio GPU NVIDIA
PowerEdge XE9640 porta sul tavolo la diversità delle GPU, offrendo una scelta tra 4x Collegamento NV NVIDIA interconnesso GPU H100SXM5 Modulo da 700 W o 4x Intel XeLink GPU Intel Data Center interconnessa Max 1550 Modulo acceleratore (OAM) Open Compute Platform (OCP) da 600 W.
Grazie a tecnologie come NVIDIA NVLink e Intel Xelink, queste GPU comunicano perfettamente, mettendo in comune in modo efficace memoria e core. Ciò è particolarmente utile per la gestione di carichi di lavoro coerenti con la memoria come i Large Language Models (LLM). Questa versatilità lo rende adatto a un'ampia gamma di carichi di lavoro IA. Naturalmente, la domanda ovvia è: "E AMD Instinct?" Dell valuta costantemente il supporto GPU aggiuntivo ma non offre una soluzione AMD in questo server al momento del lancio.
Dell PowerEdge XE9640 – Vassoio GPU Intel
Questa diversità di GPU consente agli utenti di soddisfare le crescenti esigenze dell'intelligenza artificiale generativa, della modellazione di simulazione industriale e della ricerca scientifica all'avanguardia. Ad esempio, le funzionalità dell'acceleratore Intel Data Center GPU Max di PowerEdge XE9640 sono state utilizzate presso il Texas Advanced Computing Center (TACC) per il loro Supercomputer Stampede3.
In termini di densità e raffreddamento, PowerEdge XE9640 è stato progettato e progettato per sfruttare in modo efficiente lo spazio rack migliorando al tempo stesso le prestazioni. Con il suo profilo compatto da 2 RU, questo server offre un'impressionante capacità GPU per rack, massimizzando lo spazio prezioso del data center. Utilizzando DLC, PowerEdge XE9640 supera i tradizionali sistemi raffreddati ad aria in termini di efficienza e convenienza.
Dell PowerEdge XE9640 – Il resto dell'hardware
Al di là delle "semplici" GPU, l'ingegneria dietro la serie XE è di prima classe. Abbiamo appena pubblicato un recensione video dell'XE9640 e dell'XE8640. Il video fornisce dettagli eccellenti sulla progettazione, dall'accesso alle unità e l'instradamento dei tubi DLC sull'XE9640 al raffreddamento a liquido della GPU a circuito chiuso sull'XE8640 e il percorso per i futuri miglioramenti su tutti i server XE. È incorporato di seguito come riferimento.
Oltre all'XE9640, la rimozione della cornice consente un facile accesso alle unità NVMe. Due slot sul lato destro del telaio supportano le unità NVMe boot-optimized storage subsystem (BOSS) e includono HWRAID 1 tramite 2 x M.2 SSD. Oggi, lo storage primario viene fornito tramite 4 unità NVMe U.2 Gen4. Questo raddoppierà in una versione futura grazie a un'opzione per un vassoio SSD per supportare 8 unità NVMe E3.S Gen5. La piattaforma non supporta HW RAID per gli alloggiamenti NVMe U.2, anche se la maggior parte non ne avrà bisogno. Molte di queste GPU sfruttano enormi set di dati esternamente. L’archiviazione locale, in questo caso, non sarà la fonte primaria per questi set di dati di grandi dimensioni.
Naturalmente, ci sono buone opzioni di espansione nella parte posteriore del server per i professionisti dell'intelligenza artificiale che necessitano di accedere a enormi array di archiviazione. L'XE9640 supporta quattro slot PCIe Gen5, due a mezza altezza e due a tutta altezza. Inoltre, hai uno slot NIC OCP PCIe Gen3.
Dell PowerEdge XE9640 Parte anteriore
Per calmare i timori di perdite, i server raffreddati a liquido includono la segnalazione del rilevamento delle perdite in iDRAC. Il metodo Dell per rilevare le perdite è piuttosto incredibile quando si forano diverse parti dello chassis. Ad esempio, nell'inquadratura della piastra di raffreddamento della CPU in basso, è possibile distinguere sottili tracce di rame in uno schema smussato attorno all'intero waterblock. Se dell'acqua gocciola su questi collegamenti, il circuito di cablaggio aperto rileva un piccolo cortocircuito e il sistema riconosce che si è verificata una perdita. La fune metallica intrecciata viene utilizzata con un metodo di rilevamento simile in altre parti del telaio. Ciò è visibile nella nostra foto del blocco principale di distribuzione del liquido con i numerosi tubi nella parte anteriore del telaio. Inoltre, le CDU CoolIT e il resto del circuito dispongono anche di rapporti sul rilevamento delle perdite in molti punti lungo il percorso.
Rilevamento perdite Dell PowerEdge XE9640
Per inciso, i modelli XE8640 e XE9680 raffreddati ad aria includono anche il raffreddamento a liquido della GPU a circuito chiuso con lo stesso rilevamento delle perdite tramite iDRAC.
Ottimizzazione della potenza per rack
PowerEdge XE9640 offre ai clienti l'opportunità di ottimizzare l'utilizzo dell'alimentazione per rack. Con nove server per rack, un carico di picco di elaborazione accelerata potrebbe richiedere circa 41 kW di potenza, utilizzando una distribuzione dell'alimentazione trifase per prestazioni bilanciate. Per aumentare la scalabilità, i data center possono implementare rack che ospitano 12, 18 o addirittura 21 server PowerEdge XE9640, raggiungendo livelli di potenza di circa 54 kW, 81 kW e 95 kW, rispettivamente. Questa adattabilità consente ai data center di ottimizzare l'utilizzo energetico del rack in base ai requisiti specifici.
Collettore di raffreddamento a liquido interno Dell PowerEdge XE9640
Dell ha raccolto una serie di risorse per fornire ai clienti una visione completa di PowerEdge XE9640. Ciò include video di unboxing e recensioni dettagliate dei prodotti. Il video di unboxing mostra il design e le funzionalità del server, offrendo ai clienti un tour visivo delle sue capacità.
Per enfatizzare ulteriormente i vantaggi del PowerEdge XE9640, Dell ha realizzato un'infografica che lo confronta con la sua controparte raffreddata ad aria, il PowerEdge XE8640. Questa infografica evidenzia le notevoli caratteristiche distintive di PowerEdge XE9640, in particolare la sua efficienza nel raffreddamento a liquido e l'impressionante capacità della GPU per rack.
Dell PowerEdge XE9640 Parte posteriore
Considerazioni finali
PowerEdge XE9640 è parte integrante delle soluzioni di intelligenza artificiale generativa in espansione di Dell, progettate per rivoluzionare i carichi di lavoro AI e promuovere l'innovazione. La soluzione di intelligenza artificiale generativa di Dell combina tecnologia all'avanguardia, innovazione e servizi offerti da Dell Technologies per fornire risultati più intelligenti e rapidi. Sfruttando le capacità dell’intelligenza artificiale generativa, le organizzazioni possono ottenere nuove informazioni, accelerare i propri sforzi di trasformazione e migliorare l’efficienza della forza lavoro.
Sebbene l'XE9680 possa rimanere il nostro preferito tra i server GPU Dell, l'XE9640 si è fatto strada nei nostri cuori esclusivamente dal punto di vista dell'efficienza e del design. Lo chassis 2U racchiude un'enorme quantità di ingegneria; i data center con raffreddamento a liquido graviteranno chiaramente verso questi box ad alta efficienza energetica. I quattro moduli NVIDIA assorbono da soli 2800 W, quindi qualsiasi cosa Dell possa fare per aiutare i data center a essere più efficienti in termini di rack e consumo energetico è un enorme passo avanti.
Interagisci con StorageReview
Newsletter | YouTube | Podcast iTunes/Spotify | Instagram | Twitter | TikTok | RSS feed
