NVIDIA RTX 4090 contro RTX 6000 Ada: una GPU per il gaming può competere con una potente workstation?

Confronto tra NVIDIA RTX 4090 e RTX 6000 Ada: confrontiamo due sistemi Dell molto diversi ma capaci per vedere dove si distinguono queste GPU.

Per esplorare come le diverse architetture desktop gestiscono i carichi di lavoro AI, ci siamo rivolti a Dell con una richiesta semplice: fornirci i sistemi più potenti nelle loro famiglie gaming e workstation. L'obiettivo? Determinare come un desktop gaming di alto livello ottimizzato per le prestazioni consumer si confronta con una workstation di fascia alta progettata per attività di livello professionale quando si eseguono carichi di lavoro AI, ciascuna con la migliore GPU NVIDIA della categoria.

Dell ha consegnato il Alienware Aurora R16, che rappresenta il loro apice del gaming su PC. Questo sistema è una potenza per il gaming e le applicazioni consumer ad alte prestazioni, con la GPU NVIDIA RTX 4090 con 24 GB di memoria GDDR6X, un processore Intel Core i9-14900KF e un design compatto. Con il suo prezzo di costruzione relativamente conveniente, l'Aurora R16 solleva la domanda: un sistema costruito per il gaming può anche affrontare l'intelligenza artificiale?

Dell ha inviato il Precisione 5860 per rappresentare la famiglia di workstation, un sistema appositamente progettato per un uso professionale intensivo, incluso il nostro caso d'uso AI previsto. Dotata di GPU NVIDIA RTX 6000 Ada con 48 GB di memoria GDDR6, un processore Intel Xeon W7-2595X e 128 GB di memoria ECC DDR5, questa workstation è progettata per gestire attività complesse e ad alta intensità di elaborazione. Tuttavia, con un prezzo circa 4 volte superiore a quello dell'Aurora R16, abbiamo dovuto chiederci: il suo hardware specializzato giustifica il costo per i carichi di lavoro AI?

Questo articolo confronta questi due sistemi per scoprire quanto la memoria GPU aggiuntiva della workstation, la RAM ECC e le prestazioni della CPU influiscano sulle attività di intelligenza artificiale e se un desktop da gioco possa rappresentare un'alternativa valida per gli appassionati di intelligenza artificiale attenti al budget.

Specifiche Dell Precision 5860 e Alienware Aurora R16

Non siamo così deliranti in questo compito da riconoscere che la Precision 5860 ha un enorme vantaggio in termini di prestazioni, con il doppio della memoria GDDR, più slot DRAM, una CPU molto più potente... e la lista continua. La nostra configurazione aveva un prezzo al momento del test di circa $ 12K rispetto alla configurazione Alienware da $ 3K. Mentre esploriamo i sistemi, tienilo a mente e ricorda che l'obiettivo di questo pezzo è vedere se e dove l'Alienware e l'RTX 4090 al suo interno possono tenere il passo con l'RTX 6000 Ada molto più robusto.

Specifiche dell'Precision 5860

Specifiche Dell Alienware Aurora R16

Costruzione e progettazione di Dell Precision 5860 e Dell Alienware Aurora R16

Stazione di lavoro Dell Precision 5860

Per iniziare con la costruzione e la progettazione, abbiamo rivisitato il Dell Precision 5860, una postazione di lavoro precedentemente recensita. Il pannello frontale, realizzato con un mix sostenibile di plastica riciclata e acciaio, mantiene l'estetica elegante e coerente dell'unità, offrendo al contempo varie opzioni di connettività. Di seguito sono riportate le opzioni di connettività che troverete sulla parte anteriore:

• Sono presenti due porte USB-A (5 Gbps) e due porte USB-C (10 Gbps), una delle quali con PowerShare per caricare i dispositivi quando sono spenti.
• Lettore di schede SD full-size e jack audio universale.
• Funzionalità opzionali come un'unità ottica sottile e alloggiamenti flessibili bloccabili per unità NVMe o SATA hot-swap ne aumentano la versatilità di livello professionale.
• pulsante di alimentazione

Ora, passiamo alla parte posteriore dell'unità. Raffreddamento e potenza efficienti sono essenziali per un sistema di questo calibro. Il pannello posteriore presenta ampie griglie di flusso d'aria e offre opzioni di alimentazione da 750 W o 1,350 W, garantendo un supporto affidabile per componenti ad alte prestazioni. Nella parte posteriore, troverai opzioni di connettività:

• Ethernet 1GbE e 10GbE.
• Tre porte USB-A (5 Gbps) e tre porte USB-C (10 Gbps).
• Uscita audio, con possibilità di porte aggiuntive tramite espansione PCIe.

All'interno dell'unità, scoprirai che Precision 5860 offre eccellenti opzioni di manutenzione e personalizzazione, come:

• • Uno slot Gen5 PCIe x16, che supporta fino a due GPU NVIDIA RTX 6000 Ada.
  • Slot PCIe x4 Gen16 a tutta altezza.
  • (2) Slot PCIe x4 Gen8 a tutta altezza aperto.
  • Slot PCIe Gen4 x8 a tutta altezza (x4 elettrico) aperto.
  • (2) Slot SSD M.2 2230/2280 PCIe NVMe Gen4.
  • (2) Slot SATA per HDD/SSD da 2.5/3.5 pollici.
  • Il socket FCLGA4677 è raffreddato da un dissipatore di calore a torre avanzato con 11 tubi di calore, che garantisce efficienza termica durante carichi di lavoro sostenuti.
  • 8 slot RAM DDR5 con supporto RDIMM ed ECC.

Precision 5860 combina componenti di livello aziendale con una scalabilità eccezionale, con 8 slot RAM e molteplici opzioni di archiviazione, tra cui HDD da 3.5 pollici e 2.5 pollici, SSD e unità NVMe. Supporta inoltre più GPU, tra cui due GPU NVIDIA RTX 6000 Ada, rendendolo altamente adattabile per carichi di lavoro impegnativi. Mentre l'alimentatore e la scheda madre del sistema non sono aggiornabili, la sua connettività robusta, il raffreddamento avanzato e il supporto per la memoria ECC assicurano che rimanga una soluzione affidabile a lungo termine per gli utenti che richiedono prestazioni e flessibilità di alto livello in ambienti aziendali.

DellAlienware Aurora R16

•  Altezza: 16.46 pollici (418.00 mm)
• Larghezza: 7.75 pollici (197.00 mm)
• Profondità: 18.05 pollici (458.40 mm)
• Peso: 33.89lbs (15.37 Kg)

Spostando l'attenzione sul pannello frontale dell'R16, si scopre una solida selezione di porte di connettività, tra cui:

• Pulsante di accensione (testa aliena)
• Una porta per cuffie globali per l'audio.
• Due porte USB 3.2 Gen 1 (5 Gbps) per le periferiche.
• Una porta USB 3.2 Gen 1 (5 Gbps) PowerShare che consente la ricarica a dispositivo spento.
• Una porta USB 3.2 Gen 2 Type-C (10 Gbps) PowerShare per un rapido trasferimento dati e la ricarica.

La sua estetica elegante è ulteriormente migliorata con zone di illuminazione RGB che illuminano la ventola posteriore, il lato del case e il logo Alienware, aggiungendo un tocco personale al sistema. Questi effetti di illuminazione sono facilmente personalizzabili e gestiti tramite l'Alienware Command Center, consentendo agli utenti di personalizzare l'illuminazione in base al proprio stile o migliorare la propria configurazione di gioco.

Il pannello laterale, realizzato in plexiglass trasparente, mette in mostra le parti interne del sistema, tra cui:

• Un sistema di raffreddamento a liquido all-in-one da 240 mm garantisce un'efficiente gestione del calore per il processore Intel.
• Zone di illuminazione RGB sulla ventola posteriore, sul pannello laterale e sul logo Alienware.

Il pannello posteriore dell'R16 è dotato di una serie di porte, garantendo versatilità per il gaming e flussi di lavoro ad alte prestazioni:

• Porte audio: una posteriore L/R surround, una ottica S/PDIF, una laterale L/R surround, un ingresso audio/microfono, una uscita di linea, una S/PDIF coassiale, una centrale/subwoofer LFE e una ingresso di linea.
• Porte USB: una USB 3.2 Gen 2 Type-C® (10 Gbps), una USB 3.2 Gen 2×2 Type-C (20 Gbps), due USB 2.0 Type-A con tecnologia Smart Power, due USB 2.0 Type-A e due USB 3.2 Gen 1 Type-A (5 Gbps).
• Rete: una porta Ethernet RJ45 (1GbE) e una porta SCA (Self-Complementary Antenna) doppia per Wi-Fi migliorato.
• Sicurezza: slot per cavo di sicurezza Kensington e lucchetto.

Internamente, l'R16 offre configurazioni con:

• Processori da Intel Core i7-14700F a Intel Core i9-14900KF, che offrono fino a 20-24 core e 68 MB di cache.
• Schede grafiche NVIDIA GeForce RTX 4060 - RTX 4090, con fino a 8-24 GB di memoria GDDR6X, che garantiscono prestazioni grafiche di alto livello per giochi e applicazioni impegnative.
• Un SSD PCIe NVMe da 1-4 TB per un'archiviazione ultraveloce e tempi di caricamento minimi.
• Un alimentatore da 500-1000 W di qualità Platinum che, come la scheda madre, non è aggiornabile, il che lo rende un componente fisso all'interno del sistema.
• Un sistema di raffreddamento a liquido all-in-one da 240 mm per garantire una gestione termica ottimale durante le sessioni più intense.
• Due slot RAM DDR5, con una configurazione minima di 16 GB e una capacità espandibile fino a 64 GB a 5200-5600 MHz.

L'R16 combina componenti di fascia alta e prestazioni personalizzabili, rendendolo adatto per il gaming domestico e per lavori creativi di alto livello. Mentre l'alimentatore, la scheda madre e la RAM del sistema non sono aggiornabili, con un massimo di 64 GB supportati sui suoi due slot RAM, le sue capacità di prestazioni lo rendono una scelta ideale per gli utenti che cercano una soluzione a lungo termine e ad alte prestazioni.

Benchmark di Dell Precision 5860 Tower e Dell Alienware Aurora R16

Prima di dare un'occhiata ai benchmark, ecco le configurazioni di ciascuna unità che abbiamo testato.

Frullatore OptiX 4.0 / 4.1

Frullatore è un'applicazione di modellazione 3D open source. Questo benchmark è stato eseguito utilizzando l'utilità Blender Benchmark. Il punteggio è in campioni al minuto, dove più alto è migliore.

Guardando i dati, Dell Precision eccelle nelle prestazioni della CPU. Ha costantemente superato Dell Alienware in attività come il rendering delle scene Monster e Junkshop, rendendolo più adatto a flussi di lavoro complessi che richiedono molta CPU. Alienware ha un leggero vantaggio per quanto riguarda le prestazioni della GPU, offrendo tempi di rendering più rapidi in tutte le attività incentrate sulla GPU, come le scene Classroom e Junkshop. Entrambi i sistemi gestiscono le attività della GPU in modo efficiente, ma Alienware è in vantaggio per gli utenti che danno priorità alla velocità di rendering della GPU.

Geekbench 6

Geekbench 6 è un benchmark multipiattaforma che misura le prestazioni complessive del sistema. Il browser Geekbench consente di confrontare qualsiasi sistema con esso.

Nel benchmark Geekbench 6, Dell Alienware domina nelle prestazioni CPU single-core, con un punteggio di 3,061 rispetto ai 2,112 di Dell Precision, il che lo rende migliore per le attività che si basano sulla velocità nei singoli processi. Alienware detiene anche un notevole vantaggio nelle prestazioni multi-core, con un punteggio di 19,969 rispetto ai 15,738 di Precision, eccellendo in attività che richiedono più thread come rendering o simulazioni. Per le prestazioni GPU, Alienware è di nuovo in testa con un punteggio di 324,190 rispetto ai 272,472 di Precision, il che lo rende più adatto per attività grafiche impegnative. Mentre Precision funziona ancora bene, la potenza e la velocità complessive di Alienware lo rendono la scelta migliore per gli utenti che necessitano di elaborazione rapida e ad alte prestazioni per vari carichi di lavoro.

Cinebench R23

Il Cinebench R23 benchmark tool valuta le prestazioni della CPU di un sistema eseguendo il rendering di una scena 3D complessa utilizzando il motore Cinema 4D. Misura le prestazioni single-core e multi-core, fornendo una visione completa delle capacità della CPU nella gestione delle attività di rendering 3D.

I risultati di Cinebench R23 mostrano che Dell Precision ha prestazioni significativamente più veloci nei carichi di lavoro multi-core rispetto a Dell Alienware, il che lo rende molto più capace di gestire attività che sfruttano più core della CPU. Tuttavia, Alienware dimostra un chiaro vantaggio nelle prestazioni single-core, eseguendo attività che dipendono dalla velocità del singolo core molto più velocemente di Precision. Il divario nella scalabilità multi-core evidenzia ulteriormente il predominio di Precision nell'efficienza dell'elaborazione parallela, mentre Alienware dà priorità alla velocità raw single-threaded.

Cinebench 2024

Cinebench 2024 estende le capacità di benchmark di R23 aggiungendo la valutazione delle prestazioni della GPU. Continua a testare le prestazioni della CPU ma include anche test che misurano la capacità della GPU di gestire le attività di rendering.

Nei risultati di Cinebench 2024, Dell Precision supera Dell Alienware nelle prestazioni della CPU multi-core, mostrando capacità robuste nei carichi di lavoro che utilizzano tutti i core disponibili. Tuttavia, Alienware offre prestazioni single-core più rapide, rendendolo notevolmente più rapido per le attività che dipendono dall'elaborazione single-thread. Per quanto riguarda le prestazioni della GPU, Alienware si distingue, completando le attività di rendering leggermente più velocemente di Precision. Il rapporto multi-core enfatizza ulteriormente l'efficienza di Precision nel ridimensionamento tra i core, mentre Alienware si concentra maggiormente sulla fornitura di velocità single-core più elevate e potenza di rendering GPU.

y-cruncher

y-cruncher è una popolare applicazione di benchmarking e stress-testing lanciata nel 2009. Questo test è multi-thread e scalabile, calcola Pi e altre costanti fino a trilioni di cifre. Più veloce è meglio in questo test.

Il Dell Precision 5860 Tower supera il Dell Alienware Aurora R16 nel benchmark y-cruncher grazie al suo hardware superiore progettato per attività professionali ad alta intensità di calcolo. Le principali differenze sono:

• Architettura del processore: Precision è dotato di un Intel Xeon w7-2595X, una CPU di livello workstation senza P-core ed E-core, che si concentra su un multi-threading coerente e ad alte prestazioni per attività di calcolo. Al contrario, Intel i9-14900KF di Alienware utilizza un'architettura ibrida con P-core per le prestazioni ed E-core per l'efficienza, che potrebbe non essere scalabile altrettanto bene in carichi di lavoro altamente paralleli come y-cruncher.
• Numero di core e RAM: Il processore Xeon del Precision ha più core (26) e thread (52), il che lo rende più attrezzato per gestire calcoli su larga scala su più thread. Inoltre, con i suoi 8 slot DIMM, il Precision ha 128 GB di RAM, significativamente più dei 32 GB dell'Alienware, il che è fondamentale per gestire grandi set di dati in benchmark come y-cruncher.

Nel complesso, la combinazione di una CPU di livello workstation con più core e una maggiore capacità di RAM consente a Precision di gestire le richieste multi-thread di y-cruncher in modo più efficiente, garantendo prestazioni costantemente più veloci in tutti i test.

Test della velocità del disco Blackmagic

Il Test della velocità del disco Blackmagic valuta le prestazioni di archiviazione misurando le velocità di lettura e scrittura, offrendo informazioni sulla capacità di un sistema di gestire attività che richiedono un uso intensivo di dati, come l'editing video e il trasferimento di file di grandi dimensioni.

Il Dell Precision 5860 Tower, dotato di NVME PM9F1 Samsung 10, ha raggiunto 4943.5 MB/s per velocità di scrittura e 4903.2 MB/s per velocità di lettura nel Blackmagic Disk Speed ​​Test. Ciò indica prestazioni del disco complete ed efficienti, che eccellono sia nelle attività di scrittura che di lettura.

D'altro canto, il Dell Alienware Aurora R16 con l'NVMe PM9A1 Samsung SSD ha raggiunto 3812.5 MB/s in scrittura e 4839.8 MB/s in lettura. Sebbene sia rimasto indietro nelle prestazioni di scrittura, ha comunque fornito solide velocità di lettura paragonabili al Precision 5860 Tower.

Nel complesso, il Precision 5860 Tower offre velocità di scrittura migliori, rendendolo ideale per attività che richiedono una scrittura di dati veloce. L'Alienware Aurora R16, sebbene leggermente più debole nelle prestazioni di scrittura, mantiene comunque la sua posizione con elevate velocità di lettura. Entrambi i sistemi funzionano bene, ma il Precision 5860 è più versatile per carichi di lavoro misti che richiedono operazioni di scrittura ad alta velocità.

Test di velocità RAW di Blackmagic

Il Test di velocità RAW di Blackmagic è uno strumento di benchmarking delle prestazioni progettato per misurare le capacità di un sistema nella gestione della riproduzione e dell'editing video tramite il codec Blackmagic RAW. Valuta quanto bene un sistema può decodificare e riprodurre file video ad alta risoluzione, fornendo frame rate per l'elaborazione basata sia sulla CPU che sulla GPU.

Nel test di velocità raw Blackmagic, il Dell Precision 5860 Tower supera l'Alienware Aurora R16 nei test CPU e CUDA. Il Precision 5860 raggiunge 146 FPS nel test CPU 8K e 199 FPS nel test CUDA 8K, mentre l'Alienware Aurora ottiene 108 FPS nella CPU 8K e 143 FPS nel CUDA 8K. Il Precision 5860 Tower offre prestazioni raw più veloci, specialmente nelle attività accelerate dalla GPU.

7-Zip

Il Benchmark di compressione 7-Zip valuta le prestazioni della CPU durante le attività di compressione e decompressione, misurando le valutazioni in GIPS (Giga Instructions Per Second) e l'utilizzo della CPU. GIPS più elevati e un utilizzo efficiente della CPU indicano prestazioni superiori.

Prestazioni di compressione

• Il Dell Precision 5860 Tower raggiunge prestazioni notevolmente superiori, con un indice di compressione totale di 195.277 GIPS, utilizzando il 4448% della CPU e mantenendo un rapporto di utilizzo di 4.374 GIPS.
• Dell Alienware Aurora R16 offre un rating di compressione di 133.024 GIPS, utilizzando il 1198% di CPU e 11.129 GIPS per rapporto di utilizzo. Mentre il suo rapporto per utilizzo è più alto, il suo throughput complessivo è in ritardo rispetto a Precision.

Prestazioni di decompressione

• Il Dell Precision 5860 Tower eccelle nella decompressione, ottenendo un punteggio totale di 234.059 GIPS con un utilizzo della CPU del 5029% e un rapporto di utilizzo di 4.655 GIPS.
• Sebbene potente, il Dell Alienware Aurora R16 non è all'altezza, con un punteggio di decompressione di 193.905 GIPS, utilizzando il 3050% della CPU e un rapporto di utilizzo di 6.359 GIPS.

Risultati complessivi

• Il Dell Precision 5860 Tower surclassa l'Alienware con un punteggio di riferimento di 214.316 GIPS e un utilizzo totale della CPU del 4739%, evidenziando il suo predominio nelle attività di compressione e decompressione.
• Il Dell Alienware Aurora R16 raggiunge un rispettabile punteggio totale di 163.464 GIPS con un utilizzo totale della CPU del 2124%, ma non può eguagliare l'efficienza e la produttività più elevate del Precision.

Octane Bench

Successivamente, guardiamo Octane Bench, un'utilità di benchmarking per OctaneRender, un altro motore di rendering 3D con supporto RTX simile a V-Ray.

Nei risultati di OctaneBench, il Dell Alienware supera il Dell Precision nella maggior parte dei test, con punteggi più alti in varie attività di rendering. Ad esempio, Alienware ottiene un punteggio di 172.21 nel path tracing interno, mentre Precision ottiene un punteggio di 153.13. Alienware è leader anche in altre categorie come illuminazione diretta e canali informativi, mostrando le sue prestazioni complessive della GPU più forti. Mentre Precision mantiene la sua posizione in alcune aree, come il path tracing ATV, Alienware è costantemente leader, il che lo rende la scelta più veloce per le attività di rendering che si basano sulla potenza della GPU.

SPECviewperf 2020

Il nostro prossimo test è SPECviewperf 2020, lo standard mondiale per la misurazione delle prestazioni grafiche delle applicazioni professionali sotto le interfacce di programmazione delle applicazioni OpenGL e Direct X. I viewset (o benchmark) rappresentano il contenuto grafico e il comportamento delle applicazioni reali senza dover installare le applicazioni stesse. La versione più recente di questo benchmark ha subito aggiornamenti significativi alla fine dell'anno scorso, inclusi nuovi viewset presi da tracce delle ultime versioni delle applicazioni 3ds Max, Catia, Maya e Solidworks. Inoltre, hanno aggiunto il supporto in tutti i viewset per display con risoluzione 2K e 4K.

Nel benchmark SPECviewperf2020 Viewsets, il Dell Alienware generalmente ha prestazioni migliori del Dell Precision nella maggior parte delle categorie di test, indicando capacità superiori nella gestione di attività di rendering 3D complesse. Ad esempio, in Maya-06, l'Alienware ottiene un punteggio di 576.9 rispetto al 486.41 del Precision, dimostrando le sue migliori prestazioni in applicazioni ad alta intensità grafica. Tuttavia, Precision supera Alienware in aree come 3dsmax-07 e Creo-03, indicando i suoi punti di forza in specifici software di modellazione 3D. L'Alienware offre un vantaggio prestazionale più coerente in varie attività di rendering.

SPECworkstation 3

SPECworkstation3 è specializzato in benchmark progettati per testare tutti gli aspetti chiave delle prestazioni delle workstation. Utilizza oltre 30 carichi di lavoro per testare CPU, grafica, I/O e larghezza di banda della memoria. I carichi di lavoro rientrano in categorie più ampie come Media e intrattenimento, Servizi finanziari, Sviluppo prodotti, Energia, Scienze biologiche e Operazioni generali. Elencheremo ogni risultato di categoria ampia anziché i singoli carichi di lavoro. I risultati sono una media di tutti i singoli carichi di lavoro in ciascuna categoria.

Il Dell Precision supera il Dell Alienware in diverse categorie, in particolare in Life Sciences, dove ottiene un punteggio di 8.38 rispetto al 5.18 dell'Alienware. Il Precision è leader anche in Media and Entertainment, Product Development e Financial Services. Tuttavia, l'Alienware è in testa in GPU Compute con un punteggio di 11.24, superando di poco il 10.51 del Precision. Il Precision eccelle in carichi di lavoro più diversificati, mentre l'Alienware brilla nelle attività incentrate sulla GPU.

Luxmark

Un altro benchmark 3D che utilizziamo è LuxMark, un'utilità di benchmarking GPU OpenCL.

Panchina: Un test per valutare la capacità della GPU di gestire scene 3D complesse e illuminazione dinamica.
Alimentare: Un test più complesso che gestisce oggetti 3D e texture dettagliate utilizzando luci e ombre intense.

Nel benchmark LuxMark, il Dell Alienware supera il Dell Precision in entrambe le categorie di test. Per Hallbench, l'Alienware ottiene un punteggio di 38,998, superando il punteggio di 31,654 del Precision. La stessa tendenza continua con il test Food, dove l'Alienware ottiene un punteggio di 16,825, mentre il Precision ottiene un punteggio di 14,487. Nel complesso, l'Alienware mostra prestazioni GPU più forti, in particolare nelle attività di rendering.

Inferenza AI Procyon di UL

UL procione AI Inference è progettato per valutare le prestazioni di una workstation nelle applicazioni professionali. Va notato che questo test non sfrutta le capacità multiple della CPU. Nello specifico, questo strumento valuta la capacità della workstation di gestire attività e flussi di lavoro basati sull'intelligenza artificiale, fornendo una valutazione dettagliata della sua efficienza e velocità nell'elaborazione di algoritmi e applicazioni AI complessi.

Nel benchmark UL Procyon Average Inference Times, Dell Alienware Aurora R16 supera costantemente Dell Precision 5860 Tower in vari modelli di apprendimento automatico. Quando si utilizza TensorRT, Alienware eccelle con i tempi di inferenza più rapidi in modelli come MobileNet V3 (0.45 ms) e ResNet 50 (1.02 ms). I risultati di Precision 5860 sono più lenti, specialmente con modelli come Real-ESRGAN, dove Alienware termina significativamente più velocemente. Nel complesso, Alienware offre prestazioni superiori in attività di intelligenza artificiale e apprendimento profondo, in particolare nell'inferenza accelerata da GPU.

Topazio Video AI

Un nuovo carico di lavoro che abbiamo aggiunto al nostro processo di test si concentra sulle prestazioni di una piattaforma in esecuzione Topazio Video AI per migliorare una pellicola scansionata. Abbiamo alcuni filmati precedentemente scoperti dell'US Open del 1947. Mentre il filmato storico ufficiale è tutto in bianco e nero, durante la scansione di alcuni filmati di famiglia, abbiamo scoperto filmati di molti giocatori che si allenano e tirano durante il giorno, incluso il putt vincente di Lew Worsham. Il filmato originale è una pellicola da 8 mm, con un frame rate medio di 16 FPS che è stato girato a mano. Questo filmato è stato registrato dalla nonna di Kevin e ha offerto un punto di vista unico di questo torneo tenutosi a St. Louis.

Il file che abbiamo scelto per l'elaborazione è lungo 8 minuti e ha una dimensione di 14.6 GB. Abbiamo importato il file in Topaz Video AI, selezionato Proteus, l'algoritmo generale di miglioramento video, e aumentato il frame rate a 23.97 FPS. Il lavoro è stato quindi suddiviso in batch, con il tempo di elaborazione come punteggio finale.

La NVIDIA RTX 4090 all'interno dell'Alienware R16 ha elaborato il video a una velocità di circa 7 FPS, con un tempo di elaborazione totale di 27 minuti e 58 secondi. La RTX 6000 Ada all'interno della Precision 5860 non è riuscita a tenere il passo, con una velocità di elaborazione media di circa 5 FPS e un tempo totale di 41 minuti e 12 secondi.

La suite Topaz Video AI ha anche un benchmark integrato per misurare le prestazioni del sistema su diversi algoritmi di miglioramento video. Lo abbiamo usato per confrontare NVIDIA RTX 6000 Ada e RTX 4090.

A partire dalla NVIDIA RTX 4090, la configurazione Proteus testata ha una velocità di elaborazione di 40.89 FPS a 1X, 18.60 FPS a 2X e 5.38 FPS a 4X con una sorgente video 1080P.

Per fare un confronto, la RTX 6000 Ada parte da una frequenza di 42.86 FPS a 1X, per poi scendere a 15.61 FPS a 2X e a 3.81 FPS a 4X.

Scegliere la GPU giusta per l'intelligenza artificiale: NVIDIA RTX 4090 vs. RTX 6000 Ada

Come abbiamo visto con molti dei nostri benchmark, la differenza fondamentale tra la NVIDIA RTX 4090 rivolta al consumatore e la RTX 6000 Ada rivolta all'azienda risiede nel loro budget di potenza e nelle velocità di clock. La RTX 4090 funziona a velocità di clock più elevate con un budget di potenza sostanziale di 600 W prima dell'overclocking, rendendola eccezionalmente potente per carichi di lavoro single-threaded. Questo profilo di potenza aggressivo le consente di elaborare carichi di lavoro specifici più velocemente della sua controparte workstation.

Tuttavia, la VRAM da 6000 GB della RTX 48 Ada (il doppio della 4090) offre vantaggi significativi per flussi di lavoro specifici. Questa maggiore capacità di memoria consente di eseguire modelli AI più grandi. Sebbene sia possibile caricare modelli più grandi in sequenza dallo storage, la VRAM più grande consente comunque una maggiore produttività (tok/s) e un batching efficace con vLLM o i microservizi NIM di Nvidia.

Un aspetto trascurato delle prestazioni della GPU è il modo in cui diversi carichi di lavoro utilizzano le capacità di elaborazione parallela. L'elaborazione video è un ottimo esempio del perché più VRAM non si traduce sempre in prestazioni migliori. Molte attività di elaborazione video sono intrinsecamente sequenziali, con dipendenze tra i frame che limitano l'esecuzione parallela. Nei nostri test Topaz, questa limitazione è diventata evidente poiché le velocità di clock più elevate dell'RTX 4090 hanno portato al completamento dell'attività 10 minuti più velocemente dell'RTX 6000 Ada, nonostante abbia meno VRAM.

Questo comportamento è dovuto alla natura delle pipeline di elaborazione video. Mentre alcune operazioni, come la gradazione del colore, possono essere parallelizzate in modo efficace, altre, come la riduzione del rumore temporale o l'interpolazione dei frame, richiedono un'elaborazione sequenziale a causa delle dipendenze frame-to-frame. Queste dipendenze creano un collo di bottiglia in cui la VRAM aggiuntiva non riesce a compensare la velocità di elaborazione raw.

Possiamo vedere un calo simile con i carichi di lavoro di gioco. Giocare a risoluzioni più elevate consumerà in genere più VRAM, consentendo di caricare risorse più significative. Tuttavia, la maggior parte dei giochi non consumerà l'intera VRAM da 24 GB sulla 4090.

La RTX 6000 Ada si distingue negli ambienti aziendali per le sue capacità vGPU. NVIDIA supporta ufficialmente la funzionalità GPU virtuale sulla scheda, consentendo alle organizzazioni di partizionare la VRAM da 48 GB tra più macchine virtuali. Questa funzionalità è particolarmente preziosa per le aziende di ingegneria e i provider SaaS che offrono servizi di rendering CAD e 3D basati su cloud. La RTX 4090, pur essendo potente, non ha il supporto ufficiale per tale virtualizzazione, limitandone la flessibilità nelle distribuzioni aziendali.

L'implementazione fisica di queste GPU crea differenze significative nelle loro opzioni di distribuzione. L'elevato assorbimento di potenza della RTX 4090 richiede soluzioni di raffreddamento massicce, che in genere richiedono spazi da 3-3.5 slot con ventole frontali. Questo design rende difficile l'implementazione in configurazioni standard di workstation o server.

Al contrario, l'involucro di potenza da 6000 W dell'RTX 300 Ada consente un design più convenzionale del blower a 2 slot, rendendolo ideale per distribuzioni di workstation o server. Alcuni fornitori come HP e Peugeot Systems offrono configurazioni a 4 GPU ufficialmente supportate e le schede possono essere facilmente integrate in chassis di server standard a 10 GPU. Questa standardizzazione è fondamentale per gli ambienti aziendali in cui affidabilità e supporto sono fondamentali.

Su larga scala, l'A6000 dimostra chiari vantaggi in diverse aree critiche: densità di potenza, gestione termica, affidabilità e supporto del fornitore. Questi fattori diventano sempre più importanti negli ambienti dei data center in cui stabilità e prevedibilità superano le metriche di prestazioni grezze. I canali di supporto ufficiali e le funzionalità di livello aziendale rendono l'A6000 una scelta più adatta per le organizzazioni che richiedono contratti di supporto e affidabilità di livello professionale.

La scelta tra queste GPU dipende in ultima analisi da casi d'uso specifici e requisiti operativi. Mentre la RTX 4090 eccelle nelle prestazioni raw per carichi di lavoro specifici, le funzionalità aziendali e la flessibilità di distribuzione della A6000 la rendono la scelta preferita per gli ambienti professionali che richiedono stabilità, virtualizzazione e canali di supporto ufficiali.

Conclusione

Confrontando Dell Alienware Aurora R16 e Precision 5860, diventa chiaro che la scelta tra questi sistemi dipende dal tuo specifico carico di lavoro AI e dal tuo budget. Alienware Aurora R16, con la sua GPU NVIDIA RTX 4090 e componenti di livello consumer, offre prestazioni raw eccezionali per attività che richiedono molta GPU. La sua convenienza e le impressionanti prestazioni single-threaded lo rendono una scelta praticabile per progetti AI su piccola scala, elaborazione video e applicazioni GPU-heavy in cui elevate velocità di clock e larghezza di banda sono fondamentali.

Tuttavia, la Dell Precision 5860 dimostra perché i sistemi di classe workstation hanno un prezzo più alto. Con i 6000 GB di memoria GDDR48 della NVIDIA RTX 6 Ada, un numero significativamente maggiore di core CPU e il supporto fino a 2 TB di RAM ECC, la Precision eccelle in scenari che richiedono elaborazione parallela su larga scala, stabilità e affidabilità a lungo termine. È particolarmente adatta per le aziende che gestiscono grandi modelli di intelligenza artificiale, gestiscono enormi set di dati o distribuiscono carichi di lavoro GPU virtuali. Per i clienti che desiderano Intel 14900K in un desktop Precision, la 3680 supporta quella CPU ed estende le prestazioni single-core per i carichi di lavoro che potrebbero trarne vantaggio. La linea Dell Precision ha molti vantaggi oltre alle prestazioni, inclusi i driver certificati.

Per gli appassionati attenti al budget o le organizzazioni che sperimentano con l'intelligenza artificiale, l'Alienware Aurora R16 abbinato a una NVIDIA RTX 4090 fornisce un punto di ingresso accessibile senza sacrificare la capacità. Tuttavia, il Dell Precision 5860 con una o due GPU NVIDIA RTX 6000 Ada offre la robustezza, la scalabilità e il supporto di livello aziendale necessari per gestire in modo efficiente i flussi di lavoro AI più esigenti per professionisti o aziende in ambienti ad alta intensità di dati.

In definitiva, la scelta giusta dipende dal carico di lavoro, dalla tolleranza ai compromessi e dal budget. Dell ha fornito soluzioni convincenti a entrambe le estremità dello spettro, dimostrando che, che tu abbia bisogno di prestazioni consumer o di affidabilità di livello professionale, esiste un sistema su misura per le tue esigenze di intelligenza artificiale.

Interagisci con StorageReview

Newsletter | YouTube | Podcast iTunes/Spotify | Instagram | Twitter | TikTok | RSS feed