I nuovi benchmark dimostrano che le CPU AMD EPYC superano le prestazioni di Nvidia Grace nei carichi di lavoro AI e data center, mentre Ryzen AI MAX+ 395 ridefinisce l'intelligenza artificiale per laptop.
AMD ha presentato benchmark competitivi per le sue CPU EPYC rispetto ai processori Grace di Nvidia. Ha inoltre svelato il processore Ryzen AI MAX+ 395 per laptop consumer e ha introdotto il Versal AI Edge adaptive System-on-Chip (SoC) qualificato per lo spazio.
Le CPU AMD EPYC superano Nvidia Grace nei test sulle prestazioni AI
AMD ha presentato confronti di benchmark che dimostrano chiari vantaggi prestazionali dei suoi processori EPYC rispetto alle CPU Grace di Nvidia, in particolare nei carichi di lavoro di data center e AI. I processori EPYC, sfruttando l'architettura x86 matura, offrono solidi vantaggi in termini di prestazioni, scalabilità e compatibilità rispetto alle soluzioni più recenti basate su Arm come Nvidia Grace.
AMD ha evidenziato diversi benchmark chiave che evidenziano i vantaggi dei processori EPYC rispetto a Grace di Nvidia, tra cui:
- Densità senza pari: I processori EPYC offrono una densità superiore del 33% e 192 core (per socket) SKU rispetto ai 144 core ARM Neoverse di Grace Superchip.
- Efficienza Energetica: Nei test SPECpower® a doppio socket, le CPU EPYC hanno dimostrato un'efficienza energetica 2.75 volte migliore, il che le rende significativamente più efficienti dal punto di vista energetico per le distribuzioni su larga scala.
- Prestazioni del database: I processori EPYC hanno dimostrato prestazioni oltre il doppio nei carichi di lavoro MySQL TPROC-C. Ciò è sempre più significativo man mano che implementiamo sistemi RAG più autonomi che richiedono database vettoriali sostanziali.
- Codifica video: Codificando video utilizzando il codec FFmpeg VP9, EPYC ha raggiunto una produttività 2.9 volte superiore, consentendo un'elaborazione multimediale più rapida ed efficiente.
- Carichi di lavoro accelerati dalla GPU: Le CPU EPYC hanno garantito una produttività fino al 20% migliore rispetto ad altre soluzioni x86 leader del settore, rendendole particolarmente efficaci per le attività di intelligenza artificiale che richiedono un uso intensivo della GPU.
- Velocità di clock: Con velocità di clock che raggiungono i 5 GHz, i processori EPYC hanno notevolmente superato la frequenza di base di 3.1 GHz di Nvidia Grace, offrendo prestazioni grezze superiori per le applicazioni ad alta intensità di calcolo.
- Utilizzo delle risorse: La tecnologia Simultaneous Multithreading (SMT) di AMD ha migliorato ulteriormente l'efficienza delle risorse, consentendo ai processori EPYC di gestire più attività contemporaneamente ed efficacemente.
Questi benchmark dimostrano l'idoneità di EPYC per diverse applicazioni di intelligenza artificiale aziendale, tra cui sistemi di raccomandazione in tempo reale, manutenzione predittiva e attività di elaborazione della visione e del linguaggio.
Ryzen AI MAX+ 395 stabilisce nuovi standard di prestazioni AI per i laptop consumer
AMD ha anche introdotto il processore Ryzen AI MAX+ 395 ("Strix Halo"), posizionato come l'APU x86 più potente per laptop sottili e leggeri di fascia alta. Combina 16 core CPU Zen 5, un'unità di elaborazione neurale XDNA™ 2 che fornisce oltre 50 TOPS e grafica integrata con 40 unità di elaborazione AMD RDNA™ 3.5.
I benchmark di AMD mostrano che Ryzen AI MAX+ 395 supera significativamente i processori Copilot+ di Intel in vari carichi di lavoro AI. Nei test di throughput token, il nuovo processore di AMD ha fornito fino a 2.2 volte le prestazioni dei laptop dotati di Arc 140V di Intel. I miglioramenti della latenza sono particolarmente impressionanti: modelli più piccoli come Llama 3.2, che ha 3 miliardi di parametri, sono stati fino a quattro volte più veloci. I modelli di medie dimensioni con 7-8 miliardi di parametri hanno registrato tempi di risposta fino a 9.1 volte più rapidi. In confronto, i modelli più grandi con circa 14 miliardi di parametri hanno ottenuto riduzioni della latenza fino a 12.2 volte rispetto a Core Ultra 258V di Intel.
Il Ryzen AI MAX+ 395 ha eccelso anche nelle attività AI basate sulla visione, eseguendo i modelli Granite Vision di IBM (3.2 miliardi di parametri) fino a sette volte più velocemente e i modelli Gemma Vision di Google (4 miliardi di parametri) fino a 4.6 volte più velocemente. Anche i modelli di visione più grandi, come Gemma Vision di Google con 12 miliardi di parametri, hanno visto aumenti di prestazioni fino a sei volte rispetto alle offerte di Intel.
Oltre alle prestazioni grezze, il nuovo processore AMD supporta ben 128 GB di memoria unificata, superando i 32 GB massimi offerti dai concorrenti. Inoltre, la tecnologia Variable Graphics Memory di AMD consente ai laptop di allocare dinamicamente fino a 96 GB di questa memoria come VRAM. Questa flessibilità significa che gli utenti possono eseguire comodamente modelli AI su larga scala direttamente sui loro laptop, tra cui Gemma Vision di Google con fino a 27 miliardi di parametri.
La piattaforma Ryzen AI MAX+ migliora notevolmente l'esperienza utente consentendo di eseguire modelli di visione e linguaggio locale avanzati direttamente sui propri laptop, eliminando la necessità di competenze tecniche, come dimostrano applicazioni come LM Studio.
Versal AI Edge XQRVE2303 Adaptive SoC ottiene la qualifica per i voli spaziali
In un altro annuncio rivoluzionario, AMD ha rivelato che il suo System-on-Chip (SoC) adattivo Versal AI Edge XQRVE2303 ha completato la qualificazione per i voli spaziali di Classe B, diventando il secondo dispositivo Versal resistente alle radiazioni di AMD qualificato per le missioni spaziali.
XQRVE2302 è progettato per portare capacità di inferenza AI avanzate nello spazio con i suoi AMD AI Engines (AIE-ML) migliorati. Questi motori offrono il doppio delle prestazioni INT8 e 16 volte quelle BFLOAT16 rispetto ai motori AI di prima generazione, con latenza ridotta e larghezza di banda di memoria migliorata. Il suo fattore di forma compatto da 23 mm x 23 mm lo rende il più piccolo SoC adattivo per applicazioni spaziali, offrendo prestazioni elevate riducendo al contempo il consumo energetico e lo spazio sulla scheda.
Dotato di un processore applicativo dual-core Arm® Cortex®-A72, un processore real-time dual-core Arm Cortex-R5F, blocchi DSP e logica programmabile FPGA, XQRVE2302 è ideale per attività di edge processing come classificazione delle immagini, navigazione autonoma ed elaborazione dei dati dei sensori. Queste capacità consentono applicazioni come rilevamento di incendi boschivi, monitoraggio della vegetazione e rilevamento delle nuvole per i satelliti di osservazione della Terra.
AMD ha collaborato con Alpha Data per sviluppare un design di riferimento tollerante alle radiazioni per XQRVE2302. La piattaforma di progettazione ADM-VB630 facilita la prototipazione rapida e lo sviluppo conveniente di sistemi satellitari di prossima generazione.
La serie Versal XQR è progettata per ruoli complementari nei sistemi spaziali. Mentre il più grande XQRVC1902 gestisce l'elaborazione del segnale pesante, il più piccolo XQRVE2302 si concentra su funzioni di comando e controllo, inferenza AI ed edge computing. Entrambi i dispositivi supportano una riprogrammazione illimitata durante lo sviluppo e la post-distribuzione nell'ambiente di radiazioni difficili dello spazio.
Conclusione
Gli ultimi annunci di AMD sottolineano il suo forte posizionamento sia nei mercati aziendali che in quelli consumer. Con i processori EPYC che superano nettamente le CPU Grace di Nvidia nei benchmark critici, in particolare nei data center e nei carichi di lavoro AI, e Ryzen AI MAX+ 395 che stabilisce nuovi standard nelle prestazioni AI dei laptop consumer, AMD dimostra la sua capacità di fornire soluzioni di elaborazione robuste, efficienti e ad alte prestazioni in diverse applicazioni.
Inoltre, il SoC adattivo Versal AI Edge XQRVE2303 che ha ottenuto la qualifica per i voli spaziali evidenzia l'impegno di AMD nel superare ulteriormente i limiti tecnologici. Offrendo capacità di elaborazione AI potenti, versatili e resistenti alle radiazioni per le missioni spaziali, AMD sta ampliando le possibilità nel settore aerospaziale, rendendo l'elaborazione avanzata accessibile anche in ambienti difficili. Queste innovazioni posizionano collettivamente AMD all'avanguardia nei progressi dell'AI e dell'elaborazione ad alte prestazioni.
Interagisci con StorageReview
Newsletter | YouTube | Podcast iTunes/Spotify | Instagram | Twitter | TikTok | RSS feed
