Nieuwe benchmarks laten zien dat AMD EPYC CPU's Nvidia Grace overtreffen op het gebied van AI en datacenterworkloads, terwijl Ryzen AI MAX+ 395 AI op laptops opnieuw definieert.
AMD toonde concurrerende benchmarks voor zijn EPYC CPU's tegen Nvidia's Grace processors. Ze onthulden ook de Ryzen AI MAX+ 395 processor voor consumentenlaptops en introduceerden de ruimte-gekwalificeerde Versal AI Edge adaptieve System-on-Chip (SoC).
AMD EPYC CPU's nemen voorsprong op Nvidia Grace in AI-prestatietests
AMD presenteerde benchmarkvergelijkingen die duidelijke prestatievoordelen van zijn EPYC-processors ten opzichte van Nvidia's Grace CPU's aantoonden, met name in datacenter- en AI-workloads. EPYC-processors, die gebruikmaken van volwassen x86-architectuur, bieden robuuste prestatie-, schaalbaarheids- en compatibiliteitsvoordelen vergeleken met nieuwere Arm-gebaseerde oplossingen zoals Nvidia Grace.
AMD benadrukte een aantal belangrijke benchmarks die de voordelen van EPYC-processoren ten opzichte van Nvidia's Grace aantonen, waaronder:
- Ongeëvenaarde dichtheid: EPYC-processors bieden een 33% hogere dichtheid en 192 cores (per socket) SKU's dan de 144-arm Neoverse-cores van Grace Superchip.
- Energie-efficiëntie: In SPECpower®-tests met twee sockets leverden EPYC-CPU's een 2.75x betere energie-efficiëntie, waardoor ze aanzienlijk energiezuiniger zijn bij grootschalige implementaties.
- Databaseprestaties: EPYC-processors lieten meer dan twee keer de prestaties zien in MySQL TPROC-C-workloads. Dit wordt steeds belangrijker naarmate we meer autonome RAG-systemen implementeren die substantiële vectordatabases vereisen.
- Videocodering: Bij het coderen van video met de FFmpeg VP9-codec behaalde EPYC een 2.9x hogere doorvoer, wat snellere en efficiëntere mediaverwerking mogelijk maakte.
- GPU-versnelde workloads: EPYC-CPU's boden tot 20% hogere doorvoer dan andere toonaangevende x86-oplossingen, waardoor ze bijzonder effectief zijn voor GPU-intensieve AI-taken.
- Kloksnelheden: Met kloksnelheden tot wel 5 GHz overtroffen EPYC-processors de basisfrequentie van 3.1 GHz van Nvidia Grace aanzienlijk en boden ze superieure prestaties voor rekenintensieve toepassingen.
- Gebruik van hulpbronnen: De Simultaneous Multithreading (SMT)-technologie van AMD heeft de resource-efficiëntie verder verbeterd, waardoor EPYC-processors meer taken tegelijkertijd en effectiever kunnen uitvoeren.
Deze benchmarks laten zien dat EPYC geschikt is voor uiteenlopende AI-toepassingen in ondernemingen, waaronder realtime-aanbevelingssystemen, voorspellend onderhoud en taken op het gebied van visie en taalverwerking.
Ryzen AI MAX+ 395 stelt nieuwe AI-prestatienormen voor consumentenlaptops vast
AMD introduceerde ook de Ryzen AI MAX+ 395-processor ("Strix Halo"), gepositioneerd als de meest krachtige x86 APU voor premium dunne en lichte laptops. Het combineert 16 Zen 5 CPU-cores, een XDNA™ 2 Neural Processing Unit die meer dan 50 TOPS levert, en geïntegreerde graphics met 40 AMD RDNA™ 3.5 Compute Units.
AMD's Benchmarks laten zien dat de Ryzen AI MAX+ 395 Intel's Copilot+ processors aanzienlijk overtreft in verschillende AI workloads. In token throughput tests leverde AMD's nieuwe processor tot 2.2 keer de prestaties van laptops die zijn uitgerust met Intel's Arc 140V. De latentieverbeteringen zijn bijzonder indrukwekkend: kleinere modellen zoals Llama 3.2, die 3 miljard parameters heeft, liepen tot vier keer sneller. Middelgrote modellen met 7 tot 8 miljard parameters ervoeren tot 9.1 keer snellere responstijden. Ter vergelijking: grotere modellen met ongeveer 14 miljard parameters bereikten latentiereducties tot 12.2 keer vergeleken met Intel's Core Ultra 258V.
De Ryzen AI MAX+ 395 excelleerde ook in AI-taken op basis van visie, waarbij de Granite Vision-modellen van IBM (3.2 miljard parameters) tot zeven keer sneller werden uitgevoerd en de Gemma Vision-modellen van Google (4 miljard parameters) tot 4.6 keer sneller. Zelfs grotere visiemodellen, zoals de Gemma Vision van Google met 12 miljard parameters, zagen prestatieverbeteringen tot zes keer in vergelijking met de aanbiedingen van Intel.
Naast pure prestaties ondersteunt AMD's nieuwe processor een indrukwekkende 128 GB aan unified memory, wat de 32 GB maximum overtreft die concurrenten bieden. Bovendien stelt AMD's Variable Graphics Memory-technologie laptops in staat om dynamisch tot 96 GB van dit geheugen toe te wijzen als VRAM. Deze flexibiliteit betekent dat gebruikers comfortabel grootschalige AI-modellen rechtstreeks op hun laptops kunnen uitvoeren, waaronder Google's Gemma Vision met tot 27 miljard parameters.
Het Ryzen AI MAX+-platform verbetert de gebruikerservaring aanzienlijk door gebruikers de mogelijkheid te bieden geavanceerde lokale taal- en visiemodellen rechtstreeks op hun laptops uit te voeren. Hierdoor is er geen technische expertise meer nodig, zoals blijkt uit toepassingen als LM Studio.
Versal AI Edge XQRVE2303 Adaptive SoC behaalt ruimtevaartkwalificatie
In een andere baanbrekende aankondiging maakte AMD bekend dat zijn adaptieve System-on-Chip (SoC) Versal AI Edge XQRVE2303 de kwalificatie voor ruimtevluchten van klasse B heeft voltooid. Daarmee is het het tweede stralingsbestendige Versal-apparaat van AMD dat gekwalificeerd is voor ruimtemissies.
De XQRVE2302 is ontworpen om geavanceerde AI-inferencingmogelijkheden naar de ruimte te brengen met zijn verbeterde AMD AI Engines (AIE-ML). Deze engines leveren twee keer de INT8- en 16 keer de BFLOAT16-prestaties vergeleken met AI Engines van de eerste generatie, met verminderde latentie en verbeterde geheugenbandbreedte. De compacte vormfactor van 23 mm x 23 mm maakt het de kleinste adaptieve SoC voor ruimtetoepassingen, met hoge prestaties terwijl het stroomverbruik en de boardruimte worden verminderd.
Uitgerust met een dual-core Arm® Cortex®-A72-applicatieprocessor, een dual-core Arm Cortex-R5F real-time processor, DSP-blokken en FPGA-programmeerbare logica, is de XQRVE2302 ideaal voor edge processing-taken zoals beeldclassificatie, autonome navigatie en sensordataverwerking. Deze mogelijkheden maken toepassingen mogelijk zoals detectie van bosbranden, vegetatiebewaking en wolkendetectie voor aardobservatiesatellieten.
AMD is een partnerschap aangegaan met Alpha Data om een stralingsbestendig referentieontwerp te ontwikkelen voor de XQRVE2302. Het ADM-VB630-ontwerpplatform faciliteert snelle prototyping en kosteneffectieve ontwikkeling van satellietsystemen van de volgende generatie.
De Versal XQR-serie is ontworpen voor complementaire rollen in ruimtesystemen. Terwijl de grotere XQRVC1902 zware signaalverwerking aankan, richt de kleinere XQRVE2302 zich op command and control-functies, AI-inferencing en edge computing. Beide apparaten ondersteunen onbeperkte herprogrammering tijdens de ontwikkeling en na de inzet in de zware stralingsomgeving van de ruimte.
Conclusie
AMD's laatste aankondigingen onderstrepen zijn sterke positionering in zowel zakelijke als consumentenmarkten. Met EPYC-processors die Nvidia's Grace CPU's duidelijk overtreffen in kritische benchmarks, met name in datacenters en AI-workloads, en de Ryzen AI MAX+ 395 die nieuwe normen stelt in AI-prestaties van consumentenlaptops, toont AMD zijn vermogen om robuuste, efficiënte en krachtige computeroplossingen te leveren voor uiteenlopende toepassingen.
Bovendien onderstreept de Versal AI Edge XQRVE2303 adaptieve SoC die de kwalificatie voor ruimtevluchten heeft behaald, AMD's toewijding om technologische grenzen nog verder te verleggen. Door krachtige, veelzijdige en stralingsbestendige AI-verwerkingsmogelijkheden voor ruimtemissies te bieden, breidt AMD de mogelijkheden in de lucht- en ruimtevaart uit, waardoor geavanceerd computergebruik zelfs in uitdagende omgevingen toegankelijk wordt. Deze innovaties plaatsen AMD gezamenlijk aan het front van AI en high-performance computing-ontwikkelingen.
Neem contact op met StorageReview
Nieuwsbrief | YouTube | Podcast iTunes/Spotify | Instagram | Twitter | TikTok | RSS Feed
