Vandaag heeft Samsung Electronics Co., Ltd. aangekondigd dat het het eerste High Bandwidth Memory (HBM) in de industrie heeft ontwikkeld dat is geïntegreerd met kunstmatige intelligentie (AI) verwerkingskracht, de Samsung HBM-PIM. Het PIM-gedeelte staat voor processing-in-memory, een architectuur om AI-mogelijkheden in het krachtige geheugen te brengen. Het bedrijf beweert dat dit zal resulteren in tweemaal de systeemprestaties bij een vermindering van het energieverbruik met 70%. De HBM-PIM is gericht op het versnellen van grootschalige verwerking in datacenters, high-performance computing (HPC)-systemen en AI-ondersteunde mobiele applicaties.
Vandaag heeft Samsung Electronics Co., Ltd. aangekondigd dat het het eerste High Bandwidth Memory (HBM) in de industrie heeft ontwikkeld dat is geïntegreerd met kunstmatige intelligentie (AI) verwerkingskracht, de Samsung HBM-PIM. Het PIM-gedeelte staat voor processing-in-memory, een architectuur om AI-mogelijkheden in het krachtige geheugen te brengen. Het bedrijf beweert dat dit zal resulteren in tweemaal de systeemprestaties bij een vermindering van het energieverbruik met 70%. De HBM-PIM is gericht op het versnellen van grootschalige verwerking in datacenters, high-performance computing (HPC)-systemen en AI-ondersteunde mobiele applicaties.
De meeste computersystemen zijn gebaseerd op von Neumann-architectuur: een verwerkingseenheid, een besturingseenheid, geheugen, externe opslag en invoer- en uitvoermechanismen. De von Neumann-architectuur heeft de afgelopen 75 jaar vrij goed gewerkt. Het is echter niet foutloos. In feite is er een fenomeen dat bekend staat als de von Neuman-bottleneck, waarbij de doorvoer tussen de CPU en het geheugen beperkt is. Nu wordt er meer dan ooit gezien in gegevens en de noodzaak om deze snel te verplaatsen. Samsung probeert dit knelpunt te omzeilen.
Samsung HBM-PIM probeert het knelpunt weg te nemen door verwerkingskracht te plaatsen waar gegevens worden opgeslagen via een DRAM-geoptimaliseerde AI-engine in elke geheugenbank. Deze opslagsubeenheden maken parallelle verwerking mogelijk en minimaliseren het verplaatsen van gegevens. Samsung stelt dat het bovenstaande dubbele systeemprestaties kan bereiken met 70% minder energieverbruik bij toepassing van HBM-PIM op zijn bestaande HBM2 Aquabolt-oplossing. Er zijn geen hardware- of softwarewijzigingen nodig, dus de Samsung HBM-PIM kan in bestaande systemen worden gedropt. De HBM-PIM is bedoeld om het knelpunt in AI-gestuurde workloads zoals HPC, training en inferentie te verminderen.
Beschikbaarheid
De Samsung HBM-PIM wordt nu getest in AI-versnellers door toonaangevende AI-oplossingspartners, en alle validaties zullen naar verwachting in de eerste helft van dit jaar worden afgerond.
Neem contact op met StorageReview
Nieuwsbrief | YouTube | Podcast iTunes/Spotify | Instagram | Twitter | Facebook | RSS Feed
