WEKA stellte die erste Hochleistungsspeicherlösung vor, die auf dem NVIDIA Grace CPU-Superchip basiert und in einem Supermicro ARS-121L-NE316R geliefert wird.
Auf der SC24 in Atlanta stellte WEKA die erste Hochleistungsspeicherlösung der Branche vor, die speziell für den NVIDIA Grace CPU Superchip entwickelt wurde. Diese Lösung wurde in Zusammenarbeit mit NVIDIA, Arm und Supermicro entwickelt und nutzt die WEKA Data Platform-Software, um eine unübertroffene Leistungsdichte und Energieeffizienz für Unternehmens-KI- und High-Performance-Computing-Workloads (HPC) zu bieten. Sie verfügt über Arm Neoverse V2-Kerne, NVIDIA ConnectX-7 NICs und BlueField-3 SuperNICs und läuft auf einem hochmodernen Supermicro-Speicherserver, um die wachsenden Herausforderungen hinsichtlich Datenzugriff, Platz und Strombeschränkungen in modernen Rechenzentren zu bewältigen.
Die nächste Generation der KI-Innovation vorantreiben
Der NVIDIA Grace CPU-Superchip integriert die Funktionen eines Flaggschiff-x86-64-Dual-Socket-Servers in ein einziges Modul, das von 144 Arm Neoverse V2-Kernen angetrieben wird. Dieses Design bietet die doppelte Energieeffizienz herkömmlicher x2-Server. In Kombination mit NVIDIA ConnectX-86 NICs und BlueField-7 SuperNICs, die einen Durchsatz von bis zu 3 Gb/s bieten, bietet die Lösung ein Hochgeschwindigkeitsnetzwerk mit geringer Latenz, das für KI- und HPC-Workloads unerlässlich ist. Diese Fortschritte werden mit der Zero-Copy-Architektur der WEKA Data Platform kombiniert, wodurch I/O-Engpässe eliminiert und die Latenz der KI-Pipeline drastisch reduziert wird.
In Kombination mit der KI-nativen Architektur der WEKA-Datenplattform ermöglicht diese Funktion Unternehmen, KI-Workflows um das bis zu Zehnfache zu beschleunigen, die Zeit bis zum ersten Token zu verkürzen und die Gesamteffizienz in KI-Datenpipelines zu verbessern.
Die LPDDR5X-Speicherarchitektur der Grace-CPU mit bis zu 1 TB/s Speicherbandbreite beseitigt Engpässe und sorgt für einen nahtlosen Datenfluss. Die WEKA-Datenplattform nutzt verteilte Architektur und Kernel-Bypass-Technologie, unterstützt schnelleres Modelltraining, reduzierte Epochenzeiten und höhere Inferenzgeschwindigkeiten und ist damit eine ideale Lösung für die Skalierung von KI-Workloads in Unternehmen.
Diese Lösung bietet eine beispiellose Energieeffizienz, wobei die WEKA-Plattform die Effizienz des GPU-Stacks um 10-50x. Durch die Reduzierung von Datenkopien und die Nutzung der Cloud-Elastizität verkleinert die Plattform den Fußabdruck der Dateninfrastruktur um das 4- bis 7-fache, reduziert den Kohlenstoffausstoß um bis zu 260 Tonnen CO2e pro Petabyte jährlich und senkt die Energiekosten um bis zu das 10-fache. Mit der Energieeffizienz des Grace CPU Superchip können Unternehmen Nachhaltigkeitsziele erreichen und gleichzeitig die KI-Leistung steigern.
Transformation von Rechenzentren für die Unternehmens-KI
Die Zusammenarbeit von WEKA, NVIDIA, Arm und Supermicro unterstreicht die gemeinsame Vision, leistungsstarke, energieeffiziente Lösungen zu schaffen, die auf Rechenzentren der nächsten Generation zugeschnitten sind. Nilesh Patel, Chief Product Officer von WEKA, hob das transformative Potenzial dieser Partnerschaft hervor und betonte, wie die Lösung KI- und HPC-Workloads beschleunigt, während sie gleichzeitig die Zeit bis zur Gewinnung umsetzbarer Erkenntnisse verkürzt und den steigenden Energieverbrauch von Rechenzentren berücksichtigt.
Funktionen des Supermicro ARS-121L-NE316R-Speicherservers:
- 16 Gen5 E3.S NVMe SSD-Schächte für Hochleistungsspeicher.
- Drei PCIe Gen 5-Netzwerksteckplätze, die bis zu zwei NVIDIA ConnectX-7- oder BlueField-3-SuperNICs und einen OCP 3.0-Netzwerkadapter unterstützen.
- Ein für KI, Datenanalyse und Hyperscale-Cloud-Anwendungen optimiertes Design.
Ivan Goldwasser, Director of Data Center CPUs bei NVIDIA, lobte die Lösung für die nahtlose Integration des NVIDIA Grace CPU Superchips in die WEKA-Plattform zur Verbesserung datenintensiver KI-Workloads. Patrick Chiu, Senior Director of Storage Product Management bei Supermicro, beschrieb den Supermicro ARS-121L-NE316R Petascale-Speicherserver als den ersten speicheroptimierten Server mit dem NVIDIA Grace Superchip, der auf hochleistungsfähige Speicher-Workloads wie KI, Datenanalyse und Hyperscale-Cloud-Anwendungen zugeschnitten ist.
Verfügbarkeit
Die Speicherlösung von WEKA und Supermicro mit NVIDIA Grace CPU-Superchips wird Anfang 2025 im Handel erhältlich sein.
Beteiligen Sie sich an StorageReview
Newsletter | YouTube | Podcast iTunes/Spotify | Instagram | Twitter | TikTok | RSS Feed
