Supermicro は、生成 AI の導入を推進するための新しいソリューション セットを発表し、大規模言語モデル (LLM) のインフラストラクチャの進化における重要な一歩を示しました。これらの SuperCluster ソリューションは、現在および将来の AI 需要をサポートするコア コンポーネントとして設計されています。
Supermicro は、生成 AI の導入を推進するための新しいソリューション セットを発表し、大規模言語モデル (LLM) のインフラストラクチャの進化における重要な一歩を示しました。これらの SuperCluster ソリューションは、現在および将来の AI 需要をサポートするコア コンポーネントとして設計されています。
この新しいリリースには、生成 AI タスク向けに調整された 4 つの異なる SuperCluster 構成が含まれています。オプションには、集中的な LLM トレーニングと大容量 LLM 推論用に設計された 8U 水冷システムと 1U 空冷セットアップが含まれます。さらに、Supermicro NVIDIA MGX システムを搭載した XNUMXU 空冷バージョンは、クラウド スケールの推論アプリケーションに向けたものです。これらのシステムは、LLM トレーニングで比類のないパフォーマンスを提供するように構築されており、LLM 推論のための大きなバッチ サイズや大量の処理能力などの機能を誇ります。
AI クラスターの容量の拡大
Supermicro は、月あたり最大 5,000 ラックを生産できる能力を備えており、完全な生成 AI クラスターを迅速に供給できる立場にあり、クライアントへのより速い配信速度を約束します。たとえば、64 ノードのクラスターには 512 個の NVIDIA HGX H200 GPU を組み込むことができ、高速 NVIDIA Quantum-2 InfiniBand および Spectrum-X イーサネット ネットワーキングを利用して堅牢な AI トレーニング環境を実現できます。 NVIDIA AI Enterprise ソフトウェアと組み合わせたこの構成は、数兆のパラメーターを使用して高度な LLM をトレーニングすることを目的としたエンタープライズおよびクラウド インフラストラクチャにとって理想的なソリューションです。
革新的な冷却とパフォーマンス
新しい Supermicro 4U NVIDIA HGX H100/H200 8-GPU システムは、液体冷却を活用して 8U 空冷式システムと比較して密度を XNUMX 倍にし、エネルギー消費量を削減し、データセンターの総所有コストを削減します。これらのシステムは、次世代の NVIDIA Blackwell アーキテクチャ ベースの GPU をサポートし、パフォーマンスを最大化するために最適な温度を維持する効率的な冷却テクノロジを備えています。
スーパークラスターの仕様
Supermicro SuperCluster は、大規模な基盤モデルをトレーニングし、クラウド スケールの LLM 推論インフラストラクチャを作成するためのスケーラブルなソリューションです。拡張性の高いネットワーク アーキテクチャにより、これらのシステムは 32 ノードから数千ノードまで拡張でき、シームレスな拡張性を確保します。高度な液体冷却と包括的なテストプロセスを統合することで、運用の効率と有効性が保証されます。
Supermicro では、4 つの主要な構成について詳しく説明します。512 つはコンパクトな設置面積で最大 1 個の GPU をサポートできる XNUMXU 水冷システムを備えた SuperCluster、もう XNUMX つは大容量、低遅延の推論タスク用に設計された XNUMXU 空冷 NVIDIA MGX システムを備えた SuperCluster です。 。どちらの構成も、LLM のトレーニングと推論に不可欠な高いネットワーク パフォーマンスで注目されています。
仕様の簡単な概要は次のとおりです。
4 ラックに 5U 水冷システム、または 8 ラックに 9U 空冷システムを搭載した SuperCluster
- 256 つのスケーラブルなユニットに 100 個の NVIDIA H200/HXNUMX Tensor コア GPU を搭載
- 液体冷却により、空冷 512 GPU、64 ノード ソリューションと同じ設置面積で 256 GPU、32 ノードを実現
- 20 つのスケーラブルなユニットに、NVIDIA H3 を搭載した 100 TB の HBM36 または NVIDIA H3 を搭載した 200 TB の HBMXNUMXe
- 1:1 ネットワーキングは各 GPU に最大 400 Gbps を提供し、GPUDirect RDMA とストレージを有効にして、最大数兆のパラメータを含む大規模な言語モデルをトレーニングします。
- NVIDIA Quantum-400 InfiniBand および NVIDIA Spectrum-X イーサネット プラットフォームを含む、拡張性の高いスパイン/リーフ ネットワーク トポロジを備えた 400G InfiniBand または 2GbE イーサネット スイッチ ファブリック。
- 業界をリードする並列ファイル システム オプションを備えた、カスタマイズ可能な AI データ パイプライン ストレージ ファブリック
- NVIDIA AI Enterprise 5.0 ソフトウェア。AI モデルの大規模な展開を加速する新しい NVIDIA NIM 推論マイクロサービスのサポートを実現します。
1 ラックに 9U 空冷 NVIDIA MGX システムを搭載した SuperCluster
- 256 つのスケーラブルなユニットに 200 個の GHXNUMX Grace Hopper スーパーチップを搭載
- 最大 144 GB の HBM3e + 480 GB の LPDDR5X ユニファイド メモリは、クラウド スケール、大容量、低遅延、高バッチ サイズの推論に適しており、70 つのノードに XNUMXB 以上のパラメータ モデルを適合させることができます。
- 拡張性の高いスパイン/リーフ ネットワーク トポロジを備えた 400G InfiniBand または 400G イーサネット スイッチ ファブリック
- ノードあたり最大 8 つの内蔵 E1.S NVMe ストレージ デバイス
- NVIDIA BlueField-3 DPU と業界をリードする並列ファイル システム オプションを備えたカスタマイズ可能な AI データ パイプライン ストレージ ファブリックにより、各 GPU への高スループットかつ低遅延のストレージ アクセスが実現します。
- NVIDIA AI エンタープライズ 5.0 ソフトウェア
Supermicro が、NVIDIA Blackwell アーキテクチャを使用した新しいシステムとラックで AI ポートフォリオを拡張
Supermicro はまた、大規模な生成 AI を目的とした NVIDIA のデータセンター イノベーションの最新製品を含む、AI システム製品の拡大も発表しています。これらの新しいテクノロジには、NVIDIA GB200 Grace Blackwell スーパーチップ、B200 および B100 Tensor コア GPU があります。
これらの進歩に対応するために、Supermicro は既存のシステムをシームレスにアップグレードしています。 NVIDIA HGX H100/H200 NVIDIA HGX B8 100 GPU および B8 を統合する 200 GPU システム。さらに、NVIDIA HGX ラインナップは、200 個の NVIDIA Blackwell GPU を搭載した包括的なラックレベル ソリューションを含む、NVIDIA GB72 を搭載した新しいモデルで強化されます。これらの進歩に加えて、Supermicro は新しい 4U NVIDIA HGX B200 8 GPU 水冷システムを導入しています。これは、チップへの直接液冷テクノロジーを活用して、最新の GPU の増大する熱需要に対処し、NVIDIA のパフォーマンス機能を最大限に引き出します。ブラックウェルテクノロジー。
新しい Supermicro の GPU に最適化されたシステムは間もなく発売され、NVIDIA Blackwell B200 および B100 Tensor コア GPU と完全に互換性があり、最新の NVIDIA AI Enterprise ソフトウェアに対して認定されています。 Supermicro のラインナップには、NVIDIA HGX B100 および B200 8 GPU システムから、最大 20 個の B100 GPU を収容できる SuperBlade まで、多様な構成が含まれており、幅広い AI アプリケーションにわたって多用途性と高性能を保証します。これらのシステムには、高度な NVIDIA NVLink 相互接続テクノロジーを備えた、初めて市場に投入された NVIDIA HGX B200 および B100 8 GPU モデルが含まれます。 Supermicro は、LLM のトレーニング結果 (3 倍高速) を提供し、要求の厳しい AI ワークロード向けのスケーラブルなクラスタリングをサポートし、AI の計算効率とパフォーマンスの大幅な進歩を示す準備ができていることを示しています。
StorageReview と連携する
ニュースレター | YouTube |ポッドキャスト iTunes/Spotifyは | Instagram | Twitter | TikTok | RSSフィード
