NVIDIA は、最新の発表である NVIDIA GH200 Grace Hopper スーパーチップにより、人工知能 (AI) とハイパフォーマンス コンピューティングの世界で大きな話題を呼びました。この最近の製品は、MLPerf ベンチマークで優れたパフォーマンスを示し、クラウドおよびエッジ AI における NVIDIA の優れた能力を証明しています。
NVIDIA は、最新の発表である NVIDIA GH200 Grace Hopper スーパーチップにより、人工知能 (AI) とハイパフォーマンス コンピューティングの世界で大きな話題を呼びました。この最近の製品は、MLPerf ベンチマークで優れたパフォーマンスを示し、クラウドおよびエッジ AI における NVIDIA の優れた能力を証明しています。
多くを語るスーパーチップ
GH200 スーパーチップは単なる普通のチップではありません。 Hopper GPU と Grace CPU を独自に組み合わせ、メモリ、帯域幅を強化し、CPU と GPU 間の電力を自動調整して最高のパフォーマンスを実現します。この革新的な統合により、チップは電力とパフォーマンスの間の微妙なバランスを実現し、AI アプリケーションが必要なときに必要なリソースを確実に取得できるようになります。
優れた MLPerf 結果
MLPerf ベンチマークは尊敬される業界標準であり、NVIDIA の GH200 は期待を裏切りませんでした。スーパーチップはデータセンターのすべての推論テストを実行しただけでなく、NVIDIA の AI プラットフォームの多用途性を実証し、その範囲をクラウド運用からネットワークのエッジまで拡張しました。
さらに、NVIDIA の H100 GPU も取り残されませんでした。 100 つの H100 GPU を搭載した HGX H100 システムは、すべての MLPerf Inference テストで優れたスループットを示しました。これは、特にコンピューター ビジョン、音声認識、医療画像、レコメンデーション システム、大規模言語モデル (LLM) などのタスクにおいて、HXNUMX GPU の計り知れない可能性と機能を強調しています。
TensorRT-LLM: 推論パフォーマンスの増幅
NVIDIA は常に継続的なイノベーションの最前線に立っており、 TensorRT-LLM この遺産の証です。この生成 AI ソフトウェアは推論を強化し、オープンソース ライブラリとして提供されます。 100 月の評価に間に合わず MLPerf に提出されませんでしたが、ユーザーは追加コストをかけずに HXNUMX GPU のパフォーマンスを向上させることができるという期待があります。 Meta、Cohere、Grammarly などのパートナーは、LLM 推論の強化における NVIDIA の取り組みから恩恵を受けており、AI 分野におけるこうしたソフトウェア開発の重要性を再認識しています。
L4 GPU: メインストリーム サーバーとパフォーマンスの橋渡し
最新のMLPerfベンチマークを使用、L4 GPU は、無数のワークロードにわたって賞賛に値するパフォーマンスを示しています。これらの GPU をコンパクト アクセラレータに配置すると、より高い電力定格の CPU よりも最大 4 倍効率的なパフォーマンス メトリクスが実証されました。 CUDA ソフトウェアと連携した専用メディア エンジンの導入により、特にコンピュータ ビジョン タスクにおいて LXNUMX GPU に優位性が与えられます。
限界を超える: エッジ コンピューティングなど
進歩はクラウド コンピューティングだけに限定されません。 NVIDIA のエッジ コンピューティングへの重点は、Jetson Orin システムオンモジュールで明らかであり、物体検出において以前のバージョンと比較して最大 84% のパフォーマンス向上を示しています。
MLPerf: 透明性のあるベンチマーク標準
MLPerf は、世界中のユーザーが購入を決定する際に信頼する客観的なベンチマークであり続けます。 Microsoft Azure や Oracle Cloud Infrastructure などのクラウド サービス大手に加え、Dell、Lenovo、Supermicro などの有名なシステム メーカーが参加していることは、業界における MLPerf の重要性を強調しています。
結論として、MLPerf ベンチマークにおける NVIDIA の最近のパフォーマンスは、AI 分野における NVIDIA のリーダー的地位を強化します。 NVIDIA は、広範なエコシステム、継続的なソフトウェア イノベーション、高品質のパフォーマンスの提供への取り組みにより、まさに AI の未来を形作っています。
NVIDIA の成果に関する技術的な詳細については、リンク先を参照してください。 テクニカルブログ。 NVIDIA のベンチマークの成功を再現したい場合は、次の場所からソフトウェアにアクセスできます。 MLPerf リポジトリ と NVIDIA NGC ソフトウェア ハブ.
StorageReview と連携する
ニュースレター | YouTube |ポッドキャスト iTunes/Spotifyは | Instagram | Twitter | TikTok | RSSフィード
