Dell Technologies は、Llama エコシステム向けに最適化された標準化された AI ソリューションのサポートを発表しました。
Dell Technologies は、Llama エコシステム向けに最適化された標準化された AI ソリューションのサポートを発表しました。これらのソリューションは、AI アプリケーションの開発を簡素化し、エージェントベースのワークフローの機能を向上させることを目的としています。
エージェントワークフローによる AI アプリケーションの向上
Llama エコシステムを採用した Dell AI ソリューションは、開発者のエクスペリエンスを簡素化し、AI アプリケーションの効率を高めるように設計されています。標準化されたソフトウェア フレームワークである Llama Stack は、モデルのトレーニング、微調整、実稼働環境への導入など、AI 開発の複数の段階をサポートします。PyTorch ライブラリと緊密に統合され、検索拡張生成 (RAG) やその他の AI アプリケーションをシームレスに導入できるようになりました。
Llama StackとDell AI Factoryを組み合わせることで、企業はエンタープライズグレードのインフラストラクチャを活用できるようになります。 デル PowerEdge XE9680 NVIDIA H100 GPU を搭載したサーバー。このリファレンス アーキテクチャは、スケーラビリティとパフォーマンスを提供し、エージェント ベースの AI アプリケーションの開発を容易にします。
このアーキテクチャは、コードの再利用を促進し、現在および将来の Llama モデルでプラグ アンド プレイ機能を有効にすることで開発を簡素化する標準化された API を提供します。組み込みのセキュリティ機能による安全な導入により、AI アプリケーションの準拠と保護が保証されます。Dell の適応型インフラストラクチャは、単一ノードの推論から複数ノードの導入まで、さまざまな AI ユース ケースをサポートします。
これらの機能により、企業は複数のモデルとメモリ バンクが連携して複雑なビジネス課題を解決するワークフローを実装できます。Llama Stack と統合されたリファレンス アーキテクチャは、推論、RAG、合成データ生成などのタスクの実行を効率化し、Llama Guard モデルは、セキュリティ強化のための安全対策とガードレールを確立します。
データサイエンティストと開発者の支援
AI アプリケーションの開発には、コストの高さ、スケーラビリティの懸念、必要なリソースの確保の難しさなどの課題があります。適切なアーキテクチャを選択し、AI システムを統合して維持することが重要です。Dell の Llama を使用した AI ソリューションは、これらの課題を軽減し、データ サイエンティスト、開発者、IT 意思決定者にメリットをもたらすことを目指しています。
リファレンス アーキテクチャは、PowerEdge XE9680 サーバーに Llama モデルを導入するための詳細なガイドラインを提供し、開発を迅速化するための検証済みのワークフローとサンプル コードも提供します。
Dell AI Factory の検証済み構成により、データセンターへの AI ソリューションのインストールが効率化され、複数のノードにわたる拡張性が実現され、カスタム導入サービスがサポートされます。
Dell AI Solutions with Llama により、開発者は標準化されたビルディング ブロックを使用して新しい AI モデル、ツール、フレームワークを迅速に導入し、さまざまな環境間でのコードの移植性を確保できます。Dell Data Lakehouse および PowerScale プラットフォームを通じてデータ パイプラインが簡素化されます。さらに、Llama モデルは Hugging Face プラットフォームを介して Dell の Enterprise Hub で利用できます。これらのモデルは、安全で効率的な導入のために、事前にパッケージ化され、すぐに導入できるコンテナーとスクリプトです。
Dell は、Llama モデルの導入、戦略のサポート、データの準備、モデルの実装、生成 AI の結果に関するサービスも提供しています。
Llama 3.2 のご紹介: マルチモーダルインテリジェンスの解放
Llama 3.2 のリリースは AI 技術の大きな進歩を表しており、開発者に、プライベートで効率的かつ責任ある新世代の AI エクスペリエンスを作成するためのツールを提供します。Llama 3.2 には、テキストと画像の入力を処理できる 1 億から 90 億のパラメータに及ぶ多言語モデルが含まれています。軽量のテキストのみのオプション (1 億と 3 億) とビジョン LLM (11 億と 90 億) を含むこれらのモデルは、長いコンテキスト長をサポートし、高度なクエリ アテンション メカニズムを使用した推論に最適化されています。
Llama 3.2 の 11B および 90B モデルは、チャートやグラフの解釈、画像キャプションの作成など、ドキュメントレベルの理解を含む画像推論機能を提供します。また、これらのモデルはリアルタイムおよびバッチ推論をサポートし、インタラクティブで高スループットのワークロード向けに最適化されています。これらのモデルを Dell の AI Factory ソリューションと統合すると、企業は製造における欠陥検出、医療における診断精度の向上、小売在庫管理の改善など、多くのアプリケーションで AI を活用できるようになります。
StorageReview と連携する
ニュースレター | YouTube |ポッドキャスト iTunes/Spotifyは | Instagram | Twitter | TikTok | RSSフィード
