デルとメタ、Llama 2 でオンプレミスの生成 AI イノベーションを推進

企業は生成 AI モデルを実装する際に、より人間中心の方法論を採用し、イノベーションと効率の限界を押し広げています。これらのモデルは、チャットボット、コード開発、仮想アシスタントなどのさまざまなアプリケーションで有用です。ただし、パブリッククラウドソリューションは便利ですが、多くの場合、制約が付いています。これらには、データ主権を取り巻くセキュリティリスク、予測不可能なコスト、コンプライアンスの悩みなどが含まれます。

オープンソースを使用したオンプレミスソリューションを選択する大規模な言語モデル (LLM)、特に Llama 2 は、より予測可能で安全な代替手段を提供します。このモデルは、長期にわたる持続可能なコスト構造と、機密データのより厳密な管理を提供します。大局的には、これによりデータセキュリティ違反や知的財産漏洩に関連するリスクが劇的に軽減され、コンプライアンスや規制との整合性が向上します。

デルの検証済み設計 GenAI ソリューション

Dell Technologies は、Dell Validated Design によって実証されたこの移行を合理化するために、Generative AI ソリューションを備えたターンキーソリューションを作成しました。この統合パッケージは、事前にテストされたハードウェアとソフトウェア、および生成 AI プロジェクト用に明示的に構築された強力な基盤を提供します。 Meta とのコラボレーションによりこのエコシステムが拡大し、企業は Meta の Llama 2 AI モデルをデルの既存のインフラストラクチャに簡単に統合できるようになります。

これらのモデルを動かすハードウェアも、決して怠け者ではありません。たとえば、デル PowerEdge XE9680 サーバー (Jordan のお気に入り) には 100 つの NVIDIA H2 GPU が装備されており、Llama XNUMX のような大規模な言語モデルの微調整と展開に理想的な主力製品となっています。デルは、事前検証済みのオンプレミスソリューションを提供することで、企業が中断することなく機能できるようにします。知的財産の保護を強化します。

カスタマイズの新たな道を開く

デルの研究、特に教師あり微調整、LoRA、p チューニングなどのモデルカスタマイズ技術への投資により、エンタープライズレベルのカスタマイズに新たな道が開かれました。彼らは、2B から 7B までの Llama 70 モデルの範囲にわたってこれらの技術の有効性を証明しており、企業がこれらの強力な AI ツールを特定のニーズに合わせて柔軟に調整できるようになります。

基本的に、デルと Meta の Llama 2 のコラボレーションにより、さまざまな規模の組織に新しい、しかも豊富なオプションが追加されます。この統合されたアプローチにより、デスクトップ、コアデータセンター、エッジロケーションなど、複数の展開領域にわたる Generative AI ソリューションのシームレスな実装が可能になり、パブリッククラウドインフラストラクチャにまで拡張できます。したがって、企業は、ジェネレーティブ AI にさらに取り組む際に活用できる、包括的でありながら柔軟なツールキットを手に入れることができます。

デルとメタが協力して生成的 AI イノベーションを推進

Dell PowerEdge XE2 サーバーへの Llama 9680 の展開

StorageReview と連携する