首頁 Enterprise雲端 NVIDIA LaunchPad 企業人工智能實驗室評論

NVIDIA LaunchPad 企業人工智能實驗室評論

by 哈羅德弗里茨

正在尋找一個平台在發布前測試您的 AI/ML 應用程序,但無法訪問該冗餘環境? 能夠構建和測試新的 AI 工作負載可以節省時間、金錢和麻煩。 NVIDIA 有一個答案,可能會解決您的開發問題。 而且是免費的! 歡迎使用 NVIDIA LaunchPad。

正在尋找一個平台在發布前測試您的 AI/ML 應用程序,但無法訪問該冗餘環境? 能夠構建和測試新的 AI 工作負載可以節省時間、金錢和麻煩。 NVIDIA 有一個答案,可能會解決您的開發問題。 而且是免費的! 歡迎使用 NVIDIA LaunchPad。

隆重推出 NVIDIA LaunchPad!

NVIDIA 最近發布了 LaunchPad – 企業用戶可以在 vSphere 7 環境中免費使用 NVIDIA AI Enterprise 服務器 2-4 週的實踐環境。 儘管企業非常歡迎將此服務用於他們考慮在 NVIDIA 環境中部署的工作負載,但他們也可以通過 NVIDIA 創建的實驗室,讓 IT 專業人員熟悉使用支持 NVIDIA 的服務器。 如果您願意,我們還 有一個播客,其中 Brian Beeler 與 Luke Wignall 進行了對話 來自 NVIDIA 的 LaunchPad 是如何誕生的以及內部發生了什麼。

NVIDIA LaunchPad 架構

NVIDIA AI LaunchPad 託管在 Equinix 設施. 該平台允許企業使用 DGX SuperPOD、NVIDIA Base Command、 NVIDIA 艦隊司令部,以及來自 NVIDIA NGC 的預訓練模型。 它還支持在分佈在網絡中的 NVIDIA 認證服務器上擴展主流 AI。 這些行業標準的服務器非常適合運行 NVIDIA 人工智能企業 VMware vSphere 上的軟件套件,用於在現代混合雲中擴展 AI 工作負載。

訪問 NVIDIA LaunchPad

完成配置文件表單後,用戶會看到一個詳細的概覽屏幕。 該過程非常簡單,提供有關設置環境以訪問 AI 軟件和基礎設施的說明。 NVIDIA LaunchPad 的目標是加速應用程序開發和部署。

NVIDIA LaunchPad 管理員概覽

NVIDIA 認為一些公司沒有使用更多 AI 是對設置 AI 可以運行的環境的複雜性的無端恐懼。 考慮到這一點,NVIDIA 創建了實驗室,旨在解決這些恐懼,同時考慮到兩個不同的 AI 專業人員; 需要站出來支持 AI 環境的 IT 管理員和經理,以及需要使用它們的 AI 從業者。 提供這項服務將有助於在投資 IT 預算構建特定基礎架構來運行這些 AI 應用程序之前,建立支持和使用 AI 的信心。 此外,使用熟悉的工具在此環境中部署 AI 工作負載,使開發人員能夠使用 NVIDIA GPU 實現其 AI 項目的價值。

NVIDIA LaunchPad 工作流程

NVIDIA LaunchPad 工作流程

用於人工智能、機器學習和高性能計算的 GPU 優化軟件中心

NGC 目錄是 GPU 優化的人工智能、高性能計算 (HPC) 和數據分析軟件的中心,可簡化和加速端到端工作流程。 借助可在本地、雲端或邊緣部署的企業級容器、預訓練的 AI 模型和行業特定的 SDK,企業可以自信地快速構建和交付解決方案。

這些系統目前可能配備 NVIDIA A30 或 T4 GPU,但隨著新卡的發布,這種情況可能會發生變化。 無論硬件如何,所有系統都使用 英偉達人工智能企業, NVIDIA 將其描述為:

端到端的雲原生 AI 和數據分析軟件套件,經過 NVIDIA 優化、認證和支持,可在具有 NVIDIA 認證系統的 VMware vSphere 上運行。 它包括來自 NVIDIA 的關鍵支持技術,用於在現代混合雲中快速部署、管理和擴展 AI 工作負載

實驗室預裝了 vSphere,可以從 NVIDIA 提供的 URL 訪問 vSphere 客戶端。

IT 管理員擁有實驗室,可以引導他們完成配置 VM 以使用 GPU 所涉及的步驟。 AI 從業者可以訪問基於 NVIDIA AI Enterprise 套件構建的實驗室,其中包括 AI 研究人員、數據科學家和開發人員用於創建其 AI 和機器學習應用程序的應用程序、框架和工具。

NVIDIA AI Enterprise LaunchPad 之旅之一將引導您完成 Jupyter 實驗室筆記本,使用 NVIDIA RAPIDS 和紐約市出租車數據集來預測曼哈頓的乘車費用。 該數據集包含諸如上車點、下車點、票價金額、乘客人數等列。 本實驗中的數據用於在 GPU 上訓練 XGBoost 模型。 NVIDIA 提供的實驗室需要 30 分鐘到幾個小時。 NVIDIA 將為每個實驗室提供合適的環境。

獨立於 NVIDIA 實驗室環境的是建立工作 AI 模型的能力。 申請完整的 AI LaunchPad 環境類似於申請實驗室。

一旦登錄到 NVIDIA LaunchPad,就會有詳細的說明,用於通過創建 Ubuntu VM 來設置 VM、將 NVIDIA GPU 關聯到它、獲取 NVIDIA 驅動程序並將其添加到操作系統、獲取 NVIDIA API 密鑰和軟件以及許可VM 使用 GPU。 由於 AI 軟件是基於容器的,因此該實驗室包括安裝 Docker、NVIDIA 容器工具包、Tensor Flow 和運行 AI 示例。 這是一個完整的工作環境,允許您構建和部署自己的 AI 項目。

循序漸進的方法

配置 VM 有詳細記錄,如果需要,輸入屏幕有必要的幫助。 NVIDIA 與 VMware 合作,創建了一個簡單的界面來實施所需的配置並安裝適當的工具,以最小的壓力啟動和運行概念驗證環境。 在這一點上,我們也要弄清楚。 這些都是設備齊全的機器。 我們的環境有一個 戴爾PowerEdge R750,帶有 NVIDIA A30 和大量 DRAM 和內核。

註冊請求獲得批准後,NVIDIA 會發送一個 URL,其中包括用戶名和臨時密碼。 如前所述,我們的環境是戴爾 NVIDIA 認證系統 配備 A30 GPU。 但是,可以使用特定的配置選項來自定義體驗以滿足用戶的需求。

需要做出改變嗎? NVIDIA LaunchPad 的設計允許用戶在過程中需要更改時退後一步。 始終可以通過詳細說明訪問菜單。

VM是根據配置過程中輸入的硬件和軟件要求創建的。

在安裝 Docker 容器並運行用於 NVIDIA GPU 配置的 Docker Utility Engine 之後,最後一步是安裝 AI 和數據科學應用程序和框架。

在 vSphere 屏幕和 VM 控制台之間移動也是無縫的,可以從主菜單訪問。 一些推薦的瀏覽器似乎比其他瀏覽器更好用。 Safari 可能會讓您感到胃灼熱,但有一些方法可以解決這些問題。

最後,安裝 AI 應用程序和進一步的 VM 配置完成該過程。 如果您遇到問題,NVIDIA 會非常及時地響應。 事實上,我們遇到了一些自找的問題,需要幫助。 我們恢復了行動,幾乎沒有停機時間。 公平地說,我們是一家評估 LaunchPad 的媒體組織,但 NVIDIA 非常積極地確保每個測試 LaunchPad 的人都有一個富有成效的時間。

最後的思考

NVIDIA LaunchPad 是一款強大的概念驗證工具,非常易於使用。 最後,NVIDIA、VMware 和 Equinix 之間的協作提供了一個強大的環境,用於針對 NVIDIA 一些最流行的 GPU 測試真實的 AI 和 ML 應用程序。

更好的是,NVIDIA 已經為需要協作的兩個關鍵角色(IT 管理員和數據科學家/AI 從業者)做好了這項工作。 因此,這些現代 AI 工作負載通常會對傳統 IT 堆棧造成壓力。 工作負載很複雜,運行在昂貴的硬件上,給 IT 帶來了令人頭疼的支持問題。 通過將 LaunchPad 置於易於理解的 vSphere 範圍內,許多 IT 的典型擔憂就會消失。 另一方面,人工智能從業者獲得了他們需要的所有工具,以及強大的 GPU 和計算環境。 完成後,如果組織希望隨身攜帶 VM,則 VM 很容易攜帶。

我們對 NVIDIA 的這一免費產品感到興奮,因為它讓我們想起了 VMware 動手實驗室和 VMware TestDrive,以及允許您在其上處理自己的 AI 項目的額外好處。 在我們使用 NVIDIA LaunchPad 期間,我們發現文檔非常深入,並且當我們不小心消除了我們糟糕的環境時,支持也非常出色。 在 LaunchPad 上有長達 XNUMX 週的時間,認真對待提升 AI 技能的組織肯定需要立即檢查一下。

欲了解更多信息 NVIDIA AI Enterprise,點擊這裡。 如需了解更多信息 NVIDIA LaunchPad,點擊此處. 與您的 NVIDIA 銷售代表討論如何開始使用 NVIDIA LaunchPad。

通過聆聽我們的 NVIDIA 了解更多 LaunchPad 播客.

參與 StorageReview

電子通訊 | YouTube | 播客 iTunes/Spotify | Instagram | Twitter | Facebook | 的TikTok | RSS訂閱