Suchen Sie nach einer Plattform zum Testen Ihrer KI/ML-Anwendungen vor dem Start, haben aber keinen Zugriff auf diese redundante Umgebung? Die Möglichkeit, neue KI-Workloads zu erstellen und zu testen, kann Zeit, Geld und Kopfschmerzen sparen. NVIDIA hat eine Antwort, die möglicherweise die Lösung für Ihr Entwicklungsproblem darstellt. Und es ist kostenlos! Willkommen NVIDIA LaunchPad.
Suchen Sie nach einer Plattform zum Testen Ihrer KI/ML-Anwendungen vor dem Start, haben aber keinen Zugriff auf diese redundante Umgebung? Die Möglichkeit, neue KI-Workloads zu erstellen und zu testen, kann Zeit, Geld und Kopfschmerzen sparen. NVIDIA hat eine Antwort, die möglicherweise die Lösung für Ihr Entwicklungsproblem darstellt. Und es ist kostenlos! Willkommen NVIDIA LaunchPad.
Wir stellen vor: NVIDIA LaunchPad!
NVIDIA hat kürzlich LaunchPad angekündigt – eine praktische Umgebung, in der Unternehmensbenutzer NVIDIA AI Enterprise-Server in einer vSphere 7-Umgebung zwei bis vier Wochen lang kostenlos nutzen können. Obwohl Unternehmen diesen Service gerne für Workloads nutzen, die sie in einer NVIDIA-Umgebung bereitstellen möchten, können sie auch an von NVIDIA eingerichteten Laboren teilnehmen, die es IT-Experten ermöglichen, sich mit der Verwendung von NVIDIA-fähigen Servern vertraut zu machen. Wenn Sie möchten, auch wir einen Podcast haben, in dem Brian Beeler ein Gespräch mit Luke Wignall führt von NVIDIA darüber, wie LaunchPad entstand und was darin vor sich geht.
NVIDIA AI LaunchPad wird in einem gehostet Equinix-Anlage. Die Plattform ermöglicht es Unternehmen, die Entwicklung komplexer KI-Modelle mithilfe von DGX SuperPOD, NVIDIA Base Command, zu beschleunigen. NVIDIA Flottenkommandound vorab trainierte Modelle von NVIDIA NGC. Es unterstützt auch die Skalierung der Mainstream-KI auf NVIDIA-zertifizierten Servern, die über das Netzwerk verteilt sind. Diese Industriestandard-Server sind ideal für den Betrieb NVIDIA AI Enterprise Software-Suite auf VMware vSphere zur Skalierung von KI-Workloads in der modernen Hybrid Cloud.
Zugriff auf NVIDIA LaunchPad
Nach dem Ausfüllen eines Profilformulars wird dem Benutzer ein detaillierter Übersichtsbildschirm angezeigt. Der Prozess ist unkompliziert und bietet Anweisungen zum Einrichten der Umgebung für den Zugriff auf KI-Software und -Infrastruktur. Das Ziel von NVIDIA LaunchPad besteht darin, die Anwendungsentwicklung und -bereitstellung zu beschleunigen.
NVIDIA ist der Ansicht, dass einige Unternehmen nicht mehr KI einsetzen, was auf die unbegründete Befürchtung zurückzuführen ist, dass die Einrichtung einer Umgebung, in der KI ausgeführt werden kann, komplex ist. Vor diesem Hintergrund hat NVIDIA Labore eingerichtet, die darauf ausgelegt sind, diese Ängste mit Blick auf zwei verschiedene KI-Experten auszuräumen; IT-Administratoren und Manager, die KI-Umgebungen unterstützen und unterstützen müssen, und KI-Praktiker, die diese nutzen müssen. Das Anbieten dieses Dienstes wird dazu beitragen, Vertrauen in die Unterstützung und Nutzung von KI aufzubauen, bevor ein IT-Budget in den Aufbau einer spezifischen Infrastruktur zum Ausführen dieser KI-Anwendungen investiert wird. Darüber hinaus können Entwickler durch die Bereitstellung von KI-Workloads in dieser Umgebung mit vertrauten Tools den Wert ihres KI-Projekts mit einer NVIDIA-GPU ausschöpfen.
NVIDIA LaunchPad-WorkFlow
GPU-optimierter Software-Hub für KI, ML und Hochleistungsrechnen
Der NGC-Katalog ist eine Drehscheibe für GPU-optimierte KI, Hochleistungsrechnen (HPC) und Datenanalysesoftware, die End-to-End-Workflows vereinfacht und beschleunigt. Mit Containern der Enterprise-Klasse, vorab trainierten KI-Modellen und branchenspezifischen SDKs, die vor Ort, in der Cloud oder am Edge bereitgestellt werden können, können Unternehmen Lösungen schnell und sicher erstellen und bereitstellen.
Die Systeme sind derzeit möglicherweise mit einer NVIDIA A30- oder einer T4-GPU ausgestattet. Dies kann sich jedoch ändern, wenn neue Karten auf den Markt kommen. Unabhängig von der Hardware nutzen alle Systeme NVIDIA AI Enterprise, was NVIDIA wie folgt beschreibt:
"eine durchgängige, cloudnative Suite von KI- und Datenanalysesoftware, optimiert, zertifiziert und unterstützt von NVIDIA für die Ausführung auf VMware vSphere mit NVIDIA-zertifizierten Systemen. Es umfasst wichtige Schlüsseltechnologien von NVIDIA für die schnelle Bereitstellung, Verwaltung und Skalierung von KI-Workloads in der modernen Hybrid Cloud"
In den Laboren ist vSphere vorinstalliert und Sie können über die von NVIDIA bereitgestellte URL auf einen vSphere-Client zugreifen.
IT-Administratoren verfügen über Labore, die sie durch die Schritte führen, die bei der Konfiguration von VMs für die Verwendung von GPUs erforderlich sind. KI-Praktiker haben Zugriff auf Labore, die auf der NVIDIA AI Enterprise-Suite basieren und Anwendungen, Frameworks und Tools umfassen, die KI-Forscher, Datenwissenschaftler und Entwickler zum Erstellen ihrer KI- und maschinellen Lernanwendungen verwenden.
Eine der NVIDIA AI Enterprise LaunchPad-Reisen führt Sie durch ein Jupyter-Labornotebook mit NVIDIA RAPIDS und der New Yorker Taxidatensatz zur Vorhersage der Fahrpreise in Manhattan. Der Datensatz enthält Spalten wie Abholpunkte, Abgabepunkte, Fahrpreis und Anzahl der Passagiere. Die Daten in diesem Labor werden verwendet, um ein XGBoost-Modell auf der GPU zu trainieren. Die von NVIDIA bereitgestellten Labore dauern zwischen 30 Minuten und mehreren Stunden. NVIDIA stellt für jedes Labor die passende Umgebung bereit.
Unabhängig von der NVIDIA-Laborumgebung besteht die Möglichkeit, ein funktionierendes KI-Modell zu erstellen. Die Bewerbung für die komplette AI LaunchPad-Umgebung ähnelt der Beantragung eines Labors.
Sobald Sie sich beim NVIDIA LaunchPad angemeldet haben, erhalten Sie detaillierte Anweisungen zum Einrichten der VM durch Erstellen einer Ubuntu-VM, Zuordnen einer NVIDIA-GPU, Erwerben und Hinzufügen eines NVIDIA-Treibers zum Betriebssystem, Erwerben eines NVIDIA-API-Schlüssels und einer NVIDIA-Software sowie Lizenzieren der VM zur Nutzung der GPU. Da KI-Software auf Containern basiert, umfasst das Labor die Installation von Docker, dem NVIDIA Container Tool Kit, Tensor Flow und das Ausführen von KI-Beispielen. Dies ist eine umfassende Arbeitsumgebung, die es Ihnen ermöglicht, Ihr eigenes KI-Projekt zu erstellen und bereitzustellen.
Schritt-für-Schritt-Ansatz
Die Konfiguration der VM ist gut dokumentiert und Eingabemasken bieten bei Bedarf die nötige Hilfestellung. NVIDIA hat in Zusammenarbeit mit VMware eine einfache Schnittstelle erstellt, um die erforderliche Konfiguration zu implementieren und die entsprechenden Tools zu installieren, um die Proof-of-Concept-Umgebung mit minimalem Stress zum Laufen zu bringen. Lassen Sie uns auch in diesem Punkt Klarheit schaffen. Das sind sehr gut ausgestattete Maschinen. Unsere Umgebung hatte eine Dell PowerEdge R750, mit einer NVIDIA A30 und reichlich DRAM und Kernen.
Sobald die Anmeldeanfrage genehmigt wurde, sendet NVIDIA eine URL, einschließlich Benutzername und temporärem Passwort. Wie bereits erwähnt, war unsere Umgebung ein Dell NVIDIA-zertifiziertes System mit A30-GPUs. Es stehen jedoch spezifische Konfigurationsoptionen zur Verfügung, um das Erlebnis an die Bedürfnisse des Benutzers anzupassen.
Müssen Sie etwas ändern? NVIDIA LaunchPad wurde so konzipiert, dass der Benutzer einen Schritt zurücktreten kann, wenn unterwegs Änderungen erforderlich sind. Das Menü ist jederzeit mit detaillierten Anweisungen zugänglich.
Die VM wird basierend auf den Hardware- und Softwareanforderungen erstellt, die während des Konfigurationsprozesses eingegeben werden.
Nach der Installation des Docker-Containers und der Ausführung der Docker Utility Engine für die NVIDIA-GPU-Konfiguration besteht der letzte Schritt in der Installation von KI- und Data-Science-Anwendungen und -Frameworks.
Der Wechsel zwischen dem vSphere-Bildschirm und der VM-Konsole ist ebenfalls nahtlos und erfolgt über das Hauptmenü. Einige empfohlene Browser scheinen besser zu funktionieren als andere. Safari verursacht möglicherweise Sodbrennen, aber es gibt Möglichkeiten, dies zu umgehen.
Abschließend wird der Prozess durch die Installation der KI-Anwendung und weiterer VM-Konfigurationen abgeschlossen. NVIDIA reagiert sehr schnell, wenn Probleme auftreten. Tatsächlich stießen wir auf einige selbstverschuldete Probleme und benötigten Hilfe. Wir waren mit sehr wenigen Ausfallzeiten wieder einsatzbereit. Fairerweise muss man sagen, dass wir eine Medienorganisation sind, die LaunchPad evaluiert, aber NVIDIA ist hoch motiviert, sicherzustellen, dass jeder, der LaunchPad testet, eine produktive Zeit hat.
Abschließende Überlegungen
Das NVIDIA LaunchPad ist ein robustes Proof-of-Concept-Tool, das beeindruckend einfach zu bedienen ist. Letztendlich bietet die Zusammenarbeit zwischen NVIDIA, VMware und Equinix eine robuste Umgebung zum Testen echter KI- und ML-Anwendungen mit einigen der beliebtesten GPUs von NVIDIA.
Besser noch: NVIDIA hat dafür gesorgt, dass dies für zwei Schlüsselpersonen, die zusammenarbeiten müssen, gut funktioniert: den IT-Administrator und den Datenwissenschaftler/KI-Praktiker. Diese modernen KI-Workloads verursachen oft eine Belastung für den traditionellen IT-Stack. Die Workloads sind kompliziert, laufen auf teurer Hardware und bereiten der IT Support-Probleme. Durch die Einbindung von LaunchPad in die wohlbekannten Grenzen von vSphere verschwinden viele der typischen Bedenken der IT-Abteilung. Andererseits erhalten KI-Anwender alle Tools, die sie benötigen, und dazu noch eine robuste GPU- und Rechenumgebung. Wenn die VMs fertig sind, sind sie leicht portierbar, wenn eine Organisation ihre Arbeit mitnehmen möchte.
Wir freuen uns über dieses kostenlose Angebot von NVIDIA, da es uns an VMware Hands-on-labs und VMware TestDrive erinnert und den zusätzlichen Vorteil bietet, dass Sie damit mit Ihrem eigenen KI-Projekt arbeiten können. Während unserer Zeit bei NVIDIA LaunchPad empfanden wir die Dokumentation als recht umfangreich und den Support als ausgezeichnet, als wir versehentlich unsere schlechte Umgebung löschten. Da LaunchPad bis zu vier Wochen Zeit zum Ausprobieren hat, sollten Unternehmen, die ihre KI-Fähigkeiten ausbauen möchten, dies auf jeden Fall sofort ausprobieren.
Für weitere Informationen über NVIDIA AI Enterprise, klicken Sie hier. Für weitere Informationen über NVIDIA LaunchPad, klicken Sie hier. Sprechen Sie mit Ihrem NVIDIA-Vertriebsmitarbeiter über die ersten Schritte mit NVIDIA LaunchPad.
Lernen Sie mehr, indem Sie sich unsere NVIDIA anhören LaunchPad-Podcast.
Beteiligen Sie sich an StorageReview
Newsletter | YouTube | Podcast iTunes/Spotify | Instagram | Twitter | Facebook | TikTok | RSS Feed
