Broadcom hat kürzlich die allgemeine Verfügbarkeit der VMware Private AI Foundation mit NVIDIA angekündigt, was eine deutliche Verbesserung der Funktionen der VMware Cloud Foundation darstellt. Diese Ergänzung bereichert die Produktsuite und ermöglicht es Unternehmen, KI innerhalb ihrer bestehenden Infrastruktur effektiver zu nutzen.
Broadcom hat kürzlich die allgemeine Verfügbarkeit der VMware Private AI Foundation mit NVIDIA angekündigt, was eine deutliche Verbesserung der Funktionen der VMware Cloud Foundation darstellt. Diese Ergänzung bereichert die Produktsuite und ermöglicht es Unternehmen, KI innerhalb ihrer bestehenden Infrastruktur effektiver zu nutzen.
VMware Private AI Foundation mit NVIDIA ist als Add-on für VMware Cloud Foundation konzipiert. Es ermöglicht Unternehmen, vorab trainierte KI-Modelle in ihre Rechenzentren zu importieren. Nach der Integration können diese Modelle mithilfe proprietärer Daten verfeinert oder in fortschrittlichen Retrieval-Augmented-Generation-Designs für bestimmte Geschäftsanwendungen verwendet werden. Diese Mischung aus Flexibilität und Leistungsfähigkeit ist von entscheidender Bedeutung für Unternehmen, die ihre betriebliche Effizienz und Innovation steigern möchten.
Tiefergehende GPU-Überwachung und betriebliche Einblicke
Seit seiner ersten Veröffentlichung im März 2024 hat VMware die GPU-Überwachungsfunktionen des Systems kontinuierlich verbessert. Bei seiner allgemeinen Verfügbarkeit hat VMware zwei neue Dashboards eingeführt, die umfassende Ansichten der GPU-Nutzung über Servercluster hinweg bieten, was für die Aufrechterhaltung von Leistung und Effizienz von entscheidender Bedeutung ist:
- Zusammenfassungs-Dashboard: Dieses Dashboard bietet einen schnellen Überblick über mit GPUs ausgestattete Cluster und hebt wichtige Kennzahlen wie den GPU-Speicher hervor, der für die Leistungsskalierung von entscheidender Bedeutung ist.
- Detailliertes Metrik-Dashboard: Dieses Dashboard bietet Einblicke in die GPU-Temperatur, die Speichernutzung und die Rechenauslastung, ermöglicht eine proaktive Ressourcenverwaltung und vermeidet Überhitzungsrisiken.
Tauchen Sie tief in die GPU-Analyse ein
Die neu veröffentlichten Dashboards ermöglichen es Administratoren, sich mit den Besonderheiten der GPU-Leistung über verschiedene Cluster und Server hinweg auseinanderzusetzen. Jedes Panel ist farblich gekennzeichnet, um kritische Schwellenwerte für Temperatur, Speichernutzung und Rechenauslastung hervorzuheben und IT-Mitarbeitern dabei zu helfen, potenzielle Probleme schnell zu erkennen und zu beheben. Benutzer können einzelne GPU-Kacheln für eine tiefergehende Analyse auswählen, um detaillierte Topologie- und Betriebsdaten anzuzeigen und so eine präzise Fehlerbehebung und Wartung sicherzustellen.
Automatisierung mit PowerCLI-Skripten
Um die Bereitstellung und Integration der VMware Private AI Foundation mit NVIDIA zu optimieren, hat das Ingenieurteam von VMware eine Reihe von PowerCLI-Skripten entwickelt. Diese Skripte sind wesentliche Werkzeuge zum Aufbau der notwendigen Infrastruktur zur Unterstützung dieser hochentwickelten KI-Plattform:
- Infrastrukturvorbereitung: Skripte helfen beim Erstellen von VCF-Workload-Domänen, beim Einrichten von NVIDIA vGPU-Managern und beim Einrichten von NSX Edge-Clustern.
- Aktivieren von KI-Workloads: Dieser Abschnitt enthält Schritte zum Aktivieren des Kubernetes Supervisor-Clusters innerhalb der Workload-Domäne, der für die Verwaltung von KI-Vorgängen und -Bereitstellungen von entscheidender Bedeutung ist.
Eine wichtige Komponente der VMware Private AI Foundation mit NVIDIA ist die Unterstützung für NVIDIA AI Enterprise-Container und Microservices. Dazu gehören der NVIDIA NIM-Inferenz-Microservice und der NVIDIA NeMo Retriever-Microservice, die für die Bereitstellung großer Sprachmodelle und Retrieval-Augmented Generation-Anwendungen von zentraler Bedeutung sind. Die PowerCLI-Skripte erleichtern das automatische Herunterladen und Bereitstellen dieser Dienste auf einer Deep Learning-VM während der Ersteinrichtung.
Durch die allgemeine Verfügbarkeit der VMware Private AI Foundation mit NVIDIA werden robuste Tools und Funktionen für Unternehmen eingeführt, die ihre Datenwissenschafts- und KI-Anwendungen verbessern möchten. Die Kombination aus fortschrittlicher GPU-Überwachung, detaillierten Betriebseinblicken und leistungsstarken Automatisierungsskripten vereinfacht die Bereitstellung komplexer KI-Modelle und stellt sicher, dass Unternehmen diese Technologien schnell und effektiv in ihren Betriebsrahmen integrieren können. Diese Veröffentlichung stellt einen wesentlichen Fortschritt im Engagement von VMware dar, Spitzentechnologie in seine Cloud-Angebote zu integrieren und Unternehmen die Tools zur Verfügung zu stellen, die sie benötigen, um in der sich entwickelnden digitalen Landschaft erfolgreich zu sein.
Weitere Informationen finden Sie hier VMware Private AI Foundation mit NVIDIA-Lösungsübersicht.
Beteiligen Sie sich an StorageReview
Newsletter | YouTube | Podcast iTunes/Spotify | Instagram | Twitter | TikTok | RSS Feed
