NVIDIA en Microsoft Azure ontbranden met nieuwe aanbiedingen zoals AI Foundry en GenAI, AV-simulators

Het is een drukke week geweest voor NVIDIA en ze zijn nog niet klaar. NVIDIA introduceert een AI-gieterijservice op Microsoft Azure, en het is een krachtige nieuwe tool voor bedrijven die zich verdiepen in aangepaste generatieve AI.

Dit is wat de AI-gieterijservice van NVIDIA te bieden heeft:

NVIDIA AI Foundation-modellen: dit zijn uw AI-bouwstenen.
NVIDIA NeMo Framework en Tools: De toolkit voor het verfijnen van uw AI.
NVIDIA DGX Cloud AI Supercomputing Services: de krachtpatser voor het verwezenlijken van uw AI-dromen.

Met deze elementen kunnen bedrijven hun eigen AI-modellen ontwerpen voor zaken als slim zoeken en contentcreatie, allemaal mogelijk gemaakt door NVIDIA AI Enterprise-software.

Aangepaste modellen voor generatieve AI-aangedreven toepassingen

De AI-gieterijservice van NVIDIA kan modellen aanpassen voor generatieve AI-aangedreven applicaties in verschillende sectoren, waaronder bedrijfssoftware, telecommunicatie en media. Wanneer aangepaste modellen gereed zijn voor implementatie, kunnen ondernemingen een techniek gebruiken die ' ophaal-vergrote generatie (RAG) om hun modellen te verbinden met hun bedrijfsgegevens en toegang te krijgen tot nieuwe inzichten.

De service van NVIDIA is niet alleen voor de show; het is praktisch. Marktleiders SAP SE, Amdocs en Getty Images maken met deze service al aangepaste modellen. Industrieën van software tot telecom kunnen nu AI-apps maken die aan hun behoeften voldoen. SAP gebruikt het voor hun AI-copiloot, Joule, en Amdocs verbetert hun amAIz-framework voor telecom-AI-oplossingen.

NVIDIA-CEO Jensen Huang benadrukt het vermogen van de service om AI aan te passen met behulp van de unieke gegevens van een bedrijf. En Satya Nadella, CEO van Microsoft, draait helemaal om het stimuleren van AI-innovatie op Azure met de hulp van NVIDIA.

Nemotron-3 8B

NVIDIA biedt een verscheidenheid aan AI Foundation-modellen, waaronder de veelzijdige Nemotron-3 8B-familie, beschikbaar in zowel Azure AI- als NVIDIA NGC-catalogi. Deze modellen zijn klaar voor meertalig gebruik en diverse toepassingen. Geoptimaliseerd voor NVIDIA voor versneld computergebruik, zijn communitymodellen zoals Meta's Llama 2-modellen ook beschikbaar op NVIDIA NGC en komen binnenkort naar de Azure AI-modelcatalogus.

NVIDIA DGX Cloud bereikt Azure Marketplace

NVIDIA DGX Cloud AI-supercomputing is nu beschikbaar op Azure Marketplace. Huur wat je nodig hebt, schaal eenvoudig en geniet van NVIDIA AI Enterprise-software voor snelle LLM-aanpassing. Het beschikt over instances die klanten kunnen huren, schaalbaar naar duizenden NVIDIA Tensor Core GPU's, en wordt geleverd met NVIDIA AI Enterprise-software, waaronder NeMo, om LLM-aanpassing te versnellen.

Met NVIDIA AI Enterprise geïntegreerd in Azure Machine Learning krijgen gebruikers een stabiel, veilig AI-platform. Het staat ook op Azure Marketplace en biedt een scala aan AI-ontwikkelings- en implementatiemogelijkheden.

NVIDIA's AI-gieterijservice op Azure is niet alleen een update; het is een innovatieve benadering van aangepaste AI-ontwikkeling.

NVIDIA en Microsoft versterken Azure met geavanceerde AI-mogelijkheden

Microsoft breidt zijn AI-spel op Azure uit, introduceert nieuwe op H100 gebaseerde virtuele machines en maakt plannen voor de toekomstige toevoeging van de H200 Tensor Core GPU. De nieuwe NC H100 v5 VM-serie, aangekondigd op de Ignite-conferentie, is een primeur op het gebied van cloud computing, met NVIDIA H100 NVL GPU's. Deze VM's hebben een serieuze klap met twee PCIe-gebaseerde H100 GPU's die met elkaar zijn verbonden door NVIDIA NVLink, en leveren bijna 4 petaflops aan AI-rekenkracht en 188 GB supersnel HBM3-geheugen. De H100 NVL GPU is een krachtpatser en biedt tot 12x de prestaties op de GPT-3 175B in vergelijking met eerdere modellen, perfect voor gevolgtrekking en reguliere trainingsbelastingen.

Integratie van NVIDIA H200 Tensor Core GPU in Azure

Microsoft is van plan om volgend jaar de NVIDIA H200 Tensor Core GPU in Azure te integreren. Deze upgrade is ontworpen om grotere modeldeferentie te verwerken zonder verhoogde latentie, wat ideaal is voor LLM's en generatieve AI-modellen. De H200 valt op door zijn 141 GB HBM3e-geheugen en een maximale geheugenbandbreedte van 4.8 TB/s, waarmee hij aanzienlijk beter presteert dan de H100.

Bovendien breidt Microsoft zijn NVIDIA-versnelde aanbod uit met de NCC H100 v5, een nieuwe vertrouwelijke VM. Deze vertrouwelijke Azure-VM's, uitgerust met NVIDIA H100 Tensor Core GPU's, garanderen de vertrouwelijkheid en integriteit van gegevens en applicaties tijdens gebruik. Deze verbeterde beveiligingsfunctie, gecombineerd met de acceleratiemogelijkheden van de H100, zal binnenkort beschikbaar zijn in een privépreview.

Deze verbeteringen door NVIDIA en Microsoft markeren een aanzienlijke sprong in de cloud computing- en AI-mogelijkheden van Azure en bieden ongekende kracht en beveiliging voor veeleisende AI-workloads.

NVIDIA stimuleert de digitalisering van de auto-industrie met nieuwe simulatie-engines op Omniverse Cloud

NVIDIA intensiveert zijn spel in de auto-industrie door twee nieuwe simulatie-engines op Omniverse Cloud te introduceren: de virtuele fabriekssimulatie-engine en de autonome voertuig (AV)-simulatie-engine. Omniverse Cloud, gehost op Microsoft Azure, transformeert de manier waarop autobedrijven omgaan met hun productlevenscyclus, waarbij ze verschuiven van fysieke, handmatige processen naar softwaregestuurde, AI-ondersteunde digitale systemen.

Virtual Factory Simulation Engine: een game-changer voor autofabrikanten

Deze engine is een toolkit waarmee fabrieksplanningsteams in realtime verbinding kunnen maken en kunnen samenwerken aan grootschalige industriële datasets. Het stelt ontwerpteams in staat virtuele fabrieken te bouwen en hun werk naadloos te delen. Dit verhoogt de productiekwaliteit en doorvoer en bespaart aanzienlijk tijd en geld doordat wijzigingen na de bouw worden vermeden.

Belangrijke kenmerken zijn onder meer compatibiliteit met bestaande software zoals Autodesk Factory Planning en Siemens' NX, waardoor de samenwerking tussen verschillende platforms wordt verbeterd. T-Systems en SoftServe maken al gebruik van deze engine om aangepaste virtuele fabrieksapplicaties te ontwikkelen.

AV-simulatie-engine: een revolutie in de ontwikkeling van autonome voertuigen

De AV-simulatie-engine is ontworpen om hifi-sensorsimulatie te leveren, wat cruciaal is voor de ontwikkeling van de volgende generatie AV-architecturen. Het stelt ontwikkelaars in staat om autonome systemen te testen in een virtuele omgeving, waarbij lagen van de voertuigstapel zoals perceptie, planning en controle worden geïntegreerd.

Deze engine is cruciaal voor de ontwikkeling van geavanceerde, uniforme AV-architecturen, waarvoor hoogwaardige sensordatasimulatie vereist is. NVIDIA integreert zijn DRIVE Sim- en Isaac Sim-sensorsimulatiepijplijnen in deze engine, wat realistische simulaties oplevert voor camera's, radars, lidars en andere sensoren.

Digitale transformatie versnellen

De fabriekssimulatie-engine is nu beschikbaar op Azure Marketplace en biedt NVIDIA OVX-systemen en beheerde Omniverse-software. De sensorsimulatie-engine zal binnenkort volgen. Bovendien kunnen ondernemingen Omniverse Enterprise implementeren op geoptimaliseerde virtuele Azure-machines, waardoor het digitaliseringsproces in de automobielsector verder wordt gestroomlijnd.

NVIDIA's nieuwe simulatie-engines op Omniverse Cloud markeren een belangrijke stap in de digitalisering van de auto-industrie en bieden krachtige tools voor virtuele fabrieksplanning en AV-ontwikkeling.

AI Revolution bereikt Windows 11: NVIDIA's grote sprong met RTX GPU's

NVIDIA hervormt het Windows 11-landschap en maakt gebruik van de kracht van RTX GPU's om een nieuwe dimensie te geven aan de ervaringen van gamers, makers en gewone pc-gebruikers. Met een gebruikersbestand van meer dan 100 miljoen Windows-pc's uitgerust met RTX GPU's, staan de nieuwste innovaties van NVIDIA klaar om de productiviteit en creativiteit naar nieuwe hoogten te tillen.

In de voorhoede van deze ontwikkelingen staat de introductie van twee nieuwe simulatiemotoren op Omniverse Cloud: de virtuele fabriek en de simulatiemotoren voor autonome voertuigen (AV). Deze motoren, gehost op Microsoft Azure, zorgen voor een revolutie in de productlevenscyclus van de auto-industrie, waarbij ze overgaan van traditionele handmatige processen naar efficiënte, door AI ondersteunde digitale systemen.

RTX 3090 voorkant

In een belangrijke update zal NVIDIA's open-sourcesoftware, TensorRT-LLM, de prestaties van AI-inferentie verbeteren. Deze update breidt de ondersteuning uit naar nieuwe grote taalmodellen, waardoor complexe AI-workloads toegankelijker worden op desktops en laptops die zijn uitgerust met RTX GPU’s vanaf 8 GB VRAM. Deze verbetering is een gamechanger, vooral met de aanstaande compatibiliteit van TensorRT-LLM voor Windows met de Chat API van OpenAI. Deze integratie betekent dat veel ontwikkelaarsprojecten en applicaties nu lokaal op RTX-pc's kunnen draaien, waardoor gebruikers gevoelige gegevens veilig op hun Windows 11-pc's kunnen bewaren, weg van de cloud.

NVIDIA introduceert ook AI Workbench, een uitgebreide toolkit die is ontworpen om het ontwikkelingsproces voor makers te stroomlijnen. Dit platform vereenvoudigt het maken, testen en aanpassen van vooraf getrainde generatieve AI-modellen en LLM's, waardoor ontwikkelaars hun AI-projecten efficiënt kunnen beheren en modellen kunnen afstemmen op specifieke gebruiksscenario's.

In samenwerking met Microsoft verbetert NVIDIA DirectML, dat belooft fundamentele AI-modellen zoals Llama 2 te versnellen. Deze samenwerking verbreedt de mogelijkheden voor implementatie tussen leveranciers en zet een nieuwe maatstaf op het gebied van prestatienormen.

De komende release van TensorRT-LLM v0.6.0 is weer een sprong voorwaarts en belooft tot vijf keer snellere inferentieprestaties. Het ondersteunt ook aanvullende populaire LLM's, waaronder Mistral 7B en Nemotron-3 8B. Deze modellen zullen toegankelijk zijn op GPU's uit de GeForce RTX 30- en 40-serie met 8 GB RAM of meer, waardoor geavanceerde AI-mogelijkheden zelfs op de meest draagbare Windows-apparaten beschikbaar worden.

Om deze verbeteringen te ondersteunen, stelt NVIDIA de nieuwe release van TensorRT-LLM en geoptimaliseerde modellen beschikbaar op de GitHub-repository en ngc.nvidia.com.

Met deze innovaties verbetert NVIDIA niet alleen de pc-ervaring voor zijn enorme gebruikersbestand; het maakt de weg vrij voor een nieuw tijdperk in AI-ondersteund computergebruik op Windows 11 en markeert een cruciaal moment op het snijvlak van technologie en het dagelijks leven.

Neem contact op met StorageReview