NVIDIA e Microsoft Azure Ignite con nuove offerte come AI Foundry e GenAI, simulatori AV

È stata una settimana impegnativa per NVIDIA e i lavori non sono finiti. NVIDIA sta lanciando un servizio di fonderia di intelligenza artificiale su Microsoft Azure, un nuovo potente strumento per le aziende che si dedicano all'intelligenza artificiale generativa personalizzata.

Ecco cosa offre il servizio Foundry AI di NVIDIA:

Modelli NVIDIA AI Foundation: questi sono gli elementi costitutivi dell'IA.
NVIDIA NeMo Framework e strumenti: il toolkit per ottimizzare la tua intelligenza artificiale.
Servizi di supercomputing AI NVIDIA DGX Cloud: la potenza per trasformare i tuoi sogni di intelligenza artificiale in realtà.

Questi elementi consentono alle aziende di creare i propri modelli di intelligenza artificiale per cose come la ricerca intelligente e la creazione di contenuti, il tutto basato sul software NVIDIA AI Enterprise.

Modelli personalizzati per applicazioni generative basate sull'intelligenza artificiale

Il servizio AI Foundry di NVIDIA può personalizzare modelli per applicazioni generative basate sull'intelligenza artificiale in tutti i settori, inclusi software aziendale, telecomunicazioni e media. Quando i modelli personalizzati sono pronti per l'implementazione, le aziende possono utilizzare una tecnica chiamata generazione aumentata con recupero (RAG) per connettere i loro modelli con i dati aziendali e accedere a nuovi insight.

Il servizio di NVIDIA non è solo spettacolo; è pratico. I leader del settore SAP SE, Amdocs e Getty Images stanno già creando modelli personalizzati con questo servizio. I settori, dal software alle telecomunicazioni, possono ora creare app di intelligenza artificiale adatte alle loro esigenze. SAP lo sta utilizzando per il suo copilota AI, Joule, e Amdocs sta migliorando il proprio framework amAIz per le soluzioni AI per le telecomunicazioni.

Il CEO di NVIDIA Jensen Huang sottolinea la capacità del servizio di personalizzare l'intelligenza artificiale utilizzando i dati unici di un'azienda. E Satya Nadella, CEO di Microsoft, è impegnato a promuovere l’innovazione dell’intelligenza artificiale su Azure con l’aiuto di NVIDIA.

Nemotron-3 8B

NVIDIA offre una varietà di modelli AI Foundation, inclusa la versatile famiglia Nemotron-3 8B, disponibile nei cataloghi Azure AI e NVIDIA NGC. Questi modelli sono pronti per l'uso multilingue e varie applicazioni. Ottimizzati per NVIDIA per l'elaborazione accelerata, i modelli della community come i modelli Llama 2 di Meta sono disponibili anche su NVIDIA NGC e arriveranno presto nel catalogo dei modelli AI di Azure.

NVIDIA DGX Cloud arriva su Azure Marketplace

Il supercalcolo AI NVIDIA DGX Cloud è ora disponibile su Azure Marketplace. Noleggia ciò di cui hai bisogno, scala facilmente e goditi il software NVIDIA AI Enterprise per una rapida personalizzazione LLM. Presenta istanze che i clienti possono noleggiare, scalabili fino a migliaia di GPU NVIDIA Tensor Core e viene fornito con il software NVIDIA AI Enterprise, incluso NeMo, per velocizzare la personalizzazione LLM.

Con NVIDIA AI Enterprise integrata in Azure Machine Learning, gli utenti ottengono una piattaforma AI stabile e sicura. È disponibile anche su Azure Marketplace, offrendo una gamma di possibilità di sviluppo e distribuzione dell'intelligenza artificiale.

Il servizio AI Foundry di NVIDIA su Azure non è solo un aggiornamento; è un approccio innovativo allo sviluppo dell’intelligenza artificiale personalizzata.

NVIDIA e Microsoft potenziano Azure con funzionalità IA avanzate

Microsoft sta potenziando il suo gioco di intelligenza artificiale su Azure, introducendo nuove macchine virtuali basate su H100 e pianificando la futura aggiunta della GPU H200 Tensor Core. Annunciata alla conferenza Ignite, la nuova serie VM NC H100 v5 è la prima nel cloud computing, con GPU NVIDIA H100 NVL. Queste VM racchiudono una potenza eccezionale con due GPU H100 basate su PCIe collegate da NVIDIA NVLink, offrendo quasi 4 petaflop di elaborazione AI e 188 GB di memoria HBM3 ad alta velocità. La GPU H100 NVL è un concentrato di potenza, offrendo fino a 12 volte le prestazioni su GPT-3 175B rispetto ai modelli precedenti, perfetta per inferenza e carichi di lavoro di formazione tradizionali.

Integrazione della GPU NVIDIA H200 Tensor Core in Azure

Microsoft prevede di integrare la GPU NVIDIA H200 Tensor Core in Azure il prossimo anno. Questo aggiornamento è progettato per gestire l'inferenza di modelli più grandi senza una maggiore latenza, il che è ideale per LLM e modelli di intelligenza artificiale generativa. L'H200 si distingue per i suoi 141 GB di memoria HBM3e e la larghezza di banda di memoria di picco di 4.8 TB/s, superando significativamente l'H100.

Inoltre, Microsoft sta espandendo le sue offerte accelerate da NVIDIA con NCC H100 v5, una nuova VM riservata. Queste VM riservate di Azure, dotate di GPU NVIDIA H100 Tensor Core, garantiscono la riservatezza e l'integrità dei dati e delle applicazioni durante l'uso. Questa funzionalità di sicurezza avanzata, combinata con le capacità di accelerazione dell’H100, sarà presto disponibile in anteprima privata.

Questi progressi di NVIDIA e Microsoft segnano un passo avanti significativo nelle capacità di cloud computing e intelligenza artificiale di Azure, offrendo potenza e sicurezza senza precedenti per carichi di lavoro AI impegnativi.

NVIDIA potenzia la digitalizzazione automobilistica con nuovi motori di simulazione su Omniverse Cloud

NVIDIA sta intensificando la propria presenza nel settore automobilistico introducendo due nuovi motori di simulazione su Omniverse Cloud: il motore di simulazione della fabbrica virtuale e il motore di simulazione dei veicoli autonomi (AV). Ospitato su Microsoft Azure, Omniverse Cloud sta trasformando il modo in cui le aziende automobilistiche gestiscono il ciclo di vita dei prodotti, passando da processi fisici e manuali a sistemi digitali basati su software e potenziati dall'intelligenza artificiale.

Motore di simulazione di fabbrica virtuale: una svolta per le case automobilistiche

Questo motore è un toolkit che consente ai team di pianificazione di fabbrica di connettersi e collaborare su set di dati industriali su larga scala in tempo reale. Consente ai team di progettazione di costruire fabbriche virtuali e condividere il proprio lavoro senza problemi. Ciò aumenta la qualità della produzione e la produttività e consente un notevole risparmio di tempo e denaro evitando modifiche post-costruzione.

Le caratteristiche principali includono la compatibilità con software esistenti come Autodesk Factory Planning e Siemens NX, migliorando la collaborazione su varie piattaforme. T-Systems e SoftServe sfruttano già questo motore per sviluppare applicazioni di fabbrica virtuale personalizzate.

Motore di simulazione AV: rivoluzionare lo sviluppo di veicoli autonomi

Il motore di simulazione AV è progettato per fornire una simulazione di sensori ad alta fedeltà, fondamentale per lo sviluppo di architetture AV di nuova generazione. Consente agli sviluppatori di testare sistemi autonomi in un ambiente virtuale, integrando livelli di stack di veicoli come percezione, pianificazione e controllo.

Questo motore è fondamentale per lo sviluppo di architetture AV unificate avanzate, che richiedono una simulazione dei dati dei sensori di alta qualità. NVIDIA integra le sue pipeline di simulazione dei sensori DRIVE Sim e Isaac Sim in questo motore, fornendo simulazioni realistiche per telecamere, radar, lidar e altri sensori.

Accelerare la trasformazione digitale

Il motore di simulazione di fabbrica è ora disponibile su Azure Marketplace, offrendo sistemi NVIDIA OVX e software Omniverse gestito. Il motore di simulazione dei sensori seguirà presto. Inoltre, le aziende possono implementare Omniverse Enterprise su macchine virtuali Azure ottimizzate, semplificando ulteriormente il processo di digitalizzazione nel settore automobilistico.

I nuovi motori di simulazione di NVIDIA su Omniverse Cloud segnano un passo significativo nella digitalizzazione automobilistica, offrendo potenti strumenti per la pianificazione della fabbrica virtuale e lo sviluppo AV.

La rivoluzione dell'intelligenza artificiale arriva su Windows 11: il grande passo di NVIDIA con le GPU RTX

NVIDIA sta rimodellando il panorama di Windows 11, sfruttando la potenza delle GPU RTX per portare una nuova dimensione alle esperienze di giocatori, creatori e utenti di PC di tutti i giorni. Con una base utenti di oltre 100 milioni di PC Windows dotati di GPU RTX, le ultime innovazioni di NVIDIA sono pronte a elevare la produttività e la creatività a nuovi livelli.

In prima linea in questi sviluppi c’è l’introduzione di due nuovi motori di simulazione su Omniverse Cloud: la fabbrica virtuale e i motori di simulazione dei veicoli autonomi (AV). Ospitati su Microsoft Azure, questi motori stanno rivoluzionando il ciclo di vita dei prodotti dell’industria automobilistica, passando dai tradizionali processi manuali a sistemi digitali efficienti e potenziati dall’intelligenza artificiale.

RTX 3090 anteriore

In un aggiornamento significativo, il software open source di NVIDIA, TensorRT-LLM, è destinato a migliorare le prestazioni di inferenza dell'intelligenza artificiale. Questo aggiornamento estenderà il supporto a nuovi modelli linguistici di grandi dimensioni, rendendo i carichi di lavoro complessi di intelligenza artificiale più accessibili su desktop e laptop dotati di GPU RTX a partire da 8 GB di VRAM. Questo miglioramento rappresenta una svolta, soprattutto con l’imminente compatibilità di TensorRT-LLM per Windows con l’API Chat di OpenAI. Questa integrazione significa che molti progetti e applicazioni degli sviluppatori possono ora essere eseguiti localmente su PC RTX, consentendo agli utenti di conservare i dati sensibili in modo sicuro sui propri PC Windows 11, lontano dal cloud.

NVIDIA sta inoltre introducendo AI Workbench, un toolkit completo progettato per semplificare il processo di sviluppo per i creatori. Questa piattaforma semplifica la creazione, il test e la personalizzazione di modelli di intelligenza artificiale generativa e LLM pre-addestrati, consentendo agli sviluppatori di gestire in modo efficiente i propri progetti di intelligenza artificiale e personalizzare i modelli per casi d'uso specifici.

In collaborazione con Microsoft, NVIDIA sta migliorando DirectML, che promette di accelerare modelli di intelligenza artificiale fondamentali come Llama 2. Questa collaborazione amplia la portata dell'implementazione tra fornitori e stabilisce un nuovo punto di riferimento negli standard di prestazioni.

L'imminente rilascio di TensorRT-LLM v0.6.0 rappresenta un altro passo avanti, promettendo prestazioni di inferenza fino a cinque volte più veloci. Supporterà inoltre ulteriori LLM popolari, tra cui Mistral 7B e Nemotron-3 8B. Questi modelli saranno accessibili sulle GPU GeForce RTX serie 30 e 40 con 8 GB di RAM o più, rendendo disponibili funzionalità AI avanzate anche sui dispositivi Windows più portatili.

Per supportare questi progressi, NVIDIA sta rendendo disponibile la nuova versione di TensorRT-LLM e modelli ottimizzati sul suo repository GitHub e su ngc.nvidia.com.

Con queste innovazioni, NVIDIA non si limita a migliorare l'esperienza PC per la sua vasta base di utenti; sta aprendo la strada a una nuova era nell’elaborazione basata sull’intelligenza artificiale su Windows 11, segnando un momento cruciale nell’intersezione tra tecnologia e vita quotidiana.

Interagisci con StorageReview