NVIDIA och Google Cloud samarbetar för att tillhandahålla agent AI till företag som använder Google Gemini AI-modeller via Blackwell HGX- och DGX-plattformar.
NVIDIA har tillkännagett ett strategiskt partnerskap med Google Cloud för att introducera agent AI för företag. Detta samarbete gör det möjligt för företag att använda Google Gemini-familjen av AI-modeller lokalt genom NVIDIAs Blackwell HGX- och DGX-plattformar och NVIDIA Confidential Computing för förbättrad datasäkerhet.
Aktiverar efterlevnad och säkerhet med NVIDIA Blackwell
NVIDIA Blackwell-plattformen, integrerad med Google Distributed Cloud, ger lokala datacenter möjlighet att uppfylla regulatoriska krav och datasuveränitetslagar. Företag kan säkerställa efterlevnad med bibehållen operativ effektivitet genom att begränsa åtkomsten till känslig information som patientjournaler, finansiella transaktioner och sekretessbelagda myndighetsdata. Dessutom skyddar NVIDIA Confidential Computing känslig kod i Gemini-modellerna och skyddar den från obehörig åtkomst och potentiella dataintrång.
Sachin Gupta, Vice President och General Manager of Infrastructure and Solutions på Google Cloud, betonade att partnerskapet gör det möjligt för företag att på ett säkert sätt utnyttja den fulla potentialen av agent AI, genom att kombinera NVIDIA Blackwells prestanda och konfidentiella beräkningsmöjligheter med operativ enkelhet.
Säkerhet med dubbla lager
Konfidentiell datoranvändning med NVIDIA Blackwell ger företag den tekniska försäkran om att användarmeddelanden till Gemini-modellernas applikationsprogrammeringsgränssnitt (API) och att data som används för finjustering förblir säkra. Denna säkerhet i två lager skyddar mot obehörig åtkomst eller manipulering, vilket gör att företag kan förnya sig med Gemini-modeller samtidigt som dataintegriteten bevaras.
Dilemmat på plats
Trots framstegen inom multimodalt resonemang – att integrera text, bilder, kod och andra datatyper för att lösa komplexa problem – har företag med stränga krav på säkerhet eller datasuveränitet ställts inför utmaningar när de anammat dessa tekniker. Detta partnerskap tar itu med dessa utmaningar genom att göra Google Cloud till en av de första leverantörerna som erbjuder konfidentiella datorfunktioner för att säkra agentiska AI-arbetsbelastningar i alla miljöer, oavsett om de är molnbaserade eller hybrida.
Drivs av NVIDIA HGX B200-plattformen med Blackwell GPU:er och NVIDIA Confidential Computing, den här lösningen gör det möjligt för kunder att skydda sina AI-modeller och data samtidigt som de uppnår banbrytande prestanda och energieffektivitet. Företag kan nu upprätthålla datasäkerhet och modellintegritet utan att kompromissa med innovation.
AI observerbarhet och säkerhet för agent AI
Skalning av agent AI i produktion kräver robust observerbarhet och säkerhet för att säkerställa tillförlitlig prestanda och efterlevnad. För att hantera detta har Google Cloud introducerat GKE Inference Gateway, designad för att optimera distributionen av AI-inferensarbetsbelastningar genom avancerad routing och skalbarhet. Genom att integrera med NVIDIA Triton Inference Server och NVIDIA NeMo Guardrails ger gatewayen intelligent lastbalansering som förbättrar prestandan och minskar serveringskostnaderna. Det möjliggör också centraliserad modellsäkerhet och styrning.
När vi ser framåt planerar Google Cloud att förbättra observerbarheten för agentiska AI-arbetsbelastningar genom att integrera NVIDIA Dynamo, ett bibliotek med öppen källkod designat för att betjäna och skala resonerande AI-modeller över AI-fabriker. Detta framåtblickande tillvägagångssätt säkerställer att företag med säkerhet kan skala sina agenta AI-applikationer samtidigt som säkerhet och efterlevnad bibehålls.
Engagera dig med StorageReview
Nyhetsbrev | Youtube | Podcast iTunes/Spotify | Instagram | Twitter | TikTok | Rssflöde
