A Broadcom anunciou recentemente a disponibilidade geral do VMware Private AI Foundation com NVIDIA, marcando um aprimoramento significativo nos recursos do VMware Cloud Foundation. Esta adição enriquece o conjunto de produtos e capacita as empresas a aproveitarem a IA de forma mais eficaz dentro da sua infraestrutura existente.
A Broadcom anunciou recentemente a disponibilidade geral do VMware Private AI Foundation com NVIDIA, marcando um aprimoramento significativo nos recursos do VMware Cloud Foundation. Esta adição enriquece o conjunto de produtos e capacita as empresas a aproveitarem a IA de forma mais eficaz dentro da sua infraestrutura existente.
O VMware Private AI Foundation com NVIDIA foi projetado como um complemento do VMware Cloud Foundation. Ele permite que as empresas importem modelos de IA pré-treinados para seus data centers. Uma vez integrados, esses modelos podem ser ajustados usando dados proprietários ou utilizados em projetos avançados de geração aumentada de recuperação para aplicações de negócios específicas. Esta combinação de flexibilidade e poder é fundamental para as empresas que pretendem melhorar a eficiência operacional e a inovação.
Monitoramento mais profundo de GPU e insights operacionais
Desde seu lançamento inicial em março de 2024, a VMware aprimorou continuamente os recursos de monitoramento de GPU do sistema. Em sua disponibilidade geral, a VMware introduziu dois novos painéis que fornecem visualizações abrangentes do uso da GPU em clusters de servidores, cruciais para manter o desempenho e a eficiência:
- Painel de resumo: este painel fornece uma visão geral rápida dos clusters equipados com GPU, destacando métricas críticas como a memória da GPU, que é vital para o dimensionamento do desempenho.
- Painel de métricas detalhadas: este painel oferece insights sobre temperatura da GPU, uso de memória e utilização de computação, permitindo o gerenciamento proativo de recursos e evitando riscos de superaquecimento.
Aprofunde-se na análise de GPU
Os painéis recém-lançados permitem que os administradores se aprofundem nas especificidades do desempenho da GPU em diferentes clusters e servidores. Cada painel é codificado por cores para destacar limites críticos de temperatura, uso de memória e utilização de computação, ajudando a equipe de TI a identificar e resolver rapidamente possíveis problemas. Os usuários podem selecionar blocos de GPU individuais para uma análise mais profunda para revelar topologia detalhada e dados operacionais, garantindo solução de problemas e manutenção precisas.
Automação com scripts PowerCLI
Para agilizar a implantação e integração da VMware Private AI Foundation com a NVIDIA, a equipe de engenharia da VMware desenvolveu uma série de scripts PowerCLI. Esses scripts são ferramentas essenciais para configurar a infraestrutura necessária para dar suporte a esta sofisticada plataforma de IA:
- Preparação da infraestrutura: os scripts auxiliam na criação de domínios de carga de trabalho VCF, na configuração de gerenciadores de vGPU NVIDIA e no estabelecimento de NSX Edge Clusters.
- Habilitando cargas de trabalho de IA: esta seção inclui etapas para ativar o Kubernetes Supervisor Cluster dentro do domínio de carga de trabalho, o que é crucial para gerenciar operações e implantações de IA.
Um componente crítico da VMware Private AI Foundation com NVIDIA é o suporte para contêineres e microsserviços NVIDIA AI Enterprise. Isso inclui o microsserviço de inferência NVIDIA NIM e o microsserviço NVIDIA NeMo Retriever, que são fundamentais para a implantação de grandes modelos de linguagem e aplicativos de geração aumentada de recuperação. Os scripts PowerCLI facilitam o download e a implantação automáticos desses serviços em uma VM de Deep Learning durante a configuração inicial.
A disponibilidade geral do VMware Private AI Foundation com NVIDIA apresenta ferramentas e recursos robustos para empresas que buscam aprimorar seus aplicativos de ciência de dados e IA. A combinação de monitoramento avançado de GPU, insights operacionais detalhados e scripts de automação poderosos simplifica a implantação de modelos complexos de IA, garantindo que as empresas possam integrar essas tecnologias de forma rápida e eficaz em sua estrutura operacional. Este lançamento significa um avanço substancial no compromisso da VMware em integrar tecnologia de ponta em suas ofertas de nuvem, fornecendo às empresas as ferramentas necessárias para ter sucesso no cenário digital em evolução.
Encontre mais informações neste Resumo da solução VMware Private AI Foundation com NVIDIA.
Envolva-se com a StorageReview
Newsletter | YouTube | Podcast iTunes/Spotify | Instagram | Twitter | TikTok | RSS feed
