NVIDIA y Microsoft Azure se encienden con nuevas ofertas como AI Foundry y GenAI, simuladores AV

Ha sido una semana muy ocupada para NVIDIA y aún no han terminado. NVIDIA está implementando un servicio de fundición de IA en Microsoft Azure y es una nueva y poderosa herramienta para las empresas que se sumergen en la IA generativa personalizada.

Esto es lo que aporta el servicio de fundición de IA de NVIDIA:

Modelos de NVIDIA AI Foundation: estos son los componentes básicos de tu IA.
Marco y herramientas NVIDIA NeMo: el conjunto de herramientas para ajustar su IA.
Servicios de supercomputación de IA en la nube NVIDIA DGX: la potencia para convertir sus sueños de IA en realidad.

Estos elementos permiten a las empresas crear sus propios modelos de IA para cosas como búsqueda inteligente y creación de contenido, todo ello impulsado por el software NVIDIA AI Enterprise.

Modelos personalizados para aplicaciones impulsadas por IA generativa

El servicio de fundición de IA de NVIDIA puede personalizar modelos para aplicaciones generativas impulsadas por IA en todas las industrias, incluido el software empresarial, las telecomunicaciones y los medios. Cuando los modelos personalizados están listos para implementar, las empresas pueden utilizar una técnica llamada generación aumentada de recuperación (RAG) para conectar sus modelos con sus datos empresariales y acceder a nuevos conocimientos.

El servicio de NVIDIA no es sólo para mostrar; es práctico. Los líderes de la industria SAP SE, Amdocs y Getty Images ya están creando modelos personalizados con este servicio. Las industrias, desde el software hasta las telecomunicaciones, ahora pueden crear aplicaciones de inteligencia artificial que se adapten a sus necesidades. SAP lo está utilizando para su copiloto de IA, Joule, y Amdocs está mejorando su marco amAIz para soluciones de IA de telecomunicaciones.

El director ejecutivo de NVIDIA, Jensen Huang, destaca la capacidad del servicio para adaptar la IA utilizando los datos únicos de una empresa. Y Satya Nadella, director ejecutivo de Microsoft, se dedica a impulsar la innovación en IA en Azure con la ayuda de NVIDIA.

Nemotrón-3 8B

NVIDIA ofrece una variedad de modelos AI Foundation, incluida la versátil familia Nemotron-3 8B, disponible en los catálogos Azure AI y NVIDIA NGC. Estos modelos están preparados para uso multilingüe y diversas aplicaciones. Optimizados para NVIDIA para computación acelerada, los modelos comunitarios como los modelos Llama 2 de Meta también están disponibles en NVIDIA NGC y pronto llegarán al catálogo de modelos de Azure AI.

NVIDIA DGX Cloud llega a Azure Marketplace

La supercomputación NVIDIA DGX Cloud AI ahora está en Azure Marketplace. Alquile lo que necesita, escale fácilmente y disfrute del software NVIDIA AI Enterprise para una rápida personalización de LLM. Cuenta con instancias que los clientes pueden alquilar, escalables a miles de GPU NVIDIA Tensor Core y viene con el software NVIDIA AI Enterprise, incluido NeMo, para acelerar la personalización de LLM.

Con NVIDIA AI Enterprise integrada en Azure Machine Learning, los usuarios obtienen una plataforma de IA estable y segura. También está disponible en Azure Marketplace y ofrece una variedad de posibilidades de desarrollo e implementación de IA.

El servicio de fundición de IA de NVIDIA en Azure no es sólo una actualización; es un enfoque innovador para el desarrollo personalizado de IA.

NVIDIA y Microsoft amplían Azure con capacidades avanzadas de IA

Microsoft está mejorando su juego de inteligencia artificial en Azure, presentando nuevas máquinas virtuales basadas en H100 y planificando la futura incorporación de la GPU H200 Tensor Core. Anunciada en la conferencia Ignite, la nueva serie de máquinas virtuales NC H100 v5 es la primera en computación en la nube y cuenta con GPU NVIDIA H100 NVL. Estas máquinas virtuales tienen una gran potencia con dos GPU H100 basadas en PCIe conectadas por NVIDIA NVLink, que ofrecen casi 4 petaflops de computación de IA y 188 GB de memoria HBM3 de alta velocidad. La GPU H100 NVL es una potencia que ofrece hasta 12 veces el rendimiento en GPT-3 175B en comparación con los modelos anteriores, perfecta para inferencia y cargas de trabajo de entrenamiento convencionales.

Integración de la GPU NVIDIA H200 Tensor Core en Azure

Microsoft planea integrar la GPU NVIDIA H200 Tensor Core en Azure el próximo año. Esta actualización está diseñada para manejar inferencias de modelos más grandes sin mayor latencia, lo cual es ideal para LLM y modelos de IA generativa. El H200 destaca por sus 141 GB de memoria HBM3e y su ancho de banda de memoria máximo de 4.8 TB/s, superando significativamente al H100.

Además, Microsoft está ampliando sus ofertas aceleradas por NVIDIA con NCC H100 v5, una nueva máquina virtual confidencial. Estas máquinas virtuales confidenciales de Azure, equipadas con GPU NVIDIA H100 Tensor Core, garantizan la confidencialidad e integridad de los datos y las aplicaciones mientras están en uso. Esta característica de seguridad mejorada, combinada con las capacidades de aceleración del H100, estará disponible pronto en una vista previa privada.

Estos avances de NVIDIA y Microsoft marcan un salto significativo en las capacidades de IA y computación en la nube de Azure, ofreciendo potencia y seguridad sin precedentes para cargas de trabajo de IA exigentes.

NVIDIA impulsa la digitalización automotriz con nuevos motores de simulación en Omniverse Cloud

NVIDIA está intensificando su juego en la industria automotriz al presentar dos nuevos motores de simulación en Omniverse Cloud: el motor de simulación de fábrica virtual y el motor de simulación de vehículos autónomos (AV). Alojada en Microsoft Azure, Omniverse Cloud está transformando la forma en que las empresas automotrices manejan el ciclo de vida de sus productos, pasando de procesos físicos manuales a sistemas digitales impulsados por software y mejorados por IA.

Motor de simulación de fábrica virtual: un punto de inflexión para los fabricantes de automóviles

Este motor es un conjunto de herramientas para que los equipos de planificación de fábricas se conecten y colaboren en conjuntos de datos industriales a gran escala en tiempo real. Permite a los equipos de diseño construir fábricas virtuales y compartir su trabajo sin problemas. Esto aumenta la calidad y el rendimiento de la producción y ahorra mucho tiempo y dinero al evitar cambios posteriores a la construcción.

Las características clave incluyen compatibilidad con software existente como Autodesk Factory Planning y NX de Siemens, lo que mejora la colaboración entre varias plataformas. T-Systems y SoftServe ya aprovechan este motor para desarrollar aplicaciones personalizadas de fábrica virtual.

Motor de simulación AV: revolucionando el desarrollo de vehículos autónomos

El motor de simulación AV está diseñado para ofrecer una simulación de sensores de alta fidelidad, crucial para desarrollar arquitecturas AV de próxima generación. Permite a los desarrolladores probar sistemas autónomos en un entorno virtual, integrando capas de vehículos como percepción, planificación y control.

Este motor es crucial para desarrollar arquitecturas AV unificadas avanzadas, que requieren simulación de datos de sensores de alta calidad. NVIDIA integra sus canales de simulación de sensores DRIVE Sim e Isaac Sim en este motor, proporcionando simulaciones realistas para cámaras, radares, lidares y otros sensores.

Acelerando la transformación digital

El motor de simulación de fábrica ahora está disponible en Azure Marketplace y ofrece sistemas NVIDIA OVX y software Omniverse administrado. El motor de simulación de sensores llegará pronto. Además, las empresas pueden implementar Omniverse Enterprise en máquinas virtuales Azure optimizadas, agilizando aún más el proceso de digitalización en el sector automotriz.

Los nuevos motores de simulación de NVIDIA en Omniverse Cloud marcan un paso significativo en la digitalización automotriz, ofreciendo poderosas herramientas para la planificación de fábricas virtuales y el desarrollo audiovisual.

La revolución de la IA llega a Windows 11: el gran salto de NVIDIA con las GPU RTX

NVIDIA está remodelando el panorama de Windows 11, aprovechando el poder de las GPU RTX para aportar una nueva dimensión a las experiencias de los jugadores, creadores y usuarios cotidianos de PC. Con una base de usuarios de más de 100 millones de PC con Windows equipadas con GPU RTX, las últimas innovaciones de NVIDIA están preparadas para elevar la productividad y la creatividad a nuevas alturas.

A la vanguardia de estos desarrollos se encuentra la introducción de dos nuevos motores de simulación en Omniverse Cloud: la fábrica virtual y los motores de simulación de vehículos autónomos (AV). Alojados en Microsoft Azure, estos motores están revolucionando el ciclo de vida de los productos de la industria automotriz, pasando de procesos manuales tradicionales a sistemas digitales eficientes mejorados con IA.

RTX 3090 frontal

En una actualización importante, el software de código abierto de NVIDIA, TensorRT-LLM, está configurado para mejorar el rendimiento de la inferencia de IA. Esta actualización ampliará el soporte a nuevos modelos de lenguajes grandes, haciendo que las cargas de trabajo complejas de IA sean más accesibles en computadoras de escritorio y portátiles equipadas con GPU RTX a partir de 8 GB de VRAM. Esta mejora cambia las reglas del juego, especialmente con la próxima compatibilidad de TensorRT-LLM para Windows con la API de chat de OpenAI. Esta integración significa que muchos proyectos y aplicaciones de desarrolladores ahora pueden ejecutarse localmente en PC RTX, lo que permite a los usuarios mantener datos confidenciales de forma segura en sus PC con Windows 11, lejos de la nube.

NVIDIA también presenta AI Workbench, un completo conjunto de herramientas diseñado para agilizar el proceso de desarrollo para los creadores. Esta plataforma simplifica la creación, prueba y personalización de LLM y modelos de IA generativa previamente entrenados, lo que permite a los desarrolladores gestionar de manera eficiente sus proyectos de IA y adaptar modelos a casos de uso específicos.

En colaboración con Microsoft, NVIDIA está mejorando DirectML, que promete acelerar modelos fundamentales de IA como Llama 2. Esta colaboración amplía el alcance de la implementación entre proveedores y establece un nuevo punto de referencia en estándares de rendimiento.

El próximo lanzamiento de TensorRT-LLM v0.6.0 es otro paso adelante y promete un rendimiento de inferencia hasta cinco veces más rápido. También admitirá LLM populares adicionales, incluidos Mistral 7B y Nemotron-3 8B. Se podrá acceder a estos modelos en las GPU GeForce RTX series 30 y 40 con 8 GB de RAM o más, lo que hará que las capacidades avanzadas de IA estén disponibles incluso en los dispositivos Windows más portátiles.

Para respaldar estos avances, NVIDIA está poniendo a disposición la nueva versión de TensorRT-LLM y los modelos optimizados en su repositorio GitHub y ngc.nvidia.com.

Con estas innovaciones, NVIDIA no sólo mejora la experiencia de PC para su amplia base de usuarios; está allanando el camino para una nueva era en la informática mejorada con IA en Windows 11, marcando un momento crucial en la intersección de la tecnología y la vida cotidiana.

Interactuar con StorageReview