对于 NVIDIA 来说，这是忙碌的一周，但他们的工作还没有结束。 NVIDIA 正在 Microsoft Azure 上推出 AI 代工服务，对于深入定制生成 AI 的企业来说，这是一个强大的新工具。
对于 NVIDIA 来说，这是忙碌的一周，但他们的工作还没有结束。 NVIDIA 正在 Microsoft Azure 上推出 AI 代工服务，对于深入定制生成 AI 的企业来说，这是一个强大的新工具。
以下是 NVIDIA 的 AI 代工服务带来的成果：
- NVIDIA AI 基础模型：这些是您的 AI 构建块。
- NVIDIA NeMo 框架和工具：用于微调 AI 的工具包。
- NVIDIA DGX Cloud AI 超级计算服务：将您的 AI 梦想变为现实的强大动力。
这些元素让企业能够为智能搜索和内容创建等打造自己的 AI 模型，所有这些都由 NVIDIA AI Enterprise 软件提供支持。
生成人工智能驱动的应用程序的定制模型
NVIDIA 的 AI 代工服务可以为跨行业（包括企业软件、电信和媒体）的生成式 AI 应用程序定制模型。 当定制模型准备好部署时，企业可以使用一种称为 检索增强生成（RAG） 将他们的模型与企业数据连接起来并获得新的见解。
NVIDIA 的服务不仅仅是为了展示；而是为了展示。 这很实用。 行业领导者 SAP SE、Amdocs 和 Getty Images 已经使用此服务创建自定义模型。 从软件到电信等行业现在可以制作满足其需求的人工智能应用程序。 SAP 正在将其用于 AI 副驾驶 Joule，Amdocs 正在增强其电信 AI 解决方案的 amAIz 框架。
NVIDIA 首席执行官黄仁勋强调了该服务利用公司独特数据定制 AI 的能力。 Microsoft 首席执行官 Satya Nadella 致力于在 NVIDIA 的帮助下推动 Azure 上的 AI 创新。
Nemotron-3 8B
NVIDIA 提供各种 AI Foundation 模型，包括多功能 Nemotron-3 8B 系列，可在 Azure AI 和 NVIDIA NGC 目录中找到。 这些模型可供多语言使用和各种应用程序使用。 Meta 的 Llama 2 模型等社区模型针对 NVIDIA 进行了优化以加速计算，也可在 NVIDIA NGC 上使用，并且很快就会进入 Azure AI 模型目录。
NVIDIA DGX 云登陆 Azure 市场
NVIDIA DGX Cloud AI 超级计算现已登陆 Azure Marketplace。 租用您需要的东西，轻松扩展并享受 NVIDIA AI Enterprise 软件以进行快速 LLM 定制。 它具有客户可以租用的实例，可扩展到数千个 NVIDIA Tensor Core GPU，并附带 NVIDIA AI Enterprise 软件（包括 NeMo）以加速 LLM 定制。
通过将 NVIDIA AI Enterprise 集成到 Azure 机器学习中，用户可以获得稳定、安全的 AI 平台。 它还出现在 Azure Marketplace 上，提供一系列人工智能开发和部署的可能性。
NVIDIA 在 Azure 上的 AI 代工服务不仅仅是一个更新； 这是一种定制人工智能开发的创新方法。
NVIDIA 和 Microsoft 通过高级 AI 功能增强 Azure
微软正在加强其在 Azure 上的人工智能游戏，推出基于 H100 的新虚拟机，并计划未来添加 H200 Tensor Core GPU。 在 Ignite 大会上宣布，全新 NC H1005 v100 VM 系列是云计算领域的首创，采用 NVIDIA H100 NVL GPU。 这些虚拟机配备了两个通过 NVIDIA NVLink 连接的基于 PCIe 的 H4 GPU，可提供近 188 petaflops 的 AI 计算能力和 3GB 的高速 HBM100 内存。 H12 NVL GPU 功能强大，与之前的型号相比，在 GPT-3 175B 上提供的性能高达 XNUMX 倍，非常适合推理和主流训练工作负载。
将 NVIDIA H200 Tensor Core GPU 集成到 Azure 中
微软计划明年将 NVIDIA H200 Tensor Core GPU 集成到 Azure 中。 此升级旨在处理更大的模型推理，而不增加延迟，这对于法学硕士和生成人工智能模型来说是理想的选择。 H200 凭借 141GB HBM3e 内存和 4.8 TB/s 峰值内存带宽脱颖而出，显着优于 H100。
此外，微软还通过 NCC H100 v5（一种新的机密虚拟机）扩展其 NVIDIA 加速产品。 这些 Azure 机密虚拟机配备 NVIDIA H100 Tensor Core GPU，可确保数据和应用程序在使用时的机密性和完整性。 这种增强的安全功能与 H100 的加速功能相结合，很快就会在私人预览版中提供。
NVIDIA 和 Microsoft 的这些进步标志着 Azure 云计算和 AI 功能的重大飞跃，为要求苛刻的 AI 工作负载提供了前所未有的强大功能和安全性。
NVIDIA 通过 Omniverse Cloud 上的新仿真引擎促进汽车数字化
NVIDIA 正在加强其在汽车行业的竞争，在 Omniverse Cloud 上引入了两个新的模拟引擎：虚拟工厂模拟引擎和自动驾驶汽车 (AV) 模拟引擎。 Omniverse Cloud 托管在 Microsoft Azure 上，正在改变汽车公司处理产品生命周期的方式，从物理、手动流程转向软件驱动、人工智能增强的数字系统。
虚拟工厂仿真引擎：汽车制造商的游戏规则改变者
该引擎是工厂规划团队实时连接和协作大规模工业数据集的工具包。 它使设计团队能够构建虚拟工厂并无缝共享他们的工作。 这提高了生产质量和产量，并通过避免施工后变更节省了大量时间和金钱。
主要功能包括与 Autodesk Factory Planning 和西门子 NX 等现有软件兼容，从而增强跨不同平台的协作。 T-Systems 和 SoftServe 已经利用该引擎来开发自定义虚拟工厂应用程序。
AV 仿真引擎：彻底改变自动驾驶汽车开发
AV 仿真引擎旨在提供高保真传感器仿真，这对于开发下一代 AV 架构至关重要。 它允许开发人员在虚拟环境中测试自主系统，集成感知、规划和控制等车辆堆栈层。
该引擎对于开发先进的统一自动驾驶架构至关重要，需要高质量的传感器数据模拟。 NVIDIA 将其 DRIVE Sim 和 Isaac Sim 传感器模拟管道集成到该引擎中，为摄像头、雷达、激光雷达和其他传感器提供真实的模拟。
加速数字化转型
该工厂模拟引擎现已在 Azure Marketplace 上提供，提供 NVIDIA OVX 系统和托管 Omniverse 软件。 传感器模拟引擎即将推出。 此外，企业可以在优化的Azure虚拟机上部署Omniverse Enterprise，进一步简化汽车行业的数字化流程。
Omniverse Cloud 上的 NVIDIA 全新仿真引擎标志着汽车数字化迈出了重要一步，为虚拟工厂规划和自动驾驶开发提供了强大的工具。
AI 革命席卷 Windows 11：NVIDIA RTX GPU 的巨大飞跃
NVIDIA 正在重塑 Windows 11 格局，利用 RTX GPU 的强大功能为游戏玩家、创作者和日常 PC 用户带来新的体验。 凭借超过 100 亿台配备 RTX GPU 的 Windows PC 用户群，NVIDIA 的最新创新有望将生产力和创造力提升到新的高度。
这些发展的最前沿是在 Omniverse Cloud 上引入了两个新的模拟引擎——虚拟工厂和自动驾驶汽车 (AV) 模拟引擎。 这些引擎托管在 Microsoft Azure 上，正在彻底改变汽车行业的产品生命周期，从传统的手动流程过渡到高效的人工智能增强型数字系统。
NVIDIA 的开源软件 TensorRT-LLM 进行了一次重大更新，旨在增强 AI 推理性能。 此更新将扩展对新大型语言模型的支持，使配备 8GB VRAM 起的 RTX GPU 的台式机和笔记本电脑能够更轻松地处理复杂的 AI 工作负载。 这一增强功能改变了游戏规则，特别是考虑到适用于 Windows 的 TensorRT-LLM 即将与 OpenAI 的聊天 API 兼容。 这种集成意味着许多开发人员项目和应用程序现在可以在 RTX PC 上本地运行，从而允许用户将敏感数据安全地保存在 Windows 11 PC 上，远离云端。
NVIDIA 还推出了 AI Workbench，这是一个旨在简化创作者开发流程的综合工具包。 该平台简化了预训练的生成式人工智能模型和法学硕士的创建、测试和定制，使开发人员能够有效管理其人工智能项目并根据特定用例定制模型。
NVIDIA 与 Microsoft 合作，正在增强 DirectML，它有望加速 Llama 2 等基础 AI 模型。此次合作扩大了跨供应商部署的范围，并在性能标准方面树立了新的基准。
即将发布的 TensorRT-LLM v0.6.0 是又一次飞跃，有望将推理性能提高五倍。 它还将支持其他流行的法学硕士，包括 Mistral 7B 和 Nemotron-3 8B。 这些模型可在具有 30GB 或更高 RAM 的 GeForce RTX 40 和 8 系列 GPU 上访问，从而使先进的 AI 功能甚至可以在最便携的 Windows 设备上使用。
为了支持这些进步，NVIDIA 在其 GitHub 存储库和 ngc.nvidia.com 上提供了新版本的 TensorRT-LLM 和优化模型。
凭借这些创新，NVIDIA 不仅增强了其庞大用户群的 PC 体验，而且还增强了其庞大用户群的 PC 体验。 它为 Windows 11 上人工智能增强计算的新时代铺平了道路，标志着技术与日常生活交叉的关键时刻。
参与 StorageReview
电子报 | YouTube | 播客 iTunes/Spotify | Instagram | Twitter | TikTok | RSS订阅
