存储评论网

HPE推出AI Grid,利用NVIDIA参考架构连接AI工厂和分布式推理集群。

企业版  ◇  社交

HPE 发布了 HPE AI Grid,这是一个与人工智能 (AI) 相关的综合基础设施解决方案。 NVIDIA AI Grid 参考架构旨在安全地连接区域和远程边缘位置的 AI 工厂和分布式推理集群。HPE 将此平台定位为服务提供商的理想之选,帮助他们将数千个分布式推理站点部署和管理为一个统一的协调系统。

HPE AI Grid 图片

HPE推出AI Grid解决方案,旨在满足日益增长的对可预测延迟、确定性性能和分布式部署需求的AI原生应用。该公司声称,该解决方案可大规模实现超低延迟,并提供零接触配置、集成编排和自动化安全功能,从而简化大型、地理位置分散部署的生命周期管理。

HPE 执行副总裁、总裁兼网络业务总经理 Rami Rahim 将该战略描述为将智能技术更靠近数据生成和使用地点,网络基础设施将成为实时 AI 服务的关键推动因素。NVIDIA 全球电信业务副总裁 Chris Penrose 强调了 AI Grid 在连接地理位置分散的集群以及根据性能、成本和延迟动态分配工作负载方面的重要性,其中 HPE 提供多云路由和边缘基础设施,而 NVIDIA 则提供加速计算和网络组件。

全栈硬件和网络基础

HPE 表示,HPE AI Grid 提供了一个统一的软硬件平台,旨在支持服务提供商的运营模式,包括多租户和云原生安全。该架构以 HPE Juniper 的电信级网络功能为核心,包括多云路由和用于长途及城域连接的相干光模块。HPE 还强调了集成防火墙、广域网自动化和编排功能,以实现零接触部署和持续生命周期管理。

HPE ProLiant Compute DL380a Gen12

在计算方面,HPE 将边缘服务器和机架服务器与 NVIDIA 加速计算以及高性能网络和 I/O 堆栈相结合。HPE 列出了对 NVIDIA RTX PRO 6000 Blackwell 服务器版 GPU、NVIDIA BlueField DPU、Spectrum-X 以太网交换机和 ConnectX SuperNIC 的支持。该堆栈还包含 NVIDIA AI 蓝图,以加速跨分布式站点部署推理服务。

服务提供商重点

HPE 将 AI Grid 定位为面向需要可预测延迟和可靠连接的应用,包括零售个性化、预测性维护、边缘医疗和运营商级 AI 服务。该公司表示,该平台可以帮助运营商将现有电力和连接设施的站点转化为支持无线接入网 (RAN) 的 AI Grid 节点,从而有效扩展推理的适用范围,而无需将每个位置视为单独的部署。

实地试验和合作伙伴生态系统

作为更广泛的AI Grid计划的一部分,康卡斯特宣布在其分布式网络上开展新的AI现场试验,重点关注实时边缘推理。HPE表示,早期试验包括在HPE ProLiant服务器上运行来自Personal AI(HPE Unleash AI合作伙伴计划的一部分)的小型语言模型,这些模型部署在NVIDIA GPU上,用于面向小型企业的AI驱动型“前台”服务。

参与 StorageReview

资讯订阅 | YouTube | 播客 iTunes/Spotify | Instagram | Twitter(现为X) | TikTok | RSS订阅

哈罗德弗里茨

自 IBM 创建 Selectric 以来,我一直在科技行业工作。 不过,我的背景是写作。 因此,我决定退出售前业务,回归本源,从事一些写作工作,但仍从事技术工作。