存储评论网

博通通过面向企业人工智能的代理基础架构扩展了 VMware Tanzu 平台

云端  ◇  企业版

在金融人工智能峰会上,博通公司推出了 VMware Tanzu 平台代理基础架构,并将其定位为默认安全的运行时环境,用于在 VMware Cloud Foundation (VCF) 上构建和运行自主人工智能应用程序。此次发布将 Tanzu 成熟的代码到生产环境模型扩展到人工智能代理,旨在帮助企业团队从孤立的人工智能实验转向受控的生产规模部署。

将人工智能代理引入企业运营

随着人工智能代理承担执行和决策角色,运营需求也转向治理、安全以及与企业系统的集成。许多组织仍然在缺乏核心数据访问权限和标准化控制措施的隔离环境中运行人工智能工作负载。

VMware Tanzu 平台图形

Tanzu平台代理基础架构通过提供一个预先构建的平台即服务(PaaS)层来弥补这一差距,该层直接基于VCF构建,用于处理代理工作负载。这使得平台工程团队能够使用熟悉的工具和流程来管理AI服务以及传统应用程序,而无需深入了解AI基础设施。

默认拒绝代理运行时

代理运行时引入了一系列控制措施来约束代理行为并降低操作风险。

软件供应链采用可信的构建包进行管理,而非用户自定义的 Dockerfile。容器会自动构建、修补和验证,从而降低了遭受嵌入式漏洞或恶意组件攻击的风险。

密钥管理在结构层面得到严格执行,防止代理访问其权限范围之外的凭据。VMware vDefend 进一步强化了这种隔离机制,它将保护范围扩展到基础架构服务和外部 SaaS 集成,从而限制了横向移动。

网络采用零信任模型。代理在预定义的资源和连接边界内运行,默认情况下无法访问内部系统或模型。访问权限通过安全服务绑定显式授予,确保代理仅与授权的数据源和服务交互。

开发者入职和集成数据服务

该平台包含预置的代理模板,可加快用户上线速度。开发人员可以为代理配置受控访问权限,使其能够访问模型、模型上下文协议服务器以及由 IT 部门定义的精选市场服务。

平台集成了多种数据服务,包括使用 pgvector 的 Tanzu for Postgres,以及缓存、流处理和数据流服务。对 Spring AI 内存服务的支持实现了符合企业应用模式的有状态代理行为。

VMware Cloud Foundation 上的运营扩展

Tanzu平台代理基础架构与VCF基础架构API集成,从而抽象化资源配置和生命周期管理。这确保代理工作负载及其依赖项能够获得所需的计算、存储和网络资源,而无需直接与基础架构交互。

弹性扩展允许环境根据工作负载需求进行扩展或缩减,支持短期代理和持久代理,同时优化成本和利用率。

通过多层冗余和自动修复机制实现高可用性。该平台持续监控并自我修复底层基础设施,以确保关键任务型自主应用的服务连续性。

集成式AI网关可集中控制模型和工具的访问权限。它管理VCF上公共和私有模型的可用性、使用策略、成本控制和安全过滤。

据博通公司Tanzu事业部总经理Purnima Padmanabhan介绍,快速的智能代理应用开发正在推动与客户的合作,从而加速创新。她强调,Tanzu平台智能代理基础架构能够将智能代理理念快速部署到现代私有云上,尤其是在VMware Cloud Foundation 9平台上。

借助代理基础架构,博通正将 Tanzu 平台与新兴的企业级 AI 需求相契合,重点关注治理、安全性和运营一致性。该方案基于现有的 VMware 基础架构投资,并为基于代理的应用程序引入了标准化的运行时环境,从而使大规模 AI 部署更具可预测性和可管理性。

参与 StorageReview

资讯订阅 | YouTube | 播客 iTunes/Spotify | Instagram | Twitter(现为X) | TikTok | RSS订阅

哈罗德弗里茨

自 IBM 创建 Selectric 以来,我一直在科技行业工作。 不过,我的背景是写作。 因此,我决定退出售前业务,回归本源,从事一些写作工作,但仍从事技术工作。