Rackspace Technology 和 AMD 签署了一份谅解备忘录，为一项专注于为受监管组织和主权工作负载提供企业级 AI 基础设施的多年战略合作伙伴关系建立了框架。
该协议的核心是一个拟议的企业级人工智能云平台，该平台专为关键任务型人工智能部署而设计，其中安全性、治理、合规性和运营问责制是核心要求。该平台将结合 AMD Instinct GPUs 和 AMD EPYC CPU 与 Rackspace Technology 的托管运营模式相结合，为无法依赖通用 GPU 租赁模式或非托管公共基础设施来处理生产 AI 工作负载的组织创建专用 AI 基础设施堆栈。
Rackspace Technology 和 AMD 都强调，许多企业正在将人工智能从实验阶段推进到生产阶段，但面临着巨大的运营挑战，包括基础设施集成、安全、数据治理、性能管理和问责制。目前的模式通常要求企业按小时租用 GPU 容量，同时还要承担大部分的基础设施和运营责任。
两家公司都提出了一种托管方案，即将专用的 AMD 计算资源嵌入到受监管的企业运营模式中。在该框架下，Rackspace 将负责运营整个技术栈，涵盖从芯片和加速计算到推理、代理和生产支持的各个环节。
随着企业将人工智能应用于生产环境，Rackspace Technology 和 AMD 认为信任和问责制至关重要。在受监管的环境中，治理必须从一开始就融入基础设施建设，而不是事后添加。AMD 的角色将侧重于通过其 Instinct GPU 加速器和 EPYC 处理器提供计算基础架构，以支持在私有和受监管环境中对性能、效率和可扩展性有较高要求的人工智能工作负载。
堆栈计划具备四项功能
此次合作旨在帮助 Rackspace 完成一个围绕四项集成功能构建的精选企业级 AI 堆栈：企业级 AI 云、企业级推理引擎、推理即服务和裸机 AMD Instinct。
拟议的企业级人工智能云将是一个完全托管的私有和混合人工智能环境，基于 AMD Instinct GPU、AMD EPYC CPU 和 Rackspace 的受控运营模式构建。Rackspace 将为需要自主权、合规性和运营责任的企业组装、集成和运营该技术栈。
企业推理引擎将为企业提供一个上下文感知运行时环境，该环境能够跨查询传递领域知识、会话历史记录和公司特定上下文信息。其目标是帮助人工智能代理和大型语言模型在生产环境中提供更一致的结果。Rackspace 将负责服务级别承诺，包括可用性、可扩展性和性能，同时允许企业使用其专有数据，并确保可审计性和成本可控性。
推理即服务将为 AMD Instinct GPU 提供专用的托管容量，以及用于推理和微调的开发者工具。客户将自带模型和工程团队，而 Rackspace 将负责裸机 AMD Instinct 容量、硬件级支持、运维管理以及性能服务目标。
裸机 AMD Instinct 将为需要物理隔离、可预测性能和直接硬件访问的客户提供专用的高性能计算，以满足苛刻的训练和推理工作负载需求。
单一运营商负责受监管的人工智能基础设施
这些规划中的功能将为企业提供贯穿人工智能基础设施生命周期的单一责任运营商。Rackspace 负责管理整个堆栈，从裸机计算和开发者工具到推理运行时和受控云基础设施。
目标是使每项工作负载都与相应的自主权、合规性、性能和监管级别相匹配。该谅解备忘录为 Rackspace 和 AMD 提供了一个框架，以便双方在受监管企业、自主工作负载和生产 AI 环境（需要在每个层面都进行问责）的托管企业级 AI 基础设施方面开展合作。
Amazon