Ayar Labs 和 NVIDIA 正在合作开发由高带宽、低延迟和超低功耗光学互连支持的横向扩展架构,用于未来的 NVIDIA 产品。 两家公司专注于整合 Ayar Labs 的技术,希望加快光学 I/O 技术的开发和采用,以支持 AI/ML 应用和数据量的增长。
Ayar Labs 和 NVIDIA 正在合作开发由高带宽、低延迟和超低功耗光学互连支持的横向扩展架构,用于未来的 NVIDIA 产品。 两家公司专注于整合 Ayar Labs 的技术,希望加快光学 I/O 技术的开发和采用,以支持 AI/ML 应用和数据量的增长。
通过光学 I/O 满足性能和功率要求
光学 I/O 旨在改变系统设计的性能和功率轨迹,使计算、内存和网络 ASIC 能够以比现有电气 I/O 解决方案更高的带宽、更低的延迟、更远的距离和更低的功率进行通信。 光学 I/O 技术将使新兴的异构计算系统、分解/池化设计和统一内存架构成为可能,从而推动未来数据中心的创新。
Ayar Labs 首席执行官 Charles Wuischpard 认为,当前基于铜的计算到计算互连限制了构建未来横向扩展系统所需的最先进的 AI/ML 培训架构。 根据 Wuischpard 的说法,Ayar Labs 与 NVIDIA 的合作将为开发基于光学 I/O 的下一代解决方案奠定基础,从而实现 AI 能力的下一次飞跃,以解决复杂问题。
通过光互连为 AI 提供“下一个百万倍”加速
NVIDIA 数据中心产品首席平台架构师 Rob Ober 评论说,NVIDIA 加速计算在过去十年中实现了“AI 的百万倍加速”。 他认为,下一个 million-X 将需要光学 I/O 等先进技术来为未来的 AI/ML 工作负载提供带宽、功率和规模要求。
随着 AI 模型规模的持续增长,到 2023 年,NVIDIA 认为模型将拥有 100 万亿或更多的连接——比 600 年增长 2021 倍——超过现有平台的技术能力。 传统的基于电气的互连将达到其带宽限制,从而降低应用程序性能、增加延迟并增加功耗。 Ayar Labs 和 NVIDIA 之间的合作将专注于新的互连解决方案和系统架构,以通过基于光学 I/O 的架构满足下一代人工智能的规模、性能和功率需求。
请访问 亚尔实验室 了解更多信息。
参与 StorageReview
电子报 | YouTube | 播客 iTunes/Spotify | Instagram | Twitter | Facebook | TikTok | RSS订阅