首頁 企業AI Rapt AI 與 AMD 合作利用 Instinct GPU 優化 AI 基礎設施

Rapt AI 與 AMD 合作利用 Instinct GPU 優化 AI 基礎設施

by 哈羅德弗里茨

Rapt AI AMD 合作將工作負載自動化與 AMD Instinct GPU 結合,以增強 AI 基礎設施效率並降低 TCO。

Rapt AI 宣布與 AMD 建立策略合作,利用 AMD Instinct GPU 轉變 AI 基礎設施的管理和效能。隨著人工智慧的普及,此次合作解決了企業在管理資源分配、克服效能瓶頸和處理高階 GPU 配置時日益增加的複雜性。

此次合作將 Rapt AI 先進的智慧工作負載自動化平台與 AMD 的 Instinct GPU 整合,其中包括 米300X 和MI325X型號以及即將推出的MI350系列。目標是提供適合現代運算需求的強大、高度可擴展且經濟高效的解決方案。

Rapt AI AMD 與 Instinct GPU

這項聯合努力使組織能夠簡化營運、提高運算效率並管理跨不同環境(包括內部資料中心和多雲基礎設施)的複雜工作負載。透過利用該解決方案,企業可以顯著提高生產力,降低營運費用,並最大限度地提高人工智慧技術的投資回報,使其成為當今競爭環境中的重要資產。

此次合作的一個主要好處是透過優化 GPU 利用率來實現成本降低。 AMD Instinct GPU 以其領先的記憶體容量和運算能力而聞名,與 Rapt 的智慧資源優化技術相結合。這種協同作用可確保 GPU 始終以尖峰效率運行,從而降低部署嚴苛 AI 工作負載的組織的總擁有成本 (TCO)。

全神貫注的 AI AMD

另一個顯著的優勢是跨不同環境的無縫部署。 Rapt AI 的自動化功能簡化了 GPU 管理,消除了通常給資料科學家帶來負擔的耗時的反覆試驗基礎設施配置。此解決方案可自動優化資源分配,使技術團隊專注於創新而不是常規基礎設施管理。該平台支援多種 GPU 環境,包括 AMD 和其他品牌,透過統一介面為雲端和本地部署提供靈活性。

此外,客戶可以透過智慧優化 AMD Instinct GPU 上的作業密度和資源分配來預期提高推理效能和更大的可擴展性。 Rapt AI 的自動擴展功能可根據需求動態管理資源,減少延遲,增強回應能力,並優化生產 AI 部署的成本。

此次合作確保與 AMD Instinct GPU 的即時相容性,從而促進即時效能增強。此外,Rapt 和 AMD 之間正在進行的合作旨在推進關鍵的 AI 基礎設施元素,例如 GPU 調度和記憶體利用率。

AMD 資料中心 GPU 業務業務開發公司副總裁 Negin Oliver 強調了此次合作的重要性,並表示 AMD 始終專注於提供可擴展、高效能的 AI 解決方案。將 AMD Instinct GPU 與 Rapt 的智慧工作負載自動化相結合,完美契合這項使命,有助於提高基礎設施的效率、靈活性和成本效益。

Rapt AI 執行長 Charlie Leeming 對此合作表示熱情,強調針對 AMD Instinct GPU 的優化將如何大幅增強其平台的功能。 Leeming 表示,此次合作將大大促進人工智慧基礎設施管理,從而加速各產業客戶的創新並獲得更快的投資回報。

Rapt AI 技術長 Anil Ravindranath 強調了基礎設施效率在 AI 部署中的關鍵作用,並強調了 Rapt 的 AI 平台與 AMD 強大的 GPU 緊密整合如何實現前所未有的 GPU 利用率和簡化的部署。 Ravindranath 指出,組織可以期待增強效能、減少延遲以及簡化、可擴展的 AI 資源管理。

透過這項策略聯盟,Rapt AI 和 AMD 重申了推動 AI 基礎設施管理創新、提高效能和營運效率以滿足現代企業不斷變化的需求的承諾。

全神貫注的人工智慧

AMD Instinct GPU

參與 StorageReview

電子報 | YouTube | 播客 iTunes/Spotify | Instagram | Twitter | 的TikTok | RSS訂閱