首頁 Enterprise NVIDIA A100 GPU 來到谷歌云

NVIDIA A100 GPU 來到谷歌云

by 亞當·阿姆斯特朗
NVIDIA A100 谷歌

在 GTC 上宣布 在 ISC 成為 AIC, NVIDIA A100 GPU 現已登陸穀歌云。 考慮到自最初宣布以來只有大約一個月的時間,這對於 GPU 到主要公共雲來說是一個非常快速的轉變。 谷歌是第一個在其加速器優化 VM (A100) 實例係列下引入 A2 或 Ampere GPU 的主要公共雲。

在 GTC 上宣布 在 ISC 成為 AIC, NVIDIA A100 GPU 現已登陸穀歌云。 考慮到自最初宣布以來只有大約一個月的時間,這對於 GPU 到主要公共雲來說是一個非常快速的轉變。 谷歌是第一個在其加速器優化 VM (A100) 實例係列下引入 A2 或 Ampere GPU 的主要公共雲。

NVIDIA A100 谷歌

正如我們在最初發佈時所說,NVIDIA 的首款 7nm GPU 是 NVIDIA A100。 A100 基於 NVIDIA 的 Ampere 架構,包含 54 億個晶體管。 與之前的 NVIDIA 數據中心 GPU 一樣,A100 包含 Tensor Core。 張量核心是 GPU 的專用部分,專門設計用於快速執行推理中常用的一種矩陣乘法和加法計算。 新的更強大的 GPU 帶來了新的、更強大的 Tensor Cores。 以前,NVIDIA 的 Tensor Cores 最多只能支持 100 位浮點數。 AXNUMX 支持 XNUMX 位浮點運算,精度更高。

一些雲用例需要 GPU 可以提供的計算能力類型,特別是人工智能訓練和推理、數據分析、科學計算、基因組學、邊緣視頻分析、5G 服務等。 新的 NVIDIA A100 GPU 可以將訓練和推理性能提升 20 倍於其前身,使其成為上述目標的理想選擇。

Google Compute Engine 將利用 A100 實現多種用途,從擴展 AI 訓練和科學計算,擴展推理應用程序,到實現實時對話式 AI。 新實例 A2 VM 可以處理各種規模的工作負載。 該實例將在支持 CUDA 的機器學習訓練和推理、數據分析以及高性能計算中發揮作用。 對於大型工作負載,Google 提供了 a2-megagpu-16g 實例,它配備了 16 個 A100 GPU,提供總共 640GB 的 GPU 內存和 1.3TB 的系統內存,所有這些都通過 NVSwitch 連接,聚合速度高達 9.6TB/s帶寬。 對於不需要那麼多功率的客戶,也會有更小的 A2 VM。

在不久的將來,谷歌云將推出 A100 支持谷歌 Kubernetes Engine、Cloud AI Platform 和其他谷歌云服務。

NVIDIA

參與 StorageReview

電子通訊 | YouTube | 播客 iTunes/Spotify | Instagram | Twitter | Facebook | RSS訂閱