在數據中心的所有技術中,沒有一項比網絡連接發展得更快。 20 年前,1GbE 網絡被認為是奇特的,支持它所需的基礎設施(例如 NIC、交換機和電纜)既昂貴又稀缺。 三年前,10GbE 網絡是最先進的,但現在 20、40 甚至 100GbE 網絡已成為數據中心的標準。 隨著虛擬化、軟件定義網絡 (SDN)、覆蓋網絡和其他技術的加入,網絡不僅變得更廣泛,而且變得更加複雜,這些元素在十年前甚至沒有被設想過,但現在已經司空見慣,正在使數據中心服務器的資源緊張。
在數據中心的所有技術中,沒有一項比網絡連接發展得更快。 20 年前,1GbE 網絡被認為是奇特的,支持它所需的基礎設施(例如 NIC、交換機和電纜)既昂貴又稀缺。 三年前,10GbE 網絡是最先進的,但現在 20、40 甚至 100GbE 網絡已成為數據中心的標準。 隨著虛擬化、軟件定義網絡 (SDN)、覆蓋網絡和其他技術的加入,網絡不僅變得更廣泛,而且變得更加複雜,這些元素在十年前甚至沒有被設想過,但現在已經司空見慣,正在使數據中心服務器的資源緊張。
**了解有關 SmartNIC 和可組合數據中心的更多信息,請訪問 賽靈思 Adapt***
當處理超過 10GbE 的網絡時,我們開始看到服務器中出現 CPU 瓶頸,因為網絡數據包被向上傳遞到 CPU 進行處理。 對於 25GbE 網絡,可測量的 CPU 時間百分比用於處理網絡數據包。 為了解決這個問題,我們開發了一些技術來將一些網絡功能從 CPU 下推到網絡接口控制器 (NIC)。 我們稱能夠處理這種卸載的設備 智能網卡.
在本文中,我們將解釋什麼是 SmartNIC、它們為數據中心帶來的價值,以及您應該開始研究和投資它們的原因。 最後,我們將看看特別創新的 SmartNIC,Xilinx SN1000。
什麼是智能網卡?
將網絡操作從 CPU 卸載到 NIC 一直是主要雲提供商的重點,因為他們一直在推動數據中心的效率。 對於將 NIC 標記為 智能; 但是,至少,它們應該能夠處理虛擬交換機中的一些控制平面功能,以及網絡功能虛擬化 (NFV) 功能中的一些功能,例如防火牆、入侵檢測和預防、主機檢查和加密,以及數據平面任務,例如網絡服務質量 (QoS) 和流量報告和監控。
是什麼推動了 SmartNIC 的採用?
在過去十年中,公有云和超大規模數據中心推動了數據中心的創新,並將在可預見的未來繼續如此。 他們使用的技術最終會滲透到企業數據中心,SmartNIC 也是如此。 事後看來,SmartNIC 只是將網絡功能放在它們最初應該放在的位置:回到 NIC 而不是浪費 CPU 和主板帶寬。
很容易想像有多少網絡流量被丟棄或回發到網絡上,而沒有為被迫處理它們的系統/CPU 增加任何價值——僅僅是因為 NFV 和其他功能是使用傳統服務器的 CPU 而不是實現的比在 NIC 級別。 每個可以從 CPU 卸載的 CPU 週期都會釋放它並允許服務器進行生產性工作。
為了說明 SmartNIC 的好處,我們可以舉一個像分佈式拒絕服務 (DDoS) 攻擊這樣簡單的例子。 儘管 DDoS 在現代數據中心很少見,但讓 SmartNIC 處理 DDoS 將允許系統的 CPU 繼續進行高效工作,而不是對數據包進行排序、分類和丟棄。 一個更現代的例子是讓 SmartNIC 處理覆蓋網絡而不是系統 CPU 使用的網絡數據包的封裝。
為什麼 Xilinx 是 SmartNIC 技術的領導者
隨著所有新興技術的出現,有些公司將自己置於技術的最前沿。 這些公司往往對技術充滿熱情並專注於技術。 他們將精力投入到克服阻礙新技術進入市場的無數障礙的目標上。 Xilinx 就是這樣一家公司。
Xilinx 長期以來一直是新興技術的創新者。 例如,他們發明了現場可編程門陣列 (FPGA),並被認為是該技術的領導者。 將一項新技術(如 SmartNIC)推向市場並不是一項成本低廉的提議,而且 3 年的收入超過 2020 億美元,他們有財力這樣做。 但它也需要嚴謹的工程和管理專業知識——同樣,Xilinx 兩者兼備。
2019 年 100 月,Xilinx 達成收購 Solarflare Communications 的協議,Solarflare Communications 是較早的超低延遲網絡和應用加速開發商,也是 SmartNIC 技術的領導者。 同年晚些時候,Xilinx 展示了基於 Solarflare 和 Xilinx 技術的基於 FPGA 的單芯片 1000G SmartNIC。 這款 SmartNIC 將 Xilinx FPGA、片上系統 (SoC) 和自適應計算加速平台 (ACAP) 與 Solarflare 的技術相結合,創建了一種新的融合 SmartNIC 解決方案,即成為 Xilinx SNXNUMX。
賽靈思 ALVEO SN1000
Xilinx SN1000 是 FHHL PCIe x16 物理(第 4 代 x8 或第 3 代 x16 電氣)NIC,具有雙 100GbE 銅纜或光纖端口。 它有一個 16 核 Cortex-A72 處理器和一個具有超過一百萬個查找表 (LUT) 的 FPGA。 LUT 基本上是 FPGA 構建其邏輯的方式; FPGA 擁有的 LUT 越多,它就越強大和靈活。 該卡共有 12 GB 的 DDR4 RAM,其中 4 GB 專用於 Arm 處理器,8 GB 專用於 FPGA。 這種硬件方案轉化為 SN1000 能夠卸載 4 萬個有狀態連接並每秒處理 100 億個數據包 (PPS)。
專用集成電路 (ASIC)、FPGA 和 SoC 可用於製作 SmartNIC。 ASIC 可以是高性能的; 但是,它們的靈活性有限,並且很難向它們添加額外的功能。 雖然 SoC 非常靈活,但它們缺乏 ASIC 和 FPGA 的速度。
為了在其 SN1000 SmartNIC 中同時提供靈活性和性能,Xilinx 由於其固有的靈活性而將強大的 SoC 用於控制平面功能,並出於性能原因將其與 FPGA 配合用於數據平面功能。 使用 FPGA 優於 ASIC 的主要優勢在於,當開發和/或需要新功能時,可以對 FPGA 進行重新編程,而在現場獲得新的 ASIC 可能需要一年或更長時間。
為 FPGA 開發代碼不是一件小事,Xilinx 有一些優秀的工具可以幫助滿足這一需求。 使用 Xilinx 開發和編程工具集,Xilinx 客戶可以使用軟件開發人員習慣的高級編程語言編寫自己的 FPGA 應用程序,而不是傳統上用於 FPGA 應用程序開發的硬件代碼。
Xilinx 還開發了一個 應用市場 其中可以獲得 Xilinx 和第三方開發的解決方案。 這種方法允許 SN1000 買家通過繞過開發週期來實現更快的價值實現時間 (TTV)。 應用商店有針對 NFV、網絡安全、圖像處理、機器學習 (ML) 以及其他可以並且應該在 SmartNIC 級別完成的功能的解決方案。
Xilinx 應用程序被打包為 docker 容器。 它們可以免費評估使用,然後通過信用卡直接從商店購買。
雖然 Xilinx SmartNIC 是一款領先的產品,但這並不是說它們遙遙領先以至於阻礙了採用和使用。 相反,Xilinx SmartNIC 已被部署用於解決公共雲、超大規模應用程序和現代數據中心中的特定用例。 它們的用途包括: VXLAN 和 NVGRE 隧道封裝、開放式虛擬交換機 (OVS)、Intel DPDK 和 Virtio-net I/O。
SmartNIC 的另一個有趣用例是它們被用於卸載 Ceph 對象存儲客戶端等存儲功能,並且 NVMe-oF 越來越受歡迎。 此外,對於高速交易,Xilinx 表示,他們的 SmartNIC 可以實現納秒級的“tick to trade”算法交易延遲。
視頻分析是 SmartNIC 大放異彩的另一個領域。 由於視頻涉及的數據量很大,將其傳回中央存儲庫是不切實際的。 作為一種解決方案,SmartNIC 被用在邊緣設備上以處理視頻解釋功能,例如面具檢測、人數統計和跟踪以及虛擬圍欄,因為這些需要 FPGA 可以快速有效地處理的 AI 推理。
為什麼需要 SmartNIC
隨著高帶寬網絡的興起,我們對數據中心服務器的要求越來越高。 我們已經到了這樣一個地步,由於需要用更多網絡帶寬處理的網絡數據包數量,服務器做有利可圖的工作的周期更少。 一些研究表明,在具有高帶寬網絡的傳統數據中心中,超過 20% 的服務器 CPU 週期可用於數據包處理。 例如,對於 3GHz CPU,處理器有大約 300 個週期來處理 1500B 數據包以跟上線路速率。
為了釋放 CPU 來完成它們設計用於執行的高價值工作,我們需要將不必要的功能卸載到其他設備,這些設備更接近它們的來源。 在這種情況下,處理網絡的正確設備是 SmartNIC。
雖然 SmartNIC 不僅僅是 Xilinx 的專利範圍,但它們處於這一新興技術的前沿。 通過將 SoC 與 FPGA 結合使用,他們能夠獲得軟件定義解決方案的易用性和靈活性以及硬件實現解決方案的性能。 Xilinx 知道應用程序需要利用 SmartNIC,因此他們創建了一個編程環境,允許計算機程序員而不是硬件工程師開發在其 SmartNIC 上運行的應用程序。 對於那些尋求更快 TTV 提議的用戶,Xilinx 有一個應用程序商店,允許購買第三方應用程序。
為了使現代數據中心具有競爭力,它需要將服務器從盡可能多的不需要的任務中解放出來。 這些任務包括狀態防火牆、負載平衡、IPsec、TLS、NVMe-over-TCP、Virtio.blk 存儲訪問、數據壓縮或使用 SmartNIC 更好地管理的無數其他功能。
在 Xilinx Adapt 了解更多信息
賽靈思 Adapt 是 24 年 25 月 2021 日至 XNUMX 日舉行的數字活動,將涵蓋智能網卡在數據中心的相關性以及雲計算、計算存儲和可組合數據中心等重要主題。 免費入場,之後將提供重播。
參與 StorageReview
電子通訊 | YouTube | 播客 iTunes/Spotify | Instagram | Twitter | Facebook | RSS訂閱