首頁 Enterprise 高容量 SSD 支持邊緣數據收集和 AI

高容量 SSD 支持邊緣數據收集和 AI

by 布賴恩·比勒

毫無疑問,邊緣用例是許多 IT 組織最關心的問題。 您不必從事零售或石油和天然氣勘探工作,也能了解隨著在邊緣創建和收集的數據越來越多,IT 需要為大量新興邊緣任務設計更好的硬件解決方案。 邊緣實時人工智能的額外優勢層層疊加,輕量級邊緣服務器很容易負擔過重。

毫無疑問,邊緣用例是許多 IT 組織最關心的問題。 您不必從事零售或石油和天然氣勘探工作,也能了解隨著在邊緣創建和收集的數據越來越多,IT 需要為大量新興邊緣任務設計更好的硬件解決方案。 邊緣實時人工智能的額外優勢層層疊加,輕量級邊緣服務器很容易負擔過重。

不過,還有一個有趣的選擇。 Cheetah RAID Raptor 通過提供模塊化存儲罐的服務器幫助組織管理龐大的邊緣數據,該服務器現在僅可在 3 個驅動器上支持近 4/12 PB 的容量。

獵豹突襲猛禽

Cheetah RAID Raptor是一款高性能服務器,旨在克服存儲性能的常見瓶頸,該瓶頸通常會限制邊緣場景中的服務器性能。 除了各種 PCIe® 擴展選項外,Raptor 的亮點還包括三個熱插拔 Gen4 NVMe® 容器、最多 64 個內核的 AMD EPYC CPU 以及 128 個 Gen4 PCIe 通道。

從服務器設計的角度來看,三罐設計是 Raptor 與眾不同的核心特徵。 每個容器最多可容納四個 SSD。 這些容器允許獨立記錄和處理數據,並且模塊化允許輕鬆地將容器熱插拔和遷移到不同位置。 物理交換容器的能力使數據遷移擺脫了網絡結構的限制。

對於生成大量數據的各種邊緣用例,Raptor 從高容量驅動器中受益匪淺。 在這種情況下,SSD 是完美的選擇,因為這些服務器位於自動駕駛汽車的後部或嵌入飛機或其他經常發生碰撞的車輛中。 隨著最近推出的 Solidigm 61.44TB 固態硬盤,單個系統可以容納驚人的數據密度。 在單個服務器中存儲近 PB 數據的能力相當於更多的數據收集和更少的交換容器時間。 在我們的測試中,我們使用 12 個 Solidigm P5316 SSD,驅動器容量為 30.72TB。

獵豹 RAID 猛禽設計

如前所述,該伺服器配備了 AMD EPYC Zen 3 (Milan) CPU,為 Cheetah RAID Raptor 提供了令人印象深刻的處理能力。 Cheetah 的資料容器旨在支援 AMD Milan,讓資料容器立即將資料從行動車輛遷移到資料中心。

Raptor 設計包括詳細的氣流考慮因素,利用 AMD Milan 處理器的能力,能夠使用所有 64 個內核和 128 個 Gen4 PCIe 通道。 配備 AMD Milan 的 Raptor 可以支持要求苛刻的應用程序,同時仍然提供低延遲的存儲訪問。

罐式設計允許單獨記錄和處理數據。 處理數據後,容器可以熱插拔到不同的位置。 Raptor 已經切斷了限制數據遷移到外部網絡結構的界限。 這些容器支持 SED 驅動器,並且可以加密以提供額外的數據安全性。

Cheetah RAID Raptor 規格表

支持的CPU 支持 AMD EPYC™ 7003 和 7002 系列處理器
插座 單路 SP3 (LGA4094)
芯片組 片上系統
支持的內存 8 個 DIMM 插槽 (1DPC)
支持高達 2TB 註冊 ECC DDR4 3200MHz SDRAM
8通道內存總線
IO接口 1x 串口
1x VGA端口
4 個 A 型 (USB3.0)
2x RJ45
1 個 IPMI
擴展插槽 5 個 PCI-E 4.0 x16
2 個 PCI-E 4.0 x8
– 支持 3 個 Broadcom/Microchip 硬件 RAID 控制器或 3 個 Gen4 x16 重定時器卡
– 四個備用插槽用於網絡適配器或硬件加速器
驅動器托架 12x U.2/U.3 2.5” NVMe PCIe Gen 4 SSD,通過 3 個熱插拔 NVMe 容器
散熱 4x 80x38mm 高速冷卻風扇
前面板 通過 LED 開啟/關閉電源
重置開關
NMI開關
帶 LED 的定位開關
4 個局域網 LED
警示燈
支持的操作系統 Microsoft® Windows:
– 服務器 2016(64 位)
– 服務器 2019(64 位)
Linux的:
– 紅帽企業 Linux 服務器 8.2(64 位)/7.9(64 位)
– CentOs 8.2(64 位)/7.9(64 位)
– SUSE SLES 15.2(64 位)/12.5(64 位)
– UBuntu 20.04.1(64 位)/18.04.5(64 位)/16.04.7(64 位)
管理程序:
– VMWare® ESXi 6.7 u3 / 7.0 u1
– vSphere 6.7 u3 / 7.0 u1
– CITRIX 管理程序 8.1.0
電力 800W冗餘電源
環境建議 工作溫度:10℃~35℃
非工作溫度:-40℃~70℃
非工作濕度:20% ~ 90%(非凝結)

遷移數據

每個 Cheetah RAID Raptor 容器均可通過 16 個 PCIe Gen4 通道直接連接到 AMD CPU,或通過硬件 NVMe RAID 控制器鏈接。 為了滿足具有熱插拔功能的大容量、高傳輸速率存儲服務器的要求,Cheetah RAID 存儲采用了 Microchip 的 Adaptec SmartRAID 3200 系列 RAID 適配器.

Adaptec SmartRAID 3200 系列基於 Microchip 第五代存儲控制器 SmartROC 5 構建,支持 x3200 和 x8 PCIe Gen 16 主機接口適配器,可提供更高的性能和帶寬,吞吐量高達 4 GB/s。 Adaptec SmartRAID 適配器功能豐富,支持多達 29.6 個 NVMe 設備、多達 32 個 SAS/SATA 和多達 256 個 LD/RAID 陣列、SAS/SATA/NVMe 三模式功能、可信平台支持更高級別的計算和供應鏈安全、maxView™ 工具套件支持、安全啟動、安全更新和認證以及自加密驅動器(SED) 管理軟件。

我們於 2021 年 XNUMX 月審查了 Cheetah RAID Prowler,以強調對可安裝在汽車座椅下或後備箱(英國人的後備箱)中的加固型服務器的需求。 構建能夠承受車輛、飛機、船舶或邊緣位置惡劣條件的服務器需要進行大量工作。 有關背景信息,請閱讀我們在我們的文章中發現的內容 Cheetah RAID Prowler 解決堅固的邊緣計算問題 帖子。

存儲性能

四級單元 (QLC) 驅動器在固態驅動器 (SSD) 領域提供了一系列引人注目的優勢,並且正在證明其價值。 與其他NAND技術相比,QLC驅動器的優勢在於其更高的存儲容量和更低的成本。 QLC 驅動器的每 GB 成本較低,使其成為註重預算的用戶的絕佳選擇。 QLC 驅動器有 SATA 和 NVMe 兩種外形尺寸,其中 NVMe 擁有更快的數據傳輸速度,這在很大程度上要歸功於 NVMe 協議的效率。

Cheetah RAID Raptor 解決方案採用了最近發布的 Solidigm D5-P5336,一款專門構建的QLC 驅動器,非常適合數據密集型工作負載,例如數據管道、人工智能驅動的數據湖、大數據分析、橫向擴展NAS 和邊緣計算,可提供高效、快速的海量數據集存儲和檢索。 對於需要大量存儲容量來進行以讀取為中心的應用程序和通用計算的用戶來說,QLC 驅動器提供了一種有吸引力且經濟高效的選擇。

Solidigm D5-P5336 系列(15.36TB、E1.L 9.5mm PCIe 4.0 x4、3D5、QLC)
要領
產品集合 Solidigm D5-P5336 系列
容量 15.36TB
30.72TB
61.44TB
光刻類型 192L QLC 3D NAND
使用條件 服務器/企業
MMID 99C54G
性能指標
順序帶寬 – 100% 讀取(最多) 7000MB/秒
順序帶寬 – 100% 寫入(最多) 3100 MB / s的
隨機讀取(100% 跨度) 1005 KIOPS(4K、QD256)
隨機寫入(100% 跨度) 35 KIOPS(16K、QD256)
延遲 - 順序讀取(典型值) 8μs(4K 塊)
延遲 – 順序寫入(典型值) 15μs(16K 塊)
延遲 – 讀取 110μs(4K 塊)
延遲 – 寫入 31μs(16K 塊)
電源 - 主動 25W
電源 - 空閒 5W
可靠性
振動 - 操作 最大 2.17 GRMS (5 – 700 Hz)
振動 - 非操作 最大 3.13 GRMS (5 – 800 Hz)
衝擊(工作和非工作) 1,000 毫秒時 0.5 G(最大)
工作溫度範圍 0-70度
耐久性等級(終身寫入) 14.11 PBW(16K 讀寫)
平均無故障時間 (MTBF) 2萬小時
不可糾正的誤碼率 (UBER) <每 1^10 位讀取 17 個扇區
保修期 5年
包裝規格
重量 185 克 +/- 10 克
外形 E1.L
介面 PCIe 4.0 x4,NVMe
先進技術
增強的斷電數據保護
硬件加密
溫度監控和記錄
端到端數據保護

對於我們的存儲性能工作負載,我們通過 Microchip Adaptec SmartRAID 3200 系列 RAID 適配器(SSD 處於 JBOD 模式)測量了性能。 然後,我們測試了 4、8 和 12 個驅動器組合,每組 4 個 SSD 代表一個完整的 NVMe Pod 和一個額外的 RAID 適配器。 為此,我們利用 Vdbench 工作負載進行吞吐量和帶寬測試,測量 64K 順序和 4K 隨機性能。

VDBench 工作負載分析

在對存儲設備進行基準測試時,應用程序測試是最好的,綜合測試排在第二位。 雖然不能完美地代表實際工作負載,但綜合測試確實有助於為具有可重複性因素的存儲設備建立基線,從而可以輕鬆地在競爭解決方案之間進行同類比較。 這些工作負載提供了一系列不同的測試配置文件,從“四個角”測試、常見的數據庫傳輸大小測試到來自不同 VDI 環境的跟踪捕獲。

所有這些測試都利用通用的 vdBench 工作負載生成器,並通過腳本引擎來自動化並捕獲大型計算測試集群的結果。 這使我們能夠在各種存儲設備(包括閃存陣列和單個存儲設備)上重複相同的工作負載。 我們對這些基準測試的測試過程會用數據填充整個驅動器表面,然後對相當於驅動器容量 25% 的驅動器部分進行分區,以模擬驅動器如何響應應用程序工作負載。 這與使用 100% 驅動器並使它們進入穩定狀態的全熵測試不同。 因此,這些數字將反映更高的持續寫入速度。

簡介:

  • 4K 隨機讀取:100% 讀取,128 個線程,0-120% 重複率
  • 4K 隨機寫入:100% 寫入,128 線程,0-120% iorate
  • 64K 順序讀取:100% 讀取,32 線程,0-120% 迭代
  • 64K 順序寫入:100% 寫入,16 個線程,0-120% 迭代

在我們利用CheetahRAID Raptor 內的4、4 和8 個QLC SSD 進行12K 隨機讀取性能的首次測試中,我們測量了2.5 個SSD 的4 萬IOPS、3.5 個SSD 的8 萬IOPS 和3.54 個SSD 的12萬IOPS 的性能。

CheetahRAID QLC 4K隨機讀取

在我們的 4K 隨機寫入工作負載中,我們發現 Raptor 內的 4 個、8 個或 12 個 SSD 之間存在更明確的差異。 在這裡,我們測量了 75 個 SSD 的 4K IOPS、146 個 SSD 的 8K IOPS 和 218 個 SSD 的 12K IOPS。 需要注意的是,4K隨機寫入性能是這類QLC SSD的致命弱點。 例如,Solidigm P5430 是一種 QLC 型號,針對較小的塊尺寸進行了更優化。

CheetahRAID QLC 4K 隨機寫入

將焦點轉向 CheetahRAID Raptor 內部的峰值帶寬,我們測量了 10.8 個 SSD 的帶寬為 4GB/s,16.9 個 SSD 的帶寬為 8GB/s,31.2 個 SSD 的帶寬為 12GB/s。 此處擴展的主要區別在於,每添加 4 個 SSD,就會添加額外的 RAID 卡。

CheetahRAID QLC 64K順序讀取

在我們最終測量的 64K 順序寫入性能中,我們測量了 5.6 個 SSD 的性能為 4GB/s,11.3 個 SSD 的性能為 8GB/s,16.8 個 SSD 的性能為 12GB/s。

CheetahRAID QLC 64K順序寫入

人工智能性能

Raptor 服務器真正引人注目的優勢之一是它不僅能夠快速高效地記錄數據,而且憑藉內部的低功耗 GPU,它還可以處理實時 AI 任務。 我們為服務器配置了 NVIDIA A2 推理 GPU 來測試 Raptor 的邊緣 AI 能力。

由於 Raptor 與 GPU(例如我們添加的 NVIDIA A2)的兼容性,它進一步將自己定位為邊緣計算的首選,特別是在人工智能和機器學習領域。

Raptor 配備高吞吐量 SSD 和多達 64 核 AMD EPYC CPU,可以處理要求苛刻的 AI 算法,提供低延遲的存儲訪問,以實現快速邊緣數據處理和推理。 可熱插拔的設計確保數據可以在不受網絡限制的情況下遷移,進一步提升人工智能應用從數據採集到實時推理的生命週期速度。

在自動駕駛汽車、工業機器甚至無人機等邊緣設備處理大量數據的場景中,Raptor 處理實時人工智能任務的能力將被證明是有價值的。 邊緣人工智能推理使決策更接近數據源,從而產生更直接的行動和見解。 例如,在自動駕駛汽車中,立即處理傳感器數據可以實現實時決策,從而提高安全性和效率。 Raptor 堅固耐用的固態設計確保它能夠承受這些惡劣環境的振動和溫度變化,同時提供所需的計算能力。

將人工智能的處理能力帶到邊緣的能力還減少了將大量原始數據發送到中央數據中心的需要,從而減少了帶寬使用並降低了成本。 相反,只有經過處理的相關信息才能被存儲,並在必要時隨驅動器底座帶回,以進行進一步分析或長期存儲。

Raptor 支持大容量、高傳輸速率存儲,再加上先進的 GPU 功能,意味著它可以根據特定的 AI 使用案例進行定制。 無論是實時視頻分析、預測性維護還是人工智能驅動的數據分析,Cheetah RAID Raptor 的配置意味著它可以適應各種邊緣環境的獨特需求。

最後的思考

Cheetah RAID 存儲的最新產品改變了加固型高性能計算市場的遊戲規則。 Raptor 將所有這些整合在一起,以滿足邊緣應用程序嚴格的性能要求,支持順序操作和多線程訪問以捕獲、處理和存儲關鍵數據。 Raptor 的應用用例包括視頻監控、流媒體、數據記錄/捕獲、自動駕駛車輛以及用於國防和工業目的的加固存儲。

Cheetah RAID 存儲產品佔地面積小,令人印象深刻。 該服務器設計非常適合惡劣環境,這些環境要求堅固耐用,但仍允許 NVMe 閃存等組件在滿時快速更換。 它們設計用於安裝在自動駕駛汽車的座椅下或後備箱中,或者飛機或輪船上。 它們可以承受極端溫度以及陸地、海洋和空中持續的推擠感。

通過將計算和數據移近用戶,邊緣計算可以顯著提高吞吐量、更好的性能和實時處理。 分析更接近源的數據的能力將最大限度地減少延遲、減少網絡流量並降低數據管理成本,同時提高隱私性和安全性。 借助熱插拔驅動器罐,用戶可以動態移動加密數據以進行實時分析。

為了滿足具有熱插拔功能的大容量、高傳輸速率存儲服務器的要求,Cheetah RAID 存儲采用了 Microchip 的 Adaptec SmartRAID 3200 系列 RAID 適配器。 SmartRAID 3200 系列是安全、功能豐富、支持三模式的高性能適配器,吞吐量接近 30GB。 這種類型的性能和吞吐量對於 Raptor 旨在支持的用例至關重要。

利用新型 Solidigm D5-P5336 QLC SSD,Raptor 可以收集、記錄和存儲接近 PB 的數據,從而減少數據遷移。 這些新型 QLC SSD 滿足 AV 和軍事市場的讀/寫速度要求,同時提供更具成本效益的 $/TB 配置。

最終,Cheetah RAID Storage Raptor 是一款高性能服務器,佔地面積小,旨在適應最惡劣的條件。

獵豹RAID存儲

Adaptec SmartRAID 適配器

Solidigm D5-P5336

本報告由 Solidigm 贊助。 本報告中表達的所有觀點和意見均基於我們對所考慮產品的公正看法。

參與 StorageReview

電子通訊 | YouTube | 播客 iTunes/Spotify | Instagram | Twitter | 的TikTok | RSS訂閱