JetCool SmartPlate 系統是液體冷卻的絕佳切入點,尤其是在無法選擇完整液體迴路的情況下。
液體冷卻比傳統空氣冷卻具有顯著優勢,特別是對於高密度運算環境。透過有效散發處理器的熱量,液體冷卻可以減少能耗、降低工作溫度並增強整體系統效能。 JetCool 的 SmartPlate 系統是獨立式閉環液體冷卻的絕佳切入點,特別是對於無法選擇完整液體迴路的環境。
在計算和 GPU 伺服器上新增閉環並不是什麼新鮮事。我們已經在許多密集伺服器平台中看到了閉環,例如戴爾、HPE 和聯想。這項技術很棒,因為它消除了複雜的基礎設施改造的需要,降低了前期成本和持續的維護要求。閉環系統的優勢不如使用 CDU 和設施水的全環路那麼強大,但它們仍然提供許多能源效率優勢。
JetCool 這個名字經常出現在 SuperCompute 等貿易展會上,最近一次出現在今年 100 月的 Dell Tech World 展會上。它們作為 CPU 和 GPU 驅動的高效能工作負載的解決方案而受到關注。 JetCool 支援各種 Intel 和 AMD CPU 和 GPU,例如插槽式和附加卡片外形尺寸的 NVIDIA H200。 JetCool 也向 GBXNUMX Superchip 和下一代 CPU 架構等新興平台派遣了工程師。
在Instagram上查看此帖子
JetCool SmartPlate 系統現已透過戴爾及其通路合作夥伴在全球發售,這些合作夥伴提供全面的全球服務、支援和保固範圍。將 JetCool 新增至伺服器大約比基本伺服器配置價格增加 10%。
為了更了解系統的工作原理,JetCool 向我們發送了帶有閉環的 Dell PowerEdge R760 系統以供審核。
捷酷有何不同?
JetCool 的專利微對流冷卻技術透過流體噴射瞄準熱點,與傳統方法相比,提供卓越的熱傳導和冷卻效率。這種有針對性的液體冷卻也提高了效率,Jetcool 聲稱冷卻能耗降低了 50%,整體功耗降低了近 18%。該解決方案在視覺上與其他閉環液體冷卻裝置類似,但 JetCool SmartPlates 卻與眾不同。
SmartPlate 系統中的流體噴射迫使冷卻劑流過模具上的熱點,從而比被動流動更有效地轉移熱量。這種冷卻解決方案的有效性使 Jetcool 系統能夠使用更高溫度的冷卻劑運行,同時仍表現良好。反過來,這種冷卻效率又會影響冷卻的功率效率,並且由於氣流需求較低,它不僅降低了 CPU 的溫度,還降低了整個資料中心的溫度。降低資料中心溫度可以降低整個設施的持續營運成本。
大多數資料中心供應商根據美國暖氣、冷氣和空調工程師協會 (ASHRAE) 指南以及 A1-A4 標準建造其設施。這些標準規定風冷資料中心的建議溫度範圍為 64.4°F 至 80.6°F。憑藉更高效能的元件和更高要求的運算任務,新型高密度伺服器會釋放更多熱量。這給資料中心帶來了困難,因為 ASHRAE 的新 H1 標準規定環境應冷卻至 64.4°F 至 71.6°F 的範圍。這就帶來了升級整個設施的冷卻能力(這會增加電力需求和營運成本)或安裝全設施液體冷卻系統的選擇。這兩種選擇都會帶來龐大的前期成本。這就是 JetCool 系統旨在幫助將冷卻轉移到伺服器機箱內的地方,並減少降低空氣冷卻溫度的需要,並將需求保持在典型的 ASHRAE A1-A4 準則範圍內,同時最大限度地減少營運成本影響。
JetCool 的 SmartPlate 系統幫助改善的另一個領域是噪音污染。借助 SmartPlate 解決方案,由於機箱風扇速度降低,系統可以更安靜地運行 13dBA。這種更安靜的運作減少了設施的噪音污染,並有助於減少設備的振動。 JetCool 表示,13dBA 的降低可將設施噪音降低多達 4 倍。他們對 R760 的研究發現,風冷系統的噪音為 77.8 dBA,而 JetCool 的 SmartPlate 系統的噪音為 64.4 dBA。
JetCool 的另一個重要價值是其易於部署,因為他們的解決方案不需要任何特殊的東西。與資料中心的 DLC 系統相比,部署 JetCool 的解決方案的部署和維護成本顯著降低 - 不需要額外的外部硬體、管道、維護或安裝成本。 JetCool 的獨立系統可以帶來相當大的好處,可以在相同的佔地面積內獲得更高的效率,從而在使用更高性能的組件進行完全液體冷卻之前節省時間。
捷酷硬體故障
JetCool 支援採用 Intel 第四代和第五代 Xeon 以及第四代 EPYC CPU 的平台。這些系統的 TDP 額定值在 4U 機箱中高達 5W,在 4U 機箱中高達 850W。 JetCool 系統支援 1°F 至 1,200°F 的進氣溫度範圍。如前所述,JetCool 將支援更多晶片和 GPU,而 NVIDIA GB2 的工作已經在進行中。
JetCool提供的這個特定平台建構在Dell Poweredge R760平台之上;規格如下。
JetCool 測試系統規格 | |
---|---|
CPU的 | 2x Intel Xeon Platinum 8470Q(每個 52C 104T) |
記憶體應用 | 768GB (12x64g) 5600MHz DDR5 |
下面是捷酷寄給我們的R760平台照片。它的組件清晰可見,JetCool 記錄的圖像和性能與我們在實驗室中看到的一致。
下面是 JetCool 提供的照片,顯示了他們的 SmartPlate 解決方案中的元件佈局;那些不熟悉液體冷卻的人會看到一些額外的部件,例如散熱器、泵浦和水箱。
下圖顯示了幫浦、幫浦控制器和冷板。與其他解決方案相比,JetCool 冷板的冷卻效果相當薄。
如上所述,系統核心的這個奇怪形狀的部件是冷卻液儲存器。這個水庫雖然不大,但功能卻很齊全。整個環路可容納約 10 盎司的液體,在伺服器的保固期內無需維修或重新填充。
設計上也需要注意的是,即使散熱器靠近風扇,仍有大量氣流通過機殼到達系統背面。從上圖很難看出,但散熱器下方還有一個間隙,可以讓氣流流向 DRAM。
具有 JetCool 性能的 Dell PowerEdge R760
通常,我們會使用氣冷式散熱器測試此類系統,然後換入液體套件以獲得效能數據,或將液體迴路與風冷伺服器中的相同 CPU 進行比較。這次這兩個選項都不是一個好的選擇,因此我們請 jetCool 幫忙進行一些他們自己的測試。
捷酷在內部測試中提供了其R760平台的數據。這些數字比較了風扇速度、環境溫度、CPU 最高溫度和伺服器整體功耗。他們表明,即使低於 JetCool Smartplate 系統的最大容量,它也能達到風冷解決方案的最大性能,同時節省一些開銷。
風冷性能
風扇速度 %PWM | 由 TC 測量的環境溫度 (C) | 全域最高 CPU 溫度 (C) (CPU 1) | 全域最高 CPU 溫度 (C) (CPU 2) | 伺服器功率(瓦) |
---|---|---|---|---|
100% | 24.8 | 62 | 62 | 1340.97 |
90% | 24.9 | 64 | 62 | 1279.8 |
80% | 24.3 | 65 | 64 | 1218.07 |
70% | 24.0 | 66 | 66 | 1171.23 |
60% | 23.9 | 67 | 68 | 1133.23 |
50% | 23.03 | 70 | 71 | 1094.87 |
捷酷 SPS 效能
風扇速度 %PWM | 由 TC 測量的環境溫度 (C) | 全域最高 CPU 溫度 (C) (CPU 1) | 全域最高 CPU 溫度 (C) (CPU 2) | 伺服器功率(瓦) |
---|---|---|---|---|
100% | 24.6 | 57 | 56 | 1393.47 |
90% | 24.15 | 58 | 57 | 1327.95 |
80% | 23.9 | 59 | 58 | 1265.47 |
70% | 23.8 | 60 | 59 | 1217.43 |
60% | 23.7 | 62 | 62 | 1179.33 |
50% | 23.5 | 65 | 65 | 1149.70 |
當考慮風扇和JetCool Smartplate系統之間的功率差異時,該系統中的CPU為62C,風冷系統處於風扇峰值速度,而JetCool SPS僅為60%。 JetCool SPS 提供的冷卻效率差異導致相同效能下功耗降低了 214W。這種功耗減少僅乘以五台伺服器,就節省了約 1 千瓦的電力。
空氣與捷酷 | 風扇速度 %PWM | 由 TC 測量的環境溫度 (C) | 全域最高 CPU 溫度 (C) (CPU 1) | 全域最高 CPU 溫度 (C) (CPU 2) | 伺服器功率(瓦) |
---|---|---|---|---|---|
風冷 | 100% | 24.8 | 62 | 62 | 1393.47 |
捷酷SPS | 60% | 23.7 | 62 | 62 | 1179.33 |
差異 | 214.14 |
我們並不完全依賴 JetCool 資料。下圖顯示了我們測試中JetCool解決方案在一致工作負載下的溫度穩定性。我們在 Pi BBP 數位提取上運行 Y-Cruncher,提取 10 兆位元數字,耗時約 40 分鐘。
在此測試中,我們看到核心時脈在負載下降至 2300 MHz,並保持穩定,不會出現一些尖峰。在這裡,SmartPlate 系統經過測試以保持溫度穩定,並且沒有令人失望。在大約 40 分鐘的持續負載過程中,CPU 溫度飆升至 60°C,峰值僅達到 61°C,然後在測試後迅速下降。
基準性能
除了熱測試之外,我們還運行了標準伺服器套件。我們沒有對英特爾專用液冷「Q」CPU 進行良好的比較,但我們仍然在此提供數據,如果它有助於比較此構建與我們過去審查過的其他構建的性能。
- 戴爾PowerEdge R760
- CPU:2 個 Intel Xeon Platinum 8470Q(每個 52C 104T)
- 記憶體:768GB (12x64g) 5600MHz DDR5
Cinebench 2024
在 Maxon 的 Cinebench 2024 測試中,我們看到多核得分為 5,215 分,單核得分為 71 分,MP 比率為 73.53 倍。
Cinebench 2024 | 捷酷 R760(2 個至強鉑金 8470Q,768GB DDR5) |
---|---|
CPU 多核 | 5,215點 |
CPU單核 | 71點 |
MP比率 | 73.53x |
Cinebench R23
對於 Maxon 的 Cinebench R23,我們看到多核心為 105,569 分,單核為 1,252 分,MP 比率為 84.32 倍。
Cinebench R23 | 捷酷 R760(2 個至強鉑金 8470Q,768GB DDR5) |
---|---|
CPU 多核 | 105,569 |
CPU單核 | 1,252 |
MP比率 | 84.32x |
攪拌機 4.0 CPU
對於 Blender 4.0 CPU 測試,JetCool R760 平台的 Monster 得分為 948.049,Junkshop 得分為 630.348,Classroom 得分為 476.018。
攪拌機 4.0 CPU | 捷酷 R760(2 個至強鉑金 8470Q,768GB DDR5) |
---|---|
Monster | 948.049 |
舊貨店 | 630.348 |
課堂 | 476.018 |
攪拌機 4.1 CPU
對於 Blender 4.1 CPU 測試,JetCool R760 平台的 Monster 得分為 930.390,Junkshop 得分為 644.007,Classroom 得分為 473.364。
攪拌機 4.1 CPU | 捷酷 R760(2 個至強鉑金 8470Q,768GB DDR5) |
---|---|
Monster | 930.390 |
舊貨店 | 644.007 |
課堂 | 473.364 |
極客跑分 6 CPU
在Geekbench 6 CPU上,捷酷R760平台的單核得分為1,814,多核心得分為19,076。
極客跑分 6 CPU | 捷酷 R760(2 個至強鉑金 8470Q,768GB DDR5) |
---|---|
單核成績 | 1,814 |
多核成績 | 19,076 |
Blackmagic RAW 速度測試
在 Blackmagic Raw Speedtest 中,我們看到 Dual Xeon Platinum 141Q 的幀速率為 8470FPS。
黑魔法RAW | 捷酷 R760(2 個至強鉑金 8470Q,768GB DDR5) |
---|---|
8K CPU | FPS 141 |
Blackmagic Disk 速度測試
對於 Blackmagic Disk Speedtest,我們正在 Raid0 中測試四個 Dell NVME SSD 的配置。
Blackmagic Disk 速度測試 | 捷酷 R760(2 個至強鉑金 8470Q,768GB DDR5) |
---|---|
寫 | 11,704.1 MB / s的 |
更多內容 | 9,762.7 MB / s的 |
Y-粉碎機
y-cruncher 是一個多線程且可擴展的程序,可以將 Pi 和其他數學常數計算到數萬億位。自 2009 年推出以來,它已成為超頻玩家和硬體愛好者流行的基準測試和壓力測試應用程式。在這裡,JetCool 平台的整體速度令人印象深刻。
Y-粉碎機 | 捷酷 R760(2 個至強鉑金 8470Q,768GB DDR5) |
---|---|
1B | 5.270秒 |
2.5B | 14.405秒 |
5B | 31.490秒 |
10B | 67.704秒 |
25B | 191.599秒 |
50B | 423.891秒 |
7-ZIP
流行的 7-Zip 實用程式包括我們用於效能測試的記憶體和 CPU 基準測試。
7 Zip | 捷酷 R760(2 個至強鉑金 8470Q,768GB DDR5) |
---|---|
壓縮 | |
當前 CPU 使用率 | 3,546% |
當前額定值/使用情況 | 4.849 吉普斯 |
額定電流 | 171.925 吉普斯 |
產生的 CPU 使用率 | 2,551% |
結果評級/使用情況 | 4.879 吉普斯 |
結果評級 | 173.263 吉普斯 |
解壓縮 | |
當前 CPU 使用率 | 3,865% |
當前額定值/使用情況 | 4.060 吉普斯 |
額定電流 | 156.886 吉普斯 |
產生的 CPU 使用率 | 3,880% |
結果評級/使用情況 | 4.038 吉普斯 |
結果評級 | 156.689 吉普斯 |
總評分 | |
總 CPU 使用率 | 3,716% |
總評分/使用情況 | 4.458 吉普斯 |
總評分 | 164.976 吉普斯 |
UL Procyon 2.7 AI 電腦視覺
對於 UL Procyon AI 計算機視覺,我們看到直到 REAL-ESRGAN 為止推理時間都非常快。我們最終的總分也達到了141分。本測驗使用 Xeon Platinum 8470Qs 進行推理。
為了與其他機器進行比較,UL 宣布 Procyon 2.7 之前的所有版本由於評分不同,將不具有可比性。
南河三推理時間 | 捷酷 R760(2 個至強鉑金 8470Q,768GB DDR5) |
---|---|
總體得分 | 141 |
移動網V3 | 7.53毫秒 |
殘差網絡50 | 9.14毫秒 |
盜夢空間V4 | 29.64毫秒 |
深實驗室V3 | 26.52毫秒 |
優洛V3 | 31.51毫秒 |
真愛斯甘 | 1,123.52毫秒 |
結論
憑藉 JetCool 專有的噴嘴配置、局部冷卻和較低的壓力需求,JetCool SmartPlates 顯示了其相對於傳統散熱器的優勢。此外,這個解決方案並不複雜,而且 JetCool 有一些有趣的技巧,例如他們在 SmartPlates 中獲得專利的噴嘴,可以迫使冷卻劑進入熱點。但從根本上說,如果您的組織擁有配備 JetCool 的 R760,您不會從外部知道它,除非您注意到與風冷伺服器相比的安靜運行。
JetCool 於 2023 年與 Sabey 資料中心發布了一項案例研究,以評估效率差異,測試 Poweredge R740XD。 「根據 Sabey 的評估,採用 SmartPlate 系統冷卻的伺服器與風冷伺服器相比,功耗降低了 13.5%。由於系統的液體冷卻劑通過冷板直接吸收電子元件的熱量,因此不需要強烈的氣流,從而顯著降低風扇速度。 Sabey 還看到了許多其他好處,包括降低排氣溫度和減少空氣處理器的負載。 Sabey 案例研究的其餘部分可以找到 這裡.
由於 CPU 和 GPU 功耗龐大,資料中心應對現代伺服器龐大功耗需求的競賽已經開始,而液體冷卻是滿足這些需求的唯一解決方案。值得慶幸的是,液體冷卻有很多選擇,但並不是每個人都可以或願意使用設施水連接裝置建立完整的液體迴路、處理浸入式水箱或管理複雜的化學物質。對於那些想要在當今不複雜的情況下享受液體冷卻的好處的人來說,JetCool 是一個很好的選擇。
參與 StorageReview
電子通訊 | YouTube | 播客 iTunes/Spotify | Instagram | Twitter | 的TikTok | RSS訂閱