Home Enterprise JetCool SmartPlate-systeem: overbrugt de kloof tussen lucht- en vloeistofkoeling

JetCool SmartPlate-systeem: overbrugt de kloof tussen lucht- en vloeistofkoeling

by Dylan Bryan

Het JetCool SmartPlate-systeem is een uitstekend instappunt voor vloeistofkoeling, vooral wanneer een volledige vloeistoflus geen optie is.

Vloeistofkoeling biedt aanzienlijke voordelen ten opzichte van traditionele luchtkoeling, vooral voor computeromgevingen met hoge dichtheid. Door de warmte van processors efficiënt af te voeren, kan vloeistofkoeling het energieverbruik verminderen, de bedrijfstemperaturen verlagen en de algehele systeemprestaties verbeteren. Het SmartPlate-systeem van JetCool is een uitstekend instappunt voor onafhankelijke vloeistofkoeling met gesloten lus, vooral voor omgevingen waar een volledige vloeistoflus geen optie is.

JetCool Dell PowerEdge R760

Het toevoegen van gesloten lussen aan reken- en GPU-servers is niet nieuw; we hebben gesloten lussen gezien in veel dichte serverplatforms, zoals Dell, HPE en Lenovo. De technologie is geweldig omdat hierdoor de noodzaak voor complexe aanpassingen aan de infrastructuur wordt geëlimineerd, waardoor de initiële kosten en de voortdurende onderhoudsvereisten worden verminderd. De voordelen van gesloten-lussystemen zijn niet zo robuust als een volledige kringloop met CDU en faciliteitswater, maar ze bieden nog steeds veel voordelen op het gebied van energie-efficiëntie.

JetCool is een naam die we hebben zien opduiken op beurzen als SuperCompute en, meest recentelijk, op Dell Tech World afgelopen mei. Ze krijgen steeds meer aandacht als oplossing voor krachtige workloads die zowel CPU- als GPU-gestuurd zijn. JetCool ondersteunt een breed scala aan Intel- en AMD-CPU's en GPU's, zoals de NVIDIA H100, in socket- en add-in-kaartvormfactoren. JetCool heeft zijn ingenieurs ook vrijgegeven voor opkomende platforms zoals de GB200 Superchip en CPU-architecturen van de volgende generatie.

 

Bekijk dit bericht op Instagram

 

Een bericht gedeeld door StorageReview (@storagereview)

Het JetCool SmartPlate-systeem is nu wereldwijd verkrijgbaar via Dell en zijn kanaalpartners, die uitgebreide wereldwijde service, ondersteuning en garantiedekking bieden. Het toevoegen van JetCool aan een server is een upgrade van ongeveer 10% bovenop de prijs van de basisserverconfiguratie.

Om beter te begrijpen hoe het systeem werkt, stuurde JetCool ons hun Dell PowerEdge R760-systeem met een gesloten lus ter beoordeling.

Wat is het JetCool-verschil?

JetCool's gepatenteerde microconvectieve koeltechnologie richt zich op hotspots met vloeistofstralen, waardoor een superieure warmteoverdracht en koelefficiëntie wordt geboden in vergelijking met traditionele methoden. Deze gerichte vloeistofkoeling verhoogt ook de efficiëntie, waarbij Jetcool tot 50% minder energie claimt bij koeling en een algehele vermogensreductie van bijna 18%. Deze oplossing is visueel vergelijkbaar met andere vloeistofkoelingopstellingen met gesloten lus, maar JetCool SmartPlates maken het verschil.

Diagram van SmartPlate-systeem van Jetcool

De vloeistofstralen in het SmartPlate-systeem dwingen koelmiddel over de hotspots op de matrijs om de warmte effectiever te verplaatsen dan een passieve stroom. Dankzij de effectiviteit van deze koeloplossing kan het Jetcool-systeem werken met koelvloeistof met een hogere temperatuur en toch goed presteren. Op zijn beurt speelt deze koelefficiëntie een rol bij de energie-efficiëntie bij de koeling, en dankzij de lagere luchtstroomvereisten verlaagt het niet alleen de temperatuur van de CPU, maar ook van het hele datacenter. Het verlagen van de temperatuur in het datacenter kan de lopende operationele kosten voor de gehele faciliteit verlagen.

De meeste datacenteraanbieders bouwen hun faciliteiten volgens de richtlijnen van de American Society of Heating, Refrigerating, and Air-Conditioning Engineers (ASHRAE), volgens de A1-A4-normen. Deze normen vermelden een aanbevolen temperatuurbereik van 64.4°F tot 80.6°F voor luchtgekoelde datacenters. Met componenten met hogere prestaties en veeleisender rekentaken geven nieuwere servers met hoge dichtheid grotere hoeveelheden warmte af. Dit brengt problemen met zich mee voor datacenters, aangezien de nieuwe H1-normen van ASHRAE bepalen dat de omgevingen moeten worden gekoeld tot een bereik van 64.4°F tot 71.6°F. Dit brengt de keuze met zich mee om de koelcapaciteiten van de gehele faciliteit te upgraden (waardoor de vraag naar energie en de operationele kosten toenemen) of om een ​​vloeistofkoelsysteem voor de hele faciliteit te installeren. Elk van deze keuzes brengt enorme initiële kosten met zich mee. Dit is waar het systeem van JetCool de koeling naar binnen het serverchassis wil helpen verplaatsen en de noodzaak vermindert om de luchtkoelingstemperatuur te verlagen en de behoeften binnen de typische ASHRAE A1-A4-richtlijnen te houden, terwijl de impact op de bedrijfskosten wordt geminimaliseerd.

Een ander gebied waarop de SmartPlate-systemen van JetCool bijdragen aan verbetering is geluidsoverlast. Met de SmartPlate-oplossing kunnen systemen 13 dBA stiller werken dankzij de lagere ventilatorsnelheid van het chassis. Deze stillere werking vermindert de geluidsoverlast van de faciliteit en kan trillingen van apparatuur helpen verminderen. JetCool zegt dat deze reductie van 13 dBA het geluid in de faciliteit tot wel 4x vermindert. Uit hun onderzoek van een R760 bleek dat het geluid begon bij 77.8 dBA met een luchtgekoeld systeem, en het SmartPlate-systeem van JetCool klokte op 64.4 dBA.

Een andere belangrijke waarde voor JetCool is het implementatiegemak, omdat hun oplossing niets speciaals vereist. Het implementeren van de oplossing van JetCool brengt aanzienlijk lagere implementatie- en onderhoudskosten met zich mee dan een DLC-systeem in het datacenter; extra externe hardware-, loodgieters-, onderhouds- of installatiekosten zijn niet nodig. Het autonome systeem van JetCool kan een aanzienlijk voordeel opleveren als het gaat om een ​​betere efficiëntie met dezelfde footprint, waardoor tijd wordt bespaard voordat wordt overgegaan op volledige vloeistofkoeling met componenten met hogere prestaties.

JetCool-hardwarestoring

JetCool ondersteunt platforms met Intel 4e en 5e generatie Xeon en 4e generatie EPYC CPU's. De TDP-waarde voor deze systemen bedraagt ​​maximaal 850 W in een 1U-chassis of maximaal 1,200 W in een 2U-chassis. Het JetCool-systeem ondersteunt een temperatuurbereik van de inkomende lucht van 55°F tot 95°F. Zoals opgemerkt zal JetCool meer chips en GPU's ondersteunen, en er wordt al aan de NVIDIA GB200 gewerkt.

Dit specifieke platform van JetCool is gebouwd op een Dell Poweredge R760-platform; de specificaties zijn als volgt.

JetCool-testsysteemspecificaties
CPUs 2x Intel Xeon Platinum 8470Q (elk 52C 104T)
Geheugen 768GB (12x64g) 5600MHz DDR5

Hieronder staat een foto van het R760-platform dat Jetcool ons heeft gestuurd. De componenten zijn duidelijk zichtbaar en de gedocumenteerde beelden en prestaties van JetCool komen overeen met wat we in ons laboratorium hebben gezien.

JetCool R760 van bovenaf gezien

Hieronder ziet u een foto van JetCool die de componentindeling in hun SmartPlate-oplossing laat zien; degenen die niet bekend zijn met vloeistofkoeling zullen een paar extra onderdelen zien, zoals de radiator, pompen en reservoir.

De onderstaande foto toont de pomp, pompcontroller en koude platen. De JetCool Cold-platen zijn behoorlijk dun voor hoe goed ze koelen in vergelijking met andere oplossingen.

Zoals hierboven aangegeven, is dit vreemd gevormde stuk in het hart van het systeem het koelvloeistofreservoir. Dit reservoir is niet groot, maar doet zijn werk goed. De hele lus kan ongeveer 10 ml vloeistof bevatten en hoeft tijdens de gegarandeerde levensduur van de server niet te worden onderhouden of bijgevuld.

Het is ook belangrijk om in het ontwerp op te merken dat zelfs als de radiator dicht bij de ventilatoren staat, er voldoende luchtstroom door het chassis naar de achterkant van het systeem is. Het is moeilijk te zien op de foto hierboven, maar er is ook een opening om de luchtstroom naar de DRAM onder de radiator te krijgen.

Dell PowerEdge R760 met JetCool-prestaties

Normaal gesproken testen we een systeem als dit met luchtgekoelde koellichamen en wisselen we vervolgens de vloeistofkit in om onze prestatiecijfers te krijgen, of vergelijken we de vloeistoflus met dezelfde CPU's in een luchtgekoelde server. Geen van deze opties was deze keer een goede keuze, dus vroegen we jetCool om te helpen met enkele van hun eigen tests.

JetCool heeft tijdens interne tests gegevens over zijn R760-platform verstrekt. Deze cijfers vergelijken de ventilatorsnelheid, de omgevingstemperatuur, de maximale CPU-temperatuur en het algehele energieverbruik van de server. Ze laten zien dat het JetCool Smartplate-systeem zelfs onder de maximale capaciteit van het JetCool Smartplate-systeem de maximale prestaties van een luchtgekoelde oplossing bereikt, met nog wat overhead over.

Luchtgekoelde prestaties

Ventilatorsnelheid %PWM Omgevingstemperatuur (C) Gemeten door TC Globale maximale CPU-temperatuur (C) (CPU 1) Globale maximale CPU-temperatuur (C) (CPU 2) Serververmogen (watt)
100% 24.8 62 62 1340.97
90% 24.9 64 62 1279.8
80% 24.3 65 64 1218.07
70% 24.0 66 66 1171.23
60% 23.9 67 68 1133.23
50% 23.03 70 71 1094.87

JetCool SPS-prestaties

Ventilatorsnelheid %PWM Omgevingstemperatuur (C) Gemeten door TC Globale maximale CPU-temperatuur (C) (CPU 1) Globale maximale CPU-temperatuur (C) (CPU 2) Serververmogen (watt)
100% 24.6 57 56 1393.47
90% 24.15 58 57 1327.95
80% 23.9 59 58 1265.47
70% 23.8 60 59 1217.43
60% 23.7 62 62 1179.33
50% 23.5 65 65 1149.70

Als we kijken naar het vermogensverschil tussen de ventilatoren en het JetCool Smartplate-systeem, waren de CPU's in dit systeem 62 ° C, het luchtgekoelde systeem de maximale ventilatorsnelheid en de JetCool SPS slechts 60%. De verschillen in koelefficiëntie van JetCool's SPS resulteerden in een vermindering van het energieverbruik met 214 W bij dezelfde prestaties. Deze stroomreductie, vermenigvuldigd met slechts vijf servers, is goed voor ongeveer 1 kW bespaarde energie.

Lucht versus JetCool Ventilatorsnelheid %PWM Omgevingstemperatuur (C) Gemeten door TC Globale maximale CPU-temperatuur (C) (CPU 1) Globale maximale CPU-temperatuur (C) (CPU 2) Serververmogen (watt)
Luchtgekoeld 100% 24.8 62 62 1393.47
JetCool SPS 60% 23.7 62 62 1179.33
Verschil 214.14

We vertrouwden niet uitsluitend op JetCool-gegevens. Het volgende diagram toont de temperatuurstabiliteit van de JetCool-oplossing onder een consistente werklast tijdens onze tests. We hebben Y-Cruncher op de Pi BBP Digit Extraction uitgevoerd met 10 biljoen cijfers, wat ongeveer 40 minuten verstreek.

In deze test zagen we de kernklok onder belasting dalen tot 2300 MHz en stabiel blijven, op enkele pieken na. Hier wordt het SmartPlate-systeem getest om de temperaturen stabiel te houden, en het stelde niet teleur. Gedurende ongeveer 40 minuten consistente belasting steeg de CPU-temperatuur tot 60°C en bereikte slechts een piek van 61°C, waarna deze na de test snel daalde.

Benchmarkprestaties

Naast de thermische tests hebben we onze standaard serversuite uitgevoerd. We hebben geen goede vergelijkingen met Intel's speciale vloeistofkoele “Q” CPU's, maar we presenteren de gegevens hier toch als dit helpt bij het vergelijken van de prestaties van deze build met die van anderen die we in het verleden hebben beoordeeld.

  • Dell PowerEdge R760
  • CPU's: 2x Intel Xeon Platinum 8470Q (elk 52C 104T)
  • Geheugen: 768 GB (12x64 g) 5600 MHz DDR5

Cinebench 2024

Voor Maxons Cinebench 2024-test zagen we 5,215 punten op multi-core, 71 punten op single-core en een MP-verhouding van 73.53x.

Cinebench 2024 JetCool R760 (2x Xeon Platinum 8470Q, 768 GB DDR5)
CPU multi-core 5,215 pt
CPU Single-Core 71 pt
MP-verhouding 73.53x

 Cinebench R23

Voor Maxons Cinebench R23 zagen we 105,569 punten in multi-core, 1,252 punten in single-core en een mp-verhouding van 84.32x.

Cinebench R23 JetCool R760 (2x Xeon Platinum 8470Q, 768 GB DDR5)
CPU multi-core 105,569
CPU Single-Core 1,252
MP-verhouding 84.32x

Blender 4.0 CPU

Voor Blender 4.0 CPU-tests produceerde het JetCool R760-platform scores van 948.049 voor Monster, 630.348 voor Junkshop en 476.018 voor Classroom.

Blender 4.0 CPU JetCool R760 (2x Xeon Platinum 8470Q, 768 GB DDR5)
Monster 948.049
Junkshop 630.348
Klas 476.018

Blender 4.1 CPU

Voor Blender 4.1 CPU-tests produceerde het JetCool R760-platform scores van 930.390 voor Monster, 644.007 voor Junkshop en 473.364 voor Classroom.

Blender 4.1 CPU JetCool R760 (2x Xeon Platinum 8470Q, 768 GB DDR5)
Monster 930.390
Junkshop 644.007
Klas 473.364

Geekbench 6 processor

Op de Geekbench 6 CPU produceerde het JetCool R760-platform een ​​single-core score van 1,814 en een multi-core score van 19,076.

Geekbench 6 processor JetCool R760 (2x Xeon Platinum 8470Q, 768 GB DDR5)
Single-core score 1,814
Multi-core score 19,076

Blackmagic RAW-snelheidstest

Voor de Blackmagic Raw Speedtest zagen we 141 FPS uit de Dual Xeon Platinum 8470Q's.

Blackmagische RAW JetCool R760 (2x Xeon Platinum 8470Q, 768 GB DDR5)
8K CPU 141 FPS

Blackmagic schijfsnelheidstest

Voor de Blackmagic Disk Speedtest testen we de configuratie voor vier Dell NVME SSD's in Raid0.

Blackmagic schijfsnelheidstest JetCool R760 (2x Xeon Platinum 8470Q, 768 GB DDR5)
Schrijven 11,704.1 MB / s
Lees 9,762.7 MB / s

Y-Cruncher

y-cruncher is een multi-threaded en schaalbaar programma dat Pi en andere wiskundige constanten tot biljoenen cijfers kan berekenen. Sinds de lancering in 2009 is het een populaire benchmarking- en stresstestapplicatie geworden voor overklokkers en hardwareliefhebbers. Hier was het JetCool-platform over de hele linie indrukwekkend snel.

Y-Cruncher JetCool R760 (2x Xeon Platinum 8470Q, 768 GB DDR5)
1B 5.270 seconden
2.5B 14.405 seconden
5B 31.490 seconden
10B 67.704 seconden
25B 191.599 seconden
50B 423.891 seconden

7-Zip

Het populaire 7-Zip-hulpprogramma bevat geheugen- en CPU-benchmarks die we gebruiken voor prestatietests.

7 Zip JetCool R760 (2x Xeon Platinum 8470Q, 768 GB DDR5)
Comprimeren
Huidig ​​​​CPU-gebruik 3,546%
Huidige beoordeling / gebruik 4.849 GIP'S
Nominale stroom 171.925 GIP'S
Resulterend CPU-gebruik 2,551%
Resulterende beoordeling/gebruik 4.879 GIP'S
Resulterende beoordeling 173.263 GIP'S
Decomprimeren
Huidig ​​​​CPU-gebruik 3,865%
Huidige beoordeling / gebruik 4.060 GIP'S
Nominale stroom 156.886 GIP'S
Resulterend CPU-gebruik 3,880%
Resulterende beoordeling/gebruik 4.038 GIP'S
Resulterende beoordeling 156.689 GIP'S
Totale beoordeling
Totaal CPU-gebruik 3,716%
Totale beoordeling / gebruik 4.458 GIP'S
Totale beoordeling 164.976 GIP'S

UL Procyon 2.7 AI Computervisie

Voor UL Procyon AI Computer Vision zagen we behoorlijk snelle inferentietijden tot REAL-ESRGAN. We eindigden ook met een totaalscore van 141 punten. Deze test gebruikte de Xeon Platinum 8470Qs voor gevolgtrekking.

Voor vergelijkingen met andere machines heeft UL aangekondigd dat alle versies van Procyon vóór 2.7 niet vergelijkbaar zullen zijn vanwege verschillende scores.

Procyon-inferentietijden JetCool R760 (2x Xeon Platinum 8470Q, 768 GB DDR5)
Totale score 141
MobileNet V3 7.53 ms
ResNet 50 9.14 ms
Inception V4 29.64 ms
Deep Lab V3 26.52 ms
YOLO V3 31.51 ms
ECHT-ESRGAN 1,123.52 ms

Conclusie

Met JetCool's gepatenteerde mondstukconfiguraties, plaatselijke koeling en lagere drukbehoeften tonen de JetCool SmartPlates hun voorsprong op traditionele koellichamen. Verder is deze oplossing niet ingewikkeld en heeft JetCool een paar leuke trucjes, zoals hun gepatenteerde jets in de SmartPlates om koelvloeistof in de hotspots te persen. Als uw organisatie echter een R760 met JetCool zou hebben, zou u dit van buitenaf niet merken, tenzij u de stille werking zou opmerken in vergelijking met luchtgekoelde servers.

JetCool publiceerde in 2023 een casestudy met Sabey Data Centers om efficiëntieverschillen te evalueren, waarbij Poweredge R740XD's werden getest. “Uit de evaluatie van Sabey blijkt dat de door het SmartPlate-systeem gekoelde server een daling van 13.5% in het stroomverbruik registreerde vergeleken met luchtgekoelde servers. Omdat de vloeibare koelvloeistof van het systeem de warmte rechtstreeks van elektronische componenten absorbeert via koude platen, elimineert het de noodzaak van een intense luchtstroom, waardoor de ventilatorsnelheden aanzienlijk worden verlaagd.” Sabey zag ook veel andere voordelen, waaronder een lagere uitlaattemperatuur en minder belasting van de luchtbehandelingsunits. De rest van de Sabey-casestudy is te vinden hier.

De race voor datacenters is al begonnen om te kunnen voldoen aan de enorme energiebehoeften van moderne servers, dankzij het immense stroomverbruik van de CPU en GPU, en vloeistofkoeling is de enige oplossing om aan deze behoeften te voldoen. Gelukkig zijn er veel opties voor vloeistofkoeling, maar niet iedereen kan of wil een volledige vloeistoflus aanleggen met een wateraansluiting, een dompeltank gebruiken of ingewikkelde chemicaliën beheren. Voor degenen die vandaag de dag de voordelen van vloeistofkoeling willen zonder complexiteit, is JetCool een uitstekend alternatief.

JetCool-technologie

Neem contact op met StorageReview

Nieuwsbrief | YouTube | Podcast iTunes/Spotify | Instagram | Twitter | TikTok | RSS Feed