Intel Optane DC Persistent Memory Module (PMM)

Intel praat nu al meer dan een jaar publiekelijk over Optane DC Persistent Memory Modules (PMM), en omarmt de voordelen van een nieuwe laag van datacentrische architectuur die zich tussen DRAM en Optane DC SSD's bevindt, met opeenvolgend langzamere SSD- en HDD-media die door de piramide naar beneden stromen naar tape op archiefniveau. Het doel van permanent geheugen is altijd geweest om meer gegevens dichter bij de CPU te brengen, waardoor DRAM-achtige latentie wordt geboden met opslagachtige persistentie en capaciteiten. Na een jaar luisteren naar hardware- en softwarepartners die praten over de voordelen van persistent geheugen in het lab, is Optane DC PMEM met de release van de tweede generatie Intel Xeon Scalable Processors nu beschikbaar voor een breed scala aan serveroplossingen.

Intel-gegevenspiramide

Intel Optane DC permanente geheugenmodule

Hardware-overzicht Intel Optane DC Persistent Memory

Intel Optane DC PMM's hebben veel hogere capaciteiten dan traditionele DRAM. Intel Optane DC permanente geheugenmodules zijn er in capaciteiten van 128 GB, 256 GB en 512 GB, veel groter dan DRAM-sticks die doorgaans variëren van 4 GB tot 32 GB, hoewel er grotere capaciteiten bestaan. PMM's bevinden zich op hetzelfde kanaal als DRAM en moeten op elk kanaal worden geplaatst op het slot dat zich het dichtst bij de CPU bevindt. Een populaire configuratie die Intel aanbeveelt, is een verhouding van 4:1, met 32 GB DRAM tot 128 GB DCPMM, die u hieronder kunt zien.

Elke CPU kan maximaal 6 permanente geheugenmodules ondersteunen. In een typische server die twee Intel Xeon verkoopbare processors ondersteunt, betekent dat 12 permanente geheugenmodules per systeem, of tot 6 TB aan totale PMEM-capaciteit (3 TB per socket). Servers die geschikt zijn voor permanent geheugen, zullen ook laten zien dat ze op de hoogte zijn van de modules in hun systeem-BIOS, waar onder andere persistent-geheugenmodi kunnen worden ingesteld, naamruimten kunnen worden gemaakt en pools kunnen worden geconfigureerd. Ditzelfde niveau van zichtbaarheid en configuratie kan ook worden uitgevoerd via het besturingssysteem.

Om te zien hoe het communiceert, gebruikt Intel Optane DC persistent geheugen het DDR-T-protocol. Dit maakt asynchrone opdracht-/gegevenstiming mogelijk. De modulecontroller gebruikt het aanvraag-/toekenningsschema om te communiceren met de hostcontroller. De richting en timing van de databus wordt gecontroleerd door de host. Per verzoek wordt een commandopakket van de host naar de persistent memory controller gestuurd. De transactie kan indien nodig opnieuw worden besteld in de Intel Optane DC persistent memory controller. De modules gebruiken 64B cache line access granularity die vergelijkbaar is met DDR4.

Vanuit een hardwareperspectief is het persistente geheugen van Optane DC een compleet systeem op een module met verschillende belangrijke componenten:

Het Power Management Integrated Circuit (PMIC) genereert alle rails voor media en controller
SPI Flash slaat de firmware van de module op
De Intel Optane Media vormt de opslagruimte zelf, die bestaat uit 11 parallelle apparaten voor data, ECC en reserveonderdelen
DQ-buffers voor signaalintegriteit met hoge bitsnelheid
AIT DRAM bevat de adresomleidingstabel
Energy Store Caps zorgt ervoor dat bij stroomuitval alle wachtrijen van modules worden leeggemaakt
De kern van elke persistente geheugenmodule is de Intel Optane DC persistente geheugencontroller die zowel de gegevensoverdracht als het beheer van de subcomponenten op het bord afhandelt.

Natuurlijk is bij het overwegen van de modules zelf, na kosten en prestaties, uithoudingsvermogen misschien wel de grootste zorg. Net als andere opslagmedia wordt het persistente geheugen van Intel Optane DC gemeten in Petabytes Written (PBW). PBW wordt geschat op basis van bandbreedte- en mediaduurzaamheidsoverwegingen gedurende een levensduur van 5 jaar, uitgaande van maximale bandbreedte bij het beoogde stroomverbruik gedurende 24/7, 365 dagen per jaar. In het geval van 100% schrijven 15W ondersteunen de permanente geheugenmodules meer dan 350PBW, zoals te zien is in de onderstaande grafiek.

Nog een opmerking over instellingen: Optane DC-modules zijn programmeerbaar voor verschillende vermogenslimieten, waardoor een breed scala aan optimalisatie mogelijk is. De permanente geheugenmodules ondersteunen een vermogensomhulling van 12W - 18W en kunnen worden afgesteld in granulariteit van 0.25 watt. De hogere energie-instellingen geven de beste prestaties, zij het met de kosten die gepaard gaan met een hoger totaal stroomverbruik van de server. In sommige gevallen is dat misschien geen probleem en kunnen organisaties ervoor kiezen om de power-envelope maximaal te benutten op basis van serverondersteuning.

Intel Optane DC Persistent Memory Bedrijfsmodi

Eenmaal ingezet in een server, kunnen de PMM's verder worden geconfigureerd in verschillende bedrijfsmodi, waaronder Memory Mode en App Direct Mode, samen met een glijdende schaal van toewijzingen daartussenin.

Optane DC Persistent Memory - Geheugenmodus
In de geheugenmodus worden PMM's gebruikt, vergelijkbaar met DRAM. Er is geen behoefte aan specifieke software of wijzigingen aan applicaties, permanent geheugen imiteert DRAM en houdt de gegevens "vluchtig", hoewel de vluchtige sleutel elke stroomcyclus wordt gewist. In de geheugenmodus wordt het permanente geheugen gebruikt als een uitbreiding van DRAM en beheerd door de geheugencontroller van de host. Er is geen vaste verhouding tussen permanent geheugen en DRAM, de mix kan afhankelijk zijn van de toepassingsbehoeften. Wat het latentieprofiel betreft, levert alles wat de DRAM-cache (near memory) raakt natuurlijk een latentie van <100 nanoseconden op. Elke gemiste cache stroomt naar het persistente geheugen (verre geheugen) dat een latentie in het bereik van minder dan een microseconde zal opleveren.

Optane DC Persistent Memory - App Direct-modus
Optane DC permanent geheugen heeft ook een App Direct-modus. Deze modus heeft specifieke persistente geheugenbewuste software/applicaties nodig. Deze modus maakt het permanente geheugen op zijn plaats persistent maar nog steeds byte-adresseerbaar, vergelijkbaar met geheugen. In App Direct-modus blijft persistent geheugen cache-coherent en biedt het de mogelijkheid om DMA en RDMA uit te voeren.

Er is ook de mogelijkheid om permanent geheugen te configureren als opslag via App Direct. Hier werkt persistent geheugen in blokken zoals SSD's dat zouden doen, met traditionele lees-/schrijfinstructies. Dit werkt met bestaande bestandssystemen, biedt atomiciteit op blokniveau en is configureerbaar in blokgrootte (4K, 512B). Om de opslag direct via de app te gebruiken, hebben gebruikers alleen een NVDIMM-stuurprogramma nodig. Deze modus maakt schaalvergroting van de capaciteit en betere prestaties, lagere latentie en meer uithoudingsvermogen mogelijk dan traditionele SSD's van ondernemingsklasse.

Voordelen van Intel Optane DC permanent geheugen

Intel Optane DC-permanente geheugenmodules bieden een breed scala aan voordelen voor eindgebruikers. Ten eerste bieden de modules een manier om de DRAM-voetafdruk van een server op een veel kosteneffectievere manier effectief te schalen. Omdat persistent geheugen kan worden gecombineerd met de DRAM-laag, kan de effectieve bruikbare DRAM-voetafdruk sneller worden geschaald met persistent geheugen, waardoor de algehele TCO van de serverinvestering van een organisatie wordt verbeterd. Doordat servers meer gegevens sneller kunnen verwerken, is het voor sommigen wellicht mogelijk om nieuwe kansen te benutten om de werkdruk te consolideren. Er is ook een tweede argument dat kan worden aangevoerd als het om waarde gaat. Voor workloads die misschien niet zoveel van de DRAM-aanbiedingen van nanoseconden nodig hebben, kunnen organisaties ervoor kiezen om hun servers te bouwen met minder DRAM maar meer persistent geheugen van Optane DC om toch een redelijke of grotere geheugenvoetafdruk te behouden, maar met de meer kosteneffectieve persistente geheugenmodules in plaats van DRAM.

De persistente geheugenmodules, zoals de naam openlijk aangeeft, zijn persistent. Dit betekent dat de PMM's niet hoeven te worden vernieuwd met gegevens, wat leidt tot een snellere herstart van de server. Dit is van cruciaal belang als het gaat om geheugenresidente databases. Nadat de server opnieuw is opgestart, kan de tijd om al die geheugengegevens te herstellen erg lang duren. Onafhankelijke softwareleveranciers (ISV's) die zich richten op krachtige databases hebben onder deze scenario's enorme winsten behaald met persistent geheugen, waarbij snel operationeel zijn van cruciaal belang is. Intel heeft hier zelfs gegevens over getoond. Een columnar slaat de volledige herlaadbeurt in DRAM op voor een dataset van 1.3 TB die ze 20 minuten vonden op een server met alleen DRAM. Een volledig herstart van het systeem op die server voordat het permanente geheugen 32 minuten duurde; 12 minuten voor het besturingssysteem, 20 minuten voor de gegevens. Dezelfde server met persistent geheugen van Optane DC deed er 13.5 minuten over. Hoewel dat er op het eerste gezicht indrukwekkend uitziet, is het zelfs nog indrukwekkender als je bedenkt dat de datacomponent slechts anderhalve minuut was, wat neerkomt op een winst van 13x.

Intel Optane DC permanente geheugenmodules bieden ook versleuteling op de module, waardoor dit het eerste hardwareversleutelde geheugen ooit is. De modules gebruiken data-at-rest-beveiliging met behulp van een 256bit AES-XTP-coderingsengine. Als de DRAM-cache in de geheugenmodus zijn gegevens verliest, gaat de coderingssleutel verloren en wordt deze bij elke keer opstarten opnieuw gegenereerd. In de App Direct-modus worden persistente media versleuteld met behulp van een sleutel die is opgeslagen in een beveiligingsmetagegevensgebied op de module dat alleen toegankelijk is voor de Intel Optane DC-controller. Het permanente geheugen van de Intel Optane DC is vergrendeld bij een stroomuitval en heeft een wachtwoordzin nodig om te ontgrendelen. De modules ondersteunen ook veilig cryptografisch wissen en DIMM-overschrijven, voor veilig hergebruik of weggooien aan het einde van de levensduur. Ten slotte zijn ondertekende versies van de firmware toegestaan en zijn er opties voor revisiebeheer beschikbaar.

Intel Optane DC Persistent Memory-software

Hoewel de nadruk duidelijk ligt op de voordelen van hardware met permanent geheugen, heeft Intel ook een reeks softwaretools die belangrijk zijn. De volgende hulpprogramma's zijn de belangrijkste manier om het permanente geheugen te beheren via het besturingssysteem, in plaats van de server uit en weer in te schakelen en die wijzigingen aan te brengen in het systeem-BIOS. Dit bespaart tijd en voorkomt downtime om on-the-fly wijzigingen door te voeren.

IPMCTL- Hulpprogramma voor het beheren van Intel Optane DC persistente geheugenmodules

Ondersteunt functionaliteit om:

Ontdek persistente geheugenmodules in het platform.
Richt de configuratie van het platformgeheugen in.
Bekijk en update de firmware op PMM's.
Configureer data-at-rest-beveiliging op PMM's.
Bewaak de PMM-gezondheid.
Volg de prestaties van PMM's.
PMM's debuggen en problemen oplossen.

NDCTL- Utility om "libnvdimm" subsysteemapparaten te beheren (niet-vluchtig geheugen)

ndctl is een hulpprogramma voor het beheer van het kernelsubsysteem "libnvdimm". Het "libnvdimm"-subsysteem definieert een kernelapparaatmodel en besturingsberichtinterface voor NVDIMM-bronnen van het platform, zoals die zijn gedefinieerd door de ACPI 6.0 NFIT (NVDIMM Firmware Interface Table). Bewerkingen die door de tool worden ondersteund, omvatten het inrichten van capaciteit (naamruimten) en het opsommen/inschakelen/uitschakelen van de apparaten (dimms, regio's, naamruimten) die zijn gekoppeld aan een NVDIMM-bus.

Beschikbaarheid van Intel Optane DC Persistent Memory Module

Permanente geheugenmodules zijn nu beschikbaar, met tal van serverleveranciers die systeembeschikbaarheid aankondigen:

Leveranciers van opslagsystemen kijken ook naar permanent geheugen als een manier om hun oplossingen te versnellen: