Home Enterprise VMware VSAN publiceert 2 miljoen IOPS

VMware VSAN publiceert 2 miljoen IOPS

by Lyle Smit

Virtual SAN (VSAN) 5.5, VMware's eerste Software Defined Data Center-product, was vorige maand uitgebracht en is zeer goed ontvangen door bedrijven die meer willen halen uit traditionele rekenservers. VSAN geeft gebruikers in wezen toegang tot redundante knooppunten die rekenkracht en opslag combineren, terwijl ze worden geïntegreerd in de virtualisatieomgeving die allemaal wordt beheerd via de vSphere-client van VMware. Volgens de interne benchmarks van VMware kan VSAN 2 miljoen IOPS bereiken in een cluster met 32 ​​nodes. Hoe heeft VMware dit bereikt en wat zijn de details van de configuratie die ze hebben gebruikt om deze prestatie te bereiken?


Virtual SAN (VSAN) 5.5, VMware's eerste Software Defined Data Center-product, was vorige maand uitgebracht en is zeer goed ontvangen door bedrijven die meer willen halen uit traditionele rekenservers. VSAN geeft gebruikers in wezen toegang tot redundante knooppunten die rekenkracht en opslag combineren, terwijl ze worden geïntegreerd in de virtualisatieomgeving die allemaal wordt beheerd via de vSphere-client van VMware. Volgens de interne benchmarks van VMware kan VSAN 2 miljoen IOPS bereiken in een cluster met 32 ​​nodes. Hoe heeft VMware dit bereikt en wat zijn de details van de configuratie die ze hebben gebruikt om deze prestatie te bereiken?

VMware heeft onlangs hun testconfiguratie uitgebracht die het opmerkelijke aantal van 2 miljoen IOPS bereikte. Natuurlijk weten we dat IOPS slechts een deel van het prestatiebeeld is voor elk opslagproduct, applicatietests zullen meer onthullen over de mogelijkheden van VSAN in termen van latentie en potentiële doorvoer, maar de industrie zoals die nu is, begrijpt IOPS grotendeels als een maatstaf voor opslagprestaties . 

VMware publiceerde VSAN-prestatieresultaten in twee scenario's; 1) 100% leeswerklast en 2) 70% lees-, 30% schrijfwerklast. Om te beginnen gebruikte elke host een Dell PowerEdge R720 met dual-socket Intel Xeon CPU E5-2650 v2 @ 2.6GHz (Ivy Bridge), 128GB RAM, 10GbE, LSI 9207-8i, 1x 400GB Intel S3700 en een harde-schijfconfiguratie van 4x 1.1TB 10K RPM Hitachi SAS-drives en 3x 1.1 TB 10K RPM Seagate SAS-schijven.

VMware gebruikte vSphere 5.5 U1 met Virtual SAN 5.5 op het cluster met de volgende wijzigingen in de standaardinstellingen in vSphere:

  • Vergroot de heapgrootte voor de vSphere-netwerkstack tot 512 MB. "esxcli systeeminstellingen geavanceerde set -o /Net/TcpipHeapMax -i 512". U kunt deze instelling valideren met "esxcli systeeminstellingen geavanceerde lijst -o /Net/TcpipHeapmax"
  • Sta toe dat VSAN clusters met 32 ​​hosts vormt. "esxcli systeeminstellingen geavanceerde set -o /adv/CMMDS/goto11 1".
  • Het Phase 18 LSI-stuurprogramma (mpt2sas versie 18.00.00.00.1vmw) geïnstalleerd voor de LSI-opslagcontroller.
  • Geconfigureerd BIOS-energiebeheer (systeemprofielinstellingen) voor 'Prestaties' (alle energiebesparende functies zijn bijvoorbeeld uitgeschakeld)

Ga voor een meer gedetailleerde kijk op de ESXi-configuratie naar hun VMware Knowledgebase-pagina

100% Lees Benchmark-instellingen

VMware heeft ervoor gezorgd dat elke host een enkele 4-vcpu 32-bits Ubuntu 12.04 VM met 8 virtuele schijven (vmdk-bestanden) op de VSAN-datastore draaide met schijven verdeeld over twee PVSCSI-controllers. Ook werd de standaard driver voor pvscsi (versie 1.0.2.0-k) gebruikt.

Om grootschalige workloads met een hoge uitstaande IO beter te ondersteunen, heeft VMware de opstarttijdparameters voor pvscsi aangepast naar "vmw_pvscsi.cmd_per_lun=254 vmw_pvscsi.ring_pages=32". Bezoek de VMware-kennisbank voor meer informatie over deze configuratie. VMware paste een op opslagbeleid gebaseerde beheerinstelling van HostFailuresToTolerate=0 toe op de vmdks voor deze benchmarktest.

IOMeter met 8 worker-threads werd uitgevoerd in elke VM, waarbij elke thread was geconfigureerd om te werken op 8 GB van een enkele vmdk. Bovendien voerde elke thread een 100% gelezen, 80% willekeurige werkbelasting uit met 4096 byte IO's uitgelijnd op de grens van 4096 bytes met 16 OIO per werker. In wezen heeft elke VM op elke host het volgende uitgegeven:

  • 4096 byte IO-verzoeken over een werkset van 64 GB
  • 100% gelezen, 80% willekeurig
  • Samenvoeging van 128 OIO/host

VMware voerde de configuratie een uur lang uit en meet een totale gast-IOPS met tussenpozen van 60 seconden. Dit resulteerde in een ongekende mediane IOPS van 2,024,000.

70% Lees 30% Schrijf Benchmark

In het 70/30 IO-profiel draaide elke host een enkele 4-vcpu 32-bits Ubuntu 12.04 VM met 8 virtuele schijven (vmdk-bestanden) op de VSAN-datastore. Bovendien werden de schijven verdeeld over twee PVSCSI-controllers. Het standaardstuurprogramma voor pvscsi werd gebruikt (versie 1.0.2.0-k) terwijl de opstarttijdparameters voor pvscsi werden gewijzigd om de ondersteuningscapaciteit van uitstekende IO te verbeteren: "vmw_pvscsi.cmd_per_lun=254 vmw_pvscsi.ring_pages=32".

Net als in de 100% Read-configuratie draaide VMware IOMeter met 8 werkthreads in elke VM, hoewel elke thread was geconfigureerd om te werken op 4 GB van een enkele vmdk. Elke thread voert een 70% gelezen, 80% willekeurige werkbelasting uit met 4096 byte IO's uitgelijnd op de 4096 byte grens met 8 OIO.

In wezen heeft elke VM op elke host het volgende uitgegeven:

  • 4096 byte IO-verzoeken over een werkset van 32 GB
  • 70% gelezen, 80% willekeurig
  • Samenvoeging van 64 OIO/host

In de 70/30-test registreerde VMware een snelheid van 652,900 iops met een gemiddelde latentie van 2.98 ms en een bandbreedte gedurende die tijd was 3.2 GB/s. 

Wat houdt dit precies in?

Hoewel er nog veel meer benchmarking moet worden gedaan, waaronder onze reeks benchmarks met zaken als SQL-server en VMmark, is het duidelijk dat VSAN met deze prestatiecijfers, zij het met een cluster van maximaal 32 knooppunten, veel potentieel heeft vanuit een prestatieperspectief. Het is ook vermeldenswaard dat VMware slechts 8 bays in de backplanes gebruikte, met deze configuratie hadden ze de opslag effectief kunnen verdubbelen door nog een SSD en 7 extra HDD's aan elk knooppunt toe te voegen. 

VMware Virtual SAN is momenteel beschikbaar voor $ 2,495 per processor en VMware Virtual SAN for Desktop kost $ 50 per gebruiker.

Bespreek dit verhaal