Quando si pensa alle reti per la distribuzione di contenuti (CDN), è facile rivolgersi direttamente ai grandi marchi che conosciamo, come Netflix, Hulu, ecc. è intuitivo pensare all'ultimo episodio del tuo programma preferito distribuito sul tuo telefono o sulla TV del tuo salotto. Naturalmente, è molto più complicato di così e lo spazio di archiviazione ad alta capacità gioca un ruolo importante nell’esperienza del cliente.
Quando si pensa alle reti per la distribuzione di contenuti (CDN), è facile rivolgersi direttamente ai grandi marchi che conosciamo, come Netflix, Hulu, ecc. è intuitivo pensare all'ultimo episodio del tuo programma preferito distribuito sul tuo telefono o sulla TV del tuo salotto. Naturalmente, è molto più complicato di così e lo spazio di archiviazione ad alta capacità gioca un ruolo importante nell’esperienza del cliente.
Quando si chiama Slotherhouse su Hulu, il tuo dispositivo di streaming raggiungerà prima un CDN edge vicino a casa. Maggiore è la quantità di dati che il nodo CDN può contenere, maggiore è la probabilità che il servizio fornisca un avvio rapido anziché rimbalzare su un nodo più lontano per recuperare il contenuto richiesto. I vantaggi derivanti dalla riduzione degli hop richiesti per lo streaming video sono piuttosto ovvi, ma i CDN fanno molto di più.
I CDN consentono altri casi d'uso come gli aggiornamenti over-the-air (OTA) per auto come Tesla o lo spostamento di flussi di film da Internet all'interno di un aereo di linea commerciale. Indipendentemente dal tipo di file consegnati, una cosa è chiara: più è possibile archiviare all'edge, più reattiva può essere una CDN, il che è fondamentale poiché i clienti misurano il successo in base ai giri del throbber, con poca attenzione al l’infrastruttura sottostante che rende tutto ciò possibile.
Come al solito nei nostri rapporti, non volevamo solo speculare su come funzionano le CDN e dove è più probabile che si trovi la pressione sull’architettura. Siamo andati dagli esperti. In questo caso, sì Software per vernici, uno dei leader preminenti nel software di distribuzione dei contenuti.
Abbiamo collaborato con Varnish per configurare un nodo CDN edge perfetto nel nostro laboratorio, dotato del software di distribuzione dei contenuti di Varnish, un server specifico per CDN di Supermicro, un enorme ingombro di archiviazione grazie agli SSD Solidigm P30.72 da 5316 TB e un'interconnessione 200GbE ad alta velocità di NVIDIA per gestire meglio i fattori di stress sui nodi CDN edge e il modo in cui lo storage, in particolare, influisce sui risultati.
Chi è il software Varnish?
Varnish offre software per la distribuzione di contenuti che semplifica l'accelerazione delle interazioni digitali, la gestione di enormi carichi di traffico e la protezione dell'infrastruttura web. Varnish aiuta le organizzazioni a spostare la distribuzione dei contenuti il più vicino possibile al cliente per garantire la migliore esperienza consentendo al contempo il massimo ritorno sull'investimento nell'infrastruttura.
La base si basa su una cache HTTP open source robusta e ricca di funzionalità e un proxy inverso, Varnish Cache, che si trova tra l'origine e il client. È stato ottimizzato per ottenere le massime prestazioni ed efficienza dall'hardware sottostante. Varnish Cache semplifica l'accodamento, l'archiviazione e il recupero a livello di sistema, rendendolo il metodo ideale per confrontare i carichi di lavoro di distribuzione di contenuti e distribuzione perimetrale.
La vernice può funzionare praticamente su qualsiasi cosa, ma c'è un vantaggio nel dare ai propri nodi periferici più potenza in alcune aree chiave per migliorare l'esperienza del cliente. Ogni salto di ritorno al data center dal dispositivo client introduce latenza, quindi quanto più il nodo periferico può offrire, meglio è. A tal fine, abbiamo creato il nodo CDN edge definitivo e lo abbiamo testato con i rigorosi strumenti di convalida dei nodi di Varnish.
Cosa rende Varnish CDN così dannatamente veloce?
Le CDN hanno bisogno di qualcosa di più di una rete veloce, soprattutto all’edge. Sarebbe inefficiente e lento se ogni richiesta dovesse tornare al sito host per un aggiornamento. La soluzione ottimale sarebbe un sistema di storage per elaborare e archiviare i dati vicino al cliente. Il sistema necessita di enormi capacità di archiviazione e di un server ad alte prestazioni in grado di estrarre rapidamente le informazioni dalla cache e consegnarle senza ritardi.
Varnish Software ha implementato una soluzione che supporta set di dati molto grandi per soddisfare praticamente qualsiasi ambiente con server ad alte prestazioni e sistemi di storage ad alta densità. Scopri il Massive Storage Engine.
Massive Storage Engine (MSE) di Varnish Software è un motore di cache di memoria e disco ottimizzato. MSE consente il caching e la persistenza ad alte prestazioni per set di dati da oltre 100 TB che supportano la distribuzione di video e contenuti multimediali, CDN e casi d'uso di cache di grandi dimensioni. MSE è la soluzione perfetta per le aziende in cui la fornitura ad alte prestazioni di set di dati di grandi dimensioni è fondamentale.
Con MSE ad alte prestazioni, la cache rimane intatta tra riavvii e aggiornamenti, evitando ricariche di cache costose e dispendiose in termini di tempo. Ciò fornisce un recupero rapido e aiuta a evitare la congestione della rete dopo un riavvio.
La soluzione MSE può archiviare e servire oggetti di dimensioni quasi illimitate nella cache per una distribuzione dei contenuti rapida e scalabile. MSE è stato ottimizzato per fornire contenuti con minore frammentazione per i criteri di eliminazione della cache LRU (meno recentemente utilizzati), con conseguenti prestazioni e concorrenza superiori. Per i clienti con una dimensione della cache superiore a 50 GB o con memoria limitata, Varnish consiglia di utilizzare MSE.
L'ultima generazione di MSE (MSE 4) consente il guasto corretto dei dischi, consentendo alle impronte della cache persistenti di riprendere automaticamente il funzionamento dopo che viene rilevato un guasto del disco.
Configurazione hardware del nodo Edge CDN
Nel nostro scenario di test, abbiamo sfruttato un singolo server che funge da nodo Edge CDN e un singolo client. Il nostro nodo CDN è basato su Server Supermicro SYS-111E-WR con una singola CPU Intel Xeon Gold 6414U. Questa CPU offre 32 core e ha una frequenza base di 2 GHz.
Abbiamo abbinato questa CPU a 256 GB di memoria DDR5 e otto SSD QLC Solidigm P5316 da 30.72 TB. Questo progetto mirava a mostrare cosa può offrire un modello di distribuzione snella in termini di prestazioni senza richiedere SSD più costosi o risorse CPU aggiuntive che rimarrebbero sottoutilizzate.
Per il lato client, abbiamo utilizzato una piattaforma a doppio processore disponibile nel nostro laboratorio con CPU Intel Xeon Platinum 8450H, che è eccessiva ma aveva molte risorse per garantire che il collo di bottiglia fosse la rete o il nodo CDN.
I nostri sistemi erano configurati con Ubuntu 22.04 come sistema operativo e ciascuno era dotato di una scheda di rete NVIDIA da 200 Gb. La struttura Ethernet da 200 Gb ha offerto molta larghezza di banda per questo scenario di test.
Prestazioni del nodo CDN Edge
L'esecuzione del test ha esaminato le prestazioni complessive di Varnish Software sul nodo periferico che abbiamo creato. Nello specifico, i parametri critici valutati includono TTLB (Time to Last Byte), richieste/secondo, trasferimento/secondo (byte), richieste totali, errori, utilizzo della CPU, utilizzo della memoria, throughput e goodput. Per essere chiari, il throughput è tutto ciò che viene inviato da Varnish e il goodput è ciò che il client vede effettivamente, ignorando le ritrasmissioni o i dati generali.
I test sono stati completati utilizzando WRK come strumento di generazione del carico, estraendo blocchi di file di dimensioni diverse da un backend video utilizzando 100 connessioni TCP. Il test è stato progettato per avere un rapporto di riscontri della cache compreso tra il 90% e il 95% per simulare ciò che spesso si vede negli ambienti di distribuzione video distribuiti. Per simulare carichi di lavoro diversi, ci siamo concentrati sulle prestazioni di file piccoli e grandi, dove file più piccoli potevano simulare chiamate API e file più grandi potevano rappresentare varie qualità video in uno scenario live o video-on-demand (VOD).
Abbiamo testato dimensioni di file di 100 e 500 kilobyte per i test sugli oggetti più piccoli e 1,000, 10,000, 16,000 e 50,000 kilobyte per gli oggetti più grandi. Speravamo di catturare un mix di casi d'uso della CDN esaminando una gamma di dimensioni di file. Per le organizzazioni che effettuano chiamate API di volume elevato ma di piccole dimensioni, 100 kilobyte saranno probabilmente più grandi della maggior parte. Per VOD, un oggetto da 10 MB può rappresentare un breve video clip, 16 MB un video HD e 50 MB un video di qualità ancora superiore. Queste dimensioni di file possono essere applicate anche alla distribuzione e alla fornitura di immagini ISO, aggiornamenti software e pacchetti di installazione.
Lo strumento di test del carico WRK restituisce TTLB (Time to Last Byte), quindi i parametri di latenza mostrano il tempo di caricamento completo per l'intero blocco video. Inoltre, TTFB (Time to First Byte) è il tempo della prima risposta del server, solitamente misurato in millisecondi, ed è costante per molte dimensioni di file diverse.
Abbiamo osservato TTLB da 4.4 ms fino a 995.2 ms. Per la porzione video più piccola di 100 kilobyte, la risposta media completa è stata di soli 4.4 ms. Per la dimensione massima di 50 MB, l'intero caricamento è stato comunque completato in media in meno di 1 secondo.
Altri parametri degni di nota sono il conteggio degli errori; gli unici errori rilevati erano alcuni errori di timeout residui. Quelli sono previsti per gli oggetti di dimensioni maggiori. L'utilizzo della CPU e della memoria è rimasto integro, dal 50% fino al 60% della capacità totale durante questi test. Il massimo utilizzo della CPU è stato durante il test da 100KB con il 58.8% e il test da 50MB con il 58% a causa dell'enorme numero di richieste per i file più piccoli e la dimensione dei file più grandi.
Il throughput medio per il video di dimensioni maggiori è stato di oltre 170.5 Gbps, mentre quello per i video di dimensioni più piccole è stato di oltre 164 Gbps.
Le medie Goodput per le dimensioni più grandi erano 158.8+ Gbps e 149.1+ Gbps per le dimensioni più piccole utilizzando un client WRK come generatore di caricamento. Si prevede che sia possibile ottenere throughput più elevati ridimensionando i client WRK, come osservato in alcuni altri esperimenti eseguiti internamente da Varnish, ma questo non rientra nell'ambito di questo documento.
Sebbene i parametri grezzi delle prestazioni siano importanti, il consumo energetico è un'altra considerazione per i sistemi Edge CDN. È qui che entra in gioco la piattaforma che abbiamo scelto per questo progetto. La presa singola Server Supermicro SYS-111E-WR offre una densa piattaforma di archiviazione NVMe con numerosi slot PCIe per schede NIC senza diventare troppo aggressivo dal punto di vista energetico con i doppi processori.
Per misurare l'assorbimento di potenza dal server con il carico applicato, abbiamo sfruttato il nostro modulo Quarch Mains Power Analysis. Questo ci dà una visione accurata della potenza assorbita dal server, con un tempo di risposta di 125us. Qui, abbiamo esaminato ciascun gruppo di test per lo stesso periodo di tempo e misurato la potenza media dall'inizio alla fine del carico di lavoro.
Ci siamo concentrati su due parametri di potenza: potenza RMS totale del sistema rispetto alla dimensione del file di test e alle richieste al secondo per watt. Anche se la prima ipotesi sarebbe che il consumo di energia aumenta con l’aumentare della velocità di trasferimento, non è stato così. Abbiamo riscontrato un consumo energetico elevato con dimensioni di trasferimento inferiori, che si sono leggermente ridotti con l'aumento delle dimensioni di trasferimento. Ciò dipende dalle dimensioni di trasferimento più piccole che guidano più processi I/O, con dimensioni di trasferimento più grandi con meno processi I/O.
Osservando la potenza totale del sistema, con una dimensione di trasferimento di 1M, abbiamo misurato un livello di potenza del sistema di 473.9W, che è sceso a 426.5W con una dimensione di trasferimento di 50M. Quando lo scomponiamo in richieste al secondo per watt, la dimensione di trasferimento di 1M misurava 46.9, fino a 1.09 per la dimensione di trasferimento di 50M.
Bilanciare prestazioni e costi
Il nostro nodo CDN Varnish è stato creato per fornire prestazioni e densità eccezionali. Non solo con la densità del rack del server 1U, ma anche con la densità di capacità fornita dagli SSD Solidigm. Oggi utilizziamo "solo" le unità P30.72 da 5316 TB, ma c'è ancora più vantaggio disponibile con le unità P61.44 da 5336 TB. La cosa ancora migliore è che il carico di lavoro della CDN è estremamente pesante in lettura, il che significa che questi SSD basati su QLC sono perfetti per questo compito. Per inciso, quando hanno esaminato i numeri delle prestazioni con Varnish, il loro ingegnere ha pensato che stessimo utilizzando SSD Gen5 perché le prestazioni del nodo erano davvero impressionanti.
Mentre la densità dei server è un elemento critico, un nodo CDN a costi ottimizzati è qualcos’altro. Il server Supermicro a processore singolo che abbiamo utilizzato qui fornisce a Varnish molta potenza hardware e opzioni di espansione, mentre i dieci alloggiamenti NVMe ci consentono di accumulare oltre 600 TB di spazio di archiviazione utilizzando la leadership di capacità SSD di Solidigm. Le prestazioni relative per dollaro e, se vuoi approfondire i nostri dati, le prestazioni per watt, le metriche qui sono indiscutibili.
Le CDN hanno il compito non invidiabile di fornire dati in un attimo con richieste a volte prevedibili, spesso no. Un hardware server ben calibrato fa la differenza per quanto riguarda le prestazioni di questi nodi CDN, che vengono sempre più spinti ai margini. Con gli enormi SSD aziendali di Solidigm, questi nodi possono migliorare notevolmente i tassi di successo della cache, offrendo in definitiva un'esperienza cliente superiore.
Questo rapporto è sponsorizzato da Solidigm. Tutti i pareri e le opinioni espressi in questo rapporto si basano sulla nostra visione imparziale dei prodotti in esame.
Interagisci con StorageReview
Newsletter | YouTube | Podcast iTunes/Spotify | Instagram | Twitter | TikTok | RSS feed
