Cuando se piensa en redes de entrega de contenido (CDN), es fácil ir directamente a las grandes marcas que conocemos, como Netflix, Hulu, etc. Eso tiene sentido; Es intuitivo pensar en el último episodio de su programa favorito que se distribuye en su teléfono o en el televisor de su sala de estar. Por supuesto, es mucho más complicado que eso y el almacenamiento de alta capacidad juega un papel importante en la experiencia del cliente.
Cuando se piensa en redes de entrega de contenido (CDN), es fácil ir directamente a las grandes marcas que conocemos, como Netflix, Hulu, etc. Eso tiene sentido; Es intuitivo pensar en el último episodio de su programa favorito que se distribuye en su teléfono o en el televisor de su sala de estar. Por supuesto, es mucho más complicado que eso y el almacenamiento de alta capacidad juega un papel importante en la experiencia del cliente.
al llamar Casa perezosa en Hulu, su dispositivo de transmisión primero accederá a una CDN perimetral cercana a su hogar. Cuantos más datos pueda contener el nodo CDN, es más probable que el servicio ofrezca un inicio rápido en lugar de rebotar a un nodo más lejano para recuperar el contenido solicitado. Los beneficios de reducir los saltos necesarios para la transmisión de vídeo son bastante obvios, pero las CDN hacen mucho más que eso.
Las CDN permiten otros casos de uso, como actualizaciones inalámbricas (OTA) para automóviles como Tesla o mover esas transmisiones de películas desde Internet al interior de un avión comercial. Independientemente del tipo de archivos que se entreguen, una cosa está clara: cuanto más se pueda almacenar en el borde, mejor capacidad de respuesta tendrá una CDN, lo cual es fundamental ya que los clientes miden el éxito por los giros del pulsador, sin preocuparse por el infraestructura subyacente que hace que todo esto suceda.
Como es habitual en nuestros informes, no queríamos simplemente especular sobre cómo funcionan las CDN y dónde es más probable que se encuentre la presión sobre la arquitectura. Acudimos a los expertos. En este caso, eso es Software de barniz, uno de los líderes más destacados en software de entrega de contenidos.
Nos asociamos con Varnish para configurar un nodo CDN de borde perfecto en nuestro laboratorio, equipado con el software de entrega de contenido de Varnish, un servidor CDN específico de Supermicro, una enorme huella de almacenamiento gracias a los SSD Solidigm P30.72 de 5316 TB y una interconexión de alta velocidad de 200 GbE desde NVIDIA para controlar mejor los factores estresantes en los nodos CDN perimetrales y cómo el almacenamiento, específicamente, afecta los resultados.
¿Quién es Varnish Software?
Varnish ofrece software de entrega de contenido que facilita acelerar las interacciones digitales, manejar cargas de tráfico masivas y proteger la infraestructura web. Varnish ayuda a las organizaciones a acercar la entrega de contenido lo más posible al cliente para garantizar la mejor experiencia y al mismo tiempo permitir el máximo retorno de la inversión en infraestructura.
La base se basa en un caché HTTP de código abierto robusto y rico en funciones y un proxy inverso, Varnish Cache, que se encuentra entre el origen y el cliente. Se ha optimizado para extraer el máximo rendimiento y eficiencia del hardware subyacente. Varnish Cache agiliza las colas, el almacenamiento y la recuperación a nivel del sistema, lo que lo convierte en el método ideal para comparar la entrega de contenido y las cargas de trabajo de entrega perimetral.
Varnish puede ejecutarse en casi cualquier cosa, pero es beneficioso darle a sus nodos de borde más potencia en algunas áreas clave para mejorar la experiencia del cliente. Cada salto de regreso al centro de datos desde el dispositivo cliente introduce latencia, por lo que cuanto más pueda ofrecer el nodo perimetral, mejor. Con ese fin, creamos el nodo CDN de vanguardia y lo probamos con las rigurosas herramientas de validación de nodos de Varnish.
¿Qué hace que Varnish CDN sea tan rápido?
Las CDN necesitan más que una red rápida, especialmente en el borde. Sería ineficiente y lento si cada solicitud tuviera que regresar al sitio anfitrión para una actualización. La solución óptima sería un sistema de almacenamiento para procesar y almacenar datos cerca del cliente. El sistema necesita capacidades de almacenamiento masivas y un servidor de alto rendimiento que pueda extraer rápidamente información del caché y entregarla sin demora.
Varnish Software ha implementado una solución que admite conjuntos de datos muy grandes para satisfacer prácticamente cualquier entorno con servidores de alto rendimiento y sistemas de almacenamiento de alta densidad. Conozca el motor de almacenamiento masivo.
El motor de almacenamiento masivo (MSE) de Varnish Software es un motor de caché de memoria y disco optimizado. MSE permite el almacenamiento en caché y la persistencia de alto rendimiento para conjuntos de datos de más de 100 TB que admiten distribución de video y medios, CDN y casos de uso de caché grande. MSE es perfecto para empresas donde la entrega de alto rendimiento de grandes conjuntos de datos es fundamental.
Con el MSE de alto rendimiento, la caché permanece intacta entre reinicios y actualizaciones, lo que evita recargas de caché costosas y que consumen mucho tiempo. Esto proporciona una recuperación rápida y ayuda a evitar la congestión de la red después de un reinicio.
La solución MSE puede almacenar y servir objetos de tamaño casi ilimitado en caché para una entrega de contenido rápida y escalable. MSE se ha optimizado para ofrecer contenido con menos fragmentación para la política de desalojo de caché utilizada menos recientemente (LRU), lo que da como resultado un rendimiento y una simultaneidad superiores. Para clientes con un tamaño de caché superior a 50 GB o memoria limitada, Varnish recomienda utilizar MSE.
La última generación de MSE (MSE 4) permite la falla gradual de los discos, lo que permite que las huellas de caché persistentes reanuden la operación automáticamente después de que se detecta una falla en el disco.
Configuración de hardware del nodo CDN perimetral
En nuestro escenario de prueba, aprovechamos un único servidor que actúa como un nodo CDN perimetral y un único cliente. Nuestro nodo CDN se basa en el Servidor Supermicro SYS-111E-WR con una única CPU Intel Xeon Gold 6414U. Esta CPU ofrece 32 núcleos y tiene una frecuencia base de 2GHz.
Combinamos esta CPU con 256 GB de memoria DDR5 y ocho SSD QLC Solidigm P5316 de 30.72 TB. Este diseño tenía como objetivo mostrar lo que puede ofrecer un modelo de implementación eficiente en términos de rendimiento sin requerir SSD más costosos o recursos de CPU adicionales que quedarían infrautilizados.
Para el lado del cliente, utilizamos una plataforma de procesador dual disponible en nuestro laboratorio con CPU Intel Xeon Platinum 8450H, lo cual es excesivo, pero tenía muchos recursos para garantizar que el cuello de botella fuera la red o el nodo CDN.
Nuestros sistemas se configuraron con Ubuntu 22.04 como sistema operativo y cada uno estaba equipado con una NIC NVIDIA de 200 Gb. La estructura Ethernet de 200 Gb ofreció mucho ancho de banda para este escenario de prueba.
Rendimiento del nodo CDN perimetral
La prueba analizó el rendimiento general de Varnish Software en el nodo perimetral que construimos. Específicamente, las métricas críticas evaluadas incluyen TTLB (tiempo hasta el último byte), solicitudes/segundo, transferencia/segundo (bytes), solicitudes totales, errores, uso de CPU, uso de memoria, rendimiento y buen rendimiento. Para aclarar, el rendimiento es todo lo que envía Varnish, y el buen rendimiento es lo que el cliente realmente ve, ignorando las retransmisiones o los datos generales.
Las pruebas se completaron usando WRK como herramienta generadora de carga, extrayendo fragmentos de archivos de diferentes tamaños desde un backend de video usando 100 conexiones TCP. La prueba se diseñó para tener una proporción de aciertos de caché del 90% al 95% para simular lo que se ve a menudo en entornos de entrega de video implementados. Para simular diferentes cargas de trabajo, nos centramos en el rendimiento de archivos pequeños y grandes, donde los archivos más pequeños podrían simular llamadas API y los archivos más grandes podrían representar varias calidades de video en un escenario en vivo o de video bajo demanda (VOD).
Probamos tamaños de archivo de 100 y 500 kilobytes para las pruebas de objetos más pequeños y de 1,000, 10,000 16,000, 50,000 100 y 10 16 kilobytes para objetos más grandes. Esperábamos capturar una combinación de casos de uso de CDN analizando una variedad de tamaños de archivos. Para las organizaciones que realizan llamadas API de gran volumen pero pequeñas, 50 kilobytes probablemente serán más que la mayoría. Para VOD, un objeto de XNUMX MB puede representar un videoclip corto, XNUMX MB un video HD y XNUMX MB un video de calidad aún mayor. Estos tamaños de archivos también se pueden aplicar para distribuir y entregar imágenes ISO, actualizaciones de software y paquetes de instalación.
La herramienta de prueba de carga WRK devuelve TTLB (tiempo hasta el último byte), por lo que las métricas de latencia muestran el tiempo de carga completo de todo el fragmento de vídeo. Además, TTFB (tiempo hasta el primer byte) es el tiempo de la primera respuesta del servidor, generalmente medido en milisegundos, y es constante para muchos tamaños de archivos diferentes.
Observamos TTLB de 4.4 ms hasta 995.2 ms. Para el fragmento de vídeo más pequeño de 100 kilobytes, la respuesta completa promedio fue de sólo 4.4 ms. Para el tamaño más grande de 50 MB, la carga completa se completó en menos de 1 segundo en promedio.
Otras métricas destacables son los recuentos de errores; los únicos errores observados fueron algunos errores de tiempo de espera residuales. Esto es lo que se espera para los objetos de mayor tamaño. El uso de CPU y memoria se mantuvo saludable, entre el 50 y el 60 por ciento de la capacidad total en estas pruebas. El mayor uso de CPU se produjo durante la prueba de 100 KB con un 58.8 por ciento y la prueba de 50 MB con un 58 por ciento debido a la gran cantidad de solicitudes de archivos más pequeños y el tamaño de los archivos más grandes.
El rendimiento promedio para el video de mayor tamaño fue de 170.5+ Gbps, y el promedio para el video de menor tamaño fue de 164+ Gbps.
Los promedios de buen rendimiento para los tamaños más grandes fueron 158.8+ Gbps y 149.1+ Gbps para los tamaños más pequeños utilizando un cliente WRK como generador de carga. Se espera que se puedan lograr mayores rendimientos escalando los clientes WRK, como se observó en algunos otros experimentos realizados internamente por Varnish, pero eso está fuera del alcance de este documento.
Si bien las métricas de rendimiento brutas son importantes, el consumo de energía es otra consideración para los sistemas Edge CDN. Aquí es donde entra en juego la plataforma que elegimos para este proyecto. El enchufe único Servidor Supermicro SYS-111E-WR ofrece una plataforma de almacenamiento NVMe densa con muchas ranuras PCIe para NIC sin consumir demasiada energía con procesadores duales.
Para medir el consumo de energía del servidor con la carga aplicada, aprovechamos nuestro módulo de análisis de energía de la red eléctrica de Quarch. Esto nos da una visión precisa de la energía consumida del servidor, con un tiempo de respuesta de 125us. Aquí, analizamos cada grupo de prueba durante el mismo período de tiempo y medimos la potencia promedio desde el inicio de la carga de trabajo hasta el final.
Nos centramos en dos métricas de potencia: potencia RMS total del sistema versus tamaño de archivo de prueba y solicitudes por segundo por vatio. Si bien la primera suposición sería que el uso de energía aumenta con mayores velocidades de transferencia, ese no fue el caso. Vimos un consumo de energía elevado en tamaños de transferencia más bajos, que disminuyó ligeramente a medida que aumentaba el tamaño de la transferencia. Esto se reduce a tamaños de transferencia más pequeños que impulsan más procesos de E/S, con tamaños de transferencia más grandes con menos procesos de E/S.
En cuanto a la potencia total del sistema, con el tamaño de transferencia de 1 M, medimos un nivel de potencia del sistema de 473.9 W, que disminuyó a 426.5 W con el tamaño de transferencia de 50 M. Cuando lo dividimos en solicitudes por segundo por vatio, el tamaño de transferencia de 1 millón midió 46.9, hasta 1.09 para el tamaño de transferencia de 50 millones.
Equilibrio entre rendimiento y costo
Nuestro nodo CDN Varnish se creó para proporcionar un rendimiento y una densidad excepcionales. No sólo con la densidad del rack del servidor de 1U, sino también con la densidad de capacidad proporcionada por los SSD Solidigm. Hoy en día “sólo” utilizamos las unidades P30.72 de 5316 TB, pero hay aún más ventajas disponibles con las unidades P61.44 de 5336 TB. Lo que es aún mejor, la carga de trabajo de CDN requiere mucha lectura, lo que significa que estos SSD basados en QLC son perfectos para la tarea. Como dato curioso, al revisar las cifras de rendimiento con Varnish, su ingeniero pensó que estábamos usando SSD Gen5 porque el rendimiento del nodo era muy impresionante.
Si bien la densidad del servidor es un elemento crítico, un nodo CDN con costos optimizados es otra cosa. El servidor Supermicro de un solo procesador que utilizamos aquí proporciona a Varnish una gran cantidad de hardware y opciones de expansión, mientras que las diez bahías NVMe nos permiten acumular más de 600 TB de almacenamiento utilizando el liderazgo en capacidad SSD de Solidigm. El rendimiento relativo por dólar y, si desea profundizar un poco más en nuestros datos, el rendimiento por vatio, las métricas aquí son indiscutibles.
Las CDN tienen la poco envidiable tarea de entregar datos en cualquier momento con solicitudes a veces predecibles, y otras no. Una pieza de hardware de servidor perfectamente ajustada marca la diferencia en lo que respecta al rendimiento de estos nodos CDN, que cada vez se llevan más al límite. Con los enormes SSD empresariales de Solidigm, estos nodos pueden mejorar drásticamente las tasas de aciertos de la caché y, en última instancia, ofrecer una experiencia superior al cliente.
Este informe está patrocinado por Solidigm. Todos los puntos de vista y opiniones expresados en este informe se basan en nuestra visión imparcial de los productos bajo consideración.
Interactuar con StorageReview
Boletín informativo | Canal de YouTube | Podcast iTunes/Spotify | @Instagram | Twitter | @TikTok | RSS Feed
