AWS EC2 Trn1-instanser nu tillgängliga

Amazon Web Services (AWS) har meddelat den allmänna tillgängligheten för AWS EC2 Trn1-instanser. Drivs av AWS-designade Trainium-chips, Trn1-instanser är speciellt designade för högpresterande utbildning av maskininlärningsmodeller (i molnet) med Amazon som indikerar en minskning med 50 % i "cost-to-train"-besparingar jämfört med liknande GPU -baserade instanser.

Amazon Web Services (AWS) har meddelat den allmänna tillgängligheten för AWS EC2 Trn1-instanser. Drivs av AWS-designade Trainium-chips, Trn1-instanser är speciellt designade för högpresterande utbildning av maskininlärningsmodeller (i molnet) med Amazon som indikerar en minskning med 50 % i "cost-to-train"-besparingar jämfört med liknande GPU -baserade instanser.

AWS EC2 Trn1-instanser ger den snabbaste tiden att träna populära maskininlärningsmodeller på AWS. Detta gör att deras kunder kan minska utbildningstiden, snabbt upprepa modeller för att öka noggrannheten och förbättra den totala produktiviteten för arbetsbelastningar som naturligt språkbehandling, tal- och bildigenkänning, semantisk sökning, rekommendationsmotorer, bedrägeriupptäckt och prognoser.

Trn1-instanser är mycket flexibla när det gäller prissättning också, eftersom det inte finns några minimiåtaganden eller förskottsavgifter. Kunderna behöver också bara betala för den mängd datorer de använder.

Storlekar och specifikationer för AWS EC2 Trn1-instanser

Tidigare, även om organisationer utnyttjade de snabbaste accelererade instanserna tillgängliga, var det fortfarande både överdrivet dyrt och tidskrävande att träna mer komplexa maskininlärningsmodeller. Med de nya AWS EC2 Trn1-instanserna indikerar Amazon att de har den bästa prisprestandan och den snabbaste utbildningen för maskininlärning på AWS.

Andra anmärkningsvärda funktioner inkluderar följande:

• De som vill komma igång utan att väsentligt ändra koden kan använda AWS Neuron, mjukvaruutvecklingssatsen (SDK) för Trn1-instanser. Det är också integrerat i populära ramverk för maskininlärning som PyTorch och TensorFlow.
• Trn1-instanser har upp till 16 AWS Trainium-acceleratorer som är speciellt designade för att implementera modeller för djupinlärning.
• För att förbättra effektiviteten är Trn1 den första Amazon EC2-instansen som erbjuder upp till 800 Gbps i nätverksbandbredd via 2^nd-gen AWS Elastic Fabric Adapter (EFA) nätverksgränssnitt.
• För att påskynda träningen använder Trn1-instanser också NeuronLink – en höghastighetsintern-instans-interconnect.

Amazon EC2 UltraClusters

Kunder kan distribuera Trn1-instanser i Amazon EC2 UltraClusters (som består av tiotusentals Trainium-acceleratorer) för att snabbt träna de mest komplexa djupinlärningsmodellerna, även de med biljoner parametrar. Med EC2 UltraClusters har organisationer möjlighet att skala utbildningen av maskininlärningsmodeller med upp till 30,000 XNUMX Trainium-acceleratorer sammankopplade med EFA-nätverk i petabitskala. Amazon indikerar att dessa organisationer därför kommer att ha tillgång på begäran till superdatorprestanda, vilket avsevärt kan minska träningstiden som vanligtvis tar månader till bara dagar.

Varje AWS EC2 Trn1-instans stöder upp till 8 TB snabb lokal NVMe SSD-lagring, medan AWS Trainium stöder ett brett utbud av datatyper (FP32, TF32, BF16, FP16 och konfigurerbar FP8). Den stöder även stokastisk avrundning, en metod baserad på sannolikhet, för att möjliggöra hög prestanda och högre noggrannhet. Dessutom stöder AWS Trainium dynamiska tensorformer och anpassade operatörer, vilket främjar en flexibel infrastruktur utformad för att anpassas utifrån kundernas utbildningsbehov.

AWS Nitro-system

Trn1-instanser är byggda på AWS Nitro System, en samling AWS-designade hårdvaru- och mjukvaruinnovationer som effektiviserar leveransen av isolerade multi-tenancy, privata nätverk och snabb lokal lagring. För att leverera den nödvändiga prestandan laddar Nitro-systemet bort CPU-virtualisering, lagring och nätverksfunktioner till dedikerad hårdvara och mjukvara.

Tillgänglighet för AWS EC2 Trn1-instanser

AWS Trn1-instanser kan köpas nu som On-Demand-instanser (med sparplaner), reserverade instanser eller Spot-instanser. För närvarande är de tillgängliga i USA East (North Virginia) och US West (Oregon), med utökad tillgänglighet i andra AWS-regioner snart.

De kommer också att vara tillgängliga via följande andra AWS-tjänster:

• Amazon SageMaker
• Amazon Elastic Kubernetes Service (Amazon EKS)
• Amazon Elastic Container Service (Amazon ECS)
• AWS-batch

AWS Trn1-instanser

Engagera dig med StorageReview

Nyhetsbrev | Youtube | Podcast iTunes/Spotify | Instagram | Twitter | TikTok | Rssflöde