AWS EC2 Trn1-exemplaren nu beschikbaar

Amazon Web Services (AWS) heeft de algemene beschikbaarheid aangekondigd van AWS EC2 Trn1-instanties. Aangedreven door AWS-ontworpen Trainium-chips, zijn Trn1-instanties specifiek ontworpen voor de krachtige training van machine learning-modellen (in de cloud), waarbij Amazon een verlaging van 50% in "cost-to-train"-besparingen aangeeft in vergelijking met vergelijkbare GPU -gebaseerde instanties.

Amazon Web Services (AWS) heeft de algemene beschikbaarheid aangekondigd van AWS EC2 Trn1-instanties. Aangedreven door AWS-ontworpen Trainium-chips, zijn Trn1-instanties specifiek ontworpen voor de krachtige training van machine learning-modellen (in de cloud), waarbij Amazon een verlaging van 50% in "cost-to-train"-besparingen aangeeft in vergelijking met vergelijkbare GPU -gebaseerde instanties.

AWS EC2 Trn1-instanties bieden de snelste tijd om populaire machine learning-modellen op AWS te trainen. Hierdoor kunnen hun klanten de trainingstijd verkorten, modellen snel herhalen om de nauwkeurigheid te vergroten en de algehele productiviteit verbeteren voor werklasten zoals natuurlijke taalverwerking, spraak- en beeldherkenning, semantisch zoeken, aanbevelingsengines, fraudedetectie en prognoses.

Trn1-exemplaren zijn ook zeer flexibel wat betreft prijzen, aangezien er geen minimumverplichtingen of voorafbetalingen zijn. Klanten hoeven ook alleen te betalen voor de hoeveelheid rekenkracht die ze gebruiken.

Maten en specificaties van AWS EC2 Trn1-instanties

Voorheen was het trainen van complexere machine learning-modellen nog steeds buitensporig duur en tijdrovend, zelfs als organisaties de snelst beschikbare instances gebruikten. Met de nieuwe AWS EC2 Trn1-exemplaren geeft Amazon aan dat ze beschikken over de beste prijs-prestatieverhouding en de snelste machine learning-modeltraining op AWS.

Andere opvallende kenmerken zijn de volgende:

• Degenen die aan de slag willen zonder de code aanzienlijk te wijzigen, kunnen AWS Neuron gebruiken, de software development kit (SDK) voor Trn1-instanties. Het is ook geïntegreerd in populaire frameworks voor machine learning zoals PyTorch en TensorFlow.
• Trn1-instanties bevatten maximaal 16 AWS Trainium-versnellers die specifiek zijn ontworpen voor het implementeren van deep learning-modellen.
• Om de efficiëntie te verbeteren, is Trn1 de eerste Amazon EC2-instantie die tot 800 Gbps aan netwerkbandbreedte biedt via de 2^nd-gen AWS Elastic Fabric Adapter (EFA) netwerkinterface.
• Om de training te versnellen, maken Trn1-instanties ook gebruik van NeuronLink, een supersnelle intra-instance-interconnectie.

Amazon EC2 UltraClusters

Klanten kunnen Trn1-instanties inzetten in Amazon EC2 UltraClusters (bestaande uit tienduizenden Trainium-versnellers) om snel de meest complexe deep learning-modellen te trainen, zelfs modellen met biljoenen parameters. Met EC2 UltraClusters hebben organisaties de mogelijkheid om de training van machine learning-modellen op te schalen met tot wel 30,000 Trainium-versnellers die zijn verbonden met EFA-netwerken op petabit-schaal. Amazon geeft aan dat deze organisaties daarom on-demand toegang zullen hebben tot prestaties van supercomputing-klasse, wat de trainingstijd, die gewoonlijk maanden tot slechts dagen duurt, aanzienlijk kan verkorten.

Elke AWS EC2 Trn1-instantie ondersteunt tot 8 TB aan snelle lokale NVMe SSD-opslag, terwijl AWS Trainium een ​​breed scala aan gegevenstypen ondersteunt (FP32, TF32, BF16, FP16 en configureerbare FP8). Het ondersteunt ook stochastische afronding, een methode gebaseerd op waarschijnlijkheid, om hoge prestaties en hogere nauwkeurigheid mogelijk te maken. Bovendien ondersteunt AWS Trainium dynamische tensorvormen en aangepaste operators, wat een flexibele infrastructuur bevordert die is ontworpen om aan te passen op basis van de trainingsbehoeften van klanten.

AWS Nitro-systeem

Trn1-instanties zijn gebouwd op het AWS Nitro-systeem, een verzameling van door AWS ontworpen hardware- en software-innovaties die de levering van geïsoleerde multi-tenancy, privénetwerken en snelle lokale opslag stroomlijnen. Om de nodige prestaties te leveren, verplaatst het Nitro-systeem de CPU-virtualisatie-, opslag- en netwerkfuncties naar speciale hardware en software.

Beschikbaarheid van AWS EC2 Trn1-instanties

AWS Trn1-exemplaren kunnen nu worden gekocht als On-Demand Instances (met spaarplannen), Reserved Instances of Spot Instances. Momenteel zijn ze beschikbaar in US East (Noord-Virginia) en US West (Oregon), met binnenkort uitgebreide beschikbaarheid in andere AWS-regio's.

Ze zullen ook beschikbaar zijn via de volgende andere AWS-services:

• Amazon Sage Maker
• Amazon Elastic Kubernetes-service (Amazon EKS)
• Amazon Elastic Container-service (Amazon ECS)
• AWS-batch

AWS Trn1-instanties

Neem contact op met StorageReview

Nieuwsbrief | YouTube | Podcast iTunes/Spotify | Instagram | Twitter | TikTok | RSS Feed