Vandaag heeft NVIDIA tijdens de GPU Technology Conference 2018 in Silicon Valley enkele aankondigingen gedaan rond Deep Learning. Deze aankondigingen omvatten een samenwerking met Arm om deep learning inferencing naar miljarden IoT-apparaten te brengen. NVIDIA kondigt ook prestatieverbeteringen voor deep learning aan die volgens hen 10x hoger zijn dan zes maanden geleden.
Vandaag heeft NVIDIA tijdens de GPU Technology Conference 2018 in Silicon Valley enkele aankondigingen gedaan rond Deep Learning. Deze aankondigingen omvatten een samenwerking met Arm om deep learning inferencing naar miljarden IoT-apparaten te brengen. NVIDIA kondigt ook prestatieverbeteringen voor deep learning aan die volgens hen 10x hoger zijn dan zes maanden geleden.
De samenwerking is een integratie van de open-source NVIDIA Deep Learning Accelerator (NVDLA)-architectuur in ARM's Project Trillium-platform voor machine learning. De bedrijven stellen dat deze samenwerking IoT-chipmakers in staat zal stellen AI in hun ontwerpen te integreren of AI in miljarden IoT-apparaten te stoppen. De samenwerking zal ook zorgen voor hogere prestatieniveaus voor deep learning-ontwikkelaars, omdat ze gebruikmaken van de flexibiliteit en schaalbaarheid van Arm.
NVIDIA heeft prestatieverbeteringen doorgevoerd voor cloudserviceproviders en servermakers met verbeteringen zoals de 2x geheugenboots naar NVIDIA Tesla V100 (nu tot 32 GB geheugen per GPU) en de GPU-verbindingsstructuur, NVSwitch, waarmee maximaal 16 Tesla GPU's kunnen communiceren met een snelheid van 2.4TB/s. Het bedrijf bracht ook een enkele server uit, de NVIDIA DGX-2. De DGX-2 kan twee petaflops aan rekenkracht leveren of 300 servers die 15 racks ruimte in beslag nemen.
Zoals hierboven vermeld, heeft de nieuwe Tesla V100 nu 32 GB geheugen in plaats van 16 GB en alle voordelen van meer geheugen. Daar valt niet veel meer over te zeggen, behalve dat verschillende computerfabrikanten dit in de toekomst zullen aanbieden. Oracle Cloud Infrastructure zal de nieuwe Tesla V100's ook in de cloud aanbieden.
De nieuwe interconnect fabric NVSwitch is ontworpen om de beperking van grotere datasets te overwinnen. NVIDIA stelt dat deze interconnect 5x hogere bandbreedte heeft dan de beste PCIe-switch. De NVSwitch neemt de innovaties die voortkwamen uit NVIDIA NVLink en breidt ze verder uit, en hielp bij het bouwen van nog geavanceerdere en complexere systemen.
Zoals hierboven vermeld, kan de DGX-2 twee petaflops leveren, een wereldprimeur. Het systeem maakt gebruik van de NVSwitch en alle 16 GPU's in een uniforme geheugenruimte om deze mijlpaal te bereiken. De DGX-2 wordt geleverd met een reeks NVIDIA-software voor diep leren, waardoor hij ideaal is voor datawetenschappers die op het punt staan onderzoek in diep leren te doen. Het bedrijf stelt dat de DGX-2 in minder dan twee dagen FAIRSeq (een geavanceerd model voor neurale machinevertaling) kan trainen. Dit is een 10x verbetering ten opzichte van de DGX-1.
Meld u aan voor de StorageReview-nieuwsbrief
