VMware Cloud a AWS està obtenint GPU virtualitzades, ja que l’empresa s’associa amb Nvidia

Nvidia

Com que la intel·ligència artificial i l’aprenentatge automàtic són una part cada vegada més indispensable de la informàtica moderna, els fonaments empresarials de Nvidia continuen sent sòlids. Han liderat el seu esforç per ser una força destacada en el negoci de servidors que forja associacions amb diverses empreses tecnològiques. Recentment, Nvidia i VMware van anunciar una vinculació, que portarà la vGPU (tecnologia GPU virtual) de Nvidia a la pila vSphere de VMware a AWS.

Les GPU estan dissenyades tenint en compte la informàtica paral·lela de dades, que accelera les operacions vectorials i matricials. Això els fa ideals per a càrregues de treball d’IA.

Anteriorment limitades a només CPU, les càrregues de treball d’IA ara es poden desplegar fàcilment en entorns virtualitzats com VMware vSphere amb vComputeServer programari i NVIDIA NGC . A través del nostre col·laboració amb VMware , aquesta arquitectura ajudarà les organitzacions a migrar sense problemes les càrregues de treball d'AI en GPU entre centres de dades de clients i VMware Cloud a AWS.

- ANNE HECHT (Nvidia)

Les càrregues de treball accelerades per GPU solen executar-se en servidors físics d’un sol inquilí, però amb vComputeServer les empreses poden executar càrregues de treball d’IA en un entorn virtualitzat, això ofereix més flexibilitat i estalvi monetari (fins a una escala determinada). Nvidia ja admet alguns hipervisors basats en KVM, inclosos Red Hat i Nutanix. VSphere de VMware és l’última incorporació.

Les funcions de vComputeServer inclouen:

• Rendiment de la GPU: Formació d'aprenentatge profund fins a 50 vegades més ràpida que només la CPU, un rendiment similar a l'execució de GPU en bare metal.
• Càlcul avançat: El codi de correcció d'errors i la retirada dinàmica de la pàgina eviten la corrupció de dades per a càrregues de treball d'alta precisió.
• Migració en directe: Les màquines virtuals habilitades per GPU es poden migrar amb una interrupció o un temps d'inactivitat mínims.
• Major seguretat: Les empreses poden ampliar els avantatges de seguretat de la virtualització de servidors als clústers de GPU.
• Aïllament multi-inquilí : Es poden aïllar les càrregues de treball per donar suport de manera segura a diversos usuaris en una mateixa infraestructura.
• Gestió i seguiment : Els administradors poden utilitzar les mateixes eines de virtualització d’hipervisor per gestionar servidors GPU, amb visibilitat a nivell d’amfitrió, màquina virtual i aplicació.
• Àmplia gamma de GPU compatibles: vComputeServer és compatible amb les GPU NVIDIA T4 o V100, així com les GPU Quadro RTX 8000 i 6000 i les generacions anteriors de GPU P40, P100 i P60 d’arquitectura Pascal.

- Nvidia

Els usuaris de VMware vSphere també rebran suport Nvidia GPU Cloud, que és una plataforma de núvol accelerada per GPU optimitzada per a l’aprenentatge profund i la informàtica científica. Anne Hecht de Nvidia escriu “ NVIDIA NGC , el nostre centre de programari optimitzat per GPU per a l'aprenentatge profund, l'aprenentatge automàtic i HPC, ofereix més de 150 contenidors, models pre-entrenats, scripts de formació i fluxos de treball per accelerar la IA des del concepte fins a la producció, inclosa RÀPIDS , el nostre programari de ciència de dades accelerat per CUDA ”.

Associació VMware en línia amb la recent adquisició

VMware adquirirà Bitfusion, que aportarà molt de valor a la seva plataforma de núvol vSphere. Com hem comentat anteriorment a l'article, la virtualització pot oferir a les empreses molts avantatges amb un èxit de rendiment mínim. Amb la tecnologia de Bitfusion, les empreses podran allunyar-se dels servidors bare-metal i virtualitzar les seves GPU, ja que aquest acord pot resultar en una millor utilització dels recursos disponibles. Amb l’acceleració de la informàtica accelerada, les empreses buscaran maneres de virtualitzar la seva pila de maquinari, VMware n’és conscient i s’està movent per fer que la plataforma vSphere sigui vital als centres de dades.