Ang VMware Cloud sa AWS Ay Pagkuha ng Mga Virtualized GPUs Bilang Kasosyo Ang Kumpanya Sa Nvidia

Tech / Ang VMware Cloud sa AWS Ay Pagkuha ng Mga Virtualized GPUs Bilang Kasosyo Ang Kumpanya Sa Nvidia 2 minuto basahin

Nvidia



Sa AI at pag-aaral ng makina na nagiging isang kailangang-kailangan na bahagi ng modernong computing, ang mga pangunahing kaalaman sa negosyo ng Nvidia ay mananatiling malakas. Pinangunahan nila ang kanilang pagsisikap na maging isang kilalang puwersa sa negosyo ng server na nagpapanday sa pakikipagsosyo sa maraming mga kumpanya ng tech. Kamakailan ay inihayag ng Nvidia at VMware ang isang pagsasama, na magdadala sa vVPU (Virtual GPU Technology) ng Nvidia sa vSphere stack ng VMware sa AWS.

Ang mga GPU ay dinisenyo kasama ang data-parallel computing sa isip, na nagpapabilis sa pagpapatakbo ng vector at matrix. Ginagawa itong perpekto para sa mga workload ng AI.



Dati na limitado sa CPU-only, ang mga workload ng AI ay maaari nang madaling mai-deploy sa mga virtualized na kapaligiran tulad ng VMware vSphere na may bago vComputeServer software at NVIDIA NGC . Sa pamamagitan ng aming pakikipagsosyo sa VMware , ang arkitekturang ito ay makakatulong sa mga samahan na maayos na ilipat ang mga pag-load ng AI sa mga GPU sa pagitan ng mga sentro ng data ng customer at VMware Cloud sa AWS.



- ANNE HECHT (Nvidia)



Ang mga pinabilis na workload na GPU ay madalas na tumatakbo sa solong nangungupit na mga pisikal na server, ngunit sa mga kumpanya ng vComputeServer ay maaaring magpatakbo ng mga workload ng AI sa isang virtualized na kapaligiran, nag-aalok ito ng higit na kakayahang umangkop at pagtipid ng pera (Hanggang sa isang tiyak na sukat). Sinusuportahan na ng Nvidia ang ilang mga KVM-based hypervisors, kabilang ang Red Hat at Nutanix. Ang vSphere ng VMware ay ang pinakabagong karagdagan.

Ang mga tampok ng vComputeServer ay may kasamang:

  • Pagganap ng GPU: Hanggang sa 50x mas mabilis na pagsasanay sa malalim na pag-aaral kaysa sa CPU-lamang, katulad na pagganap sa pagpapatakbo ng GPU sa hubad na metal.
  • Advanced na pagkalkula: Ang pagwawasto ng code ng error at pag-retiro ng pabrika ng pabrika ay pinipigilan laban sa katiwalian ng data para sa mga pagkarga ng mataas na katumpakan.
  • Live na paglipat: Ang mga virtual machine na pinagana ng GPU ay maaaring mailipat na may kaunting pagkagambala o downtime.
  • Tumaas na seguridad: Maaaring pahabain ng mga negosyo ang mga benepisyo sa seguridad ng virtualization ng server sa mga kumpol ng GPU.
  • Pagkahiwalay ng multi-nangungupahan : Ang mga workload ay maaaring ihiwalay upang ligtas na suportahan ang maraming mga gumagamit sa isang solong imprastraktura.
  • Pamamahala at pagsubaybay : Maaaring gumamit ang mga admin ng parehong mga tool ng virtualization ng hypervisor upang pamahalaan ang mga server ng GPU, na may kakayahang makita sa host, virtual machine at antas ng app.
  • Malawak na Saklaw ng Mga suportadong GPU: Ang vComputeServer ay suportado sa NVIDIA T4 o V100 GPUs, pati na rin ang Quadro RTX 8000 at 6000 GPUs, at mga naunang henerasyon ng Pascal-architecture na P40, P100 at P60 GPUs.

- Nvidia



Ang mga gumagamit ng VMware vSphere ay makakakuha rin ng suporta ng Nvidia GPU Cloud, na isang pinabilis na cloud platform ng GPU na na-optimize para sa malalim na pag-aaral at pang-agham na pag-compute. Si Anne Hecht mula sa Nvidia ay sumulat ng ' NVIDIA NGC , ang aming hub para sa software na na-optimize ng GPU para sa malalim na pag-aaral, pag-aaral ng makina at HPC, ay nag-aalok ng higit sa 150 mga lalagyan, mga pre-train na modelo, mga script ng pagsasanay at daloy ng trabaho upang mapabilis ang AI mula sa konsepto hanggang sa produksyon, kabilang ang RAPIDAD , ang aming CUDA-pinabilis na data science software ”.

In-Line sa Pakikipagtulungan ng VMware Sa Kamakailang Pagkuha

Ang VMware ay makakakuha ng Bitfusion, na magdaragdag ng maraming halaga sa vSphere cloud platform nito. Tulad ng tinalakay nang mas maaga sa artikulo, ang virtualization ay maaaring mag-alok sa mga kumpanya ng maraming mga benepisyo na may kaunting hit sa pagganap. Sa teknolohiya ng Bitfusion, ang mga kumpanya ay makakalayo mula sa mga hubad na metal na server at gawing virtual ang kanilang mga GPU, dahil ang naturang pag-aayos ay maaaring magresulta sa mas mahusay na paggamit ng mga magagamit na mapagkukunan. Sa pinabilis na computing pagkuha ng mga center stage na kumpanya ay maghanap ng mga paraan upang ma-virtualize ang kanilang stack ng hardware, alam ng VMware ito at lumilipat sila upang gawing mahalaga ang platform ng vSphere sa mga sentro ng data.

Mga tag nvidia