Pinahaba ng Nvidia ang Suporta para sa mga CPU ng ARM Sa Ilang Kumpletong Stack ng AI at HPC Software

Nvidia Ampere

Mas maaga ngayon sa wakas ay inihayag ng Nvidia ang suporta para sa mga processor na may arkitekturang ARM kasama ang buong stack ng Ai at HPC software. Nvidia ay lubos na pamilyar sa ARM dahil isinama nila ang arkitektura sa kanilang Tegra chips at iba pang sistema sa isang chip product para sa portable gaming, mga autonomous na sasakyan, robot at naka-embed na computing ng AI.

Bakit ngayon?

Ang ARM ay nasa paligid ng ilang sandali ngunit ang paggamit nito sa mga system ng HPC ay wala hanggang sa ilang taon. Halos lahat ng mga system ng HPC ay gumagamit ng mga chips mula sa Intel dahil matagal na ang mga ito na nagreresulta sa mahusay na software ng legacy at suporta sa library.

Sa paglipas ng mga taon ang ARM ay nagtrabaho ng walang pagod upang bumuo ng isang ecosystem na maaaring gawin ang kanilang arkitektura isang mabubuhay na kahalili sa x86 chips. Ang proyekto ng Mont-Blanc ay isang malaking hakbangin sa direksyon na ito.

Ang mga kasosyo sa Mont-Blanc ay kailangang magsimula mula sa simula ng pagbuo ng mga sistema ng pagsubok ng Arm HPC batay sa 32-bit na teknolohiya ng mobile phone at pag-port at pag-tune ng software at mga tool upang lumikha ng isang ecosystem ng Arm software. Noong 2015, ipinakalat ng Mont-Blanc ang unang Arm-based na cluster ng HPC sa buong mundo, na nagtatampok ng higit sa 2,000 mga mobile CPU. Ang sistemang ito ay tumulong na maipakita ang kakayahang magamit ng paggamit ng teknolohiyang Arm para sa HPC.

- OAG

Ang mga hakbangin na ito sa wakas ay nagdadala ng mga prutas at chips na may arkitekturang ARM na lalong ginagamit sa iba't ibang mga sistema ng HPC sa buong mundo.

Mga Hilig sa Negosyo ni Nvidia Sa Mga Data Center

Pinangungunahan na ng Nvidia ang isang malaking bahagi ng negosyo ng consumer GPU at sa mga nakaraang taon ay lumikha sila ng isang kagalang-galang na hardware at stack ng software para sa mga workstation. Sa panig ng software ng mga bagay mayroon silang maraming mga solusyon na nauugnay sa AI at Deep Learning Workloads. Ang lahat ng mga workload na ito ay maaaring mapabilis ng mga GPU at dito pumapasok ang kanilang Tesla at Volta GPUs.

Nakatulong ito sa pananalapi ng kumpanya, at ayon sa isang artikulo sa Mga Fobes akda ni Karl Freund ' Sa Q1 2019 quarter ng NVIDIA, muling lumampas ang kumpanya sa mga inaasahan, na nag-uulat ng isang 66% na paglago sa kabuuang kita, kasama ang 71% na paglago sa negosyong red-hot na datacenter (na umaabot sa $ 701M para sa quarter) Para sa NVIDIA, ang segment na 'Datacenter' ay may kasamang High-Performance Computing (HPC), graphics na naka-host ng datacenter, at acceleration ng AI. '

Malalaking puntos din ito sa pag-uusap sa mga pangunahing tono ng namumuhunan sa Nvidia. Matapos ang pagkuha ni Nvidia ng Mellanox na sakop namin dito , Nagbahagi ang CEO na si Jensen Huang ng ilang pananaw sa likod ng desisyon na nagsasaad ng ' Ang diskarte ay pagdodoble sa mga datacenter, at pinagsasama at pinagsasama namin ang dalawang pinuno sa mga teknolohiya ng computing na may mahusay na pagganap. Nakatuon kami sa pinabilis na computing para sa mataas na pagganap ng computing, at ang Mellanox ay nakatuon sa networking at imbakan para sa mataas na pagganap ng computing, at pinagsama namin ang dalawang kumpanya sa ilalim ng isang bubong. Ang aming pangitain ay ang mga datacenter ang pinakamahalagang mga computer sa mundo ngayon, at sa hinaharap, habang patuloy na nagbabago ang mga workload - na talagang pinalitaw ng artipisyal na intelligence at analytics ng data - na ang mga susunod na datacenter ng lahat ng uri ay mabubuo tulad ng mataas na pagganap mga computer Ang mga hyperscale datacenter ay talagang nilikha upang magbigay ng mga serbisyo at magaan ang computing sa bilyun-bilyong tao. Ngunit sa nakalipas na maraming taon, ang paglitaw ng artipisyal na katalinuhan at pag-aaral ng makina at pag-aanalisa ng data ay naglagay ng labis na pagkarga sa mga datacenter, at ang dahilan ay ang laki ng data at laki ng compute ay napakahusay na hindi magkasya sa isa computer Kaya't dapat itong ipamahagi sa maraming mga computer at ang pagkakakonekta ng mataas na pagganap upang pahintulutan ang mga computer na ito na gumana nang magkakasama ay nagiging mas mahalaga. Ito ang dahilan kung bakit napakahusay na lumago ng Mellanox, at kung bakit pinag-uusapan ng mga tao ang tungkol sa mga SmartNIC at matalinong tela at tinukoy ng mga network ng software. Ang lahat ng mga pag-uusap na iyon ay humantong sa parehong lugar, at iyon ay isang hinaharap kung saan ang datacenter ay isang higanteng makina ng compute na magkakaugnay - at papayagan nitong ibahagi ito pa rin ng maraming tao - ngunit papayagan ang ilang mga tao na magpatakbo ng napakalaking aplikasyon sa kanila rin. Naniniwala kami na sa hinaharap ng mga datacenter, ang compute ay hindi magsisimula at magtatapos sa server, ngunit magpapalawak sa network at ang network mismo ay magiging bahagi ng tela ng computing. Sa pangmatagalang, sa palagay ko mayroon kaming kakayahang lumikha ng mga arkitektura ng computing ng skala ng datacenter. '

Handa Para sa Tagumpay ang ARM

Pinapagana ng mga chips ng ARM ang karamihan sa mga mobile device sa buong mundo kaya't ang arkitektura ay nananatiling mahusay sa pamamagitan ng disenyo. Dahil ang arkitektura ay lisensyado, na may ARM maraming mga gumagawa ng silikon ay maaaring isaalang-alang.

Ang pagkonsumo ng kuryente ay nananatiling isang malaking alalahanin sa mga HPC at ang paggamit ng ARM ay maaaring mabawi ang problemang ito sa isang malaking lawak. Kahit na sa software, sa mga proyekto ng Mont-Blanc maraming mga pang-agham na aklatan at tool ang binuo para sa ARM, ito ay may malaking bahagi sa pagsulong ng buong ecosystem.

Ang paggamit ng ARM sa HPCs at Data Center ay maliit pa rin kumpara sa x86 system ngunit nakikita ng Nvidia ang potensyal dito. Ang kanilang arch-rival na AMD ay nagsimula ring makipagkumpitensya sa merkado ng HPC at Data center kasama ang kanilang mga tagaproseso ng server ng EPYC at mga accelerator ng Radeon Instinct GPU. Kaya't mahalaga para sa Nvidia na gamitin ang ARM ngayon at ialok ang kanilang software suite (CUDA-X HPC, ect). Hindi tulad ng ilang mga tagagawa, ang Nvidia ay hindi gumagawa ng mga CPU, kaya't kulang sila sa pagkakaugnay ng CPU-GPU na AMD at maaaring maalok ng Intel.

Sa pag-iisip ay maaaring mapalakas ng Nvidia ang isang pakikipagsosyo sa ARM, bilang SusunodPlatform wastong sabihin ' Maaaring mag-ayos sina Nvidia at Arm ng isang pakikipagsosyo upang gawing magagamit ang mga bloke ng NVLink IP sa mga bibili ng mga lisensya ng Neoverse, na nagpapahintulot para sa mas mahigpit na pagsasama sa mga GPU, kasama na ang mga atomic ng memorya at pagkakasundo ng memorya sa kabuuan ng mga compute ng CPU-GPU. '

Ang paglipat na ito ay tiyak na makakatulong sa kaso ng ARM bilang isang praktikal na alternatibong arkitektura sa x86 HPCs. Maaari naming asahan ang isang katulad na paglipat mula sa AMD minsan sa hinaharap habang patuloy silang agresibong itulak ang kanilang Radeon Instinct GPUs.