StattiPodjetjaOd CUDA do AI: NVIDIA-ine skrivnosti do uspeha

Od CUDA do AI: NVIDIA-ine skrivnosti do uspeha

-

NVIDIA je prvo podjetje v zgodovini industrije čipov, katerega kapitalizacija je presegla bilijon dolarjev. Kaj je skrivnost uspeha?

Prepričan sem, da ste mnogi že slišali za podjetje NVIDIA in da ga večina povezuje z grafičnimi procesorji, saj je skoraj vsak slišal besedno zvezo "NVIDIA GeForce".

NVIDIA

NVIDIA se je nedavno zapisala v finančno zgodovino IT industrije. Je prvo podjetje za integrirana vezja, katerega tržna vrednost je presegla bilijon dolarjev. Je tudi peto tehnološko povezano podjetje v zgodovini, ki je doseglo tako velik (po tržni kapitalizaciji) uspeh. Prej so se s tako visoko oceno lahko pohvalili le ljudje Apple, Microsoft, Alphabet (lastnik Googla) in Amazon. Zato so ga financerji včasih imenovali "Klub štirih", ki zdaj vključuje NVIDIA.

Poleg tega je po tržni kapitalizaciji daleč za AMD, Intel, Qualcomm in drugimi tehnološkimi podjetji. To ne bi bilo mogoče brez vizionarske politike podjetja, uvedene pred desetletjem.

Preberite tudi: Ali obstaja prihodnost za TruthGPT Elona Muska?

Neverjetno povpraševanje po NVIDIA H100 Tensor Core

V čem je skrivnost takšne dokapitalizacije? Najprej je to odziv borze na uspeh čipa NVIDIA H100 Tensor Core, po katerem je veliko povpraševanje med vodilnimi ponudniki infrastrukture v oblaku in spletnih storitev. Te čipe kupujejo Amazon, Meta in Microsoft (za svoje potrebe in potrebe svojega partnerja - podjetja OpenAI). So še posebej energetsko učinkoviti pri pospeševanju izračunov, značilnih za generativno umetno inteligenco, kot sta ChatGPT ali Dall-E. To je neverjeten preskok velikosti za pospešeno računalništvo. Z NVIDIA H100 Tensor Core GPE dobimo zmogljivost brez primere, razširljivost in varnost za vsako delovno obremenitev.

NVIDIA-H100-Tensor Core

S preklapljanjem NVIDIA NVLink je mogoče povezati do 256 grafičnih procesorjev H100 za pospešitev delovnih obremenitev v merilu exa. GPE vključuje tudi poseben transformator Engni za reševanje jezikovnih modelov z bilijoni parametrov. Kombinirane tehnološke inovacije H100 lahko pospešijo velike jezikovne modele (LLM) za neverjetnih 30-krat v primerjavi s prejšnjo generacijo, kar zagotavlja pogovorno umetno inteligenco, ki je vodilna v industriji. Razvijalci menijo, da je skoraj idealen za strojno učenje.

Vendar se H100 ni pojavil od nikoder. In resnici na ljubo ni posebej revolucionaren. NVIDIA kot nobeno drugo podjetje že vrsto let vlaga ogromna sredstva v umetno inteligenco. Posledično lahko podjetje, ki je primarno povezano z blagovno znamko grafičnih kartic GeForce, potrošniški trg obravnava skoraj kot hobi. S tem se gradi prava moč na trgu IT velikanov, saj se lahko NVIDIA z njimi že zdaj enakovredno pogovarja.

Zanimivo tudi: Kaj so omrežja 6G in zakaj so potrebna?

Je umetna inteligenca prihodnost?

Danes so o tem prepričani skoraj vsi, tudi skeptični strokovnjaki s tega področja. Zdaj je to skoraj aksiom, resnica. Čeprav je NViDIA za to vedela že pred 20 leti. Sem te presenetila?

Tehnično se je prvi tesen stik NVIDIA z umetno inteligenco zgodil leta 1999, ko se je na trgu pojavil procesor GeForce 256, ki je bil sposoben pospešiti izračune strojnega učenja. Vendar pa je NVIDIA začela resno vlagati v umetno inteligenco šele leta 2006, ko je predstavila arhitekturo CUDA, ki je omogočila uporabo zmogljivosti vzporednega procesiranja grafičnih procesorjev za usposabljanje in raziskave.

NVIDIA-CUDA

Kaj je CUDA? Najbolje ga je definirati kot vzporedno računalniško platformo in vmesnik za programiranje aplikacij (API), ki programski opremi omogoča uporabo grafičnih procesnih enot za splošne namene (GPGPU). Ta pristop se imenuje splošnonamensko računalništvo na grafičnih procesorjih. Poleg tega je CUDA programska plast, ki omogoča neposreden dostop do navideznega nabora ukazov in vzporednih računalniških elementov grafičnega procesorja. Zasnovan je za delo s programskimi jeziki, kot so C, C++ in Fortran.

Prav ta dostopnost vzporednim razvijalcem olajša uporabo virov GPE, za razliko od prejšnjih API-jev, kot sta Direct3D in OpenGL, ki je zahteval napredno znanje grafičnega programiranja.

NVIDIA-CUDA

Pomemben preboj je bila zagotovitev računalniške moči NVIDIA za pionirsko nevronsko mrežo AlexNet. Gre za konvolucijsko nevronsko mrežo (CNN), ki jo je razvil Ukrajinec Alex Kryzhevsky v sodelovanju z Ilyo Sutzkeverjem in Jeffreyjem Gintonom.

Konvolucijske nevronske mreže (CNN) so bile vedno glavni model za prepoznavanje objektov – so zmogljivi modeli, ki jih je enostavno nadzorovati in še lažje trenirati. Pri uporabi na milijonih slik ne pride do zaskrbljujočega prevelikega opremljanja. Njihovo delovanje je skoraj enako kot pri standardnih nevronskih mrežah enake velikosti. Edina težava je, da jih je težko uporabiti za slike visoke ločljivosti. Obseg ImageNet je zahteval inovacije, ki bi bile optimizirane za GPU in skrajšale čas usposabljanja ter hkrati izboljšale zmogljivost.

AlexNet

30. septembra 2012 je AlexNet sodeloval na tekmovanju ImageNet Large Scale Visual Recognition Challengeenge. Omrežje je doseglo rezultat 15,3 % pri testu prvih petih napak, kar je več kot 10,8 % nižje od rezultata na drugem mestu.

Glavni zaključek izvirnega dela je bil, da je kompleksnost modela posledica njegove visoke zmogljivosti, ki je bila tudi računsko zelo draga, vendar omogočena z uporabo grafičnih procesnih enot (GPU) med procesom usposabljanja.

Sama konvolucijska nevronska mreža AlexNet je sestavljena iz osmih plasti; prvih pet je konvolucijskih plasti, pred nekaterimi so maksimalno sklopljene plasti, zadnje tri pa so popolnoma povezane plasti. Omrežje, razen zadnje plasti, je razdeljeno na dve kopiji, od katerih vsaka deluje na enem GPE.

To pomeni, da zahvaljujoč NVIDIA večina strokovnjakov in znanstvenikov še vedno verjame, da je AlexNet neverjetno zmogljiv model, ki lahko doseže visoko natančnost na zelo zapletenih nizih podatkov. AlexNet je vodilna arhitektura za vsako nalogo zaznavanja predmetov in ima lahko zelo široke aplikacije v sektorju računalniškega vida za težave z umetno inteligenco. V prihodnosti bo AlexNet morda bolj uporaben kot CNN na področju slikanja.

Zanimivo tudi: Fenomen Bluesky: kakšna storitev in ali je to za dolgo časa?

Umetna inteligenca ni le v laboratorijih in podatkovnih centrih

NVIDIA je videla velike možnosti za AI tudi v tehnologijah potrošniških naprav in internetu stvari. Medtem ko konkurenti šele začenjajo razmišljati o obsežnejših naložbah v novo vrsto integriranih vezij, NVIDIA že dela na njihovi miniaturizaciji. Verjetno je še posebej pomemben čip Tegra K1, razvit v sodelovanju s Teslo in drugimi avtomobilskimi podjetji.

NVIDIA-Tegra-K1

Procesor Tegra K1 je eden prvih procesorjev NVIDIA, zasnovan posebej za aplikacije AI v mobilnih in vgrajenih napravah. Tegra K1 uporablja isto arhitekturo GPU kot serije grafičnih kartic in sistemov NVIDIA GeForce, Quadro in Tesla, kar zagotavlja visoko zmogljivost in združljivost z grafičnimi in računalniškimi standardi, kot je Op.enGL 4.4, DirectX 11.2, CUDA 6.5 in OpenCL 1.2. Zahvaljujoč temu lahko procesor Tegra K1 podpira napredne algoritme umetne inteligence, kot so globoke nevronske mreže, učenje z okrepitvijo, prepoznavanje slike in govora ter analiza podatkov. Tegra K1 ima 192 jeder CUDA.

Leta 2016 je NVIDIA izdala serijo procesorjev Pascal, optimiziranih za podporo globokim nevronskim mrežam in drugim modelom umetne inteligence. V enem letu se je na trgu pojavila serija procesorjev Volta za aplikacije, povezane z umetno inteligenco, ki so še bolj učinkoviti in energetsko varčni. Leta 2019 NVIDIA prevzame Mellanox Technologies, proizvajalca visoko zmogljivih računalniških omrežij za podatkovne centre in superračunalnike.

NVIDIA

Posledično vsi uporabljajo procesorje NVIDIA. Na potrošniškem trgu na primer igralci uporabljajo revolucionarni algoritem za rekonstrukcijo slike DLSS, ki jim omogoča, da uživajo v ostrejši grafiki v igrah, ne da bi porabili veliko denarja za grafično kartico. Na poslovnem trgu je priznano, da čipi NVIDIA v mnogih pogledih presegajo tisto, kar ponuja konkurenca. Čeprav ne gre za to, da sta Intel in AMD popolnoma prespala intelektualno revolucijo.

Zanimivo tudi: Najboljša orodja, ki temeljijo na umetni inteligenci

Intel in AMD na področju umetne inteligence

Pogovorimo se o neposrednih konkurentih NVIDIA v tem segmentu trga. Intel in AMD delata tukaj vedno bolj aktivno, vendar z veliko zamudo.

Intel je pridobil več podjetij za umetno inteligenco, kot so Nervana Systems, Movidius, Mobileye in Habana Labs, da bi okrepil svoj portfelj tehnologij in rešitev za umetno inteligenco. Intel ponuja tudi strojne in programske platforme za umetno inteligenco, kot so procesorji Xeon, FPGA, čipi NNP in knjižnice za optimizacijo. Intel prav tako sodeluje s partnerji iz javnega in zasebnega sektorja pri pospeševanju inovacij in izobraževanja na področju umetne inteligence.

Intel in AMD

AMD je razvil serijo procesorjev Epyc in grafičnih kartic Radeon Instinct, ki so optimizirane za aplikacije umetne inteligence in globokega učenja. AMD je sodeloval tudi s podjetji, kot so Google, Microsoft, IBM in Amazon, da bi zagotovil rešitve umetne inteligence v oblaku. AMD si prav tako prizadeva sodelovati pri raziskavah in razvoju umetne inteligence prek partnerstev z akademskimi institucijami in industrijskimi organizacijami. Vse to je zelo dobro, čeprav je NVIDIA že precej pred njimi, njeni uspehi na področju razvoja in podpore algoritmov AI pa so neprimerljivo večji.

Zanimivo tudi: Povzetek Google I/O 2023: Android 14, Pixel in veliko umetne inteligence

NVIDIA je že desetletja povezana z video igrami

Tudi tega ne smemo pozabiti. NVIDIA ne zagotavlja natančne razčlenitve svojih prihodkov med potrošniškimi in poslovnimi trgi, vendar jih je mogoče oceniti na podlagi operativnih segmentov, ki jih podjetje razkriva v svojih računovodskih izkazih. NVIDIA razlikuje štiri operativne segmente: igre, profesionalna vizualizacija, podatkovni centri in avtomobili.

NVIDIA

Predvidevamo lahko, da je segment iger osredotočen predvsem na potrošniški trg, saj vključuje prodajo video kartic GeForce in čipov Tegra za igralne konzole. Segment profesionalne vizualizacije je usmerjen predvsem na poslovni trg, saj vključuje prodajo video kartic Quadro in RTX čipov za delovne postaje in profesionalne aplikacije. Tudi segment podatkovnih centrov je usmerjen predvsem v poslovni trg, saj vključuje prodajo GPU-jev in NPU-jev (torej čipov naslednje generacije – ne več GPU-jev, temveč namenjenih izključno AI) za strežnike in storitve v oblaku. Avtomobilski segment je namenjen tako potrošniškim kot poslovnim trgom, saj vključuje prodajo sistemov Tegra in Drive za infotainment in avtonomno vožnjo.

NVIDIA

Na podlagi teh predpostavk je mogoče oceniti delež prihodkov iz potrošniških in poslovnih trgov v skupnih prihodkih NVIDIA. Glede na zadnje finančno poročilo za leto 2022 so bili prihodki NVIDIA po operativnih segmentih naslednji:

  • Igre: 12,9 milijarde dolarjev
  • Profesionalna vizualizacija: 1,3 milijarde dolarjev
  • Podatkovni centri: 9,7 milijarde dolarjev
  • Avtomobili: 0,8 milijarde dolarjev
  • Vsi drugi segmenti: 8,7 milijarde dolarjev

Skupni prihodki NVIDIA so znašali 33,4 milijarde $.Če predpostavimo, da je avtomobilski segment približno enakomerno razdeljen med potrošniške in poslovne trge, je mogoče izračunati naslednja razmerja:

  • Dohodek na potrošniškem trgu: (12,9 + 0,4) / 33,4 = 0,4 (40 %)
  • Dohodek s poslovnega trga: (1,3 + 9,7 + 0,4 + 8,7) / 33,4 = 0,6 (60 %)

To pomeni, da približno 40 % prihodkov NVIDIA prihaja s potrošniškega trga in približno 60 % s poslovnega trga. To pomeni, da je glavna usmeritev poslovni segment. Toda industrija iger prinaša tudi precej dober zaslužek. Najpomembneje je, da rastejo vsako leto.

Zanimivo tudi: Dnevnik čemernega starega štreberja: Bing proti Googlu

Kaj nam bo prinesla prihodnost?

Očitno ima NVIDIA že načrt za sodelovanje pri razvoju algoritmov umetne inteligence. In je veliko širši in obetavnejši od katerega koli njegovega neposrednega konkurenta.

Samo v zadnjem mesecu je NVIDIA napovedala številne nove naložbe v umetno inteligenco. Eden od njih je mehanizem GET3D, ki je sposoben generirati kompleksne tridimenzionalne modele različnih predmetov in likov, ki natančno odražajo resničnost. GET3D lahko ustvari približno 20 objektov na sekundo z uporabo enega samega grafičnega čipa.

Omeniti velja še en zanimiv projekt. Israel-1 je superračunalnik za aplikacije umetne inteligence, ki ga NVIDIA ustvarja v sodelovanju z izraelskim ministrstvom za znanost in tehnologijo ter Mellanoxom. Stroj naj bi imel več kot 7 petaflopov računalniške moči in uporabljal več kot 1000 grafičnih procesorjev NVIDIA A100 Tensor Core. Izrael-1 se bo uporabljal za raziskave in razvoj na področjih, kot so medicina, biologija, kemija, fizika in kibernetska varnost. In to so glede na dolgoročne obete že zelo obetavne kapitalske naložbe.

NVIDIA

Poleg tega že obstaja še en projekt - NVIDIA ACE. To je nova tehnologija, ki naj bi spremenila igralniško industrijo, tako da bo igralcu omogočila interakcijo z neigralskim likom (NPC) na naraven in realističen način. Ti liki bodo lahko vodili odprt dialog z igralcem, se odzvali na njegova čustva in kretnje ter celo izrazili svoja čustva in misli. NVIDIA ACE uporablja napredne jezikovne modele in generatorje slik, ki temeljijo na umetni inteligenci.

NVIDIA-in prvi bilijon dolarjev. Kot kaže, jih bo kmalu več. Vsekakor bomo spremljali uspehe podjetja in vam jih povedali.

Preberite tudi:

Yuri Svitlyk
Yuri Svitlyk
Sin Karpatov, nepriznan matematični genij, Microsoftov "odvetnik", praktični altruist, levičar
Drugi članki
Prijavite se
Obvesti o
gost

0 Komentarji
Vdelana mnenja
Prikaži vse komentarje
Popularno zdaj