Root NationČlánkySpoločnostiOd CUDA k AI: Tajomstvá úspechu NVIDIA

Od CUDA k AI: Tajomstvá úspechu NVIDIA

-

NVIDIA - prvá spoločnosť v histórii čipového priemyslu, ktorej kapitalizácia presiahla bilión dolárov. Aké je tajomstvo úspechu?

Som si istý, že mnohí z vás už o spoločnosti počuli NVIDIA a väčšina z vás si to spája konkrétne s grafickými procesormi, pretože fráza „NVIDIA GeForce“ už počul takmer každý.

NVIDIA

NVIDIA sa nedávno zapísal do finančnej histórie v IT priemysle. Ide o prvú spoločnosť s integrovanými obvodmi, ktorej trhová hodnota presiahla bilión dolárov. Je tiež piatou technologickou spoločnosťou v histórii, ktorá dosiahla taký veľký (podľa trhovej kapitalizácie) úspech. Predtým sa takýmto vysokým hodnotením mohli pochváliť len ľudia Apple, Microsoft, Alphabet (vlastník Google) a Amazon. Preto ho finančníci niekedy nazývali „Klub štyroch“, ktorý sa teraz rozšíril NVIDIA.

Navyše, čo sa týka trhovej kapitalizácie, ďaleko zaostáva za AMD, Intelom, Qualcommom a ďalšími technologickými spoločnosťami. To by nebolo možné bez vizionárskej politiky spoločnosti zavedenej pred desiatimi rokmi.

Prečítajte si tiež: Má TruthGPT od Elona Muska budúcnosť?

Neuveriteľný dopyt po NVIDIA H100 Tensor Core

Aké je tajomstvo takéhoto zvýšenia kapitalizácie? V prvom rade ide o reakciu burzy na úspech čipu NVIDIA H100 Tensor Core, ktorý je veľmi žiadaný medzi poprednými poskytovateľmi cloudovej infraštruktúry a online služieb. Tieto čipy nakupujú Amazon, Meta a Microsoft (pre vlastné potreby a potreby svojho partnera – spoločnosti OpenAI). Sú energeticky efektívne najmä pri zrýchľovaní výpočtov typických pre generatívnu umelú inteligenciu, ako je ChatGPT alebo Dall-E. Ide o neuveriteľný skok o rádovú veľkosť pre zrýchlené výpočty. Získame bezprecedentný výkon, škálovateľnosť a bezpečnosť pre akúkoľvek pracovnú záťaž NVIDIA H100 Tensor Core GPU.

NVIDIA-H100-Tensor Core

Použitie spínacieho systému NVIDIA NVLink je možné pripojiť až k 256 GPU H100 na zrýchlenie pracovného zaťaženia na úrovni exa. GPU obsahuje aj dedikovaný Transformer Engine na riešenie jazykových modelov s biliónmi parametrov. Kombinované technologické inovácie modelu H100 dokážu zrýchliť veľké jazykové modely (LLM) neuveriteľne 30-násobne v porovnaní s predchádzajúcou generáciou a poskytujú špičkovú konverzačnú AI. Vývojári ho považujú za takmer ideálny pre strojové učenie.

- Reklama -

H100 sa však neobjavila z ničoho nič. A, pravdupovediac, nie je nijak zvlášť revolučný. NVIDIA, ako žiadna iná spoločnosť, už dlhé roky investuje obrovské prostriedky do umelej inteligencie. Výsledkom je, že spoločnosť primárne spojená so značkou grafických kariet GeForce môže pristupovať k spotrebiteľskému trhu takmer ako k koníčku. To napokon buduje skutočnú silu na trhu IT gigantov NVIDIA už s nimi môže hovoriť ako s rovnými.

Tiež zaujímavé: Čo sú siete 6G a prečo sú potrebné?

Je umelá inteligencia budúcnosť?

Dnes je o tom presvedčený takmer každý, dokonca aj skeptickí odborníci v tejto oblasti. Teraz je to takmer axióma, pravda. Hoci NViDIA vedel o tom pred 20 rokmi. Prekvapil som ťa?

Technicky prvý blízky kontakt NVIDIA s umelou inteligenciou došlo v roku 1999, keď sa na trhu objavil procesor GeForce 256, schopný zrýchliť výpočty strojového učenia. Avšak NVIDIA začala vážne investovať do umelej inteligencie až v roku 2006, kedy predstavila architektúru CUDA, ktorá umožňovala využívať možnosti paralelného spracovania grafických procesorov na školenia a výskum.

NVIDIA-CUDA

čo je CUDA? Najlepšie je ho definovať ako paralelnú výpočtovú platformu a aplikačné programové rozhranie (API), ktoré umožňuje softvéru používať univerzálne grafické procesorové jednotky (GPGPU). Tento prístup sa nazýva general-purpose computing na GPU. Okrem toho je CUDA softvérová vrstva, ktorá poskytuje priamy prístup k virtuálnej inštrukčnej sade a paralelným výpočtovým prvkom grafického procesora. Je navrhnutý pre prácu s programovacími jazykmi ako C, C++ a Fortran.

Práve táto dostupnosť uľahčuje paralelným vývojárom využívať zdroje GPU, na rozdiel od predchádzajúcich rozhraní API ako Direct3D a OpenGL, ktoré si vyžadovali pokročilé znalosti grafického programovania.

NVIDIA-CUDA

Dôležitým prelomom bolo poskytovanie zo strany spoločnosti NVIDIA výpočtový výkon pre prelomovú neurónovú sieť AlexNet. Ide o konvolučnú neurónovú sieť (CNN), ktorú vyvinul Ukrajinec Alex Kryzhevsky v spolupráci s Iljom Sutzkeverom a Jeffreym Gintonom.

Konvolučné neurónové siete (CNN) boli vždy hlavným modelom na rozpoznávanie objektov – sú to výkonné modely, ktoré sa ľahko ovládajú a ešte ľahšie trénujú. Pri použití na miliónoch obrázkov nepociťujú nadmernú montáž v nijakom alarmujúcom rozsahu. Ich výkon je takmer identický so štandardnými doprednými neurónovými sieťami rovnakej veľkosti. Jediným problémom je, že sa ťažko aplikujú na obrázky s vysokým rozlíšením. Rozsah ImageNet si vyžadoval inovácie, ktoré by boli optimalizované pre GPU a skrátili čas tréningu a zároveň zlepšili výkon.

AlexNet

Dňa 30. septembra 2012 sa AlexNet zúčastnila ImageNet Large Scale Visual Recognition Challenge. Sieť dosiahla skóre 15,3 % v teste piatich najlepších chýb, o viac ako 10,8 % nižšie ako skóre na druhom mieste.

Hlavným záverom pôvodnej práce bolo, že zložitosť modelu bola spôsobená jeho vysokým výkonom, ktorý bol tiež veľmi výpočtovo nákladný, ale umožnilo ho použitie grafických procesorových jednotiek (GPU) počas tréningového procesu.

Samotná konvolučná neurónová sieť AlexNet pozostáva z ôsmich vrstiev; prvých päť sú konvolučné vrstvy, z ktorých niektorým predchádzajú maximálne spojené vrstvy a posledné tri sú úplne spojené vrstvy. Sieť, s výnimkou poslednej vrstvy, je rozdelená na dve kópie, pričom každá beží na jednom GPU.

- Reklama -

Teda vďaka NVIDIA a stále väčšina odborníkov a vedcov verí, že AlexNet je neuveriteľne výkonný model schopný dosiahnuť vysokú presnosť na veľmi zložitých súboroch údajov. AlexNet je vedúcou architektúrou pre akúkoľvek úlohu detekcie objektov a môže mať veľmi široké uplatnenie v sektore počítačového videnia pri problémoch s umelou inteligenciou. V budúcnosti môže byť AlexNet využívaný viac ako CNN v oblasti zobrazovania.

Tiež zaujímavé: Fenomén Bluesky: aký druh služby a je to na dlhú dobu?

Umelá inteligencia nie je len v laboratóriách a dátových centrách

В NVIDIA videl veľké vyhliadky pre AI aj v technológiách spotrebiteľských zariadení a v internete vecí. Zatiaľ čo konkurenti len začínajú uvažovať o širšej investícii do nového typu integrovaného obvodu, NVIDIA už pracuje na ich miniaturizácii. Dôležitý je zrejme najmä čip Tegra K1 vyvinutý v spolupráci s Teslou a ďalšími automobilkami.

NVIDIA-Tegra-K1

Procesor Tegra K1 je jedným z prvých procesorov NVIDIA, navrhnutý špeciálne pre aplikácie AI v mobilných a vstavaných zariadeniach. Tegra K1 používa rovnakú architektúru GPU ako séria grafických kariet a systémov NVIDIA GeForce, Quadro a Tesla, ktorý poskytuje vysoký výkon a kompatibilitu s grafickými a výpočtovými štandardmi ako OpenGL 4.4, DirectX 11.2, CUDA 6.5 a OpenCL 1.2. Vďaka tomu môže procesor Tegra K1 podporovať pokročilé algoritmy umelej inteligencie, ako sú hlboké neurónové siete, posilňovacie učenie, rozpoznávanie obrazu a reči a analýza dát. Tegra K1 má 192 CUDA jadier.

V roku 2016 NVIDIA vydala sériu procesorov Pascal optimalizovaných na podporu hlbokých neurónových sietí a iných modelov umelej inteligencie. V priebehu roka sa na trhu objavila séria procesorov Volta pre aplikácie súvisiace s umelou inteligenciou, ktoré sú ešte efektívnejšie a energeticky úspornejšie. V roku 2019 NVIDIA kupuje Mellanox Technologies, výrobcu vysokovýkonných počítačových sietí pre dátové centrá a superpočítače.

NVIDIA

Výsledkom je, že všetky používajú procesory NVIDIA. Na spotrebiteľskom trhu napríklad hráči používajú revolučný algoritmus rekonštrukcie obrazu DLSS, ktorý im umožňuje vychutnať si ostrejšiu grafiku v hrách bez toho, aby museli míňať veľa peňazí za grafickú kartu. Na obchodnom trhu sa uznáva, že čipy NVIDIA v mnohých ohľadoch nad rámec toho, čo ponúkajú konkurenti. Hoci to nie je tak, že Intel a AMD úplne zaspali intelektuálnu revolúciu.

Tiež zaujímavé: Najlepšie nástroje založené na umelej inteligencii

Intel a AMD v oblasti umelej inteligencie

Hovorme o priamych konkurentoch NVIDIA v tomto segmente trhu. Intel a AMD tu pracujú čoraz aktívnejšie, no s veľkým oneskorením.

Intel získal niekoľko spoločností v oblasti AI, ako sú Nervana Systems, Movidius, Mobileye a Habana Labs, aby posilnil svoje portfólio technológií a riešení AI. Intel tiež ponúka hardvérové ​​a softvérové ​​platformy pre umelú inteligenciu, ako sú procesory Xeon, FPGA, čipy NNP a optimalizačné knižnice. Intel tiež spolupracuje s partnermi z verejného a súkromného sektora s cieľom podporiť inovácie a vzdelávanie AI.

Intel a AMD

AMD vyvinulo sériu procesorov Epyc a grafických kariet Radeon Instinct, ktoré sú optimalizované pre aplikácie AI a hlboké učenie. AMD spolupracuje aj so spoločnosťami ako Google, Microsoft, IBM a Amazon, ktoré poskytujú cloudové riešenia pre AI. AMD sa tiež snaží podieľať sa na výskume a vývoji AI prostredníctvom partnerstiev s akademickými inštitúciami a priemyselnými organizáciami. Všetko je však veľmi dobré NVIDIA je už ďaleko pred nimi a jej úspech v oblasti vývoja a podpory algoritmov AI je neporovnateľne väčší.

Tiež zaujímavé: Zhrnutie konferencie Google I/O 2023: Android 14, pixel a veľa AI

NVIDIA sa už desaťročia spája s videohrami

Na to by sa tiež nemalo zabúdať. NVIDIA neposkytuje presné rozdelenie svojich výnosov medzi spotrebiteľský a obchodný trh, ale možno ich odhadnúť na základe prevádzkových segmentov, ktoré spoločnosť zverejňuje vo svojich finančných výkazoch. NVIDIA oddeľuje štyri prevádzkové segmenty: hry, profesionálna vizualizácia, dátové centrá a automobilový priemysel.

NVIDIA

Dá sa predpokladať, že herný segment je zameraný hlavne na spotrebiteľský trh, keďže zahŕňa predaj grafických kariet GeForce a čipov Tegra pre herné konzoly. Segment profesionálnej vizualizácie je zameraný najmä na biznis trh, keďže zahŕňa predaj grafických kariet Quadro a RTX čipov pre pracovné stanice a profesionálne aplikácie. Segment dátových centier je tiež zameraný hlavne na biznis trh, keďže zahŕňa predaj GPU a NPU (čiže čipov novej generácie – už nie GPU, ale určených výhradne pre AI) pre servery a cloudové služby. Automobilový segment sa zameriava na spotrebiteľské aj obchodné trhy, pretože zahŕňa predaj systémov Tegra a Drive pre infotainment a autonómnu jazdu.

NVIDIA

Na základe týchto predpokladov je možné odhadnúť podiel tržieb zo spotrebiteľského a podnikateľského trhu na celkových tržbách NVIDIA. Podľa najnovšej finančnej správy za rok 2022 tržby spoločnosti NVIDIA podľa prevádzkových segmentov boli nasledovné:

  • Hry: 12,9 miliardy dolárov
  • Profesionálna vizualizácia: 1,3 miliardy dolárov
  • Dátové centrá: 9,7 miliardy dolárov
  • Automobily: 0,8 miliardy dolárov
  • Všetky ostatné segmenty: 8,7 miliardy dolárov

Celkový príjem NVIDIA predstavovali 33,4 miliardy USD. Ak predpokladáme, že automobilový segment je rozdelený medzi spotrebiteľský a podnikateľský trh približne rovnako, možno vypočítať tieto podiely:

  • Príjem zo spotrebiteľského trhu: (12,9 + 0,4) / 33,4 = 0,4 (40 %)
  • Príjem z obchodného trhu: (1,3 + 9,7 + 0,4 + 8,7) / 33,4 = 0,6 (60 %)

To znamená, že asi 40% z príjmu NVIDIA pochádza zo spotrebiteľského trhu a približne 60 % z obchodného trhu. To znamená, že hlavným smerom je obchodný segment. Ale aj herný priemysel prináša celkom dobré príjmy. Najdôležitejšie je, že rastú každý rok.

Tiež zaujímavé: Diary of a Grumpy Old Geek: Bing vs Google

Čo nám prinesie budúcnosť?

To je zrejmé NVIDIA už existuje plán podieľať sa na vývoji algoritmov umelej inteligencie. A je oveľa širší a perspektívnejší ako ktorýkoľvek z jeho priamych konkurentov.

Len za posledný mesiac NVIDIA oznámila množstvo nových investícií do umelej inteligencie. Jedným z nich je mechanizmus GET3D, ktorý je schopný generovať zložité trojrozmerné modely rôznych predmetov a postáv, ktoré verne odrážajú realitu. GET3D dokáže vygenerovať približne 20 objektov za sekundu pomocou jediného grafického čipu.

Spomenúť treba ešte jeden zaujímavý projekt. O Israel-1 je superpočítač pre programy umelej inteligencie, ktorý NVIDIA vytvára v spolupráci s Ministerstvom vedy a techniky Izraela a spoločnosťou Mellanox. Očakáva sa, že stroj bude mať viac ako 7 petaflopov výpočtového výkonu a použije viac ako 1000 XNUMX GPU NVIDIA Tenzorové jadro A100. Israel-1 bude slúžiť na výskum a vývoj v oblastiach ako medicína, biológia, chémia, fyzika a kybernetická bezpečnosť. A to sú už vzhľadom na dlhodobé vyhliadky veľmi sľubné kapitálové investície.

NVIDIA

Okrem toho už existuje ďalší projekt - NVIDIA ACE. Ide o novú technológiu, ktorá má spôsobiť revolúciu v hernom priemysle tým, že umožní hráčovi komunikovať s nehráčskou postavou (NPC) prirodzeným a realistickým spôsobom. Tieto postavy budú môcť viesť otvorený dialóg s hráčom, reagovať na jeho emócie a gestá a dokonca vyjadrovať svoje vlastné pocity a myšlienky. NVIDIA ACE používa pokročilé jazykové modely a generátory obrázkov založené na AI.

Prvý bilión dolárov v NVIDIA. Vyzerá to tak, že čoskoro ich bude viac. Budeme určite sledovať pokrok spoločnosti a budeme vás informovať.

Prečítajte si tiež:

Yuri Svitlyk
Yuri Svitlyk
Syn Karpát, neuznaný génius matematiky, „právnik“Microsoft, praktický altruista, ľavo-pravý
- Reklama -
Prihlásiť Se
Upozorniť na
host

0 Komentáre
Vložené recenzie
Zobraziť všetky komentáre