Root NationČlánkySpolečnostiOd CUDA k AI: Tajemství úspěchu NVIDIA

Od CUDA k AI: Tajemství úspěchu NVIDIA

-

NVIDIA - první společnost v historii čipového průmyslu, jejíž kapitalizace přesáhla bilion dolarů. Jaké je tajemství úspěchu?

Jsem si jist, že mnoho z vás o společnosti slyšelo NVIDIA a většina z vás si to spojuje konkrétně s grafickými procesory, protože fráze „NVIDIA GeForce“ slyšel snad každý.

NVIDIA

NVIDIA nedávno se zapsal do finanční historie v IT průmyslu. Je to první společnost s integrovanými obvody, jejíž tržní hodnota přesáhla bilion dolarů. Je také pátou společností v historii, která dosáhla tak velkého úspěchu (podle tržní kapitalizace). Dříve se tak vysokým hodnocením mohli pochlubit jen lidé Apple, Microsoft, Alphabet (vlastník Google) a Amazon. Finančníci mu proto někdy říkali „Klub čtyř“, který se nyní rozšířil NVIDIA.

Z hlediska tržní kapitalizace je navíc daleko za AMD, Intelem, Qualcommem a dalšími technologickými společnostmi. To by nebylo možné bez vizionářské politiky společnosti, která byla zavedena před deseti lety.

Přečtěte si také: Má TruthGPT od Elona Muska budoucnost?

Neuvěřitelná poptávka po NVIDIA H100 Tensor Core

Jaké je tajemství takového zvýšení kapitalizace? V první řadě jde o reakci burzy na úspěch čipu NVIDIA H100 Tensor Core, který je velmi žádaný mezi předními poskytovateli cloudové infrastruktury a online služeb. Tyto čipy nakupují Amazon, Meta a Microsoft (pro vlastní potřebu i potřeby svého partnera - společnosti OpenAI). Jsou zvláště energeticky účinné při zrychlení výpočtů typických pro generativní umělou inteligenci, jako je ChatGPT nebo Dall-E. To je pro zrychlené výpočty neuvěřitelný skok o řád. Získáváme bezprecedentní výkon, škálovatelnost a zabezpečení pro jakoukoli pracovní zátěž NVIDIA H100 Tensor Core GPU.

NVIDIA-H100-Tensor Core

Použití spínacího systému NVIDIA NVLink lze připojit až k 256 GPU H100 pro urychlení pracovního zatížení na úrovni exa. GPU také obsahuje vyhrazený Transformer Engine pro řešení jazykových modelů s biliony parametrů. Kombinované technologické inovace H100 mohou zrychlit velké jazykové modely (LLM) až neuvěřitelných 30x ve srovnání s předchozí generací a poskytují špičkovou konverzační umělou inteligenci. Vývojáři jej považují téměř za ideální pro strojové učení.

- Reklama -

H100 se však neobjevila z ničeho nic. A abych řekl pravdu, není to nijak zvlášť revoluční. NVIDIA, jako žádná jiná společnost, již řadu let investuje obrovské prostředky do umělé inteligence. Výsledkem je, že společnost spojená primárně se značkou grafických karet GeForce může zacházet se spotřebitelským trhem téměř jako s koníčkem. To ostatně buduje skutečnou sílu na trhu IT gigantů NVIDIA už s nimi může mluvit jako se sobě rovnými.

Zajímavé také: Co jsou sítě 6G a proč jsou potřebné?

Je umělá inteligence budoucnost?

Dnes je o tom přesvědčen téměř každý, dokonce i skeptičtí odborníci v této oblasti. Nyní je to téměř axiom, pravda. Ačkoli NViDIA věděl o tom před 20 lety. Překvapil jsem tě?

Technicky první blízký kontakt NVIDIA s umělou inteligencí došlo v roce 1999, kdy se na trhu objevil procesor GeForce 256, schopný urychlit výpočty strojového učení. nicméně NVIDIA začala vážně investovat do umělé inteligence až v roce 2006, kdy představila architekturu CUDA, která umožňovala využívat možnosti paralelního zpracování grafických procesorů pro školení a výzkum.

NVIDIA-CUDA

Co je CUDA? Nejlépe je definována jako paralelní výpočetní platforma a rozhraní pro programování aplikací (API), které umožňuje softwaru používat jednotky pro obecné grafické zpracování (GPGPU). Tento přístup se nazývá general-purpose computing na GPU. CUDA je navíc softwarová vrstva, která poskytuje přímý přístup k virtuální instrukční sadě a paralelním výpočetním prvkům grafického procesoru. Je navržen pro práci s programovacími jazyky jako C, C++ a Fortran.

Právě tato dostupnost usnadňuje paralelním vývojářům využívat zdroje GPU, na rozdíl od předchozích API jako Direct3D a OpenGL, která vyžadovala pokročilé znalosti grafického programování.

NVIDIA-CUDA

Důležitým průlomem bylo poskytování ze strany společnosti NVIDIA výpočetní výkon pro převratnou neuronovou síť AlexNet. Jde o konvoluční neuronovou síť (CNN), kterou vyvinul Ukrajinec Alex Kryzhevsky ve spolupráci s Iljou Sutzkeverem a Jeffreym Gintonem.

Konvoluční neuronové sítě (CNN) byly vždy výchozím modelem pro rozpoznávání objektů – jsou to výkonné modely, které se snadno ovládají a ještě snadněji trénují. Při použití na milionech obrázků nedochází k jejich nadměrnému přizpůsobení v žádném znepokojivém rozsahu. Jejich výkon je téměř shodný se standardními dopřednými neuronovými sítěmi stejné velikosti. Jediným problémem je, že je obtížné je aplikovat na obrázky s vysokým rozlišením. Rozsah ImageNet vyžadoval inovace, které by byly optimalizovány pro GPU a zkrátily dobu školení a zároveň zlepšily výkon.

AlexNet

Dne 30. září 2012 se AlexNet zúčastnila ImageNet Large Scale Visual Recognition Challenge. Síť dosáhla skóre 15,3 % v testu pěti nejlepších chyb, což je o více než 10,8 % méně než skóre na druhém místě.

Hlavním závěrem původní práce bylo, že složitost modelu byla způsobena jeho vysokým výkonem, který byl také velmi výpočetně nákladný, ale umožnilo to použití grafických procesorových jednotek (GPU) během tréninkového procesu.

Samotná konvoluční neuronová síť AlexNet se skládá z osmi vrstev; prvních pět jsou konvoluční vrstvy, z nichž některým předcházejí maximálně spojené vrstvy, a poslední tři jsou plně spojené vrstvy. Síť, kromě poslední vrstvy, je rozdělena do dvou kopií, z nichž každá běží na jednom GPU.

- Reklama -

Tedy díky tomu NVIDIA a stále většina odborníků a vědců věří, že AlexNet je neuvěřitelně výkonný model schopný dosahovat vysoké přesnosti na velmi složitých souborech dat. AlexNet je přední architektura pro jakýkoli úkol detekce objektů a může mít velmi široké použití v sektoru počítačového vidění pro problémy s umělou inteligencí. V budoucnu může být AlexNet používán více než CNN v oblasti zobrazování.

Zajímavé také: Fenomén Bluesky: jaký druh služby a je to na dlouhou dobu?

Umělá inteligence není jen v laboratořích a datových centrech

В NVIDIA viděl velké vyhlídky pro AI také v technologiích spotřebitelských zařízení a internetu věcí. Zatímco konkurenti teprve začínají uvažovat o širších investicích do nového typu integrovaného obvodu, NVIDIA již pracuje na jejich miniaturizaci. Důležitý je zřejmě především čip Tegra K1 vyvinutý ve spolupráci s Teslou a dalšími automobilkami.

NVIDIA-Tegra-K1

Procesor Tegra K1 je jedním z prvních procesorů NVIDIA, navržený speciálně pro aplikace AI v mobilních a vestavěných zařízeních. Tegra K1 používá stejnou architekturu GPU jako řada grafických karet a systémů NVIDIA GeForce, Quadro a Tesla, která poskytuje vysoký výkon a kompatibilitu s grafickými a výpočetními standardy, jako je OpenGL 4.4, DirectX 11.2, CUDA 6.5 a OpenCL 1.2. Díky tomu může procesor Tegra K1 podporovat pokročilé algoritmy umělé inteligence, jako jsou hluboké neuronové sítě, posilovací učení, rozpoznávání obrazu a řeči a analýza dat. Tegra K1 má 192 CUDA jader.

V roce 2016 NVIDIA vydala řadu procesorů Pascal optimalizovaných pro podporu hlubokých neuronových sítí a dalších modelů umělé inteligence. Během roku se na trhu objevila řada procesorů Volta pro aplikace související s umělou inteligencí, které jsou ještě efektivnější a energeticky úspornější. V roce 2019 NVIDIA kupuje Mellanox Technologies, výrobce vysoce výkonných počítačových sítí pro datová centra a superpočítače.

NVIDIA

Výsledkem je, že všechny používají procesory NVIDIA. Na spotřebitelském trhu například hráči používají revoluční algoritmus rekonstrukce obrazu DLSS, který jim umožňuje vychutnat si ostřejší grafiku ve hrách, aniž by museli utrácet spoustu peněz za grafickou kartu. Na obchodním trhu se uznává, že čipy NVIDIA v mnoha ohledech nad rámec toho, co nabízí konkurence. I když to není tak, že by Intel a AMD intelektuální revoluci úplně zaspaly.

Zajímavé také: Nejlepší nástroje založené na umělé inteligenci

Intel a AMD v oblasti umělé inteligence

Pojďme se bavit o přímých konkurentech NVIDIA v tomto segmentu trhu. Intel a AMD zde pracují stále aktivněji, ale s velkým zpožděním.

Intel koupil několik společností AI, jako jsou Nervana Systems, Movidius, Mobileye a Habana Labs, aby posílil své portfolio technologií a řešení AI. Intel také nabízí hardwarové a softwarové platformy pro umělou inteligenci, jako jsou procesory Xeon, FPGA, čipy NNP a optimalizační knihovny. Intel také spolupracuje s partnery z veřejného a soukromého sektoru na rozvoji inovací a vzdělávání AI.

Intel a AMD

AMD vyvinulo řadu procesorů Epyc a grafických karet Radeon Instinct, které jsou optimalizovány pro AI a aplikace pro hluboké učení. AMD také spolupracuje se společnostmi, jako je Google, Microsoft, IBM a Amazon poskytující cloudová řešení pro AI. AMD se také snaží podílet na výzkumu a vývoji AI prostřednictvím partnerství s akademickými institucemi a průmyslovými organizacemi. Všechno je to ale velmi dobré NVIDIA již daleko před nimi a její úspěch v oblasti vývoje a podpory algoritmů AI je nesrovnatelně větší.

Zajímavé také: Shrnutí konference Google I/O 2023: Android 14, Pixel a spousta AI

NVIDIA je s videohrami spojován již desítky let

Na to by se také nemělo zapomínat. NVIDIA neposkytuje přesné rozdělení svých výnosů mezi spotřebitelský a obchodní trh, ale lze je odhadnout na základě provozních segmentů, které společnost zveřejňuje ve svých finančních výkazech. NVIDIA odděluje čtyři provozní segmenty: hry, profesionální vizualizace, datová centra a automobilový průmysl.

NVIDIA

Dá se předpokládat, že herní segment je zaměřen především na spotřebitelský trh, protože zahrnuje prodej grafických karet GeForce a čipů Tegra pro herní konzole. Segment profesionální vizualizace je zaměřen především na obchodní trh, neboť zahrnuje prodej grafických karet Quadro a RTX čipů pro pracovní stanice a profesionální aplikace. Segment datových center je rovněž zaměřen především na obchodní trh, neboť zahrnuje prodej GPU a NPU (tedy čipů nové generace – již nikoli GPU, ale určených výhradně pro AI) pro servery a cloudové služby. Automobilový segment cílí na spotřebitelské i obchodní trhy, protože zahrnuje prodej systémů Tegra a Drive pro infotainment a autonomní řízení.

NVIDIA

Na základě těchto předpokladů je možné odhadnout podíl tržeb ze spotřebitelských a podnikatelských trhů na celkových tržbách NVIDIA. Podle poslední finanční zprávy za rok 2022 tržby společnosti NVIDIA podle provozních segmentů byly následující:

  • Hry: 12,9 miliardy dolarů
  • Profesionální vizualizace: 1,3 miliardy dolarů
  • Datová centra: 9,7 miliardy dolarů
  • Automobily: 0,8 miliardy dolarů
  • Všechny ostatní segmenty: 8,7 miliardy dolarů

Celkový příjem NVIDIA činil 33,4 miliardy USD. Pokud předpokládáme, že automobilový segment je rozdělen přibližně rovnoměrně mezi spotřebitelský a obchodní trh, lze vypočítat následující podíly:

  • Příjem ze spotřebitelského trhu: (12,9 + 0,4) / 33,4 = 0,4 (40 %)
  • Příjmy z obchodního trhu: (1,3 + 9,7 + 0,4 + 8,7) / 33,4 = 0,6 (60 %)

To znamená, že asi 40 % z příjmu NVIDIA pochází ze spotřebitelského trhu a asi 60 % z obchodního trhu. To znamená, že hlavním směrem je obchodní segment. Herní průmysl ale přináší i docela dobré příjmy. Nejdůležitější je, že rostou každý rok.

Zajímavé také: Diary of a Grumpy Old Geek: Bing vs Google

Co nám přinese budoucnost?

To je zřejmé NVIDIA již existuje plán podílet se na vývoji algoritmů umělé inteligence. A je mnohem širší a slibnější než kterýkoli z jeho přímých konkurentů.

Až za poslední měsíc NVIDIA oznámila řadu nových investic do umělé inteligence. Jedním z nich je mechanismus GET3D, který je schopen generovat složité trojrozměrné modely různých objektů a postav, které věrně odrážejí realitu. GET3D dokáže generovat asi 20 objektů za sekundu pomocí jediného grafického čipu.

Je třeba zmínit ještě jeden zajímavý projekt. O Israel-1 je superpočítač pro programy umělé inteligence, který NVIDIA vzniká ve spolupráci s Ministerstvem vědy a technologie Izraele a společností Mellanox. Očekává se, že stroj bude mít více než 7 petaflopů výpočetního výkonu a využije více než 1000 GPU NVIDIA Tensor Core A100. Israel-1 bude sloužit pro výzkum a vývoj v oborech, jako je medicína, biologie, chemie, fyzika a kybernetická bezpečnost. A to už jsou vzhledem k dlouhodobým perspektivám velmi slibné kapitálové investice.

NVIDIA

Navíc již existuje další projekt - NVIDIA ESO. Jedná se o novou technologii, která má přinést revoluci v herním průmyslu tím, že umožní hráči komunikovat s nehráčskou postavou (NPC) přirozeným a realistickým způsobem. Tyto postavy budou moci vést otevřený dialog s hráčem, reagovat na jeho emoce a gesta a dokonce vyjadřovat své vlastní pocity a myšlenky. NVIDIA ACE využívá pokročilé jazykové modely a generátory obrázků založené na AI.

První bilion dolarů v NVIDIA. Vypadá to, že brzy budou další. Budeme určitě sledovat vývoj společnosti a dáme vám vědět.

Přečtěte si také:

Yuri Svitlyk
Yuri Svitlyk
Syn Karpat, neuznaný génius matematiky, "právník"Microsoft, praktický altruista, levá-pravá
- Reklama -
Přihlásit se
Upozornit na
host

0 Komentáře
Vložené recenze
Zobrazit všechny komentáře