Root NationArtiklidEttevõttedCUDA-st AI-le: edu saladused NVIDIA

CUDA-st AI-le: edu saladused NVIDIA

-

NVIDIA - esimene ettevõte kiibitööstuse ajaloos, mille kapitalisatsioon ületas triljoni dollari piiri. Mis on edu saladus?

Olen kindel, et paljud teist on ettevõttest kuulnud NVIDIA ja enamik teist seostab seda konkreetselt graafikaprotsessoritega, kuna fraas "NVIDIA GeForce" on kuulnud peaaegu kõik.

NVIDIA

NVIDIA tegi hiljuti IT-valdkonnas finantsajalugu. See on esimene integraallülituste ettevõte, mille turuväärtus on ületanud triljoni dollari piiri. Ühtlasi on see viies tehnoloogiaga seotud ettevõte ajaloos, mis on saavutanud nii suure (turukapitalisatsiooni järgi) edu. Varem võisid nii kõrge reitinguga kiidelda ainult inimesed Apple, Microsoft, Alphabet (Google'i omanik) ja Amazon. Seetõttu nimetasid rahastajad seda mõnikord "neljade klubiks", mida on nüüdseks laiendatud NVIDIA.

Lisaks jääb see turukapitalisatsiooni poolest kaugele maha AMD-st, Intelist, Qualcommist ja teistest tehnoloogiaettevõtetest. See poleks olnud võimalik ilma kümnendi eest juurutatud ettevõtte visioonilise poliitikata.

Loe ka: Kas Elon Muski TruthGPT-l on tulevikku?

Uskumatu nõudlus NVIDIA H100 tensori südamik

Mis on sellise kapitalisatsiooni suurendamise saladus? Esiteks on see börsi reaktsioon kiibi edule NVIDIA H100 Tensor Core, mille järele on suur nõudlus juhtivate pilveinfrastruktuuri ja võrguteenuste pakkujate seas. Neid kiipe ostavad Amazon, Meta ja Microsoft (enda ja oma partneri vajaduste jaoks - ettevõte OpenAI). Need on eriti energiasäästlikud generatiivsele tehisintellektile tüüpiliste arvutuste kiirendamisel, nagu ChatGPT või Dall-E. See on kiirendatud andmetöötluse jaoks uskumatu hüpe suurusjärgus. Pakume iga töökoormuse jaoks enneolematut jõudlust, mastaapsust ja turvalisust NVIDIA H100 Tensor Core GPU.

NVIDIA-H100-Tensor Core

Lülitussüsteemi kasutamine NVIDIA NVLinki saab ühendada kuni 256 H100 GPU-ga, et kiirendada töökoormust eksa mastaabis. GPU sisaldab ka spetsiaalset Transformer Engine'i triljonite parameetritega keelemudelite lahendamiseks. H100 kombineeritud tehnoloogilised uuendused võivad kiirendada suuri keelemudeleid (LLM-e) eelmise põlvkonnaga võrreldes uskumatult 30 korda, pakkudes valdkonna juhtivat vestlus-AI-d. Arendajad peavad seda masinõppe jaoks peaaegu ideaalseks.

- Reklaam -

H100 aga ei tekkinud tühja koha pealt. Ja tõtt-öelda pole see eriti revolutsiooniline. NVIDIA, nagu ükski teine ​​ettevõte, on investeerinud tehisintellekti suuri ressursse juba aastaid. Selle tulemusena võib ettevõte, mis on peamiselt seotud GeForce graafikakaardi kaubamärgiga, suhtuda tarbijaturgu peaaegu nagu hobisse. Lõppude lõpuks loob see IT-hiiglaste turul tõelise võimu NVIDIA saab nendega juba rääkida kui võrdsetega.

Huvitav ka: Mis on 6G võrgud ja miks neid vaja on?

Kas tehisintellekt on tulevik?

Täna on selles veendunud peaaegu kõik, isegi selle valdkonna skeptilised eksperdid. Nüüd on see peaaegu aksioom, truism. Kuigi NViDIA teadis sellest juba 20 aastat tagasi. Kas ma üllatasin sind?

Tehniliselt esimene lähikontakt NVIDIA tehisintellektiga juhtus 1999. aastal, kui turule ilmus GeForce 256 protsessor, mis on võimeline kiirendama masinõppe arvutusi. Kuid NVIDIA hakkas tehisintellekti tõsiselt investeerima alles 2006. aastal, mil võeti kasutusele CUDA arhitektuur, mis võimaldas kasutada graafikaprotsessorite paralleeltöötlusvõimalusi koolitusel ja uurimistöös.

NVIDIA-CUDA

Mis on CUDA? Seda saab kõige paremini määratleda kui paralleelset arvutusplatvormi ja rakenduste programmeerimisliidest (API), mis võimaldab tarkvaral kasutada üldotstarbelisi graafikaprotsessoreid (GPGPU). Seda lähenemisviisi nimetatakse GPU-de üldotstarbeliseks andmetöötluseks. Lisaks on CUDA tarkvarakiht, mis pakub otsest juurdepääsu graafikaprotsessori virtuaalsele käsukomplektile ja paralleelsetele arvutuselementidele. See on loodud töötama programmeerimiskeeltega nagu C, C++ ja Fortran.

Just see kättesaadavus teeb paralleelarendajatele lihtsamaks GPU ressursside ärakasutamise, erinevalt varasematest API-dest, nagu Direct3D ja OpenGL, mis nõudsid täiustatud graafika programmeerimise oskusi.

NVIDIA-CUDA

Oluline läbimurre oli ettevõtte pakkumine NVIDIA arvutusvõimsus murrangulise AlexNeti närvivõrgu jaoks. See on konvolutsiooniline närvivõrk (CNN), mille töötas välja ukrainlane Alex Kryzhevskyi koostöös Ilya Sutzkeveri ja Jeffrey Gintoniga.

Konvolutsioonilised närvivõrgud (CNN) on alati olnud objektide tuvastamise mudeliks – need on võimsad mudelid, mida on lihtne juhtida ja veelgi lihtsam treenida. Miljonitel piltidel kasutamisel ei teki neid murettekitavalt palju. Nende jõudlus on peaaegu identne sama suurusega standardsete edasisaatmisnärvivõrkudega. Ainus probleem on see, et neid on raske kõrge eraldusvõimega piltidele rakendada. ImageNeti ulatus nõudis uuendusi, mis oleksid optimeeritud GPU-de jaoks ja vähendaksid treeninguaega, parandades samal ajal jõudlust.

AlexNet

30. septembril 2012 osales AlexNet ImageNet Large Scale Visual Recognition Challenge'is. Võrgustik saavutas viie parima vea testis tulemuseks 15,3%, mis on üle 10,8% madalam kui teise koha skoor.

Põhiline järeldus algsest tööst oli, et mudeli keerukus tulenes selle suurest jõudlusest, mis oli ka arvutuslikult väga kulukas, kuid mida võimaldas graafikatöötlusüksuste (GPU) kasutamine koolitusprotsessis.

AlexNeti konvolutsiooniline närvivõrk ise koosneb kaheksast kihist; esimesed viis on konvolutsioonilised kihid, millest mõnele eelnevad maksimaalselt seotud kihid ja kolm viimast on täielikult ühendatud kihid. Võrk, välja arvatud viimane kiht, on jagatud kaheks koopiaks, millest igaüks töötab ühel GPU-l.

- Reklaam -

See tähendab, et tänu NVIDIA ja siiski usub enamik eksperte ja teadlasi, et AlexNet on uskumatult võimas mudel, mis suudab saavutada suure täpsuse väga keeruliste andmekogumite puhul. AlexNet on kõigi objektide tuvastamise ülesannete juhtiv arhitektuur ja sellel võib olla tehisintellektiprobleemide jaoks väga laialdased rakendused arvutinägemise sektoris. Tulevikus võidakse AlexNeti pildistamise valdkonnas kasutada rohkem kui CNN-i.

Huvitav ka: Bluesky fenomen: milline teenus ja kas see on pikka aega?

Tehisintellekt pole ainult laborites ja andmekeskustes

В NVIDIA nägi tehisintellektile suuri väljavaateid ka tarbeseadmete tehnoloogiates ja asjade internetis. Kuigi konkurendid alles hakkavad kaaluma laiemat investeerimist uut tüüpi integraallülitustesse, NVIDIA tegeleb juba nende miniaturiseerimisega. Eriti oluline on ilmselt Tegra K1 kiip, mis on välja töötatud koostöös Tesla ja teiste autofirmadega.

NVIDIA-Tegra-K1

Tegra K1 protsessor on üks esimesi protsessoreid NVIDIA, mis on loodud spetsiaalselt AI-rakenduste jaoks mobiil- ja manustatud seadmetes. Tegra K1 kasutab sama GPU arhitektuuri nagu graafikakaartide ja süsteemide seeria NVIDIA GeForce, Quadro ja Tesla, mis tagab suure jõudluse ja ühilduvuse graafika- ja andmetöötlusstandarditega, nagu OpenGL 4.4, DirectX 11.2, CUDA 6.5 ja OpenCL 1.2. Tänu sellele saab Tegra K1 protsessor toetada täiustatud tehisintellekti algoritme nagu sügavad närvivõrgud, tugevdusõpe, pildi- ja kõnetuvastus ning andmeanalüüs. Tegra K1-l on 192 CUDA südamikku.

Aastal 2016 NVIDIA andis välja rea ​​Pascali protsessoreid, mis on optimeeritud toetama sügavaid närvivõrke ja muid tehisintellekti mudeleid. Aastaga ilmus turule rida Volta protsessoreid tehisintellektiga seotud rakendustele, mis on veelgi tõhusamad ja energiasäästlikumad. 2019. aastal NVIDIA ostab andmekeskuste ja superarvutite jaoks suure jõudlusega arvutivõrke tootva ettevõtte Mellanox Technologies.

NVIDIA

Selle tulemusena kasutavad nad kõik protsessoreid NVIDIA. Tarbijaturul kasutavad mängurid näiteks revolutsioonilist DLSS-i kujutise rekonstrueerimise algoritmi, mis võimaldab nautida mängudes teravamat graafikat ilma graafikakaardile palju raha kulutamata. Äriturul tunnistatakse, et kiibid NVIDIA paljuski kaugemale sellest, mida konkurendid pakuvad. Kuigi see pole nii, et Intel ja AMD magasid intellektuaalse revolutsiooni täielikult maha.

Huvitav ka: Parimad tehisintellektil põhinevad tööriistad

Intel ja AMD tehisintellekti valdkonnas

Räägime otsestest konkurentidest NVIDIA selles turusegmendis. Intel ja AMD töötavad siin üha aktiivsemalt, kuid suure hilinemisega.

Intel on omandanud mitu AI-ettevõtet, nagu Nervana Systems, Movidius, Mobileye ja Habana Labs, et tugevdada oma tehisintellekti tehnoloogiate ja lahenduste portfelli. Intel pakub tehisintellekti jaoks ka riist- ja tarkvaraplatvorme, nagu Xeoni protsessorid, FPGA-d, NNP-kiibid ja optimeerimise teegid. Intel teeb tehisintellekti innovatsiooni ja hariduse edendamiseks koostööd ka avaliku ja erasektori partneritega.

Intel ja AMD

AMD on välja töötanud rea Epyci protsessoreid ja Radeon Instincti graafikakaarte, mis on optimeeritud tehisintellekti ja süvaõppe rakenduste jaoks. AMD teeb koostööd ka selliste ettevõtetega nagu Google, Microsoft, IBM ja Amazon, pakkudes tehisintellektile pilvelahendusi. AMD püüab ka osaleda tehisintellekti uurimis- ja arendustegevuses, tehes koostööd akadeemiliste institutsioonide ja tööstusorganisatsioonidega. Kõik on aga väga hästi NVIDIA neist juba kaugel ees ning tema edu AI-algoritmide arendamise ja toe vallas on võrreldamatult suurem.

Huvitav ka: Google I/O 2023 kokkuvõte: Android 14, pikslit ja palju AI-d

NVIDIA on aastakümneid olnud seotud videomängudega

Seda ei tohiks ka unustada. NVIDIA ei anna oma tulude täpset jaotust tarbija- ja äriturgude vahel, kuid neid saab hinnata tegevussegmentide põhjal, mille ettevõte oma finantsaruannetes avalikustab. NVIDIA eraldab neli tegevussegmenti: mängud, professionaalne visualiseerimine, andmekeskused ja autotööstus.

NVIDIA

Võib eeldada, et mängusegment on keskendunud peamiselt tarbijaturule, kuna see hõlmab GeForce videokaartide ja Tegra kiipide müüki mängukonsoolidele. Professionaalse visualiseerimise segment on keskendunud peamiselt äriturule, kuna see hõlmab Quadro videokaartide ja RTX-kiipide müüki tööjaamadele ja professionaalsetele rakendustele. Andmekeskuste segment on samuti keskendunud peamiselt äriturule, kuna see hõlmab GPU-de ja NPU-de (ehk järgmise põlvkonna kiipide – mitte enam GPU-de, vaid mõeldud ainult AI jaoks) müüki serveritele ja pilveteenustele. Autotööstuse segment on suunatud nii tarbija- kui ka äriturgudele, kuna see hõlmab teabe- ja meelelahutussüsteemide ja autonoomse sõidu jaoks mõeldud Tegra ja Drive süsteemide müüki.

NVIDIA

Nende eelduste põhjal on võimalik hinnata tarbija- ja äriturgude tulude osakaalu kogutuludest NVIDIA. Viimase 2022. aasta majandusaruande järgi ettevõtte tulud NVIDIA tegevussegmentide lõikes olid järgmised:

  • Mängud: 12,9 miljardit dollarit
  • Professionaalne visualiseerimine: 1,3 miljardit dollarit
  • Andmekeskused: 9,7 miljardit dollarit
  • Autod: 0,8 miljardit dollarit
  • Kõik muud segmendid: 8,7 miljardit dollarit

Kogutulu NVIDIA ulatus 33,4 miljardi dollarini. Kui eeldame, et autotööstuse segment jaguneb tarbija- ja äriturgude vahel ligikaudu võrdselt, saab arvutada järgmised proportsioonid:

  • Tulu tarbijaturult: (12,9 + 0,4) / 33,4 = 0,4 (40%)
  • Tulu äriturult: (1,3 + 9,7 + 0,4 + 8,7) / 33,4 = 0,6 (60%)

See tähendab, et umbes 40% sissetulekust NVIDIA tuleb tarbijaturult ja umbes 60% äriturult. See tähendab, et põhisuund on ärisegment. Kuid mängutööstus toob ka üsna head tulu. Kõige tähtsam on see, et nad kasvavad igal aastal.

Huvitav ka: Vana tõreda nohiku päevik: Bing vs Google

Mida tulevik meile toob?

On ilmne, et NVIDIA juba on plaan osaleda tehisintellekti algoritmide väljatöötamises. Ja see on palju laiem ja paljulubavam kui ükski tema otsene konkurent.

Ainult viimasel kuul NVIDIA teatas arvukatest uutest investeeringutest tehisintellekti. Üks neist on GET3D mehhanism, mis on võimeline genereerima erinevate objektide ja tegelaste keerukaid kolmemõõtmelisi mudeleid, mis peegeldavad tõetruult tegelikkust. GET3D suudab ühe graafikakiibi abil genereerida umbes 20 objekti sekundis.

Üht huvitavat projekti tuleks ka veel mainida. About Israel-1 on tehisintellekti programmide superarvuti, mis NVIDIA on loodud koostöös Iisraeli teadus- ja tehnoloogiaministeeriumi ning ettevõttega Mellanox. Eeldatakse, et masinal on rohkem kui 7 petaflopsi arvutusvõimsust ja see kasutab rohkem kui 1000 GPU-d NVIDIA A100 Tensor Core. Israel-1 kasutatakse teadus- ja arendustegevuseks sellistes valdkondades nagu meditsiin, bioloogia, keemia, füüsika ja küberjulgeolek. Ja need on pikaajalisi väljavaateid arvestades juba väga paljulubavad kapitaliinvesteeringud.

NVIDIA

Lisaks on juba üks projekt - NVIDIA ACE. See on uus tehnoloogia, mis on seatud mängutööstuses revolutsiooniliselt muutma, võimaldades mängijal suhelda mittemängija tegelasega (NPC) loomulikul ja realistlikul viisil. Need tegelased suudavad pidada mängijaga avatud dialoogi, reageerida tema emotsioonidele ja žestidele ning isegi väljendada oma tundeid ja mõtteid. NVIDIA ACE kasutab täiustatud keelemudeleid ja AI-põhiseid pildigeneraatoreid.

Esimene triljon dollarit sisse NVIDIA. Tundub, et neid tuleb varsti rohkem. Jälgime kindlasti ettevõtte käekäiku ja anname teile teada.

Loe ka:

Yuri Svitlyk
Yuri Svitlyk
Karpaatide poeg, tunnustamata matemaatikageenius, "advokaat"Microsoft, praktiline altruist, vasak-parem
- Reklaam -
Registreeri
Teavita umbes
Külaline

0 Kommentaarid
Manustatud ülevaated
Kuva kõik kommentaarid