NVIDIA - het eerste bedrijf in de geschiedenis van de chipindustrie, waarvan de kapitalisatie meer dan een biljoen dollar bedroeg. Wat is het geheim van succes?
Ik weet zeker dat velen van jullie over het bedrijf hebben gehoord NVIDIA en de meesten van jullie associëren het specifiek met grafische processors, omdat de zinsnede "NVIDIA GeForce" is door bijna iedereen gehoord.
NVIDIA heeft onlangs financiële geschiedenis geschreven in de IT-industrie. Het is het eerste bedrijf met geïntegreerde schakelingen waarvan de marktwaarde meer dan een biljoen dollar bedraagt. Het is ook het vijfde technologiegerelateerde bedrijf in de geschiedenis dat zo'n groot succes boekt (op basis van marktkapitalisatie). Voorheen konden alleen mensen bogen op zo'n hoge beoordeling Apple, Microsoft, Alphabet (eigenaar van Google) en Amazon. Daarom noemden financiers het ook wel eens de ‘Club van Vier’, die inmiddels is uitgebreid NVIDIA.
Bovendien loopt het qua marktkapitalisatie ver achter op AMD, Intel, Qualcomm en andere technologiebedrijven. Dit zou niet mogelijk zijn geweest zonder het visionaire beleid van het bedrijf, dat tien jaar geleden werd ingevoerd.
Lees ook: Is er een toekomst voor TruthGPT van Elon Musk?
Ongelooflijke vraag naar NVIDIA H100 Tensorkern
Wat is het geheim van een dergelijke verhoging van de kapitalisatie? Allereerst is dit de reactie van de beurs op het succes van de chip NVIDIA H100 Tensor Core, waar veel vraag naar is bij toonaangevende aanbieders van cloudinfrastructuur en online diensten. Deze chips worden gekocht door Amazon, Meta en Microsoft (voor zijn eigen behoeften en de behoeften van zijn partner - het bedrijf OpenAI). Ze zijn bijzonder energiezuinig in het versnellen van berekeningen die typisch zijn voor generatieve kunstmatige intelligentie, zoals ChatGPT of Dall-E. Dit is een ongelooflijke sprong van een orde van grootte voor versneld computergebruik. We krijgen ongekende prestaties, schaalbaarheid en beveiliging voor elke workload NVIDIA H100 Tensor Core-GPU.
Gebruik maken van een schakelsysteem NVIDIA NVLink kan worden aangesloten op maximaal 256 H100 GPU's om de werklast op exa-schaal te versnellen. De GPU bevat ook een speciale Transformer Engine voor het oplossen van taalmodellen met biljoenen parameters. De gecombineerde technologische innovaties van de H100 kunnen grote taalmodellen (LLM's) maar liefst 30x versnellen in vergelijking met de vorige generatie, waardoor toonaangevende conversatie-AI ontstaat. De ontwikkelaars beschouwen het als bijna ideaal voor machine learning.
De H100 verscheen echter niet uit het niets. En om de waarheid te zeggen: het is niet bijzonder revolutionair. NVIDIA, als geen ander bedrijf, investeert al jaren enorme middelen in kunstmatige intelligentie. Als gevolg hiervan kan een bedrijf dat voornamelijk geassocieerd is met het merk GeForce grafische kaarten de consumentenmarkt bijna als een hobby behandelen. Dit bouwt immers echte macht op in de markt van IT-reuzen NVIDIA kunnen al als gelijken met hen praten.
Ook interessant: Wat zijn 6G-netwerken en waarom zijn ze nodig?
Is kunstmatige intelligentie de toekomst?
Tegenwoordig is bijna iedereen hiervan overtuigd, zelfs sceptische experts op dit gebied. Nu is het bijna een axioma, een waarheid. Hoewel NViDIA wist het twintig jaar geleden al. Heb ik je verrast?
Technisch gezien het eerste nauwe contact NVIDIA met kunstmatige intelligentie gebeurde in 1999, toen de GeForce 256-processor op de markt verscheen, die in staat was om machine learning-berekeningen te versnellen. Echter NVIDIA begon pas in 2006 serieus te investeren in kunstmatige intelligentie, toen het de CUDA-architectuur introduceerde, die het mogelijk maakte de parallelle verwerkingsmogelijkheden van grafische processors te gebruiken voor training en onderzoek.
Wat is CUDA? Het kan het beste worden gedefinieerd als een parallel computerplatform en een API (Application Programming Interface) waarmee software algemene grafische verwerkingseenheden (GPGPU's) kan gebruiken. Deze benadering wordt general-purpose computing op GPU's genoemd. Bovendien is CUDA een softwarelaag die directe toegang biedt tot de virtuele instructieset en parallelle rekenelementen van de grafische processor. Het is ontworpen om te werken met programmeertalen zoals C, C++ en Fortran.
Het is deze toegankelijkheid die het voor parallelle ontwikkelaars gemakkelijker maakt om te profiteren van GPU-bronnen, in tegenstelling tot eerdere API's zoals Direct3D en OpenGL, waarvoor geavanceerde grafische programmeervaardigheden nodig waren.
Een belangrijke doorbraak was de voorziening door het bedrijf NVIDIA rekenkracht voor het baanbrekende neurale netwerk AlexNet. Het is een convolutioneel neuraal netwerk (CNN), ontwikkeld door de Oekraïner Alex Kryzhevskyi in samenwerking met Ilya Sutzkever en Jeffrey Ginton.
Convolutional Neural Networks (CNN's) zijn altijd het go-to-model geweest voor objectherkenning: het zijn krachtige modellen die gemakkelijk te besturen en nog gemakkelijker te trainen zijn. Ze ervaren geen alarmerende mate van overfitting wanneer ze op miljoenen afbeeldingen worden gebruikt. Hun prestaties zijn bijna identiek aan standaard feed-forward neurale netwerken van dezelfde grootte. Het enige probleem is dat ze moeilijk toe te passen zijn op afbeeldingen met een hoge resolutie. De schaal van ImageNet vereiste innovaties die zouden worden geoptimaliseerd voor GPU's en die de trainingstijd zouden verkorten en tegelijkertijd de prestaties zouden verbeteren.
Op 30 september 2012 nam AlexNet deel aan de ImageNet Large Scale Visual Recognition Challenge. Het netwerk behaalde een score van 15,3% in de top vijf foutentest, ruim 10,8% lager dan de score op de tweede plaats.
De belangrijkste conclusie uit het oorspronkelijke werk was dat de complexiteit van het model te danken was aan de hoge prestaties, die ook rekenkundig erg duur waren, maar mogelijk werden gemaakt door het gebruik van grafische verwerkingseenheden (GPU's) tijdens het trainingsproces.
Het convolutionele neurale netwerk van AlexNet zelf bestaat uit acht lagen; de eerste vijf zijn convolutionele lagen, waarvan sommige worden voorafgegaan door maximaal gekoppelde lagen, en de laatste drie zijn volledig verbonden lagen. Het netwerk, behalve de laatste laag, is opgesplitst in twee exemplaren, die elk op een enkele GPU draaien.
Dat wil zeggen, dankzij het NVIDIA en nog steeds zijn de meeste experts en wetenschappers van mening dat AlexNet een ongelooflijk krachtig model is dat in staat is een hoge nauwkeurigheid te bereiken op zeer complexe datasets. AlexNet is de toonaangevende architectuur voor elke objectdetectietaak en kan zeer brede toepassingen hebben in de computervisiesector voor problemen met kunstmatige intelligentie. In de toekomst zal AlexNet mogelijk meer dan CNN worden gebruikt op het gebied van beeldvorming.
Ook interessant: Het Bluesky-fenomeen: wat voor soort service en is het al lang?
Kunstmatige intelligentie zit niet alleen in laboratoria en datacenters
В NVIDIA zag ook grote vooruitzichten voor AI in de technologieën van consumentenapparatuur en het internet der dingen. Terwijl concurrenten net beginnen te overwegen om breder te investeren in een nieuw type geïntegreerde schakeling, NVIDIA werkt al aan hun miniaturisering. Vooral de Tegra K1-chip, ontwikkeld in samenwerking met Tesla en andere autobedrijven, is waarschijnlijk van groot belang.
De Tegra K1-processor is een van de eerste processors NVIDIA, speciaal ontworpen voor AI-toepassingen in mobiele en embedded apparaten. Tegra K1 gebruikt dezelfde GPU-architectuur als de serie grafische kaarten en systemen NVIDIA GeForce, Quadro en Tesla, die hoge prestaties en compatibiliteit bieden met grafische en computerstandaarden zoals OpenGL 4.4, DirectX 11.2, CUDA 6.5 en OpenCL 1.2. Dankzij dit kan de Tegra K1-processor geavanceerde kunstmatige intelligentie-algoritmen ondersteunen, zoals diepe neurale netwerken, versterkend leren, beeld- en spraakherkenning en data-analyse. Tegra K1 heeft 192 CUDA-kernen.
In 2016 NVIDIA heeft een reeks Pascal-processors uitgebracht die zijn geoptimaliseerd om diepe neurale netwerken en andere kunstmatige intelligentiemodellen te ondersteunen. Binnen een jaar verscheen er een serie Volta-processors voor toepassingen op het gebied van kunstmatige intelligentie op de markt, die nog efficiënter en energiezuiniger zijn. In 2019 NVIDIA koopt Mellanox Technologies, een maker van krachtige computernetwerken voor datacenters en supercomputers.
Als gevolg hiervan gebruiken ze allemaal processors NVIDIA. Op de consumentenmarkt gebruiken gamers bijvoorbeeld het revolutionaire DLSS-algoritme voor beeldreconstructie, waarmee ze kunnen genieten van scherpere graphics in games zonder veel geld uit te geven aan een grafische kaart. In de zakelijke markt wordt erkend dat chips NVIDIA in veel opzichten verder dan wat concurrenten bieden. Al is het niet zo dat Intel en AMD de intellectuele revolutie volledig hebben doorgeslapen.
Ook interessant: De beste tools op basis van kunstmatige intelligentie
Intel en AMD op het gebied van kunstmatige intelligentie
Laten we het hebben over directe concurrenten NVIDIA in dit marktsegment. Intel en AMD werken hier steeds actiever, maar met een lange vertraging.
Intel heeft verschillende AI-bedrijven overgenomen, zoals Nervana Systems, Movidius, Mobileye en Habana Labs om zijn portfolio van AI-technologieën en -oplossingen te versterken. Intel biedt ook hardware- en softwareplatforms voor kunstmatige intelligentie, zoals Xeon-processors, FPGA's, NNP-chips en optimalisatiebibliotheken. Intel werkt ook samen met partners uit de publieke en private sector om AI-innovatie en -onderwijs te bevorderen.
AMD heeft een serie Epyc-processors en Radeon Instinct grafische kaarten ontwikkeld die zijn geoptimaliseerd voor AI- en deep learning-toepassingen. AMD werkt ook samen met bedrijven als Google, Microsoft, IBM en Amazon, die cloudoplossingen voor AI leveren. AMD streeft er ook naar om deel te nemen aan AI-onderzoek en -ontwikkeling via partnerschappen met academische instellingen en brancheorganisaties. Maar het is allemaal heel goed NVIDIA al ver vooruit, en het succes op het gebied van de ontwikkeling en ondersteuning van AI-algoritmen is onvergelijkbaar groter.
Ook interessant: Samenvatting van Google I/O 2023: Android 14, Pixel en veel AI
NVIDIA wordt al tientallen jaren in verband gebracht met videogames
Ook dit mag niet vergeten worden. NVIDIA geeft geen exacte uitsplitsing van de omzet over de consumenten- en zakelijke markt, maar kan worden geschat op basis van de operationele segmenten die het bedrijf in zijn jaarrekening openbaar maakt. NVIDIA scheidt vier operationele segmenten: Gaming, Professionele Visualisatie, Datacenters en Automotive.
Aangenomen mag worden dat het gamingsegment vooral gericht is op de consumentenmarkt, aangezien daar onder andere de verkoop van GeForce-videokaarten en Tegra-chips voor gameconsoles onder valt. Het segment professionele visualisatie is vooral gericht op de zakelijke markt, met onder meer de verkoop van Quadro-videokaarten en RTX-chips voor werkstations en professionele toepassingen. Ook het datacentersegment is vooral gericht op de zakelijke markt, daar het onder andere de verkoop van gpu's en npu's (oftewel next-generation chips - geen gpu's meer, maar exclusief voor AI ontworpen) voor servers en clouddiensten omvat. Het automobielsegment richt zich op zowel de consumenten- als de zakelijke markt, aangezien het de verkoop van Tegra- en Drive-systemen voor infotainment en autonoom rijden omvat.
Op basis van deze aannames is het mogelijk om een schatting te maken van het aandeel van de omzet uit de consumenten- en zakelijke markt in de totale omzet NVIDIA. Volgens het laatste financiële rapport voor het jaar 2022 zijn de inkomsten van het bedrijf NVIDIA per operationele segmenten waren als volgt:
- Spellen: $ 12,9 miljard
- Professionele visualisatie: $ 1,3 miljard
- Datacenters: $ 9,7 miljard
- Auto's: $ 0,8 miljard
- Alle andere segmenten: $ 8,7 miljard
Totaal inkomen NVIDIA bedroeg $33,4 miljard.Als we aannemen dat het autosegment ongeveer gelijk verdeeld is tussen de consumenten- en de zakelijke markt, kunnen de volgende verhoudingen worden berekend:
- Inkomsten uit de consumentenmarkt: (12,9 + 0,4) / 33,4 = 0,4 (40%)
- Inkomsten uit de zakelijke markt: (1,3 + 9,7 + 0,4 + 8,7) / 33,4 = 0,6 (60%)
Dit betekent dat ongeveer 40% van het inkomen NVIDIA komt uit de consumentenmarkt en ongeveer 60% uit de zakelijke markt. Dat wil zeggen, de hoofdrichting is het zakelijke segment. Maar de game-industrie brengt ook behoorlijk goede inkomsten met zich mee. Het belangrijkste is dat ze elk jaar groeien.
Ook interessant: Dagboek van een chagrijnige oude nerd: Bing vs Google
Wat gaat de toekomst ons brengen?
Het spreekt voor zich dat NVIDIA er bestaat al een plan om deel te nemen aan de ontwikkeling van algoritmen voor kunstmatige intelligentie. En het is veel breder en veelbelovender dan al zijn directe concurrenten.
Alleen de laatste maand NVIDIA kondigde talrijke nieuwe investeringen in kunstmatige intelligentie aan. Een daarvan is het GET3D-mechanisme, dat in staat is complexe driedimensionale modellen van verschillende objecten en karakters te genereren die de werkelijkheid getrouw weergeven. GET3D kan ongeveer 20 objecten per seconde genereren met behulp van een enkele grafische chip.
Er moet nog een interessant project worden vermeld. Over Israel-1 is een supercomputer voor kunstmatige intelligentieprogramma's, die NVIDIA is gemaakt in samenwerking met het Ministerie van Wetenschap en Technologie van Israël en het bedrijf Mellanox. De machine zal naar verwachting meer dan 7 petaflops aan rekenkracht hebben en meer dan 1000 GPU's gebruiken NVIDIA A100 Tensorkern. Israel-1 zal worden gebruikt voor onderzoek en ontwikkeling op gebieden als geneeskunde, biologie, scheikunde, natuurkunde en cyberveiligheid. En dit zijn nu al veelbelovende kapitaalinvesteringen, gezien de langetermijnvooruitzichten.
Er is ook al een ander project - NVIDIA ACE. Het is een nieuwe technologie die een revolutie teweeg zal brengen in de game-industrie door de speler op een natuurlijke en realistische manier te laten communiceren met een niet-speler-personage (NPC). Deze personages kunnen een open dialoog met de speler voeren, reageren op zijn emoties en gebaren en zelfs hun eigen gevoelens en gedachten uiten. NVIDIA ACE maakt gebruik van geavanceerde taalmodellen en op AI gebaseerde beeldgeneratoren.
Het eerste biljoen dollar binnen NVIDIA. Het lijkt erop dat er binnenkort meer zullen volgen. We zullen de voortgang van het bedrijf zeker volgen en u hiervan op de hoogte stellen.
Lees ook: