Root NationΆρθραΕταιρείεςΑπό το CUDA στο AI: Secrets of Success NVIDIA

Από το CUDA στο AI: Secrets of Success NVIDIA

-

NVIDIA - η πρώτη εταιρεία στην ιστορία της βιομηχανίας τσιπ, η κεφαλαιοποίηση της οποίας ξεπέρασε το ένα τρισεκατομμύριο δολάρια. Ποιο είναι το μυστικό της επιτυχίας;

Είμαι σίγουρος ότι πολλοί από εσάς έχετε ακούσει για την εταιρεία NVIDIA και οι περισσότεροι από εσάς το συνδέετε συγκεκριμένα με επεξεργαστές γραφικών, επειδή η φράση "NVIDIA GeForce» έχει ακουστεί σχεδόν από όλους.

NVIDIA

NVIDIA πρόσφατα έγραψε οικονομική ιστορία στον κλάδο της πληροφορικής. Είναι η πρώτη εταιρεία ολοκληρωμένων κυκλωμάτων της οποίας η χρηματιστηριακή αξία έχει ξεπεράσει το ένα τρισεκατομμύριο δολάρια. Είναι επίσης η πέμπτη εταιρεία που σχετίζεται με την τεχνολογία στην ιστορία που επιτυγχάνει τόσο μεγάλη (με κεφαλαιοποίηση) επιτυχία. Προηγουμένως, μόνο οι άνθρωποι μπορούσαν να καυχηθούν για μια τόσο υψηλή βαθμολογία Apple, Microsoft, Alphabet (ιδιοκτήτης της Google) και Amazon. Αυτός είναι ο λόγος που οι χρηματοδότες το αποκαλούσαν μερικές φορές «Club of Four», το οποίο τώρα έχει επεκταθεί NVIDIA.

Επιπλέον, όσον αφορά την κεφαλαιοποίηση της αγοράς, βρίσκεται πολύ πίσω από τις AMD, Intel, Qualcomm και άλλες εταιρείες τεχνολογίας. Αυτό δεν θα ήταν δυνατό χωρίς την οραματική πολιτική της εταιρείας, που εισήχθη πριν από μια δεκαετία.

Διαβάστε επίσης: Υπάρχει μέλλον για το TruthGPT του Elon Musk;

Απίστευτη ζήτηση για NVIDIA Πυρήνας τανυστή H100

Ποιο είναι το μυστικό μιας τέτοιας αύξησης της κεφαλαιοποίησης; Πρώτα από όλα, αυτή είναι η αντίδραση του χρηματιστηρίου στην επιτυχία του τσιπ NVIDIA H100 Tensor Core, το οποίο έχει μεγάλη ζήτηση μεταξύ των κορυφαίων παρόχων υποδομής cloud και διαδικτυακών υπηρεσιών. Αυτά τα τσιπ αγοράζονται από την Amazon, τη Meta και Microsoft (για τις δικές της ανάγκες και τις ανάγκες του συνεργάτη της - της εταιρείας OpenAI). Είναι ιδιαίτερα ενεργειακά αποδοτικοί στην επιτάχυνση των τυπικών υπολογισμών της γενετικής τεχνητής νοημοσύνης, όπως το ChatGPT ή το Dall-E. Αυτό είναι ένα απίστευτο άλμα τάξης μεγέθους για επιταχυνόμενους υπολογιστές. Λαμβάνουμε άνευ προηγουμένου απόδοση, επεκτασιμότητα και ασφάλεια για κάθε φόρτο εργασίας NVIDIA GPU H100 Tensor Core.

NVIDIA-H100-Tensor Core

Χρήση συστήματος μεταγωγής NVIDIA Το NVLink μπορεί να συνδεθεί με έως και 256 GPU H100 για να επιταχύνει τους φόρτους εργασίας σε κλίμακα exa. Η GPU περιλαμβάνει επίσης ένα αποκλειστικό Transformer Engine για την επίλυση μοντέλων γλώσσας με τρισεκατομμύρια παραμέτρους. Οι συνδυασμένες τεχνολογικές καινοτομίες του H100 μπορούν να επιταχύνουν τα μεγάλα γλωσσικά μοντέλα (LLM) κατά ένα απίστευτο 30 φορές σε σύγκριση με την προηγούμενη γενιά, παρέχοντας κορυφαία στον κλάδο τεχνητή νοημοσύνη συνομιλίας. Οι προγραμματιστές το θεωρούν σχεδόν ιδανικό για μηχανική εκμάθηση.

- Διαφήμιση -

Ωστόσο, το H100 δεν εμφανίστηκε από το πουθενά. Και, για να πούμε την αλήθεια, δεν είναι ιδιαίτερα επαναστατικό. NVIDIAΗ , όπως καμία άλλη εταιρεία, επενδύει τεράστιους πόρους στην τεχνητή νοημοσύνη εδώ και πολλά χρόνια. Ως αποτέλεσμα, μια εταιρεία που συνδέεται κυρίως με την επωνυμία της κάρτας γραφικών GeForce μπορεί να αντιμετωπίζει την καταναλωτική αγορά σχεδόν σαν χόμπι. Εξάλλου, αυτό δημιουργεί πραγματική δύναμη στην αγορά των κολοσσών της πληροφορικής NVIDIA μπορεί ήδη να τους μιλήσει ως ίσοι.

Επίσης ενδιαφέρον: Τι είναι τα δίκτυα 6G και γιατί χρειάζονται;

Είναι η τεχνητή νοημοσύνη το μέλλον;

Σήμερα, σχεδόν όλοι είναι πεπεισμένοι για αυτό, ακόμη και οι δύσπιστοι ειδικοί σε αυτόν τον τομέα. Τώρα είναι σχεδόν ένα αξίωμα, μια αληθοφάνεια. Αν και NViDIA το γνώριζε πριν από 20 χρόνια. Σας έκανα έκπληξη;

Τεχνικά, η πρώτη στενή επαφή NVIDIA με την τεχνητή νοημοσύνη συνέβη το 1999, όταν εμφανίστηκε στην αγορά ο επεξεργαστής GeForce 256, ικανός να επιταχύνει τους υπολογισμούς μηχανικής μάθησης. Ωστόσο NVIDIA άρχισε να επενδύει σοβαρά στην τεχνητή νοημοσύνη μόλις το 2006, όταν εισήγαγε την αρχιτεκτονική CUDA, η οποία επέτρεψε τη χρήση των δυνατοτήτων παράλληλης επεξεργασίας των επεξεργαστών γραφικών για εκπαίδευση και έρευνα.

NVIDIA-CUDA

Τι είναι το CUDA; Ορίζεται καλύτερα ως μια παράλληλη πλατφόρμα υπολογιστών και μια διεπαφή προγραμματισμού εφαρμογών (API) που επιτρέπει στο λογισμικό να χρησιμοποιεί μονάδες επεξεργασίας γραφικών γενικής χρήσης (GPGPU). Αυτή η προσέγγιση ονομάζεται υπολογισμός γενικού σκοπού σε GPU. Επιπλέον, το CUDA είναι ένα επίπεδο λογισμικού που παρέχει άμεση πρόσβαση στο εικονικό σύνολο εντολών και στα παράλληλα υπολογιστικά στοιχεία του επεξεργαστή γραφικών. Έχει σχεδιαστεί για να λειτουργεί με γλώσσες προγραμματισμού όπως C, C++ και Fortran.

Αυτή η προσβασιμότητα είναι που διευκολύνει τους παράλληλους προγραμματιστές να επωφεληθούν από πόρους GPU, σε αντίθεση με προηγούμενα API όπως το Direct3D και το OpenGL, που απαιτούσαν προηγμένες δεξιότητες προγραμματισμού γραφικών.

NVIDIA-CUDA

Σημαντική πρόοδος ήταν η παροχή από την εταιρεία NVIDIA υπολογιστική ισχύς για το πρωτοποριακό νευρωνικό δίκτυο AlexNet. Είναι ένα συνελικτικό νευρωνικό δίκτυο (CNN), που αναπτύχθηκε από τον Ουκρανό Alex Kryzhevskyi σε συνεργασία με τους Ilya Sutzkever και Jeffrey Ginton.

Τα Συνελικτικά Νευρωνικά Δίκτυα (CNN) ήταν πάντα το βασικό μοντέλο για την αναγνώριση αντικειμένων—είναι ισχυρά μοντέλα που είναι εύκολο να ελεγχθούν και ακόμη πιο εύκολα να εκπαιδεύονται. Δεν αντιμετωπίζουν υπερβολική προσαρμογή σε ανησυχητικό βαθμό όταν χρησιμοποιούνται σε εκατομμύρια εικόνες. Η απόδοσή τους είναι σχεδόν ίδια με τα τυπικά νευρωνικά δίκτυα τροφοδοσίας ίδιου μεγέθους. Το μόνο πρόβλημα είναι ότι είναι δύσκολο να εφαρμοστούν σε εικόνες υψηλής ανάλυσης. Η κλίμακα του ImageNet απαιτούσε καινοτομίες που θα βελτιστοποιούνταν για τις GPU και θα μείωναν τον χρόνο εκπαίδευσης βελτιώνοντας παράλληλα την απόδοση.

AlexNet

Στις 30 Σεπτεμβρίου 2012, η ​​AlexNet συμμετείχε στην Πρόκληση Visual Recognition Large Scale ImageNet. Το δίκτυο πέτυχε βαθμολογία 15,3% στη δοκιμή σφαλμάτων των πέντε κορυφαίων, πάνω από 10,8% χαμηλότερη από τη βαθμολογία της δεύτερης θέσης.

Το κύριο συμπέρασμα από την αρχική εργασία ήταν ότι η πολυπλοκότητα του μοντέλου οφειλόταν στην υψηλή του απόδοση, η οποία ήταν επίσης πολύ δαπανηρή υπολογιστικά, αλλά κατέστη δυνατή με τη χρήση μονάδων επεξεργασίας γραφικών (GPU) κατά τη διάρκεια της εκπαιδευτικής διαδικασίας.

Το ίδιο το συνελικτικό νευρωνικό δίκτυο AlexNet αποτελείται από οκτώ επίπεδα. Τα πρώτα πέντε είναι συνελικτικά στρώματα, μερικά από τα οποία προηγούνται από τα μέγιστα συζευγμένα στρώματα και τα τρία τελευταία είναι πλήρως συνδεδεμένα στρώματα. Το δίκτυο, εκτός από το τελευταίο επίπεδο, χωρίζεται σε δύο αντίγραφα, το καθένα από τα οποία εκτελείται σε μία μόνο GPU.

- Διαφήμιση -

Δηλαδή χάρη σε αυτό NVIDIA και ακόμα οι περισσότεροι ειδικοί και επιστήμονες πιστεύουν ότι το AlexNet είναι ένα απίστευτα ισχυρό μοντέλο ικανό να επιτύχει υψηλή ακρίβεια σε πολύ περίπλοκα σύνολα δεδομένων. Το AlexNet είναι η κορυφαία αρχιτεκτονική για κάθε εργασία ανίχνευσης αντικειμένων και μπορεί να έχει πολύ ευρείες εφαρμογές στον τομέα της όρασης υπολογιστών για προβλήματα τεχνητής νοημοσύνης. Στο μέλλον, το AlexNet ενδέχεται να χρησιμοποιηθεί περισσότερο από το CNN στον τομέα της απεικόνισης.

Επίσης ενδιαφέρον: Το φαινόμενο Bluesky: τι είδους υπηρεσία και είναι για μεγάλο χρονικό διάστημα;

Η τεχνητή νοημοσύνη δεν είναι μόνο σε εργαστήρια και κέντρα δεδομένων

В NVIDIA είδε μεγάλες προοπτικές για την τεχνητή νοημοσύνη και στις τεχνολογίες των καταναλωτικών συσκευών και του Διαδικτύου των πραγμάτων. Ενώ οι ανταγωνιστές μόλις αρχίζουν να εξετάζουν το ενδεχόμενο να επενδύσουν ευρύτερα σε ένα νέο τύπο ολοκληρωμένου κυκλώματος, NVIDIA εργάζεται ήδη για τη μικρογραφία τους. Το τσιπ Tegra K1, που αναπτύχθηκε σε συνεργασία με την Tesla και άλλες εταιρείες αυτοκινήτων, είναι πιθανώς ιδιαίτερα σημαντικό.

NVIDIA-Tegra-K1

Ο επεξεργαστής Tegra K1 είναι ένας από τους πρώτους επεξεργαστές NVIDIA, σχεδιασμένο ειδικά για εφαρμογές τεχνητής νοημοσύνης σε κινητές συσκευές και ενσωματωμένες συσκευές. Το Tegra K1 χρησιμοποιεί την ίδια αρχιτεκτονική GPU με τη σειρά καρτών γραφικών και συστημάτων NVIDIA GeForce, Quadro και Tesla, που παρέχει υψηλές επιδόσεις και συμβατότητα με πρότυπα γραφικών και υπολογιστών όπως OpenGL 4.4, DirectX 11.2, CUDA 6.5 και OpenCL 1.2. Χάρη σε αυτό, ο επεξεργαστής Tegra K1 μπορεί να υποστηρίξει προηγμένους αλγόριθμους τεχνητής νοημοσύνης, όπως βαθιά νευρωνικά δίκτυα, ενισχυτική μάθηση, αναγνώριση εικόνας και ομιλίας και ανάλυση δεδομένων. Το Tegra K1 έχει 192 πυρήνες CUDA.

Το 2016 NVIDIA κυκλοφόρησε μια σειρά από επεξεργαστές Pascal βελτιστοποιημένους για να υποστηρίζουν βαθιά νευρωνικά δίκτυα και άλλα μοντέλα τεχνητής νοημοσύνης. Μέσα σε ένα χρόνο εμφανίστηκαν στην αγορά μια σειρά επεξεργαστών Volta για εφαρμογές που σχετίζονται με την τεχνητή νοημοσύνη, οι οποίοι είναι ακόμη πιο αποδοτικοί και εξοικονομούν ενέργεια. Το 2019 NVIDIA αγοράζει την Mellanox Technologies, κατασκευαστή δικτύων υπολογιστών υψηλής απόδοσης για κέντρα δεδομένων και υπερυπολογιστές.

NVIDIA

Ως αποτέλεσμα, όλοι χρησιμοποιούν επεξεργαστές NVIDIA. Στην καταναλωτική αγορά, για παράδειγμα, οι παίκτες χρησιμοποιούν τον επαναστατικό αλγόριθμο ανακατασκευής εικόνας DLSS, ο οποίος τους επιτρέπει να απολαμβάνουν πιο ευκρινή γραφικά στα παιχνίδια χωρίς να ξοδεύουν πολλά χρήματα σε μια κάρτα γραφικών. Στην επιχειρηματική αγορά, αναγνωρίζεται ότι τα τσιπ NVIDIA με πολλούς τρόπους πέρα ​​από αυτό που προσφέρουν οι ανταγωνιστές. Αν και δεν είναι ότι η Intel και η AMD κοιμήθηκαν εντελώς την πνευματική επανάσταση.

Επίσης ενδιαφέρον: Τα καλύτερα εργαλεία βασισμένα στην τεχνητή νοημοσύνη

Intel και AMD στον τομέα της τεχνητής νοημοσύνης

Ας μιλήσουμε για άμεσους ανταγωνιστές NVIDIA σε αυτό το τμήμα της αγοράς. Η Intel και η AMD εργάζονται εδώ όλο και πιο ενεργά, αλλά με μεγάλη καθυστέρηση.

Η Intel έχει εξαγοράσει αρκετές εταιρείες τεχνητής νοημοσύνης όπως η Nervana Systems, η Movidius, η Mobileye και η Habana Labs για να ενισχύσει το χαρτοφυλάκιο τεχνολογιών και λύσεων τεχνητής νοημοσύνης. Η Intel προσφέρει επίσης πλατφόρμες υλικού και λογισμικού για τεχνητή νοημοσύνη, όπως επεξεργαστές Xeon, FPGA, τσιπ NNP και βιβλιοθήκες βελτιστοποίησης. Η Intel συνεργάζεται επίσης με εταίρους του δημόσιου και του ιδιωτικού τομέα για την προώθηση της καινοτομίας και της εκπαίδευσης στην τεχνητή νοημοσύνη.

Intel και AMD

Η AMD έχει αναπτύξει μια σειρά από επεξεργαστές Epyc και κάρτες γραφικών Radeon Instinct που είναι βελτιστοποιημένες για εφαρμογές τεχνητής νοημοσύνης και βαθιάς εκμάθησης. Η AMD συνεργάζεται επίσης με εταιρείες όπως η Google, Microsoft, IBM και Amazon, παρέχοντας λύσεις cloud για τεχνητή νοημοσύνη. Η AMD προσπαθεί επίσης να συμμετέχει στην έρευνα και ανάπτυξη της τεχνητής νοημοσύνης μέσω συνεργασιών με ακαδημαϊκά ιδρύματα και οργανισμούς του κλάδου. Είναι όλα πολύ καλά όμως NVIDIA ήδη πολύ μπροστά τους και η επιτυχία της στον τομέα της ανάπτυξης και υποστήριξης αλγορίθμων τεχνητής νοημοσύνης είναι ασύγκριτα μεγαλύτερη.

Επίσης ενδιαφέρον: Σύνοψη του Google I/O 2023: Android 14, Pixel και πολύ AI

NVIDIA έχει συνδεθεί με τα βιντεοπαιχνίδια εδώ και δεκαετίες

Ούτε αυτό πρέπει να ξεχαστεί. NVIDIA δεν παρέχει ακριβή κατανομή των εσόδων της μεταξύ της καταναλωτικής και επιχειρηματικής αγοράς, αλλά μπορούν να εκτιμηθούν με βάση τους λειτουργικούς τομείς που η εταιρεία γνωστοποιεί στις οικονομικές της καταστάσεις. NVIDIA χωρίζει τέσσερα λειτουργικά τμήματα: Gaming, Professional Visualization, Data Centers και Automotive.

NVIDIA

Μπορεί να υποτεθεί ότι το τμήμα παιχνιδιών επικεντρώνεται κυρίως στην καταναλωτική αγορά, καθώς περιλαμβάνει την πώληση καρτών βίντεο GeForce και τσιπ Tegra για κονσόλες παιχνιδιών. Το τμήμα επαγγελματικής οπτικοποίησης επικεντρώνεται κυρίως στην επιχειρηματική αγορά, καθώς περιλαμβάνει την πώληση καρτών βίντεο Quadro και τσιπ RTX για σταθμούς εργασίας και επαγγελματικές εφαρμογές. Το τμήμα των κέντρων δεδομένων επικεντρώνεται επίσης κυρίως στην επιχειρηματική αγορά, καθώς περιλαμβάνει την πώληση GPU και NPU (δηλαδή τσιπ επόμενης γενιάς - όχι πλέον GPU, αλλά σχεδιασμένα αποκλειστικά για AI) για διακομιστές και υπηρεσίες cloud. Το τμήμα της αυτοκινητοβιομηχανίας στοχεύει τόσο στην καταναλωτική όσο και στην επιχειρηματική αγορά, καθώς περιλαμβάνει πωλήσεις συστημάτων Tegra και Drive για infotainment και αυτόνομη οδήγηση.

NVIDIA

Με βάση αυτές τις παραδοχές, είναι δυνατό να εκτιμηθεί το μερίδιο των εσόδων από τις καταναλωτικές και επιχειρηματικές αγορές στα συνολικά έσοδα NVIDIA. Σύμφωνα με την τελευταία οικονομική έκθεση για το έτος 2022, τα έσοδα της εταιρείας NVIDIA ανά λειτουργικούς τομείς είχαν ως εξής:

  • Παιχνίδια: $12,9 δισεκατομμύρια
  • Επαγγελματική απεικόνιση: 1,3 δισεκατομμύρια δολάρια
  • Κέντρα δεδομένων: 9,7 δισεκατομμύρια δολάρια
  • Αυτοκίνητα: 0,8 δισεκατομμύρια δολάρια
  • Όλα τα άλλα τμήματα: 8,7 δισεκατομμύρια δολάρια

Συνολικό εισόδημα NVIDIA ανήλθαν σε 33,4 δισεκατομμύρια δολάρια. Αν υποθέσουμε ότι το τμήμα της αυτοκινητοβιομηχανίας κατανέμεται περίπου εξίσου μεταξύ της καταναλωτικής και της επιχειρηματικής αγοράς, μπορούν να υπολογιστούν οι ακόλουθες αναλογίες:

  • Έσοδα από την καταναλωτική αγορά: (12,9 + 0,4) / 33,4 = 0,4 (40%)
  • Έσοδα από την επιχειρηματική αγορά: (1,3 + 9,7 + 0,4 + 8,7) / 33,4 = 0,6 (60%)

Αυτό σημαίνει ότι περίπου το 40% του εισοδήματος NVIDIA προέρχεται από την καταναλωτική αγορά και περίπου το 60% από την επιχειρηματική αγορά. Δηλαδή, η κύρια κατεύθυνση είναι ο επιχειρηματικός τομέας. Αλλά και η βιομηχανία παιχνιδιών φέρνει αρκετά καλά έσοδα. Το πιο σημαντικό είναι ότι μεγαλώνουν κάθε χρόνο.

Επίσης ενδιαφέρον: Diary of a Grumpy Old Geek: Bing vs Google

Τι θα μας φέρει το μέλλον;

Είναι προφανές ότι NVIDIA υπάρχει ήδη σχέδιο συμμετοχής στην ανάπτυξη αλγορίθμων τεχνητής νοημοσύνης. Και είναι πολύ ευρύτερο και πολλά υποσχόμενο από οποιονδήποτε από τους άμεσους ανταγωνιστές του.

Μόνο τον τελευταίο μήνα NVIDIA ανακοίνωσε πολλές νέες επενδύσεις στην τεχνητή νοημοσύνη. Ένα από αυτά είναι ο μηχανισμός GET3D, ο οποίος είναι ικανός να δημιουργεί σύνθετα τρισδιάστατα μοντέλα διαφόρων αντικειμένων και χαρακτήρων που αντικατοπτρίζουν πιστά την πραγματικότητα. Το GET3D μπορεί να δημιουργήσει περίπου 20 αντικείμενα ανά δευτερόλεπτο χρησιμοποιώντας ένα μόνο τσιπ γραφικών.

Πρέπει επίσης να αναφερθεί ένα ακόμη ενδιαφέρον έργο. Σχετικά με το Israel-1 είναι ένας υπερυπολογιστής για προγράμματα τεχνητής νοημοσύνης, ο οποίος NVIDIA δημιουργείται σε συνεργασία με το Υπουργείο Επιστήμης και Τεχνολογίας του Ισραήλ και την εταιρεία Mellanox. Το μηχάνημα αναμένεται να έχει περισσότερα από 7 petaflops υπολογιστικής ισχύος και να χρησιμοποιεί περισσότερες από 1000 GPU NVIDIA Πυρήνας τανυστή A100. Το Israel-1 θα χρησιμοποιηθεί για έρευνα και ανάπτυξη σε τομείς όπως η ιατρική, η βιολογία, η χημεία, η φυσική και η ασφάλεια στον κυβερνοχώρο. Και αυτές είναι ήδη πολλά υποσχόμενες επενδύσεις κεφαλαίου, δεδομένων των μακροπρόθεσμων προοπτικών.

NVIDIA

Επίσης, υπάρχει ήδη ένα άλλο έργο - NVIDIA ΑΣΣΟΣ. Είναι μια νέα τεχνολογία που πρόκειται να φέρει επανάσταση στη βιομηχανία τυχερών παιχνιδιών επιτρέποντας στον παίκτη να αλληλεπιδρά με έναν χαρακτήρα που δεν είναι παίκτης (NPC) με φυσικό και ρεαλιστικό τρόπο. Αυτοί οι χαρακτήρες θα μπορούν να διεξάγουν έναν ανοιχτό διάλογο με τον παίκτη, να αντιδρούν στα συναισθήματα και τις χειρονομίες του, ακόμη και να εκφράσουν τα δικά τους συναισθήματα και σκέψεις. NVIDIA Το ACE χρησιμοποιεί προηγμένα μοντέλα γλώσσας και γεννήτριες εικόνων που βασίζονται σε AI.

Τα πρώτα τρισεκατομμύρια δολάρια NVIDIA. Φαίνεται ότι θα υπάρξουν περισσότερα σύντομα. Θα παρακολουθούμε σίγουρα την πρόοδο της εταιρείας και θα σας ενημερώσουμε.

Διαβάστε επίσης:

Yuri Svitlyk
Yuri Svitlyk
Γιος των Καρπαθίων, αγνώριστη ιδιοφυΐα των μαθηματικών, «δικηγόρος»Microsoft, πρακτικός αλτρουιστής, αριστερά-δεξιά
- Διαφήμιση -
Εγγραφείτε
Ειδοποίηση για
επισκέπτης

0 Σχόλια
Ενσωματωμένες κριτικές
Δείτε όλα τα σχόλια