Danas ćemo pokušati da shvatimo šta su neuronske mreže, kako rade i koja je njihova uloga u stvaranju veštačke inteligencije.
Neuronske mreže. Ovu frazu čujemo skoro svuda. Dolazi do toga da ćete neuronske mreže pronaći čak i u frižiderima (ovo nije šala). Neuronske mreže naširoko koriste algoritmi mašinskog učenja, koji se danas mogu naći ne samo u računarima i pametnim telefonima, već i u mnogim drugim elektronskim uređajima, na primjer, u kućanskim aparatima. I jeste li se ikada zapitali koje su to neuronske mreže?
Ne brinite, ovo neće biti akademsko predavanje. Postoji mnogo publikacija, uključujući i na ukrajinskom jeziku, koje vrlo profesionalno i pouzdano objašnjavaju ovo pitanje u oblasti egzaktnih nauka. Takve publikacije stare su više od desetak godina. Kako je moguće da su ove stare publikacije još uvijek relevantne? Činjenica je da se osnove neuronskih mreža nisu promijenile, a sam koncept — matematički model umjetnog neurona — nastao je tokom Drugog svjetskog rata.
Isto je i sa internetom, današnji internet je neuporedivo napredniji nego kada je poslat prvi email. Temelji Interneta, temeljni protokoli, postojali su od samog početka njegovog nastanka. Svaki složeni koncept izgrađen je na temeljima starih struktura. Isto je i s našim mozgom, najmlađi moždani korteks ne može funkcionirati bez najstarijeg evolucijskog elementa: moždanog stabla, koje je u našim glavama još od vremena daleko starijeg od postojanja naše vrste na ovoj planeti.
Jesam li te malo zbunio? Dakle, hajde da razumemo detaljnije.
Također zanimljivo: ChatGPT: Jednostavna uputstva za upotrebu
Šta su neuronske mreže?
Mreža je skup određenih elemenata. Ovo je najjednostavniji pristup u matematici, fizici ili tehnologiji. Ako je računarska mreža skup međusobno povezanih računara, onda je neuronska mreža očigledno skup neurona.
Međutim, ovi elementi nisu ni izdaleka uporedivi po složenosti sa nervnim ćelijama našeg mozga i nervnog sistema, ali na određenom nivou apstrakcije, neke karakteristike veštačkog neurona i biološkog neurona su uobičajene. No, potrebno je zapamtiti da je umjetni neuron mnogo jednostavniji koncept od njegovog biološkog dvojnika, o kojem još uvijek ne znamo sve.
Pročitajte također: 7 najboljih upotreba ChatGPT-a
Prvo je postojao veštački neuron
Prvi matematički model vještačkog neurona razvila su 1943. godine (da, to nije greška, tokom Drugog svjetskog rata) dvojica američkih naučnika, Warren McCulloch i Walter Pitts. To im je pošlo za rukom na osnovu interdisciplinarnog pristupa, kombinujući osnovna znanja fiziologije mozga (sjetite se vremena kada je ovaj model nastao), matematike i tada mladog IT pristupa (koristili su, između ostalog, teoriju izračunljivosti Alana Turinga ). McCulloch-Pittsov model umjetnog neurona je vrlo jednostavan model, ima mnogo ulaza, gdje ulazna informacija prolazi kroz težine (parametre), čije vrijednosti određuju ponašanje neurona. Rezultirajući rezultat se šalje na jedan izlaz (vidi dijagram McCulloch-Pitts neurona).
Takva struktura nalik stablu povezuje se s biološkim neuronom, jer kada pomislimo na crteže koji prikazuju biološke nervne stanice, na pamet nam pada karakteristična struktura nalik stablu dendrita. Međutim, ne treba podleći iluziji da je umjetni neuron barem donekle blizak pravoj nervnoj ćeliji. Ova dva istraživača, autori prvog veštačkog neurona, uspeli su da pokažu da se bilo koja izračunljiva funkcija može izračunati korišćenjem mreže međusobno povezanih neurona. Međutim, prisjetimo se da su ovi prvi koncepti nastali samo kao ideje koje su postojale samo „na papiru“ i nisu imale pravo tumačenje u vidu operativne opreme.
Pročitajte također: O kvantnim kompjuterima jednostavnim riječima
Od modela do inovativnih implementacija
McCulloch i Pitts razvili su teorijski model, ali je stvaranje prve prave neuronske mreže moralo čekati više od deset godina. Njegov tvorac se smatra još jednim pionirom istraživanja umjetne inteligencije, Frankom Rosenblatom, koji je 1957. godine stvorio mrežu Mark I Perceptron, a vi ste sami pokazali da je zahvaljujući ovoj strukturi mašina stekla sposobnost koja je ranije bila svojstvena samo životinjama i ljudima: može naučiti. Međutim, sada znamo da su, u stvari, postojali i drugi naučnici koji su došli na ideju da mašina može da uči, uključujući i pre Rosenblata.
Mnogi istraživači i pioniri informatičke nauke 1950-ih došli su na ideju kako natjerati mašinu da radi ono što ne može sama. Na primjer, Arthur Samuel je razvio program koji je igrao dame sa čovjekom, Allen Newell i Herbert Simon su kreirali program koji može samostalno dokazati matematičke teoreme. Čak i prije stvaranja prve Rosenblattove neuronske mreže, dva druga pionira istraživanja u oblasti umjetne inteligencije, Marvin Minsky i Dean Edmonds, 1952. godine, odnosno čak prije pojave Rosenblattovog perceptrona, izgradili su mašinu pod nazivom SNARC (Stochastic Neural Analog Reinforcement Calculator) - ojačanje stohastičkog neuronskog analognog kalkulatora, koje mnogi smatraju prvim računarom stohastičke neuronske mreže. Treba napomenuti da SNARC nije imao nikakve veze sa modernim računarima.
Moćna mašina, koristeći više od 3000 elektronskih cevi i rezervni mehanizam autopilota iz bombardera B-24, uspela je da simulira rad 40 neurona, što se pokazalo dovoljnim da matematički simulira potragu štakora za izlazom iz lavirinta. . Pacova, naravno, nije bilo, to je bio samo proces dedukcije i pronalaženja optimalnog rješenja. Ovaj automobil je bio dio doktorata Marvina Minskyja.
Još jedan zanimljiv projekat u oblasti neuronskih mreža bila je mreža ADALINE koju je 1960. razvio Bernard Withrow. Stoga se može postaviti pitanje: budući da su prije više od pola stoljeća istraživači poznavali teorijske osnove neuronskih mreža i čak kreirali prve radne implementacije takvih računskih okvira, zašto je trebalo toliko vremena, do 21. stoljeća, da se kreirati prava rješenja zasnovana na neuronskim mrežama? Odgovor je jedan: nedovoljna računarska snaga, ali to nije bila jedina prepreka.
Iako su 1950-ih i 1960-ih mnogi pioniri umjetne inteligencije bili fascinirani mogućnostima neuronskih mreža, a neki od njih predviđali su da je strojni ekvivalent ljudskom mozgu udaljen samo deset godina. Danas je ovo čak i smiješno čitati, jer još uvijek nismo ni blizu stvaranja strojnog ekvivalenta ljudskom mozgu, a još smo daleko od rješavanja ovog zadatka. Brzo je postalo jasno da je logika prvih neuronskih mreža bila i fascinantna i ograničena. Prve implementacije AI pomoću umjetnih neurona i algoritama strojnog učenja mogle su riješiti određeni uski raspon zadataka.
Međutim, kada je riječ o širim prostorima i rješavanju nečeg zaista ozbiljnog, kao što je prepoznavanje uzoraka i slika, simultano prevođenje, prepoznavanje govora i rukopisa itd., odnosno stvari koje kompjuteri i AI već danas mogu, pokazalo se da prve implementacije neuronskih mreža jednostavno nisu mogle to učiniti. Zašto je to tako? Odgovor je dalo istraživanje Marvina Minskyja (da, istog iz SNARC-a) i Seymoura Papert-a, koji je 1969. dokazao ograničenja perceptronske logike i pokazao da povećanje mogućnosti jednostavnih neuronskih mreža isključivo zbog skaliranja ne funkcionira. Postojala je još jedna, ali vrlo važna barijera – računarska snaga dostupna u to vrijeme bila je premala da bi se neuronske mreže mogle koristiti kako je predviđeno.
Također zanimljivo:
- Dakle, govoriti ili ne govoriti? Musk negira da je razgovarao sa Putinom. Ali postoji "ali"
- Moderna artiljerija je super oružje Ukrajine. A zašto je Elon Musk ovdje?
Renesansa neuronskih mreža
U 1970-im i 1980-im, neuronske mreže su bile praktički zaboravljene. Tek krajem prošlog veka raspoloživa računarska moć je postala toliko velika da su joj se ljudi počeli vraćati i razvijati svoje sposobnosti u ovoj oblasti. Tada su se pojavile nove funkcije i algoritmi, sposobni da prevaziđu ograničenja prvih najjednostavnijih neuronskih mreža. Tada se pojavila ideja o dubokom mašinskom učenju višeslojnih neuronskih mreža. Šta se zapravo dešava sa ovim slojevima? Danas su gotovo sve korisne neuronske mreže koje djeluju u našem okruženju višeslojne. Imamo ulazni sloj čiji je zadatak da prima ulazne podatke i parametre (težine). Broj ovih parametara varira u zavisnosti od složenosti računskog problema koji će mreža riješiti.
Osim toga, imamo takozvane "skrivene slojeve" - ovdje se događa sva "magija" povezana s dubokim mašinskim učenjem. Upravo su skriveni slojevi odgovorni za sposobnost ove neuronske mreže da uči i izvodi potrebne proračune. Konačno, posljednji element je izlazni sloj, odnosno sloj neuronske mreže koji daje željeni rezultat, u ovom slučaju: prepoznati rukopis, lice, glas, formirana slika na osnovu tekstualnog opisa, rezultat tomografske analize dijagnostička slika i još mnogo toga.
Pročitajte također: Testirao sam i intervjuisao Bingovog chat bota
Kako neuronske mreže uče?
Kao što već znamo, pojedini neuroni u neuronskim mrežama obrađuju informacije uz pomoć parametara (težina), kojima se dodjeljuju pojedinačne vrijednosti i veze. Ove težine se mijenjaju tokom procesa učenja, što vam omogućava da prilagodite strukturu ove mreže na takav način da generiše željeni rezultat. Kako tačno mreža uči? Očigledno je da se mora stalno trenirati. Nemojte se iznenaditi ovom izrekom. I mi učimo, a taj proces nije haotičan, već uredan, da kažemo. Mi to zovemo obrazovanjem. U svakom slučaju, neuronske mreže se također mogu obučiti, a to se obično radi pomoću odgovarajuće odabranog skupa ulaza, koji na neki način pripremaju mrežu za zadatke koje će obavljati u budućnosti. I sve se to ponavlja korak po korak, ponekad proces učenja u određenoj mjeri liči na sam proces obuke.
Na primjer, ako je zadatak ove neuronske mreže da prepozna lica, ona je unaprijed obučena na velikom broju slika koje sadrže lica. U procesu učenja, težine i parametri skrivenih slojeva se mijenjaju. Stručnjaci ovdje koriste izraz "minimiziranje funkcije troškova". Funkcija troškova je količina koja nam govori koliko data neuronska mreža pravi greške. Što više možemo minimizirati funkciju troškova kao rezultat obuke, to će ova neuronska mreža bolje raditi u stvarnom svijetu. Najvažnija karakteristika koja razlikuje bilo koju neuronsku mrežu od zadatka programiranog pomoću klasičnog algoritma je da, u slučaju klasičnih algoritama, programer mora korak po korak dizajnirati koje će akcije program izvršiti. U slučaju neuronskih mreža, sama mreža je sposobna naučiti da samostalno izvršava zadatke ispravno. I niko ne zna tačno kako složena neuronska mreža izvodi svoje proračune.
Danas se neuronske mreže široko koriste i, što je možda iznenađujuće, vrlo često bez razumijevanja kako računski proces u datoj mreži zapravo funkcionira. Nema potrebe za ovim. Programeri koriste gotove mašinski naučene neuronske mreže koje su pripremljene za ulazne podatke određenog tipa, obrađuju ih na samo njima poznat način i proizvode željeni rezultat. Programer ne mora znati kako proces zaključivanja funkcionira unutar neuronske mreže. Odnosno, osoba ostaje podalje od velikog obima proračuna, metode dobivanja informacija i njihove obrade neuronskim mrežama. Otkud određeni strahovi čovječanstva u pogledu modela umjetne inteligencije. Jednostavno se bojimo da će neuronska mreža jednog dana sebi postaviti određeni zadatak i samostalno, bez pomoći osobe, pronaći načine da ga riješi. To zabrinjava čovječanstvo, izaziva strah i nepovjerenje u korištenje algoritama mašinskog učenja.
Ovaj utilitaristički pristup danas je uobičajen. Tako je i kod nas: znamo kako nekoga osposobiti za određenu aktivnost, a znamo da će proces obuke biti efikasan ako se radi kako treba. Osoba će steći željene vještine. Ali razumijemo li tačno kako se proces dedukcije odvija u njegovom mozgu, što je izazvalo ovaj efekat? Nemamo pojma.
Zadatak naučnika je da ove probleme prouče što je više moguće, kako bi nam poslužili i pomogli tamo gdje je to potrebno, i, što je najvažnije, ne bi postali prijetnja. Kao ljudi, plašimo se onoga što ne znamo.
Također zanimljivo: