Bivši šef Googlea uporedio je umjetnu inteligenciju s nuklearnim oružjem

Bivši izvršni direktor Googlea Eric Schmidt uporedio je umjetnu inteligenciju (AI) s nuklearnim oružjem i pozvao na režim odvraćanja, sličan obostranom osiguranom uništenju, koji sprječava najmoćnije svjetske nacije od međusobnog uništavanja.

Šmit je govorio o opasnostima veštačke inteligencije na Aspen bezbednosnom forumu 22. jula tokom diskusije o nacionalnoj bezbednosti i veštačkoj inteligenciji. Na pitanje o vrijednosti morala u tehnologiji, Schmidt je objasnio da je i sam bio naivan po pitanju moći informacija u ranim danima Gugla. Zatim je pozvao da tehnologija bolje odgovara etici i moralu ljudi kojima služe, te je napravio čudno poređenje između umjetne inteligencije i nuklearnog oružja.

"Nismo spremni za pregovore koji su nam potrebni." – @ericschmidt #AspenSecurity slikatwitter.com/As749t6ZyU

— Aspen Security Forum (@AspenSecurity) Juli 22, 2022

Schmidt je govorio o bliskoj budućnosti, u kojoj Kina i Sjedinjene Države trebaju zaključiti sporazum o umjetnoj inteligenciji. "50-ih i 60-ih godina na kraju smo stvorili svijet u kojem je postojalo pravilo 'bez iznenađenja' za nuklearna testiranja, i kao rezultat toga, ona su bila zabranjena", rekao je Schmidt. “Ovo je primjer ravnoteže povjerenja ili nedostatka povjerenja, ovo je pravilo 'bez iznenađenja'. Veoma sam zabrinut da će američki pogled na Kinu kao na korumpiranu ili komunističku ili bilo šta drugo, i na kinesko viđenje Amerike kao gubitnika... dozvoliti ljudima da kažu, "O moj Bože, oni nešto spremaju", a onda počeće nešto neshvatljivo...

AI i mašinsko učenje su fascinantna i često pogrešno shvaćena tehnologija. On u suštini nije tako pametan kako ljudi misle. Može kreirati umjetnička djela na nivou remek-djela, pobijediti ljude u Starcraft II i obavljati rudimentarne telefonske pozive za korisnike. Međutim, pokušaji da se natjera da obavlja teže zadatke, poput vožnje automobila u velikom gradu, nisu bili uspješni.

Schmidt govori o zamišljenoj bliskoj budućnosti u kojoj će i Kina i SAD biti zabrinute za sigurnosna pitanja, što će ih natjerati da uđu u neku vrstu sporazuma o suzbijanju AI. Prisjetio se 1950-ih i 60-ih, kada je diplomatija razvila niz kontrola oko najsmrtonosnijeg oružja na planeti. Ali bilo je potrebno desetljeće nuklearnih eksplozija i, što je najvažnije, uništenja Hirošime i Nagasakija, da dođe do mira prije zaključenja Ugovora o zabrani nuklearnih proba, SALT II i drugih značajnih zakona.

Dva japanska grada koje je Amerika uništila na kraju Drugog svjetskog rata odnijela su živote desetina hiljada ljudi i dokazala svijetu vječni užas nuklearnog oružja. Tada su vlade Rusije i Kine požurile da nabave oružje. Način na koji živimo s mogućnošću da će se ovo oružje koristiti je ono što je poznato kao uzajamno osigurano uništenje (MAD), teorija odvraćanja koja osigurava da ako jedna zemlja lansira nuklearno oružje, moguće je da će to učiniti bilo koja druga država. Ne koristimo najrazornije oružje na planeti zbog mogućnosti da uništi barem civilizaciju širom svijeta.

Uprkos Schmidtovim šarenim komentarima, ne želimo niti trebamo MAD za AI. Prvo, AI još nije dokazala svoju razornu moć u poređenju s nuklearnim oružjem. Ali ljudi na vlasti se plaše ove nove tehnologije, i to obično iz pogrešnih razloga. Ljudi su čak predlagali da se kontrola nad nuklearnim oružjem prepusti vještačkoj inteligenciji, vjerujući da bi ona bila bolji arbitar za njegovu upotrebu od čovjeka.

Problem s umjetnom inteligencijom nije u tome što ona ima potencijalno razornu moć nuklearnog oružja. Poenta je da je umjetna inteligencija dobra onoliko koliko su dobri ljudi koji su je razvili i da nosi vrijednosti svojih kreatora. AI pati od klasičnog problema "smeće unutra, smeće van": rasistički algoritmi stvaraju rasističke robote, a sva AI nosi predrasude svojih kreatora.

Čini se da Demis Hassabis, izvršni direktor DeepMinda, kompanije koja je obučavala AI koji pobjeđuje igrače Starcraft II, to bolje razumije od Schmidta. U julskom intervjuu na podcastu Lexa Friedmana, Friedman je pitao Hassabisa kako se moćna tehnologija poput AI može kontrolisati i kako sam Hassabis može izbjeći da ga ta moć pokvari.

Khasabisov odgovor se odnosi na njega samog. "Vještačka inteligencija je prevelika ideja", rekao je. „Važno je ko stvara veštačku inteligenciju, iz koje kulture dolazi i koje su njihove vrednosti. AI sistemi će učiti sami... ali sistem će ostati utisnut kulturom i vrijednostima autora sistema."

Umjetna inteligencija je odraz njenog autora. Ne može sravniti grad sa zemljom sa eksplozijom od 1,2 megatona. Osim ako ga neko ne nauči ovome.

Možete pomoći Ukrajini u borbi protiv ruskih osvajača. Najbolji način da to učinite je da donirate sredstva Oružanim snagama Ukrajine putem Savelife ili preko službene stranice NBU.

Pročitajte također:

• Nova aplikacija Samsung koristi AI za poboljšanje vaših fotografija
• Umjetna inteligencija pomaže u identifikaciji astronomskih objekata