Nekdanji šef Googla je umetno inteligenco primerjal z jedrskim orožjem

Nekdanji izvršni direktor Googla Eric Schmidt je umetno inteligenco (AI) primerjal z jedrskim orožjem in pozval k režimu odvračanja, podobnemu medsebojnemu zagotovljenemu uničenju, ki preprečuje najmočnejšim državam sveta, da se med seboj uničijo.

Schmidt je 22. julija med razpravo o nacionalni varnosti in AI spregovoril o nevarnostih umetne inteligence na varnostnem forumu v Aspenu. Na vprašanje o vrednosti morale v tehnologiji je Schmidt pojasnil, da je bil sam naiven glede moči informacij v zgodnjih dneh Googla. Nato je pozval, naj se tehnologija bolje ujema z etiko in moralo ljudi, ki jim služi, in potegnil čudno primerjavo med umetno inteligenco in jedrskim orožjem.

"Nismo pripravljeni na pogajanja, ki jih potrebujemo." – @ericschmidt #AspenSecurity slikatwitter.com/As749t6ZyU

— Aspenov varnostni forum (@AspenSecurity) Julij 22, 2022

Schmidt je govoril o bližnji prihodnosti, v kateri morata Kitajska in ZDA skleniti sporazum o umetni inteligenci. "V 50. in 60. letih prejšnjega stoletja smo na koncu ustvarili svet, kjer je za jedrske poskuse veljalo pravilo 'brez presenečenj', posledično pa so bili prepovedani," je dejal Schmidt. »To je primer ravnovesja zaupanja ali nezaupanja, to je pravilo 'brez presenečenj'. Zelo me skrbi, da bo pogled ZDA na Kitajsko kot na skorumpirano ali komunistično ali karkoli drugega, in pogled Kitajske na Ameriko kot na poraženko... omogočil ljudem, da rečejo: "O moj bog, nekaj naklepajo," in potem začelo se bo nekaj nerazumljivega... .

AI in strojno učenje sta fascinantna in pogosto napačno razumljena tehnologija. V bistvu ni tako pameten, kot si ljudje mislijo. Ustvari lahko umetniško delo na ravni mojstrovine, premaga ljudi v igri Starcraft II in opravi osnovne telefonske klice za uporabnike. Vendar poskusi, da bi ga prisilili k opravljanju težjih nalog, kot je vožnja avtomobila v velikem mestu, niso bili uspešni.

Schmidt govori o namišljeni bližnji prihodnosti, v kateri bosta Kitajska in ZDA zaskrbljeni zaradi varnostnih vprašanj, kar ju bo prisililo, da skleneta nekakšno pogodbo za zajezitev umetne inteligence. Spomnil je na petdeseta in šestdeseta leta prejšnjega stoletja, ko je diplomacija razvila vrsto nadzora nad najbolj smrtonosnim orožjem na planetu. Vendar je bilo potrebno desetletje jedrskih eksplozij in, kar je najpomembnejše, uničenje Hirošime in Nagasakija, da je mir prišel pred sklenitvijo Pogodbe o prepovedi jedrskih poskusov, SALT II in druge pomembne zakonodaje.

Dve japonski mesti, ki ju je ob koncu druge svetovne vojne uničila Amerika, sta vzeli življenja več deset tisoč ljudi in svetu dokazali večno grozo jedrskega orožja. Nato sta vladi Rusije in Kitajske pohiteli z nabavo orožja. Način, kako živimo z možnostjo, da bo to orožje uporabljeno, je tisto, kar je znano kot vzajemno zagotovljeno uničenje (MAD), teorija odvračanja, ki zagotavlja, da če ena država izstreli jedrsko orožje, je možno, da bo katera koli druga država. Najbolj uničujočega orožja na planetu ne uporabljamo zaradi možnosti, da bo uničilo vsaj civilizacijo po svetu.

Kljub Schmidtovim barvitim komentarjem ne želimo ali potrebujemo MAD za AI. Prvič, umetna inteligenca še ni dokazala svoje uničujoče moči v primerjavi z jedrskim orožjem. Toda ljudje na oblasti se te nove tehnologije bojijo in običajno iz napačnih razlogov. Ljudje so celo predlagali, da bi nadzor nad jedrskim orožjem predali umetni inteligenci, saj menijo, da bi bila ta boljši razsodnik njegove uporabe kot človek.

Težava z umetno inteligenco ni v tem, da ima potencialno uničujočo moč jedrskega orožja. Gre za to, da je umetna inteligenca dobra le toliko, kolikor so dobri ljudje, ki so jo razvili, in da nosi vrednote svojih ustvarjalcev. Umetna inteligenca trpi za klasičnim problemom "smeti noter, smeti ven": rasistični algoritmi ustvarjajo rasistične robote in vsa umetna inteligenca nosi pristranskost svojih ustvarjalcev.

Zdi se, da Demis Hassabis, izvršni direktor DeepMind, podjetja, ki je usposobilo AI, ki premaga igralce Starcraft II, to razume bolje kot Schmidt. V julijskem intervjuju o podcastu Lexa Friedmana je Friedman vprašal Hassabis, kako je mogoče nadzorovati tako močno tehnologijo, kot je AI, in kako se lahko Hassabis sam izogne ​​temu, da bi ga ta moč pokvarila.

Khasabisov odgovor je o njem samem. "Umetna inteligenca je prevelika ideja," je dejal. »Pomembno je, kdo ustvarja AI, iz katere kulture prihaja in kakšne so njihove vrednote. Sistemi umetne inteligence se bodo učili sami ... vendar bo sistem ostal vtisnjen s kulturo in vrednotami avtorjev sistema."

Umetna inteligenca je odraz njenega avtorja. Ne more zravnati mesta z zemljo z eksplozijo 1,2 megatona. Razen če ga človek tega nauči.

Lahko pomagate Ukrajini v boju proti ruskim okupatorjem. Najboljši način za to je donacija sredstev oboroženim silam Ukrajine prek Savelife ali preko uradne strani NBU.

Preberite tudi:

• Nova aplikacija Samsung uporablja AI za izboljšanje vaših fotografij
• Umetna inteligenca pomaga pri prepoznavanju astronomskih objektov