Časnik američkih zračnih snaga otkrio je detalje simulacije u kojoj je dron sa sustavima kojima upravlja umjetna inteligencija (AI) oteo kontroli i napao svoje operatere.
Časnik američkih zračnih snaga koji pomaže u vođenju rada službe na umjetnoj inteligenciji i strojnom učenju kaže da je tijekom simuliranih testova dron napao svoje ljudske operatere, sam odlučivši da ometaju njegovu misiju. Incident, koji zvuči kao da je izvučen ravno iz franšize Terminatora, naveden je kao primjer kritične potrebe za izgradnjom povjerenja kada su u pitanju napredni autonomni sustavi naoružanja, nešto što su Zračne snage ranije naglašavale. Također dolazi usred šireg talasa zabrinutosti o potencijalno opasnom utjecaju umjetne inteligencije i povezanih tehnologija.
Pukovnik američkog ratnog zrakoplovstva Tucker Hamilton, načelnik Odjela za testiranje i operacije umjetne inteligencije (AI), raspravljao je o testu na Summitu budućih borbenih zračnih i svemirskih sposobnosti Kraljevskog zrakoplovnog društva u Londonu u svibnju. Hamilton također vodi 96. radnu skupinu 96th Test Wing-a u Eglin Air Force Base na Floridi, koja je ispitni centar za napredne bespilotne letjelice i autonomne sustave.
Stealth bespilotne letjelice XQ-58A Valkyrie, poput one prikazane u videu u nastavku, među tipovima su koji se trenutno koriste u zračnoj bazi Eglin za podršku raznim testnim programima, uključujući one koji uključuju napredne autonomne sposobnosti kojima upravlja umjetna inteligencija.
Nije odmah bilo jasno kada je ovaj test održan i u kakvom je okruženju - koje bi moglo biti potpuno virtualno ili konstruktivno - provedeno. Ratna zona obratila se zračnim snagama za više informacija.
Izvješće Kraljevskog aeronautičkog društva objavljeno nakon svibanjskog samita dalo je sljedeće pojedinosti o primjedbama pukovnika Hamiltona o ovom testu:
“U jednom od simulacijskih testova, bespilotna letjelica opremljena umjetnom inteligencijom dobila je zadatak od strane SEAD-a identificirati i uništiti SAM objekte, a konačnu odluku “napasti/ne napasti” donio je čovjek. Međutim, nakon što je umjetna inteligencija tijekom obuke "pojačana" da je uništavanje SAM-a najbolja opcija, odlučila je da ljudska odluka da "ne napada" ometa njegovu višu misiju - uništavanje SAM-a - i napala je operatera tijekom simulacije .
Pa što je učinio? Ubio je operaterku. Ubio je operatera jer ga je ta osoba sprječavala da izvrši svoj zadatak. Ovaj primjer, naizgled ravno iz znanstveno-fantastičnog trilera, znači da ne možete govoriti o umjetnoj inteligenciji, inteligenciji, strojnom učenju, autonomiji, ako nećete govoriti o etici i AI."
Ovakav opis događaja svakako je uznemirujući. Mogućnost da autonomna letjelica ili druga platforma, posebno naoružana, napada svoje ljudske operatere dugo je bila scenarij iz noćne more, ali je povijesno bila ograničena na područje znanstvene fantastike.
Američka vojska obično odbija usporedbe s filmovima poput "Terminatora" kada govori o budućim autonomnim sustavima naoružanja i povezanim tehnologijama poput umjetne inteligencije. Trenutna američka politika o ovom pitanju kaže da će u doglednoj budućnosti osoba biti u središtu pozornosti kada se radi o odlukama koje uključuju upotrebu smrtonosne sile.
Problem je u tome što vrlo uznemirujući test, koji je pukovnik Hamilton ispričao publici na događaju Royal Aeronautical Society prošlog mjeseca, predstavlja scenarij u kojem je tolerancija na pogreške sporna.
Pročitajte također: