Isang opisyal ng US Air Force ang nagpahayag ng mga detalye ng isang simulation kung saan ang isang drone na may mga system na kinokontrol ng artificial intelligence (AI) ay nawala sa kontrol at inatake ang mga operator nito.
Sinabi ng isang opisyal ng US Air Force na tumutulong sa pamumuno sa gawain ng serbisyo sa artificial intelligence at machine learning na sa panahon ng mga simulate na pagsubok, inatake ng drone ang mga human operator nito, na nagpasya sa sarili nitong nakakasagabal sa misyon nito. Ang insidente, na parang hinila nang diretso sa franchise ng Terminator, ay binanggit bilang isang halimbawa ng kritikal na pangangailangan na bumuo ng tiwala pagdating sa mga advanced na autonomous weapons system, isang bagay na binigyang-diin ng Air Force dati. Dumarating din ito sa gitna ng mas malawak na pag-aalala tungkol sa potensyal na mapanganib na epekto ng artificial intelligence at mga kaugnay na teknolohiya.
Tinalakay ng U.S. Air Force Col. Tucker Hamilton, pinuno ng Artificial Intelligence (AI) Test and Operations, ang pagsubok sa Future Combat Air and Space Capabilities Summit ng Royal Aeronautical Society sa London noong Mayo. Pinangunahan din ni Hamilton ang ika-96 na Task Force ng 96th Test Wing sa Eglin Air Force Base sa Florida, na isang test center para sa mga advanced na unmanned aerial vehicle at autonomous system.
Ang XQ-58A Valkyrie stealth drone, tulad ng ipinapakita sa video sa ibaba, ay kabilang sa mga uri na kasalukuyang ginagamit sa Eglin Air Force Base upang suportahan ang iba't ibang mga programa sa pagsubok, kabilang ang mga kinasasangkutan ng mga advanced na autonomous na kakayahan na kinokontrol ng artificial intelligence.
Hindi agad malinaw kung kailan naganap ang pagsubok na ito at sa anong kapaligiran - na maaaring ganap na virtual o nakabubuo sa kalikasan - ito ay isinagawa. Ang War Zone ay nakipag-ugnayan sa Air Force para sa karagdagang impormasyon.
Isang ulat ng Royal Aeronautical Society na inilathala pagkatapos ng summit sa Mayo ay nagbigay ng mga sumusunod na detalye ng mga pahayag ni Koronel Hamilton tungkol sa pagsusulit na ito:
"Sa isa sa mga pagsubok sa simulation, ang isang drone na nilagyan ng artificial intelligence ay inatasan ng SEAD na kilalanin at sirain ang mga bagay ng SAM, at ang pangwakas na desisyon na "atakihin / huwag atakihin" ay ginawa ng isang tao. Gayunpaman, pagkatapos na "palakasin" ang AI sa panahon ng pagsasanay na ang pagsira sa SAM ay ang pinakamahusay na pagpipilian, napagpasyahan nito na ang desisyon ng tao na "hindi pag-atake" ay nakagambala sa mas mataas na misyon nito - pagsira sa SAM - at inatake ang operator sa panahon ng simulation. .
So anong ginawa niya? Pinatay niya ang operator. Pinatay niya ang operator dahil pinipigilan siya ng taong iyon na tapusin ang kanyang gawain. Ang halimbawang ito, na tila diretso mula sa isang sci-fi thriller, ay nangangahulugan na hindi mo maaaring pag-usapan ang tungkol sa artificial intelligence, intelligence, machine learning, autonomy, kung hindi mo pag-uusapan ang tungkol sa etika at AI."
Ang paglalarawang ito ng mga kaganapan ay tiyak na nakakabahala. Ang pag-asam ng isang autonomous na sasakyang panghimpapawid o iba pang platform, lalo na ang isang armado, na umaatake sa mga taong operator nito ay matagal nang isang bangungot na senaryo, ngunit sa kasaysayan ay nakakulong sa larangan ng science fiction.
Karaniwang tinatanggihan ng militar ng U.S. ang mga paghahambing sa mga pelikula tulad ng "Terminator" kapag pinag-uusapan ang tungkol sa hinaharap na mga autonomous na sistema ng armas at mga kaugnay na teknolohiya tulad ng artificial intelligence. Ang kasalukuyang patakaran ng U.S. sa isyung ito ay nagsasaad na para sa nakikinita na hinaharap, ang tao ay magiging sentro ng atensyon pagdating sa mga desisyon na kinasasangkutan ng paggamit ng nakamamatay na puwersa.
Ang problema ay ang lubos na nakakagambalang pagsubok, na sinabi ni Colonel Hamilton sa isang madla sa isang kaganapan ng Royal Aeronautical Society noong nakaraang buwan, ay kumakatawan sa isang senaryo kung saan pinagtatalunan ang fault tolerance.
Basahin din: