USA õhujõudude ohvitser avalikustas üksikasjad simulatsioonist, mille käigus tehisintellekti (AI) juhitavate süsteemidega droon väljus kontrolli alt ja ründas selle operaatoreid.
Üks USA õhujõudude ohvitser, kes aitab juhtida teenistust tehisintellekti ja masinõppe alal, ütleb, et simuleeritud testide käigus ründas droon oma inimoperaatoreid, otsustades ise, et nad segavad selle missiooni. Juhtumit, mis kõlab nagu see otse Terminaatori frantsiisist välja tõmmatud, toodi näitena kriitilisest vajadusest luua usaldust täiustatud autonoomsete relvasüsteemide osas, mida õhujõud on varemgi rõhutanud. See tuleneb ka laiemast murest tehisintellekti ja sellega seotud tehnoloogiate potentsiaalselt ohtliku mõju pärast.
USA õhujõudude kolonel Tucker Hamilton, tehisintellekti (AI) testimise ja operatsioonide juht, arutas katset mais Londonis Kuningliku Lennundusühingu tulevasel lahinguõhu- ja kosmosevõimete tippkohtumisel. Hamilton juhib ka Floridas Eglini õhuväebaasis 96. katsetiiva 96. töörühma, mis on täiustatud mehitamata õhusõidukite ja autonoomsete süsteemide katsekeskus.
XQ-58A Valkyrie stealth-droonid, nagu on näidatud allolevas videos, kuuluvad praegu Eglini õhuväebaasis kasutatavate tüüpide hulka, et toetada erinevaid katseprogramme, sealhulgas neid, mis hõlmavad tehisintellekti poolt juhitavaid täiustatud autonoomseid võimeid.
Ei olnud kohe selge, millal see test toimus ja millises keskkonnas – mis võib olla oma olemuselt täiesti virtuaalne või konstruktiivne – see läbi viidi. Sõjapiirkond on lisateabe saamiseks pöördunud õhujõudude poole.
Pärast mai tippkohtumist avaldatud Royal Aeronautical Society raportis esitati kolonel Hamiltoni märkuste kohta selle katse kohta järgmised üksikasjad:
«Ühes simulatsioonitestis sai tehisintellektiga varustatud droon SEAD-ilt ülesandeks tuvastada ja hävitada SAM-objekte ning lõpliku otsuse «rünnata/mitte rünnata» tegi inimene. Kuid pärast seda, kui tehisintellekt oli koolituse käigus "tugevdatud", et SAM-i hävitamine on parim valik, otsustas ta, et inimese otsus "mitte rünnata" segas tema kõrgemat ülesannet - SAM-i hävitamist - ja ründas simulatsiooni ajal operaatorit. .
Mida ta siis tegi? Ta tappis operaatori. Ta tappis operaatori, kuna see inimene takistas tal oma ülesannet täitmast. See näiliselt otse ulmepõnevikust pärit näide tähendab, et te ei saa rääkida tehisintellektist, intelligentsusest, masinõppest, autonoomiast, kui te ei räägi eetikast ja tehisintellektist.
Selline sündmuste kirjeldus on kindlasti häiriv. Võimalus, et autonoomne lennuk või muu platvorm, eriti relvastatud, rünnata oma inimkäitajaid, on olnud pikka aega õudusunenägu, kuid ajalooliselt on see piirdunud ulme valdkonnaga.
USA sõjavägi lükkab tavaliselt tagasi võrdlused selliste filmidega nagu "Terminaator", rääkides tulevastest autonoomsetest relvasüsteemidest ja nendega seotud tehnoloogiatest, nagu tehisintellekt. USA praegune poliitika selles küsimuses näeb ette, et lähitulevikus on inimene surmava jõu kasutamisega seotud otsuste tegemisel tähelepanu keskpunktis.
Probleem seisneb selles, et väga häiriv test, millest kolonel Hamilton eelmisel kuul Kuningliku Lennundusühingu üritusel publikule rääkis, kujutab endast stsenaariumi, kus veataluvus on vaieldav.
Loe ka: