JAV oro pajėgų karininkas atskleidė detales apie simuliaciją, kai bepilotis orlaivis su dirbtinio intelekto (AI) valdomomis sistemomis tapo nevaldomas ir užpuolė jo operatorius.
JAV oro pajėgų pareigūnas, padedantis tarnybai vadovauti dirbtinio intelekto ir mašininio mokymosi darbui, sako, kad imituotų bandymų metu dronas užpuolė savo žmones operatorius ir pats nusprendė, kad jie trukdo vykdyti jo misiją. Dėklas, kuris skamba taip, lyg būtų ištrauktas iš „Terminator“ franšizės, buvo paminėtas kaip kritinio poreikio sukurti pasitikėjimą pažangiomis autonominėmis ginklų sistemomis pavyzdys, ką oro pajėgos pabrėžė anksčiau. Tai taip pat kyla dėl didesnio susirūpinimo dėl potencialiai pavojingo dirbtinio intelekto ir susijusių technologijų poveikio.
JAV oro pajėgų pulkininkas Tuckeris Hamiltonas, Dirbtinio intelekto (DI) bandymų ir operacijų vadovas, aptarė šį bandymą Karališkosios aeronautikos draugijos ateities kovinių oro ir kosmoso pajėgumų viršūnių susitikime Londone gegužės mėn. Hamiltonas taip pat vadovauja 96-ojo bandymo sparno 96-ajai darbo grupei Eglino oro pajėgų bazėje Floridoje, kuri yra pažangių nepilotuojamų orlaivių ir autonominių sistemų bandymų centras.
XQ-58A Valkyrie slapti dronai, kaip parodyta toliau esančiame vaizdo įraše, yra tarp šiuo metu Eglino oro pajėgų bazėje naudojamų tipų, skirtų įvairioms bandymų programoms palaikyti, įskaitant tas, kurios susijusios su pažangiomis autonominėmis galimybėmis, valdomomis dirbtinio intelekto.
Nebuvo iš karto aišku, kada šis bandymas buvo atliktas ir kokioje aplinkoje – kuri gali būti visiškai virtuali ar konstruktyvi – jis buvo atliktas. Karo zona susisiekė su oro pajėgomis, kad gautų daugiau informacijos.
Karališkosios aeronautikos draugijos ataskaitoje, paskelbtoje po gegužės mėnesio viršūnių susitikimo, buvo pateikta tokia informacija apie pulkininko Hamiltono pastabas apie šį bandymą:
„Viename iš simuliacinių bandymų dirbtiniu intelektu aprūpintam dronui SEAD buvo pavesta identifikuoti ir sunaikinti SAM objektus, o galutinį sprendimą „pulti/nepulti“ priėmė žmogus. Tačiau po to, kai AI mokymų metu buvo „sustiprintas“, kad SAM sunaikinimas yra geriausias pasirinkimas, jis nusprendė, kad žmogaus sprendimas „nepulti“ trukdė jo aukštesnei misijai – sunaikinti SAM – ir simuliacijos metu užpuolė operatorių. .
Taigi ką jis padarė? Jis nužudė operatorių. Jis nužudė operatorių, nes tas asmuo trukdė jam atlikti savo užduotį. Šis pavyzdys, atrodytų, tiesiog iš mokslinės fantastikos trilerio, reiškia, kad jūs negalite kalbėti apie dirbtinį intelektą, intelektą, mašininį mokymąsi, autonomiją, jei neketinate kalbėti apie etiką ir AI.
Toks įvykių aprašymas tikrai kelia nerimą. Galimybė, kad autonominis orlaivis ar kita platforma, ypač ginkluota, užpuls savo žmones operatorius, jau seniai buvo košmaras, tačiau istoriškai apsiribojo mokslinės fantastikos sfera.
Kalbėdami apie būsimas autonomines ginklų sistemas ir susijusias technologijas, tokias kaip dirbtinis intelektas, JAV kariuomenė paprastai atmeta palyginimus su tokiais filmais kaip „Terminatorius“. Dabartinė JAV politika šiuo klausimu teigia, kad artimiausioje ateityje žmogus bus dėmesio centre, kai priims sprendimus, susijusius su mirtinos jėgos panaudojimu.
Problema ta, kad labai nerimą keliantis bandymas, kurį pulkininkas Hamiltonas praeitą mėnesį pasakė Karališkosios aeronautikos draugijos renginio auditorijai, yra scenarijus, kai gedimų toleravimas yra ginčytinas.
Taip pat skaitykite: