Yhdysvaltain ilmavoimien upseeri on paljastanut yksityiskohtia simulaatiosta, jossa tekoälyn (AI) ohjaamilla järjestelmillä varustettu drone meni käsistä ja hyökkäsi käyttäjiensä kimppuun.
Yhdysvaltain ilmavoimien upseeri, joka auttaa johtamaan palvelua tekoälyn ja koneoppimisen parissa, kertoo, että simuloitujen testien aikana drooni hyökkäsi ihmiskäyttäjiensä kimppuun ja päätti itse, että he häiritsivät sen tehtävää. Kotelo, joka kuulostaa siltä kuin se olisi vedetty suoraan Terminator-sarjasta, mainittiin esimerkkinä kriittisestä tarpeesta rakentaa luottamusta kehittyneiden autonomisten asejärjestelmien suhteen, mitä ilmavoimat ovat korostaneet aiemmin. Se tulee myös keskellä laajempaa huolta tekoälyn ja siihen liittyvien teknologioiden mahdollisesti vaarallisista vaikutuksista.
Yhdysvaltain ilmavoimien eversti Tucker Hamilton, tekoälyn (AI) testauksen ja operaatioiden päällikkö, keskusteli testistä Royal Aeronautical Societyn Future Combat Air and Space Capabilities Summit -kokouksessa Lontoossa toukokuussa. Hamilton johtaa myös 96. testisiiven 96. työryhmää Eglinin ilmavoimien tukikohdassa Floridassa, joka on kehittyneiden miehittämättömien ilma-alusten ja autonomisten järjestelmien testikeskus.
XQ-58A Valkyrie-stealth-dronit, kuten alla olevassa videossa näkyvät, kuuluvat Eglinin ilmavoimien tukikohdassa tällä hetkellä käytössä oleviin tyyppeihin tukemaan erilaisia testiohjelmia, mukaan lukien ne, jotka sisältävät kehittyneitä autonomisia ominaisuuksia, joita tekoäly ohjaa.
Ei ollut heti selvää, milloin tämä testi tehtiin ja missä ympäristössä - joka voi olla luonteeltaan täysin virtuaalinen tai rakentava - se suoritettiin. War Zone on ottanut yhteyttä ilmavoimiin saadakseen lisätietoja.
Toukokuun huippukokouksen jälkeen julkaistu Royal Aeronautical Societyn raportti antoi seuraavat yksityiskohdat eversti Hamiltonin huomautuksista tästä kokeesta:
"Yhdessä simulaatiotestissä SEAD antoi tekoälyllä varustetun dronin tehtäväksi tunnistaa ja tuhota SAM-objekteja, ja lopullisen päätöksen "hyökkää/ei hyökätä" teki ihminen. Kuitenkin sen jälkeen, kun tekoälyä "vahvistettiin" koulutuksen aikana, että SAM:n tuhoaminen oli paras vaihtoehto, se päätti, että ihmisen päätös "ei hyökätä" häiritsi sen korkeampaa tehtävää - SAM:n tuhoamista - ja hyökkäsi operaattoria vastaan simulaation aikana. .
Mitä hän sitten teki? Hän tappoi operaattorin. Hän tappoi operaattorin, koska tämä henkilö esti häntä suorittamasta tehtäväänsä. Tämä esimerkki, joka näyttää suoraan scifi-trilleristä, tarkoittaa, että et voi puhua tekoälystä, älykkyydestä, koneoppimisesta, autonomiasta, jos et aio puhua etiikasta ja tekoälystä.
Tämä tapahtumien kuvaus on varmasti häiritsevä. Mahdollisuus, että itsenäinen lentokone tai muu alusta, erityisesti aseellinen, hyökkää ihmisoperaattoreitaan vastaan, on pitkään ollut painajainen skenaario, mutta se on historiallisesti rajoittunut tieteiskirjallisuuden piiriin.
Yhdysvaltain armeija tyypillisesti torjuu vertailut elokuviin, kuten "Terminator", puhuessaan tulevaisuuden autonomisista asejärjestelmistä ja niihin liittyvistä teknologioista, kuten tekoälystä. Yhdysvaltain nykyinen politiikka tässä asiassa sanoo, että lähitulevaisuudessa henkilö on huomion keskipiste, kun on kyse päätöksistä, joihin liittyy tappavan voiman käyttöä.
Ongelmana on, että erittäin huolestuttava testi, jonka eversti Hamilton kertoi yleisölle Royal Aeronautical Society -tapahtumassa viime kuussa, edustaa skenaariota, jossa vikasietoisuus on kiistanalainen.
Lue myös: