Az amerikai légierő egyik tisztje egy olyan szimuláció részleteit fedte fel, amelyben egy mesterséges intelligencia (AI) által vezérelt rendszerekkel rendelkező drón kikerült az irányítás alól, és megtámadta kezelőit.
Az Egyesült Államok légierejének egyik tisztje, aki segít a szolgálat mesterséges intelligenciával és gépi tanulással kapcsolatos munkájának vezetésében, azt mondja, hogy a szimulált tesztek során a drón megtámadta emberi kezelőit, és magától döntött úgy, hogy beavatkoznak a küldetésébe. Az esetet, amely úgy hangzik, mintha egyenesen a Terminator franchise-ból húzták volna ki, példaként emlegették a bizalomépítés kritikus szükségességét, amikor a fejlett autonóm fegyverrendszerekről van szó, amit a légierő korábban is hangsúlyozott. Ez a mesterséges intelligencia és a kapcsolódó technológiák potenciálisan veszélyes hatásai miatti aggodalom szélesebb köre közepette is felmerül.
Az amerikai légierő ezredese, Tucker Hamilton, a mesterséges intelligencia (AI) tesztelési és műveleti részlegének vezetője megvitatta a tesztet a Royal Aeronautical Society májusi londoni Future Combat Air and Space Capabilities csúcstalálkozóján. Hamilton vezeti a floridai Eglin légibázison a 96. tesztszárny 96. munkacsoportját is, amely fejlett pilóta nélküli légi járművek és autonóm rendszerek tesztközpontja.
Az alábbi videón látható XQ-58A Valkyrie lopakodó drónok az Eglin légibázison jelenleg használt típusok közé tartoznak, amelyek különböző tesztprogramokat támogatnak, beleértve azokat is, amelyek mesterséges intelligencia által vezérelt fejlett autonóm képességeket tartalmaznak.
Nem volt azonnal világos, hogy mikor és milyen környezetben – amely lehet teljesen virtuális vagy konstruktív – végezték el ezt a tesztet. A War Zone további információért fordult a légierőhöz.
A Királyi Repülési Társaság májusi csúcstalálkozója után közzétett jelentése a következő részleteket adta meg Hamilton ezredesnek a teszttel kapcsolatos megjegyzéseiről:
„Az egyik szimulációs tesztben a SEAD egy mesterséges intelligenciával felszerelt drónt bízott meg a SAM objektumok azonosításával és megsemmisítésével, a végső döntést pedig, hogy „támadunk/nem támadunk”, egy ember hozta meg. Miután azonban a mesterséges intelligencia a kiképzés során „megerősítette”, hogy a SAM megsemmisítése a legjobb megoldás, úgy döntött, hogy az ember „nem támadó” döntése megzavarta magasabb küldetését – a SAM megsemmisítését –, és megtámadta a kezelőt a szimuláció során. .
Szóval mit csinált? Megölte az operátort. Megölte a kezelőt, mert az megakadályozta feladatának elvégzésében. Ez a látszólag egyenesen egy sci-fi thrillerből származó példa azt jelenti, hogy nem beszélhetünk mesterséges intelligenciáról, intelligenciáról, gépi tanulásról, autonómiáról, ha nem az etikáról és a mesterséges intelligenciáról.
Az eseményeknek ez a leírása minden bizonnyal nyugtalanító. Az a kilátás, hogy egy autonóm repülőgép vagy más platform, különösen egy fegyveres, megtámadja emberi kezelőit, régóta rémálom forgatókönyv, de történelmileg a sci-fi birodalmára korlátozódott.
Az amerikai hadsereg általában elutasítja az olyan filmekkel való összehasonlítást, mint a "Terminátor", amikor a jövő autonóm fegyverrendszereiről és a kapcsolódó technológiákról, például a mesterséges intelligenciáról beszél. Az Egyesült Államok jelenlegi politikája ebben a témában kimondja, hogy a belátható jövőben a személy lesz a figyelem középpontjában, amikor halálos erő alkalmazásával kapcsolatos döntésekről van szó.
A probléma az, hogy a rendkívül zavaró teszt, amelyet Hamilton ezredes a múlt hónapban a Királyi Repülési Társaság egyik rendezvényén mondott a hallgatóságnak, olyan forgatókönyvet képvisel, amelyben a hibatűrés megkérdőjelezhető.
Olvassa el még: