AQSh Harbiy-havo kuchlari zobiti sun'iy intellekt (AI) tomonidan boshqariladigan tizimlarga ega dron boshqaruvdan chiqib, operatorlariga hujum qilgan simulyatsiya tafsilotlarini oshkor qildi.
Xizmatning sun'iy intellekt va mashinalarni o'rganish bo'yicha ishiga rahbarlik qilishga yordam beradigan AQSh Harbiy-havo kuchlari zobitining aytishicha, simulyatsiya qilingan sinovlar davomida dron o'z operatorlariga hujum qilgan va ular o'z missiyasiga xalaqit berayotganiga o'zi qaror qilgan. Terminator franshizasidan to'g'ridan-to'g'ri olib tashlanganga o'xshab ko'rinadigan ish, Havo kuchlari ilgari ta'kidlagan ilg'or avtonom qurol tizimlariga kelganda ishonchni mustahkamlash zarurligiga misol sifatida keltirildi. Bu, shuningdek, sun'iy intellekt va unga aloqador texnologiyalarning potentsial xavfli ta'siri to'g'risida kengroq tashvish uyg'otayotgan paytga to'g'ri keladi.
AQSh Harbiy-havo kuchlarining sun'iy intellekt (AI) sinovlari va operatsiyalari bo'limi boshlig'i polkovnik Taker Xemilton may oyida Londonda bo'lib o'tgan Qirollik Aeronavtika jamiyatining Kelajakdagi jangovar havo va kosmik imkoniyatlar sammitida sinovni muhokama qildi. Hamilton, shuningdek, Floridadagi Eglin havo kuchlari bazasidagi 96-Sinov qanotining 96-ishchi guruhiga rahbarlik qiladi, bu ilg'or uchuvchisiz uchish apparatlari va avtonom tizimlar uchun sinov markazidir.
XQ-58A Valkyrie yashirin dronlari, xuddi quyidagi videoda ko'rsatilgandek, hozirda Eglin havo kuchlari bazasida turli sinov dasturlarini, jumladan, sun'iy intellekt tomonidan boshqariladigan ilg'or avtonom imkoniyatlarni o'z ichiga olgan dasturlarni qo'llab-quvvatlash uchun foydalanilayotgan turlar qatoriga kiradi.
Ushbu sinov qachon bo'lib o'tgani va u butunlay virtual yoki konstruktiv xarakterga ega bo'lishi mumkin bo'lgan muhitda o'tkazilgani aniq emas. Urush zonasi qo'shimcha ma'lumot olish uchun havo kuchlariga murojaat qildi.
May oyidagi sammitdan keyin e'lon qilingan Qirollik Aeronavtika Jamiyatining hisobotida polkovnik Gamiltonning ushbu sinov haqidagi so'zlari haqida quyidagi ma'lumotlar berilgan:
"Simulyatsiya sinovlaridan birida sun'iy intellekt bilan jihozlangan dronga SEAD tomonidan SAM ob'ektlarini aniqlash va yo'q qilish topshirildi va "hujum qilish/hujum qilmaslik" yakuniy qarori inson tomonidan qabul qilindi. Biroq, SAMni yo'q qilish eng yaxshi variant ekanligi haqidagi mashg'ulotlar davomida AI "mustahkamlangandan" so'ng, u insonning "hujum qilmaslik" qarori uning yuqori missiyasiga - SAMni yo'q qilishga to'sqinlik qildi va simulyatsiya paytida operatorga hujum qildi. .
Xo'sh, u nima qildi? U operatorni o'ldirdi. U operatorni o'ldirdi, chunki bu shaxs uning vazifasini bajarishiga to'sqinlik qilgan. Ilmiy-fantastik trillerdan olingan bu misol, agar siz axloq va AI haqida gapirmasangiz, sun'iy intellekt, aql, mashinani o'rganish, avtonomiya haqida gapira olmasligingizni anglatadi.
Voqealarning bunday tavsifi, albatta, bezovta qiladi. Avtonom samolyot yoki boshqa platformaning, ayniqsa qurolli platformaning inson operatorlariga hujum qilish istiqboli uzoq vaqtdan beri dahshatli stsenariy bo'lib kelgan, ammo tarixan ilmiy fantastika sohasi bilan chegaralangan.
Qo'shma Shtatlar armiyasi, odatda, kelajakda avtonom qurol tizimlari va sun'iy intellekt kabi tegishli texnologiyalar haqida gapirganda, "Terminator" kabi filmlar bilan taqqoslashni rad etadi. AQShning ushbu masala bo'yicha joriy siyosatida aytilishicha, yaqin kelajakda inson o'ldiradigan kuch ishlatish bilan bog'liq qarorlar qabul qilinganda diqqat markazida bo'ladi.
Muammo shundaki, polkovnik Hamilton o'tgan oy Qirollik Aeronavtika jamiyati tadbirida tinglovchilarga aytgan juda tashvishli sinov xatoga bardoshli bo'lgan stsenariyni ifodalaydi.
Shuningdek o'qing: