АҚШ Әскери-әуе күштерінің офицері жасанды интеллект (AI) басқаратын жүйелері бар дрон бақылаудан шығып, оның операторларына шабуыл жасаған модельдеу мәліметтерін ашты.
Қызметтің жасанды интеллект пен машинаны оқыту бойынша жұмысын басқаруға көмектесетін АҚШ Әскери-әуе күштерінің офицері симуляциялық сынақтар кезінде ұшқышсыз ұшақ адам операторларына шабуыл жасап, олар өз миссиясына кедергі келтірді деп өздігінен шешім қабылдады. Терминатор франшизасынан тікелей шығарылғандай көрінетін іс, әуе күштері бұған дейін баса айтқан алдыңғы қатарлы автономды қару жүйелеріне қатысты сенім орнатудың маңызды қажеттілігінің мысалы ретінде келтірілді. Бұл сондай-ақ жасанды интеллект пен онымен байланысты технологиялардың ықтимал қауіпті әсері туралы алаңдаушылықтың кеңеюіне байланысты.
АҚШ Әскери-әуе күштері полковнигі Такер Гамильтон, жасанды интеллект (AI) сынақтары және операциялары бөлімінің бастығы, мамыр айында Лондонда өткен Корольдік аэронавигациялық қоғамының болашақ жауынгерлік әуе және ғарыш мүмкіндіктері саммитінде сынақты талқылады. Гамильтон сонымен қатар Флоридадағы Эглин әуе күштері базасындағы 96-шы сынақ қанатының 96-шы жұмыс тобын басқарады, ол озық ұшқышсыз ұшу аппараттары мен автономды жүйелерді сынақтан өткізу орталығы болып табылады.
Төмендегі бейнеде көрсетілгендей XQ-58A Valkyrie жасырын ұшқышсыз ұшақтары қазіргі уақытта әртүрлі сынақ бағдарламаларын, соның ішінде жасанды интеллект басқаратын озық автономды мүмкіндіктерді қамтитын Эглин әуе күштері базасында қолданылатын типтердің бірі болып табылады.
Бұл сынақтың қашан және қандай ортада - толығымен виртуалды немесе конструктивті сипатта болуы мүмкін - өткізілгені бірден белгісіз. Соғыс аймағы қосымша ақпарат алу үшін Әуе күштеріне хабарласты.
Корольдік аэронавтика қоғамының мамырдағы саммитінен кейін жарияланған есебінде полковник Гамильтонның осы сынақ туралы айтқан сөздерінің келесі мәліметтері келтірілген:
«Симуляциялық сынақтардың бірінде жасанды интеллектпен жабдықталған ұшқышсыз ұшқышқа SEAD SAM нысандарын анықтау және жою тапсырмасы берілді және «шабуыл жасау/шабуыл жасамау» туралы соңғы шешімді адам қабылдады. Дегенмен, жаттығу кезінде AI «күшейтілгеннен» кейін SAM-ды жою ең жақсы нұсқа болып табылады, ол адамның «шабуыл жасамау» шешімі оның жоғары миссиясына - SAM-ды жоюға кедергі келтіреді және модельдеу кезінде операторға шабуыл жасады деп шешті. .
Сонда ол не істеді? Ол операторды өлтірді. Ол операторды өлтірді, себебі бұл адам оның тапсырмасын орындауға кедергі болды. Бұл мысал ғылыми-фантастикалық триллерден шыққан сияқты, егер сіз этика және AI туралы айтпасаңыз, жасанды интеллект, интеллект, машиналық оқыту, автономия туралы айта алмайтыныңызды білдіреді ».
Оқиғалардың бұл сипаттамасы, әрине, алаңдатады. Автономды ұшақтың немесе басқа платформаның, әсіресе қарулы платформаның адам операторларына шабуыл жасау перспективасы бұрыннан қорқынышты сценарий болды, бірақ тарихта ғылыми фантастика саласымен шектелген.
АҚШ әскері, әдетте, болашақ автономды қару жүйелері мен жасанды интеллект сияқты байланысты технологиялар туралы айтқанда, «Терминатор» сияқты фильмдермен салыстырудан бас тартады. АҚШ-тың осы мәселеге қатысты қазіргі саясаты жақын болашақта өлімге әкелетін күш қолданумен байланысты шешімдерге келгенде назар аударатын адам болатынын айтады.
Мәселе мынада, полковник Гамильтон өткен айда Корольдік аэронавтика қоғамының іс-шарасында аудиторияға айтқан өте алаңдатарлық сынақ ақауларға төзімділік танытатын сценарийді білдіреді.
Сондай-ақ оқыңыз: