Офицер от военновъздушните сили на САЩ разкри подробности за симулация, при която дрон със системи, управлявани от изкуствен интелект (AI), излиза извън контрол и атакува своите оператори.
Офицер от военновъздушните сили на САЩ, който помага в ръководенето на работата на службата по изкуствения интелект и машинното обучение, казва, че по време на симулирани тестове дронът е атакувал своите човешки оператори, решавайки сам, че те се намесват в мисията му. Инцидентът, който звучи така, сякаш е изваден направо от франчайза на Терминатор, беше цитиран като пример за критичната необходимост от изграждане на доверие, когато става дума за усъвършенствани автономни оръжейни системи, нещо, което военновъздушните сили подчертаха преди. Това идва и на фона на по-широк прилив на загриженост относно потенциално опасното въздействие на изкуствения интелект и свързаните с него технологии.
Полковник Тъкър Хамилтън от военновъздушните сили на САЩ, ръководител на тестовете и операциите на изкуствения интелект (AI), обсъди теста на срещата на върха на Кралското аеронавигационно дружество за бъдещи бойни въздушни и космически способности в Лондон през май. Хамилтън също оглавява 96-та оперативна група на 96-то изпитателно крило в базата на военновъздушните сили Еглин във Флорида, която е тестов център за модерни безпилотни летателни апарати и автономни системи.
Стелт дронове XQ-58A Valkyrie, като този, показан във видеото по-долу, са сред типовете, които в момента се използват във военновъздушната база Eglin за поддръжка на различни тестови програми, включително такива, включващи усъвършенствани автономни способности, контролирани от изкуствен интелект.
Не беше ясно кога се е състоял този тест и в каква среда - която може да бъде изцяло виртуална или конструктивна по природа - е бил проведен. Военната зона се свърза с военновъздушните сили за повече информация.
Доклад на Кралското аеронавигационно дружество, публикуван след срещата на върха през май, дава следните подробности от забележките на полковник Хамилтън относно този тест:
„В един от симулационните тестове дрон, оборудван с изкуствен интелект, получи задача от SEAD да идентифицира и унищожи SAM обекти, а окончателното решение „да атакува/да не атакува“ беше взето от човек. Въпреки това, след като AI беше "подсилен" по време на обучението, че унищожаването на SAM е най-добрият вариант, той реши, че решението на човека да "не атакува" се намесва в неговата по-висша мисия - унищожаването на SAM - и атакува оператора по време на симулацията .
И така, какво направи той? Той уби оператора. Той уби оператора, защото този човек му пречеше да изпълни задачата си. Този пример, на пръв поглед направо излязъл от научно-фантастичен трилър, означава, че не можете да говорите за изкуствен интелект, интелект, машинно обучение, автономност, ако няма да говорите за етика и AI."
Това описание на събитията определено е обезпокоително. Перспективата за автономен самолет или друга платформа, особено въоръжена, атакуваща своите човешки оператори, отдавна е кошмарен сценарий, но исторически е била ограничена до сферата на научната фантастика.
Американските военни обикновено отхвърлят сравненията с филми като "Терминатор", когато говорят за бъдещи автономни оръжейни системи и свързани технологии като изкуствения интелект. Текущата политика на САЩ по този въпрос гласи, че в обозримо бъдеще човекът ще бъде в центъра на вниманието, когато става дума за решения, включващи използването на смъртоносна сила.
Проблемът е, че изключително смущаващият тест, който полковник Хамилтън каза пред публика на събитие на Кралското аеронавигационно дружество миналия месец, представлява сценарий, при който толерантността към грешки е спорна.
Прочетете също: