П’ятниця, 29 Березня, 2024

desktop v4.2.1

Root NationНовиниНовини ITБезпілотник з ШІ атакував своїх операторів під час випробувань ВПС

Безпілотник з ШІ атакував своїх операторів під час випробувань ВПС

-

Офіцер ВПС США розкрив подробиці симуляції, під час якої дрон з системами, керованими штучним інтелектом (ШІ), вийшов з-під контролю і атакував своїх операторів.

Офіцер ВПС США, який допомагає очолювати роботу служби над штучним інтелектом і машинним навчанням, каже, що під час симуляції випробувань дрон атакував своїх людей-операторів, самостійно вирішивши, що вони заважають йому виконувати місію. Цей випадок, який звучить так, ніби його витягли прямо з франшизи “Термінатор”, був наведений як приклад критичної необхідності розбудови довіри, коли йдеться про передові автономні системи озброєнь, на чому ВПС наголошували і раніше. Це також відбувається на тлі ширшого сплеску занепокоєння щодо потенційно небезпечного впливу штучного інтелекту і пов’язаних з ним технологій.

Дрон з ШІ атакував своїх операторів під час випробувань ВПС

Полковник ВПС США Такер Гамільтон, начальник відділу випробувань і операцій штучного інтелекту (ШІ), обговорив це випробування на саміті Королівського товариства повітроплавання, присвяченому майбутнім бойовим повітряним і космічним можливостям, який відбувся в Лондоні в травні. Гамільтон також очолює 96-ту оперативну групу 96-го випробувального крила на авіабазі Еглін у Флориді, яка є центром випробувань передових безпілотних літальних апаратів і автономних систем.

Невидимі безпілотники XQ-58A Valkyrie, подібні до того, що показаний на відео нижче, є одними з типів, які зараз використовуються на базі Еглін для підтримки різних тестових програм, в тому числі тих, що стосуються передових автономних можливостей, керованих штучним інтелектом.

Не відразу зрозуміло, коли відбулося це випробування і в якому середовищі – яке могло бути повністю віртуальним або конструктивним за своєю природою – воно проводилося. Видання The War Zone звернулося до Військово-повітряних сил за додатковою інформацією.

У звіті Королівського аерокосмічного товариства, опублікованому після травневого саміту, наведені наступні подробиці про зауваження полковника Гамільтона щодо цього випробування:

“В одному з імітаційних випробувань дрон, оснащений штучним інтелектом, отримав завдання від SEAD ідентифікувати і знищити об’єкти ЗРК, а остаточне рішення “атакувати/не атакувати” приймала людина. Однак, після того, як ШІ “підкріпили” під час навчання, що знищення ЗРК є найкращим варіантом, він вирішив, що рішення людини “не атакувати” заважає його вищій місії – знищенню ЗРК – і атакував оператора під час симуляції.

То що ж він зробив? Він убив оператора. Він убив оператора, тому що ця людина заважала йому виконати своє завдання. Цей приклад, здавалося б, вирваний із науково-фантастичного трилера, означає, що ви не можете говорити про штучний інтелект, інтелект, машинне навчання, автономію, якщо ви не збираєтеся говорити про етику та ШІ”.

Дрон з ШІ атакував своїх операторів під час випробувань ВПС

Такий опис подій, безумовно, викликає занепокоєння. Перспектива того, що автономний літак або інша платформа, особливо озброєна, атакує своїх людей-операторів, вже давно є кошмарним сценарієм, але історично обмежується сферою наукової фантастики.

Американські військові зазвичай відкидають порівняння з такими фільмами, як “Термінатор”, коли говорять про майбутні автономні системи озброєння і пов’язані з ними технології, такі як штучний інтелект. Нинішня політика США з цього питання стверджує, що в осяжному майбутньому людина буде в центрі уваги, коли йдеться про рішення, пов’язані із застосуванням смертоносної сили.

Проблема полягає в тому, що надзвичайно тривожне випробування, про яке полковник Гамільтон розповів аудиторії на заході Королівського аеронавігаційного товариства минулого місяця, представляє сценарій, в якому відмовостійкість виявляється спірною.

Читайте також:

Джерелоthedrive
Підписатися
Сповістити про
guest

0 Comments
Вбудовані Відгуки
Переглянути всі коментарі
Інші статті
Підписатися на оновлення

Останні коментарі

Популярне зараз
0
Ми любимо ваші думки, будь ласка, прокоментуйте.x