По всьому світу продовжують лунати грізні попередження від лідерів у галузі технологій штучного інтелекту. Останнє з них надійшло від Яана Талліна, який заснував дві організації – Кембриджський центр вивчення екзистенціальних ризиків та Інститут майбутнього життя – з метою вивчення та пом’якшення ризиків занадто швидкого розвитку технологій штучного інтелекту. У нещодавньому інтерв’ю Таллінн висловив свою думку про те, що, на його думку, може становити реальну небезпеку для людства, якщо лідери індустрії штучного інтелекту не дослухаються до застережень.
Інженер-засновник Skype остерігається, що в майбутньому може бути небезпечно виходити на вулицю через страх бути переслідуваним “зграями роботів-вбивць”. Яан Таллінн посилається на короткометражний фільм 2017 року під назвою “Роботи-вбивці”, який був випущений Інститутом майбутнього життя, до якого він входить.
Під час свого інтерв’ю Таллін зауважив: “Причина того, що люди постійно контролюють цю планету, а не шимпанзе, полягає в тому, що ми розумніші”. Він продовжив пояснювати: “Ми не сильніші, але ми знаємо, як робити довгострокове планування тощо. Зараз ми як вид змагаємося за те, щоб поступитися цією перевагою машинам, що, як підказує людська інтуїція, не є гарною ідеєю”.
Застереження Талліна виходять за рамки загального страху, який багато хто має зараз перед тим, що штучний інтелект замінить їх як працівників, і поширюються на його використання військовими силами по всьому світу. Він зауважив: “Використання ШІ у військовій сфері робить дуже важким для людства контроль над траєкторією ШІ, тому що в цей момент ви перебуваєте в буквальному сенсі в гонці озброєнь”. Він додав: “Коли ви берете участь у гонці озброєнь, у вас не так багато простору для маневру, коли йдеться про те, як підійти до цієї нової технології. Ви просто повинні йти туди, де є можливості і де є стратегічна перевага”.
Це відбувається в той час, коли напруженість у відносинах між великими державами зростає по всьому світу. Проте Таллінн вважає, що ще не пізно сповільнити перехід ШІ у військову сферу, як це було зроблено з біологічною зброєю.
Страх перед автоматизованою армією дронів і людиноподібних роботів вже давно нафантазований в голлівудських фільмах. Таллін зазначає: “Природною еволюцією для повністю автоматизованої війни є рої мініатюрних дронів, які будь-хто з грошима може виробляти і випускати без зазначення авторства”.
Коли його запитали про його позицію щодо того, коли людство має зробити паузу в розвитку технологій штучного інтелекту, Таллін відповів: “Я думаю, що правильна позиція тут полягає в тому, що як тільки ми не зможемо виключити, що контролюватимемо ситуацію протягом тривалого часу, ми повинні вжити необхідних заходів обережності, щоб переконатися, що або ми зберігаємо контроль, або, якщо ми втратимо контроль, майбутнє все одно буде для нас хорошим”.
Читайте також: