Нещодавно Ілон Маск анонсував гуманоїдного робота, призначеного для виконання повторюваних і нудних завдань, які люди ненавидять виконувати. Маск припустив, що він може збігати за вас в продуктовий магазин і з легкістю впорається з будь-якою кількістю завдань, пов’язаних з ручною працею. Як і слід було очікувати, соціальні мережі наповнилися відсилками до серії антиутопічних науково-фантастичних фільмів про роботів, де все йде жахливо неправильно.
Яким би тривожним не було майбутнє роботів в таких фільмах, як «Я, Робот», «Термінатор», «Чорне дзеркало» і інших, саме взяті в них за основу технології справжніх гуманоїдних роботів – і їх наміри – повинні викликати занепокоєння.
Робота Маска розробляє компанія Tesla. Це здається відхиленням від автомобільного бізнесу компанії, якщо не брати до уваги, що Tesla не є типовим виробником автомобілів. Так званий «Tesla Bot» – це концепція витонченого 172-сантиметрового робота, схожого на людину, яка буде включати автомобільний штучний інтелект (ШІ) і технології автопілота Tesla для планування маршрутів та пересування ними, навігацію трафіком – в цьому випадку пішоходів – і уникнення перешкод.
Якщо відкинути антиутопічний науково-фантастичний підтекст, план про штучне середовище створене людьми для людей має сенс. І, як стверджував Маск при оголошенні Tesla Bot, успішні передові технології повинні навчитися орієнтуватися в ньому так само як це роблять люди.
Проте, автомобілі та роботи Tesla – це всього лише видимі продукти набагато ширшого плану, спрямованого на створення майбутнього, в якому передові технології звільняють людей від наших біологічних коренів шляхом змішування біології та технологій. У деяких дослідників цей план викликає побоювання, які виходять за рамки спекулятивних науково-фантастичних страхів перед надрозумними роботами. Безпілотні автомобілі, міжпланетні ракети і інтерфейси «мозок-машина» – це кроки до того майбутнього, яке собі уявляє Маск, в якому технології стануть рятівником людства. У цьому майбутньому енергія буде дешевою, багатою і стійкою, люди працюватимуть в гармонії з розумними машинами і навіть зливатимуться з ними – і, врешті решт, стануть міжпланетним видом.
Це майбутнє, яке, судячи з зусиль Маска, буде побудовано на наборі базових взаємопов’язаних технологій, які включають сенсори, виконавчі механізми, інфраструктури енергії і даних, системну інтеграцію та істотний розвиток комп’ютерних потужностей. Маск представляє, як люди, зрештою, вийдуть за рамки нашої еволюційної спадщини за допомогою людських або навіть «надлюдських» технологій.
Цей підхід до інновацій, заснований на людському підході до технологій, лежить в основі технологій в автомобілях Tesla, включаючи широке використання оптичних камер. При підключенні до «мозку» ШІ вони повинні допомагати транспортним засобам автономно переміщатися дорожніми системами, які, за словами Маска, «призначені для біологічних нейронних мереж з оптичними перетворювачами» – іншими словами, людей. За словами Маска, це невеликий крок від створених людьми «роботів на колесах» до людиноподібних роботів на ногах.
Технологія «повного самоврядування» Tesla, яка включає в себе автопілот, є відправною точкою для розробників Tesla Bot. Наскільки б вражаючою не була ця технологія, вона виявилася менш ніж повністю надійною.
Аварії і нещасні випадки, пов’язані з режимом автопілота Tesla – останній з яких пов’язаний з алгоритмами, які щосили намагаються розпізнавати припарковані машини екстреної допомоги – ставлять під сумнів доцільність випуску цієї технології в дику природу у найближчому майбутньому. Цей послужний список не обіцяє нічого хорошого людиноподібним роботам, які покладаються на ту ж технологію. Проте, це не просто питання правильної технології.
Збої автопілота Tesla поглиблюються людською поведінкою. Наприклад, деякі водії Tesla ставилися до своїх модернізованих автомобілів як до повністю автономних транспортних засобів і не приділяли належної уваги водінню. Чи може щось подібне статися з Tesla Bot?
У цій ситуації особливо цікаві так звані сирітські ризики – ризики, які важко виміряти кількісно і легко випустити з уваги, але які неминуче призводять до збивання з пантелику новаторів. Tesla Bot несе в собі цілий портфель таких сирітських ризиків.
До них відносяться можливі загрози конфіденційності та автономності, коли бот збирає, ділиться і взаємодіє з потенційно конфіденційною інформацією, проблеми, пов’язані з тим, як люди можуть думати про роботів і реагувати на них, потенційні невідповідності між етичними або ідеологічними поглядами – наприклад, в боротьбі зі злочинністю або в боротьбі з цивільними протестами. Це проблеми, які рідко висвітлюються в навчанні інженерів, проте, ігнорування їх може привести до катастрофи.
Хоча Tesla Bot може здатися безневинним – або навіть трохи кумедним – для того, щоб він приносив користь, а також був комерційно успішним, його розробникам, інвесторам, майбутнім споживачам і іншим необхідно ставити складні запитання про те, чим він може загрожувати людству і як йому орієнтуватися в цих погрозах.
Ці загрози можуть бути настільки ж конкретними, як люди, що вносять несанкціоновані модифікації, що підвищують продуктивність робота – наприклад, змушуючи його рухатися швидше, ніж припускали розробники, – не замислюючись про ризики, або настільки ж небезпечними, як технології його озброєння. Чи, наприклад те, як робот-гуманоїд може загрожувати безпеці роботи або як робот, що включає передові системи спостереження, може підірвати конфіденційність.
Tesla Bot може здатися маленьким кроком до бачення Маска надлюдських технологій, і його легко списати на щось більше, ніж поверхневий погляд. Але серйозні плани, які стоять за цією зухвалістю викликають не менш серйозні питання.
Наприклад, наскільки відповідальним є бачення Маска? Хто може сказати, що він повинен робити це тільки тому, що він може працювати над створенням майбутнього своєї мрії? Чи є майбутнє, яке Маск прагне забезпечити, найкращим для людства або навіть хорошим? І хто постраждає від наслідків, якщо щось піде не так? Це глибокі побоювання, але це не означає, що Tesla Bot – погана ідея або що Ілон Маск не повинен мати можливість пограти своїми м’язами, які будують майбутнє. При правильному використанні ці ідеї та технології можуть відкрити багатообіцяюче майбутнє для мільярдів людей.
Але якщо споживачі, інвестори та інші люди будуть засліплені блиском нових технологій і знехтують галасом не побачивши ширшої картини, суспільство ризикує передати майбутнє багатим новаторам, чиє бачення виходить за рамки їх розуміння. Може бути, це неминущий урок з антиутопічних науково-фантастичних фільмів про роботів майбутнього, який люди повинні нести в міру того, як Tesla Bot рухається від ідеї до реальності? Це не стільки очевидна проблема можливого створення буйних гуманоїдних роботів, а набагато серйозніша проблема вирішувати, хто представлятиме майбутнє і братиме участь в його побудуванні.
А що думаєте ви?
Читайте також: