Один з засновників штучного інтелекту зробив гучну заяву про відставку. Джеффрі Гінтон, якого називають “хрещеним батьком глибокого навчання”, розповів The New York Times, що у квітні подав у відставку з посади віцепрезидента Google і наукового співробітника, щоб відкрито попередити про ризики, пов’язані з цією технологією. Дослідник стурбований тим, що Google відмовляється від своєї попередньої стриманості щодо публічних випусків ШІ в спробі конкурувати з ChatGPT, Bing Chat і подібними моделями, що відкриває двері для численних етичних проблем.
У найближчій перспективі Гінтон стурбований тим, що генеративний ШІ може призвести до хвилі дезінформації. За його словами, ви можете “більше не знати, що є правдою”. Він також занепокоєний тим, що ШІ може не просто усунути “чорну роботу”, а й повністю замінити деякі професії. У майбутньому вчений стурбований як можливістю створення повністю автономної зброї, так і тенденцією моделей штучного інтелекту навчатися дивній поведінці на основі тренувальних даних. Хоча деякі з цих питань є теоретичними, Гінтон побоюється ескалації, яку неможливо буде перевірити без нормативних актів або розробки ефективних засобів контролю.
Гінтон каже, що його позиція почала змінюватися минулого року, коли Google, OpenAI та інші компанії почали створювати системи штучного інтелекту, які, на його думку, іноді перевершують людський інтелект. ШІ стрімко розвинувся лише за останні п’ять років – “страшно” уявити, що може статися в наступні п’ять, припускає дослідник.
У заяві для Engadget головний науковий співробітник Google Джефф Дін каже, що його компанія все ще дотримується “відповідального підходу” і пильнує за “новими ризиками, що з’являються”. Пошуковий гігант нещодавно випустив свого чат-бота Bard у березні, після того, як кілька місяців ходили чутки, що компанія стурбована конкурентною загрозою генеративного ШІ. До цього вона відмовлялася публічно випускати моделі ШІ, такі як її орієнтований на мистецтво Imagen, через потенціал токсичного контенту та порушення авторських прав.
Гінтон присвятив свою кар’єру вивченню нейронних мереж, які часто є ключовими для ШІ, але найбільш відомий завдяки розробці системи розпізнавання об’єктів у 2012 році. Його проривна нейромережа може використовувати навчальні зображення для розпізнавання звичайних об’єктів. У 2013 році Google купив стартап Гінтона DNNresearch, і концепція його винаходу допомогла стимулювати сплеск розвитку, який привів до сьогоднішніх генеративних технологій.
Гінтон не перший, хто зробив такі заявлення. Низка впливових науковців та технологічних світил, включаючи Ілона Маска та Стіва Возняка, нещодавно підписали відкритого листа із закликом зробити шестимісячну паузу в розробці ШІ для вирішення проблем етики та безпеки. Слово Гінтона, як однієї з найвідоміших фігур в індустрії, мають значну вагу.
Читайте також :
Не перша ластівка.