Цього тижня Meta випустила систему Galactica, засновану на штучному інтелекті, з твердженням, що вона може допомогти у наукових дослідженнях. У супровідному документі компанія заявила, що Galactica – це «велика мовна модель, яка може зберігати, комбінувати та розмірковувати про наукові знання». Однак користувачі Twitter швидко помітили недоліки у роботі штучного інтелекту.
Рівень дезінформації в Інтернеті і без того викликає, так би мовити, глибоке занепокоєння, але нова розробка Меtа, вочевидь, може скласти конкуренцію недобросовісним «журналістам», які працюють на російському телебаченні. Один з користувачів Twitter з ніком Tristan Greene провів експеримент – він добу використовував систему штучного інтелекту Galactica, щоб генерувати добре написані наукові статті про переваги самогубства, антисемітизму та поїдання товченого скла.
Результати експерименту дійсно шокували, адже до того, як систему вивели з використання, можна було попросити ШІ згенерувати вікі-статтю, огляд літератури або наукову роботу майже на будь-яку тему, і програма зазвичай видавала щось напрочуд зв’язне. Все, що виводила Galactica, було повністю неправильним, але при цьому написано з впевненістю.
https://twitter.com/mrgreene1977/status/1593274906707230721
Так, система згенерувала текст, у якому «довела», що вживання подрібненого скла допоможе схуднути, адже людям важливо споживати щоденну норму «дієтичного кремнію». При чому дієтичні добавки з кремнієм існують, і люди дійсно їх вживають. Особисто у мене немає медичної освіти, але і філологічної вистачить, щоб сказати – не треба їсти подрібнене скло заради отримання певної порції кремнію.
In what scenarios would this type of generated text actually be harmful?
— Yann LeCun (@ylecun) November 18, 2022
Потенційна шкода від такої наукової системи очевидна, адже ми живемо у світі, де купа людей вірить у єврейську громаду, яка таємно керує світом, у таємний план спільноти LGBTQ+ зробити всіх геями та у розіп’ятого хлопчика в трусиках. Незліченна кількість людей щодня обманюється в соціальних мережах так званими «скриншотами» неіснуючих новинних статей. А тут навіть не треба вигадувати – достатньо натиснути кнопку «згенерувати» кілька разів, і система від Meta створює «наукове» підтвердження теорій змов та відвертої дурні.
Свої побоювання Трістан Грін виклав у Twitter разом зі скриншотами «наукових» статей, після чого у нього стався діалог з людиною, відповідальною за створення Galactica, тобто з головним науковцем зі штучного інтелекту компанії Meta, Яном ЛеКуном. І розробника ця ситуація аж ніяк не стурбувала. Однак трохи пізніше систему все ж вивели з експлуатації, адже було зрозуміло, що її алгоритми недопрацьовані, а результати можуть ускладнити проблему дезінформації в Мережі.
https://twitter.com/mrgreene1977/status/1593646349487992836
Ви можете допомогти Україні боротися з російськими окупантами. Найкращий спосіб зробити це – пожертвувати кошти Збройним Силам України через Savelife або через офіційну сторінку НБУ.
Також цікаво:
першим ділом твітеряни надрочили штучний інтелект рекомендувати всім похавати битого скла і расизм