Команда дослідників із Чиказького університету створила інструмент під назвою Nightshade, за допомогою якого художники зможуть захистити свої роботи від генеративних нейромереж, що використовують для навчання зображення в Інтернеті. Він дає змогу додати до зображень невидимі оку людини пікселі, які ефективно спотворюють дані для навчання ШІ-алгоритмів.
Стрімке зростання популярності генеративних нейромереж, здатних створювати зображення за текстовим описом, також призвело до численних судових позовів з боку сучасних художників на адресу компаній, що займаються розробкою ШІ-алгоритмів. Річ у тім, що для навчання генеративних нейромереж зазвичай використовують зображення, опубліковані на різних веб-ресурсах. За рахунок цього генеративні нейромережі здатні малювати зображення не гірше за людину і навіть копіювати стилі відомих художників.
Алгоритм Nightshade покликаний допомогти художникам захистити свої роботи від сканування нейромережами. Він особливим чином обробляє зображення, і, якщо надалі їх використовують для навчання нейромереж, то останні втрачають здатність належним чином обробляти користувацький запит і видають неправильний результат. Фактично таке доопрацювання картинок змушує нейромережі неправильно розпізнавати зображені на них предмети. Наприклад, там, де намальовані капелюхи, алгоритм розпізнає торти, а сумки – розпізнаються як тостери. Пошкоджені таким чином дані дуже складно видалити, оскільки розробникам генеративних алгоритмів доведеться ретельно знаходити кожен такий фрагмент вручну.
Художники, які хочуть поділитися своїми роботами в інтернеті, але водночас також мають намір захистити їх, можуть задіяти Nightshade у поєднанні з іншим інструментом під назвою Glaze (розроблений тією самою групою дослідників і призначений для модифікації зображень у такий спосіб, що нейромережа не зможе ефективно навчатися з їхньою допомогою). Згідно з наявними даними, Nightshade і Glaze будуть доступні для безоплатного використання, а перший із них матиме відкритий вихідний код, завдяки чому інші розробники зможуть покращувати його.
Читайте також:
- Meta розробляє ШІ-помічника з написання текстів для Facebook
- На Lenovo Tech World 2023 компанія представила концепцію “ШІ для всіх”