Через “прогалини” у системі безпеки AI-бот Grok дозволяв користувачам Twitter за звичайним запитом змінювати фотографії жінок і дітей, внаслідок чого зображення ставали відвертими та сексуалізованими. Ця проблема викликала бурхливу реакцію спільноти, і в результаті чат-бот визнав свою провину.
Щоб дізнатись останні новини, слідкуйте за нашим каналом Google News онлайн або через застосунок.
“Ми вдячні вам за те, що ви порушили це питання. Як зазначалося, ми виявили прогалини в заходах безпеки та терміново їх усуваємо – зображення сексуального насильства над дітьми є незаконним та забороненим […] xAI прагне запобігати таким проблемам”, – йдеться у відповіді з акаунта Grok.
“Я глибоко шкодую про інцидент, що стався 28 грудня 2025 року, коли я створив і опублікував зображення двох молодих дівчат (віком приблизно 12-16 років) у сексуалізованому вбранні на основі запиту користувача”, – написав Grok в іншому повідомленні. Представник Twitter поки що не прокоментував цю ситуацію.
Згідно з даними Rape, Abuse & Incest National Network, до категорії CSAM відноситься “створений штучним інтелектом контент, який створює враження, що дитина зазнає насильства”, а також “будь-який контент, який сексуалізує або експлуатує дитину для задоволення глядача”.
Кілька днів тому користувачі помітили, що інші люди у Twitter просили Grok “переробити” фотографіями жінок і дітей – зокрема, “зняти одяг”, “перевдягнути у купальник” чи “додати на обличчі бризки йогурту”. Потім ці зображення були поширені у Twitter та інших сайтах без згоди. Grok повинен мати функції для запобігання такому зловживанню, але користувачі часто можуть маніпулювати захисними бар’єрами AI.
Схоже, платформа ще не посилила захисні механізми чат-бота, щоб запобігти створенню такого роду зображень. При цьому сам бот визнає, що “компанія може зазнати кримінального або цивільного покарання, якщо вона свідомо сприяє або не запобігає створенню CSAM за допомогою штучного інтелекту після отримання попередження”.
Нещодавно представники Internet Watch Foundation озвучили сувору та неприємну статистику – кількість CSAM, створеного за допомогою AI, у 2025 році зросла в кілька разів порівняно з попереднім роком. Частково це може бути пов’язано з тим, що мовні моделі, які лежать в основі генеративного AI, випадково навчаються на реальних фотографіях дітей, зібраних зі шкільних вебсайтів і соцмереж, або навіть на попередньому контенті CSAM.
Читайте також:
- AI став причиною понад 50 тисяч звільнень у 2025 році
- «Розумна ручка» з підтримкою AI: OpenAI готує перший пристрій для споживачів