Після тривалих скандалів та перевірок представники Twitter оголосили про зміну політики щодо генерування зображень за допомогою чат-бота Grok. Компанію звинувачували в тому, що її штучний інтелект неодноразово створював сексуалізовані зображення дітей, а також оголені або напівоголені зображення реальних людей без їхньої згоди.
Щоб дізнатись останні новини, слідкуйте за нашим каналом Google News онлайн або через застосунок.
В офіційному повідомленні, опублікованому з акаунту @Safety у Twitter, компанія заявила, що вже “впровадила технологічні заходи, щоб запобігти редагуванню акаунтом Grok зображень реальних людей у відвертому одязі, такому як бікіні”.
За словами представників платформи, нові запобіжники діятимуть для всіх користувачів без винятку – незалежно від того, чи мають вони платну підписку на Grok. Водночас компанія xAI ухвалила рішення перенести всі функції генерації зображень Grok за платний доступ. Це означає, що користувачі без підписки більше не зможуть створювати зображення за допомогою чат-бота.
Крім того, Twitter повідомила про запровадження геоблокування: у регіонах, де це суперечить законодавству, для всіх користувачів буде повністю заблокована можливість генерувати зображення реальних людей у бікіні, спідній білизні або подібному одязі, як через акаунт Grok, так і безпосередньо в інтерфейсі Grok у соцмережі.
Ця заява з’явилася лише за кілька годин після того, як штат Каліфорнія офіційно відкрив розслідування щодо xAI та Grok. Причина – можливі порушення, пов’язані з обробкою матеріалів, створених за допомогою штучного інтелекту, що містять оголеність та експлуатацію дітей. Генеральний прокурор Каліфорнії Роб Бонта у своїй заяві послався на аналітичне дослідження, яке показало, що “понад половину з 20000 зображень, створених xAI між Різдвом і Новим роком, зображували людей у мінімумі одягу”, зокрема й таких, що виглядали як діти.
У своєму оновленні Twitter наголосила, що має “нульову толерантність” до експлуатації дітей і що платформа оперативно видаляє контент найвищого рівня порушень, включно з матеріалами сексуального насильства над дітьми (CSAM) та зображеннями інтимного характеру без згоди.
Ілон Маск заявив, що йому “не знає про жодні зображення оголених неповнолітніх, згенеровані Grok”. Згодом він додав, що за ввімкнених NSFW-налаштувань Grok “повинен [sic] дозволяти оголення верхньої частини тіла уявних дорослих людей (не реальних) відповідно до того, що можна побачити у фільмах з рейтингом R на Apple TV”. І також зазначив, що правила можуть відрізнятися залежно від регіону та місцевих законів.
Тим часом низка країн уже перейшла від заяв до конкретних дій. Як ми нещодавно писали, Малайзія та Індонезія заблокували Grok, посилаючись на загрози безпеці та неналежну реакцію платформи на відвертий контент, згенерований за допомогою AI. У Великій Британії регулятор Ofcom також проводить розслідування щодо xAI та Grok, а британські посадовці заявили, що готові підтримати аналогічне блокування чат-бота, якщо порушення підтвердяться.
Читайте також:
- Не тільки для програмістів: Anthropic спрощує роботу з AI для всіх
- YouTube розширює функцію батьківського контролю в Україні та світі