У міру того, як інструменти ШІ з кожним днем стають все досконалішими, технологічні компанії працюють над тим, щоб громадськість могла відрізнити створений комп’ютером контент від того, що створили люди. Так, OpenAI оголосила про оновлення свого генератора зображень DALL-E, яке має на меті забезпечити більшу прозорість у цьому питанні.
OpenAI включила в DALL-E 3 стандарти C2PA (Coalition for Content Provenance and Authenticity, або Коаліції з перевірки походження та автентичності контенту). Всі зображення, створені за допомогою API, що обслуговує DALL-E 3 або ChatGPT, тепер включатимуть метадані C2PA – вони міститимуть видимий водяний знак, який допоможе ідентифікувати контент як створений за участі ШІ. Ця зміна також буде впроваджена для всіх мобільних користувачів до 12 лютого.
Метадані включатимуть дату створення зображення та логотип C2PA у верхньому лівому куті. Ідея полягає в тому, щоб користувачам було зрозуміло, хто створив зображення – людина чи ШІ. OpenAI стверджує, що водяний знак не вплине на якість зображення або швидкість його створення, але може збільшити розмір файлу приблизно на 3-5% через API та на 32% при генерації за допомогою ChatGPT.
Втім, у користувачів все ще є способи видалити інформацію про походження зображення від штучного інтелекту. Згідно з даними OpenAI, обрізання або створення скріншотів вихідних даних DALL-E може потенційно видалити дані про походження. Маніпуляції з пікселями зображення також потенційно можуть підмінити вбудований водяний знак.
Тож метадані C2PA не є панацеєю для розв’язання питань походження. Вони можуть бути легко видалені як випадково, так і навмисно. Наприклад, більшість соціальних мереж сьогодні видаляють метадані із завантажених зображень, і такі дії, як створення скріншоту, також можуть допомогти їх прибрати.
Microsoft застосовує специфікацію C2PA до результатів роботи Bing Image Creator, заявляючи: “Зображення, створені за допомогою штучного інтелекту, тепер включають невидимий цифровий водяний знак, який відповідає специфікації C2PA”.
Нагадаю, нещодавно ми писали, що Meta почне маркувати контент, завантажений у Facebook, Instagram і Threads, якщо він був створений за допомогою ШІ. Цей крок є частиною постійних зусиль, спрямованих на розробку галузевих стандартів для прозорого маркування контенту, створеного з використанням ШІ.
Читайте також: