У вівторок компанія Meta оголосила про свій план почати маркувати зображення, згенеровані штучним інтелектом, від інших компаній, таких як OpenAI і Google. Цей крок спрямований на підвищення прозорості на таких платформах, як Facebook, Instagram і Threads, шляхом інформування користувачів про те, що вміст, який вони бачать, є синтезованим цифровим медіа, а не автентичним фото або відео.
Рішення Meta є частиною ширших зусиль технологічної індустрії щодо встановлення стандартів для маркування контенту, створеного за допомогою генеративних моделей ШІ, які здатні створювати фальшиві, але реалістичні аудіо, зображення та відео на основі письмових підказок.
Президент Meta з глобальних питань Нік Клегг оголосив про це в блозі на сайті Meta. “Ми будемо дотримуватися цього підходу протягом наступного року, коли в усьому світі відбудеться низка важливих виборів, – написав Клегг. – За цей час ми сподіваємося дізнатися набагато більше про те, як люди створюють і обмінюються контентом зі штучним інтелектом, яку прозорість люди вважають найціннішою, і як розвиваються ці технології”.
Клегг зазначив, що ініціатива Meta з маркування контенту, створеного штучним інтелектом, розширить існуючу практику маркування контенту, створеного власними інструментами штучного інтелекту, на зображення, створені за допомогою сервісів інших компаній.
“Ми створюємо провідні в галузі інструменти, які можуть ідентифікувати невидимі маркери в масштабі – зокрема, інформацію “створено штучним інтелектом” в технічних стандартах C2PA і IPTC – щоб ми могли маркувати зображення від Google, OpenAI, Microsoft, Adobe, Midjourney і Shutterstock в міру того, як вони реалізують свої плани з додавання метаданих до зображень, створених їхніми інструментами”.
Меtа каже, що технологія маркування контенту, створеного за допомогою ШІ, базуватиметься на невидимих водяних знаках і метаданих, вбудованих у файли. Meta додає невеликий водяний знак “Imagined with AI” до зображень, створених за допомогою свого загальнодоступного генератора зображень зі штучним інтелектом.
У дописі Клегг висловив упевненість у здатності компаній надійно маркувати зображення, створені за допомогою ШІ, хоча й зазначив, що інструменти для маркування аудіо- та відеоконтенту все ще перебувають на стадії розробки. Тим часом Meta вимагатиме від користувачів маркувати змінений аудіо- та відеоконтент, а за невиконання цієї вимоги передбачені невизначені штрафи.
“Ми вимагатимемо від людей використовувати цей інструмент розкриття інформації та маркування, коли вони публікують органічний контент з фотореалістичним відео або реалістичним звучанням, який був створений або змінений цифровим способом, і ми можемо застосувати штрафні санкції, якщо вони цього не зроблять”, – написав він.
Однак Клегг зазначив, що наразі не існує ефективного способу маркування тексту, створеного штучним інтелектом, що свідчить про те, що вже занадто пізно впроваджувати такі заходи для письмового контенту. Це збігається з нашими повідомленнями про те, що детектори ШІ для тексту не працюють.
Ця заява була зроблена наступного дня після того, як незалежна наглядова рада Meta розкритикувала політику компанії щодо оманливо змінених відео як надто вузьку і рекомендувала позначати такий контент, а не видаляти його. Клегг погодився з критикою, визнавши, що існуюча політика Meta неадекватна для управління зростаючим обсягом синтетичного та гібридного контенту в Інтернеті. Він розглядає нову ініціативу з маркування як крок до виконання рекомендацій наглядової ради та стимулювання загальногалузевого імпульсу для подібних заходів.
Meta визнає, що не зможе виявити згенерований штучним інтелектом контент, створений без водяних знаків або метаданих, наприклад, зображення, створені за допомогою деяких інструментів синтезу зображень зі штучним інтелектом з відкритим вихідним кодом. Meta досліджує технологію водяних знаків для зображень під назвою Stable Signature, яку, як вона сподівається, можна буде вбудувати в генератори зображень з відкритим вихідним кодом. Але поки пікселі залишаються пікселями, їх можна створювати методами, які не контролюються технологічною індустрією, і це залишається проблемою для виявлення ШІ-контенту, оскільки інструменти ШІ з відкритим кодом стають дедалі складнішими та реалістичнішими.
Читайте також: