Можливості інструментів генерації зображень на основі ШІ досягли такого рівня, що люди можуть прийняти їх за зображення, не створені ШІ, або за справжні зображення. Це викликає занепокоєння щодо їхнього потенційного зловживання.
OpenAI вже запровадила водяні знаки для зображень, згенерованих DALL-E 3, щоб зберегти прозорість джерела та повагу до автентичності. Зараз компанія розробляє новий інструмент, який зможе відрізняти справжні зображення від тих, що згенеровані за допомогою моделі генерації зображень на основі тексту DALL-E.
В офіційному блозі OpenAI з’явилося повідомлення про те, що вони працюють над новими методами виявлення контенту, згенерованого штучним інтелектом. За словами компанії, мета полягає в тому, щоб допомогти дослідникам вивчати автентичність контенту і приєднатися до Coalition for Content Provenance and Authenticity Steering Committee (C2PA), широко використовуваного стандарту для сертифікації цифрового контенту. Це дозволить творцям тегувати та сертифікувати свій контент, щоб перевірити його справжнє походження.
В OpenAI заявляють, що вони також інтегрують метадані C2PA в Sora, модель генерації відео компанії, коли вона буде запущена в широку експлуатацію. Для тих, хто не знає, Sora, ймовірно, буде преміумінструментом для перетворення тексту у відео, як DALL-E 3, де доступ до нього матимуть лише платні підписники. Згідно з попереднім звітом, Sora стане загальнодоступною протягом 2024 року.
Як згадувалося вище, OpenAI також працює над новим інструментом, який використовує ШІ для виявлення зображень, згенерованих DALL-E 3. Зокрема, він прогнозує ймовірність того, що зображення буде згенероване інструментом. За словами компанії, зображення все ще можна виявити після того, як його стискають, змінюють насиченість або навіть обрізають. Не кажучи вже про те, що ці інструменти мають на меті бути більш стійкими до спроб видалення сигналів про походження контенту.
Інструмент виявлення досягає точності 98% для зображень, створених за допомогою DALL-E, і, що більш важливо, не позначає зображення, створені не ШІ, як створені ШІ.
Компанія вже відкрила доступ до нового інструменту виявлення зображень для першої групи тестувальників. До неї входять дослідницькі лабораторії та некомерційні організації, що займаються журналістикою, орієнтованою на дослідження, і має на меті зібрати відгуки через програму доступу для дослідників (Researcher Access Program).
Читайте також: