Фото “вибуху” біля Пентагону, згенероване ШІ, стало вірусним у Twitter

Нещодавно у Twitter з’явилося фото, на якому, як йшлося в описі, зображено вибух, що стався біля Пентагону. Через це навіть відбулося короткострокове падіння ринку – індекс S&P 500 знизився на 0,29%, але після того, як з’ясувалося, що фото підроблене, індекс відновився. Зображення розмістив верифікований акаунт Bloomberg Feed, який, попри свою синю галочку, до медіакомпанії Bloomberg жодного стосунку не має.

Фото доволі швидко визнали фейковим. Його, вочевидь, згенерували за допомогою штучного інтелекту. Але до того, як з’явилися ці подробиці, дезінформацію вже поширили різні акаунти, в тому числі помийка russia today (ну хто б сумнівався).

На фейковому зображенні представлений великий стовп чорного диму поряд з будівлею, що віддалено нагадує Пентагон, з супроводжувальним текстом. При ближчому розгляді місцева влада підтвердила, що зображення не є точним зображенням Пентагону, а розмиті прути огорожі та колони будівель виглядають як досить недбале зображення, створене за допомогою такої моделі ШІ, як Stable Diffusion.

Фальшивий акаунт Bloomberg до того, як Twitter його заблокував, мав десятки тисяч твітів, але загалом налічував менше ніж 1 000 підписників, і незрозуміло, хто ним керував і які мотиви стояли за поширенням фальшивого зображення. Окрім Bloomberg Feed, інші акаунти, які поширили неправдиве повідомлення, включають Walter Bloomberg і Breaking Market News, які також не пов’язані з реальною компанією Bloomberg.

Цей інцидент підкреслив потенційні загрози, які можуть становити зображення, створені ШІ, у соціальних мережах, де поспіхом поширюється неперевірена інформація, і платна система верифікації у Twitter. У березні фейкові зображення арешту Дональда Трампа, створені за допомогою Midjourney, охопили широку аудиторію, і хоча їх одразу назвали фейковими, виглядали вони вкрай реалістично. Також багатьох ввели в оману згенеровані ШІ зображення Папи Франциска в білому пуховику.

The "BloombergFeed" account has now been banned.

But this is just going to turn into a whack-a-mole game.

Fake AI images + verified fake news Twitter account + mainstream media not checking their sources = a recipe for disaster in our digital society.

This won't slow down. pic.twitter.com/ZeboVgVm4Z

— Lorenzo Green 〰️ (@mrgreen) May 23, 2023

Папа Римський у пуховику – це одне, але вибух у штаб-квартирі Міноборони США – геть інше. Наслідки можуть бути серйозними, що доводить той самий фондовий ринок. Промисловий індекс Доу-Джонса впав на 85 пунктів за чотири хвилини після поширення твіту, але швидко відновився.

Значною мірою плутанина навколо фейкового твіту стала можливою завдяки змінам у Twitter за часів Ілона Маска. Він звільнив багато модераторів контенту і значною мірою автоматизував процес верифікації акаунтів, перевівши його на систему, де кожен може заплатити за синю галочку. Критики стверджують, що така практика робить платформу вразливішою до дезінформації.

Хоча влада відносно швидко визнала фото вибуху фейком, наявність моделей синтезу зображень на кшталт Midjourney і Stable Diffusion, означає, що для створення переконливих фейків більше не потрібна художня майстерність, і це дає певний простір для дезінформації. Легкість створення фейків у поєднанні з вірусним характером таких платформ, як Twitter, означає, що неправдива інформація може поширюватися швидше, ніж її встигнуть перевірити.

В цьому випадку зображення не обов’язково повинно бути високої якості, щоб створити негативний вплив. Експерти говорять, що коли люди хочуть у щось повірити, то втрачають пильність і не перевіряють правдивість інформації.

Читайте також:

• Мовний ШІ від Meta розпізнає понад 4 000 мов
• Adobe додає у Photoshop функцію редагування Generative Fill зі ШІ