Снимка на „експлозия“ близо до Пентагона, генерирана от AI, стана вирусна Twitter

Наскоро в Twitter се появи снимка, която, както се казва в описанието, изобразява експлозия, избухнала близо до Пентагона. Заради това дори имаше краткотраен спад на пазара - индексът S&P 500 падна с 0,29%, но след като се оказа, че снимката е фалшива, индексът се възстанови. Изображението е публикувано от потвърден акаунт в Bloomberg Feed, който въпреки синята си отметка не е свързан с медийната компания Bloomberg.

Снимката бързо беше разпозната като фалшива. Очевидно е генериран с помощта на изкуствен интелект. Но преди тези подробности да се появят, дезинформация вече беше разпространена от различни акаунти, включително мръсника Russia Today (е, кой би се съмнявал).

Фалшивото изображение показва голям облак черен дим до сграда, която смътно наподобява Пентагона, с придружаващ текст. При по-внимателна проверка местните власти потвърдиха, че изображението не е точно представяне на Пентагона, а замъглените стълбове на оградата и колоните на сградата изглеждаха като доста небрежно изображение, създадено с помощта на AI модел като Stable Diffusion.

Bloomberg фалшив акаунт преди Twitter го блокира, имаше десетки хиляди туитове, но общо по-малко от 1 последователи и не е ясно кой го управлява и какви са мотивите зад разпространението на фалшивото изображение. В допълнение към Bloomberg Feed, други акаунти, които разпространяват фалшивото съобщение, включват Walter Bloomberg и Breaking Market News, които също не са свързани с истинската компания Bloomberg.

Инцидентът подчерта потенциалните заплахи, които генерираните от AI изображения могат да представляват в социалните медии, където набързо се споделя непроверена информация, и платената система за проверка в Twitter. През март фалшивите изображения на ареста на Доналд Тръмп, създадени с помощта на Midjourney, станаха вирусни и макар веднага да бяха наречени фалшиви, изглеждаха изключително реалистични. Освен това мнозина бяха подведени от генерирани от AI изображения на папа Франциск в бяло пухено яке.

Акаунтът "BloombergFeed" вече е забранен.

Но това просто ще се превърне в игра на къртица.

Фалшиви AI изображения + проверени фалшиви новини Twitter акаунт + мейнстрийм медии, които не проверяват киселото имces = рецепта за катастрофа в нашето цифрово общество.

Това няма да се забави. снимкаtwitter.com/ZeboVgVm4Z

— Лоренцо Грийн 〰️ (@mrgreen) Май 23, 2023

Папата в пухено яке е едно, но експлозия в централата на Министерството на отбраната на САЩ е съвсем друго. Последствията могат да бъдат сериозни, както доказва същата борса. Dow Jones Industrial Average падна с 85 пункта за четирите минути, след като туитът стана вирусен, но бързо се възстанови.

Голяма част от объркването около фалшивия туит стана възможно благодарение на промените в Twitter по времето на Илон Мъск. Той уволни много модератори на съдържание и до голяма степен автоматизира процеса на проверка на акаунта, премествайки го в система, в която всеки може да плати за син чек. Критиците казват, че тази практика прави платформата по-уязвима към дезинформация.

Въпреки че властите сравнително бързо разпознаха снимката на експлозията като фалшива, наличието на модели за синтез на изображения като Midjourney и Stable Diffusion означава, че убедителните фалшификати вече не изискват артистичност, оставяйки място за дезинформация. Лесното създаване на фалшификати, съчетано с вирусния характер на платформи като Twitter, означава, че невярната информация може да се разпространи по-бързо, отколкото може да бъде проверена.

В този случай не е задължително изображението да е с високо качество, за да създаде отрицателно въздействие. Експертите казват, че когато хората искат да повярват на нещо, те губят бдителността си и не проверяват истинността на информацията.

Прочетете също:

• Езиковият изкуствен интелект на Meta разпознава повече от 4 езика
• Adobe добавя задвижвано от AI редактиране на Generative Fill към Photoshop