Фотографија од „експлозија“ во близина на Пентагон, генерирана од вештачка интелигенција, стана вирална Twitter

Неодамна во Twitter се појави фотографија на која, како што пишуваше во описот, е прикажана експлозија која се случила во близина на Пентагон. Поради ова, имаше дури и краткорочен пад на пазарот - индексот S&P 500 падна за 0,29%, но откако се покажа дека фотографијата е лажна, индексот закрепна. Сликата беше објавена од проверена сметка на Bloomberg Feed, која, и покрај синиот знак за проверка, не е поврзана со медиумската компанија Bloomberg.

Фотографијата брзо беше препознаена како лажна. Очигледно е генерирана со помош на вештачка интелигенција. Но, пред да се појават овие детали, веќе беа ширени дезинформации од различни сметки, вклучувајќи го и ѓубрето Russia Today (добро, кој би се сомневал).

Лажната слика покажува голем облак црн чад покрај зграда што нејасно наликува на Пентагон, со придружниот текст. По поблиска проверка, локалните власти потврдија дека сликата не е точна претстава на Пентагон, а заматените столбови од оградата и столбовите на зградите изгледаа како прилично невешт слика создадена со помош на модел со вештачка интелигенција како Stable Diffusion.

Блумберг лажен профил претходно Twitter го блокираше, имаше десетици илјади твитови, но вкупно помалку од 1 следбеници, а не е јасно кој го управувал и кои мотиви стојат зад ширењето на лажната слика. Покрај Bloomberg Feed, други сметки кои ја шират лажната порака ги вклучуваат Walter Bloomberg и Breaking Market News, кои исто така не се поврзани со вистинската компанија Блумберг.

Инцидентот ги истакна потенцијалните закани што сликите генерирани со вештачка интелигенција можат да ги претставуваат на социјалните мрежи, каде што набрзина се споделуваат непроверени информации и платениот систем за верификација во Twitter. Во март лажните снимки од апсењето на Доналд Трамп, создадени со Midjourney, станаа вирални и додека веднаш беа наречени лажни, изгледаа крајно реално. Исто така, многумина беа заведени од сликите на папата Франциско генерирани од вештачка интелигенција во бела јакна.

Сметката „BloombergFeed“ сега е забранета.

Но, ова само ќе се претвори во игра со удар со крт.

Лажни слики со вештачка интелигенција + потврдени лажни вести Twitter акаунтот + мејнстрим медиумите не ги проверуваат своите киселиces = рецепт за катастрофа во нашето дигитално општество.

Ова нема да забави. сликаtwitter.com/ZeboVgVm4Z

— Лоренцо Грин 〰️ (@mrgreen) Може 23, 2023

Папата во долна јакна е едно, но експлозијата во седиштето на американското Министерство за одбрана е сосема друга работа. Последиците можат да бидат сериозни, докажува истата берза. Индексот на Дау Џонс падна за 85 поени за четири минути откако твитот стана вирален, но брзо закрепна.

Голем дел од конфузијата околу лажниот твит беше овозможен со промените во Twitter во времето на Илон Маск. Тој отпушти многу модератори на содржината и во голема мера го автоматизираше процесот на верификација на сметката, преместувајќи го во систем каде што секој може да плати за син чек. Критичарите велат дека практиката ја прави платформата поранлива на дезинформации.

Иако властите релативно брзо ја препознаа фотографијата од експлозијата како лажна, достапноста на моделите за синтеза на слики како Midjourney и Stable Diffusion значи дека за убедливите фалсификати повеќе не е потребна уметност, оставајќи простор за дезинформации. Леснотијата на создавање фалсификати во комбинација со вирусната природа на платформите како Twitter, значи дека лажните информации може да се шират побрзо отколку што може да се потврдат.

Во овој случај, сликата не мора нужно да биде со висок квалитет за да создаде негативно влијание. Експертите велат дека кога луѓето сакаат да веруваат во нешто, ја губат будноста и не ја проверуваат вистинитоста на информацијата.

Прочитајте исто така:

• Јазичната вештачка интелигенција на Мета препознава повеќе од 4 јазици
• Adobe додава уредување Generative Fill со AI на Photoshop