Virální se stala fotografie „exploze“ poblíž Pentagonu, kterou vytvořila umělá inteligence Twitter

Nedávno v Twitter objevila se fotografie, která, jak popis říkal, zachycovala výbuch, ke kterému došlo poblíž Pentagonu. Kvůli tomu dokonce došlo ke krátkodobému propadu trhu – index S&P 500 klesl o 0,29 %, ale poté, co se ukázalo, že fotografie je falešná, se index vzpamatoval. Obrázek byl zveřejněn ověřeným účtem Bloomberg Feed, který i přes své modré zaškrtnutí není spojen s mediální společností Bloomberg.

Fotografie byla rychle rozpoznána jako falešná. Ten byl zřejmě generován pomocí umělé inteligence. Než se ale tyto detaily objevily, byly již dezinformace šířeny různými účty, včetně zmetku Russia Today (no, kdo by pochyboval).

Falešný obrázek ukazuje velký oblak černého kouře vedle budovy, která matně připomíná Pentagon, s doprovodným textem. Po bližším prozkoumání místní úřady potvrdily, že obrázek nebyl přesným zobrazením Pentagonu a rozmazané sloupky plotů a sloupy budov vypadaly jako poněkud nedbalý obrázek vytvořený pomocí modelu umělé inteligence, jako je Stable Diffusion.

Dříve falešný účet Bloomberg Twitter zablokoval, měl desítky tisíc tweetů, ale celkově méně než 1 000 sledujících, a není jasné, kdo to spustil nebo jaká byla motivace za falešným obrázkem. Kromě Bloomberg Feed patří mezi další účty, které šíří falešnou zprávu, Walter Bloomberg a Breaking Market News, které rovněž nejsou spojeny se skutečnou společností Bloomberg.

Incident upozornil na potenciální hrozby, které mohou představovat obrázky generované umělou inteligencí na sociálních sítích, kde jsou narychlo sdíleny neověřené informace, a systém placeného ověřování v Twitter. V březnu se falešné záběry zatčení Donalda Trumpa vytvořené s Midjourney staly virálními, a přestože byly okamžitě označeny za falešné, vypadaly extrémně realisticky. Mnozí byli také vyvedeni z omylu obrázky papeže Františka v bílé péřové bundě vytvořené AI.

Účet "BloombergFeed" byl nyní zakázán.

Ale tohle se prostě změní v hru s mrkáním.

Falešné obrázky AI + ověřené falešné zprávy Twitter účet + mainstreamová média nekontrolují své kyseléces = recept na katastrofu v naší digitální společnosti.

Tohle se nezpomalí. obr.twitter.com/ZeboVgVm4Z

— Lorenzo Green 〰️ (@mrgreen) 23

Papež v péřové bundě je jedna věc, ale výbuch v sídle amerického ministerstva obrany je věc druhá. Důsledky mohou být vážné, jak dokazuje stejný akciový trh. Dow Jones Industrial Average klesl o 85 bodů během čtyř minut poté, co se tweet stal virálním, ale rychle se vzpamatoval.

Velká část zmatku kolem falešného tweetu byla umožněna změnami v Twitter za dob Elona Muska. Vyhodil mnoho moderátorů obsahu a do značné míry zautomatizoval proces ověřování účtu a přesunul jej do systému, kde může kdokoli zaplatit modrý šek. Kritici tvrdí, že tato praxe činí platformu zranitelnější vůči dezinformacím.

Ačkoli úřady poměrně rychle rozpoznaly fotografii exploze jako falešnou, dostupnost modelů syntézy obrazu, jako je Midjourney a Stable Diffusion, znamená, že přesvědčivé padělky již nevyžadují umění a ponechává určitý prostor pro dezinformace. Snadnost vytváření padělků v kombinaci s virální povahou platforem jako Twitter, znamená, že nepravdivé informace se mohou šířit rychleji, než je lze ověřit.

V tomto případě nemusí být obraz nutně vysoce kvalitní, aby vyvolal negativní dopad. Odborníci tvrdí, že když lidé chtějí něčemu věřit, ztrácejí ostražitost a neověřují si pravdivost informací.

Přečtěte si také:

• Jazyková umělá inteligence Meta rozpoznává více než 4 000 jazyků
• Adobe přidává do Photoshopu úpravy generativní výplně založené na umělé inteligenci