Vírusom sa stala fotografia „výbuchu“ v blízkosti Pentagonu, ktorú vytvorila AI Twitter

Nedávno v Twitter objavila sa fotografia, ktorá, ako sa uvádza v popise, znázorňovala výbuch, ku ktorému došlo v blízkosti Pentagonu. Kvôli tomu došlo dokonca aj ku krátkodobému prepadu trhu – index S&P 500 klesol o 0,29 %, no po tom, čo sa ukázalo, že fotografia je falošná, sa index zotavil. Obrázok bol zverejnený overeným účtom Bloomberg Feed, ktorý napriek svojmu modrému začiarknutiu nie je prepojený s mediálnou spoločnosťou Bloomberg.

Fotografia bola rýchlo rozpoznaná ako falošná. Ten bol zrejme vygenerovaný pomocou umelej inteligencie. Kým sa však tieto detaily objavili, dezinformácie sa už šírili rôznymi účtami, vrátane svinstva Russia Today (no, kto by pochyboval).

Falošný obrázok ukazuje veľký oblak čierneho dymu vedľa budovy, ktorá sa nejasne podobá na Pentagon, so sprievodným textom. Pri bližšom skúmaní miestne úrady potvrdili, že obrázok nie je presnou reprezentáciou Pentagonu a rozmazané stĺpiky plotov a stĺpy budov vyzerali ako dosť nedbalý obrázok vytvorený pomocou modelu AI, ako je Stable Diffusion.

Predtým falošný účet Bloomberg Twitter zablokoval, mal desiatky tisíc tweetov, ale celkovo menej ako 1 000 sledovateľov a nie je jasné, kto ho spustil alebo aká bola motivácia falošného obrázka. Okrem Bloomberg Feed, ďalšie účty, ktoré šíria falošnú správu, zahŕňajú Walter Bloomberg a Breaking Market News, ktoré tiež nie sú spojené so skutočnou spoločnosťou Bloomberg.

Incident poukázal na potenciálne hrozby, ktoré môžu predstavovať obrázky generované AI na sociálnych médiách, kde sa narýchlo zdieľajú neoverené informácie, a systém plateného overovania v Twitter. V marci sa stali virálnymi falošné obrázky zatknutia Donalda Trumpa, vytvorené pomocou Midjourney, a hoci boli okamžite označené za falošné, vyzerali mimoriadne realisticky. Mnohých tiež zviedli obrázky pápeža Františka v bielej páperovej bunde vytvorené AI.

Účet "BloombergFeed" bol teraz zakázaný.

Ale toto sa len zmení na hru so škrípaním.

Falošné obrázky AI + overené falošné správy Twitter účet + mainstreamové médiá nekontrolujú svoje kysléces = recept na katastrofu v našej digitálnej spoločnosti.

Toto sa nespomalí. obr.twitter.com/ZeboVgVm4Z

— Lorenzo Green 〰️ (@mrgreen) Môže 23, 2023

Pápež v páperovej bunde je jedna vec, ale výbuch v sídle amerického ministerstva obrany je niečo úplne iné. Dôsledky môžu byť vážne, ako dokazuje ten istý akciový trh. Priemyselný priemer Dow Jones klesol o 85 bodov za štyri minúty po tom, čo sa tweet stal virálnym, ale rýchlo sa zotavil.

Veľkú časť zmätku okolo falošného tweetu umožnili zmeny v Twitter za čias Elona Muska. Vyhodil mnohých moderátorov obsahu a do značnej miery zautomatizoval proces overovania účtu, čím ho presunul do systému, kde môže za modrý šek zaplatiť ktokoľvek. Kritici tvrdia, že táto prax robí platformu zraniteľnejšou voči dezinformáciám.

Hoci úrady pomerne rýchlo rozpoznali fotografiu explózie ako falošnú, dostupnosť modelov syntézy obrazu, ako sú Midjourney a Stable Diffusion, znamená, že presvedčivé napodobeniny už nevyžadujú umenie a ponecháva určitý priestor pre dezinformácie. Jednoduchosť vytvárania falzifikátov v kombinácii s vírusovou povahou platforiem ako Twitter, znamená, že nepravdivé informácie sa môžu šíriť rýchlejšie, ako sa dajú overiť.

V tomto prípade nemusí byť obraz nevyhnutne vysoko kvalitný, aby vytvoril negatívny vplyv. Odborníci tvrdia, že keď chcú ľudia niečomu veriť, strácajú ostražitosť a neoverujú si pravdivosť informácií.

Prečítajte si tiež:

• Umelá inteligencia jazyka Meta rozpoznáva viac ako 4 000 jazykov
• Adobe pridáva do Photoshopu úpravy generatívnej výplne poháňané AI