Fotografija "eksplozije" v bližini Pentagona, ki jo je ustvaril AI, je postala viralna Twitter

Pred kratkim v Twitter se je pojavila fotografija, ki, kot piše v opisu, prikazuje eksplozijo, ki je odjeknila v bližini Pentagona. Zaradi tega je na trgu celo prišlo do kratkotrajnega padca - indeks S&P 500 je upadel za 0,29 %, potem ko se je izkazalo, da je fotografija lažna, pa si je indeks opomogel. Sliko je objavil preverjeni račun Bloomberg Feed, ki kljub modri kljukici ni povezan z medijsko družbo Bloomberg.

Fotografija je bila hitro prepoznana kot lažna. Očitno je bil ustvarjen s pomočjo umetne inteligence. Toda preden so se te podrobnosti pojavile, so dezinformacije že širili različni računi, vključno s podmetom Russia Today (no, kdo bi dvomil).

Lažna slika prikazuje velik oblak črnega dima poleg stavbe, ki nejasno spominja na Pentagon, s spremljajočim besedilom. Po natančnejšem pregledu so lokalne oblasti potrdile, da slika ni natančna predstavitev Pentagona, zamegljeni ograjni stebri in stebri stavb pa so bili videti kot precej površna slika, ustvarjena z modelom AI, kot je Stable Diffusion.

Bloomberg lažni račun pred Twitter ga je blokiral, imel je na desettisoče tvitov, vendar manj kot 1 skupnih sledilcev, in ni jasno, kdo ga je vodil ali kakšna je bila motivacija za lažno sliko. Poleg Bloomberg Feeda drugi računi, ki širijo lažno sporočilo, vključujejo Walter Bloomberg in Breaking Market News, ki prav tako nista povezana s pravim podjetjem Bloomberg.

Incident je izpostavil morebitne grožnje, ki jih lahko predstavljajo slike, ustvarjene z umetno inteligenco, na družbenih omrežjih, kjer se naglo delijo nepreverjene informacije, in plačani sistem preverjanja v Twitter. Marca so lažne slike aretacije Donalda Trumpa, ustvarjene s pomočjo Midjourneyja, postale virusne in čeprav so jih takoj označili za lažne, so bile videti izjemno realistične. Mnoge so zavedle tudi slike papeža Frančiška v beli puhovki, ki jih je ustvarila umetna inteligenca.

Račun "BloombergFeed" je zdaj prepovedan.

Toda to se bo samo spremenilo v igro udarca s krtom.

Lažne slike AI + preverjene lažne novice Twitter račun + mainstream mediji, ki ne preverjajo njihove kislostices = recept za katastrofo v naši digitalni družbi.

To se ne bo upočasnilo. slikatwitter.com/ZeboVgVm4Z

— Lorenzo Green 〰️ (@mrgreen) Maj 23, 2023

Eno je papež v puhovki, nekaj drugega pa je eksplozija na sedežu ameriškega ministrstva za obrambo. Posledice so lahko resne, kar dokazuje ista borza. Industrijsko povprečje Dow Jones je v štirih minutah po tem, ko je tvit postal viralen, padel za 85 točk, a si je hitro opomogel.

Velik del zmede okoli lažnega tvita so omogočile spremembe v Twitter v času Elona Muska. Odpustil je številne moderatorje vsebine in v veliki meri avtomatiziral postopek preverjanja računa ter ga preselil v sistem, kjer lahko vsak plača modri ček. Kritiki pravijo, da je zaradi te prakse platforma bolj ranljiva za napačne informacije.

Čeprav so oblasti razmeroma hitro prepoznale fotografijo eksplozije kot ponaredek, razpoložljivost modelov za sintezo slike, kot sta Midjourney in Stable Diffusion, pomeni, da prepričljivi ponaredki ne zahtevajo več umetnosti, kar pušča nekaj prostora za dezinformacije. Enostavnost ustvarjanja ponaredkov v kombinaciji z virusno naravo platform, kot je Twitter, pomeni, da se lažne informacije lahko širijo hitreje, kot jih je mogoče preveriti.

V tem primeru ni nujno, da je slika visoke kakovosti, da bi ustvarila negativen učinek. Strokovnjaki pravijo, da ljudje, ko hočejo nečemu verjeti, izgubijo pozornost in ne preverjajo resničnosti informacij.

Preberite tudi:

• Metina jezikovna umetna inteligenca prepozna več kot 4 jezikov
• Adobe Photoshopu doda urejanje Generative Fill, ki ga poganja AI