AI ģenerēta “sprādziena” fotogrāfija pie Pentagona kļuva plaši izplatīta Twitter

Nesen iekšā Twitter parādījās fotogrāfija, kurā, kā teikts aprakstā, bija attēlots sprādziens, kas notika netālu no Pentagona. Šī iemesla dēļ tirgū bija pat īslaicīgs kritums - S&P 500 indekss kritās par 0,29%, bet pēc tam, kad izrādījās, ka fotogrāfija ir viltota, indekss atguvās. Attēlu ievietojis pārbaudīts Bloomberg Feed konts, kas, neskatoties uz zilo atzīmi, nav saistīts ar Bloomberg mediju uzņēmumu.

Fotoattēls ātri tika atzīts par viltotu. Acīmredzot tas tika ģenerēts ar mākslīgā intelekta palīdzību. Taču pirms šo detaļu parādīšanās dezinformāciju jau bija izplatījuši dažādi konti, tostarp švaki Russia Today (nu, kurš gan šaubīsies).

Viltotajā attēlā redzams liels melnu dūmu spārns blakus ēkai, kas neskaidri atgādina Pentagonu, un tam pievienots teksts. Pēc rūpīgākas pārbaudes vietējās varas iestādes apstiprināja, ka attēls nav precīzs Pentagona attēlojums, un izplūdušie žoga stabi un ēku kolonnas izskatījās kā diezgan apliets attēls, kas izveidots, izmantojot AI modeli, piemēram, Stable Diffusion.

Bloomberg viltus konts iepriekš Twitter bloķēja to, bija desmitiem tūkstošu tvītu, bet kopējais sekotāju skaits ir mazāks par 1, un nav skaidrs, kas to vadīja un kāda bija viltus attēla izplatīšanas motivācija. Papildus Bloomberg Feed, citi konti, kas izplata nepatiesu ziņojumu, ietver Walter Bloomberg un Breaking Market News, kas arī nav saistīti ar īsto Bloomberg uzņēmumu.

Incidents atklāja iespējamos draudus, ko AI ģenerēti attēli var radīt sociālajos medijos, kur steidzīgi tiek izplatīta nepārbaudīta informācija, kā arī maksas verifikācijas sistēma Twitter. Martā izplatījās viltoti Donalda Trampa aizturēšanas attēli, kas izveidoti, izmantojot Midjourney, un, lai gan tie uzreiz tika nosaukti par viltotiem, tie izskatījās ārkārtīgi reālistiski. Tāpat daudzus maldināja mākslīgā intelekta radītie attēli ar pāvestu Francisku baltā dūnu jakā.

BloombergFeed konts tagad ir aizliegts.

Bet šī tikai kļūs par dauzīt-kurmju spēli.

Viltus AI attēli + pārbaudītas viltus ziņas Twitter konts + mainstream mediji nepārbauda to skābuces = recepte katastrofai mūsu digitālajā sabiedrībā.

Tas nepalēninās. attēlstwitter.com/ZeboVgVm4Z

— Lorenco Grīns 〰️ (@mrgreen) 23. gada 2023. maijs

Pāvests dūnu jakā ir viena lieta, bet sprādziens ASV Aizsardzības ministrijas galvenajā mītnē ir pavisam kas cits. Sekas var būt nopietnas, kā to pierāda tas pats akciju tirgus. Dow Jones Industrial Average kritās par 85 punktiem četru minūšu laikā pēc tvīta izplatības, taču ātri atguvās.

Liela daļa neskaidrību saistībā ar viltus tvītu bija iespējama, pateicoties izmaiņām Twitter Īlona Maska laikā. Viņš atlaida daudzus satura moderatorus un lielā mērā automatizēja konta verifikācijas procesu, pārvietojot to uz sistēmu, kurā ikviens var samaksāt par zilo čeku. Kritiķi saka, ka šī prakse platformu padara neaizsargātāku pret dezinformāciju.

Lai gan varas iestādes salīdzinoši ātri atpazina sprādziena fotogrāfiju kā viltojumu, tādu attēlu sintēzes modeļu kā Midjourney un Stable Diffusion pieejamība nozīmē, ka viltojumu pārliecināšanai vairs nav nepieciešama mākslinieciskums, atstājot zināmu vietu dezinformācijai. Viltojuma izveides vieglums apvienojumā ar tādu platformu vīrusu raksturu kā Twitter, nozīmē, ka nepatiesa informācija var izplatīties ātrāk, nekā to var pārbaudīt.

Šajā gadījumā attēlam nav obligāti jābūt augstas kvalitātes, lai radītu negatīvu ietekmi. Speciālisti saka, ka cilvēki, gribot kaut kam ticēt, zaudē modrību un nepārbauda informācijas patiesumu.

Lasi arī:

• Meta valoda AI atpazīst vairāk nekā 4 valodu
• Adobe Photoshop pievieno ģeneratīvās aizpildīšanas rediģēšanu ar mākslīgo intelektu