Fotografija "eksplozije" u blizini Pentagona, koju je napravio AI, postala je viralna Twitter

Nedavno u Twitter pojavila se fotografija koja, kako je u opisu stajala, prikazuje eksploziju koja se dogodila u blizini Pentagona. Zbog toga je došlo i do kratkotrajnog pada na tržištu - indeks S&P 500 pao je za 0,29%, ali nakon što se pokazalo da je fotografija lažna, indeks se oporavio. Sliku je postavio verifikovani Bloomberg Feed nalog, koji, uprkos plavoj kvačici, nije povezan sa Bloomberg medijskom kompanijom.

Fotografija je brzo prepoznata kao lažna. Očigledno je stvorena uz pomoć umjetne inteligencije. Ali prije nego što su se ovi detalji pojavili, razni računi su već širili dezinformacije, uključujući i ološ Russia Today (pa, tko bi sumnjao).

Lažna slika prikazuje veliki oblak crnog dima pored zgrade koja nejasno podsjeća na Pentagon, s popratnim tekstom. Nakon detaljnijeg pregleda, lokalne vlasti su potvrdile da slika nije tačan prikaz Pentagona, a zamagljeni stupovi ograde i stupovi zgrada izgledali su kao prilično neuredna slika stvorena korištenjem AI modela poput Stable Diffusion.

Bloomberg lažni račun prije Twitter blokirao, imao je desetine hiljada tvitova, ali ukupno manje od 1 pratilaca, i nejasno je ko ga je vodio ili koja je motivacija iza lažne slike. Pored Bloomberg Feeda, drugi nalozi koji šire lažnu poruku uključuju Walter Bloomberg i Breaking Market News, koji također nisu povezani sa pravom Bloomberg kompanijom.

Incident je naglasio potencijalne prijetnje koje slike generirane umjetnom inteligencijom mogu predstavljati na društvenim mrežama, gdje se neprovjerene informacije žurno dijele, a plaćeni sistem verifikacije u Twitter. U martu su lažne slike hapšenja Donalda Trampa, kreirane korišćenjem Midjourneyja, postale viralne, i iako su odmah nazvane lažnim, izgledale su izuzetno realno. Također, mnoge su doveli u zabludu slike pape Franje u bijeloj donjoj jakni koje je stvorila umjetna inteligencija.

"BloombergFeed" nalog je sada zabranjen.

Ali ovo će se samo pretvoriti u igru ​​udarca.

Lažne AI slike + provjerene lažne vijesti Twitter račun + mainstream mediji ne provjeravaju njihovu kiselostces = recept za katastrofu u našem digitalnom društvu.

Ovo neće usporiti. slikatwitter.com/ZeboVgVm4Z

— Lorenzo Green 〰️ (@mrgreen) Može 23, 2023

Papa u donjoj jakni je jedno, a eksplozija u sjedištu američkog Ministarstva odbrane sasvim drugo. Posljedice mogu biti ozbiljne, što dokazuje ista berza. Dow Jones Industrial Average pao je za 85 bodova u četiri minute nakon što je tvit postao viralan, ali se brzo oporavio.

Veliku zabunu oko lažnog tvita omogućile su promjene u Twitter u vreme Elona Maska. Otpustio je mnoge moderatore sadržaja i u velikoj mjeri automatizirao proces verifikacije računa, premjestivši ga na sistem gdje svako može platiti plavi ček. Kritičari kažu da ova praksa čini platformu ranjivijom na dezinformacije.

Iako su vlasti relativno brzo prepoznale fotografiju eksplozije kao lažnu, dostupnost modela sinteze slike kao što su Midjourney i Stable Diffusion znači da uvjerljivi lažnjaci više ne zahtijevaju umjetnost, ostavljajući prostora za dezinformacije. Lakoća stvaranja lažnih u kombinaciji s viralnom prirodom platformi poput Twitter, znači da se lažne informacije mogu širiti brže nego što se mogu provjeriti.

U ovom slučaju, slika ne mora nužno biti visokog kvaliteta da bi stvorila negativan utjecaj. Stručnjaci kažu da kada ljudi žele da vjeruju u nešto, gube budnost i ne provjeravaju istinitost informacija.

Pročitajte također:

• Meta jezik AI prepoznaje više od 4 jezika
• Adobe dodaje uređivanje generativnog popunjavanja pomoću umjetne inteligencije u Photoshop