Ett foto av en "explosion" nära Pentagon, genererad av AI, blev viralt Twitter

Nyligen in Twitter ett foto dök upp, som, som beskrivningen sa, föreställde en explosion som inträffade nära Pentagon. På grund av detta blev det till och med ett kortsiktigt fall på marknaden - S&P 500-indexet sjönk med 0,29%, men efter att det visade sig att bilden var falsk återhämtade sig indexet. Bilden postades av ett verifierat Bloomberg Feed-konto, som trots sin blå bock inte är knuten till Bloombergs mediabolag.

Bilden upptäcktes snabbt som falsk. Den genererades tydligen med hjälp av artificiell intelligens. Men innan dessa detaljer dök upp hade desinformation redan spridits av olika konton, inklusive skurken Russia Today (tja, vem skulle tvivla).

Den falska bilden visar en stor plym av svart rök bredvid en byggnad som vagt liknar Pentagon, med tillhörande text. Vid närmare granskning bekräftade lokala myndigheter att bilden inte var en korrekt representation av Pentagon, och de suddiga staketstolparna och byggnadsstolparna såg ut som en ganska slarvig bild skapad med en AI-modell som Stable Diffusion.

Bloomberg falskt konto tidigare Twitter blockerade det, hade tiotusentals tweets, men mindre än 1 000 följare totalt, och det är oklart vem som körde det eller vad motivet bakom den falska bilden var. Förutom Bloomberg Feed är andra konton som sprider det falska budskapet Walter Bloomberg och Breaking Market News, som inte heller är anslutna till det riktiga Bloomberg-företaget.

Incidenten belyste de potentiella hoten som AI-genererade bilder kan utgöra på sociala medier, där overifierad information hastigt delas, och det betalda verifieringssystemet i Twitter. I mars blev falska bilder av Donald Trumps arrestering, skapade med Midjourney, virala, och även om de omedelbart kallades falska såg de extremt realistiska ut. Många blev också vilseledda av AI-genererade bilder av påven Franciskus i en vit dunjacka.

Kontot "BloombergFeed" har nu förbjudits.

Men det här kommer bara att förvandlas till ett mullvadsspel.

Falska AI-bilder + verifierade falska nyheter Twitter konto + mainstream media kontrollerar inte deras suraces = ett recept på katastrof i vårt digitala samhälle.

Det här kommer inte att sakta ner. bild.twitter.com/ZeboVgVm4Z

— Lorenzo Green 〰️ (@mrgreen) Maj 23, 2023

Påven i dunjacka är en sak, men en explosion i det amerikanska försvarsdepartementets högkvarter är en helt annan. Konsekvenserna kan bli allvarliga, vilket samma börs bevisar. Dow Jones Industrial Average föll med 85 poäng under de fyra minuterna efter att tweeten blev viral, men återhämtade sig snabbt.

Mycket av förvirringen kring den falska tweeten möjliggjordes av förändringar i Twitter under Elon Musks tid. Han sparkade många innehållsmoderatorer och automatiserade till stor del kontoverifieringsprocessen och flyttade den till ett system där vem som helst kan betala för en blå check. Kritiker säger att praktiken gör plattformen mer sårbar för desinformation.

Även om myndigheterna var relativt snabba med att känna igen bilden av explosionen som en bluff, innebär tillgängligheten av bildsyntesmodeller som Midjourney och Stable Diffusion att övertygande förfalskningar inte längre kräver artisteri, vilket lämnar ett visst utrymme för desinformation. Lättheten att skapa förfalskningar i kombination med den virala naturen hos plattformar som Twitter, betyder att falsk information kan spridas snabbare än den kan verifieras.

I det här fallet behöver bilden inte nödvändigtvis vara av hög kvalitet för att skapa en negativ påverkan. Experter säger att när människor vill tro på något, tappar de sin vaksamhet och kontrollerar inte sanningshalten i informationen.

Läs också:

• Metas språk AI känner igen mer än 4 000 språk
• Adobe lägger till AI-driven generativ fyllningsredigering i Photoshop