Tehisintellekti loodud foto Pentagoni lähedal aset leidnud "plahvatusest" levis levima Twitter

Hiljuti sisse Twitter ilmus foto, millel, nagu kirjelduses öeldud, oli kujutatud Pentagoni lähedal toimunud plahvatust. Selle tõttu toimus turul isegi lühiajaline langus - S&P 500 indeks langes 0,29%, kuid pärast seda, kui selgus, et foto on võlts, indeks taastus. Pildi postitas kinnitatud Bloomberg Feedi konto, mis vaatamata sinisele linnukesele ei ole Bloombergi meediaettevõttega seotud.

Foto tunnistati kiiresti võltsiks. See loodi ilmselt tehisintellekti abil. Kuid enne nende üksikasjade ilmumist levitasid desinformatsiooni juba erinevad kontod, sealhulgas räpane Russia Today (noh, kes kahtleks).

Võltspildil on kujutatud suurt musta suitsusamba hoone kõrval, mis ähmaselt Pentagoni meenutab, koos saatetekstiga. Lähemal uurimisel kinnitasid kohalikud võimud, et pilt ei kujutanud täpselt Pentagonit ning hägused aiapostid ja hoonesambad nägid välja üsna lohaka pildina, mis on loodud tehisintellekti mudeliga nagu Stable Diffusion.

Bloombergi võltskonto enne Twitter blokeeris selle, tal oli kümneid tuhandeid säutse, kuid jälgijaid oli kokku vähem kui 1 ning pole selge, kes seda juhtis ja mis ajendid võltspildi levitamise taga olid. Lisaks Bloomberg Feedile on teiste valesõnumit levitavate kontode hulgas Walter Bloomberg ja Breaking Market News, mis pole samuti seotud tegeliku Bloombergi ettevõttega.

Juhtum tõi esile potentsiaalsed ohud, mida tehisintellektiga loodud pildid võivad kujutada endast sotsiaalmeedias, kus jagatakse kiirustades kontrollimata teavet, ja tasulises kontrollisüsteemis. Twitter. Märtsis levisid Midjourney abil loodud Donald Trumpi vahistamise võltspildid ja kuigi neid nimetati kohe võltsiks, nägid need välja äärmiselt realistlikud. Samuti eksitasid paljusid tehisintellektiga loodud kujutised paavst Franciscusest valges sulejopes.

"BloombergFeedi" konto on nüüd keelatud.

Kuid sellest saab lihtsalt möll-mutimäng.

AI võltspildid + kinnitatud võltsuudised Twitter konto + peavoolumeedia ei kontrolli oma hapuces = katastroofi retsept meie digitaalses ühiskonnas.

See ei aeglustu. pilttwitter.com/ZeboVgVm4Z

- Lorenzo Green 〰️ (@mrgreen) Võib 23 2023

Sulejopes paavst on üks asi, aga plahvatus USA kaitseministeeriumi peakorteris on hoopis midagi muud. Tagajärjed võivad olla tõsised, nagu sama aktsiaturg tõestab. Dow Jonesi tööstuskeskmine langes nelja minutiga pärast säutsu levimist 85 punkti, kuid taastus kiiresti.

Suur osa võltssäutsiga seotud segadusest sai võimalikuks tänu muudatustele Twitter Elon Muski ajal. Ta vallandas paljud sisumoderaatorid ja automatiseeris suures osas konto kinnitamise protsessi, viies selle üle süsteemi, kus igaüks saab sinise tšeki eest maksta. Kriitikud ütlevad, et see tava muudab platvormi desinformatsiooni suhtes haavatavamaks.

Kuigi võimud tunnistasid plahvatusest tehtud foto suhteliselt kiiresti võltsiks, tähendab piltide sünteesimudelite, nagu Midjourney ja Stable Diffusion, kättesaadavus seda, et võltsingute veenmine ei nõua enam kunstilisust, jättes ruumi desinformatsioonile. Võltsingute loomise lihtsus koos selliste platvormide viirusliku olemusega nagu Twitter, tähendab, et valeinformatsioon võib levida kiiremini, kui seda on võimalik kontrollida.

Sellisel juhul ei pea pilt negatiivse mõju tekitamiseks tingimata kvaliteetne olema. Eksperdid ütlevad, et kui inimesed tahavad midagi uskuda, kaotavad nad valvsuse ega kontrolli teabe õigsust.

Loe ka:

• Meta keel AI tunneb ära rohkem kui 4 keelt
• Adobe lisab Photoshopi tehisintellektil põhineva generatiivse täitmise redigeerimise