„Sprogimo“ nuotrauka netoli Pentagono, sukurta dirbtinio intelekto, išplito Twitter

Neseniai į Twitter pasirodė nuotrauka, kurioje, kaip rašoma aprašyme, buvo pavaizduotas netoli Pentagono įvykęs sprogimas. Dėl šios priežasties rinkoje buvo net trumpalaikis kritimas – S&P 500 indeksas krito 0,29%, tačiau paaiškėjus, kad nuotrauka netikra, indeksas atsigavo. Vaizdas buvo paskelbtas patvirtintoje „Bloomberg Feed“ paskyroje, kuri, nepaisant mėlynos varnelės, nėra susijusi su „Bloomberg“ žiniasklaidos kompanija.

Nuotrauka greitai buvo pripažinta netikra. Matyt, jis buvo sukurtas dirbtinio intelekto pagalba. Tačiau prieš pasirodant šioms detalėms, dezinformaciją jau skleidė įvairios paskyros, tarp jų ir niekšas „Russia Today“ (na, kas abejotų).

Suklastotame paveikslėlyje pavaizduotas didelis juodų dūmų stulpas šalia pastato, kuris neaiškiai primena Pentagoną, ir jį lydintis tekstas. Atidžiau apžiūrėjus vietos valdžios institucijos patvirtino, kad vaizdas nėra tikslus Pentagono vaizdas, o neryškūs tvoros stulpai ir pastato kolonos atrodė kaip gana aplaistytas vaizdas, sukurtas naudojant dirbtinio intelekto modelį, pvz., „Stable Diffusion“.

„Bloomberg“ netikra paskyra anksčiau Twitter jį užblokavo, turėjo dešimtis tūkstančių tviterinių žinučių, bet iš viso mažiau nei 1 sekėjų, ir neaišku, kas jį paleido ar kokia buvo netikro vaizdo motyvacija. Be „Bloomberg Feed“, kitos paskyros, skleidžiančios melagingą žinią, yra Walteris Bloombergas ir „Breaking Market News“, kurios taip pat nėra susijusios su tikra Bloomberg kompanija.

Incidentas atskleidė galimas grėsmes, kurias gali kelti dirbtinio intelekto sukurti vaizdai socialinėje žiniasklaidoje, kur skubotai dalijamasi nepatikrinta informacija, o mokama tikrinimo sistema Twitter. Kovo mėnesį netikri Donaldo Trumpo suėmimo vaizdai, sukurti naudojant Midjourney, paplito ir, nors iškart buvo pavadinti netikrais, atrodė itin tikroviškai. Be to, daugelį suklaidino dirbtinio intelekto sukurti popiežiaus Pranciškaus vaizdai su balta pūkine striuke.

„BloombergFeed“ paskyra dabar uždrausta.

Bet tai tik pavirs į mušimo kurmio žaidimą.

Netikri AI vaizdai + patikrintos netikros naujienos Twitter paskyra + pagrindinė žiniasklaida, kuri netikrina jų rūgščiųces = nelaimės receptas mūsų skaitmeninėje visuomenėje.

Tai nesulėtės. pav.twitter.com/ZeboVgVm4Z

- Lorenzo Green 〰️ (@mrgreen) Gali 23, 2023

Popiežius su pūkine striuke yra viena, o sprogimas JAV Gynybos departamento būstinėje – visai kas kita. Pasekmės gali būti rimtos, kaip įrodo ta pati akcijų rinka. Dow Jones Industrial Average krito 85 taškais per keturias minutes po to, kai tviteris išplito, tačiau greitai atsigavo.

Daug painiavos, susijusios su netikru tviteriu, tapo įmanoma dėl pakeitimų Twitter Elono Musko laikais. Jis atleido daugybę turinio moderatorių ir iš esmės automatizavo paskyros patvirtinimo procesą, perkeldamas jį į sistemą, kurioje kiekvienas gali sumokėti už mėlyną čekį. Kritikai teigia, kad tokia praktika platformą daro labiau pažeidžiamą dezinformacijos.

Nors valdžia gana greitai atpažino sprogimo nuotrauką kaip padirbtą, vaizdo sintezės modeliai, tokie kaip „Midjourney“ ir „Stable Diffusion“, reiškia, kad norint įtikinti klastotes nebereikia meniškumo, todėl lieka vietos dezinformacijai. Klastočių kūrimo paprastumas kartu su virusiniu tokių platformų pobūdžiu Twitter, reiškia, kad klaidinga informacija gali plisti greičiau, nei ją galima patikrinti.

Tokiu atveju vaizdas nebūtinai turi būti aukštos kokybės, kad sukurtų neigiamą poveikį. Specialistai teigia, kad kai žmonės nori kažkuo tikėti, jie praranda budrumą ir netikrina informacijos tikrumo.

Taip pat skaitykite:

• Meta kalba AI atpažįsta daugiau nei 4 kalbų
• „Adobe“ prie „Photoshop“ prideda AI pagrįstą generatyvaus užpildymo redagavimą