A Pentagon melletti "robbanásról" készült fotó, amelyet mesterséges intelligencia generált, vírusként terjedt Twitter

Nemrég be Twitter megjelent egy fotó, amely a leírás szerint a Pentagon közelében történt robbanást ábrázolt. Emiatt még rövid távú esés is volt a piacon - az S&P 500 index 0,29%-ot esett, de miután kiderült, hogy a fotó hamis, az index helyreállt. A képet egy ellenőrzött Bloomberg Feed fiók tette közzé, amely a kék pipa ellenére nem áll kapcsolatban a Bloomberg médiacéggel.

A fényképről hamar felismerték, hogy hamis. Nyilvánvalóan mesterséges intelligencia segítségével hozták létre. De mielőtt ezek a részletek megjelentek, dezinformációkat már terjesztettek különböző beszámolók, köztük a gazember Russia Today (na jó, ki kételkedne).

A hamis képen egy nagy fekete füstcsík látható egy olyan épület mellett, amely homályosan hasonlít a Pentagonra, kísérőszöveggel. Közelebbről megvizsgálva a helyi hatóságok megerősítették, hogy a kép nem pontosan ábrázolja a Pentagont, és az elmosódott kerítésoszlopok és épületoszlopok meglehetősen hanyag képnek tűntek, amelyet olyan mesterséges intelligencia-modellel készítettek, mint a Stable Diffusion.

Bloomberg hamis fiók előtt Twitter letiltotta, több tízezer tweetje volt, de összesen kevesebb mint 1 követője volt, és nem világos, hogy ki futtatta, és milyen motivációk álltak a hamis kép terjesztése mögött. A hamis üzenetet a Bloomberg Feeden kívül Walter Bloomberg és a Breaking Market News is terjeszti, amelyek szintén nem állnak kapcsolatban az igazi Bloomberg céggel.

Az incidens rávilágított azokra a lehetséges veszélyekre, amelyeket a mesterséges intelligencia által generált képek jelenthetnek a közösségi médiában, ahol az ellenőrizetlen információkat kapkodva osztanak meg, és a fizetett ellenőrző rendszer Twitter. Márciusban elterjedtek a Donald Trump letartóztatásáról készült, a Midjourney segítségével készített hamis képek, és bár azonnal hamisnak nevezték őket, rendkívül valósághűnek tűntek. Sokakat félrevezettek a mesterséges intelligencia által generált képek is, amelyek Ferenc pápát ábrázolták fehér kabátban.

A "BloombergFeed" fiókot mostanra kitiltották.

De ebből csak egy vakondjáték lesz.

Hamis mesterséges intelligencia képek + ellenőrzött álhírek Twitter fiók + a mainstream média nem ellenőrzi a savanyúságukatces = katasztrófa receptje digitális társadalmunkban.

Ez nem fog lassulni. képtwitter.com/ZeboVgVm4Z

– Lorenzo Green 〰️ (@mrgreen) May 23, 2023

A pápa kabátban egy dolog, de egy robbanás az Egyesült Államok Védelmi Minisztériumának főhadiszállásán egészen más. A következmények súlyosak lehetnek, amint azt ugyanaz a tőzsde bizonyítja. A Dow Jones Industrial Average 85 pontot esett a tweet elterjedését követő négy percben, de gyorsan helyreállt.

A hamis tweet körüli zűrzavar nagy részét a módosítások tették lehetővé Twitter Elon Musk idejében. Sok tartalommoderátort elbocsátott, és nagyrészt automatizálta a fiókellenőrzési folyamatot, áthelyezve azt egy olyan rendszerbe, ahol bárki fizethet egy kék csekkért. A kritikusok szerint a gyakorlat sebezhetőbbé teszi a platformot a téves információkkal szemben.

Bár a hatóságok viszonylag gyorsan felismerték, hogy a robbanásról készült fotó hamisítvány, a képszintézis modellek, mint például a Midjourney és a Stable Diffusion elérhetősége azt jelenti, hogy a hamisítványok meggyőzése többé nem igényel művészi készségeket, és teret enged a dezinformációnak. A hamisítványok létrehozásának egyszerűsége és az olyan platformok vírusos jellege, mint a Twitter, azt jelenti, hogy a hamis információk gyorsabban terjedhetnek, mint azt ellenőrizni lehessen.

Ebben az esetben a képnek nem kell feltétlenül jó minőségűnek lennie ahhoz, hogy negatív hatást keltsen. A szakértők azt mondják, hogy amikor az emberek el akarnak hinni valamit, elvesztik éberségüket, és nem ellenőrzik az információ valódiságát.

Olvassa el még:

• A Meta nyelve A mesterséges intelligencia több mint 4 nyelvet ismer fel
• Az Adobe mesterséges intelligencia-alapú generatív kitöltési szerkesztést ad a Photoshophoz