Chuaigh grianghraf de “phléasc” in aice leis an Pentagon, ginte ag AI, víreasach isteach Twitter

Le déanaí i Twitter bhí grianghraf le feiceáil, a léirigh, mar a dúirt an tuairisc, pléascadh a tharla in aice leis an Pentagon. Mar gheall air seo, bhí fiú titim ghearrthéarmach sa mhargadh - thit an t-innéacs S&P 500 0,29%, ach tar éis dó a bheith amach go raibh an grianghraf falsa, tháinig an t-innéacs ar ais. Cuireadh an íomhá suas le cuntas fíoraithe Bloomberg Feed, nach bhfuil, in ainneoin a sheicmharc gorm, cleamhnaithe le cuideachta meáin Bloomberg.

Aithníodh an grianghraf go tapa mar falsa. Is cosúil go gineadh é le cabhair ó hintleachta saorga. Ach sular tháinig na sonraí seo le feiceáil, bhí mífhaisnéis scaipthe cheana féin ag cuntais éagsúla, lena n-áirítear an scumbag Russia Today (bhuel, cé a bheadh ​​in amhras).

Taispeánann an íomhá bhréige púir mhór de dheatach dubh in aice le foirgneamh atá cosúil go doiléir leis an bPeinteagán, agus téacs ag gabháil leis. Tar éis iniúchadh níos dlúithe a dhéanamh, dheimhnigh na húdaráis áitiúla nach raibh an íomhá ina léiriú cruinn ar an Pentagon, agus bhí cuma ar na cuaillí fál agus na colúin tógála doiléir mar íomhá sách sloppy a cruthaíodh ag baint úsáide as samhail AI cosúil le Idirleathadh Cobhsaí.

Cuntas falsa Bloomberg roimhe seo Twitter bac é, bhí na mílte tweets ann, ach níos lú ná 1 leantóir iomlán, agus níl sé soiléir cé a rith é nó cad é an spreagadh a bhí taobh thiar den íomhá bhréige. Chomh maith le Bloomberg Feed, cuimsíonn cuntais eile a leathnaíonn an teachtaireacht bhréagach Walter Bloomberg agus Breaking Market News, nach bhfuil cleamhnaithe acu freisin leis an gcuideachta fíor Bloomberg.

Leag an eachtra béim ar na bagairtí a d’fhéadfadh a bheith ag íomhánna de chuid AI-ghinte ar na meáin shóisialta, áit a roinntear faisnéis neamhfhíoraithe go pras, agus an córas fíoraithe íoctha i. Twitter. I mí an Mhárta, chuaigh íomhánna falsa de ghabháil Donald Trump, a cruthaíodh ag baint úsáide as Midjourney, víreasach, agus cé gur tugadh falsa orthu láithreach, d'fhéach siad thar a bheith réalaíoch. Chomh maith leis sin, cuireadh go leor íomhánna a chruthaigh AI den Phápa Proinsias i seaicéad bán síos amú go leor.

Tá an cuntas "BloombergFeed" toirmiscthe anois.

Ach beidh sé seo ach dul isteach i cluiche whack-a-caochÚn.

Íomhánna AI falsa + nuacht falsa fíoraithe Twitter cuntas + meáin príomhshrutha gan seiceáil a gcuid géarces = chos ar thubaiste inár sochaí dhigiteach.

Ní mhoilleoidh sé seo. pic.twitter.com/ZeboVgVm4Z

— Lorenzo Green 〰️ (@mrgreen) Bealtaine 23, 2023

Is rud amháin é an Pápa i seaicéad síos, ach is rud eile go leor é pléascadh ag ceanncheathrú Roinn Cosanta na SA. Féadfaidh na hiarmhairtí a bheith tromchúiseach, mar a chruthaíonn an stocmhargadh céanna. Thit Meán Tionscail Dow Jones 85 pointe sna ceithre nóiméad tar éis don tweet dul víreasach, ach d'éirigh leis go tapa.

D'fhéadfaí go leor den mhearbhall a bhain leis an tweet falsa a dhéanamh de bharr athruithe ar an Twitter i rith ré Elon Musk. Bhris sé go leor modhnóirí inneachair agus rinne sé uathoibriú den chuid is mó ar an bpróiseas fíoraithe cuntais, ag bogadh go córas inar féidir le duine ar bith íoc as seiceáil gorm. Deir léirmheastóirí go ndéanann an cleachtas an t-ardán níos leochailí maidir le faisnéis mhícheart.

Cé go raibh na húdaráis sách tapa chun grianghraf an phléasc a aithint mar bhréige, ciallaíonn infhaighteacht samhlacha sintéise íomhá ar nós Midjourney agus Stable Diffusion nach bhfuil gá le healaíontacht a thuilleadh le bréige diongbháilte, rud a fhágann go bhfuil spás ann do dhífhaisnéis. An éascaíocht a chruthú fakes in éineacht leis an nádúr víreasach ardáin cosúil Twitter, ciallaíonn sé gur féidir faisnéis bhréagach a scaipeadh níos tapúla ná mar is féidir í a fhíorú.

Sa chás seo, ní gá go mbeadh an íomhá ar ardchaighdeán chun tionchar diúltach a chruthú. Deir saineolaithe, nuair a bhíonn daoine ag iarraidh rud éigin a chreidiúint, go gcailleann siad a n-airdeall agus nach seiceann siad fírinneacht na faisnéise.

Léigh freisin:

• Aithníonn AI teanga Meta níos mó ná 4 teanga
• Cuireann Adobe eagarthóireacht Generative Fill le Photoshop faoi thiomáint AI