AI жасаған Пентагон маңындағы «жарылыстың» фотосы желіде тарады Twitter

Жақында в Twitter сурет пайда болды, онда сипаттамада айтылғандай, Пентагонның жанында болған жарылыс бейнеленген. Осыған байланысты нарықта тіпті қысқа мерзімді құлдырау орын алды - S&P 500 индексі 0,29%-ға төмендеді, бірақ фотосуреттің жалған екені белгілі болғаннан кейін индекс қалпына келді. Суретті Bloomberg арнасының тексерілген аккаунты жариялады, оның көк белгісіне қарамастан, Bloomberg медиа-компаниясымен байланысы жоқ.

Фото тез арада жалған деп танылды. Ол жасанды интеллект көмегімен жасалған көрінеді. Бірақ бұл егжей-тегжейлер пайда болғанға дейін дезинформация әртүрлі аккаунттар арқылы тараған болатын, соның ішінде масқара Russia Today (кім күмәнданады).

Жалған суретте ілеспе мәтіні бар Пентагонға ұқсамайтын ғимараттың жанындағы үлкен қара түтін көрінеді. Жақынырақ тексергеннен кейін жергілікті билік бұл суреттің Пентагонның дәл бейнесі емес екенін растады, ал бұлдыр қоршау тіректері мен құрылыс бағандары тұрақты диффузия сияқты AI үлгісімен жасалған өте немқұрайлы кескінге ұқсайды.

Бұрын Bloomberg фейк аккаунты болған Twitter оны бұғаттады, ондаған мың твиттер жазды, бірақ жалпы жазылушылары 1-нан аз болды және оны кім жүргізгені немесе жалған суреттің артында не тұрғаны белгісіз. Bloomberg Feed-тен басқа, жалған хабарлама таратқан басқа аккаунттарға Уолтер Блумберг және Breaking Market News кіреді, олар да нақты Bloomberg компаниясына қатысы жоқ.

Оқиға AI арқылы жасалған кескіндер тексерілмеген ақпарат асығыс бөлісілетін әлеуметтік желілерде және ақылы тексеру жүйесінде болуы мүмкін қауіптерді атап өтті. Twitter. Наурызда Midjourney көмегімен жасалған Дональд Трамптың тұтқындалуының жалған суреттері вирусқа тарап, олар бірден жалған деп аталса да, олар өте шынайы көрінді. Сондай-ақ, көпшілікті AI арқылы жасалған Рим Папасы Францисктің ақ түсті күртешедегі суреттері адастырды.

«BloombergFeed» аккаунтына енді тыйым салынды.

Бірақ бұл жай ғана ұрып-соғу ойынына айналады.

Жалған AI суреттері + тексерілген жалған жаңалықтар Twitter account + mainstream media not checking their sources = a recipe for disaster in our digital society.

Бұл бәсеңдемейді. сурет.twitter.com/ZeboVgVm4Z

— Лоренцо Грин 〰️ (@mrgreen) Мамыр 23, 2023

Попах киген Рим папасы бір нәрсе, ал АҚШ Қорғаныс министрлігінің штаб-пәтеріндегі жарылыс мүлде басқа. Салдары ауыр болуы мүмкін, мұны сол қор нарығы дәлелдеп отыр. Dow Jones Industrial Average твит вирусқа тарағаннан кейін төрт минут ішінде 85 ұпайға төмендеді, бірақ тез қалпына келді.

Жалған твиттерге қатысты түсінбеушіліктердің көпшілігі файлдағы өзгерістердің арқасында мүмкін болды Twitter Илон Маск кезінде. Ол көптеген мазмұн модераторларын жұмыстан шығарды және есептік жазбаны тексеру процесін айтарлықтай автоматтандырды, оны кез келген адам көк чек үшін төлей алатын жүйеге ауыстырды. Сыншылар бұл тәжірибе платформаны жалған ақпаратқа осал етеді дейді.

Билік жарылыс фотосуретін жасанды деп салыстырмалы түрде тез мойындағанымен, Midjourney және Stable Diffusion сияқты кескіндерді синтездеу модельдерінің болуы сенімді жалғандық бұдан былай көркемдік шеберлікті қажет етпейтінін білдіреді, бұл жалған ақпарат үшін біраз орын қалдырады. Жалған жасаудың қарапайымдылығы сияқты платформалардың вирустық табиғатымен үйлеседі Twitter, жалған ақпарат тексеруге қарағанда тезірек таралуы мүмкін дегенді білдіреді.

Бұл жағдайда жағымсыз әсер ету үшін кескіннің жоғары сапалы болуы міндетті емес. Мамандар бір нәрсеге сенгісі келгенде қырағылық жоғалып, ақпараттың растығын тексермейтінін айтады.

Сондай-ақ оқыңыз:

• Meta тілі AI 4-нан астам тілді таниды
• Adobe Photoshop-қа AI-генеративті толтыру өңдеуін қосады