AI-ийн бүтээсэн Пентагоны ойролцоох "дэлбэрэлт"-ийн зураг цахим ертөнцөд таржээ Twitter

Саяхан орсон Twitter Тодорхойлолтод дурдсанчлан Пентагоны ойролцоо болсон дэлбэрэлтийг дүрсэлсэн зураг гарч ирэв. Үүнээс болж зах зээл дээр богино хугацааны уналт ч бий болсон - S&P 500 индекс 0,29% -иар буурсан боловч зураг хуурамч байсан нь тогтоогдсоны дараа индекс сэргэсэн. Энэ зургийг баталгаажуулсан Bloomberg Feed хаягаар нийтэлсэн бөгөөд энэ нь цэнхэр тэмдэглэгээтэй ч Bloomberg медиа компанитай ямар ч холбоогүй юм.

Энэ зураг хуурамч болохыг хурдан хүлээн зөвшөөрсөн. Үүнийг хиймэл оюун ухааны тусламжтайгаар бүтээсэн бололтой. Гэвч эдгээр нарийн ширийн зүйл гарахаас өмнө янз бүрийн мэдээллийн хэрэгслээр худал мэдээлэл аль хэдийн тархсан байсан, тэр дундаа "Russia Today"-ийн новш (хэн эргэлзэх вэ).

Хуурамч зурган дээр Пентагоныг санагдуулам барилгын хажууд их хэмжээний хар утаа ялгарч, бичвэрийг дагалдсан байна. Нарийвчилсан үзлэг хийсний дараа орон нутгийн эрх баригчид уг зураг нь Пентагоныг үнэн зөв дүрсэлдэггүй болохыг баталж, бүдгэрсэн хашааны баганууд болон барилгын баганууд нь Stable Diffusion гэх мэт хиймэл оюун ухааны загвар ашиглан бүтээсэн нэлээн дэгжин зураг шиг харагдаж байв.

Өмнө нь Bloomberg-ийн хуурамч данс Twitter блоклосон, хэдэн арван мянган жиргээтэй байсан ч нийт 1 хүрэхгүй дагагчтай байсан бөгөөд үүнийг хэн явуулсан, хуурамч зургийн цаад сэдэл юу байсан нь тодорхойгүй байна. Bloomberg Feed-ээс гадна худал мэдээлэл тараасан бусад дансанд Уолтер Блүүмберг болон Breaking Market News зэрэг нь жинхэнэ Блүүмбэргийн компанитай ямар ч холбоогүй юм.

Энэхүү үйл явдал нь хиймэл оюун ухаанаар бүтээгдсэн зургууд олон нийтийн мэдээллийн хэрэгсэлд учирч болзошгүй аюул заналхийллийг онцлон тэмдэглэсэн бөгөөд баталгаажуулаагүй мэдээллийг яаран хуваалцдаг, төлбөртэй баталгаажуулалтын систем нь Twitter. Гуравдугаар сард Midjourney ашиглан бүтээсэн Дональд Трампын баривчлагдсан тухай хуурамч зургууд цахим ертөнцөд тарж, тэр даруйдаа хуурамч гэж нэрлэгдэх болсон ч тэд үнэхээр бодитой харагдаж байв. Түүнчлэн, Ромын Пап лам Францисын цагаан хүрэмтэй, хиймэл оюун ухаанаар бүтээсэн зургууд олон хүнийг төөрөгдүүлсэн.

"BloombergFeed" дансыг одоо хориглосон байна.

Гэхдээ энэ нь зүгээр л мэнгэтэй тоглоом болж хувирах гэж байна.

Хуурамч хиймэл хиймэл зураг + баталгаажсан хуурамч мэдээ Twitter данс + үндсэн хэвлэл мэдээллийн хэрэгслээр тэдний исгэлэн шалгахгүй байнаces = манай дижитал нийгэм дэх гамшгийн жор.

Энэ удаашрахгүй. зурагtwitter.com/ZeboVgVm4Z

— Лорензо Грин 〰️ (@mrgreen) 23 болтугай 2023

Өвгөн хүрэмтэй Ромын Пап нэг зүйл, харин АНУ-ын Батлан ​​хамгаалах яамны төв байранд болсон дэлбэрэлт бол өөр хэрэг. Үүний үр дагавар нь ноцтой байж болохыг хөрөнгийн зах зээл нотолж байна. Энэ жиргээ цахим ертөнцөөр цацагдсанаас хойш дөрвөн минутын дотор Dow Jones Industrial Average 85 нэгжээр унасан ч хурдан сэргэв.

Хуурамч жиргээг тойрсон төөрөгдлийн ихэнх нь жиргээнд өөрчлөлт оруулснаар боломжтой болсон Twitter Элон Маскийн үед. Тэрээр олон контент зохицуулагчийг ажлаас нь халж, данс баталгаажуулах үйл явцыг ихээхэн автоматжуулж, хэн ч цэнхэр чекийн төлбөр төлөх боломжтой системд шилжүүлсэн. Энэхүү практик нь платформыг ташаа мэдээлэлд илүү өртөмтгий болгодог гэж шүүмжлэгчид хэлж байна.

Хэдийгээр эрх баригчид дэлбэрэлтийн зургийг хуурамч болохыг харьцангуй хурдан хүлээн зөвшөөрсөн ч Midjourney, Stable Diffusion зэрэг дүрсний синтезийн загварууд байгаа нь хуурамч мэдээллийг үнэмшүүлэх чадвар шаардахаа больж, худал мэдээлэл өгөх зай үлдээсэн гэсэн үг. Хуурамч бүтээхэд хялбар байдал нь платформуудын вирусын шинж чанартай хослуулсан Twitter, худал мэдээлэл нь баталгаажуулахаас илүү хурдан тархдаг гэсэн үг юм.

Энэ тохиолдолд сөрөг нөлөө үзүүлэхийн тулд зураг нь өндөр чанартай байх албагүй. Хүмүүс аливаа зүйлд итгэхийг хүсэх үедээ сонор сэрэмжээ алдаж, мэдээллийн үнэн зөвийг шалгадаггүй гэж мэргэжилтнүүд хэлдэг.

Мөн уншина уу:

• Мета хэл AI нь 4 гаруй хэлийг таньдаг
• Adobe нь хиймэл оюун ухаанаар ажилладаг Generative Fill засварыг Photoshop-т нэмдэг