Yapay zeka tarafından oluşturulan Pentagon yakınlarındaki bir "patlama" fotoğrafı internette viral oldu. Twitter

Son zamanlarda Twitter Açıklamada belirtildiği gibi Pentagon yakınlarında meydana gelen bir patlamayı tasvir eden bir fotoğraf ortaya çıktı. Bu nedenle piyasada kısa vadeli bir düşüş bile oldu - S&P 500 endeksi% 0,29 düştü, ancak fotoğrafın sahte olduğu ortaya çıktıktan sonra endeks toparlandı. Görüntü, mavi onay işaretine rağmen Bloomberg medya şirketine bağlı olmayan, doğrulanmış bir Bloomberg Feed hesabı tarafından yayınlandı.

Fotoğrafın sahte olduğu kısa sürede anlaşıldı. Görünüşe göre yapay zekanın yardımıyla üretildi. Ancak bu ayrıntılar ortaya çıkmadan önce, çeşitli hesaplar tarafından dezenformasyon çoktan yayılmıştı, buna Rusya Today'in pisliği de dahil (kim şüphe edebilir ki).

Sahte görüntü, beraberindeki metinle birlikte Pentagon'a belli belirsiz benzeyen bir binanın yanında büyük bir siyah duman bulutu gösteriyor. Daha yakından incelendiğinde, yerel makamlar görüntünün Pentagon'u doğru bir şekilde temsil etmediğini ve bulanık çit direkleri ile bina sütunlarının, Stable Diffusion gibi bir AI modeli kullanılarak oluşturulmuş oldukça özensiz bir görüntüye benzediğini doğruladı.

Daha önce Bloomberg fake hesabı Twitter engelledi, on binlerce tweet'i vardı, ancak toplamda 1'den az takipçisi vardı ve onu kimin yönettiği veya sahte görüntünün arkasındaki motivasyonun ne olduğu belli değil. Bloomberg Feed'in yanı sıra asılsız mesajı yayan diğer hesaplar arasında yine gerçek Bloomberg şirketiyle bağlantısı olmayan Walter Bloomberg ve Breaking Market News yer alıyor.

Olay, yapay zeka tarafından oluşturulan görüntülerin, doğrulanmamış bilgilerin alelacele paylaşıldığı sosyal medyada ve ücretli doğrulama sisteminde oluşturabileceği potansiyel tehditleri vurguladı. Twitter. Mart ayında, Midjourney kullanılarak oluşturulan Donald Trump'ın tutuklanmasına ilişkin sahte görüntüler viral oldu ve hemen sahte olarak adlandırılsalar da son derece gerçekçi görünüyorlardı. Ayrıca, Papa Francis'in yapay zeka tarafından oluşturulan beyaz ceketli görüntüleri birçok kişiyi yanılttı.

"BloombergFeed" hesabı artık yasaklandı.

Ama bu sadece bir köstebek vurma oyununa dönüşecek.

Sahte AI görüntüleri + doğrulanmış sahte haberler Twitter hesap + ana akım medya olumsuzluklarını kontrol etmiyorces = dijital toplumumuzda felaketin tarifi.

Bu yavaşlamayacak. res.twitter.com/ZeboVgVm4Z

— Lorenzo Green 〰️ (@mrgreen) Mayıs 23, 2023

Aşağı ceketli Papa bir şeydir, ancak ABD Savunma Bakanlığı karargahındaki patlama başka bir şeydir. Aynı borsanın da kanıtladığı gibi, sonuçlar ciddi olabilir. Dow Jones Sanayi Ortalaması, tweet viral hale geldikten sonraki dört dakika içinde 85 puan düştü, ancak hızla toparlandı.

Sahte tweet'i çevreleyen kafa karışıklığının çoğu, tweet'teki değişikliklerle mümkün oldu. Twitter Elon Musk döneminde. Birçok içerik moderatörünü kovdu ve hesap doğrulama sürecini büyük ölçüde otomatikleştirerek herkesin mavi çek için ödeme yapabileceği bir sisteme taşıdı. Eleştirmenler, uygulamanın platformu yanlış bilgilere karşı daha savunmasız hale getirdiğini söylüyor.

Yetkililer patlama fotoğrafının sahte olduğunu görece çabuk fark etseler de, Midjourney ve Stable Diffusion gibi görüntü sentezi modellerinin mevcudiyeti, ikna edici sahtelerin artık sanat gerektirmediği anlamına geliyor ve bu da dezenformasyona biraz yer bırakıyor. Sahte oluşturmanın kolaylığı gibi platformların viral doğasıyla birleştiğinde Twitter, yanlış bilginin doğrulanabileceğinden daha hızlı yayılabileceği anlamına gelir.

Bu durumda, olumsuz bir etki yaratmak için görüntünün mutlaka yüksek kalitede olması gerekmez. Uzmanlar, insanların bir şeye inanmak istediklerinde dikkatlerini yitirdiklerini ve bilgilerin doğruluğunu kontrol etmediklerini söylüyor.

Ayrıca okuyun:

• Meta'nın dili AI, 4'den fazla dili tanır
• Adobe, Photoshop'a yapay zeka destekli Generative Fill düzenleme özelliği ekler