عکسی از یک "انفجار" در نزدیکی پنتاگون که توسط هوش مصنوعی ایجاد شده است، در فضای مجازی منتشر شد Twitter

اخیرا در Twitter عکسی ظاهر شد که همانطور که در توضیحات گفته شد انفجاری را نشان می دهد که در نزدیکی پنتاگون رخ داده است. به همین دلیل، حتی یک سقوط کوتاه مدت در بازار رخ داد - شاخص S&P 500 0,29٪ کاهش یافت، اما پس از اینکه مشخص شد عکس جعلی است، شاخص بهبود یافت. این تصویر توسط یک حساب تایید شده فید بلومبرگ منتشر شده است که علیرغم علامت آبی آن، به شرکت رسانه ای بلومبرگ وابسته نیست.

عکس به سرعت جعلی شناخته شد. ظاهراً با کمک هوش مصنوعی تولید شده است. اما قبل از اینکه این جزئیات ظاهر شود، اطلاعات نادرست قبلاً توسط حساب های مختلف منتشر شده بود، از جمله روسری امروزی شرور (خب، چه کسی شک کند).

تصویر جعلی ستون بزرگی از دود سیاه را در کنار ساختمانی نشان می دهد که به طور مبهمی شبیه پنتاگون است، همراه با متن. پس از بررسی دقیق‌تر، مقامات محلی تأیید کردند که این تصویر نشان‌دهنده دقیق پنتاگون نیست و ستون‌های حصار تار و ستون‌های ساختمان شبیه تصویر نسبتاً شلخته‌ای هستند که با استفاده از یک مدل هوش مصنوعی مانند Stable Diffusion ایجاد شده‌اند.

اکانت جعلی بلومبرگ قبلا Twitter آن را مسدود کرد، ده‌ها هزار توییت داشت، اما در مجموع کمتر از 1 دنبال کننده داشت، و مشخص نیست چه کسی آن را اجرا کرد و چه انگیزه‌هایی پشت انتشار این تصویر جعلی بود. علاوه بر فید بلومبرگ، حساب‌های دیگری که این پیام نادرست را منتشر می‌کنند شامل Walter Bloomberg و Breaking Market News هستند که به شرکت واقعی بلومبرگ نیز وابسته نیستند.

این حادثه تهدیدات بالقوه ای را که تصاویر تولید شده توسط هوش مصنوعی می توانند در رسانه های اجتماعی ایجاد کنند، جایی که اطلاعات تایید نشده عجولانه به اشتراک گذاشته می شود، و سیستم تأیید پولی در Twitter. در ماه مارس، تصاویر جعلی دستگیری دونالد ترامپ که با استفاده از Midjourney ایجاد شده بود، در فضای مجازی منتشر شد و در حالی که بلافاصله جعلی خوانده می شد، بسیار واقعی به نظر می رسید. همچنین، تصاویر پاپ فرانسیس با ژاکت سفید که توسط هوش مصنوعی ایجاد شده بود، بسیاری را گمراه کرد.

اکانت "BloombergFeed" اکنون مسدود شده است.

اما این فقط به یک بازی ضربتی تبدیل می شود.

تصاویر جعلی هوش مصنوعی + اخبار جعلی تایید شده Twitter حساب + رسانه های اصلی که وضعیت خود را بررسی نمی کنندces = دستور العمل برای فاجعه در جامعه دیجیتال ما.

این کند نمی شود. عکسtwitter.com/ZeboVgVm4Z

— لورنزو گرین 〰️ (@mrgreen) ممکن است 23، 2023

پاپ با ژاکت پایین یک چیز است، اما انفجار در مقر وزارت دفاع ایالات متحده چیز دیگری است. عواقب آن می تواند جدی باشد، همانطور که همان بازار سهام ثابت می کند. میانگین صنعتی داوجونز در چهار دقیقه پس از انتشار توییت، 85 واحد سقوط کرد، اما به سرعت بهبود یافت.

بسیاری از سردرگمی‌های مربوط به توییت جعلی با تغییراتی در توییت ممکن شد Twitter در زمان ایلان ماسک او بسیاری از مدیران محتوا را اخراج کرد و تا حد زیادی فرآیند تأیید حساب را خودکار کرد و آن را به سیستمی منتقل کرد که در آن هر کسی می‌تواند برای چک آبی پرداخت کند. منتقدان می گویند این عمل پلتفرم را در برابر اطلاعات نادرست آسیب پذیرتر می کند.

اگرچه مقامات نسبتاً سریع عکس انفجار را جعلی تشخیص دادند، اما در دسترس بودن مدل‌های ترکیب تصویر مانند Midjourney و Stable Diffusion به این معنی است که جعلی‌های متقاعدکننده دیگر نیازی به هنر ندارند و فضایی برای اطلاعات نادرست باقی می‌گذارند. سهولت ایجاد تقلبی همراه با ماهیت ویروسی پلتفرم هایی مانند Twitter، به این معنی است که اطلاعات نادرست می تواند سریعتر از تأیید آن منتشر شود.

در این حالت لزوماً نباید تصویر با کیفیت بالا باشد تا تأثیر منفی ایجاد کند. کارشناسان می گویند وقتی مردم می خواهند چیزی را باور کنند، هوشیاری خود را از دست می دهند و صحت اطلاعات را بررسی نمی کنند.

همچنین بخوانید:

• هوش مصنوعی زبان متا بیش از 4 زبان را می شناسد
• Adobe ویرایش Generative Fill مبتنی بر هوش مصنوعی را به فتوشاپ اضافه می کند