תמונה של "פיצוץ" ליד הפנטגון, שנוצר על ידי AI, הפכה ויראלית Twitter

לאחרונה ב Twitter הופיע תמונה, שכפי שנאמר בתיאור, תיאר פיצוץ שהתרחש ליד הפנטגון. בשל כך אף נרשמה ירידה לטווח קצר בשוק - מדד S&P 500 ירד ב-0,29%, אך לאחר שהתברר שהתמונה מזויפת, המדד התאושש. התמונה פורסמה על ידי חשבון בלומברג פיד מאומת, שלמרות הסימון הכחול שלו, אינו מזוהה עם חברת המדיה בלומברג.

התמונה זוהתה במהירות כמזויפת. ככל הנראה הוא נוצר בעזרת בינה מלאכותית. אבל לפני שהפרטים האלה הופיעו, דיסאינפורמציה כבר הופצה על ידי חשבונות שונים, כולל הזבל Russia Today (טוב, מי יטיל ספק).

התמונה המזוייפת מציגה פלומת עשן שחורה גדולה ליד בניין שדומה במעורפל לפנטגון, עם טקסט נלווה. בבדיקה מעמיקה יותר, הרשויות המקומיות אישרו שהתמונה אינה ייצוג מדויק של הפנטגון, ועמודי הגדר המטושטשים ועמודי הבניין נראו כמו תמונה מרושלת למדי שנוצרה באמצעות מודל AI כמו Stable Diffusion.

חשבון מזויף של בלומברג בעבר Twitter חסם אותו, היו לו עשרות אלפי ציוצים, אבל פחות מ-1 עוקבים בסך הכל, ולא ברור מי ניהל אותו או מה המניע מאחורי התמונה המזוייפת. בנוסף ל-Bloomberg Feed, חשבונות נוספים שהפיצו את המסר השקרי כוללים את וולטר בלומברג ו-Breaking Market News, שגם הם אינם קשורים לחברת בלומברג האמיתית.

התקרית הדגישה את האיומים הפוטנציאליים שתמונות שנוצרו על ידי בינה מלאכותית יכולות להוות במדיה החברתית, שבהן מידע לא מאומת חולק בחיפזון, ומערכת האימות בתשלום ב Twitter. במרץ, תמונות מזויפות של מעצרו של דונלד טראמפ, שנוצרו באמצעות Midjourney, הפכו לוויראליות, ולמרות שהן כונו מיד מזויפות, הן נראו מציאותיות ביותר. כמו כן, רבים הוטעו על ידי תמונות שנוצרו על ידי בינה מלאכותית של האפיפיור פרנציסקוס במעיל פוך לבן.

חשבון "BloombergFeed" נאסר כעת.

אבל זה רק הולך להפוך למשחק חפרפרת.

תמונות AI מזויפות + חדשות מזויפות מאומתות Twitter חשבון + מדיה מיינסטרים לא בודקים את החמצה שלהםces = מתכון לאסון בחברה הדיגיטלית שלנו.

זה לא יאט. תמונה.twitter.com/ZeboVgVm4Z

- לורנצו גרין 〰️ (@mrgreen) מאי 23, 2023

האפיפיור במעיל פוך הוא דבר אחד, אבל פיצוץ במטה של ​​משרד ההגנה האמריקני הוא דבר אחר לגמרי. ההשלכות עלולות להיות חמורות, כפי שאותו בורסה מוכיח. מדד הדאו ג'ונס ירד ב-85 נקודות בארבע הדקות לאחר שהציוץ הפך לוויראלי, אך התאושש במהירות.

הרבה מהבלבול סביב הציוץ המזויף התאפשר בגלל שינויים ב- Twitter בתקופת אילון מאסק. הוא פיטר מנהלי תוכן רבים ומיכן במידה רבה את תהליך אימות החשבון, והעביר אותו למערכת שבה כל אחד יכול לשלם עבור צ'ק כחול. המבקרים אומרים שהתרגול הופך את הפלטפורמה לפגיעה יותר למידע מוטעה.

למרות שהרשויות מיהרו יחסית לזהות את תמונת הפיצוץ כזיוף, הזמינות של דגמי סינתזת תמונה כמו Midjourney ו-Stable Diffusion פירושה ששכנוע זיופים כבר לא דורשים אומנות, מה שמותיר מקום לדיסאינפורמציה. הקלות של יצירת זיופים בשילוב עם האופי הויראלי של פלטפורמות כמו Twitter, פירושו שמידע כוזב יכול להתפשט מהר יותר ממה שניתן לאמת אותו.

במקרה זה, התמונה לא בהכרח חייבת להיות באיכות גבוהה כדי ליצור השפעה שלילית. מומחים אומרים שכאשר אנשים רוצים להאמין במשהו, הם מאבדים את ערנותם ואינם בודקים את אמיתות המידע.

קרא גם:

• AI השפה של Meta מזהה יותר מ-4 שפות
• Adobe מוסיפה ל-Photoshop עריכת מילוי Generative Fill המופעלת על ידי בינה מלאכותית