最近在 Twitter 出现了一张照片,正如描述所说,它描绘了五角大楼附近发生的爆炸。 因此,市场甚至出现了短期下跌——标准普尔 500 指数下跌 0,29%,但在证明照片是假的之后,该指数又恢复了。 该图片由经过验证的 Bloomberg Feed 帐户发布,该帐户尽管带有蓝色复选标记,但与彭博媒体公司无关。
这张照片很快被确认为假照片。 它显然是在人工智能的帮助下生成的。 但在这些细节出现之前,虚假信息已经被各种账户传播,包括人渣今日俄罗斯(好吧,谁会怀疑)。
这张假图片显示了一座建筑旁边冒出一大团黑烟,这栋建筑隐约类似于五角大楼,并附有文字。 经过仔细检查,地方当局确认该图像并不是五角大楼的准确表现,模糊的栅栏柱和建筑柱子看起来像是使用 Stable Diffusion 等 AI 模型创建的相当草率的图像。
彭博之前的假账户 Twitter 阻止了它,有数万条推文,但总关注者不到 1 人,目前还不清楚是谁运营的,也不清楚假图片背后的动机是什么。 除了 Bloomberg Feed 之外,其他传播虚假消息的账户还包括 Walter Bloomberg 和 Breaking Market News,它们也不隶属于真正的彭博公司。
该事件凸显了人工智能生成的图像可能在社交媒体上造成的潜在威胁,未经验证的信息会被匆忙分享,而付费验证系统 Twitter. XNUMX 月,使用 Midjourney 制作的唐纳德·特朗普被捕的假照片在网上疯传,虽然它们立即被称为假的,但它们看起来非常逼真。 此外,许多人被 AI 生成的教皇弗朗西斯穿着白色羽绒服的图像误导了。
“BloombergFeed”帐户现已被禁止。
但这只会变成打地鼠游戏。
假人工智能图像+经过验证的假新闻 Twitter 账号+主流媒体不检查他们的酸味ces = 我们数字社会的灾难。
这不会减速。 PIC。twitter.com/ZeboVgVm4Z
— 洛伦佐·格林〰️ (@mrgreen) 2023 年 5 月 23 日
穿羽绒服的教皇是一回事,美国国防部总部发生爆炸又是另一回事。 正如同一个股票市场所证明的那样,后果可能很严重。 这条推文广为传播后,道琼斯工业平均指数在四分钟内下跌了 85 点,但很快就恢复了。
围绕虚假推文的大部分混淆是由于 Twitter 在伊隆·马斯克时期。 他解雇了许多内容管理员,并在很大程度上自动化了帐户验证过程,将其转移到一个任何人都可以支付蓝色支票的系统。 批评人士说,这种做法使该平台更容易受到错误信息的影响。
尽管当局相对较快地将爆炸照片识别为假照片,但 Midjourney 和 Stable Diffusion 等图像合成模型的可用性意味着令人信服的假照片不再需要艺术性,从而为虚假信息留下了一些空间。 制造假货的容易性与平台的病毒性质相结合,例如 Twitter,意味着虚假信息的传播速度快于其被验证的速度。
在这种情况下,图像不一定非得是高质量才能产生负面影响。 专家表示,当人们想要相信某件事时,他们就会失去警惕,不会核对信息的真实性。
另请阅读: