一張由人工智能生成的五角大樓附近“爆炸”的照片在網上瘋傳 Twitter

最近在 Twitter 出現了一張照片，正如描述所說，它描繪了五角大樓附近發生的爆炸。 因此，市場甚至出現了短期下跌——標準普爾 500 指數下跌 0,29%，但在證明照片是假的之後，該指數又恢復了。 該圖片由經過驗證的 Bloomberg Feed 帳戶發布，該帳戶儘管帶有藍色複選標記，但與彭博媒體公司無關。

這張照片很快被確認為假照片。 它顯然是在人工智能的幫助下生成的。 但在這些細節出現之前，虛假信息已經被各種賬戶傳播，包括人渣今日俄羅斯（好吧，誰會懷疑）。

這張假圖片顯示了一座建築旁邊冒出一大團黑煙，這棟建築隱約類似於五角大樓，並附有文字。 經過仔細檢查，地方當局確認該圖像並不是五角大樓的準確表現，模糊的柵欄柱和建築柱子看起來像是使用 Stable Diffusion 等 AI 模型創建的相當草率的圖像。

彭博之前的假賬戶 Twitter 阻止了它，有數万條推文，但總關注者不到 1 人，目前還不清楚是誰運營的，也不清楚假圖片背後的動機是什麼。 除了 Bloomberg Feed 之外，其他傳播虛假消息的賬戶還包括 Walter Bloomberg 和 Breaking Market News，它們也不隸屬於真正的彭博公司。

該事件凸顯了人工智能生成的圖像可能在社交媒體上造成的潛在威脅，未經驗證的信息會被匆忙分享，而付費驗證系統 Twitter. 月，使用 Midjourney 製作的唐納德·特朗普被捕的假照片廣為流傳，雖然它們立即被稱為假的，但它們看起來非常逼真。 此外，許多人被 AI 生成的教皇弗朗西斯穿著白色羽絨服的圖像誤導了。

“BloombergFeed”帳戶現已被禁止。

但這只會變成打地鼠遊戲。

假人工智能圖像+經過驗證的假新聞 Twitter 帳號+主流媒體不檢查他們的酸味ces = 我們數位社會的災難。

這不會減速。 PIC。twitter.com/ZeboVgVm4Z

— 洛倫佐·格林〰️ (@mrgreen) 2023 年 5 月 23 日

穿羽絨服的教皇是一回事，美國國防部總部發生爆炸又是另一回事。 正如同一個股票市場所證明的那樣，後果可能很嚴重。 這條推文廣為傳播後，道瓊斯工業平均指數在四分鐘內下跌了 85 點，但很快就恢復了。

圍繞虛假推文的大部分混淆是由於 Twitter 在伊隆·馬斯克時期。 他解雇了許多內容管理員，並在很大程度上自動化了帳戶驗證過程，將其轉移到一個任何人都可以支付藍色支票的系統。 批評人士說，這種做法使該平台更容易受到錯誤信息的影響。

儘管當局相對較快地將爆炸照片識別為假照片，但 Midjourney 和 Stable Diffusion 等圖像合成模型的可用性意味著令人信服的假照片不再需要藝術性，從而為虛假信息留下了一些空間。 製造假貨的容易性與平台的病毒性質相結合，例如 Twitter，意味著虛假信息的傳播速度快於其被驗證的速度。

在這種情況下，圖像不一定非得是高質量才能產生負面影響。 專家表示，當人們想要相信某件事時，他們就會失去警惕，不會核對信息的真實性。

另請閱讀：

• Meta 的語言 AI ​​可識別 4 多種語言
• Adobe 為 Photoshop 添加了 AI 驅動的生成填充編輯