Bức ảnh "vụ nổ" gần Lầu Năm Góc do AI tạo ra đã gây sốt trên mạng xã hội. Twitter

gần đây trong Twitter một bức ảnh xuất hiện, như mô tả đã nói, mô tả một vụ nổ xảy ra gần Lầu năm góc. Vì điều này, thậm chí đã có một đợt giảm giá ngắn hạn trên thị trường - chỉ số S&P 500 giảm 0,29%, nhưng sau khi bức ảnh bị phát hiện là giả, chỉ số này đã phục hồi. Hình ảnh được đăng bởi một tài khoản Nguồn cấp dữ liệu Bloomberg đã được xác minh, mặc dù có dấu kiểm màu xanh nhưng không liên kết với công ty truyền thông Bloomberg.

Bức ảnh nhanh chóng được công nhận là giả. Nó rõ ràng được tạo ra với sự trợ giúp của trí tuệ nhân tạo. Nhưng trước khi những chi tiết này xuất hiện, thông tin sai lệch đã được lan truyền bởi nhiều tài khoản khác nhau, bao gồm cả tên cặn bã Russia Today (ừm, ai mà nghi ngờ được chứ).

Hình ảnh giả cho thấy một cột khói đen lớn bên cạnh một tòa nhà trông hơi giống Lầu Năm Góc, kèm theo dòng chữ. Khi kiểm tra kỹ hơn, chính quyền địa phương xác nhận rằng hình ảnh không phải là hình ảnh đại diện chính xác của Lầu Năm Góc và các cột hàng rào và cột tòa nhà bị mờ trông giống như một hình ảnh khá cẩu thả được tạo bằng mô hình AI như Khuếch tán ổn định.

Tài khoản giả Bloomberg trước đây Twitter đã chặn nó, có hàng chục nghìn lượt tweet, nhưng tổng số người theo dõi chưa đến 1 và không rõ ai đã điều hành nó hoặc động cơ đằng sau hình ảnh giả mạo là gì. Ngoài Bloomberg Feed, các tài khoản khác lan truyền thông tin sai lệch bao gồm Walter Bloomberg và Breaking Market News, những tài khoản này cũng không liên kết với công ty Bloomberg thực sự.

Vụ việc đã làm nổi bật các mối đe dọa tiềm ẩn mà hình ảnh do AI tạo ra có thể gây ra trên mạng xã hội, nơi thông tin chưa được xác minh được chia sẻ vội vàng và hệ thống xác minh phải trả tiền trong Twitter. Vào tháng , đoạn phim giả về vụ bắt giữ Donald Trump, được tạo bằng Midjourney, đã lan truyền nhanh chóng và mặc dù chúng ngay lập tức bị gọi là giả, nhưng chúng trông cực kỳ chân thực. Ngoài ra, nhiều người đã bị đánh lừa bởi những hình ảnh do AI tạo ra về Giáo hoàng Francis trong chiếc áo khoác lông màu trắng.

Tài khoản "BloombergFeed" hiện đã bị cấm.

Nhưng điều này sẽ biến thành một trò chơi đập chuột.

Hình ảnh AI giả mạo + tin tức giả mạo đã được xác minh Twitter tài khoản + phương tiện truyền thông chính thống không kiểm tra sự chua chát của họces = công thức dẫn đến thảm họa trong xã hội kỹ thuật số của chúng ta.

Điều này sẽ không làm chậm lại. pic.twitter.com/ZeboVgVm4Z

— Lorenzo Green 〰️ (@mrgreen) 23 Tháng Năm, 2023

Giáo hoàng trong chiếc áo khoác lông vũ là một chuyện, nhưng một vụ nổ tại trụ sở Bộ Quốc phòng Hoa Kỳ lại là chuyện khác. Hậu quả có thể nghiêm trọng, như chính thị trường chứng khoán đã chứng minh. Chỉ số trung bình công nghiệp Dow Jones đã giảm 85 điểm trong phút sau khi dòng tweet lan truyền, nhưng đã nhanh chóng phục hồi.

Phần lớn sự nhầm lẫn xung quanh tweet giả mạo có thể xảy ra do những thay đổi trong Twitter thời của Elon Musk. Anh ấy đã sa thải nhiều người kiểm duyệt nội dung và tự động hóa phần lớn quy trình xác minh tài khoản, chuyển nó sang một hệ thống mà bất kỳ ai cũng có thể trả tiền cho một tấm séc xanh. Các nhà phê bình cho rằng cách làm này khiến nền tảng dễ bị thông tin sai lệch hơn.

Mặc dù các nhà chức trách đã tương đối nhanh chóng nhận ra bức ảnh về vụ nổ là giả, nhưng sự sẵn có của các mô hình tổng hợp hình ảnh như Midjourney và Stable Diffusion có nghĩa là những bức ảnh giả thuyết phục không còn đòi hỏi tính nghệ thuật, để lại một số chỗ cho thông tin sai lệch. Sự dễ dàng tạo ra hàng giả kết hợp với bản chất lan truyền của các nền tảng như Twitter, có nghĩa là thông tin sai lệch có thể lan truyền nhanh hơn mức có thể được xác minh.

Trong trường hợp này, hình ảnh không nhất thiết phải có chất lượng cao để tạo ra tác động tiêu cực. Các chuyên gia cho rằng khi mọi người muốn tin vào điều gì đó, họ sẽ mất cảnh giác và không kiểm tra tính xác thực của thông tin.

Đọc thêm:

• Ngôn ngữ của Meta AI nhận dạng hơn 4 ngôn ngữ
• Adobe bổ sung tính năng chỉnh sửa Generative Fill do AI cung cấp cho Photoshop