ภาพถ่ายของ "การระเบิด" ใกล้เพนตากอนซึ่งสร้างโดย AI แพร่สะพัดไปทั่ว Twitter

เมื่อเร็วๆ นี้ Twitter ภาพถ่ายปรากฏขึ้นซึ่งตามคำอธิบายระบุว่าเป็นการระเบิดที่เกิดขึ้นใกล้กับเพนตากอน ด้วยเหตุนี้จึงมีการลดลงในระยะสั้นในตลาด - ดัชนี S&P 500 ลดลง 0,29% แต่หลังจากที่ปรากฎว่าภาพถ่ายเป็นของปลอมดัชนีก็ฟื้นตัว รูปภาพถูกโพสต์โดยบัญชี Bloomberg Feed ที่ผ่านการตรวจสอบแล้ว ซึ่งแม้ว่าจะมีเครื่องหมายถูกสีน้ำเงิน แต่ก็ไม่มีส่วนเกี่ยวข้องกับบริษัทสื่อ Bloomberg

รูปภาพได้รับการยอมรับอย่างรวดเร็วว่าเป็นของปลอม เห็นได้ชัดว่ามันถูกสร้างขึ้นด้วยความช่วยเหลือของปัญญาประดิษฐ์ แต่ก่อนที่รายละเอียดเหล่านี้จะปรากฏ ข้อมูลเท็จได้แพร่กระจายไปตามบัญชีต่างๆ รวมถึงพวกขี้โกงอย่าง Russia Today (ใครจะสงสัยล่ะ)

ภาพปลอมแสดงกลุ่มควันดำขนาดใหญ่ข้างอาคารที่มีลักษณะคล้ายกับเพนตากอนอย่างคลุมเครือ พร้อมข้อความประกอบ เมื่อตรวจสอบอย่างใกล้ชิด เจ้าหน้าที่ท้องถิ่นยืนยันว่าภาพดังกล่าวไม่ได้เป็นตัวแทนของเพนตากอนอย่างถูกต้อง และเสารั้วและเสาอาคารที่พร่ามัวดูเหมือนภาพที่ค่อนข้างเลอะเทอะที่สร้างขึ้นโดยใช้แบบจำลอง AI เช่น Stable Diffusion

บัญชีปลอมของ Bloomberg ก่อนหน้านี้ Twitter บล็อกมัน มีทวีตนับหมื่น แต่มีผู้ติดตามน้อยกว่า 1 คน และไม่ชัดเจนว่าใครเป็นคนดำเนินการและอะไรคือแรงจูงใจเบื้องหลังการเผยแพร่ภาพปลอม นอกจาก Bloomberg Feed แล้ว บัญชีอื่น ๆ ที่เผยแพร่ข้อความเท็จ ได้แก่ Walter Bloomberg และ Breaking Market News ซึ่งไม่เกี่ยวข้องกับบริษัท Bloomberg จริง

เหตุการณ์ดังกล่าวเน้นให้เห็นถึงภัยคุกคามที่อาจเกิดขึ้นซึ่งรูปภาพที่สร้างโดย AI สามารถโพสต์บนโซเชียลมีเดีย ซึ่งข้อมูลที่ไม่ผ่านการยืนยันจะถูกแชร์อย่างเร่งรีบ และระบบการตรวจสอบแบบชำระเงินใน Twitter. ในเดือนมีนาคม ภาพปลอมของการจับกุมของโดนัลด์ ทรัมป์ ซึ่งสร้างขึ้นโดยใช้ Midjourney กลายเป็นไวรัล และในขณะที่พวกเขาถูกเรียกว่าปลอมในทันที นอกจากนี้ หลายคนยังถูกชักนำให้เข้าใจผิดด้วยภาพของสมเด็จพระสันตะปาปาฟรานซิสในชุดเสื้อขนเป็ดสีขาวที่สร้างโดย AI

บัญชี "BloombergFeed" ถูกแบนแล้ว

แต่นี่จะกลายเป็นเกมตีตัวตุ่น

ภาพ AI ปลอม + ข่าวปลอมที่ตรวจสอบแล้ว Twitter บัญชี+สื่อกระแสหลักไม่ตรวจสอบเปรี้ยวces = สูตรแห่งความหายนะในสังคมดิจิทัลของเรา

สิ่งนี้จะไม่ช้าลง pictwitter.com/ZeboVgVm4Z

— ลอเรนโซ กรีน 〰️ (@mrgreen) May 23, 2023

สมเด็จพระสันตะปาปาในเสื้อกันหนาวก็เรื่องหนึ่ง แต่การระเบิดที่สำนักงานใหญ่ของกระทรวงกลาโหมสหรัฐก็อีกเรื่องหนึ่ง ผลที่ตามมาอาจร้ายแรงได้ เหมือนกับที่ตลาดหุ้นเดียวกันพิสูจน์ให้เห็น ค่าเฉลี่ยอุตสาหกรรมดาวโจนส์ลดลง 85 จุดในสี่นาทีหลังจากทวีตแพร่ระบาด แต่ก็ฟื้นตัวได้อย่างรวดเร็ว

ความสับสนส่วนใหญ่เกี่ยวกับทวีตปลอมเกิดขึ้นได้จากการเปลี่ยนแปลงใน Twitter ในช่วงเวลาของ Elon Musk เขาไล่ผู้ดูแลเนื้อหาออกหลายคนและทำให้กระบวนการยืนยันบัญชีเป็นไปโดยอัตโนมัติ โดยย้ายไปยังระบบที่ทุกคนสามารถจ่ายสำหรับเช็คสีน้ำเงินได้ นักวิจารณ์กล่าวว่าการปฏิบัติทำให้แพลตฟอร์มมีความเสี่ยงต่อข้อมูลที่ผิด

แม้ว่าทางการจะค่อนข้างรวดเร็วในการจดจำภาพถ่ายของการระเบิดว่าเป็นของปลอม แต่การมีโมเดลการสังเคราะห์ภาพ เช่น Midjourney และ Stable Diffusion ที่มีอยู่ หมายความว่าของปลอมที่น่าเชื่อถือไม่จำเป็นต้องใช้ศิลปะอีกต่อไป ทำให้เหลือช่องว่างสำหรับการบิดเบือนข้อมูล ความง่ายในการสร้างของปลอมรวมกับลักษณะไวรัสของแพลตฟอร์มเช่น Twitterหมายความว่าข้อมูลเท็จสามารถแพร่กระจายได้เร็วกว่าที่จะตรวจสอบได้

ในกรณีนี้ รูปภาพไม่จำเป็นต้องมีคุณภาพสูงเพื่อสร้างผลกระทบเชิงลบ ผู้เชี่ยวชาญกล่าวว่าเมื่อผู้คนต้องการเชื่อบางสิ่ง พวกเขาสูญเสียความระมัดระวังและไม่ตรวจสอบความถูกต้องของข้อมูล

อ่าน:

• AI ภาษาของ Meta รู้จักมากกว่า 4 ภาษา
• Adobe เพิ่มการแก้ไข Generative Fill ที่ขับเคลื่อนด้วย AI ให้กับ Photoshop