แชตบอตที่ได้รับความนิยมมากที่สุดในโลกกำลังถูกใช้โดยผู้โจมตีเพื่อสร้างมัลแวร์สายพันธุ์ใหม่
บริษัทด้านความปลอดภัยทางไซเบอร์ WithSecure ยืนยันว่าได้พบตัวอย่างของมัลแวร์ที่สร้างโดยผู้เขียน AI ที่มีชื่อเสียงในทางธรรมชาติ สิ่งที่ทำให้ ChatGPT อันตรายเป็นพิเศษคือสามารถสร้างมัลแวร์รูปแบบต่างๆ ได้นับไม่ถ้วน ทำให้ตรวจจับได้ยาก
ผู้โจมตีสามารถให้ ChatGPT กับตัวอย่างรหัสที่เป็นอันตรายที่มีอยู่และสั่งให้สร้างสายพันธุ์ใหม่ตามพวกเขา ทำให้พวกเขาสามารถขยายเวลาของมัลแวร์โดยไม่ต้องใช้เวลา ความพยายาม และความรู้เกือบเท่าเมื่อก่อน
ข่าวดังกล่าวเกิดขึ้นท่ามกลางการพูดคุยกันมากมายเกี่ยวกับการควบคุม AI เพื่อป้องกันไม่ให้ถูกใช้เพื่อจุดประสงค์ที่เป็นอันตราย เมื่อ ChatGPT ได้รับความนิยมอย่างล้นหลามเมื่อเดือนพฤศจิกายนปีที่แล้ว ไม่มีกฎควบคุมการใช้งาน และภายในหนึ่งเดือนก็ถูกขโมยเพื่อเขียนอีเมลและไฟล์ที่เป็นอันตราย
มีการป้องกันบางอย่างภายในโมเดลที่มีจุดประสงค์เพื่อป้องกันไม่ให้ดำเนินการพร้อมต์ที่เป็นอันตราย แต่ผู้โจมตีสามารถข้ามได้
Juhani Hintikka ซีอีโอของ WithSecure กล่าวกับ Infosecurity ว่าผู้ปกป้องความปลอดภัยในโลกไซเบอร์มักใช้ปัญญาประดิษฐ์ในการค้นหาและกรองมัลแวร์ที่สร้างขึ้นโดยผู้คุกคามด้วยตนเอง
อย่างไรก็ตาม ดูเหมือนว่าจะเปลี่ยนไปแล้ว เนื่องจากเครื่องมือ AI อันทรงพลังอย่าง ChatGPT เปิดให้ใช้งานได้ฟรี มีการใช้เครื่องมือการเข้าถึงระยะไกลเพื่อวัตถุประสงค์ที่ผิดกฎหมาย และตอนนี้เช่นเดียวกันกับปัญญาประดิษฐ์
Tim West หัวหน้าหน่วยข่าวกรองภัยคุกคามของ WithSecure กล่าวเพิ่มเติมว่า "ChatGPT จะสนับสนุนวิศวกรรมซอฟต์แวร์ทั้งในทางที่ดีและไม่ดี และสิ่งนี้จะช่วยและลดอุปสรรคในการเข้าถึงสำหรับนักพัฒนาซอฟต์แวร์ที่เป็นอันตราย"
จากข้อมูลของ Hintikka อีเมลฟิชชิ่งที่ ChatGPT สามารถสร้างได้มักจะมีผู้คนสังเกตเห็น และเมื่อ LLM ก้าวหน้ามากขึ้น การป้องกันการตกเป็นเหยื่อของกลโกงดังกล่าวอาจทำได้ยากขึ้นในอนาคตอันใกล้
ยิ่งไปกว่านั้น เมื่อความสำเร็จของการโจมตีของผู้โจมตีเพิ่มขึ้นในอัตราที่น่าตกใจ ผู้โจมตีจึงลงทุนใหม่และมีระเบียบมากขึ้น ขยายการดำเนินงานผ่านการว่าจ้างบุคคลภายนอก และทำความเข้าใจอย่างลึกซึ้งเกี่ยวกับปัญญาประดิษฐ์เพื่อเริ่มการโจมตีที่ประสบความสำเร็จมากขึ้น
Hintikka สรุปว่า เมื่อมองไปที่อนาคตของความปลอดภัยทางไซเบอร์ "มันจะเป็นเกมของ AI ที่ดีกับ AI ที่ไม่ดี"
อ่าน: