הצ'אטבוט הפופולרי ביותר בעולם, ChatGPT, נמצא בשימוש על ידי תוקפים ליצירת זנים חדשים של תוכנות זדוניות.
חברת אבטחת הסייבר WithSecure אישרה כי מצאה דוגמאות לתוכנות זדוניות שנוצרו על ידי מחבר הבינה המלאכותית הידועה לשמצה בטבע. מה שהופך את ChatGPT למסוכן במיוחד הוא שהוא יכול ליצור אינספור וריאציות של תוכנות זדוניות, מה שמקשה על זיהוין.
התוקפים יכולים פשוט לספק ל-ChatGPT דוגמאות של קוד זדוני קיים ולהורות לו ליצור זנים חדשים המבוססים עליהם, מה שיאפשר להם להנציח את התוכנה הזדונית מבלי לבזבז זמן, מאמץ וידע כמעט כמו קודם.
החדשות מגיעות על רקע דיבורים רבים על ויסות AI כדי למנוע שימוש בו למטרות זדוניות. כאשר ChatGPT הפך פופולרי מאוד בנובמבר האחרון, לא היו כללים המסדירים את השימוש בו, ותוך חודש הוא נחטף כדי לכתוב מיילים וקבצים זדוניים.
ישנם אמצעי הגנה מסוימים בתוך המודל שנועדו למנוע ביצוע של הנחיות זדוניות, אך ניתן לעקוף אותם על ידי תוקפים.
ג'והאני הינטיקה, מנכ"ל WithSecure, אמר ל-Infosecurity כי מגיני אבטחת סייבר משתמשים בדרך כלל בבינה מלאכותית כדי למצוא ולסנן תוכנות זדוניות שנוצרו באופן ידני על ידי גורמי איומים.
עם זאת, נראה שזה משתנה כעת, עם כלי AI רבי עוצמה כמו ChatGPT זמינים באופן חופשי. נעשה שימוש בכלי גישה מרחוק למטרות לא חוקיות, וכעת אותו דבר חל על בינה מלאכותית.
טים ווסט, ראש מודיעין איומים ב-WithSecure, הוסיף כי "ChatGPT יתמוך בהנדסת תוכנה, גם בצורה טובה וגם רעה, וזה עוזר ומוריד את מחסום הכניסה למפתחי תוכנה זדוניים".
לדברי הינטיקה, הודעות דיוג ש-ChatGPT יכולות ליצור בדרך כלל מורגשות על ידי אנשים, וככל ש-LLM מתקדמים יותר, זה עשוי להיות קשה יותר למנוע נפילות להונאות כאלה בעתיד הקרוב.
יתרה מכך, ככל שהצלחת התקפות התוקפים עולה בקצב מדאיג, התוקפים משקיעים מחדש ומתארגנים יותר, מרחיבים את הפעילות באמצעות מיקור חוץ, ומעמיקים את ההבנה שלהם בבינה מלאכותית כדי לצאת למתקפות מוצלחות יותר.
הינטיקה סיכמה שבהסתכלות על הנוף העתידי של אבטחת סייבר, "זה יהיה משחק של AI טוב מול AI רע".
קרא גם: