האקרים בחסות המדינה מרוסיה, סין ואיראן השתמשו בכלי OpenAI כדי לחדד את כישוריהם ולהתקפות פריצה. כפי שדווח על ידי Microsoft, מומחי החברה עקבו אחר קבוצות פריצה הקשורות למודיעין הצבאי הרוסי, לחיל משמרות המהפכה האסלאמית, כמו גם ממשלות סין וצפון קוריאה, שניסו לשפר את מסעות הפריצה שלהן בעזרת מודלים שפות גדולים.
החברה הודיעה על המציאה בזמן שהוציאה איסור גורף על קבוצות פריצה הנתמכות על ידי המדינה להשתמש במוצרי הבינה המלאכותית שלה. "אנחנו פשוט לא רוצים את הישויות האלה שזיהינו - שאנחנו עוקבים ונדע שהם מהווים איום מסוגים שונים - אנחנו לא רוצים שתהיה להם גישה לטכנולוגיה הזו", אמר סגן הנשיא. Microsoft של אבטחת לקוחות טום ברט. הדו"ח מזכיר קבוצות האקרים כמו Forest Blizzard, Emerald Sleet, Crimson Sandstorm, Charcoal Typhoon ו-Salmon Typhoon.
טוען שהאקרים נתפסו כשהם משתמשים בכלים AI כדי לשפר את יכולות הריגול שלה, מדגיש את החששות מההתפשטות המהירה של הטכנולוגיה ומהפוטנציאל שלה לשימוש לרעה. מומחי אבטחת סייבר מערביים הזהירו בשנה שעברה כי פושעים עושים שימוש לרעה בכלים כאלה, אם כי עד כה לא היו נתונים קונקרטיים על כך.
"זהו אחד המקרים הראשונים, אם לא הראשון, שבהם חברת בינה מלאכותית דנה בפומבי כיצד תוקפים משתמשים בטכנולוגיות בינה מלאכותית", אמר בוב רותסטד, ראש מודיעין איומי אבטחת סייבר ב-OpenAI.
OpenAI זה Microsoft תיארו את השימוש של האקרים בכלי הבינה המלאכותית שלהם כ"שלב מוקדם" ו"מצטבר". לדברי ברט, אף אחת מהחברות לא ראתה את מרגלי הסייבר עושים פריצות דרך: "ראינו אותם פשוט משתמשים בטכנולוגיה כמו כל משתמש אחר".
הדו"ח מתאר קבוצות פריצה המשתמשות בדפוסי שפה גדולים בדרכים שונות. ההאקרים, שנאמר כי הם עובדים מטעם המשחק הרוסי, השתמשו במודלים כדי לחקור "טכנולוגיות לוויינים ומכ"ם שונות שעשויות להיות רלוונטיות לפעולות צבאיות באוקראינה", נמסר מהסוכנות. Microsoft. והאקרים צפון קוריאנים השתמשו במודלים כדי ליצור תוכן "שסביר שישמש בקמפיינים דיוגים".
ההאקרים האיראנים גם הסתמכו על הדוגמניות כדי לכתוב מיילים משכנעים יותר. וההאקרים הסינים, הנתמכים על ידי המדינה, לדבריהם Microsoft, מתנסים במודלים של שפות גדולות כדי לשאול שאלות על שירותי מודיעין מתחרים, בעיות אבטחת סייבר ו"אישים בולטים".
קרא גם: