هکرهای مورد حمایت دولت از روسیه، چین و ایران از ابزار OpenAI برای تقویت مهارت های خود و حملات هک استفاده کرده اند. همانطور که توسط Microsoftکارشناسان این شرکت گروه های هکری مرتبط با اطلاعات نظامی روسیه، سپاه پاسداران انقلاب اسلامی و همچنین دولت های چین و کره شمالی را که در تلاش برای بهبود کمپین های هکری خود با کمک مدل های زبانی بزرگ بودند، ردیابی کردند.
این شرکت این کشف را در حالی اعلام کرد که ممنوعیتی کلی برای گروه‌های هکر تحت حمایت دولتی از استفاده از محصولات هوش مصنوعی خود ایجاد کرد. معاون رئیس‌جمهور گفت: «ما فقط نمی‌خواهیم آن نهادهایی که شناسایی کرده‌ایم - که ما نظارت می‌کنیم و می‌دانیم که آنها تهدیدی از انواع مختلف هستند - نمی‌خواهیم آنها به این فناوری دسترسی داشته باشند.» Microsoft امنیت مشتری تام برت این گزارش از گروه های هکری مانند Forest Blizzard، Emerald Sleet، Crimson Sandstorm، Charcoal Typhoon و Salmon Typhoon نام می برد.
ادعا می کند که هکرها با استفاده از این ابزار دستگیر شده اند هوش مصنوعی برای تقویت قابلیت‌های جاسوسی خود، نگرانی‌ها در مورد گسترش سریع فناوری و پتانسیل سوء استفاده از آن را برجسته می‌کند. کارشناسان امنیت سایبری غربی سال گذشته هشدار دادند که مجرمان از چنین ابزارهایی سوء استفاده می کنند، اگرچه تاکنون هیچ داده مشخصی در این مورد وجود نداشت.
باب روتستد، رئیس اطلاعات تهدیدات امنیت سایبری در OpenAI گفت: «این یکی از اولین، اگر نگوییم اولین، مواردی است که یک شرکت هوش مصنوعی به طور علنی درباره نحوه استفاده مهاجمان از فناوری‌های هوش مصنوعی بحث کرده است.
OpenAI و Microsoft استفاده هکرها از ابزارهای هوش مصنوعی خود را "مرحله اولیه" و "افزاینده" توصیف کرد. به گفته برت، هیچ یک از شرکت‌ها ندیده‌اند که جاسوس‌های سایبری پیشرفتی داشته باشند: "ما دیده‌ایم که آنها مانند هر کاربر دیگری از فناوری استفاده می‌کنند."
در این گزارش گروه های هکری که از الگوهای زبانی بزرگ به روش های مختلف استفاده می کنند، توضیح داده شده است. به گفته آژانس، هکرها که گفته می‌شود به نمایندگی از بازی روسی کار می‌کنند، از این مدل‌ها برای بررسی «فناوری‌های ماهواره‌ای و راداری مختلف که ممکن است به عملیات نظامی در اوکراین مرتبط باشد» استفاده کردند. Microsoft. و هکرهای کره شمالی از این مدل ها برای ایجاد محتوایی استفاده کردند که «احتمالاً در کمپین های فیشینگ استفاده می شود».
هکرهای ایرانی نیز برای نوشتن ایمیل‌های قانع‌کننده‌تر به مدل‌ها متکی بودند. و به گفته آنها هکرهای چینی که توسط دولت حمایت می شوند Microsoft، در حال آزمایش مدل های زبانی بزرگ برای پرسیدن سوالاتی در مورد سرویس های اطلاعاتی رقیب، مسائل امنیت سایبری و "شخصیت های برجسته" هستند.
همچنین بخوانید: