Найпопулярніший у світі чат-бот ChatGPT використовується зловмисниками для створення нових штамів шкідливого програмного забезпечення.
Фірма з кібербезпеки WithSecure підтвердила, що знайшла приклади шкідливого програмного забезпечення, створеного сумнозвісним автором штучного інтелекту в дикій природі. Особливо небезпечним ChatGPT робить те, що він може генерувати незліченну кількість варіацій шкідливих програм, що ускладнює їх виявлення.
Зловмисники можуть просто надати ChatGPT приклади існуючого шкідливого коду і доручити йому створити нові штами на їх основі, що дозволяє увічнити шкідливе програмне забезпечення, не витрачаючи на це майже стільки ж часу, зусиль і знань, як раніше.
Ця новина з’явилася на тлі численних розмов про регулювання ШІ, щоб запобігти його використанню в зловмисних цілях. Коли в листопаді минулого року ChatGPT набув шаленої популярності, не було жодних правил, що регулювали б його використання, а вже за місяць його викрали для написання зловмисних електронних листів і файлів.
Усередині моделі існують певні запобіжники, які мають на меті запобігти виконанню недоброзичливих підказок, але зловмисники можуть їх обійти.
Юхані Хінтікка, генеральний директор компанії WithSecure, розповів Infosecurity, що захисники кібербезпеки зазвичай використовують штучний інтелект для пошуку та відсіювання шкідливих програм, створених вручну суб’єктами загроз.
Однак, схоже, що зараз, з появою у вільному доступі потужних інструментів штучного інтелекту, таких як ChatGPT, ситуація змінюється. Інструменти віддаленого доступу використовувалися в незаконних цілях, а тепер це стосується і штучного інтелекту.
Тім Вест, керівник відділу розвідки загроз у WithSecure, додав, що “ChatGPT підтримуватиме програмну інженерію, як в хорошому, так і в поганому сенсі, і це сприяє і знижує бар’єр для входу зловмисників, які розробляють шкідливе програмне забезпечення”.
За словами Хінтікки, фішингові електронні листи, які може створювати ChatGPT, зазвичай помічають люди, а оскільки LLM стають все більш просунутими, то в недалекому майбутньому може стати важче запобігти потраплянню на такі шахрайські схеми.
Щобільше, оскільки успіх атак зловмисників зростає тривожними темпами, зловмисники реінвестують і стають організованішими, розширюють операції шляхом аутсорсингу та поглиблюють своє розуміння штучного інтелекту, щоб здійснювати успішніші атаки.
Хінтікка підсумував, що, дивлячись на майбутній ландшафт кібербезпеки, “це буде гра хорошого ШІ проти поганого ШІ”.
Читайте також: