Хакери можуть отримати багато користі від використання генеративних інструментів ШІ, таких як ChatGPT. Хоча ці інструменти ще занадто молоді, щоб запускати шкідливі кампанії з мінімальною участю людини, їх все одно можуть використовувати для підвищення ефективності кампаній, що проводяться людьми, у небачений раніше спосіб.
Про це свідчить новий аналіз, проведений командою IBM Security Intelligence X-Force. Дослідники детально описали експеримент, в якому вони порівнювали фішингові електронні листи, написані людиною, з тими, що були написані за допомогою ChatGPT. Мета дослідження полягала в тому, щоб побачити, який лист матиме вищий показник переходів як на самі листи, так і на шкідливі посилання, що містяться в них.
З’ясувалося, що контент, написаний людиною, переміг, але з незначною перевагою. Тож аналітики побоюються, що це лише питання часу, коли ШІ перевершить людський контент з точки зору правдоподібності та автентичності.
Люди перевершують ШІ в аспектах емоційного інтелекту, персоналізації та розуміння жертв. “Люди розуміють емоції так, як ШІ може тільки мріяти, – кажуть фахівці. – Ми можемо створювати розповіді, які зачіпають за живе і звучать реалістичніше, що підвищує ймовірність того, що реципієнти перейдуть за шкідливим посиланням”.
Що стосується персоналізації, то люди змогли посилатися на легітимні організації та надавати відчутні переваги працівникам, що підвищило ймовірність того, що листи будуть відкриті. Крім того, люди розуміють, що може викликати у їхніх жертв підозру: “У створеного людиною фішу тема листа була короткою і по суті, тоді як ШІ зробив її дуже довгою, що потенційно викликає підозру ще до того, як співробітники відкрили лист”, – зазначили експерти.
Всі ці фактори можна скоригувати. Варто зазначити, що команда X-Force змогла використати генеративну модель ШІ для написання переконливого фішингового листа, на що пішло п’ять хвилин та п’ять підказок – на написання такого листа вручну команді знадобилося б близько 16 годин. “Хоча X-Force не спостерігала широкомасштабного використання генеративного ШІ в поточних кампаніях, такі інструменти, як WormGPT, які були створені як необмежені або напівобмежені LLM, були помічені для продажу на різних форумах, що рекламують фішингові можливості. Це говорить про те, що зловмисники тестують використання ШІ”, – підсумували дослідники.
“Хоча навіть обмежені версії генеративних моделей ШІ можна обдурити за допомогою простих підказок, – додали вони, – необмежені версії можуть запропонувати зловмисникам ефективніші способи масштабування складних фішингових електронних листів у майбутньому”.
Читайте також:
Leave a Reply