Nejoblíbenější chatbot na světě, ChatGPT, využívají útočníci k vytváření nových druhů malwaru.
Firma WithSecure pro kybernetickou bezpečnost potvrdila, že ve volné přírodě našla příklady malwaru vytvořeného notoricky známým autorem umělé inteligence. Co dělá ChatGPT obzvláště nebezpečným, je to, že může generovat nespočet variant malwaru, takže je obtížné je odhalit.
Útočníci mohou jednoduše poskytnout ChatGPT příklady existujícího škodlivého kódu a instruovat jej, aby na jejich základě vytvořil nové kmeny, což jim umožní zachovat malware, aniž by vynaložili téměř tolik času, úsilí a znalostí jako dříve.
Tato zpráva přichází v době, kdy se hodně mluví o regulaci umělé inteligence, aby se zabránilo jejímu použití ke škodlivým účelům. Když se ChatGPT stal loni v listopadu divoce populární, neexistovala žádná pravidla upravující jeho používání a během měsíce byl unesen za účelem psaní škodlivých e-mailů a souborů.
V rámci modelu existují určitá zabezpečení, která mají zabránit provádění škodlivých výzev, ale útočníci je mohou obejít.
Juhani Hintikka, generální ředitel WithSecure, řekl Infosecurity, že obránci kybernetické bezpečnosti obvykle používají umělou inteligenci k nalezení a odfiltrování malwaru vytvořeného ručně aktéry hrozeb.
Zdá se však, že se to nyní mění, protože jsou volně dostupné výkonné nástroje AI, jako je ChatGPT. Nástroje pro vzdálený přístup byly použity k nelegálním účelům a nyní totéž platí pro umělou inteligenci.
Tim West, vedoucí zpravodajství o hrozbách ve WithSecure, dodal, že „ChatGPT bude podporovat softwarové inženýrství, a to jak v dobrém, tak ve špatném smyslu, a to pomáhá a snižuje překážku vstupu pro vývojáře škodlivého softwaru.“
Podle Hintikka si phishingových e-mailů, které může ChatGPT vytvořit, lidé obvykle všimnou, a jak se LLM stávají vyspělejšími, může být v blízké budoucnosti obtížnější zabránit takovým podvodům.
A co víc, jak úspěšnost útoků útočníků roste alarmujícím tempem, útočníci znovu investují a stávají se organizovanějšími, rozšiřují operace prostřednictvím outsourcingu a prohlubují své znalosti umělé inteligence, aby mohli zahájit úspěšnější útoky.
Hintikka dospěl k závěru, že při pohledu na budoucí prostředí kybernetické bezpečnosti „to bude hra dobré umělé inteligence proti špatné umělé inteligenci“.
Přečtěte si také: