Najpopularniji svjetski chatbot, ChatGPT, koristi se od strane napadača za stvaranje novih vrsta zlonamjernog softvera.
Firma za sajber sigurnost WithSecure potvrdila je da je u divljini pronašla primjere zlonamjernog softvera koji je kreirao ozloglašeni AI autor. Ono što ChatGPT čini posebno opasnim je to što može generirati bezbroj varijacija zlonamjernog softvera, što ih čini teškim za otkrivanje.
Napadači mogu jednostavno pružiti ChatGPT-u primjere postojećeg zlonamjernog koda i uputiti ga da kreira nove vrste na osnovu njih, omogućavajući im da ovjekovječe zlonamjerni softver bez trošenja gotovo toliko vremena, truda i znanja kao prije.
Vijest dolazi usred mnogo govora o regulaciji AI kako bi se spriječilo njegovo korištenje u zlonamjerne svrhe. Kada je ChatGPT postao veoma popularan prošlog novembra, nije bilo pravila koja su regulisala njegovu upotrebu, a u roku od mesec dana bio je otet da bi pisao zlonamerne mejlove i datoteke.
Postoje određene zaštitne mjere unutar modela koje imaju za cilj spriječiti izvršavanje zlonamjernih upita, ali ih napadači mogu zaobići.
Juhani Hintikka, izvršni direktor WithSecure-a, rekao je za Infosecurity da zaštitnici sajber-sigurnosti obično koriste umjetnu inteligenciju kako bi pronašli i filtrirali zlonamjerni softver koji su ručno kreirali akteri prijetnji.
Međutim, čini se da se to sada mijenja, s moćnim AI alatima kao što je ChatGPT koji su besplatno dostupni. Alati za daljinski pristup korišteni su u nezakonite svrhe, a sada se isto odnosi i na umjetnu inteligenciju.
Tim West, šef obavještajnih podataka o prijetnjama u WithSecureu, dodao je da će "ChatGPT podržati softverski inženjering, kako na dobar tako i na loš način, a to pomaže i smanjuje barijeru ulasku za programere zlonamjernog softvera."
Prema Hintikki, phishing e-poruke koje ChatGPT može kreirati obično primjećuju ljudi, a kako LLM postaju napredniji, može postati teže spriječiti nasjedanje na takve prevare u bliskoj budućnosti.
Štaviše, kako se uspjeh napada napadača povećava alarmantnom brzinom, napadači reinvestiraju i postaju sve organiziraniji, proširuju operacije putem outsourcinga i produbljuju svoje razumijevanje umjetne inteligencije kako bi pokrenuli uspješnije napade.
Hintikka je zaključio da će, gledajući budući pejzaž sajber sigurnosti, "to biti igra dobre AI protiv loše AI".
Pročitajte također: