Najpopularniji svjetski chatbot, ChatGPT, napadači koriste za stvaranje novih vrsta zlonamjernog softvera.
Tvrtka za kibernetičku sigurnost WithSecure potvrdila je da je u divljini pronašla primjere zlonamjernog softvera koji je stvorio ozloglašeni autor umjetne inteligencije. Ono što ChatGPT čini posebno opasnim je to što može generirati bezbroj varijacija zlonamjernog softvera, što ih čini teškim za otkrivanje.
Napadači ChatGPT-u mogu jednostavno pružiti primjere postojećeg zlonamjernog koda i uputiti ga da stvori nove vrste na temelju njih, dopuštajući im da ovjekovječe zlonamjerni softver bez trošenja gotovo toliko vremena, truda i znanja kao prije.
Vijest dolazi usred mnogo razgovora o reguliranju AI kako bi se spriječilo njegovo korištenje u zlonamjerne svrhe. Kada je ChatGPT postao iznimno popularan u studenom prošle godine, nije bilo pravila koja reguliraju njegovu upotrebu, a u roku od mjesec dana bio je otet za pisanje zlonamjernih poruka e-pošte i datoteka.
Unutar modela postoje određene zaštite koje su namijenjene sprječavanju izvršenja zlonamjernih upita, ali ih napadači mogu zaobići.
Juhani Hintikka, izvršni direktor tvrtke WithSecure, rekao je za Infosecurity da se branitelji kibernetičke sigurnosti obično koriste umjetnom inteligencijom za pronalaženje i filtriranje zlonamjernog softvera koji su ručno stvorili akteri prijetnji.
Međutim, čini se da se to sada mijenja, s moćnim AI alatima poput ChatGPT-a koji su besplatno dostupni. Alati za daljinski pristup korišteni su u nezakonite svrhe, a sada se isto odnosi i na umjetnu inteligenciju.
Tim West, voditelj odjela za obavještavanje o prijetnjama u WithSecureu, dodao je da će "ChatGPT podržati softverski inženjering, i na dobar i na loš način, a to pomaže i smanjuje prepreku ulasku za programere zlonamjernog softvera."
Prema Hintikki, ljudi obično primijete phishing e-poruke koje ChatGPT može stvoriti, a kako LLM postaju napredniji, moglo bi postati teže spriječiti nasjedanje na takve prijevare u bliskoj budućnosti.
Štoviše, kako se uspješnost napada napadača povećava alarmantnom brzinom, napadači ponovno ulažu i postaju sve organiziraniji, šireći operacije kroz outsourcing i produbljujući svoje razumijevanje umjetne inteligencije kako bi pokrenuli uspješnije napade.
Hintikka je zaključio da će, gledajući na budući krajolik kibernetičke sigurnosti, "to biti igra dobre umjetne inteligencije protiv loše umjetne inteligencije."
Pročitajte također: