Hakeri iz Rusije, Kine i Irana koje sponzorira država koristili su OpenAI alate da usavrše svoje vještine i hakerske napade. Kako prenosi Microsoft, stručnjaci kompanije su pratili hakerske grupe povezane s ruskim vojnim obavještajnim službama, Korpusom garde Islamske revolucije, kao i vladama Kine i Sjeverne Koreje, koje su pokušavale poboljšati svoje hakerske kampanje uz pomoć velikih jezičkih modela.
Kompanija je objavila otkriće dok je uvela potpunu zabranu hakerskim grupama koje podržava država da koriste svoje AI proizvode. "Jednostavno ne želimo one entitete koje smo identifikovali - koje pratimo i znamo da predstavljaju prijetnju različitih vrsta - ne želimo da imaju pristup ovoj tehnologiji", rekao je potpredsjednik. Microsoft za sigurnost kupaca Tom Burt. U izvještaju se spominju grupe hakera kao što su Forest Blizzard, Emerald Sleet, Crimson Sandstorm, Charcoal Typhoon i Salmon Typhoon.
Tvrdnje da su hakeri uhvaćeni koristeći alate AI kako bi poboljšao svoje špijunske sposobnosti, naglašava zabrinutost zbog brzog širenja tehnologije i njenog potencijala za zloupotrebu. Zapadni stručnjaci za sajber sigurnost upozorili su prošle godine da kriminalci zloupotrebljavaju takve alate, iako do sada nije bilo konkretnih podataka o tome.
„Ovo je jedan od prvih, ako ne i prvi, slučajeva u kojima je kompanija sa umjetnom inteligencijom javno raspravljala o tome kako napadači koriste AI tehnologije“, rekao je Bob Rothstead, šef obavještajne službe za cyber sigurnost u OpenAI.
OpenAI to Microsoft opisali su hakersku upotrebu svojih AI alata kao "ranu fazu" i "inkrementalnu". Prema Burtu, nijedna kompanija nije vidjela da sajber špijuni prave bilo kakav napredak: "Vidjeli smo da samo koriste tehnologiju kao i svaki drugi korisnik."
Izvještaj opisuje hakerske grupe koje koriste velike jezičke obrasce na različite načine. Hakeri, za koje se navodi da rade u ime ruske igre, koristili su modele za istraživanje "različitih satelitskih i radarskih tehnologija koje bi mogle biti relevantne za vojne operacije u Ukrajini", navodi agencija. Microsoft. A sjevernokorejski hakeri su koristili modele za kreiranje sadržaja koji će se "vjerovatno koristiti u phishing kampanjama".
Iranski hakeri su se također oslanjali na modele da napišu uvjerljivije mejlove. I kineski hakeri, koje država podržava, po njima Microsoft, eksperimentišu sa velikim jezičkim modelima kako bi postavljali pitanja o konkurentskim obavještajnim službama, pitanjima kibernetičke sigurnosti i "istaknutim ličnostima".
Pročitajte također: