Državno sponzorirani hakeri iz Rusije, Kine i Irana koristili su OpenAI alate za usavršavanje svojih vještina i hakiranje. Kako javlja Microsoft, stručnjaci tvrtke pratili su hakerske skupine povezane s ruskom vojnom obavještajnom službom, Islamskom revolucionarnom gardom, kao i vladama Kine i Sjeverne Koreje, koje su pokušavale poboljšati svoje hakerske kampanje uz pomoć velikih jezičnih modela.
Tvrtka je objavila otkriće dok je uvela opću zabranu hakerskim skupinama koje podupire država da koriste njezine AI proizvode. "Jednostavno ne želimo da ti subjekti koje smo identificirali -- koje pratimo i znamo da predstavljaju prijetnju raznih vrsta -- ne želimo da imaju pristup ovoj tehnologiji", rekao je potpredsjednik. Microsoft sigurnosti kupaca Tom Burt. U izvješću se spominju hakerske skupine kao što su Forest Blizzard, Emerald Sleet, Crimson Sandstorm, Charcoal Typhoon i Salmon Typhoon.
Tvrdnje da su hakeri uhvaćeni u korištenju alata AI kako bi poboljšao svoje sposobnosti špijunaže, naglašava zabrinutost zbog brzog širenja tehnologije i njezinog potencijala za zlouporabu. Zapadni stručnjaci za kibernetičku sigurnost još su prošle godine upozorili da kriminalci zlorabe takve alate, iako do sada o tome nije bilo konkretnih podataka.
"Ovo je jedan od prvih, ako ne i prvi, slučaj u kojem je AI tvrtka javno raspravljala o tome kako napadači koriste AI tehnologije", rekao je Bob Rothstead, voditelj obavještajnog odjela za kibernetičku sigurnost u OpenAI-ju.
OpenAI i Microsoft opisao hakersku upotrebu svojih AI alata kao "ranu fazu" i "inkrementalnu". Prema Burtu, niti jedna tvrtka nije vidjela da su cyber špijuni napravili ikakav prodor: "Vidjeli smo da samo koriste tehnologiju kao i svaki drugi korisnik."
Izvješće opisuje hakerske skupine koje na različite načine koriste velike jezične obrasce. Hakeri, za koje je rečeno da rade u ime ruske igre, koristili su modele za istraživanje "raznih satelitskih i radarskih tehnologija koje bi mogle biti relevantne za vojne operacije u Ukrajini", rekla je agencija. Microsoft. A sjevernokorejski hakeri koristili su se modelima za stvaranje sadržaja "koji će se vjerojatno koristiti u phishing kampanjama".
Iranski hakeri također su se oslanjali na modele kako bi napisali uvjerljivije e-mailove. I kineski hakeri, koje podupire država, po njima Microsoft, eksperimentiraju s velikim jezičnim modelima kako bi postavili pitanja o konkurentskim obavještajnim službama, problemima kibernetičke sigurnosti i "istaknutim ličnostima".
Pročitajte također: