Statsstøttede hackere fra Rusland, Kina og Iran har brugt OpenAI-værktøjer til at finpudse deres færdigheder og hacke angreb. Som rapporteret af Microsoft, sporede virksomhedens eksperter hackinggrupper knyttet til russisk militær efterretningstjeneste, Islamic Revolutionary Guard Corps samt regeringerne i Kina og Nordkorea, som forsøgte at forbedre deres hacking-kampagner ved hjælp af store sprogmodeller.
Virksomheden annoncerede fundet, da det udrullede et generelt forbud mod statsstøttede hackergrupper i at bruge deres AI-produkter. "Vi vil bare ikke have de enheder, som vi har identificeret - som vi overvåger og ved, at de udgør en trussel af forskellig art - vi ønsker ikke, at de skal have adgang til denne teknologi," sagde vicepræsidenten. Microsoft af kundesikkerhed Tom Burt. Rapporten nævner sådanne hackergrupper som Forest Blizzard, Emerald Sleet, Crimson Sandstorm, Charcoal Typhoon og Salmon Typhoon.
Påstår, at hackere er blevet fanget ved at bruge værktøjerne AI for at forbedre sine spionagekapaciteter, fremhæver bekymringer over teknologiens hurtige spredning og dens potentiale for misbrug. Vestlige cybersikkerhedseksperter advarede sidste år om, at kriminelle misbrugte sådanne værktøjer, selvom der indtil nu ikke var nogen konkrete data om dette.
"Dette er et af de første, hvis ikke det første, tilfælde, hvor en AI-virksomhed offentligt har diskuteret, hvordan angribere bruger AI-teknologier," sagde Bob Rothstead, leder af cybersikkerhedstrussel-intelligens hos OpenAI.
OpenAI og Microsoft beskrev hackeres brug af deres AI-værktøjer som "tidlig fase" og "inkrementel". Ifølge Burt har ingen af selskaberne set cyberspioner lave nogle gennembrud: "Vi har set dem bare bruge teknologien som enhver anden bruger."
Rapporten beskriver hackergrupper, der bruger store sprogmønstre på forskellige måder. Hackerne, som siges at arbejde på vegne af det russiske spil, brugte modellerne til at undersøge "forskellige satellit- og radarteknologier, der kan være relevante for militære operationer i Ukraine," sagde agenturet. Microsoft. Og nordkoreanske hackere brugte modellerne til at skabe indhold, der "sandsynligvis vil blive brugt i phishing-kampagner."
De iranske hackere stolede også på, at modellerne kunne skrive mere overbevisende e-mails. Og kinesiske hackere, som angiveligt støttes af staten Microsoft, eksperimenterer med store sprogmodeller for at stille spørgsmål om konkurrerende efterretningstjenester, cybersikkerhedsproblemer og "fremtrædende personligheder."
Læs også: