Door de staat gesteunde hackers uit Rusland, China en Iran hebben OpenAI-tools gebruikt om hun vaardigheden aan te scherpen en aanvallen te hacken. Zoals gerapporteerd door MicrosoftDe experts van het bedrijf volgden hackgroepen die banden hadden met de Russische militaire inlichtingendienst, de Islamitische Revolutionaire Garde en de regeringen van China en Noord-Korea, die probeerden hun hackcampagnes te verbeteren met behulp van grote taalmodellen.
Het bedrijf maakte de vondst bekend toen het een algeheel verbod uitvaardigde voor door de staat gesteunde hackgroepen om zijn AI-producten te gebruiken. “We willen gewoon niet dat de entiteiten die we hebben geïdentificeerd – die we in de gaten houden en waarvan we weten dat ze een dreiging van verschillende aard vormen – we willen niet dat ze toegang hebben tot deze technologie”, zei de vice-president. Microsoft van klantbeveiliging Tom Burt. Het rapport vermeldt hackergroepen als Forest Blizzard, Emerald Sleet, Crimson Sandstorm, Charcoal Typhoon en Salmon Typhoon.
Beweert dat hackers zijn betrapt op het gebruik van de tools AI om zijn spionagecapaciteiten te vergroten, benadrukt de bezorgdheid over de snelle verspreiding van de technologie en het potentieel voor misbruik ervan. Westerse cybersecurity-experts waarschuwden vorig jaar dat criminelen misbruik maakten van dergelijke tools, hoewel daar tot nu toe geen concrete gegevens over bestonden.
“Dit is een van de eerste, zo niet de eerste, gevallen waarin een AI-bedrijf publiekelijk heeft besproken hoe aanvallers AI-technologieën gebruiken”, zegt Bob Rothstead, hoofd cybersecurity threat intelligence bij OpenAI.
OpenAI dat Microsoft beschreef het gebruik van hun AI-tools door hackers als ‘vroeg stadium’ en ‘incrementeel’. Volgens Burt heeft geen van beide bedrijven cyberspionnen enige doorbraak zien maken: "We hebben gezien dat ze de technologie gewoon gebruiken zoals elke andere gebruiker."
Het rapport beschrijft hackgroepen die op verschillende manieren grote taalpatronen gebruiken. De hackers, die namens het Russische spel zouden werken, gebruikten de modellen om “verschillende satelliet- en radartechnologieën te onderzoeken die relevant kunnen zijn voor militaire operaties in Oekraïne”, aldus het agentschap. Microsoft. En Noord-Koreaanse hackers gebruikten de modellen om inhoud te creëren “die waarschijnlijk in phishing-campagnes zou worden gebruikt.”
De Iraanse hackers vertrouwden ook op de modellen om overtuigender e-mails te schrijven. En de Chinese hackers, die volgens hen door de staat worden gesteund Microsoftexperimenteren met grote taalmodellen om vragen te stellen over concurrerende inlichtingendiensten, cyberveiligheidskwesties en ‘prominente persoonlijkheden’.
Lees ook: