Statssponsrade hackare från Ryssland, Kina och Iran har använt OpenAI-verktyg för att finslipa sina färdigheter och hacka attacker. Som rapporterats av Microsoft, spårade företagets experter hackningsgrupper kopplade till rysk militär underrättelsetjänst, Islamiska revolutionsgardet, samt regeringarna i Kina och Nordkorea, som försökte förbättra sina hackningskampanjer med hjälp av stora språkmodeller.
Företaget tillkännagav fyndet när det rullade ut ett generellt förbud för statsstödda hackergrupper att använda sina AI-produkter. "Vi vill helt enkelt inte att de enheter som vi har identifierat - som vi övervakar och vet att de utgör ett hot av olika slag - vi vill inte att de ska ha tillgång till den här tekniken", sa vicepresidenten. Microsoft av Customer Security Tom Burt. Rapporten nämner sådana hackergrupper som Forest Blizzard, Emerald Sleet, Crimson Sandstorm, Charcoal Typhoon och Salmon Typhoon.
Påstår att hackare har fångats med hjälp av verktygen AI för att förbättra sin spionagekapacitet, framhåller oro över den snabba spridningen av tekniken och dess potential för missbruk. Västerländska cybersäkerhetsexperter varnade förra året för att brottslingar missbrukade sådana verktyg, även om det hittills inte fanns några konkreta uppgifter om detta.
"Detta är ett av de första, om inte det första, fallen där ett AI-företag offentligt har diskuterat hur angripare använder AI-teknik", säger Bob Rothstead, chef för cybersäkerhets-hotspaning på OpenAI.
OpenAI att Microsoft beskrev hackares användning av sina AI-verktyg som "tidigt stadium" och "inkrementell". Enligt Burt har ingetdera företagen sett cyberspioner göra några genombrott: "Vi har sett dem bara använda tekniken som vilken annan användare som helst."
Rapporten beskriver hackargrupper som använder stora språkmönster på olika sätt. Hackarna, som sades arbeta på uppdrag av det ryska spelet, använde modellerna för att undersöka "olika satellit- och radarteknologier som kan vara relevanta för militära operationer i Ukraina", sade byrån. Microsoft. Och nordkoreanska hackare använde modellerna för att skapa innehåll som "sannolikt kommer att användas i nätfiskekampanjer".
De iranska hackarna förlitade sig också på att modellerna skulle skriva mer övertygande mejl. Och kinesiska hackare, som påstås ha stöd av staten Microsoft, experimenterar med stora språkmodeller för att ställa frågor om konkurrerande underrättelsetjänster, cybersäkerhetsfrågor och "framstående personligheter".
Läs också: