Des pirates informatiques parrainés par des États de Russie, de Chine et d’Iran ont utilisé les outils OpenAI pour perfectionner leurs compétences et pirater leurs attaques. Comme le rapporte Microsoft, les experts de la société ont suivi des groupes de piratage liés aux renseignements militaires russes, au Corps des Gardiens de la révolution islamique, ainsi qu'aux gouvernements de Chine et de Corée du Nord, qui tentaient d'améliorer leurs campagnes de piratage à l'aide de grands modèles linguistiques.
La société a annoncé cette découverte alors qu’elle interdisait globalement aux groupes de piratage soutenus par l’État d’utiliser ses produits d’IA. "Nous ne voulons tout simplement pas que les entités que nous avons identifiées -- que nous surveillons et savons qu'elles représentent une menace de toutes sortes -- nous ne voulons pas qu'elles aient accès à cette technologie", a déclaré le vice-président. Microsoft de la sécurité client Tom Burt. Le rapport mentionne des groupes de hackers tels que Forest Blizzard, Emerald Sleet, Crimson Sandstorm, Charcoal Typhoon et Salmon Typhoon.
Des allégations selon lesquelles des pirates informatiques auraient été capturés en utilisant ces outils IA pour renforcer ses capacités d'espionnage, souligne les inquiétudes concernant la diffusion rapide de la technologie et son potentiel d'abus. Les experts occidentaux en cybersécurité ont averti l’année dernière que les criminels abusaient de ces outils, même si jusqu’à présent il n’existait aucune donnée concrète à ce sujet.
"C'est l'un des premiers cas, sinon le premier, où une entreprise d'IA discute publiquement de la manière dont les attaquants utilisent les technologies d'IA", a déclaré Bob Rothstead, responsable du renseignement sur les menaces de cybersécurité chez OpenAI.
OpenAI que Microsoft a décrit l'utilisation par les pirates de leurs outils d'IA comme étant « précoce » et « incrémentielle ». Selon Burt, aucune des deux sociétés n'a vu de cyber-espions faire des percées : "Nous les avons vus utiliser la technologie comme n'importe quel autre utilisateur."
Le rapport décrit les groupes de hackers qui utilisent de grandes structures linguistiques de différentes manières. Les pirates, qui travailleraient pour le compte du jeu russe, ont utilisé ces modèles pour enquêter sur « diverses technologies satellitaires et radar susceptibles d'être pertinentes pour les opérations militaires en Ukraine », a indiqué l'agence. Microsoft. Et les pirates nord-coréens ont utilisé ces modèles pour créer du contenu « susceptible d'être utilisé dans des campagnes de phishing ».
Les hackers iraniens se sont également appuyés sur ces modèles pour rédiger des emails plus convaincants. Et les hackers chinois, qui seraient soutenus par l'État Microsoft, expérimentent de grands modèles linguistiques pour poser des questions sur les services de renseignement concurrents, les problèmes de cybersécurité et les « personnalités éminentes ».
Lisez aussi: