Valtion tukemat hakkerit Venäjältä, Kiinasta ja Iranista ovat käyttäneet OpenAI-työkaluja taitojensa hiomiseen ja hakkeroimiseen. Kuten raportoi Microsoft, yrityksen asiantuntijat seurasivat Venäjän sotilastiedusteluun, Islamic Revolutionary Guard Corpsiin sekä Kiinan ja Pohjois-Korean hallitukseen liittyviä hakkerointiryhmiä, jotka yrittivät parantaa hakkerointikampanjoitaan suurten kielimallien avulla.
Yhtiö ilmoitti löydöstä, kun se otti käyttöön valtion tukemille hakkerointiryhmille yleisen kiellon käyttää tekoälytuotteita. "Emme vain halua, että ne yksiköt, jotka olemme tunnistaneet - joita valvomme ja tiedämme, että ne muodostavat erilaisen uhan - emme halua niillä pääsyä tähän teknologiaan", varapresidentti sanoi. Microsoft Asiakasturvallisuus Tom Burt. Raportissa mainitaan sellaiset hakkeriryhmät kuten Forest Blizzard, Emerald Sleet, Crimson Sandstorm, Charcoal Typhoon ja Salmon Typhoon.
Väitetään, että hakkerit on jäänyt kiinni työkalujen käyttämisestä AI vahvistaakseen vakoilukykyään, korostaa huolta teknologian nopeasta leviämisestä ja sen mahdollisista väärinkäytöksistä. Länsimaiset kyberturvallisuusasiantuntijat varoittivat viime vuonna, että rikolliset käyttävät väärin tällaisia työkaluja, vaikka toistaiseksi asiasta ei ollut konkreettista tietoa.
"Tämä on yksi ensimmäisistä, ellei ensimmäinen tapauksista, joissa tekoälyyritys on julkisesti keskustellut siitä, kuinka hyökkääjät käyttävät tekoälytekniikoita", sanoi Bob Rothstead, OpenAI:n kyberturvallisuusuhkien tiedustelujohtaja.
OpenAI että Microsoft kuvaili hakkereiden tekoälytyökalujen käyttöä "varhaisessa vaiheessa" ja "inkrementaaliseksi". Burtin mukaan kumpikaan yritys ei ole nähnyt kybervakoilijoiden tekevän läpimurtoja: "Olemme nähneet heidän käyttävän tekniikkaa kuten muutkin käyttäjät."
Raportissa kuvataan hakkerointiryhmiä, jotka käyttävät suuria kielimalleja eri tavoin. Hakkerit, joiden sanottiin työskentelevän venäläisen pelin puolesta, käyttivät malleja tutkiakseen "erilaisia satelliitti- ja tutkatekniikoita, joilla saattaa olla merkitystä sotilasoperaatioille Ukrainassa", virasto sanoi. Microsoft. Ja pohjoiskorealaiset hakkerit käyttivät malleja luodakseen sisältöä, jota "todennäköisesti käytetään tietojenkalastelukampanjoissa".
Iranilaiset hakkerit luottivat myös malleihin kirjoittaakseen vakuuttavampia sähköposteja. Ja kiinalaiset hakkerit, joita valtio tukee heidän mukaansa Microsoft, kokeilevat suuria kielimalleja esittääkseen kysymyksiä kilpailevista tiedustelupalveluista, kyberturvallisuusongelmista ja "merkittävistä henkilöistä".
Lue myös: