Államilag támogatott oroszországi, kínai és iráni hackerek az OpenAI eszközeit használták tudásuk fejlesztésére és hack támadásokra. Amint arról beszámolt Microsoft, a cég szakértői nyomon követték az orosz katonai hírszerzéshez, az Iszlám Forradalmi Gárdához, valamint Kína és Észak-Korea kormányához köthető hackercsoportokat, amelyek nagy nyelvi modellek segítségével próbálták javítani hackerkampányukat.
A cég akkor jelentette be a leletet, amikor általános tilalmat vezetett be az állami támogatású hackercsoportok számára az AI-termékek használatára. "Csak nem akarjuk, hogy az általunk azonosított entitások – amelyeket figyelünk és tudjuk, hogy különféle fenyegetést jelentenek – nem akarjuk, hogy hozzáférjenek ehhez a technológiához" – mondta az alelnök. Microsoft az Ügyfélbiztonság Tom Burt. A jelentés olyan hackercsoportokat említ, mint a Forest Blizzard, az Emerald Sleet, a Crimson Sandstorm, a Charcoal Typhoon és a Salmon Typhoon.
Azt állítja, hogy hackereket fogtak el az eszközök használatával AI kémkedési képességeinek fokozása érdekében kiemeli a technológia gyors terjedésével és a vele való visszaélés lehetőségével kapcsolatos aggodalmakat. Nyugati kiberbiztonsági szakértők már tavaly figyelmeztettek arra, hogy a bűnözők visszaélnek az ilyen eszközökkel, bár erről eddig nem voltak konkrét adatok.
"Ez az egyik első, ha nem az első olyan eset, amikor egy mesterséges intelligencia vállalat nyilvánosan megvitatja, hogy a támadók hogyan használják az AI-technológiákat" - mondta Bob Rothstead, az OpenAI kiberbiztonsági fenyegetésekkel kapcsolatos intelligenciájának vezetője.
OpenAI hogy Microsoft "korai szakasznak" és "növekménynek" nevezte a hackerek mesterséges intelligencia eszközeinek használatát. Burt szerint egyik vállalat sem látott kiberkémeket áttörést elérni: "Láttuk, hogy csak úgy használják a technológiát, mint bármely más felhasználó."
A jelentés olyan hackercsoportokat ír le, amelyek különböző módon használnak nagy nyelvi mintákat. A hackerek, akikről azt mondták, hogy az orosz játék megbízásából dolgoztak, a modelleket arra használták, hogy „különböző műhold- és radartechnológiákat vizsgáljanak meg, amelyek relevánsak lehetnek az ukrajnai katonai műveletekben” – közölte az ügynökség. Microsoft. Az észak-koreai hackerek pedig a modellek segítségével olyan tartalmat hoztak létre, amelyet "valószínűleg adathalász kampányokban fognak használni".
Az iráni hackerek a modellekre is támaszkodtak, hogy meggyőzőbb e-maileket írjanak. Meg a kínai hackerek, akiket ezek szerint az állam támogat Microsoft, nagy nyelvi modellekkel kísérleteznek, hogy kérdéseket tegyenek fel a versengő hírszerző szolgálatokról, a kiberbiztonsági problémákról és a "prominens személyiségekről".
Olvassa el még: