Підтримувані державою хакери з росії, Китаю та Ірану використовували інструменти OpenAI, щоб відточувати свої навички та хакерські атаки. Як повідомили у Microsoft, фахівці компанії відстежували хакерські групи, пов’язані з російською військовою розвідкою, корпусом вартових Ісламської революції, а також урядами Китаю і Північної Кореї, які намагалися вдосконалити свої хакерські кампанії за допомогою великих мовних моделей.
Компанія оголосила про цю знахідку, коли розгорнула повну заборону хакерським групам, що підтримуються державою, використовувати свої продукти зі ШІ. “Ми просто не хочемо, щоб ті суб’єкти, яких ми ідентифікували – яких ми відстежуємо і знаємо, що вони становлять загрозу різного роду – ми не хочемо, щоб вони мали доступ до цієї технології”, – заявив віцепрезидент Microsoft з безпеки клієнтів Том Берт. У звіті згадуються такі хакерські угрупування, як Forest Blizzard, Emerald Sleet, Crimson Sandstorm, Charcoal Typhoon, and Salmon Typhoon.
Твердження про те, що хакери були спіймані на використанні інструментів ШІ для посилення своїх шпигунських можливостей, підкреслює занепокоєння щодо швидкого поширення цієї технології та її потенціалу для зловживань. Західні фахівці з кібербезпеки ще минулого року попереджали, що зловмисники зловживають такими інструментами, хоча до цього часу конкретних даних про це не було.
“Це один з перших, якщо не перший випадок, коли компанія, що займається розробкою штучного інтелекту, публічно обговорює, як зловмисники використовують технології штучного інтелекту”, – зазначив очільник відділу розвідки загроз кібербезпеки в OpenAI Боб Ротстед.
OpenAI та Microsoft описали використання хакерами своїх інструментів ШІ як “ранню стадію” та “поступове”. За словами Берта, жодна з компаній не бачила, щоб кібершпигуни досягли якихось проривів: “Ми бачили, що вони просто використовують цю технологію, як і будь-який інший користувач”.
У звіті по-різному описуються хакерські групи, які використовують великі мовні моделі. Хакери, які, як стверджується, працювали від імені російського гру, використовували моделі для дослідження “різних супутникових і радарних технологій, які можуть мати відношення до військових операцій в Україні”, – заявили в Microsoft. А північнокорейські хакери використовували моделі для створення контенту, “який, ймовірно, буде використаний у фішингових кампаніях”.
Іранські хакери також спиралися на моделі для написання переконливіших електронних листів. А китайські хакери, яких підтримує держава, за словами Microsoft, експериментують з великими мовними моделями, щоб ставити питання про конкуруючі розвідувальні служби, проблеми кібербезпеки і “видатних особистостей”.
Читайте також: