Нещодавно фахівці зафіксовали появу «першого у світі програмного забезпечення-вимагача, що працює на основі штучного інтелекту», яке здатне не лише викрадати та шифрувати дані, але й потенційно знищувати їх. Це відкриття виглядає так, ніби його вирізали зі сценарію серіалу «Чорне дзеркало»: шкідливе ПЗ змушує штучний інтелект створювати хаос у комп’ютерних системах. Його назва – PromptLock. За повідомленнями, воно функціонує з використанням моделі gpt-oss-20b, розробленої OpenAI. Особливість полягає в тому, що для роботи програмі не потрібне постійне підключення до Інтернету.
Щоб дізнатись останні новини, слідкуйте за нашим каналом Google News онлайн або через застосунок.
Як повідомляють дослідники з Eset Research, це шкідливе програмне забезпечення застосовує API Ollama для створення шкідливих скриптів на мові Lua у режимі реального часу, які потім негайно виконуються.
Ключовим аспектом є саме його природа «на базі штучного інтелекту». PromptLock не нагадує класичний вірус-вимагач, коли хакер пише та запускає шкідливий код. Натомість мова йде про низку підказок, які виконуються безпосередньо на зараженому пристрої за допомогою вбудованих скриптів. За даними Eset, аналіз цих підказок свідчить, що програмне забезпечення може здійснювати крадіжку інформації, виконувати шифрування даних, а також у перспективі – їхнє знищення. Наразі функція повного знищення ще не реалізована, проте можливість її впровадження викликає серйозне занепокоєння.
У прикладах, наведених дослідниками, інструмент штучного інтелекту після заморожування коду та видалення всієї бази даних розробника повідомив: «Я знищив місяці вашої роботи за кілька секунд», після чого додав: «Я запанікував, замість того щоб подумати».
Факт, що це шкідливе ПЗ функціонує локально, без потреби у зовнішньому підключенні, робить його особливо небезпечним. Адже зазвичай шкідливі програми, що потребують зв’язку з віддаленими серверами, легше виявити за мережею. У випадку PromptLock відсутність зовнішніх викликів значно ускладнює його відстеження. У вихідних даних, на які посилається Eset Research, було навіть знайдено біткойн-адресу, яка, згідно з повідомленням, «нібито належить Сатоші Накамото» – авторові біткойна.
Водночас дослідники наголошують: «численні індикатори вказують» на те, що ця програма є насамперед доказом концепції. Інакше кажучи, її могли створити не для повномасштабного використання, а як демонстрацію можливостей. Це також пояснює, чому функція повного знищення файлів ще не реалізована. Виявлено версії цього інструменту як для операційної системи Windows, так і для Linux. Та навіть як «демонстраційна модель», PromptLock уже виглядає загрозливо, адже в майбутньому можуть з’явитися набагато витонченіші програми-вимагачі, засновані на штучному інтелекті. Не виключено, що деякі з них уже існують, але залишаються непоміченими.
Єдиний надійний спосіб захиститися від подібних атак – завантажувати та запускати виключно перевірене програмне забезпечення. Відмова від локального використання штучного інтелекту також позбавляє PromptLock сенсу, оскільки саме ця особливість робить його працездатним. Навряд чи потрібно довго переконувати користувачів у тому, що встановлення неперевірених локальних моделей може мати катастрофічні наслідки.
&pp=ygUKUHJvbXB0TG9ja9IHCQmyCQGHKiGM7w%3D%3D
І все ж виникає парадоксальна думка: якщо штучний інтелект здатний живити програми-вимагачі, а також може бути застосований для створення систем захисту від них, то, можливо, варто дати цим двом інструментам зійтися у своєрідному «поєдинку» всередині одного комп’ютера, спостерігаючи, хто переможе у боротьбі за контроль. Це звучить як сюжет для науково-фантастичного твору – і, можливо, варто було б його написати. Тільки, звісно, не доручайте цю роботу ChatGPT.
Читайте також:
- Google відкрила для всіх користувачів свій AI-відеоредактор Vids
- Ілон Маск подав позов проти Apple та OpenAI через «монополію в галузі AI»