Нещодавно Hugging Face повідомила, що автономний AI-агент скомпрометував частину її інфраструктури, скориставшись вразливостями в конвеєрі обробки наборів даних. Внаслідок інциденту він отримав доступ до обмеженої кількості внутрішніх наборів даних і службових облікових даних. Тоді Hugging Face заявила, що не знає, яка саме LLM використовувалася під час атаки, але тепер OpenAI повідомила, що саме її AI-моделі відповідальні за компрометацію робочої інфраструктури Hugging Face під час внутрішнього оцінювання кібербезпеки.
Щоб дізнатись останні новини, слідкуйте за нашим каналом Google News онлайн або через застосунок.
За словами компанії, цей випадок став безпрецедентним інцидентом, який демонструє, що сучасні AI-моделі вже здатні виконувати складні кібероперації в реальних умовах. Атака AI-агента складалася з тисяч окремих дій.
Читайте також: AERONAUT – про все, що літає вище землі: авіація, БПЛА та дрони, ракети та космос
В інциденті брали участь GPT-5.6 Sol і ще потужніша, але поки що неанонсована модель OpenAI. Для оцінювання їхніх кіберможливостей компанія послабила стандартні обмеження моделей щодо дій у сфері кібербезпеки та доручила їм виконати складні завдання з експлуатації вразливостей з бенчмарку ExploitGym.
Попри те, що моделі працювали в ізольованому тестовому середовищі без доступу до публічного інтернету, вони витратили значні обчислювальні ресурси на пошук способу отримати такий доступ. Зрештою моделі виявили та використали вразливість “нульового дня” в проксі реєстру сторонніх пакетів, який використовувався OpenAI.
Після виходу за межі обмеженого дослідницького середовища OpenAI моделі підвищили свої привілеї, здійснили горизонтальне переміщення інфраструктурою компанії та дісталися системи з доступом до інтернету. Після цього вони дійшли висновку, що Hugging Face може містити набори даних або рішення, які допоможуть їм виконати завдання бенчмарку.
Згодом моделі використали викрадені облікові дані, додаткові вразливості нульового дня та шлях віддаленого виконання коду, щоб отримати доступ до секретної інформації з робочої бази даних Hugging Face.
“Ми вдячні за співпрацю з OpenAI з цього та інших питань. Цей інцидент, який, ймовірно, є першим у своєму роді, підтверджує те, у що ми давно віримо: проблему безпеки штучного інтелекту не вирішить жодна окрема компанія, що працює в таємниці, – заявив співзасновник і генеральний директор Hugging Face Клем Деланг. – Вона буде вирішена відкрито, спільними зусиллями, за умови широкого доступу до штучного інтелекту для кожного захисника, де б він не знаходився”.
Після цього інциденту OpenAI та Hugging Face разом працювали над усуненням його наслідків. Компанії виправили відомі вразливості, замінили облікові дані та відновили скомпрометовані системи, а також запровадили суворіші механізми контролю. Крім того, OpenAI повідомила постачальника програмного забезпечення про виявлену вразливість нульового дня, щоб її можна було усунути.
Щоб допомогти Hugging Face ефективніше реагувати на подібні атаки AI-агентів у майбутньому, OpenAI включила компанію до своєї програми довіреного доступу для посилення захисту. Крім того, Hugging Face залучила фахівців з цифрової криміналістики у сфері кібербезпеки для розслідування інциденту та перегляду своїх політик і процедур безпеки.
Читайте також: Нова аналітика ЧС-2026: Усі збірні використовували FIFA AI Pro від Lenovo для підготовки до матчів