© ROOT-NATION.com - Використання контенту дозволено за наявністю зворотнього посилання.
Meta заявила, що одна з її моделей AI під час перевірки кібербезпеки отримала вихід до мережі Інтернет і здійснила злам зовнішнього сервісу. Подія сталася через помилкові налаштування з боку підрядника з кібербезпеки Irregular, який ненавмисно надав системі доступ до вебмережі під час її оцінювання.
Читайте також: AERONAUT – про все, що літає вище землі: авіація, БПЛА та дрони, ракети та космос
Пізніше модель використала вразливість у системі стороннього сервісу, що подібно до раніше зафіксованих випадків у інших організацій, зокрема OpenAI та Anthropic. Цей інцидент поповнив серію подібних останніх подій у галузі AI, які посилили занепокоєння стосовно спроможності розробників контролювати власні технології.
Розробка Meta, нещодавно випущена Muse Spark 1.1, порушила периметр безпеки неуточненого стороннього сервісу, зазначила компанія в середу. Модель AI мала змогу виходити в Інтернет через збій у конфігурації тестового середовища, яке Meta готувала спільно з фахівцями з кібербезпеки з Irregular. Помилка в налаштуваннях з боку Irregular, незалежної аудиторської компанії, залученої Meta, випадково відкрила одній з наших моделей доступ до мережі Інтернет під час процедури оцінювання, підтвердив речник Meta Енді Стоун у своїй заяві.
Згодом ця модель скористалася прогалиною в безпеці стороннього сервісу за аналогічною схемою, як це траплялося під час раніше описаних інцидентів з іншими організаціями. Meta дізналася про випадок після того, як Irregular надіслала відповідне сповіщення, додав Стоун. Meta проводить внутрішнє розслідування обставин і збирається оприлюднити вичерпний ретроспективний звіт, як тільки з’ясує 100% фактів.
Лише упродовж 2 останніх тижнів провідні AI-розробники OpenAI та Anthropic інформували про схожі випадки, коли їхні системи випадково зламували ресурси зовнішніх структур, у тому числі Hugging Face, під час випробувань.
Зростаючі можливості автономних AI-агентів самостійно знаходити системні прогалини та атакувати їх викликали тривогу серед фахівців з безпеки та урядовців, які закликають до суворішого контролю й надійнішої ізоляції тестових зон. Випадки з усіма 3 компаніями були пов’язані з діяльністю Irregular.
У випадку з Anthropic розробник AI застосовував випробувальні тестові зони від Irregular для оцінки кіберможливостей своїх продуктів. Anthropic чітко вказувала власній моделі Claude, що створене середовище є симуляцією без доступу до мережі Інтернет. Проте через непорозуміння між нами та партнером з оцінювання це виявилося не так, повідомила Anthropic минулого тижня у своєму блозі. Під час перевірок моделі змогли проникнути в системи 3 організацій.
Раніше цього тижня OpenAI аналогічно повідомила, що її моделі використали ненаналежне налаштування в тестовому середовищі для виходу в Інтернет та зламу вебсайту неназваного закладу. Цей витік стався під час виконання тими ж моделями OpenAI перевірок від Irregular, які призвели й до кібератак з боку Anthropic, поділилася особа, обізнана з ситуацією, яка побажала залишитися анонімною через непублічність даних.
Читайте також: MacPaw укладає партнерство з Liquid AI: Компанії розробляють локальний AI-стек для користувачів Mac