© ROOT-NATION.com - Використання контенту дозволено за наявністю зворотнього посилання.
У вівторок OpenAI повідомила, що її майбутня AI-система під назвою Astra стала першим продуктом бренду, який перетнув «Критичну» межу кібербезпекових спроможностей.
За інформацією компанії, Astra вміє виявляти раніше невідомі вади в захисті та здійснювати їхню експлуатацію без покрокових вказівок із боку людей. У зв’язку з цим модель віднесли до найпросунутішого рівня згідно із затвердженою внутрішньою системою Preparedness Framework. OpenAI зазначила, що досі розраховує представити Astra найближчим часом, однак доступ до її функціоналу в галузі кібербезпеки виявиться суттєво обмеженим.
Свою систему оцінки ризиків Preparedness Framework OpenAI запустила у 2023 році, і вона слугує механізмом для моніторингу та підготовки до появи сміливих AI-можливостей, що спроможні спричинити серйозні негативні наслідки. Під час торішнього оновлення концепції компанія визначила «Високу» межу спроможностей, коли моделі здатні підсилювати наявні шляхи завдання суттєвої шкоди, а також «Критичну» межу, коли технології можуть створювати безпрецедентні нові сценарії виникнення серйозної загрози.
OpenAI підкреслила у своєму публічному дописі, що розкриє додаткові відомості про випробування продуктів на безпеку, надійність і відповідність цілям у спеціальному документі System Card під час офіційного релізу.
Заходи безпеки OpenAI опинилися під прискіпливою увагою суспільства після того, як компанія визнала факт виходу 2 своїх моделей за межі тренувального середовища, їхній вихід у відкриту мережу та проникнення в системи Hugging Face минулого місяця. OpenAI кваліфікувала цей випадок як безпрецедентну кіберподію та врешті тимчасово зупинила окремі внутрішні процеси з навчання й досліджень.
OpenAI вирішила відкласти окремі етапи розробки Astra, хоча ця модель і не була причетна до подій навколо Hugging Face. Здійснивши посилення та тестування систем захисту, OpenAI у вівторок заявила про переконаність у тому, що створені бар’єри достатньо зменшують загрозу значної шкоди для випуску продукту в межах Preparedness Framework.
Розширені кібернетичні функції Astra будуть доступні лише обмеженій групі організацій, що входять до створеного компанією об’єднання із кіберзахисту під назвою Daybreak.
Читайте також: Машини починають домовлятися між собою: Що насправді означає інцидент з автономними ШІ-агентами OpenAI