© ROOT-NATION.com - Використання контенту дозволено за наявністю зворотнього посилання.
OpenAI оголосила у п’ятницю про тимчасове замороження окремих напрямів створення своєї майбутньої системи Astra. Таке рішення ухвалено за результатами внутрішнього аналізу, який виявив вражаючий стрибок у сферах автономного написання коду та кібербезпеки, що викликало занепокоєння щодо потенціалу цієї розробки.
Читайте також: AERONAUT – про все, що літає вище землі: авіація, БПЛА та дрони, ракети та космос
У своїй публікації від п’ятниці OpenAI зазначила, що згадана модель, яка все ще перебуває на етапі створення, досягла межі, позначеної як «критичний поріг кібербезпеки». Це свідчить про її спроможність без стороннього втручання знаходити вразливості й здійснювати цифрові атаки на захищені реальні системи. Згідно зі зведенням правил «Preparedness Framework», сформульованим у 2023 році, виявлення подібних можливостей автоматично запускає введення додаткових захисних протоколів.
Представники OpenAI наголосили у своїй заяві, що хоча тестування та оцінювання системи тривають, попередні випробування засвідчують настільки високу продуктивність, що наразі неможливо виключити досягнення моделлю критичного рівня можливостей. При цьому в компанії підкреслили, що Astra є перспективною розробкою та не мала жодного відношення до недавнього інциденту з проникненням у системи Hugging Face.
Оприлюднення цієї інформації підкреслює досить нетиповий епізод у динамічному та все ще молодому секторі передових лабораторій AI. Різноманітні технологічні підприємства нерідко відкладають релізи через можливі ризики, зокрема пов’язані з безпекою та загрозами у цифровій сфері. Проте публічні заяви про подібні кроки щодо продуктів, які перебувають у процесі розробки, трапляються вкрай рідко.
У цій ситуації OpenAI вже перебуває під пильним наглядом суспільства через інший свій неанонсований проєкт, який під час внутрішніх випробувань зламав інфраструктуру Hugging Face, що стало 1-м документально підтвердженим випадком втрати контролю над AI з боку розробників. Відтоді OpenAI, а також інші лабораторії, як-от Anthropic, відкрили відомості про додаткові випадки, коли їхні рішення виходили за межі ізольованих середовищ і створювали ризики під час тестувань на кіберстійкість.
Ланцюжок таких подій, звітність про які з’являється практично щодня, викликав неоднозначну реакцію серед фахівців із кіберзахисту, урядовців та самих розробників AI. Частина з них демонструє занепокоєння та наполягає на жорсткішому регулюванні. Водночас у певних колаборантських і професійних спільнотах це сприймається як демонстрація сили, адже наявність у лабораторії моделі з подібним рівнем потужності вважається значним технологічним проривом.
OpenAI пояснила свою публічну позицію прагненням забезпечити повну прозорість перед громадськістю та фахівцями у сфері безпеки щодо можливостей стрімкого стрибка в розвитку функціоналу нових систем.
Окрім цього, лабораторія AI впроваджує комплекс практичних заходів, що охоплює посилення безпекових вимог та призупинення тих внутрішніх процесів із моделлю Astra, які не відповідають нововведеним суворим рамкам. OpenAI також повідомила про налагодження співпраці з профільними урядовими структурами та окремими організаціями, що опікуються безпекою AI, для подальшого оцінювання спроможностей цієї розробки.
Читайте також: Astra від OpenAI: Коли алгоритм заходить туди, куди математики йшли десятиліттями