У публічному просторі дедалі частіше звучать побоювання щодо потенційних ризиків, які несе штучний інтелект, зокрема у сфері кібербезпеки, де він може створювати нові вектори загроз. На цьому тлі компанія Anthropic оголосила про запуск ініціативи Project Glasswing, спрямованої на протидію таким викликам шляхом захисту критично важливого програмного забезпечення від атак, що використовують AI.
Щоб дізнатись останні новини, слідкуйте за нашим каналом Google News онлайн або через застосунок.
До проєкту долучилися такі партнери, як Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, NVIDIA та Palo Alto Networks.
Учасники ініціативи застосовуватимуть модель Claude Mythos Preview, яка ще не була офіційно представлена та має універсальне призначення, для посилення власних систем безпеки. В Anthropic стверджують, що ця модель уже виявила тисячі вразливостей, які можуть бути використані зловмисниками, зокрема в усіх основних операційних системах і веббраузерах. Компанія підкреслює намір використовувати свої технології саме для оборони, щоб запобігти шкідливому застосуванню AI, здатному завдати серйозної шкоди економіці та безпеці.
Anthropic входить до числа компаній, які активно піднімають питання етики у сфері штучного інтелекту. Раніше цього року вона відмовилася послаблювати обмеження у своїх сервісах для використання Пентагоном, що спричинило відповідну реакцію з боку Міністерства оборони США, яке присвоїло компанії статус ризику для ланцюга постачання.
Запуск Project Glasswing може стати важливим кроком у напрямку зміцнення кібербезпеки в умовах поширення AI, однак певні інциденти вже мали місце. Зокрема, у лютому повідомлялося, що модель Claude була використана хакером для атак на кілька державних установ у Мексиці.
Читайте також:
- Найнебезпечніша AI-модель? Anthropic створила Claude Mythos, але приховала її від публіки
- AI проти Пентагону: Іран знаходить новий спосіб бити по базах США