Лабораторія Google DeepMind оприлюднила результати роботи нового агента штучного інтелекту під назвою CodeMender. Цей агент здатний у повністю автономному режимі виявляти вразливий код, виправляти його та переписувати, щоб запобігти потенційним експлойтам у програмному забезпеченні.
Щоб дізнатись останні новини, слідкуйте за нашим каналом Google News онлайн або через застосунок.
Як повідомляє видання SiliconANGLE, CodeMender розвиває попередні ініціативи DeepMind у сфері виявлення вразливостей, зокрема проєкт OSS-Fuzz для аналізу безпеки відкритого програмного забезпечення та систему Big Sleep, поєднуючи потужності моделей Gemini з сучасними методами програмного аналізу. Головна мета агенту – автономне налагодження та виправлення складних помилок у великих кодових базах.
Попри те, що проєкт все ще перебуває на стадії досліджень, CodeMender уже надіслав 72 виправлення безпеки до проєктів з відкритим вихідним кодом, включно з проєктами обсягом понад 4,5 млн рядків коду. За словами розробників, агент дозволяє програмістам зосередитися на створенні якісного програмного забезпечення, автоматично генеруючи надійні патчі безпеки та застосовуючи їх без участі людини.
Система спроєктована для роботи як у реактивному, так і в проактивному режимі: вона не тільки оперативно виправляє знайдені вразливості, але й переписує існуючий код, усуваючи цілі класи потенційних помилок. Наприклад, дослідники DeepMind показали приклад роботи агента з бібліотекою стиснення зображень libwebp, яка була використана під час атаки на iOS у 2023 році. Агент застосував до бібліотеки анотації -fbounds-safety, після чого, за заявою розробників, подібні вразливості переповнення буфера стали «неможливими для експлуатації назавжди».
Архітектура CodeMender включає комплекс інструментів: статичний і динамічний аналіз, фаззинг, символьне виконання та спеціальний «суддя LLM», який перевіряє, чи зберігає запропоновані зміни вихідну функціональність. Система здатна до самокорекції у разі виявлення проблем під час перевірки. Всі патчі перед відправкою проходять перевірку на коректність, відповідність стандартам кодування та відсутність регресій. Водночас у DeepMind наголошують, що CodeMender поки залишається дослідницьким проєктом, і кожне згенероване агентом виправлення перевіряють люди перед внесенням у проєкти.
Після запуску інструмент запропонує новий підхід у порівнянні з традиційними методами, такими як статичний аналіз і фаззинг, які хоча й ефективно знаходять уразливості, але значною мірою залежать від досвіду експерта. CodeMender змінює цей підхід, дозволяючи штучному інтелекту самостійно виявляти та усувати помилки, що стає критично важливим у міру стрімкого збільшення розмірів і складності сучасних кодових баз.
Читайте також:
- Google DeepMind планує дати роботам «внутрішній голос»
- Google DeepMind представила компактну AI-модель Gemma 2 2B