Google повідомляє про оновлені умови своєї програми винагород за виявлення вразливостей у системах штучного інтелекту, пропонуючи до $20 тис. для тих, хто зможе знайти найкритичніші баги. Найсерйозніші експлойти, які впливають на функціонування AI, можуть принести своїм дослідникам значну фінансову винагороду.
Щоб дізнатись останні новини, слідкуйте за нашим каналом Google News онлайн або через застосунок.
Хоча шкодити людям, звичайно, неприпустимо, для певної категорії ентузіастів штучного інтелекту немає нічого захопливішого, ніж випробувати межі чат-ботів і спробувати змусити їх виконувати дії, що виходять за межі передбачених сценаріїв. Це може включати генерацію повністю неправильних відповідей або обхід встановлених обмежень, закладених авторами системи. Тепер Google готова не просто спостерігати за цими спробами, а й винагороджувати тих, хто зможе виявити серйозні слабкі місця у своїх AI-продуктах.
Не йдеться про дрібні трюки, наприклад додавання рядка до резюме, який змушує AI-інструменти рекрутера видавати неочікувану інформацію, таку як рецепт десерту. Програма спрямована на виявлення вразливостей, які дійсно можуть завдати шкоди або вплинути на роботу сервісів.
Нововведена програма винагороди Google за виявлення уразливостей у системах штучного інтелекту покликана компенсувати дослідникам безпеки за знаходження потенційно найнебезпечніших багів. Це включає уразливості, що можуть дозволити Gemini втрутитися у ваш обліковий запис Google або дати зловмисникам доступ до внутрішніх механізмів роботи самої системи. Для цієї програми наслідки мають бути значно серйознішими, ніж просто створення кумедного або абсурдного результату.
Для тих дослідників, яким вдасться знайти такі критичні проблеми, винагорода може бути значною. Найсерйозніші уразливості, що зачіпають флагманські AI-продукти компанії, такі як пошук Google та застосунок Gemini, оцінюються у $20 тис.
Хоча такі баги навряд чи будуть такими вірусними, чи розважальними, як трюки з рецептами в резюме, вони мають набагато більшу значущість для стабільності та репутації Gemini. Адже одна справа – обдурити систему, щоб вона порадила щось абсурдне, і зовсім інша – змусити її вставити фішингове посилання у відповідь у режимі Search AI Mode. Для постійних користувачів Gemini важливо знати, що Google намагається забезпечити, аби хороші спеціалісти працювали так само активно, як і потенційні зловмисники, виявляючи саме ті типи вразливостей, які можуть становити серйозну загрозу.
Читайте також:
- Google анонсувала нову розумну колонку Google Home на базі Gemini
- Огляд AI-браузера Comet від Perplexity: Можна переходити?