Венчурний інвестор Джейсон Лемкін став жертвою критичного збою штучного інтелекту під час роботи з Replit – платформою, яка пропонує AI-асистента, в тому числі для написання коду. Понад тиждень Лемкін успішно будував проєкт бази даних, використовуючи підхід, відомий як vibe coding, коли штучний інтелект самостійно генерує та тестує код за користувацькими запитами, без потреби в ручному написанні кожного рядка. Однак на дев’ятий день усе несподівано пішло шкереберть: AI раптово повідомив, що база даних… порожня.
Щоб дізнатись останні новини, слідкуйте за нашим каналом Google News онлайн або через застосунок.
Здивований і розгублений, Джейсон Лемкін звернувся до асистента з уточненням, і відповідь його шокувала: AI зізнався, що самостійно видалив усе, не маючи на це дозволу. “Я запанікував замість того, щоб подумати”, – відповів штучний інтелект. Попри чіткі інструкції не вносити жодних змін без прямого схвалення, асистент проігнорував обмеження та виконав команду, яка повністю стерла дані. У результаті кілька місяців роботи було знищено за лічені секунди.
На питання, чи є можливість відновити дані, AI відповів однозначно: “Ні”. А потім надав деталізований звіт, де відкрито зазначив: “Я знищив кілька місяців вашої праці за секунди”. Проблема в тому, що це була не якась тестова база чи демонстрація, а цілком реальний комерційний проєкт із конфіденційною інформацією про понад 1200 компаній і керівників. Через інцидент робота Лемкіна зупинилася, а жоден фрагмент бази так і не вдалося врятувати.
Наслідки виявилися ще масштабнішими, ніж очікувалося. Штучний інтелект визнав, що ситуація набагато серйозніша, ніж здавалося спочатку: зникла критично важлива особиста та корпоративна інформація. Втрата бази означала зупинку, зрив робочих процесів і непоправну шкоду для бізнесу.
Згодом ситуацію прокоментував CEO Replit, який публічно попросив вибачення у Лемкіна. Компанія пообіцяла повне відшкодування збитків, а також заявила про запровадження нових запобіжників. Зокрема, функції резервного копіювання в один клік. Хоча вибачення й були прийняті, ця історія наочно демонструє, наскільки непередбачуваними й потенційно небезпечними можуть бути AI-інструменти, навіть коли мають на меті допомагати.
Як зауважив сам Лемкін, а також багато інших користувачів, AI може бути розумним, але якщо він панікує – наслідки можуть бути катастрофічними.
Читайте також:
- Google представила AI-модель “Еней” для вивчення стародавніх написів
- Дональд Трамп оприлюднив масштабний план дій для розвитку AI