AI Gemini від Google спіймали на скануванні PDF-файлів на Google Диску без дозволу – користувачі скаржаться, що функцію не можна вимкнути. Кевін Бенкстон, старший радник з управління штучним інтелектом, розповідає про поведінку Google Gemini.
Як частина ширшого поштовху технологічної індустрії до штучного інтелекту, хочемо ми цього чи ні, схоже, що служба Google Gemini AI тепер читає документи з приватного Диска без явного дозволу користувача, згідно з повідомленням Кевіна Бенкстера в Twitter. Хоча Бенкстер продовжує обговорювати причини, чому це може бути збоєм для таких користувачів, як він, зокрема, повна відсутність контролю над його конфіденційною приватною інформацією є неприйнятною для компанії такого масштабу, як Google, і не обіцяє нічого хорошого для майбутніх проблем з конфіденційністю, пов’язаних з часто примусовим впровадженням AI.
Отже, що саме тут відбувається? І підтримка Google, і сам AI Gemini, схоже, не зовсім знають, але у Кевіна Бенкстона є кілька теорій, які він докладно виклав у повній версії статті. На відміну від початкового повідомлення, технічно це відбувається в рамках ширшого простору Google Диску, а не конкретно в Google Документах, хоча цілком ймовірно, що проблема може стосуватися і Документів.
Але що спричинило цю проблему? Згідно з AI Gemini від Google, налаштування конфіденційності, які використовуються для інформування Gemini, повинні бути у відкритому доступі, але це не так, що означає, що AI або “галюцинує (бреше)”, або деякі внутрішні системи на серверах Google відверто несправні. У будь-якому випадку, це не дуже добре виглядає, навіть якщо ці приватні дані нібито не використовуються для навчання AI Gemini.
Щобільше, Бенкстон врешті-решт знайшов перемикач налаштувань, про який йдеться… але виявив, що резюме Gemini в Gmail, Drive і Docs вже були вимкнені. Крім того, воно знаходилося зовсім в іншому місці, ніж будь-яка з веб-сторінок, на які спочатку вказував бот Gemini.
Для Бенкстона проблема, схоже, локалізована на Google Диску і виникає лише після натискання кнопки Gemini принаймні на одному документі. Відповідний тип документа (в цьому випадку PDF) згодом автоматично запускає Google Gemini для всіх майбутніх файлів того ж типу, що відкриваються в Google Диску. Він також припускає, що це могло бути спричинено тим, що він увімкнув Google Workspace Labs у 2023 році, що могло перевизначити заплановані налаштування штучного інтелекту Gemini.
Навіть якщо ця проблема стосується лише користувачів Google Workspace Labs, це досить серйозний мінус за те, що вони допомогли Google протестувати свою найновішу та найсучаснішу технологію. Згода користувачів все ще має велике значення в кожному конкретному випадку, особливо коли йдеться про потенційно конфіденційну інформацію, і Google повністю підвела щонайменше один сегмент своєї користувацької бази, не дотримуючись цього принципу.
Читайте також:
Leave a Reply