На конференції Google I/O компанія анонсувала SynthID Detector – інструмент, що дозволяє перевірити, чи був контент створений за допомогою інструментів Google AI. Цей детектор є свого роду “верифікаційним порталом”, який допомагає швидко і точно визначити походження контенту.
Щоб дізнатись останні новини, слідкуйте за нашим каналом Google News онлайн або через застосунок.
Як пояснює Пушміт Колі з Google DeepMind у своєму блозі, SynthID Detector здатен розпізнавати водяні знаки SynthID, які додаються до зображень, відео, тексту та аудіо, створених за допомогою моделей Google, зокрема Gemini, Imagen, Lyria та Veo. Ці маркери стійкі до змін формату, стиснення та фільтрації, і зберігаються в структурі самого файлу, що унеможливлює просте видалення чи редагування.
Як це працює:
- Ви завантажуєте зображення, аудіо, відео або текст, створені AI-інструментами Google.
- Портал аналізує медіа на наявність прихованого водяного знака.
- Якщо водяний знак виявлено – вам показують, які частини контенту, найімовірніше, його містять.
- Для аудіо вказуються точні фрагменти, де був виявлений знак, а для зображень – зони з найбільшою ймовірністю його наявності.
Інструмент стане корисним для журналістів, фактчекерів, дослідників, освітян, держустанов, а також платформ, що борються з дезінформацією. У час стрімкого поширення фейкового AI-контенту, інструменти прозорості стають критично важливими для суспільної довіри та безпеки.
Наразі техгігант надає доступ до інструмента обмеженому колу ранніх тестувальників. Згодом компанія планує поступово відкривати доступ через лист очікування. У коментарі для The Verge Колі зазначив, що Google ретельно аналізуватиме досвід тестувальників, щоб надалі масштабувати прозорість і контроль у сфері AI-контенту. Цей інструмент – частина ширшої ініціативи техгіганта щодо прозорості та відповідального використання AI. На тлі глобальних побоювань щодо дезінформації, фейкових відео і глибоких фейків (deepfakes), компанія робить ставку на водяні знаки та верифікацію як стандарт для ідентифікації машинного контенту.
Оглядач з Verge Джей Пітерс, який пише про технології, ігри та інші діджитал-новини, зізнався, що сам ще не випробував інструмент, попри наявність у списку очікування. Тож ефективність роботи SynthID Detector ще доведеться перевірити на практиці.
Читайте також:
- AI Overviews у Пошуку Google стає доступним в Україні
- Google навчатиме українських посадовців працювати з AI