Компанія OpenAI, яка розробила чат-бот ChatGPT, додала невидимі водяні знаки до текстів, що створюються новими моделями GPT-o3 і GPT-4o-mini. Як з’ясували фахівці з Rumi, це зроблено для ідентифікації контенту, згенерованого AI, однак ефективність методу викликає сумніви.
Щоб дізнатись останні новини, слідкуйте за нашим каналом Google News онлайн або через застосунок.
Дослідники виявили, що під час формування довгих текстів, наприклад есе, моделі вбудовують символ Unicode «Вузький пробіл» (U+202F). Візуально він не відрізняється від звичайного пробілу, але відрізняється за ASCII-кодом. Помітити такі знаки можна тільки за допомогою спеціалізованих інструментів: онлайн-аналізаторів символів, редакторів коду (Sublime Text, VS Code) або текстових аналізаторів. Наприклад, під час копіювання есе, створеного GPT-o3, у цих програмах відображається патерн із NNBSP, який підтверджує походження тексту.
OpenAI не анонсувала нововведення публічно. Однак після квітневих витоків про тестування водяних знаків для зображень компанія Rumi провела власний аналіз. Під час перевірки з’ясувалося, що більш ранні версії, включно з GPT-4o, подібних маркерів не містять.
Головна перевага методу – майже нульовий шанс помилкових спрацьовувань. Оскільки студенти навряд чи навмисно використовують U+202F у роботах, виявлення таких символів однозначно вказує на запозичення з ChatGPT. Однак ключовий недолік – крихкість захисту. Щойно користувачі дізнаються про водяні знаки, видалити їх можна за секунди через функцію «знайти та замінити» в будь-якому редакторі. Відеоінструкції з очищення текстів уже з’являються в мережі.
Ситуація ускладнюється тим, що до кінця травня 2025 року ChatGPT доступний студентам безкоштовно. Це збігається з періодом здачі курсових і дипломних робіт. Необізнані учні, які скопіювали текст без перевірки, ризикують зіткнутися зі звинуваченнями в плагіаті. Ті ж, хто знає про водяні знаки, отримують перевагу, посилюючи розрив між користувачами AI та тими, хто пише роботи самостійно.
Поки OpenAI не прокоментувала ситуацію. Якщо історія набуде розголосу, то компанія може відмовитися від водяних знаків, як раніше відмовилася від неточного AI-детектора.
Читайте також:
- OpenAI презентує нову мовну модель у найближчі місяці
- OpenAI оновила функцію генерації зображень у ChatGPT