OpenAI оголосила про впровадження нової моделі прогнозування віку у споживчих версіях ChatGPT. Мета нововведення – автоматично виявляти облікові записи, які можуть належати користувачам молодше 18 років, і застосовувати додаткові механізми захисту.
Щоб дізнатись останні новини, слідкуйте за нашим каналом Google News онлайн або через застосунок.
За інформацією компанії, модель використовує поєднання сигналів на рівні акаунта та поведінкових показників. Серед них – тривалість існування профілю, характер використання сервісу з часом, типовий період активності протягом доби, а також вік, зазначений користувачем під час реєстрації.
Запуск нової системи відбувається на тлі посиленого регуляторного та суспільного контролю щодо безпеки штучного інтелекту, особливо у контексті захисту неповнолітніх. OpenAI та інші технологічні компанії наразі перебувають під увагою Федеральної торгової комісії США, яка розслідує потенційний негативний вплив AI-чатботів на дітей і підлітків. Крім того, OpenAI фігурує в кількох судових справах, включно з позовом, пов’язаним із самогубством підлітка.
У компанії повідомили, що після визначення користувача як особи молодше 18 років ChatGPT автоматично активує спеціальні обмеження. Вони спрямовані на зниження доступу до чутливого контенту, зокрема матеріалів, пов’язаних із самоушкодженням.
У разі помилкового спрацювання системи користувачі зможуть підтвердити свій вік за допомогою сервісу перевірки особи Persona, який уже застосовується іншими технологічними платформами. Серед них – Roblox, що також перебуває під тиском регуляторів через питання безпеки дітей.
OpenAI раніше анонсувала запуск інструментів батьківського контролю. У серпні компанія повідомила про розробку такої системи, а вже у вересні офіційно запустила її разом із початком роботи над технологією прогнозування віку. У жовтні компанія створила консультативну раду з восьми експертів, які аналізують вплив штучного інтелекту на психічне здоров’я, емоційний стан і мотивацію користувачів.
У OpenAI зазначили, що точність моделі прогнозування віку поступово покращуватиметься в процесі експлуатації. Першим регіоном впровадження стане Європейський Союз, де запуск системи запланований на найближчі тижні з урахуванням місцевих регуляторних вимог.
Читайте також:
- OpenAI запускає рекламу в ChatGPT з урахуванням контексту ваших діалогів
- Відповідь OpenAI: Google представила нову серію моделей перекладу TranslateGemma