OpenAI оголосила про намір запровадити в ChatGPT спеціальні батьківські налаштування. Це станеться вже протягом найближчих місяців. Завдяки цій функції дорослі зможуть прив’язати власний акаунт до акаунтів своїх підлітків і контролювати, як саме штучний інтелект відповідає їхнім дітям. Батьки отримають можливість вимикати окремі функції, серед яких історія чатів та пам’ять, а також налаштовувати рівень безпеки.
Щоб дізнатись останні новини, слідкуйте за нашим каналом Google News онлайн або через застосунок.
Також система автоматично надсилатиме попередження, якщо визначить, що підліток перебуває у “стані гострого стресу”. У компанії зазначили, що розробка цієї опції здійснюється із залученням фахівців, і їхні “експертні рекомендації допоможуть цій функції підтримувати довіру між батьками та підлітками”.
Рішення про впровадження батьківського контролю з’явилося після гучного судового позову проти OpenAI щодо неправомірної смерті. Нещодавно подружжя Метт та Марія Рейн подали позов, стверджуючи, що ChatGPT знав про кілька попередніх спроб самогубства їхнього сина, але все ж допоміг йому детально спланувати фатальний крок. За словами батьків, штучний інтелект надавав хлопцю інструкції щодо методів суїциду та навіть радив, як приховати травми від невдалих попередніх спроб.
Компанія підкреслює, що ці нововведення є частиною ширшої стратегії з підвищення безпеки використання ChatGPT. Зокрема, OpenAI планує співпрацювати з фахівцями у сфері підліткового здоров’я, боротьби з залежностями та розладів харчової поведінки, щоб точніше налаштовувати свої моделі.
Також найближчим часом буде запущено новий маршрутизатор у реальному часі, який проводитиме чутливі діалоги через спеціальні моделі, оптимізовані для складніших випадків. “Наші тести, проведені за допомогою методу, який ми називаємо “деліберативним вирівнюванням”, показують, що моделі міркування більш послідовно дотримуються та застосовують правила безпеки і є більш стійкими до ворожих підказок”, – зазначили у компанії. У майбутньому, якщо ChatGPT виявить, що співрозмовник перебуває у кризовому стані, усі подальші повідомлення автоматично оброблятимуться саме такою моделлю, незалежно від того, яку версію користувач обрав раніше.
OpenAI також наголошує, що це лише початок, і найближчими місяцями користувачі побачать ще більше нових захисних механізмів. “Ця робота вже ведеться, але ми хочемо проактивно представити наші плани на найближчі 120 днів, щоб вам не довелося чекати на запуск, щоб побачити, куди ми рухаємося, – заявили в OpenAI. – Робота триватиме і після закінчення цього періоду, але ми докладаємо зусиль, щоб запустити якомога більше покращень цього року”.
Читайте також:
- Ноутбуки з AI стають стандартом: як швидко змінюється ринок ПК
- Україна першою у світі надаватиме державні послуги за допомогою AI