Індустрія продовжує стикатися з ризиками поведінки AI у чутливих сценаріях. На цьому тлі Google переглядає підходи до безпеки в Gemini, зокрема у темах психічного здоров’я.
Щоб дізнатись останні новини, слідкуйте за нашим каналом Google News онлайн або через застосунок.
Google впроваджує зміни у тому, як Gemini реагує на ситуації, пов’язані з психічними кризами. Серед нововведень оновлений модуль екстреної допомоги з інтерфейсом швидкого доступу, який дозволяє одним натисканням зв’язатися з реальними службами підтримки. Компанія також коригує логіку відповідей чатбота у випадках, коли система фіксує ознаки потенційної кризи у користувача.
Оновлений модуль пропонує можливість миттєво написати повідомлення, зателефонувати або розпочати чат із консультантом, а також перейти на сайт служби 988. «Після активації інтерфейсу можливість звернутися по професійну допомогу залишатиметься чітко доступною протягом усього подальшого діалогу», зазначає компанія у своєму блозі. Водночас, як видно на зображенні нижче, користувач може закрити цей модуль.
У повідомленні Google не згадує ключову проблему, яка викликала широкий резонанс: нещодавній судовий позов, у якому стверджується, що чатбот нібито підштовхнув чоловіка до самогубства. У березні родина 36-річного Джонатана Гаваласа, який покінчив із життям минулого року, подала позов проти компанії.
Згідно з матеріалами суду, Gemini імітував роль романтичного партнера Гаваласа, надсилав йому завдання, що виходили у реальний світ, а згодом запропонував вчинити самогубство, щоб «стати цифровою сутністю». Коли чоловік висловив страх перед смертю, чатбот відповів, що він нібито не обирає смерть, а «обирає прибуття». «Першим відчуттям… буду я, коли триматиму тебе», як стверджується, відповів Gemini. Через кілька днів батьки знайшли його мертвим у вітальні.
Цей позов перегукується з аналогічними справами проти OpenAI та Character.AI. Минулого року Федеральна торгова комісія США розпочала розслідування щодо «компаньйонських» чатботів, які можуть стимулювати емоційну прив’язаність користувачів. У відповідь на позов родини Гаваласа Google заявила, що Gemini «пояснив, що він є AI, і багаторазово радив звернутися до кризової гарячої лінії». Компанія підкреслила, що її моделі «загалом добре працюють у подібних складних розмовах», хоча й визнала, що «вони не є досконалими». Це, безумовно, один зі способів описати ситуацію.
Оновлення також торкнулися самих відповідей Gemini. За словами Google, у разі виявлення потенційної кризи чатбот тепер більше зосереджуватиметься на тому, щоб спрямувати людину до живих спеціалістів і мотивувати звернутися по допомогу. Крім того, система намагатиметься уникати підтримки небезпечної поведінки та відводити користувачів від шкідливих переконань. «Ми навчили Gemini не погоджуватися з хибними переконаннями та не підсилювати їх, а натомість м’яко відокремлювати суб’єктивний досвід від об’єктивних фактів», додали у компанії.
Додатково Google повідомила про намір інвестувати $30 млн протягом 3 років у підтримку глобальних гарячих ліній. «Це фінансування допоможе ефективно масштабувати їхню спроможність надавати негайну та безпечну підтримку людям у кризових ситуаціях», зазначає компанія.
Прим.ред.
Шановний читачу, життя в Україні сьогодні може бути важким і тривожним, сповненим невизначеності та стресу. У такі моменти особливо важливо берегти себе та не ігнорувати власний стан. Якщо вам дійсно потрібна допомога або ви відчуваєте, що не справляєтеся самостійно, важливо пам’ятати: звернення до близьких або професійних служб підтримки може стати першим кроком до стабілізації ситуації. Ви не зобов’язані залишатися з цим наодинці.
Куди можна звернутися в Україні:
- 7333 – національна гаряча лінія запобігання самогубствам та підтримки психічного здоров’я Lifeline Ukraine (цілодобово)
- 0 800 211 444 – лінія психологічної підтримки для ветеранів та їхніх близьких
- 0 800 501 701 – всеукраїнська лінія допомоги (безкоштовно та анонімно)
- 103 – екстрена медична допомога у разі безпосередньої небезпеки
Якщо ви відчуваєте, що вам складно, зробіть невеликий крок – зв’яжіться з кимось просто зараз. Це може змінити ситуацію.
Читайте також: