За словами одного з батьків, що розмістив скріншоти історії активності Alexa, голосовий помічник від Amazon на прохання дитини запропонувати якийсь челендж навів приклад смертельно небезпечного експерименту з електрикою, вирвавши його опис із контексту довільної статті. Колонка Echo розповіла про популярний серед фанатів TikTok експеримент із застосуванням монетки та зарядного пристрою для смартфона — про численні інциденти, травми і пожежі після його виконання вже не одноразово повідомляли різні ЗМІ. Очевидно, пристрій почерпнув ідею цього завдання зі статті, у якій воно описувалося як небезпечне, з посиланням на повідомлення про нібито існуюче завдання TikTok.
Згідно зі скріншотом, зробленим Крістін Лівдал, на прохання «підказати мені завдання» Echo відповіла: «Ось дещо, що я знайшла в Інтернеті». За даними сайту ourcommunitynow.com: завдання просте: «вставте зарядний пристрій для телефону приблизно наполовину в розетку, а потім торкніться копійкою до оголених штирків».
У заяві для BBC компанія Amazon підтвердила поведінку Alexa, сказавши: «Щойно нам стало відомо про цю помилку, ми вжили оперативних заходів щодо її усунення». Вчора Лівдал написала у Твіттері, що запит на виклик більше не працює. Користувачі у Мережі також тестували запит за допомогою Alexa та отримали аналогічний результат.
OMFG My 10 year old just asked Alexa on our Echo for a challenge and this is what she said. pic.twitter.com/HgGgrLbdS8
— Kristin Livdahl (@klivdahl) December 26, 2021
Amazon – не єдина компанія, що зіткнулася з проблемами при аналізі веб-контенту. У жовтні один із користувачів повідомив, що Google відображає потенційно небезпечні поради в одному зі своїх фрагментів, якщо ви набираєте в Гуглі «у вас стався напад, що робити» – інформація була взята з розділу веб-сторінки, що описує, що не слід робити якщо у когось трапився напад. Однак користувачі повідомляли і про інші подібні проблеми, у тому числі один користувач повідомив, що Google видає результати з ортостатичної гіпотензії при пошуку ортостатичної гіпертензії, а інший розмістив скріншот, на якому Google показує жахливі поради щодо втіхи скорботної людини на кшалт «Радій, що з вами все гаразд» або «Не сумуй! Збадьорися!».
The Google search summary vs the actual page pic.twitter.com/OJxt1FrBqh
— soft.linden (｡•̀ᴗ-)✧ (@soft) October 16, 2021
Ми також бачили, як попередження про небезпечну поведінку посилюються, щоб зробити проблему більшою, ніж вона була спочатку – на початку цього місяця деякі шкільні округи США були закриті після повідомлень про загрози стрілянини у TikTok. Виявилося, що соціальний шторм був викликаний в основному тим, що люди говорили про загрози, набагато більше, ніж про дійсно існуючі загрози. У випадку з Alexa алгоритм вибрав описову частину попередження та посилив її без вихідного контексту. Хоча батьки були поруч, щоб негайно втрутитися, легко уявити собі ситуацію, коли це не так і її наслідки.
Лівдал написала у Твіттері, що вона використала цю можливість, щоб «обговорити зі своєю дитиною тему інтернет-безпеки та не довіряти тому, що ви читаєте без дослідження та перевірки», що пропонуємо зробити й вам.
Читайте також: