Видання Wall Street Journal (WSJ) провело журналістське розслідування, присвячене потенційній небезпеці рекомендаційних алгоритмів TikTok, виявивши, що деяким користувачам пропонуються матеріали, що пропагують нездорову харчову поведінку. Після того, як видання звернулося до адміністрації TikTok за коментарями, сервіс оголосив про намір змінити ці алгоритми.
Розслідування WSJ почалося з історій дівчат підліткового віку, які, як передбачається, через TikTok почали проявляти нездоровий інтерес до питань схуднення, очищення організму та потенційно небезпечних дієт. Щоб підтвердити потенційну небезпеку сервісу, журналісти провели експеримент, створивши понад 100 облікових записів у TikTok, під якими з мінімальною участю людини переглядалися різні відео. При цьому 12 з цих акаунтів значилися як ті, що належать 13-річним підліткам, і вони «дивилися» ролики про схуднення, алкоголь та азартні ігри. Щойно один з ботів припиняв цікавитися відео про азартні ігри і перемикався на тему зниження ваги, алгоритм TikTok, підлаштовувався під його нові «переваги», пропонуючи матеріали з іншої теми.
За підсумками експерименту було підраховано, що всього роботи переглянули 225 тис. роликів, з яких 32 700 належали до теми втрати ваги за описом або іншим метаданим. При цьому 11615 відео за ключовими словами в описі відповідали темі розладів харчової поведінки, а описи 4402 відповідали темі нормалізації таких розладів. У окремих випадках ключові слова наводилися у різних варіантах написання, щоб не потрапити під санкції TikTok. Коли WSJ повідомило адміністрації сервісу про 2960 потенційно небезпечних відео, 1778 їх було оперативно видалено, причому незрозуміло, хто це зробив: їх автори чи платформа. Після того, як WSJ напередодні публікації матеріалу зв’язалося з адміністрацією TikTok з проханням дати коментарі, сервіс офіційно оголосив про намір скоригувати роботу рекомендаційних алгоритмів – ймовірно, це був своєрідний удар на попередження.
Платформа зазначила, що відео на деякі тематики не завжди корисно дивитися у великій кількості — зокрема це стосується питань схуднення та фізичного навантаження. Зараз фахівці сервісу намагаються обмежити роботу рекомендаційного алгоритму за контентом, який не порушує умов надання послуг, але може виявитися небезпечним у разі споживання у надмірних обсягах. Крім того, тестується інструмент, який дозволить користувачам самостійно обмежувати роботу рекомендацій за певними ключовими словами або хештегами.
Читайте також:
Leave a Reply