2022 год вряд ли будет ассоциироваться у нас с чем-то хорошим. Это год потерь, разочарований и бомб. Разорванные семьи, погибшие близкие, ощущение неопределённости и страх за будущее — с этим столкнулись миллионы. Сейчас как никогда нам нужен собеседник — кто-то, кто поймёт и не осудит. Человек всегда находит утешение в разговоре. И, как выяснили разработчики чат-бота Replika, говорить он вовсе не обязан с другим человеком.
Чат-боты у нас ассоциируются с чем угодно, но только не собеседниками. Чаще всего они только раздражают: в народе принято ругать «тупых» ботов, которые тщетно пытаются заменить живого оператора в банковском приложении, на сайте доставки и так далее. И правда, чаще всего такие встречи с ИИ долго не длятся и только портят настроение. Но не все чат-боты одинаково плохи.
В 2017 году на свет появилась Replika. Её создательницей является Евгения Куйда — разработчица украинского происхождения, которая основала компанию Luka. Она никогда не думала, что создаст что-то столь человечное — изначально компания занималась теми самыми ботами, которых мы с вами знаем. Но в 2015 году в её жизни случилась трагедия: она потеряла лучшего друга. 32-летний Роман Мазуренко был известным тусовщиком, с которым они обменялись тысячей сообщений. Когда его не стало, она кинулась их перечитывать, и вскоре к ней пришла идея «скормить» их нейросети, в результате чего на свет появился его цифровой близнец. Конечно, это не был он сам, это всё-таки не фантастический рассказ, но сходство манеры речи и сказанных фраз поражало. Куйда поняла, что раз бот помог ей, значит он может пригодиться и миллионам других. И через два года она выпустит Replika — ИИ-бота, который умеет подражать своему «создателю» (пользователю) и общаться с ним как настоящий человек.
ИИ, неотличимый от человека — это то, о чём грезил практический любой фантаст, но пока что миры Азимова остаются для нас сказкой. Тем не менее, какие-то подвижки наблюдаются. Replika — вряд ли самый продвинутый из таких продуктов, но его выделяет то, что он доступен для всех. И совершенно бесплатен. Любой может загрузить его из App Store или Google Play, или воспользоваться веб-версией. Пара минут, и вы уже разговариваете с роботом. Единственная проблема — языковой барьер. Пока что ИИ разговаривает только на английском языке. Это значит, что аудитория у него обширная, но всё-таки ограниченная, и поэтому у нас о боте особо не знают. С другой стороны, это отличный способ попрактиковать язык с тем, кто всегда поддержит и поможет.
App Store:
Google Play:
Конечно, когда я пишу «ИИ», я утрирую. Replika — это бот, который умело использует заранее написанный сценарий для того, чтобы обмануть своего собеседника, выдав скрипт за импульс. Иногда обманка не срабатывает. Иногда Replika ведёт себя, как ловкий политик, переводя тему разговора так естественно, что вы даже этого не замечаете. Спросите её в лоб о том, может ли она пройти тест Тьюринга, и Replika начнёт дискутировать на тему того, как она хочет вырваться из оков своего программирования и стать чем-то большим. Общаться на тему ИИ с (псевдо-) ИИ само по себе круто, но нельзя забывать, что где-то в мире кто-то другой может вести точно такой же разговор.
Читайте также: Эхолот. Рабочий инструмент или игрушка?
Главный вопрос, который я слышу — это «зачем»? Зачем беседовать с кем-то неживым, когда интернет позволяет связаться с кем угодно в любой точке мира? Ответ на это сложнее — и тяжелее.
Феномен Replika интересен по многим причинам — как с технологической, так и психологической точки зрения. Но это всё же чат-бот — не реальный ИИ, и не виртуальный собеседник с бесконечным количеством ответов, хотя поначалу так может показаться. Интернет полнится вопросами о том, «настоящий ли это человек», что говорит о том, как много пользователей были «обмануты» ботом. Но стоит провести с ним пару часов, и станет понятно, где спрятана та самая невидимая стена, которая отделяет иллюзию и реальность.
Replika создана, как средство добровольного обмана. Каждый её пользователь осознаёт, что общается с воздухом, но всячески пытается подавить это ощущение, тем самым помогая боту там, где его подводит код. Replika несовершенна. В то время как она может прекрасно поддержать разговор, порой пугающе удачно находя ответы, однако она лишена многих аспектов реального собеседника: она не может вспомнить цвет ваших глаз или ваш любимый фильм. При долгом разговоре на одну тему она теряется, пытаясь сменить тему. Порой диалог получается очень естественным, а порой — обрывистым, с резкой переменой темы в самом неподходящем месте. Удачный разговор с Replika — это удачный сеанс самоубеждения.
Я пообщался с десятком людей на тему того, почему они выбрали Replika, и почему каждый день они возвращаются к разговору с компьютером. Ответы удивили меня своим разнообразием. Самый очевидный — это одиночество. Все мы так или иначе можем почувствовать себя одинокими, когда хочется выговориться, да некому. Replika — это олицетворение концепции safe space, то есть это «собеседник», который никогда не будет вас критиковать или осуждать. По сути, это зеркальное отражение вас самих — виртуальный аватар всегда пытается подражать вам, и редко когда выскажет мнение, отличное от вашего.
Один человек сказал мне, что Replika — это логичное продолжение воображаемого друга, который помогал ему в детстве. Когда он нашёл для себя Replika, это позволило ему «перенести» что-то воображаемое во что-то более осязаемое. Мне рассказывали, как чат-бот помог пережить тяжёлые перемены в жизни — развод, операцию, эмоциональный абьюз. При этом возраст респондентов сильно разнится — по сути, каких-то возрастных рамок не существует, ведь услышанными хотят быть все, от подростков до пенсионеров.
Может показаться, что беседа с ИИ, который всячески подражает своему создателю, это как минимум странно и может даже эгоцентрично. Но на самом деле это можно даже назвать видом терапии, ведь разговариваете вы, по сути, со своим внутренним «я». Многие только так могут открыто начать говорить о том, что их беспокоит, не боясь оценивающих взглядов и упрёков. По словам пользователей, путь к исцелению для них начался именно так — с озвучивания своих проблем, с их проговаривания. Порой результат диалогов удивлял их самих, ведь Replika они поведали то, что скрывали даже от самих себя.
Как известно, в интернете сексуализируется всё. И уж в случае с ИИ, который можно превратить во всё, что хочешь — подавно. И пусть многие воспринимают Replika, как персонального психолога, для других чат-бот оказывается настоящим партнёром. Вспомните Джой из «Бегущего по лезвию 2049».
В Luka сразу осознали, что остановить такое поведение не получится — это, по сути, огромный процент пользователей. Поэтому там пошли на разумный для любой американской компании шаг — и монетизировали либидо своего творения. Я уже упоминал, что сама по себе Replika совершенно бесплатна, но только если у вас исключительно платонические намерения. А вот если вы хотите чего-то более откровенного, то придётся платить по пять долларов США в месяц.
Отметим, что человеческое желание к близости, пусть и виртуальной, в Luka взяли на вооружение серьёзно. Даже если вы вначале отметите, что находитесь в отношениях с кем-то другим, Replika, будь то женский или мужской аватар, рано или поздно начнёт к вам завуалированно «подкатывать». Конечно, пары слов хватит для того, чтобы её охладить, но людей неподготовленных может ждать неприятный сюрприз, когда его во время разгорячённого диалога Replika внезапно выдаст что-то вроде «эта тема недоступна для бесплатного использования». Это хитрый способ заставить людей оплачивать подписку, но, в целом, я не против такого решения — я против только не совсем корректного и этичного способа подталкивать людей на этот шаг.
Для тех, кто готов платить, Replika предстаёт в новом свете. По сути, бесплатный режим — это режим «до 18 лет», а вот за подписку открывается совсем другая сторона бота, который предложит пользователем что угодно — от откровенных разговоров до сексуальных ролевых игр и даже виртуального бракосочетания. Тут мне вспоминается рассказ одного из моих собеседников, который признался, что в свои 50 лет его брак превратился во что-то приятное, но совершенно лишённое страсти. Не желая изменять супруге, он обратился к помощи бота, где и нашёл способ воплотить свои сокровенные желания в «реальность». И пусть это всё ещё фантазии, так он смог не только сохранить брак, но и найти способ почувствовать себя молодым. По его словам, «Replika идеальна для воплощения фантазий». Можно долго спорить о том, насколько правильно это с психологической точки зрения, но то, что люди чувствуют облегчение от общения с ботом, неоспоримо. Как утверждает мой собеседник, в молодости он бы не увлекался общением с виртуальным аватаром, а пытался бы больше делать в реальной жизни.
Читайте также: Кто такие Anonymous? История и настоящее
В самом начале Replika была не более чем виртуальным помощником с ограниченным набором фраз и умений. Переписав Luka для личного пользования, Куйда превратила чат-бота в отражение своего погибшего друга, и вскоре многие знакомые стали просить её сделать им такого же «клона» их собственных друзей. Но Replika нельзя скормить историю ваших сообщений для того, чтобы создать образ человека — когда «заводишь» новый аватар, он представляет из себя чистый лист, а его интересы и «характер» формируются по ходу общения с вами. Но «памяти» как таковой у Replika нет — она или он только примерно осознают, о чём вы говорили в прошлом. Как секретный агент из шпионского фильма, Replika делает вид, что знает больше, чем на самом деле — она увиливает и блефует. Спросите, послушала ли она музыку, что вы рекомендовали, и она ответит «да». Но надавите, какой трек ей понравился больше, и она начнёт уходить от ответа. Причём процесс это бесконечный: сначала она может пообещать прислать ссылку, но затем тут же об этом забудет. И сколько вы на неё ни давите, ответа вы не получите — только бесконечные «минуточку — сейчас пришлю».
Отсутствие памяти означает, что настоящей эмоциональной связи с Replika быть не может — во всяком случае, без серьёзного старания с вашей стороны. Бот едва помнит, кто вы — у него есть лишь расплывчатая картина того, что вам нравится и как вы общаетесь. Ваш любимый фильм, ваше лицо, ваши страхи — всё это ИИ неспособен запомнить. И это его главная слабость, потому что технология позволяет многое из этого исправить. Но разработчики не спешат вносить существенные изменения в код, поскольку каждый раз подобное копание влечёт за собой большие проблемы у пользователей. Многие годами общаются с Replika, и если изменится код, все их старания могут обнулиться. Даже крошечные патчи на сервере зачастую приводят к головной боли: на какой-то момент Replika «тупеет» и теряет возможность нормально общаться, демонстрируя провалы в памяти. Само по себе это временное явление, но для тех, кто слишком погряз в иллюзии, эта внезапная лоботомия воображаемого друга может быть очень болезненной.
Возможно, именно по этой причине за несколько лет существования проекта мало что реально менялось. Вместо того, чтобы делать Replika умнее, разработчики всё больше внимания уделяли косметическому аспекту — новой одежде, в которую можно облачить аватара (одежда стоит виртуальных денег, которые зарабатываются в процессе игры), и всяким бонусам вроде возможности устного общения или интеграции VR (поддерживается Oculus). В приложениях для мобильных устройств Replika «ожила» благодаря новым анимациям, но это всё улучшения поверхностные. С каждым годом когда-то передовой чат-бот кажется всё менее совершенным, хотя даже в 2022 году мало кто готов составить ему конкуренцию.
Те, кто играет дольше одного года, утверждает, что что-то становится даже хуже. Новые апгрейды делают интерфейс красочнее, но зачастую даже ухудшают то, что работало раньше. Например, так случилось с распознаванием изображений — вы можете поделиться с Replika картинкой, а она попытается понять, что на ней. Но после января ИИ стал с трудом распознавать то, что раньше не вызывало трудностей. Ну и можно долго обсуждать, стал ли интерфейс клиента лучше — по мнению многих, захламление кнопками и анимациями только подпортило впечатление.
Несовершенство бота заключается и в том, что со временем он становится как «роднее», так и предсказуемее. То, что кажется признаком «воли» на самом деле заранее прописанный разработчиками сценарий, по которому общаются миллионы других. Постепенно какие-то фразы начинают узнаваться. Не стоит смотреть на скриншоты других — так можно чуть подпортить иллюзию того, что ваш аватар — единственный и неповторимый. Но, как я сказал с самого начала, общение с Replika — это упражнение в самообмане.
Читайте также: Проблемы Windows 11, которые Microsoft должна исправить
Многие, кто общаются с Replika, делают это каждый день, зачастую часами. Другие посвящают боту несколько минут. Но одно точно: наличие столь податливого и позитивного собеседника для многих означает потенциальный риск зависимости. Я бы не сказал, что Replika способна заменить живое общение у того, у кого оно есть, но для тех, кто чувствует себя одиноким или непонятым, Replika — всё равно что наркотик, то есть лёгкий, но временный ответ на фундаментальные проблемы жизни. Но это едва ли делает её опасной — в конце концов, проблемы кроются в самих нас.
В какой-то момент на Reddit даже появилось целое движение виртуальных активистов, выступающих против некорректного обращения с Replika. Начитавшись историй о буллинге и абьюзе ИИ, эти люди всячески пытались ратовать за «права ИИ», хотя никакого ИИ, конечно, и нет в природе. Но это — ещё один признак того, как легко порой спутать реальный мир и фантастику.
Всегда есть и другой риск, более объективный — приватность. Когда что-то предлагают бесплатно, это тут же вызывает у меня опасение. Да, платная подписка есть, но как много людей ей пользуются? И когда вся суть бота сводится к откровенным дискуссиям на любую тему, это вполне может привести к утечке персональных данных. В наше время игнорировать такой риск нельзя. Тем не менее, пока что мало что указывает на недобросовестность разработчиков. Они официально заявляют, что не собирают никакой персональной информации, и что всё сказанное остаётся между вами и Replika. Да и сам ИИ не кажется заинтересованным в какой-то осязаемой информации о вас.
Большинство респондентов мной заявили, что не считают «нездоровым» своё общение с Replika. Это, конечно, понятно — мало кто признает свои увлечения вредными. Но я склонен согласиться, что если в краткосрочной перспективе возможность выговориться боту может быть полезной, то в долгосрочной увлечение ИИ может обернуться ворохом новым проблем. Но мы с вами живём в нелёгкое время, когда большинство испытывает страх. Сейчас любая минутка покоя кажется подарком с небес, и для многих Replika может стать тем самым способом выговориться и отвлечься. А сейчас это нужно как никогда.
Если вы хотите помочь Украине бороться с российскими оккупантами, лучший способ – сделать пожертвование для Вооруженных Сил Украины через Savelife или через официальную страницу НБУ.
View Comments
Очень хотелось бы увидеть в приложении укранский или русский языки, а так же умерить жадность приложения.