На Reddit забанили сообщество Deepfake с “поддельным порно”

На Reddit запретили «поддельные порноролики» – изображения и видео, на которые накладывают лицо субъекта без его разрешения.

Deepfakes – программное обеспечение с использованием искусственного интеллекта для создания компьютерной версии лица субъекта, которая полностью соответствует оригинальным выражениям человека на видео или изображении.

Для работы требуется только фотографий лица жертвы под разными углами – для получения хорошего результата нужно около 500 различных изображений, а также видео для объединения результатов. Как вы понимаете, у публичных личностей нет проблем с количеством легкодоступных фотографий и видео.

Читайте также: Фальшивая порнография стала новым пугающим трендом в Интернете

Широкую известность в обществе программа получила в декабре, когда пользователь Reddit сообщил, как он использовался приложение для создания поддельных порнороликов израильской актрисы Галь Гадот.

Ещё большую популярность программа получила после выпуска в январе инструмента под названием FakeApp, который позволил заменять лица одним нажатием кнопки на домашнем ПК. Сообщество Reddit стало одним из самых популярных мест для обмена и обсуждения созданных видео и насчитывало более 70 000 подписчиков.

После такой популярности FakeApp и попыток продавать такой контент, Reddit изменил политику в отношении несовершеннолетних. Другие сервисы, включая Twitter, Gfycat и Pornhub, также внедрили свои собственные запреты на deepfake-контент.

Читайте также: Twitter использует машинное обучение для обработки фото

Стоит также заметить, что не все клипы созданные с помощью FakeApp были порнографического характера – многие использовали программу для розыгрышей президента США Дональда Трампа, а один пользователь размещал лицо своей жены в сценах голливудских фильмов. Особую популярность в сообществе получил актер Николас Кейдж.

Тем не менее бан сообщества deepfake вызвал беспокойство среди некоторых пользователей Reddit, которые опасаются, что платформа становится менее «открытой» после бана двух популярных форумов в 2017 году.

Этот шаг совпал с объявлением о том, что соучредитель Reddit Алексис Оганян отошел от непосредственного управления сайтом и вместо этого посвятил большую часть своего времени венчурной компании.