"Vídeos pornográficos falsos" - imagens e vídeos nos quais o rosto de uma pessoa é sobreposto sem sua permissão - foram banidos do Reddit.
Deepfakes é um software que usa inteligência artificial para criar uma versão de computador do rosto de uma pessoa que corresponda totalmente às características originais da pessoa no vídeo ou na imagem.
Para funcionar, você só precisa de fotos do rosto da vítima em diferentes ângulos - para obter um bom resultado, são necessárias cerca de 500 imagens diferentes, além de um vídeo para combinar os resultados. Como você entende, figuras públicas não têm problemas com o número de fotos e vídeos facilmente acessíveis.
Leia também: Análise Samsung Galaxy A8 (2018)
O programa ganhou grande popularidade na sociedade em dezembro, quando um usuário do Reddit relatou como usou o aplicativo para criar vídeos pornográficos falsos da atriz israelense Gal Gadot.
O programa ganhou ainda mais popularidade após o lançamento, em janeiro, de uma ferramenta chamada FakeApp, que permitia substituir seu rosto com um clique de um botão em um PC doméstico. A comunidade Reddit se tornou um dos lugares mais populares para compartilhar e discutir vídeos criados e tem mais de 70 usuários.
Depois que o FakeApp se tornou tão popular e tentou vender esse tipo de conteúdo, o Reddit mudou política de menores. Outros serviços, incluindo Twitter, Gfycat e Pornhub também implementaram suas próprias proibições de conteúdo deepfake.
Leia também: Análise ASUS ZenFone 4 Max
Também é importante notar que nem todos os clipes criados com o FakeApp eram de natureza pornográfica - muitos usaram o programa para pregar peças no presidente dos Estados Unidos, Donald Trump, e um usuário colocou o rosto de sua esposa em cenas de filmes de Hollywood. O ator Nicolas Cage ganhou popularidade especial na comunidade.
No entanto, o banimento da comunidade deepfake levantou preocupações entre alguns usuários do Reddit, que temem que a plataforma esteja se tornando menos "aberta" após o banimento de dois fóruns populares em 2017.
A mudança coincidiu com o anúncio de que o cofundador do Reddit, Alexis Ohanian, estava se afastando do gerenciamento direto do site e, em vez disso, dedicando mais tempo à empresa de capital de risco.