Uma foto de uma "explosão" perto do Pentágono, gerada por IA, se tornou viral em Twitter

Recentemente em Twitter apareceu uma foto que, como dizia a descrição, retratava uma explosão ocorrida perto do Pentágono. Por causa disso, houve até uma queda de curto prazo no mercado - o índice S&P 500 caiu 0,29%, mas depois que descobriu que a foto era falsa, o índice se recuperou. A imagem foi postada por uma conta verificada do Bloomberg Feed, que, apesar de sua marca de seleção azul, não é afiliada à empresa de mídia Bloomberg.

A foto foi rapidamente reconhecida como falsa. Aparentemente, foi gerado com a ajuda de inteligência artificial. Mas antes que esses detalhes aparecessem, a desinformação já havia sido espalhada por várias contas, incluindo o lixo do Russia Today (bem, quem duvidaria).

A imagem falsa mostra uma grande nuvem de fumaça preta ao lado de um prédio que lembra vagamente o Pentágono, com o texto que o acompanha. Após uma inspeção mais detalhada, as autoridades locais confirmaram que a imagem não era uma representação precisa do Pentágono, e os postes da cerca borrados e as colunas do prédio pareciam uma imagem bastante desleixada criada usando um modelo de IA como a difusão estável.

Conta falsa da Bloomberg antes Twitter bloqueou, tinha dezenas de milhares de tweets, mas menos de 1 seguidores no total, e não está claro quem o executou ou qual foi a motivação por trás da imagem falsa. Além do Bloomberg Feed, outras contas que espalham a mensagem falsa incluem Walter Bloomberg e Breaking Market News, que também não são afiliados à verdadeira empresa Bloomberg.

O incidente destacou as ameaças potenciais que as imagens geradas por IA podem representar nas mídias sociais, onde informações não verificadas são compartilhadas às pressas e o sistema de verificação pago em Twitter. Em março, imagens falsas da prisão de Donald Trump, criadas usando Midjourney, se tornaram virais e, embora tenham sido imediatamente chamadas de falsas, pareciam extremamente realistas. Além disso, muitos foram enganados por imagens geradas por IA do Papa Francisco em uma jaqueta branca.

A conta "BloombergFeed" foi banida.

Mas isso vai se transformar em um jogo de bater uma toupeira.

Imagens falsas de IA + notícias falsas verificadas Twitter conta + grande mídia não verificando seu azedoces = uma receita para o desastre na nossa sociedade digital.

Isso não vai diminuir. foto.twitter.com/ZeboVgVm4Z

-Lorenzo Green 〰️ (@mrgreen) 23 de maio de 2023

O Papa de jaqueta é uma coisa, mas uma explosão na sede do Departamento de Defesa dos Estados Unidos é outra bem diferente. As consequências podem ser graves, como prova o mesmo mercado de ações. O Dow Jones Industrial Average caiu 85 pontos nos quatro minutos após o tweet se tornar viral, mas se recuperou rapidamente.

Grande parte da confusão em torno do tweet falso foi possibilitada por mudanças no Twitter na época de Elon Musk. Ele demitiu muitos moderadores de conteúdo e automatizou amplamente o processo de verificação da conta, transferindo-o para um sistema em que qualquer um pode pagar por um cheque azul. Os críticos dizem que a prática torna a plataforma mais vulnerável à desinformação.

Embora as autoridades tenham sido relativamente rápidas em reconhecer a foto da explosão como falsa, a disponibilidade de modelos de síntese de imagem, como Midjourney e Stable Diffusion, significa que falsificações convincentes não exigem mais arte, deixando algum espaço para desinformação. A facilidade de criar falsificações combinada com a natureza viral de plataformas como Twitter, significa que informações falsas podem se espalhar mais rapidamente do que podem ser verificadas.

Nesse caso, a imagem não precisa necessariamente ser de alta qualidade para gerar impacto negativo. Especialistas dizem que quando as pessoas querem acreditar em algo, perdem a vigilância e não verificam a veracidade das informações.

Leia também:

• A linguagem AI da Meta reconhece mais de 4 idiomas
• Adobe adiciona edição de preenchimento generativo com inteligência artificial ao Photoshop