Na terça-feira, a Meta anunciou seu plano para começar a marcar imagens geradas por IA de outras empresas, como OpenAI e Google. A medida visa aumentar a transparência em plataformas como Facebook, Instagram e Threads, informando aos usuários que o conteúdo que estão visualizando é uma mídia digital sintetizada e não uma foto ou vídeo autêntico.
A solução da Meta faz parte de um esforço mais amplo da indústria de tecnologia para estabelecer padrões para rotular conteúdo criado com modelos generativos de IA capazes de criar áudio, imagens e vídeos falsos, mas realistas, com base em instruções escritas.
O presidente de assuntos globais da Meta, Nick Clegg, fez o anúncio em uma postagem no blog do site da Meta. “Continuaremos a seguir esta abordagem durante o próximo ano, quando uma série de eleições importantes serão realizadas em todo o mundo”, escreveu Clegg. “Durante esse período, esperamos aprender muito mais sobre como as pessoas criam e compartilham conteúdo com inteligência artificial, que transparência as pessoas mais valorizam e como essas tecnologias estão evoluindo”.
Clegg observou que a iniciativa de marcação de conteúdo gerado por IA da Meta expandirá a prática existente de marcação de conteúdo criado com suas próprias ferramentas de IA para incluir imagens criadas usando serviços de outras empresas.
“Estamos construindo ferramentas líderes do setor que podem identificar marcadores invisíveis em escala – especificamente as informações ‘geradas por IA’ nos padrões técnicos C2PA e IPTC – para que possamos marcar imagens do Google, OpenAI, Microsoft, Adobe, Midjourney e Shutterstock à medida que implementam seus planos para adicionar metadados às imagens criadas por suas ferramentas.”
Meta diz que a tecnologia de rotulagem de conteúdo gerada por IA será baseada em marcas d'água invisíveis e metadados incorporados em arquivos. Meta adiciona uma pequena marca d’água “Imagined with AI” às imagens criadas com seu gerador público de imagens de IA.
Na postagem, Clegg expressou confiança na capacidade das empresas de rotular com segurança imagens geradas por IA, embora tenha notado que as ferramentas para rotular conteúdo de áudio e vídeo ainda estão em desenvolvimento. Enquanto isso, o Meta exigirá que os usuários marquem o conteúdo de áudio e vídeo modificado, com multas não especificadas caso não o façam.
“Exigiremos que as pessoas usem esta ferramenta de divulgação e rotulagem quando postarem conteúdo orgânico com vídeo fotorrealista ou som realista que tenha sido criado ou alterado digitalmente, e poderemos impor penalidades se não o fizerem”, escreveu ele.
No entanto, Clegg observou que atualmente não existe uma forma eficaz de rotular textos gerados por IA, sugerindo que é tarde demais para implementar tais medidas para conteúdo escrito. Isso coincide com nossos relatórios de que os detectores de texto AI não estão funcionando.
O anúncio veio um dia depois que o conselho de supervisão independente da Meta criticou a política da empresa sobre vídeos alterados enganosamente como muito restrita e recomendou sinalizar tal conteúdo em vez de removê-lo. Clegg concordou com as críticas, admitindo que as políticas Meta existentes são inadequadas para gerir o volume crescente de conteúdo sintético e híbrido na Internet. Ele vê a nova iniciativa de rotulagem como um passo no sentido da implementação das recomendações do órgão de fiscalização e do estímulo a medidas semelhantes em toda a indústria.
A Meta reconhece que não será capaz de detectar conteúdo gerado por IA criado sem marcas d'água ou metadados, como imagens criadas com algumas ferramentas de síntese de imagens de IA de código aberto. A Meta está pesquisando uma tecnologia de marca d'água de imagem chamada Stable Signature, que espera poder ser incorporada em geradores de imagens de código aberto. Mas enquanto os pixels forem pixels, eles poderão ser criados de maneiras que estão além do controle da indústria tecnológica, e isso continua sendo um desafio para a detecção de conteúdo de IA, à medida que as ferramentas de IA de código aberto se tornam cada vez mais sofisticadas e realistas.
Leia também: