Martedì, Meta ha annunciato il suo piano per iniziare a taggare le immagini generate dall'intelligenza artificiale di altre società come OpenAI e Google. La mossa è volta ad aumentare la trasparenza su piattaforme come Facebook, Instagram e Threads, informando gli utenti che il contenuto che stanno visualizzando è un supporto digitale sintetizzato e non una foto o un video autentico.
La soluzione di Meta fa parte di uno sforzo più ampio del settore tecnologico per stabilire standard per l'etichettatura dei contenuti creati con modelli di intelligenza artificiale generativa in grado di creare audio, immagini e video falsi ma realistici basati su istruzioni scritte.
Il presidente degli affari globali di Meta, Nick Clegg, ha fatto l'annuncio in un post sul blog del sito web di Meta. "Continueremo a seguire questo approccio anche nel prossimo anno, quando si terranno una serie di importanti elezioni in tutto il mondo", ha scritto Clegg. "Durante questo periodo, speriamo di imparare molto di più su come le persone creano e condividono contenuti con l'intelligenza artificiale, su quale trasparenza apprezzano di più e su come queste tecnologie si stanno evolvendo".
Clegg ha osservato che l'iniziativa di tagging dei contenuti generati dall'intelligenza artificiale di Meta espanderà la pratica esistente di tagging dei contenuti creati con i propri strumenti di intelligenza artificiale per includere immagini create utilizzando i servizi di altre società.
"Stiamo costruendo strumenti leader del settore in grado di identificare marcatori invisibili su larga scala, in particolare le informazioni "generate dall'intelligenza artificiale" negli standard tecnici C2PA e IPTC, in modo da poter taggare immagini da Google, OpenAI, Microsoft, Adobe, Midjourney e Shutterstock mentre implementano i loro piani per aggiungere metadati alle immagini create dai loro strumenti."
Meta afferma che la tecnologia di etichettatura dei contenuti generata dall’intelligenza artificiale sarà basata su filigrane invisibili e metadati incorporati nei file. Meta aggiunge una piccola filigrana "Imagined with AI" alle immagini create con il suo generatore di immagini AI pubblico.
Nel post, Clegg ha espresso fiducia nella capacità delle aziende di etichettare in modo affidabile le immagini generate dall'intelligenza artificiale, anche se ha osservato che gli strumenti per etichettare i contenuti audio e video sono ancora in fase di sviluppo. Nel frattempo, Meta richiederà agli utenti di taggare i contenuti audio e video modificati, con sanzioni non specificate in caso contrario.
"Chiederemo alle persone di utilizzare questo strumento di divulgazione ed etichettatura quando pubblicano contenuti organici con video fotorealistici o suoni realistici che sono stati creati o alterati digitalmente, e potremmo imporre sanzioni se non lo fanno", ha scritto.
Tuttavia, Clegg ha osservato che attualmente non esiste un modo efficace per etichettare il testo generato dall’intelligenza artificiale, suggerendo che è troppo tardi per implementare tali misure per i contenuti scritti. Ciò è coerente con le nostre segnalazioni secondo cui i rilevatori di testo AI non funzionano.
L'annuncio è arrivato il giorno dopo che il comitato di supervisione indipendente di Meta ha criticato la politica della società sui video alterati in modo ingannevole ritenendola troppo restrittiva e ha raccomandato di contrassegnare tali contenuti anziché rimuoverli. Clegg concorda con le critiche, ammettendo che le politiche Meta esistenti sono inadeguate a gestire il crescente volume di contenuti sintetici e ibridi su Internet. Egli vede la nuova iniziativa sull'etichettatura come un passo avanti verso l'implementazione delle raccomandazioni dell'organismo di vigilanza e stimolando lo slancio a livello di settore per misure simili.
Meta riconosce che non sarà in grado di rilevare contenuti generati dall'intelligenza artificiale creati senza filigrane o metadati, come immagini create con alcuni strumenti di sintesi di immagini AI open source. Meta sta ricercando una tecnologia di filigrana delle immagini chiamata Stable Signature che spera possa essere integrata nei generatori di immagini open source. Ma finché i pixel sono pixel, possono essere creati in modi che non sono controllati dall’industria tecnologica, e questa rimane una sfida per il rilevamento dei contenuti dell’intelligenza artificiale poiché gli strumenti di intelligenza artificiale open source diventano più sofisticati e realistici.
Leggi anche: