Mardi, Meta a annoncé son intention de commencer à baliser les images générées par l'IA provenant d'autres sociétés telles que OpenAI et Google. Cette décision vise à accroître la transparence sur des plateformes telles que Facebook, Instagram et Threads, en informant les utilisateurs que le contenu qu'ils consultent est un média numérique synthétisé et non une photo ou une vidéo authentique.
La solution de Meta fait partie d'un effort plus large de l'industrie technologique visant à établir des normes pour l'étiquetage du contenu créé avec des modèles d'IA génératifs capables de créer de l'audio, des images et des vidéos faux mais réalistes sur la base d'invites écrites.
Le président des affaires mondiales de Meta, Nick Clegg, a fait cette annonce dans un article de blog sur le site Web de Meta. "Nous continuerons à suivre cette approche au cours de l'année prochaine, lorsque plusieurs élections importantes auront lieu dans le monde", a écrit Clegg. "Pendant cette période, nous espérons en apprendre beaucoup plus sur la manière dont les gens créent et partagent du contenu grâce à l'intelligence artificielle, sur la transparence qu'ils apprécient le plus et sur l'évolution de ces technologies."
Clegg a noté que l'initiative de balisage de contenu généré par l'IA de Meta étendra la pratique existante de balisage du contenu créé avec ses propres outils d'IA pour inclure les images créées à l'aide des services d'autres sociétés.
"Nous développons des outils de pointe capables d'identifier les marqueurs invisibles à grande échelle - en particulier les informations "générées par l'IA" dans les normes techniques C2PA et IPTC - afin que nous puissions marquer les images de Google, OpenAI, Microsoft, Adobe, Midjourney et Shutterstock alors qu'ils mettent en œuvre leurs projets visant à ajouter des métadonnées aux images créées par leurs outils.
Meta indique que la technologie d'étiquetage de contenu générée par l'IA sera basée sur des filigranes invisibles et des métadonnées intégrées dans les fichiers. Meta ajoute un petit filigrane « Imaginé avec l'IA » aux images créées avec son générateur d'images public IA.
Dans son message, Clegg a exprimé sa confiance dans la capacité des entreprises à étiqueter de manière fiable les images générées par l'IA, bien qu'il ait noté que les outils d'étiquetage du contenu audio et vidéo sont encore en développement. En attendant, Meta exigera que les utilisateurs marquent le contenu audio et vidéo modifié, avec des amendes non précisées en cas de non-respect.
"Nous exigerons que les gens utilisent cet outil de divulgation et d'étiquetage lorsqu'ils publient du contenu organique avec une vidéo photoréaliste ou un son réaliste qui a été créé ou modifié numériquement, et nous pourrons imposer des sanctions s'ils ne le font pas", a-t-il écrit.
Cependant, Clegg a noté qu'il n'existe actuellement aucun moyen efficace d'étiqueter le texte généré par l'IA, ce qui suggère qu'il est trop tard pour mettre en œuvre de telles mesures pour le contenu écrit. Cela concorde avec nos rapports selon lesquels les détecteurs de texte AI ne fonctionnent pas.
Cette annonce intervient un jour après que le conseil de surveillance indépendant de Meta a critiqué la politique de l'entreprise concernant les vidéos modifiées de manière trompeuse, la qualifiant de trop étroite, et a recommandé de signaler ce contenu plutôt que de le supprimer. Clegg a souscrit aux critiques, admettant que les politiques Meta existantes sont inadéquates pour gérer le volume croissant de contenu synthétique et hybride sur Internet. Il considère la nouvelle initiative d'étiquetage comme une étape vers la mise en œuvre des recommandations de l'organisme de surveillance et la stimulation d'une dynamique à l'échelle de l'industrie en faveur de mesures similaires.
Meta reconnaît qu'il ne sera pas en mesure de détecter le contenu généré par l'IA créé sans filigrane ni métadonnées, comme les images créées avec certains outils de synthèse d'images IA open source. Meta recherche une technologie de filigrane d'image appelée Stable Signature qui, espère-t-elle, pourra être intégrée aux générateurs d'images open source. Mais tant que les pixels restent des pixels, ils peuvent être créés d’une manière qui n’est pas contrôlée par l’industrie technologique, ce qui reste un défi pour la détection du contenu de l’IA, à mesure que les outils d’IA open source deviennent plus sophistiqués et réalistes.
Lisez aussi: