Aujourd'hui, nous allons parler de deepfake, qui s'est maintenant répandu et est un phénomène assez courant. Grâce à cette technologie, la manipulation de l'information a atteint un nouveau niveau.
Avez-vous vu la reine Elizabeth danser sur la table lors de la diffusion du message du Nouvel An ? Ou écouté le discours de Kim Jong-un sur la démocratie, ou admiré Salvador Dali, qui a parlé de sa mort (pourquoi il n'y croit pas) ?
Toutes ces vidéos incroyables ont une chose en commun : elles sont fausses. Deepfake est une technique de création et de publication de fausses informations sous forme de vidéos, d'audio et de photos. Il devient de plus en plus facile de trouver de tels matériaux, nous avons donc préparé pour vous une instruction sur la création, la reconnaissance et la recherche de vidéos deepfake sur Internet.
Lisez aussi: Blockchains de demain : L'avenir de l'industrie de la crypto-monnaie en termes simples
Deepfake - qu'est-ce que c'est ?
Deepfake (Deepfake) est, en fait, un matériel photo, vidéo ou audio qui n'est pas réel, faux, c'est-à-dire faux. Deepfake (combinaison de deux mots - apprentissage en profondeur "apprentissage en profondeur" et faux "faux") utilise l'intelligence artificielle (IA) pour l'apprentissage en profondeur afin de créer la ressemblance d'une personne avec une autre dans des vidéos et d'autres supports numériques. Il est créé par des algorithmes basés sur de vrais échantillons de voix, de son, de vidéo ou de photo qui sont assemblés. L'algorithme prend des informations sélectionnées à partir de nombreux endroits différents, puis les combine en un seul matériau. En conséquence, quelque chose de nouveau (faux) est créé, qui est basé sur une combinaison de différentes données réelles.
Mais ce n'est pas tout. Deepfake peut également "peindre" une photo à partir de zéro, par exemple en créant les visages de personnages qui n'ont jamais existé.
Quel est le but de telles actions ? Entre autres choses, Deepfake est utilisé pour diffuser des informations incorrectes sur Internet (par exemple, sur des personnalités ou des événements politiques), le vol (par exemple, falsifier des commandes vocales) et créer de la pornographie (films avec des célébrités - deepfake porn). Il peut également être utilisé à des fins éducatives et de divertissement.
Lisez aussi: À propos des ordinateurs quantiques en termes simples
Deepfake - Comment ça marche ?
En général, il existe deux façons de créer du matériel deepfake. La première méthode utilise deux algorithmes. Premièrement, le premier (encodeur) recherche les caractéristiques communes de deux images (celles à combiner en une seule), puis le second (décodeur) peut les transférer à l'image nouvellement créée. Par exemple, si nous voulons créer une vidéo dans laquelle un acteur bougerait comme nous, l'encodeur prend le mouvement de la vidéo où nous dansons, et le décodeur va déjà remplacer notre visage par le visage de l'acteur et lui faire reproduire nos mouvements . La clé ici est les actions sélectionnées qui sont copiées dans la nouvelle image (par exemple, mouvements, gestes, expressions faciales).
La deuxième méthode consiste à utiliser des réseaux antagonistes génératifs (GAN), où deux algorithmes fonctionnent ensemble. Le premier est appelé générateur car, à partir d'informations générales, il crée des images (par exemple, l'image d'une personne) qui combinent ses traits distinctifs (une personne a un corps, un visage, des yeux). Le deuxième algorithme est un discriminateur qui évalue si les images qui lui sont fournies par le générateur sont vraies ou non.
Au fil du temps, les deux algorithmes deviennent plus avancés, ils apprennent et s'améliorent. Si le générateur est entraîné de manière à ce que le discriminateur ne reconnaisse pas une fausse photo (la considère comme réelle), le processus est terminé.
Une grande quantité de logiciels contrefaits peut être trouvée sur GitHub, une communauté open source pour les scripts, les programmes et le code. Certains de ces programmes sont utilisés uniquement à des fins de divertissement, donc la création d'un deepfake n'est pas interdite, cependant, beaucoup d'entre eux peuvent également être utilisés à des fins criminelles.
De nombreux experts estiment qu'à l'avenir, avec le développement des technologies, les deepfakes deviendront beaucoup plus complexes et pourraient créer des menaces plus graves pour la société, liées à l'ingérence dans les élections, à la création de tensions politiques et à des activités criminelles.
Lisez aussi:
- Observer la planète rouge : une histoire des illusions martiennes
- La téléportation d'un point de vue scientifique et son avenir
La menace de Deepfake - depuis quand existe-t-elle ?
Pour la première fois, de telles fausses informations sont apparues en 2017. Alors l'utilisateur est un alias deepfake publié sur Reddit plusieurs films pornographiques dans lesquels des célébrités étaient impliquées, dont Scarlett Johansson, Gal Gadot et Taylor Swift. Depuis lors, cette industrie s'est développée rapidement, car presque tout le monde peut tourner des films deepfake.
https://youtu.be/IvY-Abd2FfM
Ces dernières années, la technologie du deepfaking s'est tellement développée qu'il est désormais de plus en plus difficile de déterminer s'il s'agit d'une vidéo fabriquée ou d'un véritable enregistrement de personnes réelles. Un exemple peut être une vidéo avec un message d'Elizabeth II ou un discours de Barack Obama, qui a été rapidement publié sur de nombreux sites différents. La vidéo accompagnant la déclaration de l'ancien président américain traitait des menaces mondiales pouvant être causées par la désinformation et les fausses nouvelles publiées sur Internet. Dans le matériel publié par la chaîne BuzzFeedVideos, le réalisateur et acteur américain Jordan Peele est devenu la voix du 44e président des États-Unis. Cependant, à l'heure actuelle, l'intelligence artificielle est déjà capable de générer une voix à partir d'enregistrements d'archives d'une personne censée apparaître dans un faux film.
Ces technologies avancées peuvent devenir un outil dangereux entre les mains des cybercriminels et des fraudeurs sur Internet à l'avenir. La publication de fausses vidéos de discours d'hommes politiques importants peut causer de réels dommages au niveau international. De tels films, basés sur la technologie deepfake, peuvent provoquer des conflits diplomatiques et des scandales, et donc influencer l'opinion publique et le comportement des gens.
Une autre menace potentielle est le contenu pour adultes, qui a toujours généré le plus de trafic dans l'espace virtuel. Il n'est pas étonnant que la technologie deepfake ait atteint Internet si rapidement. Selon un rapport de la société néerlandaise de cybersécurité Deeptrace, 96 % des vidéos fabriquées à l'aide de la technologie deepfake portent sur de tels sujets. Le plus souvent, les images de stars de cinéma, d'athlètes et même de politiciens et de représentants du gouvernement sont utilisées pour la production de tels documents.
Lisez aussi: Pourquoi une mission spatiale ne peut pas voler à tout moment : qu'est-ce qu'une fenêtre de lancement ?
Comment faire un deepfake ?
Si quelqu'un peut faire des vidéos deepfake, peut-on aussi les faire à la maison ? Certainement oui, mais leur qualité, bien sûr, ne sera pas parfaite. La création de telles vidéos nécessite de grandes ressources informatiques et de puissantes cartes vidéo. Ceux que nous avons habituellement dans les ordinateurs personnels ne suffisent pas et le processus de développement lui-même peut durer des semaines. La qualité des films laissera également beaucoup à désirer - il y aura des erreurs visibles, les mouvements de la bouche peuvent ne pas correspondre au son, il y aura des endroits visibles où "l'ancien" contenu se chevauchera avec le "nouveau".
Cependant, si nous voulons légèrement "retoucher" une photo ou faire une courte vidéo deepfake, le programme pour cela peut être téléchargé directement sur le smartphone. Le programme très facile à utiliser éliminera en quelques minutes les défauts d'apparence, fera de vous la célébrité choisie ou permettra à votre chien de parler avec une voix humaine.
Lisez aussi:
- Observer la planète rouge : une histoire des illusions martiennes
- La téléportation d'un point de vue scientifique et son avenir
Comment reconnaître un deepfake ?
Les vidéos deepfake professionnelles sont de plus en plus difficiles à repérer. Au début, les algorithmes avaient des problèmes de comportement de base (comme le clignement des yeux), et il était immédiatement clair que le film était un faux. Cette erreur a maintenant été corrigée. Les faux personnages clignotent, bougent naturellement et parlent couramment. Cependant, ils ont parfois encore des problèmes avec le mouvement naturel des yeux.
Alors, comment repérer un deepfake ? Voici ce à quoi vous devez faire attention lorsque vous regardez la vidéo :
- Le son suit-il les mouvements de la bouche ? Parfois, ils ne correspondent pas tout à fait et la personne dans la vidéo bouge ses lèvres avec un retard par rapport au son ou articule les mots de manière incorrecte.
- Toutes sortes de phénomènes qui semblent contre nature. On parle ici, entre autres, de la position de tout le corps ou de la tête par rapport au torse, de la mauvaise réflexion de la lumière sur les objets, de la mauvaise réflexion de la lumière dans les bijoux, etc. Une couleur de peau non naturelle peut également être un signe que le film est faux.
- Qualité audio et vidéo. La différence entre eux aidera à détecter un deepfake. Généralement, la bande son est de moins bonne qualité.
- Irrégularités de l'image. Le plus souvent, ils apparaissent à la jonction du corps et de la tête. Lorsque la tête d'une célébrité est "collée" à un autre corps, un flou peut apparaître dans la région du cou. Parfois, il y a des sauts de trame (intermittence) et des erreurs de trame (angle, type ou direction de lumière différents).
- Changer le hashtag pendant la vidéo peut également signifier que nous avons une vidéo deepfake.
Lorsque vous examinez des documents du point de vue d'un deepfake, vous devez également vous fier à vos propres sentiments. Parfois, nous avons l'impression que quelque chose ne va pas. Cela se produit, entre autres, lorsque les émotions de la personne représentée à l'écran ne correspondent pas à ce que l'expression du visage ou le ton de la voix nous montre. Cela suggère également que la vidéo a peut-être été truquée.
Intéressant aussi :
- 10 choses les plus étranges que nous ayons apprises sur les trous noirs en 2021
- Terraformation de Mars : la planète rouge pourrait-elle se transformer en une nouvelle Terre ?
Comment se protéger du deepfake ?
Pour éviter une fausse escroquerie profonde, les experts conseillent de suivre ces étapes :
- Créez un mot secret ou un slogan avec des proches, comme des membres de la famille ou des collègues, qui prouveront la réalité de la situation avec une vidéo ou un enregistrement. Cela vous permettra de vérifier rapidement la fausseté de la situation et d'éviter, par exemple, l'extorsion d'argent.
- Convenez avec vos proches ou vos collègues d'une liste d'informations qui ne seront jamais demandées via des messages, par exemple sur les réseaux sociaux ou par SMS. Il est impératif que toutes les parties intéressées soient informées de l'étendue réelle du danger.
- Mise en place de canaux d'authentification multi-facteurs pour vérifier chaque requête. Si la communication commence par un message texte, le moyen le plus sûr de confirmer les informations est de contacter l'expéditeur du message sous la forme d'une conversation via un canal de communication pré-convenu et sécurisé.
- Amélioration continue des compétences en matière de sécurité, par exemple sous forme de formation du personnel sur la sécurité et la cybercriminalité. Sensibiliser à ce qu'est le deepfake et comment contrer cette menace.
- Support et développement de systèmes de sécurité dans les environnements des technologies de l'information et de la communication (TIC).
Où peut-on rencontrer un deepfake ?
Le faux matériel peut être trouvé partout où il peut atteindre un large public, c'est-à-dire le public potentiel de deepfake. Facebook, Instagram, TikTok et d'autres sites de médias sociaux regorgent de ce genre de choses.
Ce ne sont pas seulement des vidéos étonnantes, mais aussi des photos et des enregistrements audio "raffinés". Certains des profils de célébrités authentiques ont parfois été complètement remplis de trucs deepfake !
Ce n'est pas le seul endroit où vous pouvez trouver un deepfake. Une application pour smartphone est également basée sur cette technologie, qui permet d'ajouter une moustache et une barbe ou d'autres effets spéciaux à une photo (par exemple, vieillir de plusieurs décennies). Il se peut donc que la dernière photo que vous avez reçue de vos amis soit un peu "sous-dessinée".
Intéressant aussi :
- Pourquoi les étoiles scintillent-elles ?
- Pourquoi les engins spatiaux sont équipés de processeurs du 20ème siècle
Les films deepfake ne sont pas que pornographiques
L'utilisation de deepfake peut être à la fois positive et négative. Les films Deepfake peuvent être ludiques ou divertissants. Ici, il convient de mentionner la vidéo de la reine Elizabeth dansant sur la table lors du message du Nouvel An. C'est aussi le but de la plupart des modifications de photos que nous faisons avec l'application deepfake sur nos smartphones. Cela devrait être drôle et amusant.
Les matériaux Deepfake peuvent également jouer un rôle éducatif, par exemple, "ressusciter" des artistes, chanteurs ou musiciens déjà décédés. Certains musées, notamment le Salvador Dali Museum en Floride, utilisent cette technologie, où les visiteurs se voient "présenter" leurs oeuvres par l'artiste lui-même, avec qui on peut discuter et même prendre des photos.
La technologie Deepfake est utilisée dans les générateurs de voix - des appareils conçus pour les personnes qui ont perdu la capacité de parler. Grâce à eux, ces personnes peuvent encore nous parler de leur propre voix. La voix de Val Kilmer, qu'il a perdue à cause d'un cancer du larynx, a été modélisée dans Top Gun: Maverick.
Malheureusement, nous avons également de nombreux exemples d'utilisations négatives du deepfaking. La politique est un exemple où ce type de fausses informations peut avoir des conséquences mondiales de grande envergure, telles que discréditer des personnalités publiques, influencer le marché boursier, l'économie ou les résultats des élections, ou même la conduite de la guerre dans une guerre. Un dossier bien préparé facilite la manipulation de l'opinion publique. Le développement progressif des technologies rendra encore plus difficile la distinction entre les vrais matériaux et les contrefaçons. C'est donc un pas vers la chute de la confiance sociale et le chaos informationnel.
Les vidéos Deepfake, comme nous l'avons déjà mentionné, sont très répandues dans l'industrie du porno. Le plus souvent, les changements consistent à remplacer le visage de l'actrice/acteur porno par le visage de célébrités ou de stars de cinéma, bien sûr, sans leur consentement.
Lisez aussi: Missions spatiales habitées : pourquoi le retour sur Terre est-il toujours un problème ?
Deepfake est une menace réelle pour nous tous
Deepfake n'est pas seulement un problème pour les acteurs et les politiciens. Tout le monde peut être affecté par un faux contenu. Un élément de chantage et d'extorsion peut être une vidéo fabriquée dans laquelle nous commettons un crime ou nous retrouvons dans une situation ambiguë - soit vous payez, soit nous révélons. Si vous travaillez en entreprise, vous devez comprendre qu'il existe un danger d'utiliser le deepfake pour discréditer l'entreprise auprès de ses contreparties.
L'augmentation de la quantité de matériel de manipulation peut également affecter la confiance sociale et la confiance dans les informations fournies. Comment pouvez-vous croire quoi que ce soit quand un film qui est une preuve devant un tribunal peut être faux et que les informations rapportent des événements inexistants ?
La technologie qui vous permet de créer une image, un enregistrement audio ou un film malveillant dont les personnages ressemblent étroitement à d'autres personnes est un nouveau niveau de menace de la part des cybercriminels. Surtout compte tenu du fait que dans les réseaux sociaux, ils peuvent puiser des ressources presque illimitées de matériel source pour créer des deepfakes.
Un logiciel d'apprentissage automatique peut rechercher Facebook або Instagram, par exemple, et prenez des photos ou des vidéos intéressantes d'"acteurs" potentiels. Sur cette base, une voix, une image et une vidéo très claires de la personne peuvent être créées, mais avec un faux appel spécialement créé qui simule, par exemple, de graves ennuis - en tant que victime d'un enlèvement ou d'un accident. A l'étape suivante, une fausse demande d'aide, par exemple financière, adressée aux proches de la « victime », est générée.
Lisez aussi: Télescope spatial James Webb : 10 cibles à observer
La lutte contre les deepfakes
Le flux de fausses informations est si important que de nombreux réseaux sociaux ont décidé de lutter contre les deepfakes. Facebook і Twitter essayez de détecter les fausses vidéos et de les supprimer automatiquement. Les grandes entreprises (y compris Microsoft ou Amazon) investissent dans des logiciels capables de détecter les faux contenus. Les scientifiques travaillent également sur une solution à ce problème.
Cependant, dans une situation où une application pour smartphone suffit à créer un faux film, lutter contre un deepfake revient à lutter contre des moulins à vent. Il n'y a pas non plus de normes juridiques qui détermineraient les conséquences de la manipulation d'informations ou de l'utilisation de l'image de quelqu'un d'autre de cette manière.
Deepfake devient de plus en plus populaire et il est de plus en plus difficile de le distinguer de la vérité. Cela est dû à l'amélioration des technologies qui peuvent mieux imiter les mouvements et les gestes humains. Les deepfakes peuvent être utilisés à de bonnes fins, comme créer du matériel pédagogique ou aider les personnes qui ont perdu la voix après une chirurgie laryngée, mais ils sont aussi un outil pour les pirates, les maîtres chanteurs et les trolls sur Internet.
Donc, si vous tombez à nouveau sur une vidéo étonnante sur Internet, vérifiez d'abord si elle est parfois modifiée ou fausse. Peut-être que ce que vous regardez n'a jamais été dans la réalité !
Lisez aussi:
- 100 ans de physique quantique : des théories des années 1920 aux ordinateurs
- 5 futures missions spatiales auxquelles penser
Cependant, n'oubliez pas qu'il y a une guerre en cours en Ukraine. Si vous voulez aider l'Ukraine à combattre les occupants russes, la meilleure façon de le faire est de faire un don aux Forces armées ukrainiennes par le biais de Sauver la vie ou via la page officielle NBU.