Deepfakes a expliqué: l'IA qui fait de fausses vidéos trop convaincantes

Added 2018-11-21

Voir c'est croire. Du moins, c'était le cas avant de réaliser que les gens pouvaient lire des vidéos pour propulser des canulars et réécrire l'histoire. Bien que nous ayons trouvé le moyen de supprimer la plupart des images de canular, il existe un développement technologique qui s'accélère si rapidement que nous ne saurons bientôt plus comment dire ce qui est réel et ce qui est faux.

Deepfakes change tout ce que nous pensions possible en termes de vidéos trafiquées. Voici tout ce que vous devez savoir sur eux…

Quels sont Deepfakes?

Le terme «deepfakes» vient de la combinaison des mots «apprentissage en profondeur» et «faux». En effet, un logiciel d'intelligence artificielle formé à la synthèse d'images et de vidéos crée ces vidéos. Cette IA peut superposer le visage d'un sujet (la source) sur une vidéo d'un autre (la cible). Des formes plus avancées de la technologie peuvent synthétiser un tout nouveau modèle de personne en utilisant les gestes du visage et les images ou la vidéo du sujet qu’ils souhaitent imiter.

La technologie peut créer des modèles de visage basés sur des données visuelles limitées, telles qu'une image. Cependant, plus l'IA doit travailler avec des données, plus le résultat est réaliste.

C'est pourquoi les politiciens et les célébrités sont des cibles si faciles pour Deepfakes car il y a tellement de données visuelles disponibles en ligne que le logiciel peut utiliser. Les logiciels deepfake étant disponibles sur des plates-formes à source ouverte, les internautes peaufinent et développent en permanence le travail des autres.

Les origines de la technologie Deepfake AI

La technologie derrière Deepfakes a été développée pour une multitude de buts. Tout comme Photoshop, le logiciel a des utilisations professionnelles, de divertissement et amateur. Et tout comme Photoshop, bien que le créateur n’ait aucune intention malveillante lors de la création du logiciel, cela n’a pas empêché les gens de l’utiliser à des fins malveillantes.

La technologie de permutation de visage était initialement utilisée principalement dans l'industrie du film. L'un des cas les plus célèbres est celui du film 2016 Rogue One: A Star Wars Story. Dans le film, les cinéastes ont utilisé la technologie de synthèse vidéo et d’échange de visages pour recréer le personnage de Grand Moff Tarkin. Une version plus jeune de la princesse Leia a également été créée dans le film. Dans les deux cas, des modèles de visages des acteurs originaux ont été superposés sur des acteurs suppléants.

Des applications comme Snapchat utilisent également la technologie de permutation de visage pour créer des filtres amusants pour les utilisateurs. Les développeurs à l'origine de ces applications affinent en permanence la détection et le suivi des visages pour appliquer ces filtres plus efficacement.

Pendant ce temps, d'autres ont développé des outils de synthèse vidéo pour créer des hologrammes à des fins éducatives. Par exemple, un projet a mis au point un logiciel de synthèse vidéo et faciale afin que les témoignages de survivants de l’Holocauste puissent être présentés sous forme d’hologrammes interactifs dans un musée.

Pourquoi Deepfakes rend les gens nerveux

Quand les gens se sont rendus compte que les escrocs et les personnes jouant des canulars utilisaient Photoshop pour créer de fausses images, nous devions devenir plus sceptiques quant à ce que nous considérions comme une preuve. Heureusement, il y avait beaucoup de façons de détecter si une image était fausse, même à l'œil nu.

De plus, créer une image soignée convaincante dans Photoshop nécessite une main-d’œuvre relativement lourde. Tout le monde ne peut pas associer deux images et les rendre réalistes.

Puisque l'IA et l'apprentissage en profondeur aident à créer des deepfakes, la technologie s'améliore également et devient plus convaincante à un rythme alarmant. Il ne faudra pas longtemps avant que ces modifications ne soient visibles à l'œil nu.

Dans un monde semé de fausses nouvelles, convaincre les deepfakes pourrait s'avérer être une force chaotique contre ce que nous croyons être vrai.

La montée en puissance des deepfakes a également lieu à un moment où la synthèse vocale en IA progresse également rapidement. L'intelligence artificielle peut non seulement générer de fausses vidéos, mais également des modèles de voix pour les internautes.

Cela signifie que vous n’auriez pas besoin d’un imitateur pour donner l’impression qu’un politicien fait une déclaration scandaleuse. Vous pouvez également entraîner l'IA à imiter sa voix.

Les conséquences de Deepfakes

Les gens utilisent déjà deepfakes à des fins malveillantes. Les gens utilisaient souvent FakeApp pour créer de fausses vidéos d’actrices de célébrités engagées dans du contenu pour adultes.

Gal Gadot, Daisy Ridley et Emma Watson ne sont que quelques-unes des actrices visées par de fausses vidéos pour adultes. Ces deepfakes transforment le visage des actrices en vidéos de stars de cinéma adultes.

Plusieurs plates-formes et certains sites Web pour adultes ont interdit ce type de vidéos, mais chaque jour davantage de vidéos apparaissent. En fait, certains sites Web créent spécifiquement des vidéos de célébrités pour adultes de deepfake basées sur les demandes des utilisateurs.

Dans la plupart des pays, aucune loi ne traite encore de ce type de contenu, ce qui le rend difficile à contrôler.

Deepfakes peut être un outil puissant pour répandre la désinformation. Personne n'a été accusé d'un crime ou simulé sa mort en utilisant deepfakes, mais que se passe-t-il quand il devient difficile de dire quelles vidéos sont vraiment réelles?

Les conséquences des deepfakes utilisés à des fins politiques sont doubles. Premièrement, cela facilite beaucoup la diffusion de fausses nouvelles. Les vidéos sont plus susceptibles que le texte ou les images de convaincre les gens que quelque chose de fictif s'est réellement passé.

Les gens croient déjà aux manchettes de faux sites Web sans aucune preuve de leur histoire. Soudainement, les fausses histoires auront des «preuves» montrant des politiciens avouant des actes répréhensibles ou faisant des déclarations scandaleuses.

D’un autre côté, Deepfakes pourrait aussi enhardir les politiciens en évitant de rendre des comptes. Ils pourraient toujours facilement prétendre qu’un enregistrement audio ou vidéo est en réalité un faux-semblant.

Comment combattons-nous Deepfakes?

AI Foundation a créé un plugin de navigateur appelé Reality Defender pour aider à détecter le contenu deepfake en ligne. Un autre plug-in, SurfSafe, effectue également des contrôles similaires. Ces deux outils visent à aider les internautes à discerner les faits de la fiction.

Les 5 meilleurs sites de vérification des faits impartiaux pour trouver la vérité Des sites Web comme Snopes également élargi à appeler des vidéos trafiquées. Mais ils ne disposent pas encore des outils pour détecter automatiquement les deepfakes.

Même le département américain de la Défense a investi dans un logiciel permettant de détecter les deepfakes. Après tout, que se passerait-il si une vidéo convaincante d'un leader mondial paraissait en ligne, déclarant la guerre ou un lancement de missile contre un autre pays? Les gouvernements ont besoin d'outils pour vérifier rapidement la légitimité d'une vidéo.

Conséquences inattendues de Machine Learning

Il ne fait aucun doute que la technologie de l’IA et l’apprentissage en profondeur de la machine améliorent notre vie de nombreuses façons. Mais la technologie a aussi des conséquences inattendues.