Qu’est-ce qu’un deepfake et représente-t-il un danger ?

Woman looking at two deepfakes and being confused as to which one is real
Cliquez ici pour un résumé de cet article
Qu’est-ce qu’un deepfake ? Explication rapide.

Les deepfakes sont une forme de médias synthétiques, vidéos ou audios, qui mettent en scène ce qui semble être une personne réelle. Ce qui est inquiétant, c’est qu’ils deviennent de plus en plus faciles à créer. Ils peuvent avoir de graves conséquences sur les vies de personnes ordinaires, car ils peuvent être utilisés pour faire chanter des victimes innocentes. Ils peuvent également être vecteurs de fausses informations via la création de vidéos factices de personnalités en vue.

Vous pouvez vous protéger contre ces médias factices. Voici quelques mesures à prendre :

  • Renseignez-vous sur les deepfakes et les moyens de les identifier.
  • Éviter de publier des photos de vous sur les comptes de réseaux sociaux.
  • Sécuriser vos appareils afin que vos images, et toutes vos autres données, ne puissent être dérobées et utilisées à des fins scélérates.
  • Expliquer les risques de ce phénomène aux membres de votre famille et à vos amis si vous ne souhaitez pas qu’ils publient des photos de vous.

Si votre image est utilisée dans un deepfake, signalez le contenu en question sur la plateforme sur laquelle il a été diffusé et contactez les autorités locales. Selon votre pays de résidence, vous pouvez également consulter un juriste.

Consultez notre article complet pour en apprendre davantage sur les deepfakes et les mesures à prendre pour vous en protéger.

Dans le deuxième volet de la saga Terminator, le robot T-1000 était capable de modifier son apparence à sa guise. Un deepfake est assez proche de cela. Il s’agit d’un média trompeur susceptible de prendre l’apparence et la voix de n’importe qui, qu’il s’agisse d’une personne vivante ou décédée. Nous sommes déjà dans le futur et ce n’est pas toujours une bonne chose.

Qu’est-ce qu’un deepfake ?

Un deepfake est un média contrefait, généralement une vidéo, qui semble authentique. Ce procédé repose sur l’exploitation de la technologie IA et de l’apprentissage automatique pour manipuler la vidéo et la voix. Ce deepfake de Mark Zuckerberg, le fondateur de Facebook en est un exemple. Dans cette vidéo, publiée sur Instagram, il semblait tenir ce discours inquiétant :

« Imaginez un seul instant qu’un homme dispose d’un contrôle total sur des données dérobées à des milliards de personnes, sur leurs secrets, leurs vies, leurs avenirs… Spectre m’a tout appris. Il m’a montré que la personne qui contrôle les données contrôle le futur. »

Mais les deepfakes sont relativement complexes à réaliser. L’apprentissage machine requiert un très vaste jeu de données pour la formation des réseaux neuronaux. Pour créer un deepfake, le jeu de données contient généralement plusieurs milliers d’images de deux personnes afin de les fusionner à l’aide d’un logiciel spécialisé. Ensuite, la voix est ajoutée et le mouvement des lèvres synchronisé.

Les deepfakes mettant en scène des célébrités peuvent en amuser certains, mais la technologie exploitée est vraiment inquiétante. Elle peut même s’avérer dangereuse, les petites vidéos de célébrités tenant des propos scandaleux n’étant que la partie émergée de l’iceberg.

Comment les deepfakes sont-ils utilisés ?

Les deepfakes pullulent sur la toile. En juin 2020, Facebook en a rassemblé 100 000 pour apprendre à son algorithme à les repérer. L’essor de l’utilisation de cette technologie montre qu’elle devient de plus en plus accessible. Cette accessibilité accrue engendre de nouveaux usages, bons comme mauvais. Voici quelques-unes des utilisations les plus récentes des deepfakes et la façon dont ils portent préjudice aux internautes.

Désinformation

À une époque où les fausses informations (ou « fake news ») semblent contribuer aux problèmes du monde, les deepfakes sont utilisés comme un outil de propagande.

Ce deepfake de Barack Obama montre comment ils peuvent être utilisés pour manipuler la vérité et diffuser massivement des informations erronées. Cette technologie offre un outil très puissant à ceux qui souhaiteraient manipuler les habitudes de vote des électeurs.

Les craintes concernant l’effet des deepfakes sur les élections de 2020 étaient réelles. Mais comme l’a montré cette analyse (article en anglais) de l’automne 2020, le problème ne s’est pas vraiment posé. La principale raison est technique, ils restent complexes à générer, surtout pour les rendre difficiles à distinguer de la réalité. Mais à l’avenir, leur accessibilité pourra rendre leur utilisation massive. Ils pourraient donc menacer de futurs scrutins.

Cybercriminalité

Les deepfakes sont le véhicule parfait pour faire passer la criminalité en ligne à un niveau supérieur. Les cybercriminels peuvent les utiliser pour faire chanter leurs victimes et les pousser à suivre leurs directives. Cela peut arriver de plusieurs façons, par exemple dans le cadre d’attaques par hameçonnage ou d’extorsion de faveurs sexuelles en ligne (ou sextorsion).

Alors que cette technologie devient de plus en plus accessible, elle est susceptible d’être utilisée pour l’ingénierie sociale, qui est une tactique utilisée dans de nombreux cybercrimes pour manipuler le comportement humain en jouant avec notre confiance, en générant un sentiment d’urgence, en exploitant notre sentiment de honte, etc.

Sextorsion

La sextorsion (ou extorsion de faveurs sexuelles en ligne) est l’illustration parfaite de la façon dont les deepfakes peuvent causer des dommages tangibles. La sextorsion est une fraude par laquelle les cybercriminels font chanter leurs victimes en les menaçant de diffuser des vidéos compromettantes les mettant en scène. Cette fraude peut se produire même en l’absence de vidéo, mais le deepfake permet aux criminels de créer du contenu compromettant.

Même si la victime sait que la vidéo n’a rien de réel, elle peut avoir le sentiment de ne pas avoir d’autres choix que de payer, car les vidéos peuvent parfois être extrêmement réalistes. Cela n’a rien d’un problème mineur. En janvier 2021, Avast a cherché, identifié et bloqué plus de 500 000 (article en anglais) cas de sextorsion visant ses clients dans le monde entier.

Hameçonnage et revenge porn

Et ce n’est qu’une partie d’un problème plus vaste. La même technologie exploitée pour la sextorsion peut également être utilisée pour l’hameçonnage. Lors des campagnes d’hameçonnage, les cybercriminels se feront passer pour quelqu’un d’autre afin de vous pousser à effectuer des actions spécifiques. Ils peuvent vous appeler et utiliser la voix de votre supérieur, obtenue en la synthétisant par deepfake, pour vous demander des détails sur votre entreprise.

Il ne s’agit pas d’un exemple hypothétique. Il y a quelques années, un PDG britannique a été piégé par un fraudeur qui lui a soutiré 240 000 $. Il pensait être au téléphone avec le directeur de la société mère, ce dernier lui demandant de lui virer cette somme de manière urgente. On pense que le PDG a été trompé par un deepfake vocal.

Cette technologie est également utilisée pour la création de revenge porn. Cette pratique a un impact particulièrement négatif sur les femmes et, si vous souhaitez en apprendre davantage sur ce sujet, vous pouvez consulter cet éditorial de Forbes (article en anglais).

Création de deepfakes à l’aide d’applications

L’application Zao a été le premier logiciel à rendre la création de deepfake largement accessible. Son utilisation a été restreinte dans la plupart des pays, mais il est toujours possible d’y accéder dans certaines régions du monde, notamment en Inde.

Zao n’est pas la seule application permettant de créer des deepfake vidéos. Depuis son lancement, de nombreuses autres applications sont sorties, dont :

  • Deepfakes Web : une application de navigateur payante qui vous permet de fusionner des images et des vidéos.
  • DeepFaceLab : un programme plus complexe conçu par Microsoft. Son principal objectif est d’aider les étudiants et les chercheurs à mieux comprendre la production de deepfake, mais certains l’utilisent pour créer leurs propres vidéos factices. Il est toutefois un peu plus compliqué à utiliser que Deepfakes Web et nécessite un jeu de données bien plus vaste pour obtenir un résultat convaincant.
  • Wombo : une application de synchronisation labiale qui permet de coller des visages sur des vidéos musicales. Si vous souhaitez la voir en action, regardez ce clip dans lequel Elon Musk pousse la chansonnette :

Comme vous pouvez le constater, la plupart des applications de deepfake grand public produisent des résultats qui ne sont pas forcément réalistes. Mais cela peut changer à l’avenir, il est donc important d’apprendre à vous en prémunir.

Comment vous protéger contre les deepfakes ?

Dans le but de contrer le développement des deepfakes, Google (article en anglais) a publié un dépôt de données de deepfakes. Les données fournies par cette base de données seront utilisées pour créer les outils nécessaires pour détecter les fausses vidéos afin qu’elles puissent être supprimées. Facebook (article en anglais) a lancé une initiative similaire, en organisant un concours pour créer un logiciel de détection. Microsoft a développé un outil complet de détection de deepfake (article en anglais).

Mais ces efforts sont-ils suffisants pour vous prémunir des dangers de cette technologie ? Peut-être, à l’avenir. Mais aujourd’hui, vous avez toujours besoin de prendre des mesures de sécurité si vous ne souhaitez pas pâtir des deepfakes.

Partager des images publiquement : une mauvaise idée ?

Partager des images en ligne n’a rien de catastrophique. Mais, si vous prenez beaucoup de photos de vous et que vous les publiez en ligne, vous pouvez devenir une cible de choix pour les cybercriminels qui exploitent la technologie deepfake.

Dans les paramètres de la plupart des plateformes de réseaux sociaux, vous pouvez choisir de rendre votre compte privé. Encouragez les membres de votre famille et vos proches à faire de même. Gardez à l’esprit que les vidéos deepfake les plus réalistes ne peuvent être créées qu’à l’aide d’un vaste jeu d’images de quelqu’un. Si vous pouvez au moins limiter les images que vous rendez accessibles en ligne, vous êtes moins susceptible d’être victime d’un cybercrime impliquant l’utilisation de deepfakes.

Renforcer la sécurité de votre appareil

Outre faire attention aux images que vous publiez, vous pouvez également vérifier que vos appareils sont sécurisés, afin que vos données (y compris vos images et vidéos) ne soient jamais touchées par une fuite de données. Pour ce faire, veillez à utiliser un VPN (réseau privé virtuel) pour rester anonyme en ligne en modifiant votre IP. Un logiciel anti-programmes malveillants peut également vous aider, en particulier sur les appareils mobiles.

Contacter les autorités

Enfin, si vous êtes victime d’un cybercrime impliquant des deepfakes, signalez le média concerné à la plateforme de réseau social sur laquelle elle a été partagée. Vous pouvez également contacter les autorités locales et déposer une plainte officielle. Si vous apparaissez dans le deepfake, cela peut être considéré comme de la diffamation, vous pouvez donc contacter un avocat afin d’étudier vos possibilités juridiques.

Le futur des deepfakes

Bien qu’ils puissent être utilisés à des fins de divertissement, les deepfakes sont également exploités par les cybercriminels pour causer des préjudices importants. Les personnes connues sont les cibles les plus faciles pour en créer, en particulier pour diffuser de fausses informations, mais les dangers de cette technologie peuvent affecter n’importe qui. Le plus important en matière de sécurité en ligne et de navigation sur internet est de conserver un œil critique sur tout ce que vous voyez en ligne. Maintenant que vous en savez plus sur les deepfakes, vous y réfléchirez peut-être à deux fois lorsque vous verrez une vidéo d’un représentant du gouvernement tenir des propos scandaleux.

Si vous souhaitez en apprendre plus sur les mesures à prendre pour vous protéger contre la cybercriminalité, vous pouvez également consulter nos articles sur les fraudes sur WhatsApp et le revenge porn.

Qu’est-ce qu’un deepfake ? – FAQ

Les deepfakes deviennent de plus en plus accessibles et faciles à diffuser. Vous avez une question sur cette nouvelle façon de créer des « médias factices » ? Consultez cette section FAQ pour lire nos réponses aux questions les plus fréquemment posées sur le sujet.

Un deepfake vidéo est un média créé à l’aide de la technologie du même nom et qui intègre des éléments audios et vidéos. Cette technologie exploite l’IA et des algorithmes d’apprentissage machine pour modifier des vidéos existantes et y ajouter de nouveaux visages ou voix au fichier original. Les deepfakes vidéos les plus populaires mettent en scène des célébrités tenant des propos scandaleux ou dans des situations grotesques. Vous pouvez en apprendre davantage dans notre article sur les deepfakes.

Nous déconseillons fortement d’utiliser les deepfakes à des fins scélérates. La création d’un deepfake vidéo et sa diffusion peuvent être considérées comme de la diffamation, voire de l’extorsion en cas de contact avec la personne figurant dans la vidéo.

Cela étant dit, si vous souhaitez simplement vous amuser entre amis, par exemple en ajoutant votre visage dans un clip musical, vous pouvez utiliser des applications. Deepfakes Web vous permet de le faire, mais il n’est pas gratuit. La création d’une vidéo de ce type peut coûter entre 5 $ et 75 $, selon la durée de celle-ci. Wombo et DeepFaceLab sont d’autres options disponibles.

Il est difficile d’identifier le premier deepfake vidéo. Tout simplement parce que les deepfakes ne sont pas apparus d’un seul coup, il est donc compliqué de tracer une ligne claire entre la modification manuelle d’une vidéo et une modification reposant sur l’IA. En réalité, ces deux formes de manipulation de médias ont commencé à se mélanger, jusqu’à ce que la manipulation de vidéo par IA devienne, pour ainsi dire, « autonome ».

Le terme « deepfake » a quant à lui une origine précise. Il a d’abord été utilisé par un utilisateur Reddit du même nom en 2017, nous pouvons donc supposer que les « premiers » deepfakes ne sont guère plus anciens.

International security coordinator
Marko has a Bachelor's degree in Computer and Information Sciences. He coordinates and manages VPNOverview.com's team of international VPN researchers and writers.
Soumettre un commentaire
Soumettre un commentaire