Qu’est-ce qu’un deepfake et comment les reconnaître?

Un deepfake est une photo, une vidéo ou un fichier audio manipulé numériquement dans lequel l'intelligence artificielle (IA) est utilisée pour remplacer (en partie) une personne par quelqu'un d'autre. Le terme « deepfake » combine l'apprentissage profond (une forme d'IA) et le terme « fake ».

Des exemples de deepfakes sont des vidéos dans lesquelles une personne dit ou fait des choses qui ne se sont jamais produites. Pensez, par exemple, à un acteur célèbre apparaissant dans un film sans y avoir réellement participé, ou à un homme politique prononçant un discours qui n'a jamais été prononcé.

Comment fonctionne un deepfake?

Les deepfakes sont créés à l'aide de réseaux neuronaux, un type de modèle d'apprentissage automatique capable de reconnaître et de reproduire des modèles dans de vastes ensembles de données. Le processus comporte deux étapes principales:

• L’entrainement du modèle d’IA
  Un algorithme est alimenté par des centaines, voire des milliers d'images et de vidéos d'une personne. Le modèle apprend ainsi à reconnaître les traits du visage, les intonations de la voix et les mouvements. On trouve souvent en ligne de nombreuses images de personnes célèbres, qui constituent donc une victime facile pour les « deepfakes ».
• Générer le deepfake
  Grâce aux connaissances acquises au cours de la période d'apprentissage, le logiciel remplace le visage ou la voix d'une personne par celui d'une autre. Il crée ainsi des vidéos ou des enregistrements audio très réalistes.

La technique la plus couramment utilisée pour les deepfakes est le Generative Adversarial Network (GAN). Ce système se compose de deux modèles d'IA: l'un qui crée les images et l'autre qui tente de déterminer si elles sont vraies ou fausses. Le premier modèle effectue ensuite des ajustements en fonction des commentaires du second, jusqu'à ce que le résultat soit hyperréaliste!

Vous voulez de l’inspiration pour utiliser vous-même les IA? Découvrez quelques idées ici.

Comment reconnaître un deepfake?

Les deepfakes peuvent donc être très bien faits, jusqu’à devenir indétectables. Il est donc important de toujours faire preuve d'un esprit critique à l'égard des images et des clips audios partagés en ligne. Cela dit, certains signes permettent de les démasquer:

• Mouvements non naturels
  Les « deepfakes » ont parfois du mal à imiter avec précision les petits détails, comme les clignements des yeux ou les expressions faciales subtiles. Des yeux qui clignent trop ou trop peu peuvent donc constituer un indice.
• Bords imprécis
  Surveillez également les distorsions autour du visage, telles que des lignes floues, des ombres non naturelles ou une transition non naturelle entre le visage et l'arrière-plan.
• Son déformé
  Dans les deepfakes audio, la hauteur peut varier de manière étrange ou les phrases peuvent sembler peu naturelles. Par exemple, une voix qui s'arrête soudainement ou qui fait une pause illogique.
• Vérifier la source
  Un point non négligeable: la vidéo provient-elle d'une source fiable? Si une vidéo devient virale sans que son origine soit claire, il peut s'agir d'un « deepfake ».
• Utiliser des outils
  Il existe des plateformes en ligne qui détectent les deepfakes, comme Deepware ScannerNouvelle fenêtre.

Pourquoi les deepfakes sont-ils inquiétants?

Les « deepfakes » sont des exemples impressionnants de ce que l'IA peut accomplir, mais l'IA comporte également des risques. Ils sont utilisés à diverses fins, comme la satire ou le divertissement, mais peuvent aussi avoir des conséquences néfastes. Voici quelques exemples:

• Propagande
  De fausses vidéos de politiciens peuvent influencer l'opinion publique.
• Fraude
  Les criminels utilisent les deepfake audio pour se faire passer pour une personne que vous connaissez afin de vous soutirer de l'argent.
• Calomnie et diffamation
  Les deepfakes peuvent nuire à l'image d'une personne, par exemple en manipulant des vidéos compromettantes.

Que faire pour lutter contre les deepfakes?

Informez-vous et informez votre entourage sur les risques des « deepfakes ». Plus les gens sauront reconnaître les deepfakes, moins ils auront d'impact. Si l'on vous demande, par le biais d'une vidéo ou d'un message audio, de télécharger quelque chose, de transférer de l'argent ou de partager des données personnelles, vous devriez tirer la sonnette d'alarme! Après tout, c'est ainsi que les pirates informatiques essaient de vous piéger.