Qu’est-ce qu’un deepfake et comment les reconnaître?

Un deepfake est une photo, une vidéo ou un fichier audio manipulé numériquement dans lequel l'intelligence artificielle (IA) est utilisée pour remplacer (en partie) une personne par quelqu'un d'autre. Le terme « deepfake » combine l'apprentissage profond (une forme d'IA) et le terme « fake ».

Cette technologie utilise des images ou des voix existantes pour faire dire ou faire faire à quelqu'un quelque chose qui ne s'est jamais réellement produit. Pensez, par exemple, à un acteur célèbre apparaissant dans un film sans y avoir réellement participé, ou à un homme politique prononçant un discours qui n'a jamais été prononcé.

Comment fonctionne un deepfake?

Les deepfakes sont créés à l'aide de réseaux neuronaux, un type de modèle d'apprentissage automatique capable de reconnaître et de reproduire des modèles dans de vastes ensembles de données. Le processus comporte deux étapes principales:

• L’entrainement du modèle d’IA
  Un algorithme est alimenté par des centaines, voire des milliers d'images et de vidéos d'une personne. Le modèle apprend ainsi à reconnaître les traits du visage, les intonations de la voix et les mouvements. On trouve souvent en ligne de nombreuses images de personnes célèbres, qui constituent donc une victime facile pour les « deepfakes ».
• Générer le deepfake
  Grâce aux connaissances acquises au cours de la période d'apprentissage, le logiciel remplace le visage ou la voix d'une personne par celui d'une autre. Il crée ainsi des vidéos ou des enregistrements audio très réalistes.

La technique la plus couramment utilisée pour les deepfakes est le Generative Adversarial Network (GAN). Ce système se compose de deux modèles d'IA: l'un qui crée les images et l'autre qui tente de déterminer si elles sont vraies ou fausses. Le premier modèle effectue ensuite des ajustements en fonction des commentaires du second, jusqu'à ce que le résultat soit hyperréaliste!

Vous voulez de l’inspiration pour utiliser vous-même les IA? Découvrez quelques idées ici.

Comment reconnaître un deepfake?

Les deepfakes peuvent donc être très bien faits, jusqu’à devenir indétectables. Il est donc important de toujours faire preuve d'un esprit critique à l'égard des images et des clips audios partagés en ligne. Cela dit, certains signes permettent de les démasquer:

• Éléments visuels
  • Contours flous autour du visage ou des cheveux
  • Mouvements oculaires ou clignements artificiels
  • Mauvaise synchronisation labiale (la bouche ne correspond pas à ce qui est dit)
  • Lumières et ombres incohérentes
• Audio et voix
  • Voix monotone ou légèrement robotique
  • Pauses non naturelles ou intonations étranges
  • La voix ressemble à celle de quelqu’un, mais semble « pas tout à fait juste »
• Contenu et contexte
  • Déclarations inhabituelles ou extrêmes qui ne correspondent pas à la personne
  • Demandes pressantes d’argent, de codes ou d’informations personnelles
  • Demandes de garder « cela secret et urgent »
• Vérifier la source
  Un point non négligeable: la vidéo provient-elle d'une source fiable? Si une vidéo devient virale sans que son origine soit claire, il peut s'agir d'un « deepfake ».
• Utiliser des outils
  Il existe des plateformes en ligne qui détectent les deepfakes, comme Deepware ScannerNouvelle fenêtre.

Si vous hésitez face à ce genre de contenu, c’est que vous êtes déjà dans le bon!

Pourquoi les deepfakes sont-ils inquiétants?

Les deepfakes sont des exemples impressionnants de ce que l'IA est capable de réaliser, mais l'IA comporte également des risques. Les criminels utilisent de plus en plus souvent les deepfakes dans le cadre de fraudes en ligne, par exemple en combinaison avec des e-mails de phishing, de faux appels téléphoniques ou de faux messages sur les réseaux sociaux. Ils exploitent notamment de manière délibérée les émotions (panique, confiance, urgence).

Alors que les deepfakes étaient autrefois surtout une expérience, ils sont aujourd'hui accessibles à un large public grâce aux outils et applications d'IA. On les rencontre donc de plus en plus souvent dans le cadre d'escroqueries et d'hameçonnage. Pensez par exemple à une fausse vidéo d'un PDG demandant soi-disant un paiement urgent, ou à une voix imitée d'un proche en détresse. Cela rend les deepfakes non seulement impressionnants, mais aussi dangereux.

Comment se protéger des deepfakes?

Sensibilisez-vous et votre entourage aux risques liés aux deepfakes. Plus les gens sauront reconnaître les deepfakes, moins ceux-ci auront d'impact. Si l'on vous demande, par le biais d'une vidéo ou d'un message audio, de télécharger quelque chose, d'effectuer un virement bancaire ou de partager des données personnelles, cela doit immédiatement vous mettre la puce à l'oreille! C'est en effet ainsi que les pirates informatiques tentent de vous piéger.

Vous ne pouvez pas toujours éviter d'être confronté à des deepfakes, mais vous pouvez réduire le risque d'en être victime. Voici déjà quelques conseils pratiques:

• Vérifiez toujours: recoupez les informations via un deuxième canal (passez un coup de fil, consultez les actualités, demandez confirmation).
• Ne vous fiez pas aveuglément à l'image ou à la voix: aujourd'hui, même les vidéos peuvent être fausses.
• Soyez particulièrement vigilant en cas d'urgence: les escrocs exercent souvent une pression pour vous pousser à agir rapidement.
• Utilisez la technologie à votre avantage: des solutions de sécurité telles que Secure Net ou Norton aident à bloquer le phishing, les liens suspects et les sites web malveillants avant même que vous ne tombiez dans le piège.

Les deepfakes montrent à quel point l'IA est puissante, mais aussi à quel point la vigilance numérique devient importante. En regardant, en écoutant et en vérifiant de manière critique, vous vous protégez contre la tromperie. Combinez cela avec une sécurité intelligente et une bonne dose de scepticisme, et vous serez bien mieux armé en ligne.