Alors que l’intelligence artificielle est en pleine avancée, le risque de détournement et de mauvaise utilisation de cette dernière s’accroît également. Un phénomène est très représentatif de cette dérive : les deepfakes.

Comment fonctionne le deepfake ?

Le deepfake ou l’hypertrucage est une technique qui consiste, par l’utilisation d’une intelligence artificielle, à permuter des visages grâce à un fichier vidéo ou image. Les méthodes de création sont plurielles : 

  • Le face-swapping : utilisation d’un auto-encodeur pour analyser puis extraire les informations concernant ce que fait la personne d’une vidéo afin de reconstruire l’image. 
  • Les Generative Adversarial Network ou Réseau antagoniste génératif (GAN) : un premier algorithme (le générateur) génère des données alors qu’un second (le discriminateur) vérifie le réalisme de celles-ci par rapport aux données originales.

Cette technologie de deep learning est utilisée avant tout pour le secteur du divertissement. Dans le secteur cinématographique, des méthodes similaires ont souvent été utilisées afin d’intégrer des personnes décédées dans un film mais l’IA permettrait de remplacer des acteurs même après la finalisation d’un film. Un exemple parlant est celui d’un extrait du film « Shining » de Stephen King dont le visage de Jack Nicholson a été remplacé par celui de Jim Carey.

Malheureusement, cette intelligence artificielle est connue à cause de son utilisation afin de transposer des visages de personnes publiques dans des vidéos pornographiques. Une autre illustration de cette technique est la vidéo virale de Barack Obama insultant Donald Trump en 2016 qui a été vue plus de 6,9 millions de fois alors qu’il s’agissait en réalité du cinéaste Jordan Peel, le visage de Barack Obama ayant été transposé sur le sien.

Quels outils ?

La pratique de ce procédé est très simple car l’accès à des outils pour les réaliser est gratuit et grand public. Toute personne disposant d’un ordinateur pourrait manipuler les images et créer des deepfakes. Certaines techniques restent accessibles qu’aux plus initiés mais il existe des applications comme FakeApp qui permet de modifier des vidéos à partir de nombreuses photographies utilisable par tous. Plus récemment, une application chinoise nommée ZAO et accessible aux particuliers permettrait de remplacer le visage de célébrités par le sien.

Pour gagner en réalisme et convaincre davantage, des logiciels sont capables de reproduire la voix de la personne concernée ce que permet la start-up canadienne Lyrebird par exemple. Bien que cette technologie ne soit pas tout à fait parfaite et qu’elle ne trompera pas les plus aguerris, elle est capable de reproduire les intonations de voix à partir d’une seule minute d’enregistrement.

Aujourd’hui, l’émergence des deepfakes sur la toile est considérable. CNN a relayé une étude d’octobre 2019 menée par Deeptrace qui estime une augmentation de 84% en un an. Ainsi, il est évident que l’utilisation fallacieuse de cette technologie ne cessera d’accroître si elle n’est pas encadrée.

Alexandra Delire
M2 Cyberjustice – Promotion 2019-2020

Sources

https://edition.cnn.com/2019/10/07/tech/deepfake-videos-increase/index.html

https://deeptracelabs.com/mapping-the-deepfake-landscape/

Exemple d’une fausse conversation entre politiciens :
https://soundcloud.com/user-535691776/dialog

A propos de