Deepfake, l’ascension en profondeur

Cette technologie, bien que récente, n’est pas à son premier coup d’essai. Dernièrement, la Reine d’Angleterre a mis en garde contre les mauvaises utilisations des deepfakes dans un clip vidéo. 

Présentation certifiée no fake 

Apparu en 2016, mais connu du grand public depuis 2019, le deepfake grâce à l’intelligence artificielle permet de créer une fausse (fake vous suivez) vidéo. A l’aide de deep learning et d’algorithmes, on peut permuter des visages sur des vidéos. A ce sujet vous pouvez consulter les autres articles du blog

L’usage à l’origine était destiné pour le divertissement, notamment dans le cinéma, et ce avec plus ou moins de réussite. Par exemple dans Star Wars, où des acteurs ont été ressuscités grâce à cette technologie (Carrie Fisher dans le rôle de la Princesse Leia). Une technique similaire permet de rajeunir les acteurs, aussi utilisée dans Star Wars ou dans the Irishman avec Robert de Niro (cela n’a pas rajeuni ses mouvements ni la durée du film malheureusement). Une fois n’est pas coutume, la technique s’est retrouvée dans le domaine public et fut vite détournée vers une utilisation plus lucrative et néfaste. Pour autant, est-ce si facile d’en réaliser ?

Comment puis-je réaliser un deepfake ? 

Deux méthodes : le cloud computing ou son propre ordinateur. Le premier est la solution de facilité puisqu’on n’utilise pas ses propres outils. Un ordinateur performant est mis à notre disposition grâce au cloud.  Le second, quant à lui, exige un investissement dans son propre matériel à hauteur de la performance qu’on veut réaliser. Évidemment des logiciels en open source ou payants ont émergé pour réaliser soi-même quelques vidéos.

Cependant, la Chine a réussi à démocratiser la technique sans baisser la qualité grâce à une application ZAO (uniquement disponible en Chine et pays limitrophes). Cette dernière reste simple d’utilisation et uniquement ludique. L’équivalent européen semble être FaceApp, mais pour l’instant l’application reste moins bluffante et performante que son opposée chinoise. Passé l’amusement de certaines vidéos, le détournement a été rapide et violent depuis 2019 avec un objectif précis en tête. 

L’objectif : générer toujours plus de trafic 

Les dérives de Deepfakes à visées politiques sont apparues depuis quelques années. Le but, afin de rendre le procédé utile, est de générer du trafic sur les sites internet ou les réseaux. La création de deepfake demande du temps et des outils performants pour qu’elle soit réaliste. Il faut donc rendre la vidéo rentable en termes de vues et de partages sur les plateformes de diffusion, touchant ainsi un maximum d’audience. La fameuse (fausse) vidéo de Barack Obama insultant Donald Trump avait ainsi récolté 8 millions de vues. Les « fake news » ont de beaux jours devant elles, car le réalisme des deepfake et leur diffusion ne cessent d’augmenter. 

Néanmoins, la principale utilisation des deepfakes reste ailleurs. Une toute autre utilisation a émergé, qui a pu décevoir les fervents admirateurs de la bonté humaine mais qui n’a surpris personne : la pornographie.

Deepfake et pornographie

Selon une des (seules ?) règles coutumières d’internet, la numéro 34 : « si cela existe, alors il existe une version pornographique ». Les deepfakes ne font pas exception. En effet, près de 90% des deepfakes sont des vidéos pornographiques. De nombreuses actrices ont ainsi vu leur visage utilisé sur des sites pornographiques. Elles ont porté plainte et les vidéos en question ont été retirées des plateformes. Le problème n’est évidemment pas résolu parce qu’internet n’oublie pas et ne cesse jamais de créer. Ce qui rend l’effacement et la diffusion de ces vidéos ardus. Néanmoins cela a été qualifié en délit aux États-Unis, donnant ainsi une arme aux victimes. Ce qui nous pose la question de la régulation des DeepFakes tant le phénomène ne cesse de monter en puissance. 

Une absence de solution excepté notre esprit critique

Les deepfakes entrent dans le champ de l’article 226-8 du Code Pénal où il y a la notion de montage et de consentement. Le montage doit être évident ou mentionné. Pas de débat sur la création d’un nouvel article ou d’adaptation de loi à internet. L’énoncé est clair et les deepfakes s’y imbriquent parfaitement. Le deepfake est alors puni d’une sanction pouvant aller à un an d’emprisonnement et 15 000 euros d’amende. On peut également retrouver la diffamation publique comme moyen de répression. Cependant, ce ne sont pas des solutions et il faut agir de manière préventive. 

On peut envisager un algorithme qui détecte des modifications de vidéo ou un retraitement avant diffusion pour croiser les données. Le seul obstacle à la propagation des deepfakes reste notre capacité à vérifier et croiser les sources

Pour l’instant les deepfakes, et de manière générale l’intelligence artificielle, sont limités par leurs états actuels, mais on pourra bientôt créer une vidéo de toute pièce. Un article du New York Time édifiant montre qu’une IA a créé des portraits de visage qui ne présentent aucun défaut évident. Avant de créer des robots, on aura des interlocuteurs artificiels sur internet, mais pour combien de temps seront-ils faux avant de prendre vie ? 

Tanguy SCHNEIDER 

Master 2 CYBERJUSTICE – Promotion 2020/ 2021

Sources : 

Deepfake : tout savoir sur la nouvelle menace liée à l’IA (lebigdata.fr)

Deepfake : définition et dangers de ce type de fake-news (jepense.org)

Do These A.I.-Created Fake People Look Real to You? – The New York Times (nytimes.com)

L’utilisation du deepfake dans le porno est de plus en plus sinistre (siecledigital.fr)

(2) Zao, l’inquiétante application chinoise qui change les visages – YouTube

(2) ‘The Irishman’: Robert De Niro Digitally De-Aged Shows How Far Tech Has Come | Mach | NBC News – YouTube

FaceApp – Éditeur de visage, relookage et beauté – Applications sur Google Play

Comment vérifier une image ou une vidéo qui circule sur les réseaux sociaux ? (lemonde.fr)

Laisser un commentaire