L’algorithme créant les deepfakes, bien que l’objectif initial n’était que pour servir le divertissement (cinéma, jeux vidéo), ou encore les nouvelles technologies comme les assistants vocaux, pose un réel souci d’éthique
Doit-on s’inquiéter de l’utilisation du « Deepfake » ?
On imagine aisément une augmentation de son utilisation à des fins malveillantes. La société Lyrebird, qui synthétise des voix, a d’ailleurs créé une page d’éthique sur son site internet afin de prévenir et sensibiliser aux deepfakes.
La crainte prédominante est celle qu’on ne puisse plus faire confiance aux images et donc à tout contenu sur Internet. Cet algorithme serait alors une méthode de désinformation massive par le moyen des nouvelles technologies. Elle toucherait notamment la sphère politique et en particulier, pendant les élections afin d’impacter l’opinion publique. Dans leur rapport, le Centre d’Analyse, de Prévision et de Stratégie du ministère de l’Europe et des Affaires étrangères (CAPS) et de l’Institut de recherche stratégique de l’École militaire du ministère des Armées (IRSEM) parlent d’une « atomisation extrême de l’information, avec la disparition ou la fragilisation des acteurs pouvant servir de tiers de confiance ».
La banalisation de l’hypertrucage est aussi à envisager. Alors qu’il touche plus généralement les personnes publiques, sa démocratisation peut mener à son utilisation contre des personnes privées à des fins de cyber harcèlement ou de vengeance. En effet, le deepfake étant majoritairement employé pour des vidéos pornographiques, ce que l’on appelle le « revenge porn» est un réel danger.
En dehors de ces risques, les deepfakes peuvent faciliter les actions des cybercriminels notamment en matière d’escroquerie ou d’arnaque au président. En effet, se faire passer pour une personne connue de son interlocuteur grâce à la synthétisation de sa voix ou de son visage en temps réel pourrait faciliter les procédés frauduleux en jouant sur la confiance de la victime.
Comment s’en protéger et les déceler ?
Au niveau international, certains pays attaquent de front le phénomène des Deepfakes. Récemment, la Chine a déclaré vouloir adopter une loi rendant illégale les fausses informations créées à l’aide d’une intelligence artificielle.
En France, une législation propre au phénomène du deepfake n’est pas encore envisagée. Néanmoins, le terme de « deepfakes » intéresse car il revient dans deux rapports, l’un sur « l’école dans la société numérique » appuyant sur la nécessité d’une formation toujours plus poussée pour déceler ces techniques ; et l’autre, pour « la lutte contre la manipulation de l’information » informant du risque des deepfakes impactant les médias.
En outre, la loi n° 2018-1202 du 22 décembre 2018 relative à la lutte contre la manipulation de l’information propose une première réponse aux deepfakes à travers les mesures prises contre la diffusion des fausses informations. Autrement, il est possible de se protéger de cet usage néfaste grâce à la législation déjà en vigueur comme le droit à l’image, le droit d’auteur, le droit à la vie privée ou des délits tels que le harcèlement, la diffamation ou encore le « revenge porn ».
Du côté des outils pour les déceler, il est assez simple de remarquer le trucage, tant qu’il reste imparfait, sur les vidéos amatrices. Néanmoins, Facebook a annoncé un concours de détection, le « Deepfake Detection Challenge », réalisé en partenariat avec d’autres grandes organisations comme Microsoft, qui consiste à produire une technologie accessible à tous dont la fonction est de détecter l’utilisation de l’intelligence artificielle pour modifier des images ou des vidéos
En attendant une réelle solution à la détection des Deepfakes, les utilisateurs doivent rester vigilants quant aux informations recelées sur internet, et vérifier la véracité des sources avant de les diffuser à leur tour.
Alexandra Delire
M2 Cyberjustice- Promotion 2019-2020
Sources :
Rapport conjoint CAPS/IRSEM – Les manipulations de l’information : Un défi pour nos démocraties (04.09.18)
http://questions.assemblee-nationale.fr/q15/15-16587QE.htm
http://www.assemblee-nationale.fr/15/rap-info/i1296.asp
