La série dystopique à succès « Black Mirror » est de retour avec sa sixième saison, plongeant une fois de plus les téléspectateurs dans un monde où la technologie prend le pas sur l’humanité. L’épisode d’ouverture de la saison 6 aborde des questions liées aux défis juridiques entourant l’intelligence artificielle générative, le consentement éclairé et le droit à l’image.
La pratique de collecte de données
Joan, une femme occupant le poste de directrice d’une société de médias, découvre que sa vie est representée dans une émission de télevision sur son service de streaming preferée Streamberry (équivalent de Netflix). Dans cette émission, Joan est interprétée par l’actrice Salma Hayek, mais le portrait dressé la représente comme impitoyable et sans cœur, bouleversant ainsi ses relations personnelles et son travail dans la réalité.
Joan décide de consulter un avocat afin de recevoir des conseils juridiques pour contester cette représentation grotesque de sa vie. Son objectif est de poursuivre Streamberry pour ces atteintes à son intégrité. Cependant, son avocat lui explique que, en acceptant les conditions d’utilisation de Streamberry, Joan a consenti à ce que sa vie et son image soient utilisées à des fins lucratives par la plateforme. Streamberry collecte des informations sur sa vie quotidienne en utilisant son téléphone, son ordinateur portable et d’autres appareils qui sont constamment à l’écoute de ses conversations.
L’avocat de Joan lui explique par la suite qu’elle ne peut pas poursuivre Salma Hayek pour diffamation, car l’actrice ne joue pas réellement son propre rôle. En effet, Salma Hayek a accordé une licence à Streamberry pour utiliser son image à sa discrétion.
La notion de consentement éclairé
L’histoire se déroule aux États-Unis, où les exigences en matière de collecte de consentement ne sont pas très contraignantes. La complexité trompeuse des formulaires de consentement en ligne à toujours été un défi dans le système juridique américain.
Si l’histoire se déroulait en France
- Le droit à la vie privée, énoncé à l’article 9 du Code civil serait violé ;
- Streamberry procède à un traitement de données personnelles selon le Règlement Général sur la Protection des Données (RGPD) et devrait donc recueillir un consentement libre, spécifique, univoque et éclairé (art. 7) ;
- Concernant l’adaptation de la vie réelle d’une personne sous forme de film, un arrêt du Tribunal de Grande Instance (TGI) Paris de 2010 affirme que les producteurs d’une oeuvre audiovisuelle peuvent utiliser les faits rendus préalablement public par la personne concernée et qu’ils n’étaient pas obtenus de manière frauduleuse ;
- L’acceptation par Joan des conditions générales de vente (CGV) de la plateforme Streamberry ne leur donne pas le droit à effectuer une adaptation de sa vie. Cette adaptation serait possible dans le cas de l’obtention d’une autorisation spéciale, explicite et non équivoque de la personne concernée.
Les deepfakes
Les événements de la vie de Joan se déroulent à la télévision presque simultanément à sa vie réelle. Son avocat lui explique que l’émission est entièrement générée par une intelligence artificielle avec un deepfake de Salma Hayek, et non l’actrice réelle. Un deepfake est une technique de synthèse utilisant l’intelligence artificielle permettant notamment de superposer des enregistrements vidéo ou audio d’une personne sur une autre.
Afin de produire des deepfake aussi réalistes, la plateforme Streamberry à accès aux détails intimes de la vie de Joan. Ils accèdent à ces détails intimes en collectant des données provenant de son téléphone et de l’IoT (Internet of Things), c’est-à-dire des objets du quotidien connectés à Internet et pouvant communiquer entre eux et avec d’autres systèmes, permettant ainsi d’échanger des données et d’effectuer des actions à distance. Ces deepfakes présentent de réels dangers en raison de la désinformation qu’ils peuvent générer.
Joan représente ainsi l’exemple d’une femme qui ne possède pas de contrôle sur la façon dont une puissante entreprise technologique utilise ses données personnelles.
En France, les deepfakes sont encadrés par l’article 226-8 du code pénal, qui punit la publication d’un montage utilisant les paroles ou l’image d’une personne sans son consentement, sauf si cela apparaît clairement comme un montage ou s’il est expressément mentionné comme tel.
Cet épisode met l’accent sur l’importance de la réglementation juridique concernant la technologie des deepfakes, qui a connu une augmentation significative ces derniers temps. Cela illustre les conséquences potentielles auxquelles les individus pourront faire face si les aspects éthiques et juridiques ne sont pas pris en compte lors de l’utilisation de la technologie des deepfakes.
La régulation de l’intelligence artificielle (IA)
Les protagonistes cherchent des moyens de tenir Streamberry responsable de sa collecte irresponsable de données, malgré l’absence de solutions légales. L’entreprise utilise un ordinateur quantique complexe pour produire un contenu très accessible et améliorer l’engagement des utilisateurs.
Afin d’éviter que des scénarios à la Black Mirror deviennent une réalité, la réglementation de l’IA doit aller au-delà des étiquetages explicites et des avertissements inefficaces. Elle doit également établir des lignes directrices strictes pour garantir une utilisation éthique des outils d’IA. Cet épisode de Black Mirror met en évidence l’importance de la confidentialité et de la protection des données personnelles, sensibilisant les téléspectateurs aux risques et aux responsabilités liés à la collecte et à la diffusion de leurs données.
Natalie CHIOTIS
M2 Cyberjustice – Promotion 2022/2023
Sources :
