Les assistants vocaux intelligents : une immixtion dans la vie privée ? ( 2/2 )

Les failles de sécurité se multiplient et accroissent le niveau d’inquiétude des utilisateurs concernant leurs données personnelles.

Selon le laboratoire d’innovation numérique de la CNIL les fabricants de ces objets doivent protéger leurs systèmes notamment au regard du Règlement Général sur la Protection des Données Personnelles (RGPD). Ce règlement est entré en application le 25 mai 2018 et est le texte de référence en matière de protection des données personnelles. Celui-ci permet un renforcement des pouvoirs de sanction de la CNIL qui est une autorité chargée de réguler l’utilisation des données personnelles.  Elle aide les particuliers à maîtriser leurs données personnelles et exercer leurs droits, c’est pourquoi elle donne souvent son avis sur tout ce qui relève de la protection des données personnelles.

Quel est le champ d’application de ce règlement concernant les données utilisées par ces assistants vocaux ?

Les informations collectées dans le Cloud sont des données personnelles car elles permettent d’identifier directement ou indirectement une personne physique, elles sont protégées par le RGPD. Les utilisateurs ne sont pas ou très peu informés de l’utilisation de leurs données, ce qui est contraire aux principes de transparence et de loyauté vis-à-vis de leur clientèle énoncé à l’article 5 du RGPD. En effet, ils ne savent pas que l’historique des requêtes transcrites est remis à l’éditeur afin de pouvoir le consulter et d’adapter les fonctionnalités du service et qu’il est également envoyé à des sous-traitants afin de déterminer s’il y a des problèmes techniques dans le système.

De surcroît, nombre de ces données sont sensibles car elles se rapportent à l’origine raciale ou ethnique, aux opinions politiques, aux convictions religieuses, à l’appartenance syndicale, aux données de santé ou à celles concernant la vie sexuelle ou l’orientation sexuelle d’une personne. Selon l’article 9 du RGPD, le traitement de ce type de données nécessite un consentement explicite de l’utilisateur.  En l’occurrence, aucune procédure n’a été mis en place afin de recueillir celui-ci. C’est donc un haut risque pour la vie privée des utilisateurs ainsi que pour leur entourage qui n’ont pas consenti à avoir leur voix enregistrée.

On peut se poser la question de la nécessité d’enregistrement de ces données au regard de la protection de la vie privée. En effet, les finalités du traitement doivent répondre à trois exigences au regard de l’article 5 du RGPD, elles doivent être déterminées, explicites et légitimes, si une entreprise utilise ces données pour une finalité autre que celles spécifiées dans les conditions d’utilisation alors elle verra sa responsabilité engagée pour détournement de finalité.

D’éventuelles solutions quant à la conformité à ce règlement ?

Cette conformité doit tout d’abord passer par les exigences du principe de « privacy by design » introduites dans le RGPD à l’article 25 qui implique la protection des données dès la conception du projet lié au traitement des données d’une entreprise, ce qui permettrait de minimiser les risques du non-respect du traitement.

Une analyse de risques plus accrue devrait être effectuée en matière de cybersécurité car il paraît alarmant que ces objets connectés qui traitent de données sensibles et s’immiscent dans la vie privée des utilisateurs fassent l’objet de plusieurs polémiques concernant des failles de sécurité.

  Que pense la CNIL à propos de cette problématique de vie privée ?

 La CNIL a publié un avis le 20 décembre 2018 concernant les « Enceintes intelligentes : des assistants vocaux connectés à votre vie privée » dans lequel elle explique ce que sont ces enceintes et comment elles fonctionnent. La CNIL dénonce les risques pour la vie privée et préconise une vigilance certaine face à ces objets. Elle demande notamment de les éteindre lorsqu’ils ne sont pas utilisés, d’être vigilant sur le fait que les propos peuvent alimenter le profil publicitaire ou encore de supprimer régulièrement l’historique sur le tableau de bord. Néanmoins, les réserves de la CNIL ne permettent donc pas de s’assurer de manière claire et précise que les assistants vocaux préservent notre vie privée, contrairement à ce que prétendent les commerçants de ces produits. Même si des sanctions sont prévues pour le non-respect des principes posés par le RGPD, celles-ci ne sont pas suffisantes et les utilisateurs doivent être vigilants et attentif face à ce type de produit intrusif dans la vie privée.

Cependant une difficulté d’ordre marketing qui ne relève pas des textes mais plutôt de la vulnérabilité émotionnelle de l’être humain est apparue.

Des dangers émotionnels ?

L’objectif de ces objets est de séduire un public de plus en plus large.  Or, parfois cette séduction devient réelle dans le premier sens du terme, c’est ce qu’illustre le film «  Her » de Spike Jonze. Dans ce drame, le personnage principal tombe amoureux du système d’exploitation de son ordinateur. Il est alors légitime de se poser des questions quant à la relation homme-machine ainsi que son éventuelle évolution. On peut se demander si de l’attachement sentimental avec un assistant vocal pourrait se créer.

Les assistants vocaux sont dotés de répartie et peuvent prendre part à un dialogue à part entière. En effet, lorsqu’on demande à Google mini « Comment je m’appelle ? » elle répond « oui, Chouchou ».  Par conséquent, le fait de l’utiliser quotidiennement et de s’accommoder à sa voix, son humour ou son sens de la répartie pourrait créer chez l’être humain un éventuel attachement à cet appareil intelligent..

Aucune étude en ce sens n’a encore été menée et peut-être que l’avancée technologique actuelle de ces assistants vocaux ne permet pas encore d’en arriver à cela. Cependant pour le psychiatre Serge Tisseron, membre de l’Académie des technologies et co-fondateur de l’Institut pour l’étude des relations homme-robots, « l’émergence d’attachements excessifs voire pathologiques aux robots paraît inévitable ».

Cécile Piéplu
M2 Cyberjustice- Promotion 2019-2020

Sources :
https://linc.cnil.fr/fr/quand-les-assistants-vocaux-entendent-des-voix

https://www.cnil.fr/fr/enceintes-intelligentes-des-assistants-vocaux-connectes-votre-vie-privee

One Reply to “Les assistants vocaux intelligents : une immixtion dans la vie privée ? ( 2/2 )”

  1. Cette évolution n’est elle pas un risque de régression pour nous en nous facilitant la vie et brisant notre autonomie ? On a accès à tout mais ce système nous analyse et enregistre des données qui nous sont propres, on ne se rend pas toujours compte de cela……on manque de recul et alors que l’on pense être seule chez soi on se livre …….c’est flippant !!!

Laisser un commentaire