Les questions soulevées par l’assistance vocale sont nombreuses, notamment celle d’une information fiable et d’une réelle compréhension de l’outil. Cette première interrogation est due au fait que l’assistant vocal n’amène qu’une seule réponse à une question donnée. Au contraire, les moteurs de recherche laissent le choix à l’utilisateur de la source d’information vers laquelle il souhaite se tourner. Ceci ne pose aucune difficulté concernant les requêtes météorologiques par exemple, mais il en va autrement concernant les questions politiques ou d’intérêt général.
L’utilisation des assistants vocaux pose également le problème de l’usage éthique des données. En effet, cette technologie met à mal la confidentialité et la sécurisation des données. Elle collecte une quantité massive de données personnelles afin de fonctionner efficacement. Ceci est notamment dû au fait que les utilisateurs sont encouragés à renoncer à la confidentialité de leurs données dans un souci d’efficacité du dispositif.
La question de la confidentialité est également présente dans l’hypothèse d’un usage partagé de l’assistant vocal au sein d’un foyer : l’intervention spontanée du dispositif pourrait proposer un service ou un produit en présence de personnes extérieures ou dans un moment inadapté.
L’amélioration de la sécurité et de la confidentialité des données doit donc passer par une transparence du fonctionnement technique, sans quoi des défaillances peuvent survenir. Par exemple, l’assistant vocal Alexa autorise n’importe quelle personne proche du dispositif à commander des appareils et services depuis le compte Amazon de l’utilisateur principal. Cela inclut les enfants ou les voix de la radio notamment. La problématique de la confidentialité et la possibilité de paramétrage personnalisé doivent donc être réfléchie dès la conception du produit. C’est pourquoi est important de ne pas se fier entièrement aux réglages par défaut, et de prendre le temps de paramétrer son appareil lors de sa mise en service.
Au-delà, certains utilisateurs évoquent un malaise lors de l’utilisation des assistants vocaux. Cette sensation est due au fait que ce type de technologie tend à brouiller les frontières entre être vivant et artefact. Ce malaise et cette sensation de présence évoqués par les utilisateurs sont d’autant plus marquants lorsque le dispositif vocal fonctionne indépendamment.
Cette crainte s’est notamment illustrée lors du bug technique de l’assistant vocal Alexa en mars 2018. Ce problème technique a amené les haut-parleurs à rire de manière spontanée dans plusieurs foyers, et ce, à différents moments de la journée. Le sentiment de malaise ressenti par les utilisateurs victimes de ce bug, renforce les questions éthiques relatives à l’anthropomorphisation des technologies.
Lola ESQUIROL
M2 Cyberjustice 2021-2022
Sources :
https://www.atinternet.com/glossaire/assistant-vocal/
https://www.la-croix.com/Sciences-et-ethique/Assistance-vocale-espion-salon-2020-09-28-1201116481
https://www.cnil.fr/sites/default/files/atoms/files/cnil_livre-blanc-assistants-vocaux.pdf
