L’intelligence artificielle est capable de détecter des choses telles que les sentiments, la santé mentale ou les émotions sur la base des « micro-expressions » du visage. L’étude des émotions pour la santé comprend de vastes troubles neurologiques comme les troubles du sommeil, la schizophrénie, l’évaluation de la qualité du sommeil. Les émotions sont également étudiées pour prédire et déduire le comportement d’une personne.
Par exemple, une entreprise israélienne, Faception, affirme que ses algorithmes sont capables de révéler la personnalité à partir d’images faciales à grande échelle : une personne avec IQ élevé, chercheur académique, joueur de poker professionnel, terroriste, pédophile, etc.
Que disent l’IA Act et le RGPD à ce sujet ?
L’utilisation de systèmes de reconnaissance des émotions risque de porter atteinte au droit à la vie privée, à la liberté de pensée, au droit d’asile et à la liberté de circulation. Le Règlement a interdit l’utilisation des systèmes de reconnaissance des émotions dans deux endroits seulement, à savoir le lieu de travail et les établissements d’enseignement. Les systèmes de reconnaissance des émotions qui ne sont pas interdits devraient être classés comme étant à haut risque.
Selon le Règlement, le système de reconnaissance des émotions est “destiné à identifier ou à déduire les émotions ou les intentions de personnes physiques sur la base de leurs données biométriques”. La définition des données biométriques dans le Règlement est étroitement liée à celle du RGPD, car le considérant 14 du Règlement fait référence au RGPD en précisant que la notion de données biométriques utilisée dans le Règlement “devrait être interprétée à la lumière de la notion de données biométriques” telle que définie à l’article 4(14) du RGPD.
Cependant, le RGPD ne définit les données biométriques comme telles que lorsque la finalité du traitement est l’identification d’une personne. Cela signifie que l’article 9 du RGPD constitue une protection juridique en ce qui concerne le traitement des données biométriques à des fins d’identification. Toutefois, la reconnaissance des émotions et la catégorisation biométrique peuvent être effectuées à partir de données physiologiques qui ne conduisent pas nécessairement à l’identification et ne sont donc pas considérées comme des données biométriques selon RGPD.
Implications juridiques de l’utilisation de données biométriques pour la reconnaissance des émotions
Ces systèmes de reconnaissance des émotions reposent sur des « données fondées sur la biométrie » (biometric-based data), mais il n’existe pas de définition des « données fondées sur la biométrie ». Les émotions, les pensées et les intentions ne peuvent être considérées que comme des données à caractère personnel générales au sens du RGPD. C’est pourquoi, dans la majorité des cas, le traitement des données à caractère personnel à des fins de reconnaissance des émotions ou de catégorisation biométrique ne sera soumis qu’à l’article 6 du RGPD, qui prévoit un simple consentement, contrairement au consentement explicite prévu à l’article 9(2)(a) du RGPD, comme base légale du traitement et d’autres fondements juridiques disponibles pour les données à caractère personnel en général.
Les technologies de l’IA ne feront que se développer à l’avenir, devenant de plus en plus précises. L’IA offre de nouvelles possibilités d’identification biométrique, telles que les ondes cérébrales, les odeurs, les signaux cardiaques et les champs de force de l’oreille, qui n’impliquent pas nécessairement l’identification d’une personne. Les identifiants biométriques sont déjà utilisés à des fins de classification, et il est très possible qu’un tel système puisse être employé pour prédire ce dont chaque personne est capable.
La proposition de modification de l’IA Act en vue d’y inclure une nouvelle définition n’a pas abouti. Il ne reste donc plus qu’à observer la manière dont l’IA Act sera mise en œuvre dans ce domaine et les développements jurisprudentiels qui s’ensuivront.
Emiliya Ramazanova
Promotion 2023/2024
#AIemotions #IAActe #AIAct #RGPD
Sources
https://www.jstor.org/stable/26777963
https://www.europarl.europa.eu/RegData/etudes/STUD/2021/696968/IPOL_STU(2021)696968_EN.pdf
https://www.senat.fr/rap/r21-627/r21-627.html
https://www.statewatch.org/media/3285/sw-a-clear-and-present-danger-ai-act-migration-11-5-22.pdf
https://www.sciencedirect.com/science/article/pii/S1566253523003354?via%3Dihub
