Les systèmes d’intelligence artificielle (IA) devraient révolutionner de nombreux aspects de la vie quotidienne. Des applications pratiques lui ont déjà été trouvées et offrent des perspectives prometteuses. L’Union européenne souhaite ne pas prendre de retard dans ce domaine et a lancé plusieurs expérimentations, dont le projet iBorderCtrl.
Le contrôle aux frontières par intelligence artificielle
iBorderCtrl est un projet de la Commission européenne. Il a pour ambition de mettre l’IA au service des gardes-frontières. Ce sont en tout plus de 4,5 millions d’euros qui y ont été investis entre 2016 et 2019. Une expérimentation aux frontières de l’espace Schengen a ensuite été réalisée dans trois États membres : la Hongrie, la Grèce et la Lettonie.
Parmi plusieurs fonctionnalités, son détecteur de mensonge est particulièrement mis en avant. Sur la base du volontariat, les personnes souhaitant entrer sur le territoire de l’espace Schengen devaient répondre à une série de questions sur une application dédiée en se filmant. Grâce à cet enregistrement, des photos d’identité et un mécanisme de reconnaissance faciale, l’IA devait pouvoir analyser les micro-expressions du visage, et ainsi détecter les mensonges. Les personnes étaient par la suite classées en deux catégories : les « faibles risques » et les « hauts risques ». Cette deuxième catégorie faisait l’objet de vérifications supplémentaires plus poussées. iBorderCtrl devait donc permettre de fluidifier les contrôles aux frontières et de faciliter le travail des gardes-frontières.
Une expérimentation cible de nombreuses critiques
A la suite de l’expérimentation, de nombreuses critiques ont émergées, majoritairement de la part d’associations de défenses des droits. D’un point de vue technique tout d’abord, l’IA se trompait une fois sur quatre. Ce taux d’échec est relativement élevé, d’autant plus que l’analyse de micro-expressions pour détecter les mensonges n’est pas une science avérée.
iBorderCtrl a également été la cible de critiques d’un point de vue de l’éthique. Nombreuses sont les personnes à contester l’utilisation de l’IA dans un tel contexte et à l’aide d’un système de reconnaissance faciale. L’une des nombreuses critiques est par exemple que cette utilisation participerait à une uniformisation de la société en participant à une forme de surveillance de masse. L’absence de publication d’études d’impact, notamment en matière éthique, a été vivement regrettée.
D’un point de vue légal finalement, ces mêmes associations ont mis en avant des incompatibilités avec plusieurs articles de la Charte des droits fondamentaux de l’Union européenne. Ainsi, selon elles, iBorderCtrl porterait atteinte à la dignité humaine (Article 1), au respect de la vie privée et familiale (Article 7), ou encore à la protection des données personnelles (Article 8).
Un futur cadre juridique pour l’IA en Europe
Pendant longtemps, le cadre juridique autour de l’IA est resté très flou. L’Union européenne a récemment entamé un mouvement net pour sa régulation. Dès 2021, les députés européens s’étaient exprimés contre une utilisation de l’IA par la police et avaient appelé à la fin du projet iBorderCtrl.
L’IA Act, future réglementation européenne, devrait également viser ce type de projets. Les IA y sont classées en fonction de leur risque. Il n’y a aucun doute sur le fait que le iBorderCtrl ferait partie des « IA à haut risque » et ferait ainsi l’objet de nombreuses restrictions.
Malgré de lourds investissements, le projet semble actuellement être en pause après les vives critiques exprimées suite à son expérimentation. Cet épisode est aussi la preuve que les évolutions techniques peuvent se heurter à plusieurs obstacles et facteurs humains.
Lilian VASSEUR
Master 2 Cyberjustice – Promotion 2022/2023
Sources :
