En mai dernier, Marc Jan Eumann, président de la Commission (organe de surveillance et de protection des mineurs en Allemagne[1]) a déclaré que l’utilisation de l’Intelligence Artificielle (IA) était une « nouvelle étape importante » dans la protection des mineurs face à l’usage des médias et des TICs.
L’IA pour certifier les mineurs
Pour lutter contre l’exposition des mineurs face aux contenus dangereux en ligne, la Commission allemande a approuvé la mise en place de trois outils permettant de vérifier que l’individu est en âge de consulter ce genre de médias. Ces systèmes reposent sur la même technologie émergente, l’IA, et ce pour vérifier l’identité de l’individu au préalable.
En ayant recours à l’IA, la Commission souhaite limiter les risques d’exposition des mineurs à des contenus violents. Une ambition portée par la Directive « Services de médias audiovisuels » du 14 novembre 2018 que se doivent de transposer les Etats-membres de l’Union européenne. A noter que « les contenus les plus préjudiciables, tels que la pornographie et la violence gratuite, font l’objet des mesures les plus strictes » au sens de l’article 6 bis.
Les « intelligences » dont il est question en Allemagne, fonctionnent grâce au machine learning, un mode d’apprentissage statistique qui permettrait ici d’estimer l’âge des personnes souhaitant accéder à du contenu restreint, selon des caractéristiques biométriques. Mais si des IA ont été approuvées, on voit aussi déjà leur biais faire surface : la Commission a déclaré avoir recours à une marge de 5 ans pour éviter que les mineurs qui feraient physiquement plus âgés, puissent y avoir facilement accès.
Qu’en est-il de la régulation de l’IA en Europe ?
Maximilian Funke-Kaiser, porte-parole en matière de politique numérique du parti libéral Free Democratic Party (FDP) au Parlement allemand a notamment souligné que « le traitement des données personnelles nécessite une base légale et un consentement déclaré par la personne investie de l’autorité parentale ».
En effet, en ce qui concerne le Règlement général sur la protection des données (RGPD), c’est l’article 8 qui s’applique en matière de protection des mineurs. Il considère qu’un mineur âgé de moins de 16 ans devrait donner son consentement par le biais de ses parents pour être sujet à un traitement de données personnelles.
Néanmoins le sujet de l’IA n’étant pas véritablement traité par le RGPD, l’AI Act dont un premier jet a été publié en avril dernier, a pour but de répondre aux questions dans ce domaine. Il permettrait notamment de limiter les risques liés au profilage, ou plus largement à la liberté des personnes.
Alors que Clearview AI s’est récemment fait sanctionner par l’autorité britannique de protection des données (ICO) à hauteur de 7,5 millions de livres sterling pour une utilisation non conforme de son intelligence artificielle, par exemple en collectant des images sans en avertir les utilisateurs, les IA sur internet sont plus qu’au cœur des débats.
N’hésitez pas à également consulter l’article de ma camarade Linda Ragot qui évoque très justement les enjeux de la protection des mineurs sur internet : https://cyberjustice.blog/2022/04/01/protection-des-droits-numeriques-des-mineurs/
Elsa Moriceau
Sources :
- https://www.cnil.fr/fr/droits-numeriques-des-mineurs-la-cnil-publie-les-resultats-du-sondage-et-de-la-consultation-publique
- https://www.euractiv.fr/section/economie/news/lorganisme-allemand-de-protection-de-la-jeunesse-approuve-lia-comme-outil-de-verification-de-lage/
- https://www.usine-digitale.fr/article/etude-les-droits-numeriques-des-mineurs-doivent-favoriser-leur-autonomie-tout-en-les-protegeant.N1047834
[1] Kommission für Jugendmedienschutz (KJM)
