You are currently viewing L’Europe et les modèles de fondation

Depuis la proposition de règlement de la Commission européenne en avril 2021, destinée à encadrer l’usage et la commercialisation de l’intelligence artificielle (IA), de nombreux facteurs ont vocation à chambouler le texte initial. L’Union européenne affiche comme priorité sa volonté d’être la première au monde à se doter d’un cadre juridique suffisamment exhaustif pour limiter les dérives de l’intelligence artificielle. En effet, le texte devait être adopté avant la fin de l’année, mais entrerait en vigueur « au plus tôt fin 2025 », selon le commissaire européen pour le Numérique, Thierry Breton.

 

La technologie n’est ni bonne ni mauvaise en soi, c’est l’usage que l’Homme en fait qui définit ce qu’elle est

 

Parmi les obligations induites par cette proposition, on retrouve la nécessité de prévoir un contrôle humain sur la machine, l’établissement d’une documentation technique, ou encore la mise en place d’un système de gestion des risques. De plus, le texte prévoit également le contrôle des systèmes d’IA ayant des interactions avec les humains. Ainsi, l’utilisateur en relation avec une machine devra en être averti, et dans la même optique, les images générées automatiquement devront être formellement caractérisées comme tel.

Certaines IA seront interdites, à savoir ; les systèmes établissant une « note sociale », d’identification biométrique, qui visent à manipuler par des techniques subliminales agissant sur l’inconscient ; ou encore les systèmes ciblant les personnes vulnérables. Les systèmes à « hauts risques », car ayant une « incidence préjudiciable significative sur la santé, la sécurité et les droits fondamentaux des citoyens », seront autorisés sous certaines conditions, plus spécifiquement sous réserve de contrôles ou d’audits.

 

Une nécessaire mise à jour

 

Depuis la rédaction de la première proposition de règlement il y a deux ans, Bruxelles doit s’adapter à de nouvelles problématiques. En effet, depuis l’émergence du phénomène des chatbots (ou robots conversationnels), les professionnels entre autres, rendent compte d’une nécessaire adaptation du texte en réaction à la diffusion massive de l’utilisation des modèles génératifs de texte, d’image, ou encore de musique. Son utilisation soulève des questions concernant la protection du contenu généré par le droit d’auteur par exemple, ou l’attribution de la responsabilité desdits contenus. En ce sens, les parlementaires européens ont récemment trouvé un accord et proposent une mesure obligeant les services d’IA à déclarer si le contenu utilisé pour entraîner leur modèle de génération est protégé par le droit d’auteur. L’objectif étant de permettre aux titulaires de droits de saisir la justice pour tenter d’être rémunérés pour l’utilisation non consentie de leur travail. Concernant la responsabilité du contenu généré, le parti prit est celui de la faire reposer sur les services d’IA. Contrairement à ce qui se dessinait jusqu’à lors, à savoir de faire peser le poids de la responsabilité sur leurs utilisateurs.

 

Cette volonté de faire reposer la technologie sur la base d’une approche centrée sur l’humain, divise les systèmes d’IA en quatre catégories en fonction du risque qu’ils représentent pour la société. Une distinction qui peut avoir des conséquences financières non négligeables pour les prestataires de services d’IA, et qui inquiètent jusqu’au plus grandes entreprises. Le texte prévoit toutefois un délai pour permettre aux entreprises technologiques de s’adapter au nouveau cadre juridique, ce qui signifie que la loi pourrait prendre jusqu’à trois ans avant d’être pleinement applicable dans l’ensemble de l’Union.

En effet, en réaction aux amendements proposés sur le texte, et à la récente mise en application du Digital Service Act, les entreprises étrangères désireuses de rester implantées sur le marché européen qui représente en 2021, pour 4 300 milliards d’euros dans le commerce mondial total, se voient contraintes d’anticiper les obligations légales à venir.

 

En attendant l’entrée en vigueur

 

Ainsi, le texte censé réglementer l’IA n’est pas prêt, tandis que des entreprises et justiciables demandent des réponses et des garanties. En réaction à cette situation d’insécurité, un « AI Pact » entre dans le paysage. Ce pacte récemment évoqué par Thierry Breton, censé combler le vide législatif et accompagner la transition, est un projet expérimental pour mesurer les implications réelles d’une telle législation. Sa nature volontaire limitera inévitablement sa portée et son efficacité mais Thierry Breton a défendu la nécessité d’avoir un règlement intermédiaire comprenant les « grandes lignes  » de la loi sur l’IA.

Entre la possibilité de labelliser les systèmes d’IA, la nécessité de gérer l’urgence sans ralentir l’innovation, tout en étant assez fermes sur certains éléments, les projets de Thierry Breton contrastent avec les remarques de Sam Altman. Le chief executive officer américain a déclaré qu’il pourrait envisager de quitter le marché européen en cas de difficulté à se conformer à la réglementation européenne. ChatGPT avait, par exemple, été bloqué en Italie par l’autorité de protection des données (GPDP) en raison de  « l’absence de base légale justifiant la collecte et le stockage massifs de données personnelles, dans le but d’entraîner les algorithmes sous-jacents au fonctionnement de la plateforme ». De l’autre côté, Google a accepté un pacte sur l’IA à l’initiative de la Commission européenne, dont la base est semblable à la proposition de règlement, à la différence qu’il se base sur le volontariat, ce qui ne semble  pas faire reculer Google.

En revanche, si ChatGPT présente des caractéristiques des plus hauts niveaux de risques de catégories d’IA, le Ministre délégué chargé de la transition numérique et des télécommunications Jean-Noël Barrot s’est prononcé sur la question et affirme ne pas souhaiter l’interdire. De plus, le comité national d’éthique doit rendre dans les mois à venir, un avis à ce sujet.

 

Jeanne Gauthier

M2 Cyberjustice – promotion 2022/2023

 

Sources

Source image : https://fr.freepik.com/photos-gratuite/femme-maquillage-son-visage-regarde-son-telephone_41483680.htm#query=europe%20tech%20people&position=4&from_view=search&track=ais_ai_generated 

 

OpenAI s’inquiète des règles européennes sur l’IA, Google s’engage à travailler avec Bruxelles 

 

L’Union européenne s’active pour encadrer l’intelligence artificielle et s’accorde avec Google 

 

La Commission européenne et Google proposent un pacte volontaire sur l’intelligence artificielle | Euronews 

 

POUR UNE INTELLIGENCE ARTIFICIELLE EGALITAIRE ENTRE LES FEMMES ET LES HOMMES 

 

Les eurodéputés se rapprochent d’un accord sur la réglementation des IA génératives 

 

Thierry Breton (@ThierryBreton) / Twitter 

 

L’Italie bloque l’accès à ChatGPT, accusé de ne pas respecter la législation sur les données personnelles 

 

« Non, il ne faut pas interdire ChatGPT » (Jean-Noël Barrot, ministre de la Transition numérique) 

 

https://www.ccne-ethique.fr/sites/default/files/2021-09/Manifeste%20CNPEN.pdf 

 

Tout comprendre à l’IA Act, le texte européen de réglementation de l’intelligence artificielle – Numerama 

 

Faits et chiffres, économie de l’UE | Union européenne 



A propos de Jeanne Gauthier