Jusqu’alors laissée dans un vide juridique, l’utilisation de l’intelligence artificielle dans les systèmes judiciaires a pris un nouveau tournant le 4 décembre 2018. En effet, la CEPEJ (Commission européenne pour l’efficacité de la justice) attachée au Conseil de l’Europe, a adopté la 1ère Charte éthique européenne en la matière.
• Une Charte d’avenir pour les juridictions françaises… Mais pas seulement
Plus qu’essentielle pour les juristes, mais également pour le législateur, cette Charte s’inscrit à l’aune d’une réforme profonde de la justice française avec le projet de Loi Justice 2018-2022 introduisant une place centrale aux nouvelles technologies au sein des juridictions, notamment par les nouveaux modes de saisine ouverts aux justiciables (création de l’art 15-3-1 du code de procédure pénale).
Bien au delà de cette problématique française, on constate aujourd’hui une utilisation croissante de l’intelligence artificielle à l’échelle internationale sans avoir toujours connaissance des éléments utilisés dans les algorithmes ou de la pondération des éléments utilisés en leur sein. L’Homme semble régulièrement aveugle face à l’outil qu’il utilise et c’est pourquoi le Conseil de l’Europe a tenu à réglementer ce domaine, notamment afin de veiller à l’éthique de ces nouveaux instruments juridiques.
• Création et reprise de principes essentiels.
Pour ce faire la Charte éthique d’utilisation de l’intelligence artificielle dans les systèmes judiciaires et leur environnement retient 5 principes : le respect des droits fondamentaux ; la non- discrimination ; la qualité et sécurité ; la transparence, la neutralité et l’intégrité intellectuelle ; la maîtrise par l’utilisateur.
Socles de la mission du Conseil de l’Europe, la place des principes de respect des droits fondamentaux et de non discrimination s’inscrivent pleinement dans cette Charte. En revanche il convenait tout de même de souligner leur importance, notamment eu égard à certains outils algorithmiques utilisés aux USA tels que PredPol ou Compas, dont le franchissement des limites éthiques n’est plus à démontrer au constat des résultats fournis par ces outils.
Quant au principe de qualité et de sécurité il convient de relever que celui-ci s’apparente à une plus importante transparence des logiciels, une impossibilité de modifier leur trame afin de garantir l’absence d’altération de ce dernier mais aussi des données qu’il contient, engendre et traite. Cet aspect de la charte est le 1er élément propre à la mise en œuvre des algorithmes et, à tout le moins, l’un des plus essentiels. En effet il permet de garantir l’éthique au sein de l’outil lui même et sa protection face à l’homme, élément à regrouper avec le 5ème principe qui est celui de la maitrise par l’utilisateur qui maintient un pouvoir de gestion de son outil et de contrôle.
Enfin, la question de la transparence et de la neutralité a été mise en avant. La clé de voute repose ici sur l’ « open source » et la complète lisibilité et transparence des traitements opérés. La CEPEJ rappelle néanmoins dans ce principe l’importance qu’il convient de ne pas nier à la propriété intellectuelle et au secret industriel. Une balance est donc laissée au libre arbitre des Etats membres du Conseil de l’Europe.
C’est finalement cette question qui reste en suspend face à cette charte : comment les Etats articuleront leur législation dans le respect de cette charte ? Et au delà, sera-t-elle un obstacle suffisant face aux dérives éthiques que posent les instruments d’intelligence artificielle ?
Laetitia BENOIT
Master 2 Cyberjustice – Promotion 2018-2019
