L’usage des algorithmes publics dans l’administration et le fonctionnement des services publics est une pratique en plein accroissement. Tant sur le plan de la technique et de l’innovation, que vis-à-vis du droit et des principes éthiques, les enjeux qu’elle soulève sont multiples et complexes. Nous tenterons ici d’éclairer les principales tensions du débat. 

En février 2011, la création d’Etalab met en place une structure unique, dont l’objectif est de faciliter l’utilisation de données publiques à l’usage des administrations publiques françaises. La mission d’Etalab s’appuie notamment sur le droit d’accès aux documents administratifs (fondé sur la loi n° 78-753 du 17 juillet 1978), mais aussi sur les avantages de la révolution numérique dans le quotidien des Français. La mission Etalab se veut transparente, les différentes feuilles de route du gouvernement et rapports détaillés, ou autres notes de blog, étant accessibles en ligne sur les plateformes gouvernementales. Depuis de nombreuses années, le mode de fonctionnement des services publics prend appuie sur l’analyse des données citoyennes, redessinant ainsi les rapports qu’entretiennent les Français avec les différents organismes d’intérêt général. Si cette redéfinition des services publics s’inscrit inévitablement dans son temps, avec tous les intérêts que l’utilisation du numérique peut comporter, la direction que prennent ces nouveaux modes d’action sont des décisions que les Français s’approprient peu et dont ils ignorent parfois les rouages. 

Contexte historique et fonctionnement des services publics algorithmiques 

En septembre 2015, la mission Etalab est rattachée à la Direction Interministérielle des Systèmes d’Information et de communication (DISIC). Ensemble, ils réfléchissent et mettent en place une stratégie dite d’ “Etat plateforme”, dont Henri Verdier (directeur d’Etalab) a co-présenté le concept dans L’âge de la multitude (avec Nicolas Colin, ancien inspecteur des finances). Grâce à l’Etat plateforme, écrivent-ils, « nous verrons s’inventer sous nos yeux des services publics sans administration, auto-organisés par des communautés de citoyens prenant leur part de leur opération par leurs contributions et leurs interactions ».

L’un des arguments forts en faveur du partage et de l’analyse des données met en avant la simplification des démarches administratives. Par exemple, le programme « Dites-le nous une fois » tend à limiter la saisie d’informations qui seraient déjà détenues par l’administration publique via des API (Application Programming Interface). Ainsi, nous explique le site du numérique du gouvernement, « la Ville de Lyon utilise l’API impôt particulier de la DGFi » afin de régler la tarification des repas de cantine scolaire. Les services publics assurant les démarches telles que les demandes d’allocation, de prime d’activité ou encore de logement social pourront ainsi avoir accès, via des API, aux données personnelles du demandeur.

L’accès à certaines données dites sensibles nécessitent des habilitations.  Ainsi, l’API FranceConnect fournit « l’identité vérifiée d’une personne publique » (api.gouv.fr). Elle nécessite effectivement une habilitation d’accès pour les particuliers, par exemple, mais les conditions d’accès ne sont pas visiblement établies et lisibles sur le site gouvernemental ; elles ne sont communiquées que par mail. Enfin, de façon globale, la complexité du fonctionnement des services publics sur la base d’algorithmes porte sur la prise de décision sur laquelle ils aboutissent. 

Enjeux des prises de décisions algorithmiques 

L’un des exemples les plus parlant des décisions algorithmiques est sans doute la plateforme APB (Admission Post Bac), créée en 2003. Pour rappel, la plateforme APB traitait les dossiers de candidatures d’entrée en études supérieures, par un algorithme dont le procédé et les résultats ont fait débat. Au cœur des discussions : l’opacité de l’algorithme en question qui n’avait pas été dévoilé publiquement et qui, donc, ne rendait pas compte des critères de sélection mis en vigueur.

En 2016, le Ministère de l’Enseignement Supérieur rend finalement public le code source de l’algorithme, par le biais d’un document que plusieurs scientifiques jugent illisible et qu’ils qualifient de « boîte noire » : quatre-cents lignes de code, des données incomplètes, pas de notice explicative, etc., tel que le souligne un article paru dans L’ingenu-ingénieur, en octobre 2016. Le 28 septembre, « la Cnil exige que le Ministère “cesse de prendre des décisions concernant des personnes sur le seul fondement d’un algorithme et fasse preuve de plus de transparence dans son utilisation“ » (voir Usbek&Rica, « Plateforme APB : l’algorithme en débat »).

De manière plus globale, le procédé consistant à régler un rapport d’offre et de demande sur la base d’algorithmes est appelé le « matching algorithms », utilisé aujourd’hui encore pour ParcourSup ou autres demandes d’affectation d’un agent dans la fonction publique, entre autres. L’opacité des calculs et des critères de décisions, que suppose le fonctionnement même d’un algorithme, soulève des enjeux d’ordre éthiques qui mettent à mal le principe d’intérêt général censé être l‘un des principes fondateurs du service public. 

Paul Dubois Gance
M2 Cyberjustice promotion 2019/2020

Sources :

  • https://www.etalab.gouv.fr/
  • Wikipédia, “Etalab”, URL : https://fr.wikipedia.org/wiki/Etalab#Histoire
  • La Gazette des Communes, “Big Data et action publique algorithmique sont-ils solubles dans les valeurs des services publics ?”, URL : https://www.lagazettedescommunes.com/357647/big-data-et-action-publique-algorithmique-sont-ils-solubles-dans-les-valeurs-de-services-publics/
  • La Gazette des Communes, “L’Etat plate-forme, vraie source de services publics innovants ou cache-misère ?”, URL : https://www.lagazettedescommunes.com/323547/letat-plate-forme-vraie-source-de-services-publics-innovants-ou-cache-misere/
  • L’ingénu-ingénieur, “APB : ce qu’une première analyse du code source nous révèle”, URL : https://ingenuingenieur.wordpress.com/2016/10/19/apb-ce-quune-premiere-analyse-du-code-source-nous-revele/
  • Usbek&Rika, “Plateforme APB : l’algorithme en débat”, URL : https://usbeketrica.com/article/plateforme-apb-l-algorithme-en-debat

A propos de