LES ALGORITHMES EN MILIEU SCOLAIRE : UNE MISE EN PLACE DIFFICILE TANT AU NIVEAU TECHNIQUE QUE JURIDIQUE

« Je ne serais pas étonné que, bientôt, on parle de réussite prédictive au même titre que l’on entend parler de justice prédictive ». Voici les mots prononcés par Maître Paul Mathonnet, lors d’une audience devant le Conseil constitutionnel au sujet du fonctionnement opaque de Parcoursup.  

Le 16 janvier 2020, le Conseil constitutionnel avait en effet été saisi par le Conseil d’État, d’une question prioritaire de constitutionnalité (ou QPC) posée par l’UNEF (Union nationale des étudiants de France). Cette QPC était relative à une demande de transparence des algorithmes utilisés par les établissements d’enseignement supérieur pour traiter les candidatures des lycéens et étudiants. De nombreux élèves et enseignants ont dénoncé les défaillances liées à l’utilisation de ce type d’algorithme : certains critères d’admission dans les universités et classes préparatoires entraînent des discriminations notamment liées au lycée d’origine ou encore au domicile. Au regard de la crise sanitaire, les algorithmes utilisés en milieu scolaire avaient principalement pour but d’améliorer certains aspects du système éducatif. Cependant, leur recours n’a fait que révéler leur grande fragilité. 

Une occasion manquée d’assurer un système éducatif en temps de pandémie

La crise sanitaire a bouleversé l’enseignement à travers le monde. Les cours se sont virtualisés et les examens également. Par exemple, en août 2020, la Grande-Bretagne a décidé de remplacer les célèbres « A-levels » (baccalauréat britannique) par une analyse algorithmique des notes de contrôle continu. Selon le ministre britannique chargé de l’Éducation, Gavin Williamson, la mise en place de l’algorithme Ofqual avait deux objectifs : ne pas perturber le calendrier des candidatures des lycéens dans l’enseignement supérieur et attribuer des notes justes aux élèves pour éviter aux enseignants de revoir les notes à la hausse, à cause de la crise sanitaire. En France, le remplacement en 2018 de la plateforme APB par Parcoursup avait pour vocation de réduire l’échec en première année à l’université, qui était de 60%. Cependant, l’implémentation de Parcoursup et d’Ofqual n’ont pas eu les effets escomptés. 

Avec Ofqual, les notes des élèves anglais ont baissé de 40%. De plus, l’algorithme a favorisé les élèves à la fois brillants et fortunés plutôt que ceux ayant des notes tout aussi brillantes, mais venant d’un milieu modeste. Une décision inquiétante lorsque l’on sait que les notes obtenues constituent un précieux sésame pour intégrer les meilleures universités. L’algorithme prenait également en compte le lycée d’origine pour déterminer les admissions dans l’enseignement supérieur. Ainsi, les élèves brillants provenant d’établissements scolaires peu réputés voyaient leurs chances d’admission considérablement réduites. Suite à une gronde générale des élèves britanniques, le gouvernement a décidé d’annuler les résultats par décision algorithmique pour préférer une notation par les enseignants. 

Malgré cette alternative, de nombreux bacheliers ont perdu leur place dans des universités prestigieuses. Chose invraisemblable, ils n’auront pas la possibilité de former un recours individuel contre cette situation. En Grande-Bretagne, cette faculté de recours appartient aux seuls établissements scolaires, ce qui constitue encore une autre défaillance du recours aux algorithmes en milieu scolaire. Les élèves britanniques ont manifesté leur mécontentement parce qu’ils faisaient l’objet d’une décision fondée exclusivement sur un traitement automatisé. 

Une application complexe des règles sur l’encadrement des décisions automatisées 

Depuis 2017, la CNIL française étudie de près l’utilisation des algorithmes surtout lorsqu’elle touche directement la vie des citoyens. À l’époque, elle abordait les questions éthiques que pouvaient susciter les recours aux décisions automatisées, principalement en axant sa réflexion sur les biais et les discriminations. Or, il ne s’agissait là que de recommandations, laissant libre champ aux institutions administratives de conduire leur utilisation d’algorithmes et très peu de possibilités aux administrés de s’y opposer. 

Avec l’entrée en vigueur du RGPD, le législateur européen a créé un droit de s’opposer aux décisions individuelles automatisées dont les citoyens pourraient faire l’objet. Ce droit figure à l’article 22 du règlement. En plus de ce droit à l’opposition, les individus ont également d’autres droits en ce sens, énoncés également à l’article 22 du RGPD : 

  • Un droit de contester la décision 
  • Un droit de faire intervenir une personne humaine dans la décision automatisée 
  • Un droit de réponse quant à la décision dont on fait l’objet 
  • Un droit d’accès à l’information (notamment sur le fonctionnement de l’algorithme) 

Ainsi, ces droits accordent la possibilité aux lycéens ou étudiants européens de connaître les décisions automatisées dont ils font l’objet. Bien que le Règlement européen offre cette possibilité, chaque État-membre possède également un droit de regard sur le recours aux décisions automatisées. 

En Grande-Bretagne, l’article 96 du Data Protection Act 2018 (version anglaise du RGPD) reprend très largement le texte de l’article 22. La rédaction de l’article 96 est peu détaillée, ce qui peut laisser place à des interprétations différentes. Les dispositions du RGPD se heurtent également aux dispositions de droit administratif français. Tandis que l’UNEF invoquait un droit à la communication des documents administratifs pour obtenir les modalités de fonctionnement de Parcoursup, le Conseil constitutionnel décidait de protéger, dans le cadre de l’intérêt général, le principe du secret des délibérations que possèdent les commissions d’examens des établissements d’enseignement supérieur. 

Malgré les défaillances techniques et le flou juridique ambiant, certains enseignants et ingénieurs restent confiants au sujet de l’amélioration des algorithmes pour leur utilisation en milieu scolaire. Certains notent le fait que l’expérience britannique a démontré que les systèmes éducatifs utilisant des algorithmes devaient être réformés, tandis que d’autres proposent d’évaluer les élèves sur d’autres critères que ceux académiques qui seraient pris en compte par l’algorithme. 

Camille REIFFSTECK

Master 2 Cyberjustice 2020/2021

Sources :

Laisser un commentaire