Algorithmes prédictifs et science criminelle aux Etats-Unis : entre compréhension de la criminalité et paranoïa

Mindhunter, Manhunt : Unabomber… De nombreuses séries retracent aujourd’hui l’évolution des techniques d’analyse des sciences criminelles. De la psychanalyse à la psychologie comportementale en passant par le profilage, toutes ces méthodes de compréhension et de prévention de la criminalité ont été affinées grâce aux technologies numériques, et ont été développées conjointement à l’étude de la justice prédictive. Aux Etats-Unis, la CIA et le FBI ont développé pléthore de programmes depuis les années 1950. Ces sciences sont toutefois empreintes d’enjeux sociologiques, philosophiques ou ethniques d’une importance capitale. Profil d’une science contextuelle et controversée. 

Une technologie contextuelle : entre juste peine et compréhension de la criminalité

L’analyse prédictive regroupe tout un panel de techniques issues d’études statistiques ou de connaissances extraites de données. Cette idéologie d’anticipation de phénomènes sociaux a influencé la conception de la justice contemporaine. Aujourd’hui, la décision pénale est notamment fondée sur les antécédents criminels, la possibilité de récidive, ou encore, de manière plus intuitive, sur les antécédents d’emprisonnement et de consommation de stupéfiants. 

Aux Etats-Unis, de nombreux programmes qui permettent de calculer la probabilité de récidive d’un détenu ont été développés. Certains se réfèrent à des thématiques pour établir un score de récidive, d’autres, comme COMPAS, évaluent le risque en se référant à une série de graphiques préconçus. Ces graphiques sont associés à des formules mathématiques que l’entreprise qui les a développés, à savoir Northpointe inc., garde secrète… 

Les instruments de prédiction, qui ont été favorisés par la sociologie et la criminologie, ont fondamentalement modifié la conception initiale de la meilleure et plus équitable manière de penser le droit pénal. Ils sont notamment nés de la volonté presque obsessionnelle de connaître le criminel et de comprendre sa psychologie

Une conception de la justice articulée autour de la prédiction de la dangerosité future

Une approche contextuelle de la justice et de la criminalité implique de préférer certains modes de réflexion et de sanction à d’autres. Dans la conception actuelle, la société a érigé un système judiciaire et carcéral qui vise à sanctionner et prédire les comportements infractionnels plutôt qu’à réinsérer leurs auteurs. Connaître scientifiquement le criminel : c’est autour de cette idée que la conception de la juste peine s’est développée, afin de le caractériser et d’évaluer sa dangerosité pour la société.

Cette approche est l’aboutissement de siècles de réflexions philosophiques et morales sur le châtiment ou la justice vengeresse. Elle atténue ainsi l’aspect punitif de la peine. Une peine plus lourde est-elle nécessaire pour dissuader le coupable de récidiver ? Ou au contraire, le pousserait-elle à haïr une justice qui, finalement, essaye avec maladresse de le sanctionner tout en cherchant à le réintégrer dans la société ? Des enjeux philosophiques et sociaux gravitent autour de la conception que l’on a de la justice et de la criminalité. D’un certain point de vue, c’est finalement l’intention délictueuse qui joue un rôle primordial dans la détermination de la peine : l’être humain a choisi de s’intéresser à la prédiction de la dangerosité future dans la mesure où un comportement délictueux a déjà été commis une première fois. 

Mais des algorithmes ont-ils « conscience » de ces aspects qui transcendent la condition de machine et impliquent des réflexions humaines ? Difficile à dire. Sommes-nous devenus « esclaves des probabilités », comme le laisse penser Bernard E. Harcourt dans « Surveiller et punir à l’âge actuariel. Généalogie et critique », tiré de Déviance et société 2011/1 (Vol. 35) ? Attention, une dépendance à la probabilité peut être synonyme de sacrifice de la vérité empirique, pourtant essentielle dans l’approche juridique. 

Entre compréhension de la criminalité et paranoïa 

La prévention de la criminalité suscite un intérêt particulier aux Etats-Unis. Outre les nombreux programmes développés et mentionnés plus haut, beaucoup de projets ont abouti ou ont été abandonnés dans cette recherche permanente de la probabilité de la récidive et de la compréhension du comportement déviant. Ces recherches ont donné naissance à des techniques de profilage, des algorithmes prédictifs efficients ou encore à la graphologie, mais ont aussi révélé des pratiques controversées. Quel a été le coût de cette quête obsessionnelle de la prévisibilité ? 

Comment ne pas mentionner le fameux projet « MK Ultra », mené par la CIA entre les années 1950 et 1970, et révélé en 1975. Les Etats-Unis ont travaillé sur l’élaboration de techniques pour influencer le comportement humain. 149 sous-projets ont été menés et ont impliqué des personnes sans leur consentement, allant même jusqu’à les droguer pour des expériences. 

Ted Kaczynski « Unabomber », qui a sévi dans les années 1980, en a également été victime, comme le rappelle la série « Manhunt : Unabomber ». La paranoïa des services de renseignement américains a-t-elle créé elle-même certains des célèbres criminels en niant le concept de droits de l’homme ? Les algorithmes prédictifs sont-ils le résultat d’expériences douteuses ?  Pas sûr que les excuses publiques de Bill Clinton en 1995 suffisent à convaincre du contraire. 

Le « Patriot Act », loi adoptée le 26 octobre 2001 à la suite des attentats du 11 septembre, demeure encore en vigueur aujourd’hui alors qu’il ne devait l’être que pour une période déterminée. Sous couvert de prévention du terrorisme, de nombreux droits sont violés et des millions de données sont récupérées par les services de sécurité. Le prix de la justice prédictive : la récupération de millions de données, la possibilité de détenir sans limite et sans inculpation toute personne suspectée de projet terroriste, la surveillance permanente, le tout au nom de la prévention de la sécurité et de la criminalité. Légalité contestable ? Probablement. Légitimité discutable ? Peut-être. Mais est-ce que l’administration américaine continue malgré tout ? Yes, we can !

L’incompatibilité d’une justice aveugle avec des algorithmes subjectifs

L’algorithme COMPAS (Correctional offender management profiling alternative sanctions) a vu sa logique implacable confrontée à sa partialité discriminante. Comme l’a révélé une étude de ProPublica, les résultats des prévisions de l’algorithme mettent en évidence un biais ethnique : les personnes noires sont plus souvent considérées comme étant hautement susceptible de récidiver, alors que finalement, peu d’entre elles (re)passent à l’acte. Parmi les Afro-Américains classés dans cette catégorie de « probable récidive », 44,9% n’ont pas commis d’autres crimes. S’agissant des Américains de type caucasien, 23,5% seulement ne récidivent pas. Par conséquent, les personnes blanches, à l’inverse, sont considérées comme moins à risque qu’elles ne devraient l’être…

Les algorithmes prédictifs révèlent leurs lacunes dans l’appréhension de notions philosophiques et morales. La stigmatisation de groupes ethniques et l’alimentation de clichés infondés découlent de cette recherche constante de la prévisibilité de la criminalité. Une telle considération semble inenvisageable en France. Si la justice est aveugle, les algorithmes sont quant à eux très loin de l’impartialité à laquelle prétendent les magistrats. 

Léon Charvolin – M2 Cyberjustice (2020-2021)

Pour en savoir plus :

Analyse de ProPublica (en anglais) : https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing 

Sources :

https://fr.wikipedia.org/wiki/Profilage_criminel

https://www.lemonde.fr/pixels/article/2016/05/24/aux-etats-unis-l-echec-des-algorithmes-qui-cherchent-a-predire-le-risque-de-recidive_4925242_4408996.html

https://journals.sagepub.com/doi/10.1177/0093854885012004007#:~:text=The%20salient%20factor%20score%20is,likelihood%20of%20recidivism%20after%20release.

https://dhs.sd.gov/drs/recorded_videos/training/lsi-r/doc/LSI-R%20introductory%20training%20Participant%20Manual.pdf

https://www.lebigdata.fr/compas-algorithme-prison-0305#:~:text=Le%20programme%20en%20question%20est,sur%20une%20s%C3%A9rie%20de%20graphiques.

https://www.nouvelobs.com/rue89/rue89-etats-unis/20160524.RUE2964/etats-unis-un-algorithme-qui-predit-les-recidives-lese-les-noirs.html

https://criminalistique.fr/services/graphologie.html

https://fr.wikipedia.org/wiki/Theodore_Kaczynski

Laisser un commentaire