Un logiciel américain sur le risque de récidive mis en doute
Washington - Un algorithme communément utilisé aux Etats-Unis pour prédire le risque de récidive des délinquants n'est pas plus fiable que des personnes sans expertise judiciaire recrutées en ligne, affirme une étude publiée mercredi.
Cette étude du Dartmouth College, parue dans la revue Science Advances, remet en question l'efficacité d'un logiciel nommé COMPAS, pour "Correctional Offender Management Profiling for Alternative Sanctions", qui a servi à évaluer plus d'un million d'auteurs d'infractions depuis 1998.
Censé être plus objectif que les humains, le système COMPAS est notamment utilisé par les tribunaux pour décider du placement en liberté conditionnelle de certains condamnés. L'algorithme prend en compte 137 variables pour chaque personne qu'il évalue.
Les auteurs de l'étude, Julia Dressel et Hany Farid, ont eu l'idée de comparer les performances du logiciel avec le travail fourni par des personnes sans qualifications judiciaires, recrutées sur internet. Les internautes disposaient seulement d'informations basiques sur les criminels à évaluer: leur sexe, leur âge et leurs antécédents judiciaires.
Or les humains ont obtenu des résultats exacts dans 67% des cas, soit un niveau comparable à celui de l'algorithme (65,2%).
"Il est troublant de constater que des internautes sans formation parviennent à être aussi performants qu'un programme informatique utilisé pour prendre des décisions d'importance capitale pour des accusés dans le système pénal", a commenté le professeur Farid.
Ce n'est pas la première fois que l'efficacité de COMPAS est mise en doute. En 2016, une étude de ProPublica avait conclu que le logiciel fonctionnait avec des préjugés à l'encontre des Noirs.
Cette étude du Dartmouth College, parue dans la revue Science Advances, remet en question l'efficacité d'un logiciel nommé COMPAS, pour "Correctional Offender Management Profiling for Alternative Sanctions", qui a servi à évaluer plus d'un million d'auteurs d'infractions depuis 1998.
Censé être plus objectif que les humains, le système COMPAS est notamment utilisé par les tribunaux pour décider du placement en liberté conditionnelle de certains condamnés. L'algorithme prend en compte 137 variables pour chaque personne qu'il évalue.
Les auteurs de l'étude, Julia Dressel et Hany Farid, ont eu l'idée de comparer les performances du logiciel avec le travail fourni par des personnes sans qualifications judiciaires, recrutées sur internet. Les internautes disposaient seulement d'informations basiques sur les criminels à évaluer: leur sexe, leur âge et leurs antécédents judiciaires.
Or les humains ont obtenu des résultats exacts dans 67% des cas, soit un niveau comparable à celui de l'algorithme (65,2%).
"Il est troublant de constater que des internautes sans formation parviennent à être aussi performants qu'un programme informatique utilisé pour prendre des décisions d'importance capitale pour des accusés dans le système pénal", a commenté le professeur Farid.
Ce n'est pas la première fois que l'efficacité de COMPAS est mise en doute. En 2016, une étude de ProPublica avait conclu que le logiciel fonctionnait avec des préjugés à l'encontre des Noirs.