États-UnisÉchec de la reconnaissance faciale lors d’une opération policière
Une femme a porté plainte contre la police de Détroit après avoir été arrêtée par erreur pour un vol à main armée en février, alors qu’elle était enceinte de 8 mois.
Face à la pression d’associations, de grands groupes comme Amazon, Microsoft, IBM et Google ont arrêté, au moins temporairement, de vendre leurs logiciels de reconnaissance faciale à la police (image prétexte).
AFPLe recours à la reconnaissance faciale par la police est de nouveau mis en cause aux États-Unis après la plainte d’une femme noire arrêtée en février, et libérée après une dizaine d’heures, pour un crime qu’elle n’avait pas commis.
Porcha Woodruff, une habitante de l’État du Michigan (nord), a porté plainte, la semaine dernière, pour arrestation abusive contre la Ville de Détroit et contre la policière chargée de l’enquête dans une affaire de vol de voiture avec violence.
Porcha Woodruff, identifiée comme suspecte après une recherche avec un logiciel de reconnaissance faciale, a passé «environ onze heures debout ou assise sur un banc en béton» au commissariat, alors qu’elle était enceinte de 8 mois, souligne la plainte. Quinze jours plus tard, en mars, un tribunal a rejeté les accusations contre elle faute de preuves.
«Vous plaisantez?»
«Étant donné les défauts bien connus des technologies de reconnaissance faciale, qui ont tendance à se tromper, la police de Détroit a enfreint les droits de la plaignante en échouant à la protéger contre des erreurs prévisibles et leurs conséquences», déclarent ses avocats dans la plainte.
Cette technologie d’intelligence artificielle (IA) est décriée depuis des années par les défenseurs des droits humains. Ils dénoncent notamment le fait que les algorithmes, entraînés à partir de populations majoritairement blanches, font davantage d’erreurs sur les personnes noires. Dans le cas de Porcha Woodruff, la police s’est servie d’images enregistrées par une caméra de vidéosurveillance dans une station-service.
«Vol de voiture à main armée? Vous plaisantez? Vous voyez que je suis enceinte de 8 mois?» a-t-elle lancé aux policiers qui se sont présentés chez elle le 16 février avec un mandat d’arrêt. Mais malgré les protestations de ses deux enfants, de son fiancé et de sa mère contactée par téléphone, elle «a été emmenée, fouillée et menottée devant sa famille et ses voisins», relate la plainte.
«Indifférence délibérée»
Après une journée au commissariat, elle s’est rendue à l’hôpital qui a constaté sa «faible fréquence cardiaque pour cause de déshydratation». Et «elle (y) a appris qu’elle avait des contractions dues au stress infligé».
La plainte reproche à la police de ne pas avoir «mis en place des règles appropriées pour l’utilisation de cette technologie» et de ne pas avoir «formé ses employés de manière adéquate», ce qui «révèle une indifférence délibérée à l’égard du préjudice potentiel subi par les personnes identifiées de manière erronée».
Aux États-Unis, face à la pression d’associations, de grands groupes comme Amazon, Microsoft, IBM et Google ont arrêté, au moins temporairement, de vendre leurs logiciels de reconnaissance faciale à la police.