Biais ethnique et vidéosurveillance

Publié le 6 janvier 2023

Le bureau de police de Jefferson Parish (Louisiane) s’est appuyé sur la reconnaissance faciale pour arrêter un homme. La reconnaissance s’est plantée.

Cette technologie permet à la police de comparer le visage de criminels suspects à une foule de photos d’identité judiciaire, de permis de conduire et même de selfies tirés des réseaux sociaux.

Mais une récente tentative du bureau du shérif de Jefferson Parish d’interpeler un voleur de sac à main haut de gamme par reconnaissance faciale s’est mal terminée pour un homme de Géorgie qui a été emprisonné pendant près d’une semaine à cause d’une fausse correspondance, selon son avocat.

Un détective a pris l’analyse de l’algorithme pour argent comptant afin d’obtenir un mandat d’arrêt contre Randal Reid, 28 ans, pour le vol en juin de sacs à main de luxe dans une boutique de dépôt-vente de Metairie, a déclaré l’avocat Tommy Calogero.

Selon le dossier judiciaire, un inspecteur de la police de Baton Rouge s’est ensuite appuyé sur l’identification de Reid par le JPSO [NDT : Jefferson Parish Sheriff’s Office] pour obtenir un mandat d’arrêt alléguant qu’il faisait partie des trois hommes impliqués dans un autre vol de sac à main de luxe la même semaine dans un magasin sur Jefferson Highway. Les voleurs auraient dérobé plus de 10 000 dollars de sacs à main Chanel et Louis Vuitton en trois jours.

La police locale a arrêté Reid le 25 novembre alors qu’il conduisait sur l’Interstate 20 dans le comté de Dekalb, en Géorgie, pour se rendre à une fête de Thanksgiving tardive avec sa mère, a-t-il déclaré.

« Ils m’ont dit que qu’un mandat d’arrêt avait été émis par Jefferson Parish. J’ai dit, "C’est quoi Jefferson Parish ? Je n’ai jamais été en Louisiane un seul jour de ma vie." Puis ils ont mentionné un vol. Non seulement je ne suis jamais allé en Louisiane, mais en plus je ne suis pas un voleur. »

Reid, considéré comme un fugitif, a été placé dans la prison du comté de DeKalb mais a été libéré le 1er décembre, selon un responsable de la prison. M. Calogero a déclaré que les détectives de la JPSO avaient admis "tacitement" l’erreur et avaient annulé le mandat de juillet.

« Je pense qu’ils se sont rendu compte qu’ils avaient pris des risques en procédant à une arrestation sur la base d’un visage », a-t-il déclaré.

Le bureau du shérif Joe Lopinto n’a pas répondu à plusieurs demandes d’informations sur l’arrestation et la libération de Reid, sur l’utilisation de la reconnaissance faciale par l’agence ou sur les garanties qui l’entourent. Ce bureau a également refusé une demande formelle concernant le mandat d’arrêt du 18 juillet pour Reid et des copies des politiques ou des achats liés à la reconnaissance faciale, invoquant une enquête en cours.

La police de Baton Rouge n’a pas non plus répondu aux questions concernant le mandat d’arrêt de Reid. Le mandat, signé par le juge Eboni Rose du 19e district judiciaire, ne précise pas comment le bureau de Lopinto a identifié Reid.

L’affaire met en lumière les pièges d’une technologie que de plus en plus d’organismes chargés de l’application de la loi adoptent dans tout le pays, même si les critiques soulignent que les recherches montrent que les mauvaises correspondances sont plus fréquentes pour certaines populations, notamment les noirs et les femmes.

Ces dernières années, certaines villes et certains États ont mis un frein à l’utilisation de la reconnaissance faciale par la police. Mais plusieurs d’entre eux, dont la Nouvelle-Orléans, ont depuis fait marche arrière en raison de l’augmentation de la criminalité.

En Louisiane, on sait peu de choses sur l’utilisation de la reconnaissance faciale en dehors de la Nouvelle-Orléans, où le conseil municipal a annulé cette année une interdiction de deux ans et fixé certaines règles.

La police de la Nouvelle-Orléans affirme que cette technique ne peut être utilisée que pour générer des pistes et que les agents doivent obtenir l’approbation de leurs supérieurs avant de déposer une demande auprès du Louisiana State Analytic and Fusion Exchange à Baton Rouge. Selon les nouvelles règles de la ville, toutes les correspondances possibles doivent également faire l’objet d’un examen par d’autres enquêteurs spécialisés dans la reconnaissance faciale.

Aide à la police ou fléau pour la vie privée ?

Ailleurs en Louisiane, il n’y a pas de réglementation. Un projet de loi de l’État visant à restreindre l’utilisation de la reconnaissance faciale a été enterré en 2021

L’institut Pelican Institute for Public Policy a plaidé en faveur de garde-fous juridiques. L’Association des shérifs de Louisiane était contre le projet de loi. Le directeur exécutif de l’association, Michael Ranatza, a fait valoir qu’une étude plus approfondie était nécessaire.

Loren Lampert, directeur exécutif de l’Association des procureurs de district de Louisiane, s’est également prononcé contre le projet de loi.

M. Lampert a déclaré la semaine dernière que cette technologie n’était utilisée par la police que pour trouver des suspects dans des affaires où il n’y en a pas, et que toute correspondance devait être corroborée, comme pour une empreinte digitale. « Je pense que tout le monde est d’accord pour dire qu’il y a des préoccupations qui doivent être prises en compte en ce qui concerne la précision et le potentiel d’utilisation abusive », a-t-il déclaré.

M. Ranatza a déclaré qu’il ne savait pas combien de shérifs de Louisiane utilisaient cette technologie.

« C’est un outil. Il nous aide à identifier un suspect. Je n’ai pas eu connaissance d’un cas où il a été utilisé exclusivement" pour assurer l’arrestation d’une personne », a-t-il déclaré le mois dernier. « Ça a toujours été une aide aux forces de l’ordre pour établir une cause probable ».

« Cette déclaration minimise l’étendue de la technologie et son potentiel d’abus entre les mains du gouvernement », a affirmé Chris Kaiser, directeur de la défense des droits pour l’ACLU de Louisiane.

« On ne regarde pas seulement quelques photos. On cherche dans une bibliothèque de milliers et potentiellement de millions de photos, potentiellement dans tout le pays et même à l’extérieur du pays », a-t-il déclaré. « On y trouve de tout ».

M. Kaiser a déclaré qu’aucun service de police n’admettra qu’un suspect soit fiché sur la seule base d’un algorithme.

« Ils diront toujours que c’est pour trouver une piste d’investigation », a-t-il dit. « Mais aucune protection n’est véritablement prévue ».

Les documents publics obtenus par le Southern Poverty Law Center pour 2021 indiquent que le bureau de Lopinto faisait partie des agences locales, étatiques et fédérales qui ont demandé des analyses par reconnaissance faciale par le biais du centre de renseignement de l’État.

Les dossiers montrent trois demandes du JPSO en 2021. La police d’État n’a pas répondu immédiatement à une demande de dossiers similaires pour 2022.

Il n’est pas certain que les détectives de Lopinto effectuent également des recherches de reconnaissance faciale en dehors du centre d’échange de l’État.

Des tentacules toujours plus grandes

Les rapports publiés par le Fusion Center en 2021 citent les noms de deux fournisseurs de reconnaissance faciale : Clearview AI et Morphotrak.

Le site web de Clearview AI se targue d’être « le plus grand réseau facial du monde », avec des dizaines de milliards d’images « provenant de sources web exclusivement publiques, y compris des médias, de sites web de photos d’identité, des réseaux sociaux publics et de nombreuses autres sources ouvertes ».

Morphotrak est devenu Idemia, une société française qui revendique des centaines de clients gouvernementaux pour ses produits de reconnaissance faciale.

La reconnaissance faciale suscite un intérêt croissant alors que les services de police, de moins en moins nombreux, s’appuient sur une prolifération de caméras publiques pour lutter contre la criminalité et que les algorithmes s’améliorent.

Selon une étude réalisée en 2021 par le National Institute of Standards and Technology, tous les algorithmes principaux peuvent identifier les passagers des aéroports dont les photos sont enregistrées dans le système dans plus de 99 % des cas lors de leur première apparition devant une caméra. Toutefois, cette étude et d’autres ont également révélé la persistance d’un biais dans les taux différents de faux positifs et négatifs en fonction de la race et du sexe.

Reconnaissance faciale biaisée

Certaines critiques ont fait valoir que la technologie entre les mains du gouvernement est si dangereuse qu’elle devrait être interdite. L’Electronic Privacy Information Center a soutenu cette année que la reconnaissance faciale était « intrinsèquement dangereuse », et permettait une « surveillance publique totale ».

« C’est un outil de surveillance puissant qui peut facilement être étendu à l’insu des gens », a déclaré Jeramie Scott, conseiller principal de l’EPIC.

Le blues du sosie

Selon Calogero, « Reid a été victime d’une fausse correspondance identifiée par l’algorithme, mais il y avait bien une ressemblance ».

Il décrit Reid, qui est noir, comme le portrait craché d’un homme filmé en juin dernier en train de saisir les numéros d’une carte de crédit volée à la caisse du magasin Second Act sur Metairie Road. Les voleurs étaient repartis avec 7 500 $ en sacs à main, selon un rapport d’incident du shérif.

La police de Baton Rouge affirme que ce sont les mêmes trois hommes qui ont volé un sac Chanel d’une valeur de 2 800 dollars en effectuant un faux achat par carte de crédit à la boutique Swap. Le détective Samuel Stafford de Baton Rouge a écrit que les hommes dans l’affaire du JPSO « semblent être les mêmes personne » que celles qui étaient impliquées dans le vol de Swap.

Stafford a également obtenu un mandat d’arrêt dans cette affaire pour un homme de la Nouvelle-Orléans âgé de 21 ans . Cependant, on ignore si cet homme a été interpelé dans le cadre de cette affaire.

Reid a déclaré que lors de son séjour en prison il craignait de perdre son emploi d’analyste des transports et d’être condamné pour des crimes qu’il n’a pas commis.

« Je ne mangeais pas, je ne dormais pas. Je pensais à ces accusations. Je n’ai rien entrepris parce que je ne savais pas ce qui se passait vraiment pendant tout ce temps », a-t-il déclaré. « Ils n’ont même pas tenté de procéder à la bonne identification. »

Des différences, comme un grain de beauté sur le visage de Reid, ont amené le JPSO à annuler le mandat, a déclaré Calogero. Il estime qu’il y avait une différence de 20 kilos entre Reid et le voleur de sac à main qu’il a vu sur les images de surveillance. Les « bras flasques » du coupable étaient un signe évident, a-t-il ajouté.

« La police aurait pu vérifier sa taille et son poids, faire l’effort de l’interroger ou demander une perquisition pour chercher des preuves. Il aurait obtempéré », a déclaré M. Calogero.

« Il y a 300 millions de personnes dans ce pays. Nous avons tous quelqu’un qui nous ressemble. »

***

À lire, sur le même sujet (en anglais) : https://fra.europa.eu/fr/publication/2022/bias-algorithm

Retrouvez-moi sur Mastodon →