La Police de Milwaukee Envisage d'Échanger des Photos contre un Logiciel de Reconnaissance Faciale
L'industrie de la reconnaissance faciale est confrontée à un examen minutieux en raison de ses implications éthiques. Une proposition récente à Milwaukee a suscité encore plus de débats : le service de police de Milwaukee envisage d'échanger 2,5 millions de photos d'identité judiciaire à une entreprise privée, Biometrica, en échange d'un accès gratuit à son logiciel de reconnaissance faciale.
L'accord potentiel, dévoilé lors d'une récente réunion de la ville, implique que la police de Milwaukee fournisse à Biometrica une vaste collection de photos d'identité et de casiers judiciaires accumulés au fil des décennies. En échange, le service recevrait deux licences de recherche gratuites pour la technologie de reconnaissance faciale de Biometrica. Bien que l'utilisation prévue des photos d'identité par Biometrica ne soit pas confirmée, il est fort probable qu'elles soient utilisées pour former et affiner son logiciel. Les systèmes de reconnaissance faciale reposent souvent sur de vastes ensembles de données, parfois obtenus par des moyens discutables.
Préoccupations Éthiques et Potentiel de Biais
La proposition a soulevé d'importantes préoccupations éthiques, notamment en ce qui concerne le potentiel de biais et de discrimination. La technologie de reconnaissance faciale a démontré des inexactitudes dans l'identification des personnes ayant un teint plus foncé, en particulier les femmes et les personnes non binaires. Ce biais inhérent peut conduire à des arrestations injustifiées et à des identifications erronées, affectant de manière disproportionnée les communautés marginalisées.
David Gwidt, porte-parole de l'American Civil Liberties Union du Wisconsin, a souligné que la dépendance à des résultats incorrects de reconnaissance faciale a déjà conduit à de multiples arrestations injustifiées, les personnes noires étant touchées de manière disproportionnée. L'absence de réglementations concernant la notification individuelle, le consentement et les options de retrait volontaire exacerbe encore ces préoccupations.
Le Wisconsin, comme de nombreux États, n'a pas de lois spécifiques sur la confidentialité biométrique, ce qui rend les personnes vulnérables à l'utilisation abusive potentielle de leurs données faciales. Bien que les photos d'identité judiciaire soient généralement considérées comme des documents publics dans le Wisconsin, les implications éthiques de leur utilisation pour former la technologie de surveillance restent un point de discorde.
Risques de Sécurité des Données
Au-delà des considérations éthiques, des préoccupations ont été soulevées concernant la sécurité des données. Les entreprises de reconnaissance faciale ne sont pas à l'abri des violations de données, ce qui peut exposer les personnes au vol d'identité et à d'autres risques de sécurité. Contrairement aux mots de passe ou à d'autres informations personnelles, le visage d'une personne ne peut pas être facilement modifié, ce qui rend les données biométriques particulièrement sensibles.
Jeramie Scott, conseiller principal chez EPIC, a souligné l'ironie inhérente de l'accord proposé : la police de Milwaukee envisage d'offrir des millions de photos d'identité judiciaire, représentant probablement de manière disproportionnée des personnes de couleur, pour former une technologie de surveillance qui sera probablement utilisée de manière disproportionnée sur des personnes de couleur. Cela, selon lui, exacerberait les inégalités raciales existantes au sein du système de justice pénale.
Étant donné l'absence de réglementation fédérale complète sur la reconnaissance faciale et l'absence de réglementations au niveau de l'État dans le Wisconsin, les critiques soutiennent que la ligne de conduite la plus sûre serait que la police de Milwaukee s'abstienne d'utiliser complètement la technologie, en particulier en l'absence de garanties et de limitations claires.
L'ACLU locale a appelé à une pause de deux ans sur la mise en œuvre de toute nouvelle technologie de surveillance à Milwaukee, ainsi qu'à l'élaboration de réglementations pour les systèmes existants et à des possibilités de participation communautaire. Bien que le service de police de Milwaukee se soit engagé à élaborer une politique visant à empêcher les arrestations fondées uniquement sur des correspondances de reconnaissance faciale, l'absence de réglementations applicables soulève des préoccupations quant à la responsabilité.
Source: Gizmodo