Met Police achète un nouveau système de reconnaissance faciale rétrospective

Préoccupations relatives aux droits de l’homme

L’utilisation de la reconnaissance faciale et d’autres technologies biométriques, en particulier par les organismes d’application de la loi, est depuis longtemps une question controversée.

En juin 2021, deux organes paneuropéens de protection des données – le comité européen de la protection des données (CEPD) et le Contrôleur européen de la protection des données (CEPD) – ont conjointement appelé à une interdiction générale de l’utilisation des technologies d’identification biométrique automatisée dans les espaces publics, arguant qu’elles présentent une ingérence inacceptable dans les libertés et droits fondamentaux.

« Le déploiement de l’identification biométrique à distance dans des espaces accessibles au public signifie la fin de l’anonymat dans ces lieux », ont déclaré Andrea Jelinek, président du COMITÉ EUROPÉEN, et Wojciech Wiewiórowski, le CEPD, dans une déclaration commune.

« Des applications telles que la reconnaissance faciale en direct interfèrent avec les droits et libertés fondamentaux à un point tel qu’elles peuvent remettre en question l’essence de ces droits et libertés. »

Un certain nombre de groupes de campagne sur les droits numériques, notamment Big Brother Watch, Liberty, Access Now et European Digital Rights, ont également déjà appelé à l’interdiction de l’utilisation des technologies biométriques, y compris LFR et RFR, pour des motifs similaires.

S’adressant à Computer Weekly, Daniel Leufer, analyste des politiques européennes chez Access Now, a déclaré qu’un problème majeur avec la technologie de reconnaissance faciale en général est de savoir contre qui elle est utilisée: « Ce ne seront pas des personnes riches, blanches, de classe moyenne ou supérieure des quartiers chics de Londres qui auront une forte représentation dans ces bases de données. [the watch lists are drawn from].

« Nous savons que les Noirs sont ramassés plus souvent lors d’arrêts et de fouilles, [and] ont beaucoup plus de chances de se retrouver sur le radar de la police à cause de crimes extrêmement mineurs… alors que les Blancs s’en sortent beaucoup plus facilement. Toutes ces choses conduiront à la surreprésentation des groupes marginalisés dans les listes de surveillance, ce qui conduira à plus de correspondances et renforcera davantage cette tendance. »

En juillet 2021, l’ancien commissaire britannique à la biométrie, Paul Wiles, a déclaré au Comité des sciences et de la technologie de la Chambre des communes qu’un cadre législatif explicite était nécessaire pour régir l’utilisation des technologies biométriques et a souligné que la conservation des images de garde à vue dans la base de données nationale de la police (PND) était un problème majeur.

Selon Wiles, le PND détient actuellement 23 millions d’images prises pendant que les personnes étaient en détention, qu’elles aient été condamnées ou non par la suite. Ces images de garde à vue sont ensuite utilisées comme base pour les listes de surveillance de la reconnaissance faciale de la police, malgré une décision de la Haute Cour de 2012 concluant que la période de conservation de six ans du PND était disproportionnée et donc illégale.

Computer Weekly a demandé au MPS si les images de garde du PND allaientl être utilisé comme base pour les listes de surveillance RFR, ainsi que la façon dont il traite la conservation et la suppression des images de garde, mais n’a reçu aucune réponse au moment de la publication.

L’introduction de la RFR à grande échelle est également inquiétante du point de vue des droits de l’homme, a ajouté Leufer, car elle attise les différents points de friction associés à la surveillance de masse.

« L’une des choses qui nous a empêchés d’être dans un cauchemar de surveillance, ce sont les frictions et la difficulté de surveiller les gens. Vous regardez l’exemple classique de l’Allemagne de l’Est à l’époque, où vous aviez besoin de cet agent individuel qui vous suivait, interceptant vos lettres – cela coûtait cher et nécessitait énormément de main-d’œuvre », a-t-il déclaré.

« Avec la vidéosurveillance, il s’agissait pour les gens de parcourir des images, de faire des correspondances manuelles avec des bases de données… cette friction, le temps qu’il a fallu pour le faire, signifiait que la vidéosurveillance n’était pas aussi dangereuse qu’elle l’est maintenant. Le fait qu’il puisse maintenant être utilisé à cette fin nécessite une réévaluation de la possibilité d’avoir ces caméras dans nos espaces publics.

Leufer a ajouté que la prolifération des dispositifs de capture vidéo, des téléphones et des médias sociaux aux caméras de sonnette intelligentes et à la vidéosurveillance, crée une « abondance de séquences » qui peuvent être alimentées par le système. Et que, contrairement à LFR, où des caméras spécialement équipées sont déployées avec au moins un certain avertissement de la police, RFR peut être appliqué à des séquences ou des images capturées à partir de caméras ordinaires sans aucune connaissance publique.

« La vidéosurveillance, lorsqu’elle a été initialement déployée, était bon marché, facile et rapide, et la reconnaissance faciale rétroactive n’était pas une chose, de sorte que cela n’a pas été considéré comme une préoccupation dans ces évaluations initiales de la nécessité de la proportionnalité, de la légalité et du statut éthique des systèmes de vidéosurveillance », a-t-il déclaré. « Mais quand ils sont couplés à la reconnaissance faciale rétroactive, ils deviennent une bête complètement différente. »

MPS défend RFR

Dans sa soumission au MOPAC, le MPS a déclaré que la force devrait effectuer une analyse d’impact sur la protection des données (AIPD) du système, qui est légalement requise pour tout traitement de données susceptible d’entraîner un risque élevé pour les droits des personnes concernées. Il doit également être complété avant le début de toute activité de traitement.

Bien que l’AIPD n’ait pas encore été achevée, le MPS a ajouté qu’il avait déjà commencé à rédiger une évaluation d’impact sur l’égalité (EIE) dans le cadre de son devoir d’égalité dans le secteur public (PSED) afin d’examiner comment ses politiques et pratiques pourraient être discriminatoires.

Il a en outre noté que « le MPS connaît bien l’algorithme sous-jacent, ayant fait preuve d’une diligence considérable à ce jour », et que l’EIE « sera entièrement mise à jour une fois qu’un fournisseur aura été sélectionné et que le produit aura été intégré ».

En août 2020, l’utilisation de la technologie LFR par la police du sud du Pays de Galles (SWP) a été jugée illégale par la Cour d’appel, en partie parce que la police ne s’est pas conformée à son PSED.

Il a été noté dans le jugement que le fabricant dans cette affaire – la société japonaise de biométrie NEC, qui a acquis Northgate Public Services en janvier 2018 – n’a pas divulgué les détails de son système à SWP, ce qui signifie que la force n’a pas pu évaluer pleinement la technologie et ses impacts.

« Pour des raisons de confidentialité commerciale, le fabricant n’est pas prêt à divulguer les détails afin qu’ils puissent être testés. Cela peut être compréhensible, mais à notre avis, cela ne permet pas à une autorité publique de s’acquitter de son propre devoir, non délégable, en vertu de l’article 149 », indique la décision.

En réponse aux questions de Computer Weekly sur la diligence raisonnable qu’il a déjà entreprise, ainsi que sur la question de savoir s’il avait obtenu un accès complet aux systèmes RFR de Northgate, le MPS a déclaré que les fournisseurs potentiels avaient été invités à fournir des informations démontrant comment leurs produits RFR respectifs permettraient de se conformer aux exigences légales, y compris les obligations pertinentes en matière de protection des données et d’égalité.

« Le fournisseur sélectionné a été en mesure de souligner une très bonne performance dans les tests de reconnaissance faciale à grande échelle entrepris par le National Institute of Standards and Technology. [NIST]», a-t-il déclaré.

« Conformément à la nature continue des obligations légales, le Met continuera d’exercer une diligence sur l’algorithme à mesure que le nouveau système sera intégré au Met pour s’assurer que des niveaux élevés de performance dans le monde réel seront atteints. »

Il a ajouté que « en ligne [with the SWP court ruling] Bridges, le Met a l’obligation de s’être déclaré « directement ou par le biais d’une vérification indépendante que le logiciel ne présente pas de biais inacceptable en raison de la race ou du sexe ». Avant d’utiliser la technologie NEC RFR de manière opérationnelle, dans le cadre de son engagement à utiliser la technologie de manière transparente, le Met s’est engagé à publier l’AIPD et à s’assurer que l’algorithme respecte le pont.s’

Conception éthique

Afin d’atténuer tout impact potentiellement discriminatoire du système, le MPS s’est également engagé à intégrer la prise de décision « humain dans la boucle » dans le processus RFR, par lequel les opérateurs humains interviennent pour interroger la décision de l’algorithme avant que des mesures ne soient prises.

Cependant, un rapport de juillet 2019 du Human Rights, Big Data & Technology Project basé au Centre des droits de l’homme de l’Université d’Essex – qui a marqué le premier examen indépendant des essais de la technologie LFR par le MPS – a mis en évidence une « présomption d’intervention » perceptible parmi les policiers utilisant la technologie, ce qui signifie qu’ils avaient tendance à faire confiance aux résultats du système et à engager des individus qui, selon lui, correspondaient à la liste de surveillance utilisée. même quand ils ne l’ont pas fait.

En ce qui concerne la façon dont il traite la « présomption d’intervention » dans le contexte de la RFR, le MPS a déclaré que le cas d’utilisation était « très différent » parce qu’«il n’entraîne pas d’engagement immédiat » et fait plutôt « partie d’un processus d’enquête minutieux, toute correspondance étant une piste de renseignement pour que l’enquête progresse ».

Il a ajouté: « En tout état de cause, le système NEC offre un certain nombre de processus « conçus dans » (relatifs à la façon dont une correspondance est visualisée, évaluée et confirmée), qui aident à protéger la valeur du processus human-in-the-loop. Maintenant que NEC a été sélectionné, ceux-ci peuvent être considérés comme le système RFR est introduit dans le Met et sera un élément clé de l’AIPD.

Bien que la soumission du MPS indique que la police consultera le Comité d’éthique de la police de Londres au sujet de son utilisation de la technologie, la décision d’acheter le logiciel a été prise sans que ce processus n’ait lieu.

Interrogé sur la raison pour laquelle la proposition d’approvisionnement a été approuvée avant que le comité d’éthique de la police de Londres n’ait été consulté, un porte-parole du maire de Londres a déclaré: « Bien qu’il s’agit clairement d’un outil de maintien de l’ordre important, il est tout aussi important que la police du Met soit proportionnée et transparente dans la façon dont elle est utilisée pour conserver la confiance de tous les Londoniens.

« Le Comité d’éthique des services de police de London examinera les politiques appuyant l’utilisation de la technologie RFR et donnera des conseils à leur égard, et l’hôtel de ville continuera de surveiller son utilisation pour s’assurer qu’elle est mise en œuvre d’une manière légale, éthique et efficace. »

Le MPS a déclaré que, comme indiqué dans son mémoire, le groupe spécial sera toujours engagé : « Comme il ne s’agit pas d’une nouvelle technologie pour le Met, il sera important que LPEP examine les mesures de protection dans le contexte du produit NEC. En effet, différents fournisseurs adoptent des approches très différentes en matière de « protection de la vie privée dès la conception » et exigent donc des contrôles et des garanties d’utilisation différents. Ceux-ci ne pouvaient être mis en place et pris en compte par LPEP qu’après la sélection d’un fournisseur.

Selon un rapport publié dans Wired, les versions précédentes de la page Web de reconnaissance faciale du MPS sur la Wayback Machine montrent que des références à RFR ont été ajoutées à un moment donné entre le 27 novembre 2020 et le 22 février 2021.

Cependant, alors que le MPS a déclaré sur cette page qu’il « envisageait de mettre à jour la technologie utilisée » pour RFR, il y a très peu de choses accessibles au public sur ses capacités existantes. Computer Weekly a demandé depuis combien de temps le MPS utilise la technologie RFR et s’il a été déployé de manière opérationnelle, mais n’a reçu aucune réponse au moment de la publication.

RfR sera-t-il utilisé contre les manifestants ?

Un rapport de mars 2021 de l’Inspectorat of Constabulary and Fire & Rescue Services (HMICFRS) de Sa Majesté, qui a examiné l’efficacité avec laquelle la police britannique gère les manifestations, a noté que six forces de police en Angleterre et au Pays de Galles déploient actuellement la technologie RFR, bien qu’il n’ait pas précisé de quelles forces il s’agissait.

« Les opinions parmi nos personnes interrogées étaient partagées sur la question de savoir si la technologie de reconnaissance faciale a sa place dans le maintien de l’ordre dans les manifestations policières. Certains pensaient que le système serait utile pour identifier les manifestants qui commettent des crimes de manière persistante ou causent des perturbations importantes. D’autres estimaient qu’il violait les droits humains des manifestants, n’avait pas sa place dans une société démocratique et devrait être interdit », a-t-il déclaré.

« Dans l’ensemble, nous pensons que cette technologie a un rôle à jouer dans de nombreuses facettes du maintien de l’ordre, y compris la lutte contre les manifestants qui se comportent de manière illégale de manière persistante. Nous nous attendons à ce que de plus en plus de forces commencent à utiliser la reconnaissance faciale à mesure que la technologie se développe. »

Selon Leufer d’Access Now, la technologie de reconnaissance faciale peut avoir un « effet dissuasif » sur des manifestations tout à fait légitimes s’il y a même une perception qu’elle sera utilisée pour surveillant les participants.

« Si vous, en tant que citoyen, commencez à avoir l’impression d’être capturé partout où vous allez par ces caméras et que la police, qui ne se comporte pas toujours comme elle le devrait, a le potentiel de parcourir toutes ces séquences pour vous suivre où que vous alliez, cela place juste un vrai diproportion cette quantité de pouvoir entre leurs mains pour une efficacité limitée », a-t-il déclaré.

Quant à savoir s’il imposera des limites au moment où le RFR peut être déployé, y compris s’il sera utilisé pour identifier les personnes assistant à des manifestations ou à des manifestations, le MPS a déclaré que « le mémoire fournit quelques exemples quant au moment où le RFR peut être utilisé – par exemple, en ce qui concerne les images montrant des cambriolages, des agressions, des fusillades et d’autres scènes de crime.

« Cependant, pour s’assurer que le public peut prévoir comment le Met peut utiliser le RFR, le Met publiera, avant l’utilisation opérationnelle, les détails du moment où le RFR peut être utilisé. Cette publication suivra l’engagement avec LPEP – c’est parce que le moment où RFR peut être utilisé est une question éthique et juridique importante.