La police de Londres a révélé les résultats de son dernier déploiement de la technologie de reconnaissance faciale en direct (LFR) à Oxford Circus, qui a entraîné trois arrestations et la numérisation d’environ 15 600 informations biométriques.
Le Metropolitan Police Service (MPS) a déclaré que son déploiement LFR le jeudi 7 juillet à l’extérieur d’Oxford Circus faisait partie d’une opération à long terme visant à lutter contre les crimes graves et violents dans l’arrondissement de Westminster.
Parmi les personnes arrêtées figure un homme de 28 ans recherché en vertu d’un mandat d’arrêt pour voies de fait contre un travailleur d’urgence; une femme de 23 ans recherchée pour possession avec l’intention de fournir des drogues de classe A; et un homme de 29 ans pour possession avec l’intention de fournir la classe A et défaut de comparaître devant le tribunal.
Les personnes arrêtées ont été engagées et détenues par des agents à la suite d’alertes provenant du système LFR monté sur véhicule, qui permet à la police d’identifier les personnes en temps réel en scannant leur visage et en les comparant à une base de données d’images faciales, ou « liste de surveillance », lorsqu’elles passent.
Selon le document d’examen post-déploiement partagé par le MPS, le déploiement en dehors d’Oxford Circus – l’un des États de métro les plus fréquentés de Londres – a généré quatre alertes de correspondance, qui étaient toutes des « alertes réelles ». Il estime également que le système a traité les informations biométriques d’environ 15 600 personnes.
Cependant, seules trois des alertes ont conduit la police à engager des personnes, puis à les arrêter. Computer Weekly a contacté le MPS pour obtenir des éclaircissements sur la quatrième alerte, qui indiquait que les opérateurs de LFR et les agents d’engagement n’étaient pas en mesure de localiser l’individu dans la foule.
La dernière fois que la police a déployé LFR à Oxford Circus le 28 janvier 2022 – le lendemain de l’assouplissement des exigences du gouvernement britannique en matière de port du masque – le système a généré 11 alertes de correspondance, dont l’une était fausse, et a scanné les informations biométriques de 12 120 personnes. Cela a conduit à l’arrestation de sept personnes par des agents et à quatre arrestations ultérieures.
Commentant le déploiement le plus récent, Griff Ferris, responsable juridique et politique de l’organisation non gouvernementale Fair Trials, qui était présent ce jour-là, a déclaré: « L’utilisation opérationnelle par la police de la surveillance par reconnaissance faciale lors de déploiements à Londres au cours des six dernières années a entraîné l’identification erronée, l’arrestation et la fouille injustifiées de la police, et même la prise d’empreintes digitales. Il a également été clairement discriminatoire, les Noirs faisant souvent l’objet de ces erreurs d’identification et d’arrêt.
Malgré cela, la police métropolitaine, actuellement sans commissaire, dans des mesures spéciales, et les auteurs d’incidents répétés témoignant du sexisme et du racisme institutionnels, tentent toujours de prétendre qu’il s’agit d’un « procès ». La reconnaissance faciale est un outil de surveillance autoritaire qui perpétue le maintien de l’ordre raciste. Il ne devrait jamais être utilisé.
En réponse aux questions de Computer Weekly sur la question de savoir si le MPS a recréé des conditions opérationnelles dans un environnement contrôlé sans utiliser d’images de garde réelles, il a déclaré: « Le MPS a fait preuve d’une diligence significative en ce qui concerne la performance de son algorithme. » Il a ajouté qu’une partie de cette diligence consiste à continuer à tester la technologie dans des conditions opérationnelles.
« Parallèlement au déploiement opérationnel, le Met a testé ses algorithmes de reconnaissance faciale avec le National Physical Laboratory. [NPL]. Des bénévoles de tous âges et de tous horizons passent devant le système de reconnaissance faciale… Après cela, les experts scientifiques et technologiques du NPL examineront les données et produiront un rapport sur le fonctionnement du système. Nous rendrons ces conclusions publiques une fois que le rapport aura été terminé », a-t-il déclaré.
Dans le document « Comprendre l’exactitude et les biais » sur le site Web de MPS, il a ajouté que les tests algorithmiques dans des contextes contrôlés ne peuvent mener la technologie que jusqu’à présent, et que « d’autres tests contrôlés ne refléteraient pas avec précision les conditions opérationnelles, en particulier le nombre de personnes qui doivent passer le système LFR d’une manière nécessaire pour fournir au Met une assurance supplémentaire ».
Appels en faveur d’un nouveau cadre législatif pour la biométrie
En juin 2022, la Ryder Review – un examen juridique indépendant sur l’utilisation des données et des technologies biométriques, qui s’est principalement penché sur son déploiement par les autorités publiques – a révélé que le cadre juridique actuel régissant ces technologies n’est pas adapté à son objectif, n’a pas suivi le rythme des progrès technologiques et ne précise pas quand et comment la biométrie peut être utilisée. ou les processus à suivre.
Elle a également constaté que les arrangements actuels en matière de surveillance sont fragmentés et prêtent à confusion, et que la situation juridique actuelle ne protège pas adéquatement les droits individuels ou ne confronte pas le sous-jacent même.ial les atteintes à la vie privée que l’utilisation de la biométrie peut causer.
« Mon examen juridique indépendant montre clairement que le régime juridique actuel est fragmenté, confus et ne parvient pas à suivre le rythme des progrès technologiques. Nous avons besoin de toute urgence d’un nouveau cadre législatif ambitieux spécifique à la biométrie », a déclaré Matthew Ryder QC de Matrix Chambers, qui a mené l’examen. « Nous ne devons pas permettre à l’utilisation des données biométriques de proliférer sous des lois inadéquates et une réglementation insuffisante. »
Fraser Sampson, l’actuel commissaire britannique à la biométrie et aux caméras de surveillance, a déclaré en réponse à l’examen Ryder: « Si les gens veulent avoir confiance dans l’utilisation légitime des technologies biométriques, le cadre de responsabilité doit être complet, cohérent et cohérent. Et si nous voulons compter sur le consentement implicite du public, ce cadre devra être beaucoup plus clair. »
Nous ne devons pas permettre que l’utilisation des données biométriques prolifère sous des lois inadéquates et une réglementation insuffisante
Matthew Ryder, Chambres matricielles
L’absence de législation entourant la reconnaissance faciale en particulier est préoccupante depuis un certain nombre d’années. En juillet 2019, par exemple, la commission des sciences et de la technologie du Parlement britannique a publié un rapport identifiant l’absence d’un cadre et a appelé à un moratoire sur son utilisation jusqu’à ce qu’un cadre soit en place.
Plus récemment, en mars 2022, la commission de la justice et des affaires intérieures de la Chambre des Lords (JHAC) a conclu une enquête sur l’utilisation de technologies algorithmiques avancées par la police britannique, notant qu’une nouvelle législation serait nécessaire pour régir l’utilisation générale de ces technologies par les forces de police (y compris la reconnaissance faciale), qu’elle a décrites comme « un nouveau Far West ».
Le gouvernement, cependant, a largement rejeté les conclusions et les recommandations de l’enquête, affirmant qu’il existe déjà « un réseau complet de freins et contrepoids » en place.
Bien que l’examen Ryder et le JHAC aient suggéré de mettre en œuvre des moratoires sur l’utilisation de la LFR – du moins jusqu’à ce qu’un nouveau cadre législatif et un nouveau code de pratique soient en place – le gouvernement a déclaré dans sa réponse au comité qu’il n’était « pas convaincu par la suggestion », ajoutant : « Les moratoires sont un processus lourd en ressources qui peut créer des retards importants dans le déploiement de nouveaux équipements. »
Interrogé par Computer Weekly pour savoir si le MPS envisagerait de suspendre son utilisation de la technologie, il a cité cette réponse du gouvernement, ajoutant: « L’utilisation de la reconnaissance faciale par le Met a vu de nombreuses personnes arrêtées maintenant pour des infractions violentes et d’autres infractions graves. Il s’agit d’une tactique opérationnelle qui aide à assurer la sécurité des Londoniens et reflète nos obligations envers les Londoniens de prévenir et de détecter la criminalité. »
Nécessaire et proportionné?
Avant de pouvoir déployer la technologie de reconnaissance faciale, le MPS doit répondre à un certain nombre d’exigences liées à la nécessité, à la proportionnalité et à la légalité.
Par exemple, le document de mandat légal du MPS – qui expose la mosaïque complexe de lois que la force prétend lui permettre de déployer la technologie – indique que « les ordonnateurs doivent décider que l’utilisation de LFR est nécessaire et pas seulement souhaitable pour permettre au MPS d’atteindre son objectif légitime ».
En réponse à des questions sur la façon dont la force a décidé que le déploiement du 7 juillet était nécessaire, le MPS a affirmé: « Le déploiement a été autorisé sur la base d’un dossier de renseignement et de la nécessité opérationnelle de se déployer, conformément aux documents LFR du Met. »
En ce qui concerne la base sur laquelle le déploiement a été jugé proportionné, il a ajouté: « La proportionnalité de ce déploiement a été évaluée en tenant dûment compte du cas de renseignement et de la nécessité opérationnelle de déployer, tout en pesant l’impact sur ceux qui ont été ajoutés à la liste de surveillance et ceux qui pourraient être censés passer le système LFR. »
Le déploiement du LFR, selon le document d’examen du MPS, contenait 6 699 images dans les listes de surveillance, scannait les informations de 15 600 personnes et générait quatre alertes, conduisant à trois arrestations.
Les justifications présentées à Computer Weekly par le MPS concernant la nécessité et la proportionnalité sont exactement les mêmes que celles fournies après son dernier déploiement de LFR Oxford Circus fin janvier 2022.
L’analyse d’impact sur la protection des données (AIPD) du MPS indique également que « toutes les images soumises pour inclusion sur une liste de surveillance doivent être légalement détenues par le MPS ».
En 2012, une décision de la Haute Cour a conclu que la conservation des images de garde à vue – qui sont utilisées comme principale source de listes de surveillance – par la police métropolitaine était illégale, les informations des personnes non condamnées étant conservées de la même manière que celles qui ont finalement été condamnées. Elle a également estimé que la période de conservation minimale de six ans n’était pas proportionnée.
S’adresser à la Scienc parlementaireLe 19 mars 2019, Paul Wiles, alors commissaire à la biométrie, a déclaré qu’il y avait une « très mauvaise compréhension » de la période de conservation entourant les images de garde à vue dans les forces de police en Angleterre et au Pays de Galles.
Il a ajouté que même si les personnes condamnées et non condamnées pouvaient demander que leurs images soient retirées, la présomption étant que la police le ferait s’il n’y avait aucune bonne raison de ne pas le faire, il y a « peu de preuves que cela était en cours ».
« Je ne suis pas sûr que l’affaire juridique [for retention] est assez fort, et je ne suis pas sûr qu’il résisterait à une nouvelle contestation judiciaire », a-t-il déclaré.
Lorsqu’on lui a demandé comment il avait résolu ce problème de conservation légale et s’il pouvait garantir que chacune des 6 699 images figurant sur les listes de surveillance du 7 juillet était légale, le MPS a cité l’article 64A de la loi de 1984 sur la police et les preuves pénales, qui donne à la police le pouvoir de photographier les personnes détenues en détention et de conserver cette image.
Il a ajouté que les images de garde à vue sont également conservées conformément aux lignes directrices de la gestion des pratiques policières autorisées par la police (MOPI APP).
En juillet 2019, un rapport du Human Rights, Big Data & Technology Project basé au Centre des droits de l’homme de l’Université d’Essex – qui a marqué le premier examen indépendant des essais de la technologie LFR par la police métropolitaine – a mis en évidence une « présomption d’intervention » perceptible parmi les policiers utilisant la technologie, ce qui signifie qu’ils avaient tendance à faire confiance aux résultats du système et à engager des individus qui, selon elle, correspondaient à la liste de surveillance utilisée même lorsqu’ils ne le faisaient pas.
Sur la façon dont il a résolu ce problème, le MPS a déclaré qu’il avait mis en place une formation supplémentaire pour les agents impliqués dans les opérations de reconnaissance faciale.
« Cette contribution est donnée avant chaque déploiement de LFR pour s’assurer que les agents sont au courant des capacités actuelles des systèmes. LFR est un outil qui est utilisé pour aider à atteindre les objectifs plus larges de l’opération de police, il ne remplace pas la prise de décision humaine », a-t-il déclaré. « Au cours de la formation, on rappelle aux agents l’importance de prendre leurs propres décisions quant à savoir s’ils doivent ou non dialoguer avec un membre du public. »
Technologie3 ans ago
Monde3 ans ago
Monde2 ans ago
Monde3 ans ago
Monde3 ans ago
France3 ans ago
France3 ans ago
France3 ans ago