Les députés approuvent un rapport s’opposant à certaines utilisations de l’IA par la police

Vote contre les amendements

En ce qui concerne les trois amendements en particulier – tous apportés par le groupe de centre-droit du Parti populaire européen (PPE) – les groupes de la société civile ont déclaré qu’ils ouvriraient la porte à la surveillance biométrique de masse et permettraient des pratiques discriminatoires de police prédictive.

Le premier amendement du PPE, par exemple, a supprimé l’opposition à l’utilisation de systèmes de police prédictive et a plutôt appelé à ce qu’il soit déployé par la police avec « la plus grande prudence … lorsque toutes les garanties nécessaires sont en place pour éliminer les préjugés imposés ».

Le deuxième amendement, quant à lui, a supprimé l’appel à un moratoire sur l’utilisation de la reconnaissance faciale et d’autres technologies biométriques, qui stipulait que cela devrait être en place au moins jusqu’à ce que les normes techniques puissent être considérées comme pleinement conformes aux droits fondamentaux.

Au lieu de cela, l’amendement du PPE appelait à une amélioration des normes techniques et soulignait « que le contrôle démocratique devrait être encore renforcé afin de garantir que ces technologies ne soient utilisées que lorsque cela est nécessaire et proportionné ».

Dans son troisième amendement, le PPE a supprimé l’appel du rapport à la CE pour qu’elle cesse de financer la recherche ou les déploiements liés à l’IA « qui sont susceptibles d’entraîner une surveillance de masse aveugle dans les espaces publics » ; et a plutôt fait valoir qu’il ne devrait cesser de financer que des projets qui contribuent à la surveillance de masse « ce qui n’est pas compatible avec… [EU] et le droit national ».

Il a ajouté que la surveillance de masse activée par l’IA ne devrait pas être interdite lorsqu’elle est « strictement nécessaire pour des objectifs très spécifiques … [with] autorisation judiciaire préalable », et avec des limites strictes de « lieu et de temps » sur le traitement des données.

Dans une lettre ouverte publiée le 4 octobre, EDRi et 39 autres groupes de la société civile – dont Access Now, Fair Trials, Homo Digitalis et l’App Drivers and Couriers Union (ADCU) – ont appelé les députés européens à voter contre les amendements au motif qu’ils autoriseront la police prédictive discriminatoire et la surveillance biométrique de masse.

« L’adoption de ces amendements porterait atteinte aux droits à un procès équitable, à une vie privée et familiale, à la non-discrimination, à la liberté d’expression et de réunion, aux droits à la protection des données et, fondamentalement, à la présomption d’innocence », indique la lettre.

« Nous croyons fermement que le rapport de l’itération adoptée par la commission LIBE a adopté la position la plus équilibrée et la plus proportionnelle sur l’IA dans l’application de la loi du point de vue des droits fondamentaux. »

En réponse au vote de l’eurodéputé, Griff Ferris, responsable juridique et politique chez Fair Trials, qui milite pour l’égalité de la justice pénale à l’échelle mondiale, a déclaré: « Nous sommes très heureux qu’une majorité significative de députés européens aient rejeté les amendements au rapport LIBE, prenant position contre l’IA et les systèmes de prise de décision automatisés qui reproduisent et renforcent le racisme et la discrimination, sapent le droit à un procès équitable et la présomption d’innocence, et le droit à la vie privée.

« Il s’agit d’un résultat historique pour les droits fondamentaux et la non-discrimination à l’ère technologique. Les députés européens ont clairement indiqué que les autorités policières et de justice pénale en EuropeNe plus être autorisé à utiliser des systèmes d’IA qui automatisent l’injustice, sapent les droits fondamentaux et aboutissent à des résultats discriminatoires.

« Il s’agit d’une déclaration d’intention forte selon laquelle le Parlement européen protégera les Européens de ces systèmes, et d’un premier pas vers l’interdiction de certaines des utilisations les plus nocives, y compris l’utilisation de l’IA prédictive et de profilage, et la surveillance de masse biométrique. »

Fair Trials avait précédemment appelé à une interdiction pure et simple de l’utilisation de l’IA et des systèmes automatisés pour « prédire » le comportement criminel en septembre 2021.

Écrivant sur Twitter, une conseillère principale en politiques chez EDRi, Sarah Chander, a déclaré à propos des amendements proposés que « dire à la police de « faire preuve de la plus grande prudence » lors du déploiement de la police prédictive et de la reconnaissance faciale … ne semble pas être un plan adéquat pour protéger nos droits et libertés.

L’eurodéputée verte Alexandra Geese a ajouté : « À la lumière du fait que plus de 60 000 Européens ont déjà signé la pétition Reclaim Your Face, et que le rapport de la commission compétente suit le mouvement et appelle à une interdiction bien nécessaire de la surveillance de masse biométrique, il est tout simplement scandaleux que les conservateurs tentent encore de faire passer leur idée d’un État policier ia en plénière. »

Contenu du débat

Le vote en faveur du rapport et contre les amendements a été précédé d’un débat le 4 octobre sur les avantages et les dangers de l’utilisation de l’IA dans le contexte de l’application de la loi, qui tournait largement autour du potentiel des technologies biométriques pour permettre la surveillance de masse.

Bien que la plupart des députés participant au débat aient reconnu les risques pour les droits fondamentaux associés à l’utilisation de l’IA par la police et le système judiciaire, leur tolérance à l’égard de ce risque et la manière dont il pourrait ou devrait être géré divergeaient considérablement.

Certains, par exemple, pensaient que les risques présentés par les technologies d’IA biométrique sont si grands que les organismes d’application de la loi devraient simplement être interdits de les utiliser.

« Nous pensons qu’en Europe, il n’y a pas de place pour la surveillance biométrique de masse, et que la lutte contre la criminalité ne peut pas se faire au détriment des droits des citoyens », a déclaré Brando Benifei, membre de l’Alliance progressiste des Socialistes et Démocrates, ajoutant que la surveillance biométrique dans les espaces publics sapera les principes démocratiques clés, y compris la liberté d’expression, d’association et de mouvement.

« En même temps, [using] Les techniques prédictives de lutte contre la criminalité présentent également un risque énorme de discrimination, ainsi que le manque de preuves de leur exactitude, sapent les fondements de notre démocratie. [and] la présomption d’innocence ».

Il a ajouté que le projet de loi sur l’IA de la Commission européenne, tel qu’il est actuellement, ne fournit pas les garanties nécessaires à la protection des droits fondamentaux, car même dans les cas d’utilisation les plus à haut risque, les développeurs d’IA sont eux-mêmes chargés de déterminer dans quelle mesure leurs systèmes s’alignent sur les règles du règlement, également appelées « évaluations de la conformité ».

« Nous pensons que l’auto-évaluation comporte trop de risques d’erreur et de violation qui ne seront découverts que plus tard par les autorités de sécurité, si elles ont les moyens à leur disposition pour le faire – cela entraînera des dommages irréparables dans la vie des gens. »

D’autres, cependant, ont déclaré que même si elle devrait être accompagnée de garanties juridiques, l’IA était un outil vital pour lutter contre la criminalité et serait absolument nécessaire à la sécurité de l’État; en particulier face à de nouvelles activités criminelles numériques.

« Aujourd’hui, les criminels modifient leurs opérations. Qu’il s’agisse d’un crime organisé, de la pornographie infantile terroriste, du blanchiment d’argent ou de la traite des êtres humains, cela se produit en ligne », a déclaré Tom Vandenkendelaere, membre du PPE, ajoutant que l’IA – y compris la reconnaissance faciale dans les espaces publics – permettra à la police de lutter contre la criminalité de manière plus ciblée et plus efficace.

« Cela ne veut pas dire que nous voulons donner carte blanche aux forces de police pour faire ce qu’elles veulent. Il est de notre devoir, en tant que décideurs politiques, de mettre en place un cadre juridique solide dans lequel ils peuvent utiliser l’IA en toute sécurité tout en garantissant la sécurité de nos citoyens.

« Il est trop facile de plaider en faveur de moratoires ou d’interdictions sans tenir compte des défis auxquels nos policiers sont confrontés sur le terrain. C’est notre devoir… pour trouver le juste équilibre entre l’utilisation des nouvelles technologies, d’une part, et la protection de nos droits fondamentaux, d’autre part, nous devons rester vigilants, mais nous ne devons pas jeter le bébé avec l’eau du bain.

D’autres députés ont souligné à plusieurs reprises la nécessité de l’IA pour mieux lutter contre la cybercriminalité, le terrorisme et le blanchiment d’argent, bien que la plupart d’entre eux aient reconnu la nécessité de garanties solides.

Jean-Lin Lacapelle, eurodéputé du groupe d’extrême droite Identité et Démocratie (ID), a estimé que l’IA a «n gâtés par l’Union européenne » parce qu’au lieu d' »assurer notre sécurité et celles de nos enfants, ils limitent l’utilisation » en ne l’utilisant pas « dans la lutte contre la délinquance » et pour détecter les demandeurs d’asile « mentant » sur leur âge à la frontière.

Certains eurodéputés ont également directement contesté le PPE sur ses amendements au rapport, y compris Svenja Hahn, membre de Renew Europe, qui a déclaré que les droits de l’homme n’étaient pas négociables et que le PPE « essayait de faire avancer ses rêves de surveillance de l’IA contre notre peur de la surveillance de masse ».

L’eurodéputé des Verts Marcel Kolaja, dont les commentaires ont ouvert le débat, s’est rallié au PPE et à ses amendements en des termes encore plus forts, les accusant de « torpiller » la proposition d’interdiction de la reconnaissance faciale dans les espaces publics « et de demander des moyens légaux pour espionner les citoyens ».

Notant que deux journalistes ont été assassinés dans l’UE au cours de l’année écoulée, Kolaja a ajouté que l’autorisation de la technologie de reconnaissance faciale dans les espaces publics donnerait aux oligarques « encore plus d’outils entre leurs mains pour persécuter et opprimer les journalistes ».

Une autre eurodéputée verte, Kim Van Sparrentak, a exhorté ses collègues du PPE à être plus réalistes : « L’IA n’est pas une solution rapide pour lutter contre la criminalité ou le terrorisme – une caméra IA ne détectera pas la radicalisation, et l’automatisation du travail de la police ne remplace pas le financement de la police et les travailleurs communautaires.

« En regardant les États-Unis, à New York et à Boston, en remplaçant la police prédictive basée sur l’IA par la police communautaire [has] San Francisco et Boston ont déjà interdit la biométrie dans les espaces publics – non seulement une interdiction est parfaitement réalisable, mais nous, dans l’UE, sommes loin derrière dans nos choix éthiques en matière d’IA. »