Les députés votent pour l’extension du mandat d’Europol en ce qui concerne les données

Les députés contredisent le vote précédent s’opposant à certaines utilisations de l’IA par la police

Les députés de la commission LIBE ont déjà voté en faveur de la proposition de prolongation du mandat d’Europol le 12 octobre 2021, avec 47 pour et 16 contre. Parmi ceux qui ont soutenu la proposition, tous appartenaient au Parti populaire européen (PPE), aux délégations centristes Renew ou de centre-gauche des Socialistes & Démocrates, tandis que ceux qui ont voté contre appartenaient aux délégations des Verts ou de gauche.

Cependant, une semaine plus tôt, le 5 octobre, le Parlement a approuvé un rapport de la commission LIBE sur l’utilisation de l’IA par la police en Europe, qui s’opposait à l’utilisation de cette technologie pour « prédire » les comportements criminels et appelait à l’interdiction de la surveillance de masse biométrique.

Alors que certains membres de centre-droit de LIBE du groupe PPE ont fait pression pour trois amendements au rapport de la commission qui auraient permis à la police européenne de mener plus facilement des analyses prédictives et une surveillance biométrique – ce qui, selon les critiques de la société civile à l’époque, aurait affaibli l’engagement de l’Union en faveur des droits humains fondamentaux s’il avait été accepté – ils ont également été rejetés par le Parlement au sens large le 5 octobre.

Le texte intégral du rapport LIBE identifie clairement que de nombreuses techniques d’identification basées sur l’IA utilisées aujourd’hui « identifient et classent de manière disproportionnée, et causent donc des dommages aux personnes racialisées, aux personnes appartenant à certaines communautés ethniques, aux personnes LGBTI, aux enfants et aux personnes âgées, ainsi qu’aux femmes ».

Il « souligne en outre l’asymétrie de pouvoir entre ceux qui utilisent les technologies de l’IA et ceux qui y sont soumis », et appelle à l’interdiction pure et simple de l’utilisation des technologies liées à l’IA pour proposer des décisions judiciaires ; pour tout traitement biométrique qui conduit à une surveillance de masse dans les espaces publics; et pour la notation à grande échelle des individus.

S’adressant au Parlement européen le 21 octobre 2021 avant le vote du mandat, l’eurodéputée verte Saskia Bricmont a déclaré : « Autoriser Europol à développer des projets de recherche et d’innovation en matière d’intelligence artificielle pour la police et les utilisations expérimentales, et promouvoir la technologie de reconnaissance faciale, est quelque chose auquel le Parlement s’est opposé il y a seulement deux semaines. »

Elle a ajouté que la « Commission propose une réforme qui légaliserait les pratiques illégales » d’Europol, se référant à la décision du Contrôleur européen de la protection des données (CEPD) de septembre 2020 de réprimander l’agence pour ses pratiques de traitement des données.

Plus précisément, le CEPD a constaté qu’Europol allait au-delà de son mandat actuel en collectant les données à caractère personnel de personnes qui ne s’étaient livrées à aucune activité criminelle.

Un chèque en blanc pour développer des systèmes d’IA à haut risque

Bien que la gestion d’EuropolLe conseil d’administration sera désormais tenu de nommer un officier aux droits fondamentaux à la suite du vote du Parlement, et le CEPD sera chargé de superviser les opérations de traitement des données à caractère personnel de l’agence, Fair Trials – une organisation non gouvernementale (ONG) qui milite pour un système judiciaire plus équitable à l’échelle mondiale – a déclaré que le nouveau mandat donnera effectivement à Europol un « chèque en blanc » pour utiliser et développer davantage les systèmes d’IA à haut risque pour le maintien de l’ordre.

« Nous sommes profondément déçus et préoccupés par le vote d’aujourd’hui en faveur de la prolongation du mandat d’Europol. Les députés ont déjà reconnu la grave menace que l’intelligence artificielle dans le maintien de l’ordre fait peser sur les droits fondamentaux. Nous ne comprenons pas pourquoi ils ont maintenant donné carte blanche à Europol pour développer et utiliser ces mêmes outils qui renforcent la discrimination et portent atteinte aux droits de l’homme », a déclaré Laure Baudrihaye-Gérard, directrice juridique et politique de Fair Trials.

« Tous les organismes d’application de la loi doivent agir avec responsabilité et une surveillance significative. Il n’y a aucune raison pour qu’Europol soit exempté de ces obligations. »

Elle a ajouté que bien que la loi sur l’intelligence artificielle (AIA) proposée par la CE soit encore à débattre au Parlement européen, elle contient déjà des exemptions spécifiques pour Europol, ce qui signifie que l’agence et tout système d’IA qu’elle déploie ne seront pas soumis aux garanties.

Ces découpages se trouvent à l’article deux de l’AIA et au considérant 11 du préambule, qui mentionne spécifiquement Europol.

Des experts et des organisations de droits civils numériques – y compris Access Now et European Digital Rights (EDRi) – ont déjà déclaré à Computer Weekly que l’AIA ne protégerait pas les droits fondamentaux, affirmant qu’elle agirait essentiellement comme un feu vert pour un certain nombre de cas d’utilisation à haut risque en raison de son accent sur les normes techniques et l’atténuation des risques pour les droits de l’homme.

Selon Baudrihaye-Gérard, l’extension du mandat d’Europol en combinaison avec les exemptions de l’AIA permettrait effectivement à l’agence criminelle de fonctionner avec peu de responsabilité et de surveillance lorsqu’il s’agit de développer et d’utiliser l’IA pour le maintien de l’ordre.

« Il s’agit d’une découpage massive qui permettrait à Europol de fonctionner sans autre réglementation que celle prévue dans son mandat, qui sera maintenant encore étendu », a-t-elle déclaré.

« Compte tenu du vote d’aujourd’hui, nous nous engageons sur une voie dans laquelle Europol est autorisé à fonctionner avec peu de responsabilité ou de surveillance. Personne ne pose de questions. Personne ne tient l’agence pour responsable. C’est profondément préoccupant pour les droits fondamentaux, y compris le droit à un procès équitable et la présomption d’innocence. »

Alors que les critiques affirment que la refonte du mandat d’Europol contredit le vote précédent des eurodéputés sur l’utilisation de l’IA par la police européenne, son rapporteur, Javier Zarzalejos, membre du PPE, a fait valoir que ce n’était pas le cas.

« La réforme du mandat d’Europol est une demande de longue date de ce Parlement, et est principalement motivée par la nécessité de doter l’agence de nouveaux outils et capacités pour faire face à la transformation numérique », a-t-il déclaré aux eurodéputés avant le vote.

« Les criminels ont adapté leur modus operandi à la nouvelle réalité numérique et, par conséquent, il est nécessaire de permettre à Europol de mieux soutenir les États membres dans la lutte contre ces menaces à la sécurité en constante évolution. »

Il a ajouté que le nouveau mandat introduirait des garanties supplémentaires pour garantir le respect des droits fondamentaux.