Facebook s’impose un moratoire sur la reconnaissance faciale

Facebook cessera d’utiliser son système de reconnaissance faciale et supprimera les données biométriques de plus d’un milliard de personnes, a annoncé le géant des médias sociaux.

La société utilise la reconnaissance faciale depuis 2010 pour détecter automatiquement les personnes sur les photos et les vidéos, créant ainsi l’un des plus grands référentiels d’informations biométriques connus au monde.

Selon un article de blog de Jerome Pesenti, vice-président de l’intelligence artificielle de la société mère de Facebook, Meta, le moratoire auto-imposé fait partie d’une initiative à l’échelle de l’entreprise visant à limiter l’utilisation de la reconnaissance faciale dans ses produits.

« Nous devons peser les cas d’utilisation positifs de la reconnaissance faciale par rapport aux préoccupations sociétales croissantes, d’autant plus que les régulateurs n’ont pas encore fourni de règles claires », a-t-il écrit, ajoutant que le changement « entraînerait la suppression des modèles de reconnaissance faciale individuels de plus d’un milliard de personnes ».

Pesenti a ajouté que la reconnaissance faciale pourrait être utile dans un ensemble restreint de cas d’utilisation, y compris la vérification de l’identité des produits financiers ou l’accès aux appareils personnels, sur lesquels la société continuera à travailler tout en veillant à ce que « les gens aient la transparence et le contrôle sur leur reconnaissance automatique ».

Cette décision fait suite au changement de nom de l’entreprise par Facebook en Meta dans le cadre d’un changement de marque conçu pour promouvoir le « métavers » de l’entreprise – sa vision d’un Internet futur qui utilise la réalité augmentée (AR) et virtuelle (VR) pour changer la façon dont les gens interagissent à la fois en ligne et dans le monde réel – à la fin du mois d’octobre 2021.

Cependant, alors que Facebook a déclaré que les modèles de reconnaissance faciale seraient supprimés d’ici décembre 2021, la société conservera son utilisation de l’algorithme DeepFace qui alimente le système. Il n’a pas non plus exclu d’intégrer la reconnaissance faciale dans les futurs produits.

« Nous pensons que cela a le potentiel de permettre des cas d’utilisation positifs à l’avenir qui préservent la confidentialité, le contrôle et la transparence, et c’est une approche que nous continuerons d’explorer alors que nous examinons comment nos futures plates-formes et appareils informatiques peuvent mieux répondre aux besoins des gens », a écrit Pesenti. « Pour les applications futures potentielles de technologies comme celle-ci, nous continuerons d’être publics sur l’utilisation prévue, sur la façon dont les gens peuvent avoir le contrôle sur ces systèmes et leurs données personnelles, et sur la façon dont nous sommes à la hauteur de notre cadre d’innovation responsable. »

En 2020, Facebook a été contraint de payer 650 millions de dollars pour régler un recours collectif en matière de protection de la vie privée (initialement déposé en 2015) pour avoir prétendument utilisé les données biométriques de près de 1,6 million d’utilisateurs dans l’Illinois sans leur consentement ou leur permission, en violation de la loi sur la confidentialité des informations biométriques de l’État.

Lorsque la Federal Trade Commission (FTC) a infligé une amende de 5 milliards de dollars à Facebook en 2019, les contrôles et les paramètres confus de la société sur la façon et le moment où la reconnaissance faciale serait utilisée ont été cités comme l’une des raisons de la sanction.

La décision de limiter la reconnaissance faciale fait de Facebook la dernière grande entreprise technologique à s’imposer un moratoire sur son utilisation de la technologie.

En juin 2020, à la suite de manifestations de masse contre le meurtre de George Floyd par la police, les géants de la technologie Amazon, Microsoft et IBM ont tous convenu d’arrêter les ventes de leurs technologies de reconnaissance faciale respectives aux organismes américains d’application de la loi.

Les appels à légiférer contre ou à interdire purement et simplement l’utilisation de la technologie de reconnaissance faciale, en particulier dans les espaces publics, se sont accélérés tout au long de 2021.

Au Royaume-Uni, par exemple, l’ancien commissaire à la conservation et à l’utilisation du matériel biométrique, Paul Wiles, a déclaré au Comité des sciences et de la technologie de la Chambre des communes en juillet 2021 que, bien qu’il existe actuellement un cadre juridique général régissant l’utilisation des technologies biométriques, leur nature omniprésente et leur prolifération rapide signifiaient qu’un cadre juridique explicite était nécessaire.

Bien que la majeure partie des discussions du comité ait porté sur l’utilisation de la biométrie par la police, Wiles a déclaré que l’omniprésence et l’utilisation de ces technologies dans le secteur privé devraient également être abordées par une nouvelle législation.

« Il sera possible à l’avenir d’utiliser la reconnaissance faciale en direct uniquement pour un intérêt commercial privé, sans nécessairement faire prendre conscience à l’individu que cela se passe », a-t-il déclaré. « C’est simplement l’analogue de ce que nous voyons déjà dans l’utilisation des données que nous donnons tous chaque jour, non seulement aux grandes entreprises de technologie, mais aussi aux petites entreprises, et au fait qu’elles exploitent cela et vendent ces données sans que nous comprenions vraiment. »

En juin 2021, la commissaire à l’information Elizabeth Denham s’est dite « profondément préoccupée » par l’utilisation inappropriée et imprudente de la reconnaissance faciale en direct (LFR) dans les espaces publics, ce qui l’a incitée à publier un l’avis du commissaire à l’information officiel pour servir de guide aux entreprises et aux organisations publiques qui cherchent à déployer des technologies biométriques.

Dans un article de blog qui l’accompagne, elle a noté: « Il est révélateur qu’aucun des [private] les organisations impliquées dans nos enquêtes terminées ont été en mesure de justifier pleinement le traitement et, parmi les systèmes qui ont été mis en service, aucun n’était pleinement conforme aux exigences de la législation sur la protection des données. Toutes les organisations ont choisi d’arrêter, ou de ne pas poursuivre, l’utilisation de LFR. »

Le même mois, deux organes paneuropéens de protection des données – le comité européen de la protection des données (CEPD) et le Contrôleur européen de la protection des données (CEPD) – ont conjointement appelé à une interdiction générale de l’utilisation des technologies d’identification biométrique automatisée dans les espaces publics, arguant qu’elles constituent une ingérence inacceptable dans les libertés et droits fondamentaux.