Uber fait face à une action en justice pour un système de vérification faciale « raciste »

Les chauffeurs syndiqués d’Uber intentent une action en justice contre le fournisseur d’applications de VTC pour des allégations d’utilisation d’une technologie de vérification faciale « discriminatoire sur le plan racial », qui, selon eux, a conduit à des dizaines de licenciements injustes.

Le système de vérification d’identité en temps réel d’Uber utilise Face API, un logiciel de correspondance faciale développé par Microsoft qui peut être utilisé pour la vérification faciale ou la reconnaissance, et agit essentiellement comme un outil de comparaison, vérifiant les selfies pris par les coursiers et les chauffeurs lorsqu’ils se connectent aux photographies de la base de données d’Uber pour confirmer leur identité.

L’action en justice est intentée par deux syndicats distincts – l’App Drivers and Couriers Union (ADCU) et l’International Workers’ Union of Great Britain (IWGB) – qui affirment que l’utilisation de la technologie par Uber a entraîné la suspension injustifiée de leurs membres à la suite d’une mauvaise identification par le système.

« Les travailleurs sont invités à fournir un selfie en temps réel et ils risquent d’être licenciés si le système ne parvient pas à faire correspondre le selfie avec une photo de référence stockée », a déclaré l’ADCU. À leur tour, les chauffeurs privés qui ont été licenciés ont également dû faire face à la révocation automatique de leur permis de conduire et de véhicule privé par Transport for London. [TfL]. »

En juillet 2021, Computer Weekly a rapporté que le régulateur des transports faisait face à de nombreux appels juridiques de la part des chauffeurs Uber à la suite de ses décisions de révoquer leurs licences privées sur la base d’informations erronées provenant des systèmes d’Uber.

Dans l’affaire ADCU, qui est soutenue par sa fiducie de données associée Worker Info Exchange et la Commission pour l’égalité et les droits de l’homme (EHRC), le syndicat a déposé une plainte auprès du tribunal du travail du centre de Londres au nom de l’ancien coursier UberEats Pa Edrissa Manjang et de l’ancien chauffeur Uber Imran Javaid Raja.

« Il est clair que l’intelligence artificielle et la prise de décision automatisée peuvent avoir un impact discriminatoire. Les conséquences, dans le contexte de la décision sur l’accès des gens au travail, peuvent être dévastatrices. Ces affaires sont extrêmement importantes », a déclaré l’avocat du couple, Paul Jennings, associé chez Bates Wells. « L’IA devient rapidement répandue dans tous les aspects de l’emploi et des principes importants seront établis par les tribunaux lorsqu’ils détermineront ces différends. »

L’IWGB a également déposé une plainte distincte pour discrimination raciale indirecte au nom d’un membre anonyme, dont le compte a été résilié à la suite d’une erreur de reconnaissance faciale. Il a en outre affirmé qu’il avait représenté plus de 200 chauffeurs et coursiers qui ont été injustement licenciés par Uber au cours de la dernière année seulement pour diverses raisons, y compris des échecs de reconnaissance faciale.

« L’intelligence artificielle et la prise de décision automatisée peuvent avoir un impact discriminatoire. Les conséquences, dans le contexte de la décision sur l’accès des gens au travail, peuvent être dévastatrices. »

Les deux syndicats ont souligné que de multiples études ont remis en question l’efficacité et l’exactitude de la technologie de vérification faciale, en particulier lorsqu’elle est utilisée pour identifier les personnes de couleur.

En 2018, par exemple, une étude du MIT a indiqué que les systèmes de reconnaissance faciale et de détection de Microsoft – en particulier l’API Face utilisée par Uber – avaient des préjugés sexistes et raciaux, constatant des taux d’erreur beaucoup plus élevés lors de l’identification des femmes ou des personnes à la peau plus foncée.

La nature potentiellement discriminatoire du système de vérification faciale d’Uber a été soulignée pour la première fois comme un problème affectant les travailleurs en mars 2021 lorsque, dans le cadre d’une enquête pour Câblé, 14 Les coursiers d’Uber Eats ont partagé des preuves avec le journaliste indépendant Andrew Kersley qui ont montré comment la technologie n’a pas réussi à reconnaître leurs visages, ce qui a conduit à des menaces de résiliation et de fermeture de compte.

Computer Weekly a contacté Uber pour obtenir des commentaires sur les actions en justice distinctes entreprises par les syndicats, ainsi que pour des allégations selon lesquelles son système de vérification faciale était discriminatoire sur le plan racial, mais n’a reçu aucune réponse.

Parallèlement à une action en justice, l’IWGB a également mis en place un boycott de 24 heures d’Uber pour le 6 octobre 2021 et une manifestation d’accompagnement devant le siège londonien de la société le même jour, soutenue par Black Lives Matter UK (BLM UK).

Les demandes formulées par l’IWGB comprenaient une augmentation des revenus des chauffeurs après une récente augmentation de la commission prise par Uber, ainsi qu’un processus équitable et transparent pour les résiliations de compte.

« L’impact de l’algorithme de reconnaissance faciale d’Uber reflète un manque total de soins pour les Noirs et leurs moyens de subsistance. L’économie à la demande qui crée déjà une immense précarité pour les travailleurs clés noirs est maintenant exacerbée par ce logiciel qui les empêche de travailler dans unll, uniquement en fonction de la couleur de leur peau. De telles pratiques racistes doivent cesser », a déclaré BLM UK.

Henry Chango Lopez, secrétaire général de l’IWGB, a ajouté: « Des centaines de chauffeurs et de coursiers qui ont servi pendant la pandémie ont perdu leur emploi sans aucune procédure régulière ni preuve d’actes répréhensibles, ce qui reflète la culture plus large d’Uber qui traite ses travailleurs à majorité BAME comme jetables. Uber doit de toute urgence abandonner cet algorithme raciste et réintégrer tous les chauffeurs qu’il a injustement licenciés. »

Une grève distincte organisée par l’ADCU à la fin du mois de septembre 2021 a fait des demandes similaires à Uber, notamment qu’il respecte une décision de la Cour suprême qui a explicitement statué que les chauffeurs devraient être payés à partir du moment où ils se connectent, et pas seulement lorsqu’ils sont affectés à des voyages, comme Uber l’a décidé un mois plus tard.

James Farrar, secrétaire général de l’ADCU et directeur de Worker Info Exchange, a déclaré qu’Uber n’avait mis en œuvre le système de reconnaissance faciale que pour sécuriser le renouvellement de sa licence, ce qui, selon lui, générerait des taux d’échec inacceptables lorsqu’il serait utilisé contre une main-d’œuvre principalement composée de personnes de couleur.

« Uber a ensuite doublé le problème en ne mettant pas en œuvre des garanties appropriées pour assurer un examen humain approprié de la prise de décision algorithmique », a-t-il ajouté.

L’ADCU et l’IWGB n’ont pas été officiellement reconnus par Uber, qui a plutôt choisi de signer une convention collective avec GMB en mai 2021.

Bien que ce soit la première fois qu’Uber reconnaisse un syndicat de ses chauffeurs partout dans le monde, l’accord ne permet pas de négocier collectivement les revenus des chauffeurs, y compris la mise en œuvre du salaire minimum par l’entreprise.