Top 10 des histoires technologiques et éthiques de 2020

1. Les entreprises technologiques sont sous surveillance pour leurs liens avec les forces de l’ordre

À la suite d’une réaction internationale massive contre le racisme et la brutalité policières déclenchée par le meurtre de George Floyd à Minneapolis en mai 2020, les entreprises technologiques privées ont commencé à faire l’objet d’un examen plus minutieux pour leurs relations avec les forces de l’ordre.

En moins d’un mois, les manifestations ont incité les géants de la technologie Amazon, Microsoft et IBM à arrêter les ventes de leurs technologies respectives de reconnaissance faciale aux forces de l’ordre américaines. Cependant, tous les trois sont restés silencieux sur la façon dont d’autres technologies, telles que les algorithmes prédictifs et les caméras vidéo portées par le corps, peuvent également être utilisées pour alimenter l’injustice raciale et les services de police discriminatoires.

Malgré ces mesures, qui ont été condamnées par certains comme un simple coup de relations publiques, de nombreux militants de la protection de la vie privée n’étaient pas satisfaits et continuent de faire pression pour une interdiction permanente de l’utilisation de la technologie.

« Il devrait y avoir une interdiction nationale de l’utilisation de la surveillance du visage par le gouvernement », a déclaré l’Electronic Frontier Foundation dans un billet de blog. « Même si la technologie était fortement réglementée, son utilisation par le gouvernement continuerait d’exacerber une crise policière dans ce pays qui nuit de façon disproportionnée aux Noirs américains, aux immigrants, aux personnes non maisons et à d’autres populations vulnérables. »

2. La réglementation européenne à venir sur les minéraux de conflit ne couvre pas les entreprises technologiques

Le prochain règlement de l’Union européenne sur les minéraux de conflit vise à endiguer le flux de minéraux 3TG (étain, tantale, tungstène et or) en provenance des zones de conflit et d’autres zones à haut risque. Toutefois, après une inspection plus approfondie Computer Weekly a constaté un certain nombre d’échappatoires dans les nouvelles règles qui signifient que les entreprises technologiques multinationales – qui comptent sur ces ressources naturelles vitales pour leurs produits et composants – ne sont pas couverts.

Par exemple, les entreprises technologiques ne seront pas tenues de surveiller, de suivre ou d’agir autrement pour retirer les minéraux de leurs chaînes d’approvisionnement mondiales; un certain nombre de minéraux essentiels à l’industrie de la technologie, comme le cobalt et le lithium, sont ignorés par le règlement; et les entreprises ne seront même pas pénalisées si elles sont jugées en violation des règles.

Comme c’est le cas pour les tentatives réglementaires ou législatives antérieures de traiter des minéraux de conflit, le règlement ne fera pas grand-chose non plus pour ceux qui vivent et travaillent sur le terrain dans des zones de conflit riches en minéraux comme la République démocratique du Congo.

Les personnes à qui Computer Weekly s’est entretenu ont plutôt suggéré de s’éloigner des modèles volontaires de gouvernance d’entreprise et de responsabilité sociale pour se concentrer sur l’augmentation de la capacité productive de ceux qui vivent dans des zones de conflit, afin qu’ils puissent développer leurs propres solutions à ce qui sont essentiellement des conflits profondément politiques.

3. Les universités britanniques s’associent au ministère de l’Intérieur et à la police dans le projet de reconnaissance faciale pour identifier les visages cachés

Au début du mois de mars, il est venu à la lumière que le ministère de l’Intérieur et le Metropolitan Police Service collaboraient avec les universités britanniques sur un projet de reconnaissance faciale en direct (LFR), connu sous le nom de « correspondance faciale pour la récupération automatique de l’identité, la reconnaissance, la vérification et la gestion », ou FACER2VM, qui pourrait identifier les personnes portant des masques ou d’autres revêtements faciaux.

Selon les informations figurant sur UK Research and Innovation, les coordinateurs de projetsleurs recherches pour avoir un impact substantiel.

« On s’attend à ce que l’impact sociétal soit multiforme », a-t-il déclaré. « Les capacités biométriques non limitées contribueront de manière significative au programme de sécurité du gouvernement dans le cadre des villes intelligentes et de la sécurité nationale. Il peut faciliter efficacement l’accès aux services publics.

Alors que les rapports d’autres médias se sont concentrés sur les liens de FACER2VM avec l’Université du Jiangnan, ce qui a suscité des craintes que le projet pourrait améliorer la capacité du gouvernement chinois à identifier à la fois les manifestants masqués à Hong Kong et les musulmans ouïghours au Xinjiang, l’utilisation de cette technologie par la police ou les services de sécurité britanniques est également préoccupante, car le général LFR a déjà été utilisé contre les manifestants dans le sud du Pays de Galles , tandis que les officiers à travers la Grande-Bretagne filment maintenant régulièrement des rassemblements et des démonstrations.

4. Grève des travailleurs de la logistique amazonienne en ce qui concerne les préoccupations concernant la sécurité au travail

À la mi-avril, peu après l’entrée en vigueur des blocages officiels dans le monde entier, le géant de la vente au détail en ligne Amazon – qui s’est très bien passé financièrement pendant la pandémie – a été frappé par une vague de grèves dans ses entrepôts européens et nord-américains alors que les travailleurs de la logistique de première ligne protestaient contre les « conditions de travail dangereuses » et « l’inaction des entreprises ».

Alors que les grévistes se plaignaient d’un manque de gants de latex protecteurs et d’un désinfectant pour les mains, d’un surpeuplement pendant les quarts de travail et de barrières élevées à la rémunération en quarantaine, la première vague a débuté en Espagne et en Italie après qu’Amazon a refusé de fermer ses installations après avoir appris qu’un certain nombre de travailleurs avaient contracté le coronavirus.

Suivant une tendance similaire à celle de leurs homologues européens, les travailleurs américains ont commencé à faire grève après qu’Amazon a décidé de garder les entrepôts ouverts.

Un certain nombre d’employés d’Amazon ont depuis été licenciés pour avoir participé aux grèves ou avoir montré leur soutien public à ceux qui l’ont fait – allégations selon lesquelles Amazon continue de contester.

5. Christian Smalls, employé d’Amazon licencié, parle à Computer Weekly de son traitement

Après avoir fait état de la première vague de grèves amazoniennes, Computer Weekly est entré en contact avec Christian Smalls, un assistant de processus à l’entrepôt d’Amazon Staten Island à New York, qui a été la première personne licenciée pour avoir parlé de l’état présumé de ses entrepôts pendant la pandémie.

La cessation d’emploi de Smalls demeure une question litigieuse, les deux parties donnant des versions différentes des événements.

Smalls a déclaré à Computer Weekly qu’il n’était que le premier d’une série croissante de personnes qui auraient été licenciées par Amazon pour avoir pris la parole ou protesté contre des problèmes liés à Covid, malgré les allégations d’Amazon selon laquelle les employés ont été licenciés pour avoir violé diverses lignes directrices ou politiques internes.

Cela inclut le licenciement des concepteurs d’expérience utilisateur Emily Cunningham et Maren Costa, organisateurs du groupe de campagne Amazon Employees for Climate Justice (AECJ) qui ont publiquement dénoncé le traitement d’Amazon à l’égard d’employés tels que Smalls.

Il comprend également bashir Mohamed, employé d’entrepôt au Minnesota, qui prônait de meilleures conditions de travail et faisait pression pour des mesures de nettoyage plus rigoureuses.

6. Capitalisme de surveillance à l’âge de Covid-19

En mai, Computer Weekly a interviewé Shoshana Zuboff, auteur de L’ère du capitalisme de surveillance : la lutte pour un avenir humain à la nouvelle frontière du pouvoir (2019), pour discuter de la façon dont la pratique du capitalisme de surveillance se croise avec la pandémie de coronavirus Covid-19 et la crise de santé publique.

Dans le cadre d’une œuvre croissante – aux côtés de textes tels que Algorithmes d’oppression et McKenzie Wark’s Capital est mort: est-ce quelque chose de pire? – qui cherche à analyser et à expliquer le rôle de plus en plus crucial de l’information et des données dans notre vie économique, sociale et politique, L’ère du capitalisme de surveillance fait valoir que l’expérience humaine (notre expérience) est capturée dans les données, qui est ensuite reconditionné dans ce que Zuboff appelle des « produits de prédiction ».

Ceux-ci sont ensuite vendus sur des « marchés à terme comportementaux », ce qui fait de nous et de nos expériences la matière première de ces produits, qui sont ensuite vendus à d’autres entreprises sur des marchés fermés d’entreprise à entreprise.

Zuboff a déclaré à Computer Weekly que la crise sanitaire actuelle présente une opportunité massive pour le capitalisme de surveillance, ajoutant: « Bien qu’il s’agit d’une crise pour nous tous, c’est quelque chose comme d’habitude pour les capitalistes de surveillance, en ce sens que c’est une occasion, peut-être, d’améliorer considérablement leurs chaînes d’approvisionnement en données comportementales.

Elle a conclu que la lutte contre le capitalisme de surveillance est un problème d’action collective : besoin de nouveaux mouvements sociaux, nous avons besoin de nouvelles formes de solidarité sociale. Les législateurs ont besoin de sentir notre pression sur leur dos.

7. Audit de la discrimination algorithmique

Bien que la conscience des algorithmes et de leur potentiel de discrimination ait considérablement augmenté au cours des cinq dernières années, Gemma Galdon Clavell, directrice du cabinet de conseil en audit algorithmique Eticas basé à Barcelone, a déclaré à Computer Weekly que trop de personnes dans le secteur de la technologie considèrent encore à tort la technologie comme socialement et politiquement neutre, créant des problèmes majeurs dans la façon dont les algorithmes sont développés et déployés.

En plus de cela, Galdon Clavell a déclaré que la plupart des organisations déployant des algorithmes ont très peu de conscience ou de compréhension de la façon de relever les défis de la partialité, même si elles ne le reconnaissent comme un problème en premier lieu.

Elle a ajouté que si les entreprises se soumettent régulièrement aux audits financiers indépendants et les publient, il n’existe pas d’équivalent généralisé pour les algorithmes.

« Nous devons changer notre façon de faire de la technologie », a-t-elle déclaré. « Je pense que tout le débat technologique a été tellement orienté par l’idée de la Silicon Valley de « aller vite, casser les choses » que lorsque vous brisez nos droits fondamentaux, il n’a pas vraiment d’importance.

« Nous devons commencer à voir la technologie comme quelque chose qui nous aide à résoudre les problèmes. À l’heure actuelle, la technologie est comme un marteau toujours à la recherche de clous – « Nous allons chercher des problèmes qui pourraient être résolus avec la blockchain, nous allons chercher des problèmes que nous pouvons résoudre avec l’IA » – en fait, non, quel problème avez-vous? Et examinons les technologies qui pourraient vous aider à résoudre ce problème. Mais c’est une façon complètement différente de penser la technologie que ce que nous avons fait au cours des 20 dernières années.

8. La Cour déclare illégale l’utilisation de la technologie de reconnaissance faciale par la police du Pays de Galles du Sud

Dans une décision historique, la Cour d’appel a statué en août que les déploiements de reconnaissance faciale de la police du Pays de Galles du Sud (SWP) violaient les lois sur les droits de l’homme et la protection des données.

La décision a été prise au motif que l’utilisation de la technologie par SWP n’était « pas conforme » au droit à la vie privée des citoyens au titre de l’article 8; qu’elle n’a pas fait une évaluation appropriée de l’impact sur la protection des données; et qu’elle ne s’est pas conformé à son obligation en matière d’égalité dans le secteur public d’examiner comment ses politiques et pratiques pouvaient être discriminatoires.

Toutefois, s’adressant à Computer Weekly à l’époque, l’avocat de Matrix Chambers, Tim James-Matthews, a déclaré que le problème que la Cour d’appel avait finalement constaté était l’absence de réglementation sur la façon dont la technologie était déployée, « par opposition à tout ce qui est particulier dans la technologie elle-même ».

Il a ajouté: « Ce qu’ils ont dit, c’est que, essentiellement, la police du Pays de Galles du Sud n’avait pas fait le travail d’identifier et de déterminer s’il y avait ou non des implications d’égalité dans l’utilisation de la technologie, et comment ils pourraient se prémunir contre ou protéger contre ceux-ci. »

9. Les législateurs américains se préparent à une action antitrust contre les grandes entreprises technologiques

Aux États-Unis, à la suite d’une enquête de 16 mois sur les pratiques concurrentielles d’Amazon, Apple, Facebook et Google, la majorité démocrate du Sous-comité judiciaire de la Chambre des représentants sur le droit antitrust, commercial et administratif a publié un rapport détaillant leurs recommandations sur la façon dont les lois antitrust et l’application peuvent être modifiées « pour faire face à la montée et à l’abus de pouvoir du marché dans l’économie numérique ».

Ils ont constaté que même si les quatre sociétés différaient de façon importante, l’enquête sur leurs pratiques commerciales a révélé des problèmes communs.

« Tout d’abord, chaque plate-forme sert maintenant de gardien sur un canal clé de distribution », indique le rapport. « En contrôlant l’accès aux marchés, ces géants peuvent choisir les gagnants et les perdants dans l’ensemble de notre économie. Non seulement ils exercent un pouvoir énorme, mais ils en abusent aussi en imposant des frais exorbitants, en imposant des conditions contractuelles oppressives et en extrayant des données précieuses auprès des personnes et des entreprises qui comptent sur eux.

Cela faisait écho aux remarques liminaires de David Cicilline, président du sous-comité antitrust, lors de sa remise en question des PDG de Facebook, Amazon, Apple et Google en juillet.

Le rapport suggérait d’imposer aux entreprises des « séparations structurelles et des restrictions à la ligne d’entreprise », ce qui « interdirait respectivement à un intermédiaire dominant d’opérer sur des marchés qui placent l’intermédiaire en concurrence avec les entreprises dépendantes de ses infrastructures… et limitent généralement les marchés sur lesquels une entreprise dominante peut s’engager ».

10. Des familles congolaises contestent la tentative des entreprises technologiques de rejeter l’affaire des décès liés à l’exploitation minière du cobalt

Fin 2019, Computer Weekly a fait état d’une procédure judiciaire historique intentée contre cinq des plus grandes multinationales mondiales de la technologie, accusées par ee familles d’enfants mineurs morts ou mutilés qui ont sciemment bénéficié de violations des droits de l’homme en République démocratique du Congo (RDC).

Le procès intenté contre Alphabet, Apple, Dell, Microsoft et Tesla a marqué le premier défi juridique du genre contre les entreprises technologiques, dont beaucoup comptent sur leurs chaînes d’approvisionnement en cobalt pour alimenter des produits tels que les voitures électriques, les smartphones et les ordinateurs portables.

En août, les compagnies ont déposé une requête conjointe en rejet de l’affaire, en grande partie au motif qu’elles n’avaient pas « connaissance requise » des abus commis sur les sites miniers spécifiques mentionnés.

Toutefois, lors de la dernière série de dépôts légaux, les victimes congolaises ont affirmé que les entreprises « avaient une connaissance spécifique des conditions horribles auxquelles sont confrontés les enfants mineurs dans les mines de cobalt de la RDC à partir d’un certain nombre de sources ». Computer Weekly continuera de surveiller l’affaire.