Les députés affirment que le projet de loi sur la sécurité en ligne ne s’attaque pas à l’ensemble des préjudices

Le projet de loi sur la sécurité en ligne (OSB) « n’est pas assez clair et robuste » pour traiter divers types de contenus préjudiciables mais légaux, a affirmé un rapport d’une commission parlementaire.

Publié le 24 janvier 2022, le rapport du comité spécial sur le numérique, la culture, les médias et le sport (DCMS) a exhorté le gouvernement à aborder de manière proactive les types de contenu qui sont techniquement légaux, mais qui sont spécifiquement conçus pour échapper ou subvertir les efforts de modération de contenu.

Dans sa forme actuelle, le projet de BSF imposerait une « obligation de diligence » légale aux entreprises technologiques qui hébergent du contenu généré par les utilisateurs ou permettent aux gens de communiquer, ce qui signifie qu’elles seraient légalement tenues d’identifier, de supprimer et de limiter de manière proactive la propagation de contenus illégaux et légaux mais préjudiciables, tels que les abus sexuels sur enfants, le terrorisme et le matériel suicidaire.

Ne pas le faire pourrait entraîner des amendes allant jusqu’à 10% de leur chiffre d’affaires par le régulateur des préjudices en ligne, qui a été confirmé en décembre 2020 comme étant l’Ofcom.

« Bien que le projet de loi prenne plusieurs mesures bienvenues pour remédier aux préjudices causés aux enfants, telles que les obligations de lutter contre l’exploitation et les abus sexuels des enfants (CSEA), nous sommes préoccupés par la prévalence du contenu et des activités qui ne sont apparemment pas pris en compte par le régime proposé », a-t-il déclaré.

« Un exemple d’une telle activité est le fil d’Ariane, où les auteurs subvertissent délibérément les seuils d’activité criminelle et de suppression de contenu par un fournisseur de services.

« Nous recommandons que le gouvernement réponde à nos préoccupations concernant le risque de contenu et d’activité qui tombent en dessous du seuil d’activité criminelle pure et simple, mais qui font néanmoins partie de la séquence pour l’EESC en ligne. Un point de départ devrait être de reformuler la définition du contenu illégal pour ajouter explicitement la nécessité de considérer le contexte comme un facteur, et d’inclure explicitement des définitions d’activités comme le fil d’Ariane, à la face du projet de loi.

Bien que le rapport lui-même contienne très peu d’informations sur la façon de détecter ou d’arrêter le fil d’Ariane, il a recommandé que le gouvernement travaille avec « les organismes de bienfaisance, les organisations de campagne et les groupes de défense des enfants pour identifier, définir et traiter » ce contenu.

Selon un récent rapport de la Société nationale pour la prévention de la cruauté envers les enfants (NSPCC), les « miettes de pain » sont conçues pour faciliter l’accès au matériel pédopornographique et permettre aux agresseurs de s’identifier les uns les autres et de former des réseaux. « Dans de nombreux cas, les agresseurs téléchargeront ou chercheront à accéder à du matériel contenant un grand nombre d’images prises avant ou après un abus sexuel, faisant effectivement partie d’une séquence qui culmine avec des images ou des vidéos qui atteignent le seuil criminel », a-t-il déclaré.

« Dans certains cas, ceux-ci sont délibérément utilisés par les agresseurs parce qu’ils prévoient que ces images ne seront pas supprimées de manière proactive par le site hôte. »

Le rapport du comité DCMS a ajouté que d’autres types de violence à l’égard des femmes et des filles – tels que la « nudification » et la pornographie deep-fake activée par la technologie – devraient également être inclus dans la portée des préjudices du BSF. Les députés ont déclaré que cela devrait se faire soit par le biais d’une législation primaire, soit en les incluant comme types de contenu préjudiciable dans le devoir de diligence du BSF.

Le comité a également recommandé que la définition du contenu préjudiciable soit élargie pour inclure explicitement tout contenu qui « porte atteinte ou risque de porter atteinte aux droits ou à la réputation d’autrui, à la sécurité nationale, à l’ordre public et à la santé ou à la moralité publique ».

Il a ajouté que l’Ofcom devrait également avoir le pouvoir de mener des audits des systèmes des entreprises technologiques, ce qui inclurait la divulgation obligatoire des ensembles de données et des mesures de performance (y compris la façon dont ils sont utilisés pour mesurer le succès).

Cela est conforme aux commentaires précédents de l’ancienne commissaire à l’information Elizabeth Denham, qui a déclaré aux députés et à ses pairs en septembre 2021 qu’elle aimerait voir les pouvoirs de collecte d’informations de l’Ofcom « renforcés par [compulsory] pouvoirs d’audit » afin qu’il puisse correctement « regarder sous le capot » des algorithmes des entreprises technologiques.

Rapport

En décembre 2021, le comité parlementaire mixte du projet de BSF – qui a été mis en place pour examiner la législation et proposer des améliorations – a publié son propre rapport de 193 pages à la suite d’une enquête de cinq mois, dans lequel il recommandait au Parlement de clarifier davantage le devoir de diligence primordial par le biais d’obligations spécifiques qui énoncent explicitement ce que les fournisseurs de services devraient faire pour prévenir les préjudices en ligne.

« Nous recommandons que le projet de loi soit restructuré », a-t-il déclaré. « Il devrait énoncer clairement ses objectifs fondamentaux dès le début. Cela permettra aux utilisateurs et aux organismes de réglementation de bien comprendre ce que le projet de loi tente d’accomplir et d’éclairer les obligations détaillées énoncées plus loin dans la loi.

« Tout découle de ceux-ci : l’obligation pour l’Ofcom d’atteindre ces objectifs, son pouvoir de produire des codes de pratique obligatoires et des normes de qualité minimales pour l’évaluation des risques afin de le faire, et les exigences imposées aux fournisseurs de services pour traiter et atténuer les risques raisonnablement prévisibles, suivre ces codes de pratique et respecter ces normes minimales. »

Partant du principe que les principaux fournisseurs de plateformes n’ont pas de structures de gouvernance adéquates en place – comme en témoigne le témoignage du responsable mondial de la sécurité de Facebook, Antigone Davis, et d’autres en novembre 2021 – le rapport recommandait également d’étendre la responsabilité pénale dans le projet de loi, qui limite actuellement l’Ofcom à ne prendre des mesures contre les cadres supérieurs qu’en cas de non-fourniture d’informations.

« Nous recommandons qu’un cadre supérieur au niveau du conseil d’administration ou relevant du conseil d’administration soit désigné comme le « contrôleur de la sécurité » et rendu responsable d’une nouvelle infraction : le non-respect de ses obligations en tant que fournisseurs de services réglementés lorsqu’il existe des preuves évidentes de manquements répétés et systémiques qui entraînent un risque important de préjudice grave pour les utilisateurs, », a-t-il déclaré.

« Nous pensons qu’il s’agirait d’un dernier recours proportionné pour le régulateur – comme toute infraction, elle ne devrait être initiée et prouvable qu’à l’issue d’un processus juridique exhaustif. »

Responsabilité pénale

Bien que le rapport du comité du SGDS recommande que les fournisseurs de services soient tenus de désigner des agents de conformité spécialisés, il ne fait que mentionner de façon passagère les préoccupations concernant la responsabilité criminelle des cadres supérieurs et indique simplement qu’une plus grande clarté de la part du gouvernement au sujet des pouvoirs d’application de la loi du BSF.

En réponse au rapport du comité DCMS, un porte-parole du DCMS a déclaré que le ministère n’était pas d’accord avec les critiques formulées par les députés: « Le projet de loi a été reconnu comme établissant une norme d’or mondiale pour la sécurité sur Internet », ont-ils déclaré. Il a des mesures strictes, y compris un devoir de diligence pour éradiquer les abus sexuels sur les enfants, le toilettage et le contenu illégal et préjudiciable.

« Il existe également des règles strictes pour s’assurer que les entreprises de technologie et l’Ofcom protègent la liberté d’expression et la vie privée des gens, afin que le contenu ne soit pas supprimé sans raison valable. Le projet de loi fera du Royaume-Uni l’endroit le plus sûr pour aller en ligne tout en protégeant la liberté d’expression. «