Les députés et les Lords grillent Facebook sur les efforts de sécurité en ligne

Le responsable mondial de la sécurité de Facebook a comparu devant les législateurs britanniques pour répondre à des questions sur la façon dont l’entreprise répond aux problèmes de sécurité en ligne à la suite des controverses en cours sur son rôle dans la propagation de la haine en ligne.

S’adressant au comité conjoint du projet de loi sur la sécurité en ligne le 28 octobre 2021, qui a été lancé en juillet 2021 pour examiner la prochaine législation du gouvernement britannique sur les préjudices en ligne, la société a défendu son bilan en matière de lutte contre les contenus préjudiciables.

Un thème central de l’interrogation combative du législateur était la responsabilité, si la sécurité en ligne était une priorité suffisante et qui, au sein de l’entreprise, est responsable en dernier ressort des décisions prises.

En vertu du projet de loi sur la sécurité en ligne, qui, selon le gouvernement, protégera la liberté d’expression en ligne, augmentera la responsabilité des géants de la technologie et protégera les utilisateurs contre les préjudices en ligne, les entreprises de technologie auront un « devoir de diligence » statutaire pour identifier, supprimer et limiter de manière proactive la propagation de contenus illégaux et légaux mais préjudiciables, ou elles pourraient être condamnées à une amende allant jusqu’à 10% de leur chiffre d’affaires par le régulateur des dommages en ligne Ofcom.

La réunion intervient quelques jours après que l’ancienne employée de Facebook et lanceuse d’alerte Frances Haugen a témoigné devant le même comité que le réseau social amplifie le contenu haineux, diviseur et extrême sur sa plate-forme.

Le responsable mondial de la sécurité de Facebook, Antigone Davis, a contesté la caractérisation de Haugen, insistant à plusieurs reprises sur le fait que la société n’avait « aucune incitation commerciale » à fournir aux utilisateurs une expérience négative sur le service.

« Notre investissement dans ce domaine reflète une très bonne preuve du sérieux avec lequel nous prenons ces questions : nous avons dépensé 13 milliards de dollars depuis 2016 ; nous sommes sur la bonne voie pour dépenser 5 millions de dollars cette année; et nous avons 40 000 employés qui travaillent à la sûreté et à la sécurité. Je pense qu’il est très important de comprendre que nous n’avons aucun intérêt commercial – aucun intérêt commercial du tout – à offrir aux gens une expérience négative ou dangereuse », a déclaré Davis.

« Notre plate-forme est conçue pour donner aux gens la possibilité de se connecter, et trois millions d’entreprises au Royaume-Uni utilisent notre plate-forme pour développer leurs activités – si elles ne sont pas en sécurité, si elles ne se sentent pas en sécurité, elles ne vont pas utiliser notre plate-forme. »

Le président du comité, Damian Collins, a toutefois souligné à Davis que Facebook avait gagné environ 275 milliards de dollars au cours de la même période depuis 2016, et s’est demandé si investir 4% de ce montant était suffisant.

« Nous investissons massivement pour offrir aux gens la meilleure expérience possible, et si je ne pensais pas que nous plaisons que nous mettons la sûreté et la sécurité au premier plan de nos décisions, je ne serais pas là », a répondu Davis.

Une partie des divulgations de Haugen – qui comprenait la fuite de milliers de documents internes de Facebook au Wall Street Journal – tournait autour de recherches menées par Facebook sur la façon dont l’utilisation de ses services par les gens, y compris Instagram, pourrait affecter négativement leur santé mentale, ce qui, selon Collins, n’aurait pas été rendu public autrement.

« Nous partageons une bonne partie de nos recherches… et nous cherchons à partager davantage. L’un des défis particuliers dans le domaine de la recherche est de savoir comment nous pouvons fournir aux universitaires qui effectuent des recherches indépendantes un accès aux données pour vraiment étudier ces choses plus en profondeur », a déclaré Davis, ajoutant que Facebook est désireux de travailler avec l’Ofcom pour définir des paramètres sur la façon dont la recherche est menée, et comment les parties indépendantes peuvent être autorisées à y accéder d’une manière « protégée par la vie privée ».

Dans le projet de loi sur la sécurité en ligne, publié en mai 2021, l’Ofcom a déjà reçu des pouvoirs formels de collecte d’informations pour obliger les entreprises à fournir des informations afin qu’elles puissent être évaluées pour la conformité.

Comparaissant devant le même comité fin septembre 2021, la commissaire à l’information du Royaume-Uni, Elizabeth Denham, a déclaré qu’elle aimerait que les pouvoirs de collecte d’informations de l’Ofcom « soient renforcés par [compulsory] pouvoirs d’audit » afin qu’en tant qu’organisme de réglementation, il puisse correctement « regarder sous le capot ».

« Ce n’est pas pour Facebook [to] établir des paramètres autour de la recherche qui pourraient être exigés ou demandés, ou même recueillis par l’organisme de réglementation, mais que l’organisme de réglementation devrait avoir le droit de demander des informations, tout comme le fait le commissaire à l’information », a déclaré Collins à Davis.

Répondant aux questions du législateur sur la question de savoir si les gens ont le droit de connaître les recherches internes de Facebook, Davis a déclaré que les obligations de confidentialité autour des données personnelles des gens empêchaient l’entreprise de partager davantage, et a en outre appelé l’Ofcom à intervenir pour créer des règles claires sur la façon dont les données peuvent être partagées à des fins de recherche.

« Nous sommes très déterminés à fournir plus de transparence autour du travail que nous faisons », a-t-elle déclaré.

Bien que d’autres détails sur son fonctionnement exact n’aient pas encore été approuvés par les législateurs britanniques, le projet de loi sur la sécurité en ligne comprend également des dispositions sur les évaluations des risques que les entreprises Internet devront effectuer pour montrer comment elles atténuent les risques associés à leurs plateformes.

En réponse à la question de savoir qui exactement chez Facebook sera responsable de la réalisation de ces évaluations, et si cela devrait être quelqu’un au niveau du conseil d’administration, Davis a déclaré: « Je ne connais pas les détails de la façon dont cela serait élaboré, mais je pense que nous voudrions avoir quelqu’un qui ressent un sens des responsabilités certainement. »

Elle a ajouté que Facebook craignait que, bien qu’il accueille les évaluations des risques comme un outil précieux, la nécessité d’en faire un pour chaque changement de produit ou de système pourrait « ralentir l’innovation », et a recommandé que la mesure soit de nature plus périodique.

Davis a ajouté que, bien qu’elle soit la responsable mondiale de la sécurité de Facebook, elle n’a jamais été convoquée devant le comité d’audit et de surveillance des risques de l’entreprise et ne sait pas à qui elle rendrait compte de cet organisme.

Lorsqu’on lui a demandé si des sanctions pénales devraient être introduites dans le projet de loi sur la sécurité en ligne pour les cadres technologiques des entreprises qui ne parviennent pas continuellement à protéger les utilisateurs, Davis a déclaré: « Nous accueillons vraiment favorablement un régulateur doté de pouvoirs d’application proportionnés et efficaces. Je pense que la responsabilité pénale des administrateurs est une étape assez sérieuse et je ne suis pas sûr que nous en ayons besoin pour agir – nous avons investi, comme je l’ai dit, 13 milliards de dollars. »