Le gouvernement britannique annonce les gagnants du fonds safety tech challenge

Technologies proposées

Au cours des prochains mois, les cinq projets continueront à développer leurs propositions dans le but de les mettre sur le marché en 2022.

Les projets comprennent un plug-in alimenté par l’IA qui peut être intégré à des plateformes sociales cryptées pour détecter CSAM en faisant correspondre le contenu avec du matériel illégal connu; utiliser des algorithmes d’estimation de l’âge et une technologie de reconnaissance faciale pour rechercher et détecter le CSAM avant son téléchargement; et une suite de technologies d’IA de modération vidéo en direct qui peuvent fonctionner sur n’importe quel appareil intelligent pour empêcher le tournage de la nudité, de la violence, de la pornographie et du CSAM en temps réel, au fur et à mesure de sa production.

Les organisations impliquées comprennent cyan Forensics, une start-up de technologie policière basée à Édimbourg, et la société d’IA Crisp Thinking, qui travaillera en partenariat avec l’Université d’Édimbourg et Internet Watch Foundation pour développer le plug-in; la société de cybersécurité SafeToNet, qui étudie comment utiliser l’IA dans la modération vidéo; et T3K-Forensics, une société autrichienne d’extraction de données mobiles qui travaille à la mise en œuvre de sa technologie de détection des abus sexuels d’enfants basée sur l’IA sur les smartphones d’une manière compatible E2EE.

Parmi les autres sociétés, citons la plate-forme de cryptage des e-mails de bout en bout GalaxKey et la société de modération vidéo DragonflAI, qui travailleront toutes deux avec la société de biométrie Yoti sur des projets distincts impliquant le déploiement de ses technologies d’estimation de l’âge.

GalaxKey, par exemple, travaillera avec Yoti pour mettre en œuvre des algorithmes de vérification de l’âge afin de détecter le CSAM avant qu’il ne soit téléchargé et partagé dans un environnement E2EE.

DragonflAI travaillera également avec Yoti pour combiner leur technologie de détection de nudité sur l’appareil avec des technologies d’assurance de l’âge afin de repérer de nouvelles images indécentes dans les environnements E2EE eux-mêmes.

« Nous sommes fiers de proposer nos solutions pour encourager l’innovation, en aidant à changer l’espace numérique pour mieux protéger les enfants en ligne », a déclaré Robin Tombs, PDG de Yoti. « Nous remercions le Safety Tech Challenge Fund d’avoir accueilli favorablement l’utilisation de la technologie pour lutter contre l’augmentation des crimes sexuels liés en ligne, et nous sommes impatients de travailler avec nos partenaires pour créer des outils qui font d’Internet un endroit plus sûr pour les enfants. »

Selon Philp, « Il est tout à fait possible pour les plateformes de médias sociaux d’utiliser le cryptage de bout en bout sans entraver les efforts visant à éradiquer la maltraitance des enfants. Mais ils n’ont pas pris de mesures pour résoudre ce problème, alors nous intervenons pour aider à développer les solutions nécessaires. Il n’est pas acceptable de déployer E2EE sans s’assurer que les mesures d’application et de protection de l’enfance sont toujours en place.

« Nous sommes pro-technologie et pro-vie privée, mais nous ne ferons pas de compromis sur la sécurité des enfants », a-t-il déclaré. « Grâce à notre projet de loi pionnier sur la sécurité en ligne et en partenariat avec des entreprises de technologie de sécurité de pointe, nous ferons du monde en ligne un endroit plus sûr pour les enfants. »

S’adressant à Computer Weekly, Philp a déclaré que la nouvelle technologieLes nologies en cours de développement permettront d’analyser le contenu des messages pour le CSAM même lorsque E2EE est utilisé, car « nous ne sommes pas prêts à accepter ou à tolérer une situation où le cryptage de bout en bout signifie que nous ne pouvons pas rechercher des images d’exploitation sexuelle d’enfants ».

En août 2021, Apple a annoncé son intention d’introduire des scans pour CSAM sur les appareils de ses clients américains, ce qui fonctionnerait en effectuant une correspondance sur l’appareil avec une base de données de hachages d’images CSAM connus fournie par le National Center for Missing and Exploited Children (NCMEC) et d’autres organisations de sécurité des enfants.

Cependant, selon les experts en cryptographie, le plan d’Apple de numériser automatiquement les photos pour la détection CSAM risquerait indûment la vie privée et la sécurité des citoyens respectueux des lois et pourrait ouvrir la voie à la surveillance.

Garanties

En réponse aux mesures de protection envisagées pour protéger la vie privée, Philp a déclaré que toute plate-forme ou société de médias sociaux qui autorise l’une des technologies développées dans ses environnements E2EE voudra être convaincue que la vie privée des utilisateurs n’est pas compromise de manière déraisonnable: « les plates-formes elles-mêmes introduisant un cryptage de bout en bout vont évidemment contrôler cela ».

Il a ajouté que le gouvernement n’imposera aucune analyse qui dépasse la portée de la découverte de matériel pédoporno-abusif : « Ces technologies sont spécifiques au CSAM… J’ai rencontré les entreprises il y a deux jours et [with] toutes ces technologies, il s’agit de numériser des images et de les identifier comme étant des images CSAM précédemment identifiées ou des images créées de première génération – c’est la seule capacité inhérente à ces technologies.

Lorsqu’on lui a demandé s’il était possible de rechercher d’autres types d’images ou de contenu dans les messages, Philp a déclaré: « ils ne sont pas conçus pour le faire, ils devraient être réutilisés pour cela, ce n’est pas comme ça qu’ils ont été conçus ou configurés, ce sont des technologies de numérisation CSAM spécifiques. »

Philp a en outre confirmé que le National Cyber Security Centre (NCSC), la branche d’assurance de l’information de l’agence britannique de renseignement d’origine électromagnétique GCHQ, avait été impliqué dans l’évaluation des demandes de fonds de défi: « Ils vont examiner de très près ces technologies au fur et à mesure de leur développement, car nous devons nous assurer que nous tirons parti de l’expertise dont dispose techniquement le GCHQ. ainsi que de travailler en partenariat très étroit avec le ministère de l’Intérieur. Il s’agit d’un véritable partenariat entre le NCSC, qui fait partie du GCHQ, le Home Office et le DCMS. »

Lors de l’examen du budget et des dépenses d’automne pour 2021, annoncé fin octobre, plus de 110 millions de livres sterling ont été alloués au nouveau régime de sécurité en ligne du gouvernement, dont Philp a confirmé qu’il était distinct du fonds de défi, ajoutant que même si une partie de celui-ci serait utilisée pour renforcer les propres capacités du DCMS, « une grande partie ira à l’Ofcom » pour financer leur surveillance réglementaire en vertu du projet de loi sur la sécurité en ligne.

En mai 2020, un rapport de recherche mené par la société de conseil économique Perspective Economic pour le compte de DCMS, les fournisseurs britanniques de technologies de sécurité détiennent environ 25% de la part de marché mondiale, le nombre d’entreprises de technologie de sécurité ayant doublé depuis 2015, passant de 35 à 70, et les investissements ayant été multipliés par huit.