Connect with us

Technologie

Londres publie des lignes directrices pour l’utilisation éthique de la technologie des villes intelligentes

Published

on


Londres a publié la dernière itération de son Charte des technologies émergentes, un ensemble de lignes directrices pratiques et éthiques qui décrivent les attentes de la ville quant à la façon dont les nouvelles technologies basées sur les données devraient être développées et déployées pour être utilisées dans le domaine public.

La quatrième version de la charte, qui a été annoncée pour la première fois en juillet 2020, s’appuie sur quatre principes – ouverture, respect de la diversité, fiabilité avec les données des personnes et durabilité – qui sont conçus pour ouvrir une voie claire sur la façon dont une gamme de futures technologies de ville intelligente peuvent être utilisées de manière éthique.

Cela inclut les voitures sans conducteur, les logiciels de reconnaissance faciale, les drones, les réseaux de capteurs, la robotique, les services de mobilité, la réalité augmentée ou virtuelle et les systèmes de prise de décision automatisés ou algorithmiques.

Grâce à ces principes, la charte vise à établir des attentes communes quant à la façon dont les acheteurs et les fabricants peuvent innover avec succès; donner aux Londoniens et à leurs représentants élus un cadre clair pour poser des questions sur les technologies déployées à Londres; et améliorer la transparence autour des produits et services que la loi sur la protection des données considère comme un risque élevé pour la vie privée.

« En exposant les principes de la charte de cette manière, nous visons à favoriser un environnement digne de confiance pour que l’innovation s’épanouisse, et à le faire de manière responsable au profit des Londoniens », a-t-il déclaré.

Bien que les lignes directrices soient volontaires, les gouvernements locaux et les entreprises technologiques sont encouragés à les adopter.

La charte sera partagée avec l’Observatoire mondial de l’intelligence artificielle urbaine (IA), une initiative lancée par Londres, Barcelone et Amsterdam en juin 2021 qui vise à surveiller les tendances de déploiement de l’intelligence artificielle (IA) et à promouvoir son utilisation éthique, dans le cadre de la Coalition des villes pour les droits numériques (CC4DR).

La consultation publique est vitale

Rédigée par le directeur du numérique de Londres, Theo Blackwell, et conseillée par un groupe de travail du Smart London Board, la charte a été élaborée dans le cadre d’un processus ouvert de consultation publique avec des experts en la matière, des innovateurs et des Londoniens eux-mêmes.

S’adressant à Computer Weekly, Blackwell a déclaré que le processus de consultation est vital pour le développement continu de la charte et a déjà conduit à un certain nombre de changements importants par rapport aux versions précédentes, y compris l’accent mis sur la durabilité.

« Il est devenu très clair que les gens voulaient un principe distinct autour de la durabilité… Quand nous avons commencé, nous nous sommes dit ‘Traitons simplement le principal domaine de débat autour de l’éthique des nouvelles technologies’, mais en fait, à la fin du processus – et nous sommes vraiment heureux de l’avoir développé ouvertement – cela faisait partie de la discussion », a-t-il déclaré, ajoutant que ces interactions ont conduit à une prise de conscience que, bien que de nombreuses technologies de ville intelligente soient « perçues comme virtuelles ». ils font toujours « partie intégrante de notre environnement physique et bâti ».

Blackwell a ajouté que de nombreuses chartes ou lignes directrices sur l’éthique technologique sont produites par le gouvernement ou le milieu universitaire, qui s’appuient toutes deux sur des sondages et des interprétations expertes de ces sondages comme forme d’engagement avec le public. « Nous sommes dans une position où nous avons l’occasion de parler aux gens, et nous avons obtenu des commentaires vraiment précieux des Londoniens à ce sujet », a-t-il déclaré.

Un autre nouvel ajout à la charte (qui relève du principe « être digne de confiance avec les données ») concerne l’utilisation de technologies biométriques telles que le suivi du globe oculaire ou la technologie de reconnaissance faciale en direct (LFR) par des organismes non chargés de l’application de la loi, qui a été ajoutée à la lumière d’un avis émis par la commissaire à l’information Elizabeth Denham en juin 2021.

Notant dans un billet de blog à l’époque qu’elle était « profondément préoccupée » par l’utilisation inappropriée et imprudente de la reconnaissance faciale en direct dans les espaces publics, Denham a déclaré qu’aucune des organisations enquêtées par son bureau n’était en mesure de justifier pleinement leur utilisation de la technologie, ce qui l’a amenée à publier un « avis du commissaire » officiel pour servir de guide aux entreprises et aux organismes du secteur public.

« Les organisations devront démontrer dès le départ des normes élevées de gouvernance et de responsabilité, notamment en étant en mesure de justifier que l’utilisation de la LFR est équitable, nécessaire et proportionnée dans chaque contexte spécifique dans lequel elle est déployée. Ils doivent démontrer que des techniques moins intrusives ne fonctionneront pas », a-t-elle écrit.

Blackwell a déclaré que l’opinion du commissaire « place la barre très, très haut pour l’utilisation de ces technologies », car les organisations devraient « examiner quelles technologies alternatives pourraient atteindre le même résultat » – quelque chose qui a été écrit directement dans la charte.

Évaluation de l’impact sur la protection des donnéesTs

Conformément à l’avis de Denham selon lequel toute organisation envisageant de déployer LFR dans un lieu public doit effectuer une analyse d’impact sur la protection des données (AIPD) pour décider d’aller de l’avant ou non avec le déploiement, la charte encourage également les entreprises à publier leurs AIPD complets.

« Une AIPD est une obligation légale d’identifier et de minimiser les risques d’un projet lorsqu’il est susceptible d’entraîner un risque élevé pour les individus », a-t-il déclaré. « Une fois votre AIPD terminée, nous vous recommandons de la publier sur les GLA [Greater London Authority’s] registre central des DPIA sur la banque de données de Londres pour promouvoir la transparence publique et les bonnes pratiques. »

Blackwell a déclaré qu’en fournissant « un élément de transparence là où il y avait autrefois de l’obscurité … Je pense que cela aide à renforcer la confiance », ajoutant que l’une des plus grandes critiques des gens à l’égard des projets de ville intelligente est leur nature souvent inexplicable et boîte noire.

« L’un des défis des villes intelligentes est que des solutions technologiques nous sont imposées, sous l’égide que cela contribue à l’efficacité opérationnelle, [meaning] c’est comme une question administrative, plutôt que quelque chose qui a à voir avec vous dans votre vie quotidienne », a-t-il déclaré, ajoutant qu’« avec les nouvelles technologies, les gens ne connaissent pas souvent les bonnes questions à poser aux personnes responsables de leur achat ».

En mettant l’accent sur la consultation et la transparence au sein de la charte, et en fournissant aux citoyens et aux politiciens un cadre clair sur la façon dont les nouvelles technologies devraient être abordées, Blackwell a déclaré que la charte permettra un examen de meilleure qualité.

« L’arbitre de cela est en fait la réputation, c’est le mécanisme d’application ici. Si nous établissons à nos représentants élus un cadre par lequel nous posons les bonnes questions de technologie, la qualité de la réponse devient encore plus importante », a-t-il déclaré.

« Lorsque nous disons que la charte est volontaire, cela peut sembler un peu faible, mais c’est aussi un bon cadre pour rassembler le genre de choses qui pourraient avoir un impact sur la réputation de votre organisation si vous ne les considérez pas et n’expliquez pas ce que vous faites. »

En ce qui concerne la façon dont les entreprises technologiques elles-mêmes ont réagi à la charte et à son développement, Blackwell a déclaré que si beaucoup étaient très favorables aux principes en particulier, certains voulaient savoir ce que Londres elle-même ferait pour « les respecter à mi-chemin » et aider à stimuler l’innovation.

« La contrepartie ici est que nous établissons un cadre clair qui vous permet d’innover avec succès – nous n’avons pas besoin d’incitations supplémentaires en jeu », a-t-il déclaré.

Click to comment

Leave a Reply

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Tendance