L’innovation soutenue par une gouvernance digne de confiance, selon le CDEI

Une gouvernance digne de confiance des nouvelles technologies numériques telles que l’intelligence artificielle (IA) est nécessaire pour assurer le soutien du public à leur adoption, a averti le Centre for Data Ethics and Innovation (CDEI) du Royaume-Uni.

Afin d’évaluer l’opinion du public sur la façon dont la technologie numérique a été déployée tout au long de la pandémie de Covid-19, le CDEI – un organe consultatif du gouvernement britannique sur l’utilisation responsable de l’IA et de la technologie des données – a commandé une enquête à Deltapole qui a interrogé un peu plus de 12 000 personnes entre juin et décembre 2020.

Bien que les résultats suggèrent un appui important du public à l’utilisation de la technologie axée sur les données, près des trois quarts (72 %) affirmant qu’une telle technologie pouvait être utilisée en réponse à la pandémie de Covid-19, beaucoup estimaient que son potentiel n’était pas pleinement réalisé.

Par exemple, moins de la moitié (42 %) des répondants ont déclaré que la technologie numérique améliore la situation de Covid-19 au Royaume-Uni, et 39 % ont mentionné des préoccupations quant à savoir si les organisations seraient en mesure de l’utiliser correctement, plutôt que des préoccupations concernant la technologie elle-même.

« Certains répondants ont également exprimé des doutes quant à la gouvernance des interventions axées sur les données », a déclaré le CDEI dans son rapport. « Alors que 43 % du public a déclaré que les règles et règlements existants étaient suffisants pour s’assurer que la technologie est utilisée de façon responsable, près du quart (24 %) Désaccord.

« Ces résultats sont soulignés par une analyse statistique des résultats. Lorsque nous contrôlons toutes les autres variables, nous avons constaté que la confiance dans les règles et règlements régissant la technologie est le plus grand prédicteur de savoir si quelqu’un croit que la technologie numérique a un rôle à jouer dans la réponse covid-19.

En fouillant dans les données, l’IDC a également constaté une différence dans les niveaux de confiance entre les répondants plus âgés et les répondants plus jeunes. Par exemple, lorsqu’on leur a demandé s’ils saurait où faire part de leurs préoccupations s’ils estimaient que la gouvernance des technologies numériques était défaillante, seulement 39 % des personnes âgées de 18 à 35 ans ont dit qu’elles le saurait. Pour les répondants âgés de plus de 55 ans, ce chiffre est tombé à 14 %, ce qui montre qu’une majorité importante d’entre eux auraient actuellement de la mal à trouver un recours.

Dans l’ensemble, l’IDC a constaté qu’« on sait relativement peu où porter plainte dans les cas où les technologies axées sur les données ont causé du tort », 45 % de tous les répondants ne sachant pas où aller.

Chez les jeunes, 40 % étaient également d’accord avec l’énoncé « Je me sens bien informé sur la façon dont la technologie numérique a été utilisée pendant la crise », mais seulement 22 % des répondants plus âgés ont dit la même chose. Encore une fois, cela laisse une partie importante des deux groupes en désaccord.

Pour bâtir une gouvernance digne de confiance qui gagne la confiance des citoyens à long terme, le CDEI exhorte les organisations à adopter les principes énoncés dans son cadre de la Matrice de confiance, qui sont les suivants : responsabilité – le public doit comprendre le processus décisionnel et qui en assume la responsabilité; transparence – les organisations qui construisent ou utilisent la technologie doivent être claires sur la façon dont elle est déployée et les compromis; et la valeur – la technologie devrait être utilisée au profit des individus ou de la société d’une manière qui soit mesurée et démontrée.

« Les technologies axées sur les données, y compris l’IA, ont un grand potentiel pour notre économie et notre société », a déclaré Edwina Dunn, vice-présidente de l’IDC. « Nous devons veiller à ce que le bon régime de gouvernance soit en place si nous voulons libérer les possibilités offertes par ces technologies.

« Le CDEI jouera son rôle pour s’assurer que le Royaume-Uni élabore des approches de gouvernance en qui le public peut avoir confiance. »

Le rapport a également mis en évidence les tendances et les tendances relatives à l’utilisation de l’IA et d’autres technologies axées sur les données pendant la pandémie, constatant qu’en dehors de l’avancement de la recherche sur les vaccins, l’IA n’a pas joué un rôle aussi important dans l’effort de secours que beaucoup de gens le pensaient.

« Au lieu de cela, ce sont les analyses conventionnelles des données, soutenues par de nouveaux accords de partage de données, qui semblent avoir fait la plus grande différence dans le travail des services de santé et des autorités publiques », indique le rapport.

« En revanche, l’utilisation de l’IA et de l’apprentissage automatique était minime. Alors que le [CDEI’s Covid-19] le référentiel a capturé certains cas d’utilisation où l’IA était déployée, nous n’avons pas vu de preuves d’adoption généralisée et les cas d’utilisation étaient pour la plupart regroupés dans le milieu des soins de santé.

John Whittingdale, ministre d’État aux médias et aux données, a déclaré que le gouvernement, qui avait été forcé de partager les données rapidement, efficacement et de manière responsable pour le bien public, était déterminé à capitaliser sur tout ce qu’il a appris de la pandémie.

« Cette recherche confirme que la confiance du public dans la façon dont nous gouvernons les données est essentielle », a-t-il déclaré. « Grâce à notre national stratégie de données, nous nous sommes engagés à libérer l’énorme potentiel des données pour relever certains des plus grands défis de la société, tout en maintenant nos normes élevées de protection et de gouvernance des données.