Sommet sur l’éthique numérique : l’innovation a besoin d’une réglementation pour être éthique

L’idée souvent répétée que la réglementation étouffe l’innovation doit être supprimée, a-t-on affirmé, en particulier en ce qui concerne les technologies puissantes telles que l’intelligence artificielle (IA), car les limites à l’utilisation de tels outils ne feront qu’encourager une approche plus éthique et responsable de leur développement et de leur déploiement.

S’exprimant lors du cinquième sommet annuel sur l’éthique numérique de TechUK le 8 décembre, un certain nombre de panélistes d’experts ont critiqué l’insistance de l’industrie de la technologie sur le fait que la réglementation étoufferait l’innovation technologique, arguant plutôt que des règles claires sont en fait un catalyseur de progrès positif.

Sandra Wachter, professeure agrégée et chercheuse principale à l’Université d’Oxford et spécialisée dans les biais algorithmiques, a déclaré que si la plupart des gens seraient maintenant d’accord pour dire que l’IA et d’autres technologies devraient être exploitées de manière équitable, transparente et responsable, la prochaine tâche consiste à réfléchir à la façon dont cela peut être mis en pratique.

Wachter a ajouté que c’était particulièrement important maintenant, étant donné que les systèmes d’IA sont de plus en plus utilisés pour prendre des décisions qui changent la vie des gens, allant de l’obtention d’un prêt à leur incarcération.

« Je pense que la prochaine étape consiste à sortir de l’état d’esprit selon lequel chaque type de réglementation étouffe l’innovation parce que ce n’est vraiment pas vrai », a-t-elle déclaré. « Si quelqu’un dit cela, alors il n’a pas vraiment compris ce que la réglementation est censée faire – il ne s’agit pas d’étouffer l’innovation, il s’agit d’inspirer l’innovation responsable. »

Wachter a déclaré qu’il était également important de distinguer ce que l’on entend exactement par « étouffer l’innovation », et si les gens se réfèrent à la réglementation de la recherche ou du déploiement.

« Personne ne veut réglementer, étouffer, entraver la recherche », a-t-elle déclaré. « Je dirais que le contraire est vrai au Royaume-Uni – c’est vraiment une priorité d’essayer de trouver les esprits les plus brillants du monde pour repousser les limites de la connaissance.

« Ce sur quoi nous voulons nous concentrer, c’est le déploiement, en particulier dans les zones où il y a un risque élevé et un préjudice potentiel pour les citoyens – c’est la chose que nous voulons réglementer. Je pense que l’idée d’« étouffer » le déploiement est étrange, parce que je ne suis pas tout à fait sûr de vouloir avoir un terrain où seules les personnes qui ne veulent pas jouer selon des règles s’installent.

« Est-ce que ce sont les gens que vous voulez attirer ? Ou voudriez-vous avoir des gens qui sont attirés par des normes élevées et une conduite éthique? Je veux avoir ces gens qui ont le public à l’esprit. »

Lord Clement-Jones, un collègue libéral-démocrate, a convenu avec Wachter que la réglementation devrait être considérée comme un catalyseur plutôt que comme un obstacle, affirmant que bien qu’il y ait eu de bons progrès au cours des cinq dernières années – par exemple, avec la création d’institutions telles que l’Office for AI ou le Centre for Data Ethics and Innovation (CDEI) – le Royaume-Uni manque encore d’actions concrètes.

« Il semble y avoir cette idée que la réglementation est l’ennemi de l’innovation », a-t-il déclaré. « Malheureusement, nous n’avons jamais établi un ensemble de principes britanniques pour l’adoption de l’IA. Le CDEI a fait un excellent travail sur le risque de biais, mais ils n’ont pas été mis sur une base statutaire malgré les intentions initiales, et il y a eu très peu d’appétit dans les communautés de la recherche et des affaires pour réformer le RGPD [General Data Protection Regulation] et pourtant, nous voici, dans la consultation, en train de parler de supprimer l’article 22 [on automated processing], qui est l’un des rares éléments du RGPD qui tente de se réconcilier avec l’IA.

Clement-Jones a ajouté que lorsqu’il s’agit de pousser sur la réglementation, en particulier sur les technologies individuelles telles que la reconnaissance faciale ou la prise de décision automatisée, le Royaume-Uni est « très en retard » par rapport au reste de l’Europe et même aux États-Unis.

Il a également critiqué le ministre du Numérique, Chris Philp, qui a déclaré lors de son discours au sommet que le Royaume-Uni se concentrerait sur « une réglementation légère et favorable à l’innovation en ce qui concerne l’IA », ajoutant: « Nous voulons qu’elle soit basée sur les risques, proportionnée, flexible … axé sur les résultats, nous ne voulons pas que ce soit trop onéreux, et nous le présenterons officiellement dans les mois à venir.

Commentant l’engagement de Philp en faveur d’une « réglementation légère », Clement Jones a déclaré que le Royaume-Uni se frayer un chemin à travers la réglementation de l’IA, comme Philp l’a suggéré, était totalement la mauvaise approche. « Nous devons converger, sinon nos développeurs, nos grandes entreprises appliquant des systèmes d’IA en Europe, se retrouveront soumis à la réglementation européenne, et ils ne l’aimeront pas parce qu’ils auront adapté tout leur développement à un ensemble de règles britanniques, ce qui ne semble pas être très fructueux », a-t-il déclaré.

« Tout comme le RGPD est l’étalon-or, nous allons devoir reconnaître que la loi européenne sur l’IA va être assez largement adoptée, et même les Américains sont maintenant comaller de l’avant avec les normes, l’évaluation des risques, etc. Je pense que nous devons aller un peu plus loin dans notre attitude à l’égard de la réglementation. »

Commentant les hypothèses populaires de la compétitivité de l’IA à l’échelle mondiale, Joanna Bryson, professeur d’éthique et de technologie à la Hertie School de Berlin, a déclaré que les récits autour de l’éthique limitant l’innovation étaient tout simplement faux. « Le but de l’éthique est d’aider une société à s’épanouir », a-t-elle déclaré. « Il ne s’agit pas seulement de la rapidité avec laquelle vous pouvez exprimer vos innovations, mais aussi du nombre d’innovations que vous pouvez agréger et du bien que vous pouvez faire. »

Bryson a également suggéré que, pour ce qui est de la meilleure façon de réglementer les nouvelles technologies à l’heure actuelle, les gouvernements devraient utiliser les structures juridiques existantes les plus proches jusqu’à ce qu’une nouvelle législation puisse être mise en place. « Si le logiciel était traité comme un produit fabriqué ordinaire, alors nous pourrions avoir une responsabilité et une responsabilité ordinaires du fait des produits », a-t-elle déclaré.