Connect with us

Technologie

L’Unesco lance une consultation mondiale sur l’éthique de l’IA

Published

on


L’Organisation des Nations Unies pour l’éducation, la science et la culture (Unesco) a lancé une consultation mondiale en ligne sur l’éthique de l’intelligence artificielle (IA), qui sera utilisée par le groupe international d’experts de l’IA de l’organisation pour aider à élaborer un cadre régissant la façon dont la technologie est appliquée à l’échelle mondiale.

L’unité multidisciplinaire de 24 spécialistes de l’IA, connue sous le nom de Groupe d’experts ad hoc (AHEG), a été créée en mars 2020 et a été chargée de produire un projet de recommandation de l’Unesco qui tienne compte des impacts étendus de l’IA, y compris sur l’environnement, les marchés du travail et la culture.

Le premier projet de texte de sa recommandation a été publié le 15 mai 2020, que l’Unesco invite maintenant le public à commenter jusqu’au 31 juillet 2020.

Il a décrit 11 principes pour la « recherche, la conception, le développement, le déploiement et l’utilisation des systèmes d’IA », y compris l’équité, la responsabilité et la responsabilité, la surveillance et la détermination humaines, la durabilité, la gouvernance mutli-parties prenantes et adaptative, et la protection de la vie privée, entre autres.

Le texte a également défini six valeurs qui serviraient de fondement à ces principes, qui sont la dignité humaine, les droits de l’homme et les libertés fondamentales, ne laissant personne derrière eux, vivant en harmonie, en fiabilité et en protection de l’environnement.

« Il est crucial que le plus grand nombre possible de personnes participent à cette consultation, afin que des voix du monde entier puissent être entendues lors du processus de rédaction du premier instrument normatif mondial sur l’éthique de l’IA », a déclaré Audrey Azoulay, directrice générale de l’Unesco.

La recommandation finale sera soumise aux États membres pour adoption au cours des 41St session de la conférence générale de l’Unesco en novembre 2021.

« L’Unesco est convaincue qu’il est urgent de mettre en place un instrument mondial sur l’éthique de l’IA pour garantir que les questions éthiques, sociales et politiques puissent être traitées de manière adéquate, tant en temps de paix que dans des situations extraordinaires comme la crise sanitaire mondiale actuelle », a déclaré l’Unesco dans un communiqué de presse.

« La Recommandation de l’Unesco devrait définir des valeurs et des principes communs et identifier des mesures politiques concrètes sur l’éthique de l’IA. Son rôle sera d’aider les États membres à faire respecter les droits fondamentaux de la Charte des Nations Unies et de la Déclaration universelle des droits de l’homme, et à ce que la recherche, la conception, le développement et le déploiement des systèmes d’IA tiennent compte du bien-être de l’humanité, de l’environnement et du développement durable.

Selon Gemma Galdon Clavell, PDG et fondatrice du cabinet de conseil en audit algorithmique Eticas, basé à Barcelone, « de nombreux adoptants précoces de l’IA… reconnaître les risques des systèmes d’IA – de la partialité involontaire à l’explicabilité – et ils sont intéressés à adopter des mesures spécifiques pour aider à atténuer ces risque ».

Elle a ajouté: « Malheureusement, même les adoptants les plus avertis ne savent pas comment. La bonne nouvelle est que même si le projet de l’Unesco s’adresse principalement aux décideurs, les premiers adoptants de l’IA trouveraient des mesures raisonnables qu’ils peuvent mettre en œuvre, y compris un large déploiement d’audits algorithmiques. Des conseils spécifiques sur la façon de mettre en œuvre l’éthique sont toujours un pas dans la bonne direction.

Jeni Tennison, vice-présidente et conseillère stratégique en chef à l’Open Data Institute, a déclaré : « Il est bon de voir l’Unesco mener une vaste consultation autour de quelque chose d’aussi important au niveau international que l’éthique de l’IA.

« Il devrait y avoir de multiples voix qui soulèvent des préoccupations et discutent de l’avenir de l’IA que nous voulons voir. Mais il y a un long chemin entre cette consultation et l’acceptation, l’adoption et l’action sur les recommandations des États membres du monde entier.

Galdon Clavell a déjà déclaré à Computer Weekly que trop de gens dans le secteur de la technologie considèrent encore à tort la technologie comme socialement et politiquement neutre – créant des problèmes majeurs dans la façon dont les algorithmes sont développés et déployés – et que la plupart des organisations utilisant des algorithmes ont très peu de conscience ou de compréhension de la façon de relever les défis de la partialité, même si elles la reconnaissent comme un problème en premier lieu.

Elle a toutefois ajouté que les entreprises commencent lentement à changer leurs façons de faire lorsqu’il s’agit de développer des algorithmes ayant des répercussions sociales, beaucoup commençant à considérer la confiance des consommateurs comme un avantage concurrentiel.

« J’ai certainement constaté que certains des clients que nous avons sont des gens qui se soucient vraiment de ces choses, mais d’autres se soucient de la confiance de leurs clients et ils se rendent compte que faire les choses différemment, faire les choses mieux, et être plus transparent est aussi un moyen pour eux d’obtenir un avantage concurrentiel dans l’espace », a-t-elle dit.

« l ya aussi un mouvement lent dans le monde des entreprises cela signifie qu’ils se rendent compte qu’ils doivent cesser de voir les utilisateurs comme cette ressource bon marché de données, et les voir comme des clients qui veulent et méritent le respect, et veulent des produits commerciaux qui ne s’attaquent pas à leurs données à leur insu ou leur capacité à consentir.

Click to comment

Leave a Reply

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Trending