Connect with us

Technologie

Big Data London : atténuer les biais de l’IA plutôt que d’essayer de les supprimer, disent les experts

Published

on


Les biais ne peuvent pas être éliminés des systèmes d’intelligence artificielle (IA), mais les organisations peuvent s’efforcer de les atténuer, selon les intervenants discutant de l’éthique de l’IA au Big Data LDN cette semaine.

« Vous ne résoudrez jamais les biais », a déclaré Simon Asplen-Taylor, un consultant qui a travaillé sur les données pour de grandes organisations pendant trois décennies. « À moins que vous ne compreniez tous les types de préjugés, vous ne pourrez jamais y remédier. »

Il a suggéré que les organisations devraient plutôt chercher à comprendre comment les données sont collectées et à prendre en compte le contexte lorsqu’elles examinent les résultats d’un modèle d’IA.

Charlie Beveridge, qui conseille les startups sur l’utilisation de l’IA, a déclaré que le biais peut être inévitable dans les données existantes, mais qu’il pourrait être réduit à l’avenir en recueillant plus d’informations contextuelles. Cependant, elle a déclaré que les outils qui visent à le faire se concentrent généralement sur des caractéristiques protégées par la loi telles que l’ethnicité, la sexualité ou le genre, plutôt que sur une considération plus large de la situation particulière d’un individu.

« Comment pourrions-nous construire quelque chose qui atténue les inconvénients et les avantages que les gens éprouvent, au lieu de supposer arbitrairement que tout le monde dans le même groupe a exactement la même expérience ? », a-t-elle demandé.

Chris Fregly, ingénieur principal sur l’IA et l’apprentissage automatique pour Amazon Web Services, a ajouté que même si les organisations pensent que leurs propres données sont exemptes de biais, elles sont susceptibles de les introduire si elles utilisent des modèles d’IA pré-entraînés. « Le mieux que nous puissions faire est au moins de le détecter et d’essayer de le contourner », a-t-il déclaré.

Les panélistes se sont montrés plus optimistes quant à la moindre incidence sur l’environnement du travail sur l’intelligence artificielle. Sophia Goldberg, scientifique principale des données chez le radiodiffuseur Sky – qui prévoit d’atteindre zéro carbone net d’ici 2030 – a déclaré que l’amélioration de l’efficacité de l’IA afin qu’elle puisse générer des performances similaires à partir de beaucoup moins de calcul est un domaine d’intérêt croissant pour les chercheurs.

« J’espère que cela continuera en tant que tendance et en tant que domaine de recherche actif », a-t-elle déclaré à l’événement. « Si cela continue, nous serons dans une bonne position. »

Fregly d’AWS a déclaré que la méthode statistique de distillation pourrait être 97% aussi précise que les modèles d’IA standard tout en utilisant des millions plutôt que des milliards de paramètres. Beveridge a ajouté plus largement que les organisations devraient tenir compte de l’efficacité à l’avenir. « Nous devons changer notre état d’esprit avec la façon dont nous faisons de l’IA », a-t-elle déclaré.

Asplen-Taylor a déclaré que les organisations devraient aborder l’IA différemment en fonction de leur taille. Il a travaillé avec des startups d’assurance qui conçoivent leurs entreprises autour de la façon dont elles utilisent l’IA, tandis que les organisations de taille moyenne qui n’ont pas la capacité de mettre en place une équipe dédiée devraient envisager de s’associer. Les grandes organisations devraient envisager d’utiliser l’IA dans un domaine à faible risque qui offre des avantages si elle fonctionne plutôt que de causer des dommages si elle ne fonctionne pas, comme repérer les défauts.

Goldberg a déclaré qu’il pourrait être difficile d’innover dans les grandes entreprises, bien que Sky s’attaque à ce problème en concentrant son département spécifiquement sur l’innovation. Elle a ajouté qu’il était important de considérer le problème qui doit être résolu plutôt que des technologies particulières.

« Quand vous avez un ML [machine learning] problème, la première question à poser est [whether] vous devez utiliser ml », a-t-elle déclaré. « L’apprentissage automatique n’est qu’un outil et il existe de nombreux autres outils vraiment intéressants qui peuvent aider à résoudre les problèmes de l’entreprise. »

Click to comment

Leave a Reply

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Tendance