NHS England travaille avec Ada Lovelace Institute pour lutter contre les biais de l’IA dans les soins de santé

NHS England travaille avec l’Institut Ada Lovelace pour piloter des évaluations d’impact algorithmiques (AIA) dans les soins de santé. L’Institut Ada Lovelace définit l’AIA comme un outil permettant d’évaluer les impacts sociétaux possibles d’un système algorithmique avant que le système ne soit utilisé.

NHS England a déclaré que le projet pilote, géré par le laboratoire d’IA du NHS, sera utilisé dans le cadre du processus d’accès aux données de la base de données nationale d’imagerie thoracique Covid-19 (NCCID) et de la plate-forme nationale d’imagerie médicale (NMIP) proposée.

Bien que l’intelligence artificielle (IA) ait le potentiel d’aider les travailleurs de la santé et des soins à fournir de meilleurs soins aux personnes, elle pourrait également exacerber les inégalités existantes en matière de santé si des préoccupations telles que le biais algorithmique ne sont pas prises en compte. Dans ce qui est considéré comme une première mondiale pour l’adoption de l’IA dans les soins de santé, l’objectif de l’essai est de s’assurer que les risques potentiels tels que les biais des algorithmes sont traités avant de pouvoir accéder aux données du NHS.

Grâce à l’essai, NHS AI Lab a déclaré qu’il aiderait les chercheurs et les développeurs à engager les patients et les professionnels de la santé à un stade précoce du développement de l’IA, lorsqu’il y aura une plus grande flexibilité pour apporter des ajustements et répondre aux préoccupations.

Brhmie Balaram, responsable de la recherche et de l’éthique en IA au NHS AI Lab, espère que le soutien à la participation des patients et du public dans le cadre du processus de développement conduira à des améliorations de l’expérience des patients et à l’intégration clinique de l’IA.

« Renforcer la confiance dans l’utilisation des technologies d’IA pour le dépistage et le diagnostic est fondamental si le NHS veut réaliser les avantages de l’IA », a déclaré Balaram. « Grâce à ce projet pilote, nous espérons démontrer l’importance d’aider les développeurs à s’engager de manière significative avec les patients et les professionnels de la santé beaucoup plus tôt dans le processus de mise sur le marché d’un système d’IA. »

NHS AI Lab a chargé l’Institut Ada Lovelace de fournir un guide sur la façon d’utiliser un AIA dans le monde réel. Il est conçu pour aider les développeurs et les chercheurs à examiner et à prendre en compte les impacts potentiels des technologies proposées sur les personnes, la société et l’environnement.

L’exemple de version du guide de processus, disponible en téléchargement à partir de son site Web, fournit des conseils étape par étape aux équipes de projet qui cherchent à accéder aux données d’imagerie du NMIP. Il explique comment effectuer une évaluation d’impact algorithmique (AIA) pour leur projet.

Le guide s’adresse aux concepteurs, aux développeurs, aux scientifiques des données et aux gestionnaires de produits ou de recherche travaillant sur des produits et des modèles de données qui doivent utiliser des données d’imagerie NMIP. Il couvre la responsabilisation, la transparence, la tenue de dossiers et le dialogue critique sur la façon dont la conception et le développement du système pourraient entraîner des préjudices et des avantages particuliers.

Octavia Reeve, responsable intérimaire à l’Institut Ada Lovelace, a déclaré: « Les évaluations d’impact algorithmiques ont le potentiel de créer une plus grande responsabilité pour la conception et le déploiement de systèmes d’IA dans les soins de santé, ce qui peut à son tour renforcer la confiance du public dans l’utilisation de ces systèmes, atténuer les risques de préjudice pour les personnes et les groupes, et maximiser leur potentiel de bénéfice. Nous espérons que cette recherche suscitera d’autres considérations pour l’utilisation des AIA dans d’autres contextes des secteurs public et privé. »

Le ministre de l’Innovation, Syed Kamall, a déclaré: « Bien que l’IA ait un grand potentiel pour transformer les services de santé et de soins, nous devons nous attaquer aux préjugés qui ont le potentiel de nuire davantage à certaines populations dans le cadre de notre mission visant à éradiquer les disparités en matière de santé.

« Ce projet pilote démontre une fois de plus que le Royaume-Uni est à l’avant-garde de l’adoption de nouvelles technologies d’une manière éthique et centrée sur le patient. »