Connect with us

Technologie

Les banques sont confrontées à des défis d’équité alors qu’elles s’engagent dans la technologie de l’IA

Published

on


Les trois quarts des dirigeants des banques pensent que l’intelligence artificielle (IA) déterminera s’ils réussissent ou échouent, mais ils sont confrontés à des défis majeurs en matière de gouvernance, notamment en veillant à ce que les décisions prises par l’IA soient justes et éthiques.

Un rapport de l’Economist Intelligence Unit (EIU) a déclaré que la partialité en matière de données qui conduit à la discrimination à l’égard des individus ou des groupes était l’un des risques les plus importants pour les banques utilisant cette technologie.

L’IA occupe actuellement une place importante dans l’agenda bancaire et les perturbations causées par Covide-19 ont « intensifié » son adoption dans le secteur, selon l’EIU. Les banques utilisent l’IA pour créer des services bancaires plus personnalisés pour leurs clients, pour automatiser les processus de back-office et pour suivre le rythme de l’évolution des banques concurrentes numériques pionnières de l’IA dans le secteur.

Mais les banques devront prendre des décisions éthiques, justes et bien documentées basées sur l’IA, a déclaré Superviser l’IA : Gouverner l’intelligence artificielle dans le secteur bancaire Rapport. Il a déclaré que les décisions prises par les ordinateurs doivent rester éthiques, sans parti pris, et ces décisions doivent être explicables.

Pour atteindre ces objectifs, l’IA doit être éthique par sa conception, les données doivent être surveillées pour l’exactitude et l’intégrité, les processus de développement doivent être bien documentés et les banques doivent s’assurer qu’elles ont le bon niveau de compétences.

Pete Swabey, directeur de la rédaction pour l’Europe, le Moyen-Orient et l’Afrique (EMEA) – Le leadership de la pensée à l’EIU, a déclaré : « L’IA est considérée comme un facteur de différenciation concurrentiel clé dans le secteur. Notre étude, qui s’appuie sur les orientations données par les organismes de réglementation du monde entier, met en évidence les principaux défis de gouvernance que les banques doivent relever si elles doivent tirer parti de l’opportunité d’IA de manière sûre et éthique.

Selon l’EIU, l’absence potentielle de surveillance humaine est une préoccupation majeure. Il a déclaré que le recrutement et la formation des personnes ayant les bonnes compétences devraient être une priorité : « Les banques doivent assurer le bon niveau d’expertise en IA dans l’ensemble de l’entreprise pour construire et maintenir des modèles d’IA, ainsi que pour superviser ces modèles. »

Mais en tant que pionniers de l’informatique, et avec leur richesse de compétences informatiques et de fonds de recherche, les banques sont en bonne position pour établir des normes est le développement de l’IA.

Prag Sharma, vice-président senior de Citi Innovation Labs, a déclaré: « Bias peut se glisser dans les modèles d’IA dans n’importe quelle industrie, mais les banques sont mieux placées que la plupart des types d’organisation pour le combattre. Maximiser l’explicabilité des algorithmes aide à réduire les biais.

Adam Gibson, co-fondateur de Skymind Global Ventures, constructeur d’écosystèmes d’IA, a déclaré qu’il était important de définir d’abord ce que l’éthique signifie pour votre produit afin que vous ayez des lignes directrices à suivre lorsque vous concevez des applications d’IA.

« De plus, vous avez besoin de diversité de pensée et d’équipes interfonctionnelles pour examiner tous les aspects des services que vous construisez tout au long de son cycle de vie », a-t-il dit.

« La collaboration avec différentes personnes d’horizons différents est essentielle pour minimiser les préjugés et les activités éthiquement douteuses au cours du processus décisionnel de l’IA. Cela n’inclut pas seulement les personnes ayant les compétences nécessaires pour développer la technologie, mais aussi les utilisateurs des services. Ils connaîtront de première main tous les biais et seront en mesure de les signaler au cours du processus de conception avant que les services d’IA sont lancés.

Gibson a ajouté que l’IA est construite à travers des jeux de données, et souvent les modèles d’IA racistes proviennent de jeux de données racistes. « C’est ce dont nous devons être conscients pour nous aider à minimiser et à nous protéger contre l’innovation qui n’est pas bénéfique pour la société », a-t-il déclaré.

Click to comment

Leave a Reply

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Trending