La Chambre des Lords lance une enquête sur l’IA générative

La Chambre des Lords a lancé un appel à témoignages alors qu’elle entame une enquête sur les changements sismiques provoqués par l’IA générative (intelligence artificielle) et les grands modèles linguistiques.

La rapidité du développement et le manque de compréhension des capacités de ces modèles ont conduit certains experts à mettre en garde contre un risque crédible et croissant de préjudice. Par exemple, le Center for AI Safety a publié une déclaration avec plusieurs leaders technologiques comme signataires qui exhorte les personnes impliquées dans le développement et les politiques de l’IA à donner la priorité à l’atténuation du risque d’extinction de l’IA. Mais il y en a d’autres, comme l’ancien PDG de Microsoft, Bill Gates, qui croient que la montée de l’IA libérera les gens pour faire un travail que les logiciels ne peuvent jamais faire, comme enseigner, soigner les patients et soutenir les personnes âgées.

Selon les chiffres cités dans un rapport de Goldman Sachs, l’IA générative pourrait ajouter environ 5,5 milliards de livres sterling à l’économie mondiale sur 10 ans. Le rapport de la banque d’investissement estime que 300 millions d’emplois pourraient être exposés à l’automatisation. Mais d’autres rôles pourraient également être créés dans le processus.

Les grands modèles peuvent générer des réponses contradictoires ou fictives, ce qui signifie que leur utilisation dans certaines industries pourrait être dangereuse sans garanties appropriées. Les ensembles de données de formation peuvent contenir un contenu biaisé ou préjudiciable, et les droits de propriété intellectuelle sur l’utilisation des données de formation sont incertains. La nature « boîte noire » des algorithmes d’apprentissage automatique rend difficile de comprendre pourquoi un modèle suit un plan d’action, quelles données ont été utilisées pour générer une sortie et ce que le modèle pourrait être capable de faire ensuite, ou de faire sans supervision.

La baronne Stowell of Beeston, présidente du comité, a déclaré: « Les derniers grands modèles linguistiques présentent des opportunités énormes et sans précédent. Mais nous devons être lucides face aux défis. Nous devons étudier les risques en détail et trouver la meilleure façon de les traiter – sans étouffer l’innovation dans le processus. Nous devons également savoir clairement qui exerce le pouvoir à mesure que ces modèles se développent et s’intègrent dans les affaires quotidiennes et la vie personnelle.

Parmi les domaines sur lesquels le comité recherche de l’information et des données probantes, il y a la façon dont les grands modèles linguistiques devraient se développer au cours des trois prochaines années, les opportunités et les risques et une évaluation visant à déterminer si les organismes de réglementation du Royaume-Uni disposent d’une expertise et de ressources suffisantes pour répondre aux grands modèles linguistiques.

« Cette réflexion doit être rapide, compte tenu de la vitesse vertigineuse des progrès. Nous ne devons pas laisser les prédictions les plus effrayantes sur le pouvoir futur potentiel de l’IA nous distraire de la compréhension et de la résolution des problèmes les plus urgents dès le début. De même, nous ne devons pas sauter aux conclusions au milieu du battage médiatique », a déclaré Stowell.

« Notre enquête examinera donc de manière objective les preuves au Royaume-Uni et dans le monde, et présentera des propositions au gouvernement et aux régulateurs pour aider à faire en sorte que le Royaume-Uni puisse être un acteur de premier plan dans le développement et la gouvernance de l’IA. »