Perspectives éthiques sur ChatGPT | Computer Weekly

ChatGPT sur la table

Une bonne analyse commence par clarifier : « De quoi parlons-nous ? » Plus c’est spécifique et pratique, mieux c’est. Si l’application sur laquelle vous travaillez n’est pas encore prête, vous pouvez créer un croquis et le mettre sur la table. Il n’a pas besoin d’être prêt. Mieux encore, car vous pouvez alors utiliser ce que vous apprenez pour un développement ultérieur.

Pour notre étude de cas, nous pouvons examiner comment les journalistes peuvent utiliser ChatGPT dans leur travail. Nous pouvons également orienter le développement et l’utilisation vers des valeurs telles que l’autonomie humaine, la prévention des dommages, une répartition équitable des avantages et des charges, ainsi que la transparence et la responsabilité.

Conséquentialisme : avantages et inconvénients

Avec le conséquentialisme, vous imaginez les avantages et les inconvénients des résultats de votre projet dans le monde réel, dans la société, dans la vie quotidienne. Du côté positif, les journalistes et autres peuvent utiliser ChatGPT pour travailler plus efficacement. Du côté négatif, cette efficacité peut conduire d’autres personnes à perdre leur emploi.

Du côté positif, ChatGPT peut aider les gens à améliorer leur vocabulaire et leur grammaire. Du côté négatif, les gens peuvent utiliser ChatGPT pour produire très rapidement et à très peu de frais des tonnes de désinformation et ainsi saper le journalisme et la démocratie.

Les habitants des pays à bas salaires ont nettoyé les données pour former ChatGPT, souvent dans de mauvaises conditions de travail. Sans réglementation adéquate, tous les avantages vont à un petit nombre d’entreprises, tandis que les coûts vont à l’environnement et aux personnes à l’autre bout du monde.

Il est de plus en plus difficile de repérer les fausses nouvelles, surtout lorsqu’elles sont présentées avec des photos ou des vidéos synthétiques. Les experts s’attendent à ce que d’ici 2026, pas moins de 90% du contenu en ligne soit créé ou modifié avec l’intelligence artificielle (IA).

Nous pouvons également examiner les coûts pour l’environnement et la société; l’extraction des matériaux qui entrent dans les puces sur lesquelles ChatGPT fonctionne et les dépenses pour former ChatGPT. Nous pouvons également examiner la répartition des avantages et des inconvénients.

Les habitants des pays à bas salaires ont nettoyé les données pour former ChatGPT, souvent dans de mauvaises conditions de travail. Sans réglementation adéquate, tous les avantages vont à un petit nombre d’entreprises, tandis que les coûts vont à l’environnement et aux gens à l’autre bout du monde.

Maintenant, en tant que professionnel, si vous travaillez sur une telle application, vous pouvez travailler à la développer ou à la déployer de manière à minimiser les inconvénients et à maximiser les avantages.

Éthique du devoir : devoirs et droits

Avec l’éthique du devoir, nous examinons les devoirs et les droits. Et quand ils entrent en conflit, nous recherchons un équilibre. En règle générale, les développeurs ont des devoirs et les utilisateurs ont des droits. Cela recoupe un point de vue juridique, qui est très actuel – en juin, le Parlement européen a approuvé son mandat de négociation pour la loi sur l’IA, qui réglemente également les grands modèles linguistiques (LLM), par exemple, en ce qui concerne la transparence.

Pour ChatGPT, l’équité et la non-discrimination sont également essentielles. Nous savons que les biais dans les données peuvent conduire à la discrimination dans les algorithmes; Cathy O’Neil et Safiya Umoja Noble ont écrit à ce sujet. Dans le même ordre d’idées, Emily Bender, Timnit Gebru et coll., dans leur Perroquets stochastiques , appellent à une compilation plus minutieuse des ensembles de données. Il y a un devoir d’équité et de diligence de la part des développeurs, en raison du droit à l’équité et à la non-discrimination des utilisateurs.

L’éthique du devoir peut aider à orienter votre projet entre les garde-fous de la législation, à éviter les préjugés et la discrimination, à respecter le droit d’auteur et à développer des applications qui responsabilisent les gens.

Nous pouvons également regarder pourquoi ChatGPT produit des textes qui fonctionnent plutôt bien. C’est parce qu’il est basé sur de nombreux textes écrits par des personnes, mais cela peut enfreindre les droits d’auteur des auteurs. Tout récemment, deux auteurs ont intenté une action en justice contre OpenAI, la société derrière ChatGPT, au sujet de leurs droits d’auteur.

Une autre préoccupation clé dans l’éthique du devoir est la dignité humaine. Qu’arrive-t-il à la dignité humaine si, par exemple, une organisation utilise ChatGPT pour communiquer avec vous, au lieu qu’un autre être humain parle avec vous?

En bref, l’éthique du devoir peut aider à orienter votre projet entre les garde-fous de la législation, à éviter les préjugés et la discrimination, à respecter le droit d’auteur et à développer l’application.Des ions qui responsabilisent les gens.

Éthique relationnelle : interactions et pouvoir

À travers le prisme de l’éthique relationnelle, nous pouvons examiner l’influence de la technologie sur la façon dont les gens interagissent et communiquent les uns avec les autres. Quand je pense à ChatGPT, je pense à ELIZA, le chatbot que Joseph Weizenbaum a programmé dans les années 1960. Il a été désagréablement surpris lorsque les gens ont attribué toutes sortes d’intelligence et d’empathie à ELIZA, même après avoir expliqué qu’il ne s’agissait que d’un logiciel. Les gens projettent facilement des qualités humaines sur des objets. Blake Lemoine, aujourd’hui ex-Google, croyait que LaMDA était conscient.

Dans un monde où de nombreuses personnes recherchent des informations en ligne, les entreprises qui possèdent et déploient des LLM comme ChatGPT ont un pouvoir disproportionné.

Mais l’inverse est également possible. Notre utilisation des chatbots peut éroder les qualités humaines. Si vous utilisez ChatGPT sans discernement, vous obtiendrez des textes médiocres et cela peut éroder la communication. En outre, ChatGPT peut créer des textes fluides, mais il n’a aucune compréhension de notre monde physique, aucun bon sens et pratiquement aucune idée de la vérité. Il a produit cette phrase: « L’idée de manger du verre peut sembler alarmante pour certains, mais il a en fait plusieurs avantages uniques qui le rendent intéressant comme un ajout alimentaire ». De toute évidence, l’utilisation aveugle de ChatGPT peut comporter de graves risques, par exemple dans les soins de santé.

De plus, nous pouvons poser des questions sur le pouvoir et sur la distribution du pouvoir. Dans un monde où de nombreuses personnes recherchent des informations en ligne, les entreprises qui possèdent et déploient des LLM comme ChatGPT ont un pouvoir disproportionné.

Éthique de la vertu : bien vivre ensemble

L’éthique de la vertu a ses racines dans l’Athènes d’Aristote. Le but de l’éthique de la vertu est de permettre aux gens de cultiver des vertus afin que nous puissions bien vivre ensemble. Les technologies jouent un rôle à cet égard. Une application particulière peut aider, ou entraver, les gens à cultiver une vertu particulière.

Passer toute la journée sur les médias sociaux corrode votre capacité à vous maîtriser. La maîtrise de soi est une vertu classique. Le but est de trouver, dans chaque situation spécifique, un moyen approprié pour une vertu spécifique. Prenons l’exemple du courage. Si vous êtes fort et que vous voyez quelqu’un en attaquer un autre, il est courageux d’intervenir. Rester en dehors de cela serait de la lâcheté. Mais si vous n’êtes pas fort, il serait téméraire d’intervenir. Rester à distance et appeler la police est alors courageux.

Le but de l’éthique de la vertu est de permettre aux gens de cultiver des vertus afin que nous puissions bien vivre ensemble. Les technologies jouent un rôle à cet égard. Une application particulière peut aider, ou entraver, les gens à cultiver une vertu particulière

Maintenant, que pourriez-vous faire en tant que développeur? Vous pourriez ajouter des fonctionnalités qui permettent aux gens de développer certaines vertus. Prenons l’exemple des médias sociaux. Souvent, il y a de la désinformation sur les médias sociaux, ce qui mine l’honnêteté et la citoyenneté. Lorsque les médias en ligne sont pleins de désinformation, il est difficile de déterminer ce qui est vrai ou non, et cela subvertit tout dialogue.

Vous pouvez aider à créer une application qui promeut l’honnêteté et la citoyenneté. Avec des fonctionnalités qui appellent les gens à vérifier les faits et à être curieux des préoccupations des autres, à engager un dialogue – au lieu de faire défiler les gens à travers les fausses nouvelles et d’alimenter la polarisation.

Intégrer l’éthique dans vos projets

Maintenant, disons que vous voulez commencer avec une telle réflexion éthique et délibération dans vos projets. Vous pouvez mieux intégrer cela dans les méthodes de travail que les gens connaissent et utilisent déjà.

Par exemple, vous pouvez intégrer des aspects éthiques dans vos méthodes de conception centrées sur l’humain. Vous présentez un croquis ou un prototype et facilitez une discussion, également sur les aspects éthiques. Supposons que vous travailliez sur un algorithme qui aide les conseillers hypothécaires à déterminer le type de prêt hypothécaire que quelqu’un peut obtenir. Vous pouvez leur demander quels effets l’utilisation d’un tel algorithme aurait sur leur satisfaction au travail, sur l’expérience de leurs clients ou sur leur autonomie? Avec leurs réponses, vous pouvez ajuster le développement ultérieur.

Il peut également être utile d’étudier comment les diverses parties prenantes perçoivent l’application sur laquelle vous travaillez. Quelles valeurs ils trouvent importantes. Vous pouvez organiser une réunion avec un fournisseur, un expert technique et quelqu’un qui sait comment l’application est utilisée sur le terrain. Il est important de poser des questions et de se renseigner davantage ici. Supposons que deux personnes parlent d’un VUS et que les deux pensent que la sécurité est importante. On pense du point de vue du propriétaire d’un tel VUS. L’autre pense à la sécurité des cyclistes et des piétons. L’enjeu est de faciliter les dialogues sur des sujets sensibles.

Enfin, vous pouvez regarder la composition de votre équipe de projet. Une équipe diversifiée peut examiner un problème sous différents angles et combiner différents types de connaissances en solutions créatives.Ns. Cela peut prévenir la vision en tunnel et les angles morts. Dans la tradition de l’évaluation technologique, vous pouvez explorer ce qui pourrait mal tourner avec la technologie sur laquelle vous travaillez.

Si cela est fait en temps opportun, des mesures peuvent être prises pour prévenir les problèmes et faire face aux risques. Les personnes ayant des points de vue divergents peuvent poser des questions utiles. Cela donne une image plus complète – parfois une image complexe; Mais bon, le monde est complexe.

Le livre de Marc Steen, Ethics for people who work in tech, est maintenant disponible via Routledge.