L'éthique de l'intelligence artificielle est un sous-domaine de l'éthique de l'ingénierie et de l'éthique de l'informatique, consacré à l'intelligence artificielle (IA). Elle recouvre divers thèmes présentant des enjeux éthiques particuliers, dont les biais algorithmiques, l'équité, la prise de décision automatisée, la protection des données personnelles, l'imputabilité et la réglementation. L'éthique de l'IA recouvre également divers enjeux émergents ou potentiellement futurs tels que la sûreté et l'alignement de l'IA, la course aux armements, les systèmes d'armes létales autonomes, le chômage technologique, la désinformation, comment traiter certains systèmes d'IA s'ils ont un statut moral (bien-être et droits de l'IA), la superintelligence artificielle et les risques existentiels.. Certains domaines d'application de l'IA peuvent aussi avoir des implications éthiques particulièrement importantes, comme la santé, l'éducation ou le secteur militaire.
Préoccupations éthiques
Atteinte à la vie privée L'émergence de l'intelligence artificielle (IA) soulève deux préoccupations majeures concernant la vie privée : des informations privées peuvent être compromises à travers une attaque contre un système d'IA par une tierce personne et un système d'IA lui-même peut être utilisé comme outil pour collecter des données privées sur des individus.
On trouve de nombreux exemples d'attaques contre un système d'IA par une tierce personne dans le domaine de l'apprentissage automatique. En effet, les algorithmes d'apprentissage automatique apprennent sur des données qui contiennent parfois des informations privées sur des individus, comme des informations médicales. L'entraînement de cet algorithme d'apprentissage automatique produit ensuite un modèle qui peut être utilisé à travers des requêtes pour produire de nouvelles données. Il est donc nécessaire que les données d'entraînement ne puissent pas être reconstruites ou retrouvées à partir des requêtes effectuées sur le modèle entraîné.
La recherche scientifique a permis de mettre en lumière plusieurs attaques permettant de reconstruire des données utilisées pour entrainer le modèle d'apprentissage machine à partir de requêtes au modèle.. Par exemple, il est possible de récupérer des clés de chiffrement privées en utilisant des outils de complétion de code basés sur l'apprentissage machine comme GitHub Copilot. D'autres recherches ont montré qu'il était possible de savoir si un individu faisait partie d'une base de données d'entrainement sans y avoir directement accès.. Cela peut porter atteinte à la vie privée de l'individu dans le cas où le simple fait de faire partie de la base de données est une information compromettante, par exemple lorsque la base de données regroupe des patients atteints d'une maladie grave.
De nombreuses technologies d'IA inquiètent les chercheurs quant à leur capacité à porter atteinte à la vie privée. Par exemple, les technologies de surveillance de masse comme la reconnaissance faciale peuvent représenter un danger pour la vie privée des individus..
Surveillance et autoritarisme Le Premier Cercle, publié par Alexandre Soljenitsyne en 1968, décrit l'utilisation de la compréhension automatique des langues et de la reconnaissance vocale au service de la tyrannie.. Si un programme d'IA peut comprendre les textes et les discussions, alors, avec une puissance de traitement adéquate, il pourrait théoriquement écouter tous les courriels et les conversations téléphoniques du monde, ainsi que les comprendre et rendre compte des propos tenus par chacun. Un programme d'IA comme celui-ci pourrait permettre aux gouvernements et à d'autres entités de supprimer efficacement la dissidence et d'attaquer leurs ennemis.
Atteinte à la dignité humaine Joseph Weizenbaum a soutenu en 1976 que la technologie de l'IA ne devrait pas être utilisée pour remplacer des personnes dans des positions qui exigent le respect et les soins, tels qu'un représentant du service à la clientèle (l'IA est déjà utilisée pour les systèmes téléphoniques interactifs de réponse vocale), un thérapeute (comme le proposait sérieusement Kenneth Colby dans les années 1970), une assistance aux personnes âgées (comme l'a rapporté Pamela McCorduck dans son livre The Fifth Generation., un soldat, un juge ou un policier. Weizenbaum explique que nous avons besoin de sentiments et d'empathie de la part des personnes occupant ces postes. Si les machines les remplacent, nous nous retrouverons aliénés, dévalués et frustrés. L'intelligence artificielle, si elle est utilisée de cette façon, représente une menace pour la dignité humaineJoseph Weizenbaum, cité dans ..
Le fondateur d'IA John McCarthy s'oppose au ton moralisateur de la critique de Weizenbaum. « Quand la moralisation est à la fois véhémente et vague, elle invite l'abus autoritaire », écrit-il..
Hibbard, Bill (2014): "Ethical Artificial Intelligence". écrit que .
Transparence et explicabilité
La transparence de l'IA est la capacité pour ses utilisateurs de comprendre comment les décisions sont prises par les algorithmes. Les décisions prises par l'IA peuvent avoir un impact significatif sur les humains, il est donc crucial que les intelligences artificielles soient transparentes en ce qui concerne leurs décisions, de façon à permettre d'identifier leurs biais potentiels. Cela pourra également permettre de renforcer la confiance envers les systèmes d'IA et de favoriser l'adoption de ces technologies à l'avenir, selon le besoin..
Quelques méthodes permettent de rendre les systèmes d'IA plus transparents et interprétables. L'une des approches consiste à utiliser des techniques d'exploration de modèle pour comprendre comment l'IA prend ses décisions. Cela peut être fait en examinant les poids et les biais des algorithmes et en les comparant à des ensembles de données d'entraînement.
Une autre méthode consiste à rendre les systèmes d'IA plus interprétables. Des techniques telles que la représentation graphique des résultats permettent ainsi de visualiser comment les données sont traitées par l'IA. Ces méthodes ne permettent toutefois pas de comprendre pleinement les décisions prises par les intelligences artificielles, donc de les prédire..
La transparence de l'IA est également nécessaire pour s’assurer que les systèmes d'IA soient équitables et non discriminatoires..
Ethics washing Dans le domaine de l’intelligence artificielle, l’effervescence des principes éthiques questionne et fait émerger la notion dethics washing de la part des entreprises. Cette expression, à l'image de , fait référence au phénomène qui ferait de l’éthique un argument marketing, voire un simple effet de mode. En ce sens, les « » des entreprises interrogent sur ce que porte la notion d'éthique, et sur l'utilité réelle de ces lignes directrices, qui pourraient davantage être un moyen de désamorcer la controverse.
et La notion d’ (« ouverture ») est utilisée dans le domaine de l'IA pour étendre celle d’ à l'ensemble des composants d'un système d'IA. Alors que l’ fait uniquement référence au code source d'un système, d'autres composants comme les poids peuvent également être accessibles et redistribués librement.. Le terme dIA est cependant parfois utilisé par abus de langage par la communauté scientifique pour désigner une IA dont la plupart de ses composants sont libres d'accès. L' impacte la transparence, la démocratisation, l'auditabilité et la sécurité d'un système d'IA.
Bill Hibbard soutient que parce que l'IA aura un effet profond sur l'humanité, les développeurs d'IA sont des représentants de l'humanité future et ont donc l'obligation éthique d'être transparents dans leurs travaux.. Ben Goertzel et David Hart ont créé OpenCog, un cadre pour le développement de l'IA.. OpenAI est une société de recherche à but non lucratif créée par Elon Musk, Sam Altman et d'autres pour développer l'IA open sourceInside OpenAI, Elon Musk’s Wild Plan to Set Artificial Intelligence Free Cade Metz, Wired 27 April 2016.. De nombreux autres modèles de fondation open ont vu jour comme LLaMA. et Stable Diffusion..
La démocratisation de l'IA via l’ et l’ a entraîné l’émergence de nouveaux risques et d'utilisations détournées de modèles d'apprentissage automatique. Par exemple, l'accès facilité à des modèles d'apprentissage dans le domaine de la vision par ordinateur a permis à des utilisateurs de Reddit de créer des pornographiques.. Cet accroissement des risques liés à l'usage malveillant de systèmes d'Intelligence Artificielle a mené la communauté scientifique à remettre en question le bien-fondé de l’ et de l’ dans le domaine de l'IA. La puissance de calcul nécessaire pour affiner l'entrainement d'un algorithme d'IA étant de plus en plus accessible à bas coût, le libre accès aux poids d'un algorithme d'apprentissage peut donc faciliter l'apparition d'utilisation malveillante.
Des questionnements similaires sont soulevés sur le libre accès des publications scientifiques en intelligence artificielle.
Alignement et éthique des machines L'éthique des machines (ou morale de la machine) est le domaine de recherche qui se consacre à la conception d'agents moraux artificiels (AMA), de robots ou d'ordinateurs artificiellement intelligents qui se comportent moralement.....
Isaac Asimov a examiné cette question dans les années 1950 dans Les Robots. À l'insistance de son rédacteur John W. Campbell Jr., celui-ci a proposé les trois lois de la robotique dans le but de gouverner des systèmes artificiellement intelligents. Une grande partie de son travail a ensuite été consacrée à tester les limites de ses trois lois. Son travail suggère qu'aucun ensemble de lois fixes ne peut anticiper suffisamment toutes les circonstances possibles..
Certains experts et universitaires ont mis en doute l'utilisation de robots pour le combat militaire, surtout lorsque ces robots sont dotés d'un certain degré d'autonomie. Le président de l'Association for the Advancement of Artificial Intelligence a commandé une étude afin d'examiner cette questionAAAI Presidential Panel on Long-Term AI Futures 2008-2009 Study, Association for the Advancement of Artificial Intelligence (consulté le ).. Ils pointent vers des programmes d'Acquisition de Langage afin d'imiter l'interaction humaine.
Vernor Vinge a suggéré un point hypothétique de la civilisation humaine qui pourrait connaître une croissance technologique où certains ordinateurs deviendraient plus intelligents que les humains. Il appelle cela la « Singularité ». Il suggère que celle-ci peut être très dangereuse pour l'humanitéThe Coming Technological Singularity: How to Survive in the Post-Human Era, par Vernor Vinge, Department of Mathematical Sciences, San Diego State University, (c) 1993 par Vernor Vinge.. Cela est discuté par le singularitarisme. La Machine Intelligence Research Institute a suggéré la nécessité de construire des « intelligences artificielles amicales », ce qui signifie que les progrès qui sont déjà en cours avec l'IA devrait également inclure un effort pour rendre l'IA intrinsèquement amicale et humaine..
Dans ., Wendell Wallach et Colin Allen concluent que les tentatives d'enseigner les droits des robots à partir du mal vont probablement améliorer la compréhension de l'éthique humaine en motivant les humains à combler les lacunes de la théorie normative moderne et en fournissant une plate-forme pour l'investigation expérimentale. Nick Bostrom et Eliezer Yudkowsky ont plaidé pour des arbres de décision (tels que ID3) sur des réseaux de neurones et des algorithmes génétiques au motif que les arbres de décision obéissent aux normes sociales modernes de transparence et de prévisibilité..
Roboéthique