La réglementation de l'intelligence artificielle est l'élaboration de politiques et de lois du secteur public pour promouvoir et réglementer l'intelligence artificielle (IA). Elle est liée à la réglementation des algorithmes et des données.. Le paysage réglementaire et politique de l'IA est un problème émergent dans les juridictions du monde entier, y compris dans l'Union européenne (UE), qui dispose d'un pouvoir de réglementation gouvernementalL'expression "pouvoir de réglementation gouvernemental" semble être une expression canadienne. Le pouvoir de l'Union européenne se définit comme Principe d'attribution : l'Union européenne est une union d'États membres et toutes ses compétences lui sont volontairement conférées par ses États membres. Ce principe permet le Droit dérivé de l'Union européenne. L'UE applique également le Principe de subsidiarité en droit de l'Union européenne., et dans les organismes internationaux comme l'Institute of Electrical and Electronics Engineers (IEEE), l'Organisation de coopération et de développement économiques (OCDE), qui n'en ont pas, et d'autres. Depuis 2016, des séries de lignes directrices en matière d’éthique de l'IA ont été publiées, pour maintenir un certain contrôle social sur cette technologie.. Outre la réglementation, les organisations déployant l’IA jouent un rôle central dans la création et le déploiement d’une IA digne de confiance., et dans l'atténuation des risques..
Selon AI Index de Stanford, le nombre annuel de lois liées à l'IA adoptées dans les 127 pays étudiés est passée de une en 2016 à 37 adoptées rien qu'en 2022...
Contexte En 2017, Elon Musk a appelé à une réglementation du développement de l’IA.. Selon NPR, le PDG de Tesla n'était « clairement pas ravi » à l'idée de plaider en faveur d'un contrôle gouvernemental susceptible d'impacter son propre secteur, mais il estimait que les risques d'un manque de contrôle étaient trop élevés. : En réponse, certains politiciens ont exprimé leur scepticisme quant à la sagesse du fait de réglementer une technologie encore en développement.. Répondant à la fois à Elon Musk et aux propositions de des législateurs de l’Union européenne visant à réglementer l’IA et la robotique, le PDG d’Intel, Brian Krzanich, avait déclaré que l’IA n'en était encore qu'à ses débuts et qu’il était trop tôt pour réglementer cette technologie.. Au lieu d’essayer de réglementer la technologie elle-même, certains chercheurs ont suggéré d’élaborer des normes communes incluant des exigences en matière de test et de transparence des algorithmes..
Dans une enquête Ipsos de 2022, les attitudes à l’égard de l’IA variaient considérablement selon les pays. 78 % des citoyens chinois et seulement 35 % des Américains conviennent que « les produits et services utilisant l'IA présentent plus d'avantages que d'inconvénients ». Un sondage Reuters/Ipsos de 2023 a révélé que 61 % des Américains sont d’accord, et 22 % ne sont pas d’accord sur le fait que l’IA présente des risques pour l’humanité.. Dans un sondage Fox News de 2023, 35 % des Américains pensaient qu'il était « très important » et 41 % supplémentaires pensaient qu'il était « assez important » que le gouvernement fédéral réglemente l'IA, contre 13 % répondant « pas très important » et 8 % répondant « pas du tout important »...
Définitions d'intelligence artificielle Il est difficile de trouver une définition précise et actionnable du terme « intelligence artificielle ».
Pour l'OCDE, un système d'IA est ..
L'une des définitions admises par la Commission européenne est .. Après une analyse des aspects technico-économiques de l'IA en 2020 s'appuyant sur scientifiques, le Centre commun de recherche (CCR, organe de la Commission européenne consacré à la veille sur l’intelligence artificielle digne de confiance et qui suit la taxonomie du domaine) a échoué a synthétiser une définition commune ou consensuelle...
Le règlement sur l’intelligence artificielle (), adopté par le Parlement européen et le Conseil européen et entré en vigueur le , offre une définition plus précise et opérationnelle. L'IA est considéré comme .. Cette définition légale européenne sert de base pour classer les systèmes d'IA en fonction de leurs risques et d'établir des règles spécifiques pour chaque catégorie.
Besoin La montée en puissance de l'IA puis de l'IA agentique, et la potentielle émergence d'une IA générale soulèvent des débats éthiques et juridiques majeurs, notamment autour de risques catastrophiques, encore caractérisés par une faible probabilité mais avec des impact possiblement très importants et irréversibles. Le besoin de réglementer l’IA pour gérer les risques augmente donc...
Face à l'opacité et à l'autonomie croissante des modèles d'IA, l'analyse économique mobilise le principe de précaution pour arbitrer entre la poursuite de l'innovation, indispensable à la compétitivité et à la souveraineté technologique, et la nécessité de réguler leurs externalités négatives, par une articulation entre règles de sécurité ex ante et régimes de responsabilité ex post. En Europe, le règlement sur l'intelligence artificielle (AI Act) illustre cette tentative de conciliation, cherchant une « ligne de crête » entre la protection des droits fondamentaux et le maintien des incitations à la recherche et développement dans un contexte de concurrence internationale non coopérative.. La réglementation pourrait selon certaines analyses s'avérer bénéfique à l'innovation, en établissant un cadre de standardisation propice la sécurité, l'interopérabilité et la confiance des utilisateurs..
Les considérations en matière d’administration publique et de politique se concentrent généralement sur les implications techniques et économiques, sur l'IA digne de confiance, et sur l'IA centrée sur l'humain. ; bien que la réglementation des superintelligences artificielles soit également prise en compte.. L'approche de la réglementation en matière d'IA se concentre couramment sur les risques et biais des algorithmes d'apprentissage automatique, notamment sur les données utilisées, le test des algorithmes, le choix du modèle de décision, ainsi que sur l'explicabilité des résultats.Kirat T., Tambou O., Do V. et al. , « Fairness and Explainability in Automatic Decision-Making Systems. A Challenge for Computer Science and Law », EURO Journal on Decision Processes, 11..
Les propositions de réglementation de l'IA sont plus ou moins contraignantes.. Certains juristes ont souligné que les approches juridiquement contraignantes (hard laws en anglais) présentent des défis considérables en réglementation de l’IA... Notamment du fait que les technologies d'IA évoluent rapidement, les approches législatives traditionnelles ne pouvant pas suivre le rythme des applications émergentes et des risques et bénéfices associés. De même, la diversité des applications de l’IA constitue un défi pour les agences de réglementation, dont la portée juridictionnelle est souvent limitée. En guise d’alternative, certains juristes soutiennent que les approches moins contraignantes (droit mou) sont prometteuses pour réglementer l'IA, car elles sont plus flexibles et évolutives. Le manque de contrainte peut cependant aussi être un problème..
Cason Schmit, Megan Doerr et Jennifer Wagner ont proposé la création d'un organisme de réglementation quasi-gouvernemental, qui tirerait parti des droits de propriété intellectuelle avec des licences contaminantes de type copyleft. Ces licences porteraient par exemple sur les modèles d'IA ou les données utilisées pour l'entraînement du modèle, et permettraient à l'organisme désigné de mettre en vigueur un code de conduite ou un ensemble de principes éthiques..
La réglementation de l’IA pourrait découler de principes de base. Une méta-analyse de 2020 a identifié 8 principes de base: confidentialité, imputabilité, sûreté et sécurité, transparence et explicabilité, équité et non-discrimination, contrôle de la technologie par l'humain, responsabilité professionnelle et respect des valeurs humaines.. Les lois et réglementations sur l’IA ont été divisées en trois sujets principaux, à savoir la gouvernance des systèmes intelligents autonomes, la responsabilité et l’imputabilité, et les questions de confidentialité et de sûreté.. Une approche d'administration publique voit une relation entre la loi et la réglementation de l'IA, éthique de l'IA, acceptation sociale, confiance dans l'IA, et la transformation de l'interaction homme-machine et de la force de travail.. L’élaboration de stratégies du secteur public pour la gestion et la réglementation de l’IA est jugée nécessaire aux niveaux local, national. et international. Elle s'applique dans divers domaines tels que la gestion et l'imputabilité des services publics.., l'application de la loi., le médical...., le secteur financier, la robotique.., les véhicules autonomes, l'armée., la sécurité nationale. et le droit international...
Henry Kissinger, Eric Schmidt et Daniel Huttenlocher ont publié une déclaration commune en intitulée , appelant à la création d'une commission gouvernementale pour réglementer l'IA..
En réponse au problème du contrôle de l'IA La régulation de l’IA est l'un des moyens de gérer le risque de désalignement de l'IA (pour assurer une IA bénéfique à long terme). Ne rien faire est généralement considéré comme trop risqué et interdire l'IA comme impossible. Des approches transhumanistes comme l’amélioration des capacités humaines (par exemple avec des interfaces cerveau-machine) entrent parfois aussi dans les débats... La réglementation de la recherche sur l'intelligence artificielle générale (IAG) se concentre sur le rôle des comités d'examen (des universités et entreprises jusqu'aux niveaux internationaux), sur le soutien de la recherche en sûreté de l'IA, sur la possibilité de développement intellectuel différentiel (en privilégiant les stratégies protectrices aux stratégies risquées dans le développement de l’IA) ou sur la possibilité de mener une surveillance internationale pour contrôler le développement de l’IAG. Par exemple, le concept d' est une stratégie proposée, potentiellement sous le contrôle de l'humanité, pour empêcher la création d'une superintelligence dangereuse ainsi que pour faire face à d'autres menaces majeures au bien-être humain telles que la subversion du système financier mondial ; jusqu'à ce qu'une véritable superintelligence puisse être créée en toute sécurité. Cela implique la création d’une IAG plus intelligente que l'humain sans pour autant être superintelligente. Celle-ci serait connectée à un vaste réseau de surveillance dans le but de surveiller l’humanité et de la protéger du danger. L'établissement de commissions d’examen peut également être considérée comme un moyen social d’aborder le problème du contrôle de l’IA. La réglementation de potentielles IAs dotées d'une conscience se concentre sur la façon de les intégrer dans la société humaine existante, et peut être divisée en considérations sur leur statut juridique et sur leurs droits moraux.. La réglementation de l’IA a été considérée comme restrictive, risquant d’empêcher le développement de l’IAG.
Orientation mondiale Contexte La création d’un conseil de gouvernance mondial pour réglementer le développement de l’IA a été suggérée au moins dès 2017.. En , le Canada et la France ont annoncé leur intention de créer, sur le modèle du GIEC, un groupe international d'experts sur l'intelligence artificielle soutenu par le G7. Son but serait d'étudier les effets mondiaux de l'IA sur les gens et l'économie et d'orienter le développement de l'IA... En 2019, le Groupe a été rebaptisé Partenariat mondial sur l’intelligence artificielle..
Les principes sur l'IA de l'OCDE ont été adoptées en .. et les principes sur l'IA du G20 en .. En , le Forum économique mondial a publié dix .. En , l’Union européenne a publié son document de stratégie pour promouvoir et réglementer l’IA.
Organisations internationales