La régulation des algorithmes, ou régulation algorithmique, est la création de lois, de règles de bonnes pratiques, pour le secteur public, le secteur privé et les individus, visant la régulation de certains algorithmes à enjeux particuliers, notamment dans le domaine de l'information et de l'intelligence artificielle.. où les biais algorithmiques et certains usages malveillants des algorithmes ont des effets concrets délétères sur l'économie, la cohésion sociale, la santé mentale, la paix et l'environnement. Ces algorithmes, apparus récemment, se déploient désormais à grande échelle dans le cyberespace, un environnement numérique d’un type nouveau, largement structuré par les systèmes de recommandation des grandes plateformes et dont le fonctionnement opaque rend la régulation particulièrement difficile.
Pourquoi réguler Face au contenu pléthorique et en inflation constante de l'Internet, l'accès à l'information, aux réseaux sociaux et plus largement au cyberespace s'y fait maintenant presque exclusivement via des algorithmes de recommandation. Or, ceux-ci peuvent être neutres, prosociaux.. ou au contraire manipulateurs, clivants, favorisant le dissensus et les théories du complot, et poussant à la haine.
Un constat est que pour des raisons commerciales et/ou idéologique, depuis les années 2010 environ, dans un contexte très concurrentiel et non régulé, les grands algorithmes, développés par et pour les GAFAMs (et d'autres entités utilisant l'Internet pour se développer) et leurs réseaux sociaux, favorisent, et de plus en plus, les publications polarisantes ou à forte charge émotionnelles, éventuellement mensongères. Cela accentue les divisions politiques, géopolitiques et sociales, et menace la démocratie...
Que réguler ? Depuis les années 2010, notamment à la suite du scandale Facebook-Cambridge Analytica-Aggregate IQ, de la découverte de la plateforme logicielle Ripon et des révélations d'Edward Snowden, une demande croissante de régulation porte sur les algorithmes à forts enjeux sociopolitiques et sanitaires, et en particulier sur les algorithmes, opaques, de systèmes de recommandation (surtout quand ils sont opaques) ont des effets sociopolitiques majeurs et délétères, en structurant l'espace informationnel, en créant des chambres d'écho. et en accélérant la diffusion de la désinformation.
De nombreux experts, philosophes et éthiciens (et en France un rapport de la défenseure des droits). s'inquiètent des effets sociétaux constatés et des risques de détournement ou de dérives spécifiques posés par les algorithmes à usages militaires (pilotage d'armes autonomes), juridiques, médicaux et de propagande, car ils peuvent efficacement contraindre des processus de pensée et sociétaux où le enjeux sont de liberté, de vie ou de mort ; de même pour l'irruption de l'IA dans la gestion du personnel et des personnes (fichage, reconnaissance et suivi des individus via les caméras de surveillance, systèmes de notation de type crédit social et autres notations automatisées)....
Face au constat d'une mise en avant presque systématique des contenus clivants, des titres sensationnalistes et polarisants, des arnaques en ligne et publicités mensongères souvent fabriquées avec l'aide d'IA. et/ou basées sur les affects par les algorithmes de recommandation, et par certains moteurs de recherche, phénomène qui a une influence croissante, sur ce que les utilisateurs de l'internet et des réseaux sociaux verront (ou ne verront pas), retiendront, penseront et ressentiront, avec donc des impacts sur les relations interhumaines et sur la vie socio-politique, sur leur santé mentale, leur santé au travail et sur leur qualité de vie. Ceci concerne notamment les adolescents dont la santé mentale se dégrade, avec un coût économique élevée de l’inaction (un rapport PMNCH/WHO annonce ..
Les algorithmes génératifs de systèmes de recommandation sont conçus pour favoriser l'engagement vai les clics, les « j'aime », le buzz et le doomscrolling (addiction au défilement), toujours en . Ce faisant, ils amplifient souvent les infox et les contenus sensationnalistes, ., car ils peuvent gravement affectent la santé mentale et le bien-être, voire pousser au suicide, par exemple avec les algorithmes qui causent ou exacerbent le addiction au défilement : en sélectionnant des contenus addictifs ou les plus susceptibles de retenir l'attention de l'utilisateur, ces algorithmes peuvent renforcer l'anxiété, la dépendance et les émotions négatives.
Les utilisateurs ignorent pourquoi certains contenus leur sont montrés ou cachés. Les plateformes gardent le contrôle exclusif des règles de classement et de mise en avant des contenus, ce qui limite la possibilité de tester des alternatives plus saines et démocratiques. mais on a expérimentalement montré que des ajustements simples ont montré qu'ils pouvaient diminuer l'hostilité partisane et améliorer la perception des autres.....
Réguler les algorithmes qui entretiennent l'économie de l'attention et influencent les comportements collectifs est devenu nécessaire pour garantir un équilibre entre liberté d'expression et d'information, protection contre les contenus nuisibles et transparence des pratiques.
Pour le sous-ensemble d'algorithmes d'IA, on parle de « régulation de l'intelligence artificielle ». Le cadrage éthique, réglementaire et politique de l'intelligence artificielle (IA) est un problème émergent dans les juridictions du monde entier, y compris dans l'Union européenne.. La réglementation de l'IA est considérée comme nécessaire à la fois pour encourager l'IA et gérer les risques associés, mais il s'agit d'un défi..
Un autre sujet émergent est la réglementation des algorithmes de blockchain et il est associé à la réglementation des algorithmes d'IA.. De nombreux pays ont adopté des réglementations sur les échanges à haute fréquence, qui évolue en raison des progrès technologiques vers le domaine des algorithmes d'IA...
Objectifs Des problèmes éthiques, de partialité et de non transparence, notamment, sont apparus avec l'utilisation d'algorithmes dans divers domaines allant des bulles de filtres à la haine en ligne en passant par la justice pénale. aux soins de santé., faisant craindre que l'intelligence artificielle n'aggrave les inégalités de richesse, culturelles, raciales, de genre, de classe, et de sexualité.
Une étude (2024) a montré que réduire la visibilité des contenus polarisants dans les fils d'actualité des réseaux sociaux diminue l'hostilité partisane. Des chercheurs ont créé un outil web (open source) permettant de réorganiser en temps réel les fils de participants consentants sur X (anciennement Twitter), en classant plus bas les publications identifiées par une IA comme susceptibles de polariser (sans les supprimer). L'expérience, de 10 jours, avant l'élection présidentielle américaine, a montré que ce changement améliorait la perception des membres du parti adverse et réduisait les émotions négatives, et ce, quel que soit le « camp » politique.
Un champ de recherche s'intéresse aux algorithmes alternatifs de classement, avec par exemple des initiatives comme le Prosocial Ranking Challenge ou des projets tels qu'Alexandria et Bonsai explorent des approches visant à favoriser des interactions sociales plus saines, profitant des progrès des Grands modèles de langage qui offrent de nouvelles perspectives pour détecter et limiter l'exposition aux contenus polarisants.
Plusieurs études ont montré que déployer des algorithmes dans les tâches managériales réduit la motivation prosociale des travailleurs, en raison d'une tendance accrue à l'objectification des collègues, notamment quand des décideurs humains s'appuient sur des algorithmes pour orienter leurs choix. La prosocialité est alors plus ou moins dégradée selon le type de tâche concernée (par exemple l'évaluation des employés par rapport à la coordination) ; la gestion algorithmique ne modifie pas que l'efficacité organisationnelle, mais aussi les dynamiques sociales et relationnelles au sein du travail..
Plusieurs pays et autres juridictions ont commencé à introduire des réglementations, par exemple en cas de calcul automatisé du pointage de crédit Consumer Financial Protection Bureau, §1002.9(b)(2)...
Régulation de l'intelligence artificielle Débat public En 2016, Joy Buolamwini a fondé Algorithmic Justice League après une expérience personnelle avec un logiciel de détection faciale biaisé, pour sensibiliser aux implications sociales de l'intelligence artificielle, via l'art et la recherche..
En 2017, Elon Musk a plaidé pour une régulation des algorithmes dans le contexte du risque existentiel de l'intelligence artificielle générale.... Selon NPR, le PDG de Tesla n'était « clairement pas ravi » de plaider en faveur d'un examen gouvernemental qui pourrait avoir un impact sur son propre secteur, mais estimait que les risques d'une absence totale de surveillance étaient trop élevés : « Normalement, la façon dont les réglementations sont établies est lorsqu'un de mauvaises choses se produisent, il y a un tollé public et, après de nombreuses années, une agence de réglementation est créée pour réglementer cette industrie. Cela prend une éternité. Cela, dans le passé, a été mauvais mais pas quelque chose qui représentait un risque fondamental pour l'existence de la civilisation. ».
En réponse, certains politiciens ont exprimé leur scepticisme quant à la sagesse de réglementer une technologie qui est encore en développement.. Répondant à la fois à Elon Musk et aux propositions de février 2017 des législateurs de l'Union européenne visant à réglementer l'IA et la robotique, le PDG d'Intel, Brian Krzanich, a fait valoir que l'intelligence artificielle en était à ses balbutiements et qu'il était trop tôt pour réglementer la technologie.. Au lieu d'essayer de réglementer la technologie elle-même, certains chercheurs suggèrent plutôt de développer des normes communes comprenant des exigences pour le test et la transparence des algorithmes, éventuellement en combinaison avec une certaine forme de garantie.. Une suggestion a été de développer un conseil de gouvernance mondial pour réglementer le développement de l'IA.. En 2020, l'Union européenne a publié son projet de document de stratégie pour la promotion et la réglementation de l'IA..
Dans certains contextes compétitifs, une « collusion tacite algorithmique » a émergé. Ce sont es formes de coordination anticoncurrentielle facilitée par des algorithmes, dont le caractère est difficile à établir et qui, de ce fait, échappe largement aux poursuites anti-trust des tribunaux.. Ce danger concerne les scientifiques et les régulateurs de l'UE, des États-Unis et d'ailleurs. La commissaire européenne et Margrethe Vestager a mentionné un exemple précoce de collusion tacite algorithmique dans son discours sur « Algorithmes et collusion » le 16 mars 2017, décrit comme suit. :« Il y a quelques années, deux entreprises vendaient un manuel intitulé The Making of a Fly. L'un de ces vendeurs a utilisé un algorithme qui correspondait essentiellement au prix de son rival. Ce rival avait un algorithme qui fixait toujours un prix 27 % plus élevé que le premier. Le résultat a été que les prix ont continué à monter en flèche, jusqu'à ce que finalement quelqu'un remarque ce qui se passait et ajuste le prix manuellement. À ce moment-là, le livre se vendait pour 23 millions de dollars l'exemplaire. » En 2018, les Pays-Bas ont utilisé un système algorithmique SyRI (System Risico Indicatie) pour détecter les citoyens perçus comme étant à haut risque de commettre une fraude à l'aide sociale, ce qui a discrètement signalé des milliers de personnes aux enquêteurs.. Cela a provoqué une protestation publique. Le tribunal de district de La Haye a fermé SyRI en se référant à l'article 8 de la Convention européenne des droits de l'homme (CEDH)..