Le voile d'ignorance est une notion philosophique et morale développée par Thomas Hobbes, John Locke et Emmanuel Kant. Elle a ensuite été reprise par John Harsanyi et re-formalisée par le philosophe américain John Rawls, dans son ouvrage Théorie de la justice (1971) puis évoquée par divers économistes.

C'est une méthode qui, pour établir la moralité d'un problème, s'appuie sur l'expérience de pensée consistant, pour un décideur ou quelqu'un devant émettre un avis, à se mettre dans une position originelle, fictive, de simple être humain sans préférences, faisant donc abstraction de ses goûts personnels, de ses attributs, de son statut et de sa position dans l'espace social.

Rawls demande à celui qui doit définir une règle, une loi ou un principe de justice de se projeter dans une situation où il ignorerait totalement sa propre position dans la société : - il ne sait pas s'il est riche ou pauvre ; - homme ou femme ; - membre d'une majorité ou d'une minorité ; - en bonne santé ou malade ; - privilégié ou vulnérable. « Sous ce voile, il ne sait pas qui il est […] Son jugement est assimilé à celui d'un décideur rationnel en situation d'incertitude radicale ». Dans cette situation, il doit choisir les règles comme si il pouvait se retrouver dans n'importe la quelle de ces positions ou dans toutes ces positions à la fois..

Derrière ce « voile d'ignorance », les individus sont censés prendre des décisions équitables et justes, car ils ne seraient pas influencés, ni par des intérêts personnels, ni par des préjugés favorisant une certaine position sociale ou économique.

Objectifs Ce principe vise à parvenir à une justice qui bénéficierait à tous les membres de la société, indépendamment de biais de genre, d'origine, d'âge ou liés au statut social ou socio-économique initial de celui qui juge (et de celui qu'il juge).

Aspect éthique Le voile d'ignorance est un principe éthique qui invite à la réflexion sur les principes de justice qui pourraient notamment garantir une égalité des chances et une protection pour les membres les plus vulnérables de la société.

Dans le domaine de l'intelligence artificielle Une adaptation du concept de de Rawls a été récemment proposée dans le domaine de l'intelligence artificielle générative (AIg) : il s'agit d'imaginer la conception ou l'évaluation d'un système d'IA comme si l'on ignorait son propre statut social, son genre, son origine ou sa position dans l'organisation, afin de limiter l'introduction de biais dans les données et les modèles.

Cette approche vise à compenser le fait que les systèmes d'IA héritent des biais présents dans les corpus réels ou synthétiques qui servent à l'apprentissage des modèles d'IA, ainsi que de ceux des concepteurs eux‑mêmes ; elle encourage l'usage d'outils dits de fairness (capables de détecter l'impact caché de variables sensibles, d'analyser les erreurs différenciées entre groupes et de corriger les modèles) pour garantir des décisions plus équitables J. Manyika, J. Silberg et B. Presten, « What do we do about the biases in AI », Harvard business review, 25, 2019 , consulté le . Davenport T.H, Brynjolfsson E, McAfee A et Wilson H.J (2019), Artificial intelligence: The insights you need from Harvard Business Review, Harvard Business Press . Chowdhury R et Mulani N (2018), Auditing algorithms for bias, Harvard Business Review, 24 ..

Selon Bruno Deffains (avocat et enseignant à l'université Panthéon Assas), la révolution numérique rend difficile l'adoption d'un point de vue impartial au sens rawlsien, car le big data et l'apprentissage automatique reposent en grande partie (sauf quand on utilise de la donnée synthétique, éventuellement) sur la transparence et l'exploitation de données personnelles, ce qui contredit l'idéal du « voile d'ignorance » censé neutraliser les biais des décideurs. Cette tension montre que les technologies numériques redéfinissent les conditions du contrat social, en exposant des informations que Rawls demandait précisément de mettre entre parenthèses pour garantir des principes de justice équitables..

Références

Voir aussi Bibliographie . John Rawls, A Theory of Justice, Cambridge (Massachusetts), Belknap Press, 1971 . .

Articles connexes Expérience de pensée

Liens externes

Voile d'ignorance sur le site de la Stanford Encyclopedia of Philosophy

Catégorie:Concept de philosophie politique Catégorie:John Rawls