Le dilemme du prisonnier, énoncé en 1950 par Albert W. Tucker à Princeton, caractérise en théorie des jeux une situation où deux joueurs auraient intérêt à coopérer, mais où, en l'absence de communication entre eux, chacun choisit de trahir l'autre si le jeu n'est joué qu'une fois. La raison en est que, si l'un coopère et que l'autre trahit, le coopératif est fortement pénalisé. Pourtant, si les deux joueurs trahissent, le résultat leur est moins favorable que si les deux avaient choisi de coopérer.

Le dilemme du prisonnier est souvent évoqué dans des domaines comme l'économie, la biologie, la politique internationale, les politiques commerciales (avantage et risques d'une guerre des prix), la psychologie, le traitement médiatique de la rumeurGérald Bronner, La démocratie des crédules, PUF, 2013, à 139., et même l'émergence de règles morales dans des communautés.

Il a donné naissance à des jeux d'économie expérimentale testant la rationalité économique des joueurs et leur capacité à identifier l'équilibre de Nash d'un jeu.

Principe vignette|redresse=1.25|Un exemple de matrice de gains du dilemme du prisonnier.

Tucker suppose deux prisonniers (complices d'un crime) retenus dans des cellules séparées et qui ne peuvent pas communiquer ; l'autorité pénitentiaire offre à chacun des prisonniers les choix suivants : si un seul des deux prisonniers dénonce l'autre, il est remis en liberté alors que le second obtient la peine maximale (10 ans) ; si les deux se dénoncent entre eux, ils seront condamnés à une peine plus légère (5 ans) ; si les deux refusent de dénoncer, la peine sera minimale (6 mois), faute d'éléments au dossier.

Ce problème modélise bien les questions de politique tarifaire : le concurrent qui baisse ses prix gagne des parts de marché et peut ainsi augmenter ses ventes et accroître son bénéfice, mais si son concurrent principal en fait autant, les deux peuvent y perdre.

Ce jeu ne conduit pas spontanément à un état où on ne pourrait améliorer le bien-être d'un joueur sans détériorer celui d'un autre (c'est-à-dire un optimum de Pareto ; voir aussi équilibre de Nash). À l'équilibre, chacun des prisonniers choisira probablement de faire défaut alors qu'ils gagneraient à coopérer : chacun est fortement incité à tricher, ce qui constitue le cœur du dilemme.

Si le jeu était répété, chaque joueur pourrait user de représailles envers l'autre joueur pour son absence de coopération, ou même simplement minimiser sa perte maximale en trahissant les fois suivantes. L'incitation à tricher devient alors inférieure à la menace de punition, ce qui introduit la possibilité de coopérer : la fin ne justifie plus les moyens.

Le dilemme du prisonnier est utilisé en économie, étudié en mathématiques, utile parfois aux psychologues, biologistes des écosystèmes et spécialistes de science politique. Le paradigme correspondant est également mentionné en philosophie et dans le domaine des sciences cognitives.

Dilemme du prisonnier classique Formulation La première expérience du dilemme du prisonnier a été réalisée en 1950 par Melvin Dresher et Merill Flood, qui travaillaient alors pour la RAND Corporation. Par la suite, Albert W. Tucker la présenta sous la forme d'une histoire :

On résume souvent la situation dans un tableau

+ Tableau récapitulatif de la situation Le suspect B se tait Le suspect B dénonce Le suspect A se tait Les deux font 6 mois de prison. A fait 10 ans de prison ; B est libre. Le suspect A dénonce B fait 10 ans de prison ; A est libre. Les deux font 5 ans de prison.

et les utilités de chacun dans ce tableau appelé "Matrice des Paiements" :

+ Matrice des Paiements Le suspect B se tait Le suspect B dénonce Le suspect A se tait (-1/2 ; -1/2) (-10 ; 0) Le suspect A dénonce (0 ; -10) (-5 ; -5)

Chacun des prisonniers réfléchit de son côté en considérant les deux cas possibles de réaction de son complice. « Dans le cas où il me dénoncerait : Si je me tais, je ferai 10 ans de prison ; Mais si je le dénonce, je ne ferai que 5 ans. » « Dans le cas où il ne me dénoncerait pas : Si je me tais, je ferai 6 mois de prison ; Mais si je le dénonce, je serai libre. » « Quel que soit son choix, j'ai donc intérêt à le dénoncer. »

Si chacun des complices fait ce raisonnement, les deux vont probablement choisir de se dénoncer mutuellement, ce choix étant le plus empreint de rationalité. Conformément à l'énoncé, ils écoperont dès lors de 5 ans de prison chacun. Or, s'ils étaient tous deux restés silencieux, ils n'auraient écopé que de 6 mois chacun. Ainsi, lorsque chacun poursuit son intérêt individuel, le résultat obtenu n'est pas optimal au sens de Pareto.

Ce jeu est à somme non nulle, c'est-à-dire que la somme des gains pour les participants n'est pas toujours la même : il soulève une question de coopération.

Pour qu'il y ait dilemme, la tentation (je le dénonce, il se tait) doit payer plus que la coopération (on se tait tous les deux), qui doit rapporter plus que la punition pour égoïsme (je le dénonce, il me dénonce), qui doit être plus valorisante que la duperie (je me tais, il me dénonce). Ceci est formalisé par :

(ici : )

Pour qu'une collaboration puisse naître dans un dilemme répété (ou itératif) (voir plus bas), « 2 coups de coopération » doit être plus valorisant que l'alternat « Tentation / Duperie ».

Ce qui fait la condition [ici : ].

Dilemme à plusieurs joueurs Le problème devient sensiblement différent lorsqu'ils y a plusieurs prisonniers tous à l'isolement. Le risque de défection de l'un d'eux devient de ce fait bien plus grand que lorsqu'il n'y en a que deux. Il peut en ce cas être plus réaliste de miser sur le fait qu'il y aura une défection… bien que si chacun en fait autant, tout le monde se retrouve avec une peine de cinq ans d'emprisonnement.

Exemples de situations réelles Le dilemme du prisonnier fournit un cadre général pour penser les situations où deux ou plusieurs acteurs ont un intérêt à coopérer, mais un intérêt encore plus fort à ne pas le faire si l'autre le fait, et aucun moyen de contraindre l'autre. Les exemples suivants permettront de mieux cerner la diversité des applications possibles et la grande généralité du cadre du dilemme du prisonnier.

Marché de l'information La situation concurrentielle des médias ressemble à un dilemme du prisonnier dans la mesure où ils privilégient la rapidité avant la qualité de l'information, d'où un phénomène de mutualisation des erreurs.

Économie Un exemple est le cas de deux entreprises qui n'ont pas le droit de s'entendre sur une politique commerciale commune (comme c'est le cas par exemple avec le droit antitrust des États-Unis et les droits français et européen de la concurrence) et qui se demandent s'il leur faut procéder ou non à une baisse de prix pour conquérir des parts de marché aux dépens de leur concurrent. Si toutes deux baissent leur prix, elles seront généralement toutes deux perdantes par rapport au .. On peut aussi évoquer à ce propos les biens collectifs (dont tout le monde veut bénéficier, tout en voulant les faire financer par les autres), le cas des quotas textiles destinés à éviter une chute des prix mais que chacun cherche à contourner, ou les campagnes publicitaires coûteuses pour le même bien qui se neutralisentBernard Guerrien, La théorie des jeux, , économica, 2002, .. À noter que l'équilibre atteint dans le dilemme du prisonnier n'est pas un optimum au sens néo-classique du terme.

Sport Les courses cyclistes sur route, dont le Tour de France, offrent d'autres exemples d'interactions stratégiques de type « dilemme du prisonnier », notamment lorsque deux coureurs échappés doivent décider s'ils font l'effort ou s'ils profitent au maximum de l'aspiration de leur co-échappé : si chacun profite de l'aspiration de l'autre (ce que chacun préfère), l'échappée échoue..

Écologie La théorie des jeux, et le dilemme du prisonnier en particulier, sont fréquemment utilisés en écologie pour modéliser l'évolution des comportements entre individus d'une même espèce vers des stratégies évolutivement stables. L'apparition et le maintien des comportements de collaboration par exemple, se prêtent à ce type d'analyse. Richard Dawkins en a fait l'un des points centraux de sa théorie du gène égoïste, puisque l'optimisation de la survie peut passer par un comportement apparemment altruisteRichard Dawkins, Le gène égoïste, Odile Jacob, 2003.

Politique internationale Considérons deux pays rivaux. Chacun peut choisir de maintenir ou non une armée. Si tous deux ont une armée (de force à peu près équivalente), la guerre est moins « tentante », car très coûteuse ; c'était la situation de la guerre froide. Les dépenses militaires et la course aux armements sont alors une perte nette pour les deux pays. Si un seul a une armée, il peut évidemment conquérir sans coup férir l'autre, ce qui est pire. Enfin, si aucun n'a d'armée, la paix règne et les pays n'ont pas de dépense militaire. La situation de coopération permettant à chacun de ne pas avoir d'armée est évidemment préférable à la situation où les deux pays en entretiennent une, mais elle est instable : chacun des deux pays a une forte incitation à se doter unilatéralement d'une armée pour dominer l'autre.

Dérèglement climatique Les efforts à mener pour limiter le dérèglement climatique sont soumis au dilemme du prisonnier. Si un État met en place des mesures qui limitent les émissions au détriment de l'économie, il prend le risque d'être dominé économiquement par les autres États. Ce mécanisme incite chaque état à limiter ses efforts écologiques et éloigne l'humanité de la solution optimale.

Le dilemme répété Dans son livre (L'Évolution de la coopération, 1984), Robert Axelrod étudie une extension classique de ce dilemme : le jeu se répète, et les participants gardent en mémoire les précédentes rencontres. Cette version du jeu est également appelée dilemme itératif du prisonnier. Il donne une autre illustration à partir d'une situation équivalente : deux personnes échangent des sacs, censés contenir respectivement de l'argent et un bien. Chacun a un intérêt immédiat à passer un sac vide, mais il est plus avantageux pour les deux que la transaction ait lieu.

Quand on répète ce jeu durablement dans une population, les joueurs qui adoptent une stratégie intéressée y perdent au long terme, alors que les joueurs apparemment plus désintéressés voient leur « altruisme » finalement récompensé : le dilemme du prisonnier n'est donc plus à proprement parler un dilemme. Axelrod y a vu une explication de l'apparition d'un comportement altruiste dans un contexte d'évolution darwinienne par sélection naturelle.

La meilleure stratégie dans un contexte déterministe est « œil pour œil » (« », une autre traduction courante étant « donnant-donnant ») et a été conçue par Anatol Rapoport pour un concours informatisé. Son exceptionnelle simplicité a eu raison des autres propositions. Elle consiste à coopérer au premier coup, puis à reproduire à chaque fois le comportement de l'adversaire du coup précédent. Une variante, « œil pour œil avec pardon », s'est révélée un peu plus efficace : en cas de défection de l'adversaire, on coopère parfois (de 1 à 5 %) au coup suivant. Cela permet d'éviter de rester bloqué dans un cycle négatif. Le meilleur réglage dépend des autres participants. En particulier, « œil pour œil avec pardon » est plus efficace si la communication est brouillée, c'est-à-dire s'il arrive qu'un autre participant interprète à tort un coup.