En théorie des ensembles, l'hypothèse du continu (HC), due à Georg Cantor, affirme qu'il n'existe aucun ensemble dont le cardinal est strictement compris entre le cardinal de l'ensemble des entiers naturels et celui de l'ensemble des nombres réels. En d'autres termes : tout ensemble strictement plus grand, au sens de la cardinalité, que l'ensemble des entiers naturels doit contenir une « copie » de l'ensemble des nombres réels.

Historique Cantor avait démontré (et publié en 1874) que le cardinal de l'ensemble des nombres réels était strictement plus grand que celui des nombres entiers ; il formula plus tard l'hypothèse du continu, qui résultait d'une analyse des sous-ensembles de la droite réelle, et de sa hiérarchisation des cardinaux infinis, mais il tenta en vain de la démontrer. Cette démonstration constituait le premier de la célèbre liste des 23 problèmes de Hilbert, que celui-ci avait établie pour le congrès international des mathématiciens de 1900 à Paris, afin de guider la recherche en mathématiques du siècle alors naissant.

Ce n'est que bien plus tard, en 1963, que Paul Cohen introduisit sa méthode de forcing pour montrer que cette hypothèse ne pouvait se déduire des axiomes de la théorie des ensembles ZFC, généralement considérée comme une formalisation adéquate de la théorie des ensembles de Cantor, qui n'était pas encore axiomatisée en 1900. Kurt Gödel avait précédemment démontré, en 1938, que cette hypothèse n'était pas non plus réfutable dans ZFCEn fait dans la théorie des ensembles de von Neumann-Bernays-Gödel, ce qui revient au même.. Elle est donc indépendante des axiomes de la théorie des ensembles ZFC, ou encore indécidable dans cette théorie.

La méthode du forcing de Cohen a connu depuis de nombreux développements en théorie des ensembles. Son résultat n'a pas mis un point final aux travaux sur le sujet. La recherche d'hypothèses naturelles à ajouter à la théorie ZFC et d'arguments qui permettraient de trancher pour ou contre l'hypothèse du continu constitue toujours un sujet actif en théorie des ensembles.

Énoncé de l'hypothèse du continu Un ensemble est dit dénombrable quand il est en bijection avec l'ensemble ℕ des entiers naturels. L'argument diagonal permet de montrer que l'ensemble ℝ des réels (le continu) n'est pas dénombrable, donc que son cardinal est strictement supérieur au cardinal du dénombrable. Se pose le problème de l'existence de cardinaux intermédiaires entre celui de ℕ et celui de ℝ. Cantor faisait l'hypothèse qu'il n'en existe pas, et c'est ce que l'on appelle hypothèse du continu.

Le cardinal du dénombrable est noté ℵ0 (aleph-zéro). Le cardinal qui suit immédiatement ℵ0 est noté ℵ1, on peut le définir dans la théorie des ensembles de Zermelo-Fraenkel ZF (sans nécessairement l'axiome du choix). On montre que le cardinal de ℝ est celui de l'ensemble des parties de ℕ, que l'on note 2ℵ0. L'existence d'un tel cardinal (défini comme ordinal) suppose, elle, l'axiome du choix, du moins le fait que ℝ peut être bien ordonné. L'hypothèse du continu s'écrit alors

c'est-à-dire qu'il n'existe pas de cardinaux qui soient strictement compris entre celui du dénombrable et celui du continu (le fait que deux cardinaux soient nécessairement comparables est une conséquence de l'axiome du choix). Le cardinal ℵ1 est par définition le cardinal du premier ordinal non dénombrable noté ω₁.

En l'absence de l'axiome du choix, on peut démontrer l'existence de ω₁ et l'égalité 2ℵ0=ℵ1 signifie que ℝ peut être bien ordonné par un bon ordre de type ω₁, soit, à la fois que ℝ peut être bien ordonné et l'hypothèse du continu. Dans une théorie des ensembles sans axiome du choix, il est quand même possible d'exprimer l'hypothèse du continu sans que cela entraîne l'existence d'un bon ordre sur ℝ, en revenant aux définitions primitives qui sous-tendent la définition des cardinaux et de l'ordre sur ceux-ci, soit en termes de bijection et d'injection, voir le paragraphe suivant.

Cardinalité

Deux ensembles S et T sont équipotents, ou encore ont même cardinalité, lorsqu'il existe une bijection entre S et T. Cela signifie que l'on peut associer à chaque élément de S un unique élément de T et que tout élément de T est l'image d'un unique élément de S. Cette notion de cardinalité suffit pour bien des aspects élémentaires, sans qu'il soit nécessaire de définir le cardinal proprement dit. La définition d'un cardinal en tant qu'ensemble, plus précisément d'ordinal, due également à Cantor, nécessite l'axiome du choix. Étant donné cet axiome, on peut définir proprement le cardinal d'un ensemble comme le plus petit ordinal auquel est bijectif cet ensemble. L'existence de ce plus petit ordinal est garantie par le principe du bon ordre qui vaut sur la collection des ordinaux.

Une caractéristique des ensembles infinis est que ceux-ci sont équipotents à certaines de leurs parties propres, contrairement à ce qui se passe pour les ensembles finis. Ainsi bien qu'il semble y avoir « plus » de rationnels que d'entiers, il est possible d'énumérer tous les rationnels en les indexant par les entiers naturels, c'est-à-dire d'établir une bijection entre ces deux ensembles (voir l'article Ensemble dénombrable). Un tel ensemble, équipotent à l'ensemble des entiers naturels, est dit dénombrable ou infini dénombrable.

L'ensemble des nombres réels, noté ℝ, est un exemple d'ensemble non-dénombrable. Cantor en a proposé en 1891 une seconde démonstration très simple utilisant l'argument de la diagonale. Le continu désigne la droite réelle ℝ, d'où le nom de l'hypothèse. On dit d'un ensemble équipotent à ℝ qu'il a la puissance du continu.

On peut reformuler ainsi l'hypothèse du continu, sans faire appel aux cardinaux (ni à l'axiome du choix).

Indécidabilité Kurt Gödel a démontré en 1938. que l'ajout de l'hypothèse du continu à la théorie des ensembles, définie par exemple par les axiomes de Zermelo-Fraenkel (sans nécessairement l'axiome du choix, noté AC ci-dessous), ne changeait rien à la cohérence de cette théorie : si la théorie ZF est cohérente, la théorie (ZF + Hypothèse du continu) est cohérente.

Il est arrivé à cette démonstration en construisant, sous l'hypothèse de la cohérence de ZF, un certain modèle de ZF satisfaisant aussi l'axiome de constructibilité. Il s'agit d'un modèle intérieur, c'est-à-dire d'un modèle transitif qui contient la collection des ordinaux et sur lequel la relation d'appartenance satisfait les axiomes ZF. À l'intérieur de ce modèle, l'hypothèse du continu est aussi satisfaite. Un tel modèle intérieur satisfaisant l'axiome de constructibilité s'appelle l'univers constructible .

Paul Cohen a montré en 1963. que l'hypothèse du continu n'était pas démontrable dans la théorie des ensembles basée sur les axiomes de Zermelo-Fraenkel, démonstration pour laquelle il invente la méthode de forcing. Elle est donc indépendante de la théorie des ensembles, c'est-à-dire de ZFC + l'axiome de fondation (noté AF ci-dessous).

Un raisonnement informel peut nous aiguiller sur la manière de procéder pour obtenir ce résultat d'indépendance.. D’après une proposition fondamentale en théorie des ensembles, on sait que la non-contradiction de ZFC+AF implique l’existence d’une théorie satisfaisant ces axiomes et contenant un modèle de ZFC+AC, , qui est un ensemble transitif et dénombrable. On considère le produit où signifie un cardinal strictement supérieur à interprété dans et où conserve la même signification que dans les sections plus haut. On peut construire une fonction qui, pour un élément fixe , associe à chaque un élément de l’ensemble . Puisque le cardinal est interprété comme un élément d’un ensemble transitif et dénombrable , il est lui-même transitif et dénombrable comme élément de cet ensemble. On peut donc imaginer une procédure inductive qui définit pour chaque une fonction différente . Chacune de ces fonctions correspond à une partie différente de . Il y a donc une injection, , qui à chaque élément du cardinal associe un élément différent de l’ensemble des parties de . Donc, par le théorème de Cantor-Bernstein, la cardinalité de cet ensemble des parties est au moins égale à celle de et, donc, strictement supérieure à la cardinalité de .

Toute la subtilité de l'argument repose sur la question de savoir si cette fonction., , que l’on définit appartient rigoureusement à l’ensemble et donc appartient à un modèle de ZFC+AC. Le forcing de Cohen permet de construire le plus petit modèle transitif dénombrable, contenant une telle fonction et possédant les mêmes cardinaux que .

Il n'y a pas a priori de raison d'être surpris de l'existence d'énoncés ne pouvant être démontrés ou infirmés à partir d'un système d'axiomes donné, c'est par exemple le cas du postulat d'Euclide relativement à son système « axiomatique ». D'ailleurs, on sait qu'il doit en exister dans tout système mathématique assez puissant ; c'est le théorème d'indécidabilité de Gödel. Mais l'hypothèse du continu paraissait devoir admettre une solution : c'est à ce genre d'énoncé que David Hilbert pensait en déclarant : « Il n'y a pas d'ignorabimus en mathématiques ; nous devons savoir ; nous saurons. »..

L'hypothèse du continu n'est pas sans rapport avec des énoncés d'analyse, ou de théorie de la mesure.

Historiquement, les mathématiciens en faveur d'une large classe d'ensembles rejettent l'hypothèse du continu, alors que ceux favorables au contraire à une ontologie ensembliste plus restreinte l'acceptent.

Plus précisément, les résultats de Paul Cohen, combinés avec un théorème de König, montrent que est compatible avec ZFC si et seulement si (non nul) n'est pas de cofinalité .

Généralisation

L'hypothèse généralisée du continu dit qu'il n'existe pas d'ensemble dont le cardinal est strictement compris entre et , parcourant les ordinaux et étant le cardinal de l'ensemble des parties d'un ensemble de cardinal .

Elle dit ainsi : il n'y a pas d'ensemble infini dont la cardinalité est intermédiaire entre celle de cet ensemble et l'ensemble de ses parties ; la notion de cardinalité étant envisagée en termes de classe d'équipotence (soit, deux ensembles en bijection ont même cardinalité)Cette notion de cardinalité étant relative à la notion de nombre cardinal, vu comme ordinal initial. Mais en absence de l'axiome du choix, la classe d'équipotence d'un ensemble peut ne pas être cernée par la notion de cardinalité issue des ordinaux initiaux..

Cette hypothèse est plus forte que celle du continu. En 1938, Gödel a en fait montré directement que l'hypothèse généralisée du continu est compatible avec les axiomes de ZFC : plus précisément, l'univers constructible satisfait cette hypothèse généralisée et l'axiome du choix, même si l'univers initial ne satisfait que les axiomes de ZF. On a donc l'indépendance de l'hypothèse généralisée du continu par le résultat de Cohen.

Hypothèse généralisée du continu et axiome du choix