L'indécidabilité de l'hypothèse du continu ne règle donc pas la question de l'infini (voir page précédente), mais au contraire l'exacerbe : si vraiment la théorie des ensembles fournit une compréhension de l'infini actuel et n'est pas qu'un jeu gratuit entre symboles mathématiques, sans contrepartie dans le monde réel, il doit être possible d'avancer encore.

Aller plus loin dans l'infini. © DrHitch, Fotolia

Aller plus loin dans l'infini. © DrHitch, Fotolia

La seconde voie consiste à admettre que Zermelo-Fraenkel est satisfaisante, c'est-à-dire qu'elle n'énonce que des choses acceptables pour les ensembles, mais qu'elle est incomplète. Certains axiomesaxiomes manqueraient, et le travail du logicien et du mathématicien serait de les rechercher pour les ajouter. Ces axiomes découverts (ou au moins certains d'entre eux), l'hypothèse du continu ou sa négation deviendrait prouvable.

Une première voie consiste à remettre en cause la théorie usuelle des ensembles. Cette théorie, notée ZF (en l'honneur des deux mathématiciens Ernst Zermelo et Abraham Fraenkel qui la définirent au début du XXe siècle), peut être jugée insatisfaisante pour diverses raisons. En particulier, parce qu'elle engendre des situations contraires à l'intuition concernant l'existence d'objets mathématiques qu'on ne peut pas construire. Diverses éventualités (théorie des types, théorie constructiviste des ensembles, théorie des ensembles avec ensemble universel, etc.) ont été proposées sans toutefois retenir vraiment l'attention des mathématiciens, qui restent attachés à la simplicité de Zermelo-Fraenkel et ne semblent pas trouver très grave la situation créée par l'hypothèse du continu. Il est vrai que ces théories alternatives obligent à réévaluer tout le travail mathématique déjà fait, alors qu'aucune véritable contradiction n'est apparue. Seule une insatisfaction philosophique pousse certains à vouloir abandonner Zermelo-Fraenkel.

Ernst Zermelo (à gauche) et Abraham Fraenkel (à droite) ont défini la théorie ZF au début du XX<sup>e</sup> siècle. © Photo de gauche : Konrad Jacobs, cc by sa 2.0 ; photo de droite : DP

Ernst Zermelo (à gauche) et Abraham Fraenkel (à droite) ont défini la théorie ZF au début du XXe siècle. © Photo de gauche : Konrad Jacobs, cc by sa 2.0 ; photo de droite : DP

Cette seconde voie n'est pas du tout absurde et, en insistant sur l'incomplétude actuelle de la théorie des ensembles, on ne fait que prendre au sérieux les théorèmesthéorèmes généraux d'incomplétude démontrés par Kurt GödelKurt Gödel en 1931, dont l'indécidabilité de l'hypothèse du continu ne serait qu'une manifestation en théorie des ensembles. Cette seconde voie conduit au programme de recherche de trouver de nouveaux axiomes à ajouter à la théorie des ensembles, programme que Kurt Gödel lui-même a défendu.

Les travaux faits en logique mathématique sur ce que l'on dénomme les grands cardinaux constituent le domaine de recherche d'où pourrait provenir la solution de l'énigme de l'hypothèse du continu (une partie infinie de ℝ est-elle toujours en bijection avec ℕ ou ℝ ?), tout en étant le domaine où les mathématiciens rencontrent de nouveaux infinis actuels dont la taille vertigineuse aurait fait tourner la tête à Cantor lui-même.