Les théorèmes de Gödel : un tournant majeur dans l’histoire de la pensée mathématique

danieldevosMaître-assistant honoraire à la Haute Ecole Paul-Henri Spaak de Bruxelles, Daniel Devos a, entre autres, enseigné l’histoire des mathématiques à ses étudiants. Voici un bel exemple de sa rigueur scientifique et de la clarté de son expression dans un sujet difficile.

Jean-Michel Dufays : A la fin du XIXe siècle, les mathématiciens prennent conscience que l’intuition qui, jusqu’alors, avait parmi d’autres voies permis le développement de leur discipline, mène à une impasse. Hilbert rédige un programme pour formaliser l’ensemble des mathématiques. Quels étaient, en fait, la nature et l’enjeu du problème posé et ses implications ?

Daniel Devos : La fin du XIXe siècle fut marquée, en mathématiques, par le début d’une crise, dite « crise des fondements », résultant de plusieurs découvertes dans des domaines différents, géométrie, analyse, logique, ensembles, qui toutes, d’une manière ou d’une autre, impliquaient l’intuition, un des éléments sur lesquels s’était toujours appuyé le travail des mathématiciens. En effet, l’intuition géométrique de l’espace dans lequel nous vivons avait retardé les progrès de la géométrie et la découverte des géométries non euclidiennes, en fondant le préjugé selon lequel la géométrie euclidienne était la géométrie « naturelle », celle du monde dans lequel nous vivons, donc la seule possible. De même, l’intuition des fonctions continues comme fonctions dont le graphe peut être tracé « sans soulever le crayon » ne laissait pas présager la découverte, dès la première moitié du XIXe siècle, des fonctions continues nulle part dérivables, c’est-à-dire sans tangente, que Poincaré appellera des « monstres ». Enfin, la découverte des paradoxes dans la théorie « naïve » des ensembles – paradoxes de l’infini, paradoxe de l’ensemble de tous les ensembles, paradoxe de Russel, notamment – constitua un nouvel élément amenant des mathématiciens à penser que leur science avait besoin de fondements plus solides que leur intuition.

Il faut noter d’emblée que certains mathématiciens, Poincaré notamment, ne participèrent pas à la guerre qui se préparait contre l’intuition, le mathématicien hollandais Brouwer fondant même un courant épistémologique « intuitionniste », à la postérité cependant peu nombreuse.

Pour David Hilbert, un des plus grands mathématiciens du tournant du XXe siècle, il n’en fallait pas moins une vive réaction, destinée à supprimer les paradoxes et fondée en dernier ressort sur l’espoir de prouver la non contradiction des mathématiques, c’est-à-dire l’impossibilité de démontrer à la fois un énoncé et sa négation. Il s’agissait, pour Hilbert, de donner le jour à une nouvelle conception des mathématiques, non plus «science naturelle», dont le critère de vérité résiderait en dehors d’elle-même, dans la « nature », ou plutôt l’intuition que nous en avons, mais science abstraite, mécanique, dépourvue en première approche de toute notion de vérité : « Les mathématiques doivent être analysées comme une activité sans signification, semblable à un jeu, tel le jeu d’échecs : il s’agit de règles formelles fixées à l’avance et permettant de construire certains assemblages de symboles, à savoir les énoncés mathématiques et leurs démonstrations« .

Dans une telle approche, et dans un premier temps, la question de la vérité est évacuée et remplacée par celle de la « prouvabilité » ou de la « démontrabilité ». Une théorie mathématique, l’arithmétique, par exemple, est conçue comme un système formel, ensemble de signes, de règles de formation d’expressions bien construites et de règles de dérivation, système dont la description s’achève par la donnée d’un certain nombre d’axiomes. Il s’agit d’une mécanisation des mathématiques, de sa transformation en quelque chose dont un système composé d’un ordinateur et d’un programme donne une idée plus concrète. C’était, selon Hilbert, la seule façon de sortir de la crise, le seul espoir d’asseoir les mathématiques sur des bases saines, et de pouvoir le prouver. Il espérait en effet qu’un système formel de l’arithmétique, par exemple celui de Peano, (AP), pour fixer les idées, permettrait à la fois de prouver tout ce qui est vrai, par ailleurs, dans l’arithmétique, telle que nous l’apprenons tous dès l’école primaire, et surtout qu’il serait possible, dans AP, de prouver la non contradiction de AP. Et en 1900, au congrès des mathématiciens à Paris, il définissait, parmi d’autres problèmes, un programme pour les mathématiciens et pour le futur, consistant à prouver le bien fondé de ces deux espoirs.

J.-M. D. : Explique-nous les théorèmes de Gödel et quels étaient les objectifs de ce mathématicien lorsqu’il les conçoit en 1931 ?

D. D. : C’est ici qu’intervient Gödel, quelques années plus tard, en 1931, avec ses deux théorèmes d’incomplétude. Selon le premier, tout système formel tel que celui de Peano, supposé non contradictoire, contient des propositions indécidables, c’est-à-dire qui ne peuvent, pas plus que leur négation, être démontrées dans le système. C’est l’échec du premier objectif d’Hilbert.

Le deuxième théorème d’incomplétude de Gödel affirme que parmi les propositions indécidables figure la non contradiction du système. Cette fois, c’est l’échec complet du programme formaliste : non seulement, aucun programme informatique ne pourra jamais démontrer tout ce qui est vrai en arithmétique, mais de plus, il ne pourra jamais prouver sa propre non contradiction.

Il semble que les objectifs initiaux de Gödel aient été de prouver la validité du programme d’Hilbert, et que ce soit au cours de ses recherches pour atteindre ce but qu’il se soit rendu compte que c’était impossible.

La démonstration du premier théorème d’incomplétude prend environ une trentaine de pages. Elle commence par la définition rigoureuse du système formel auquel elle s’applique – pas AP mais un système équivalent – et la définition d’une numérotation permettant de représenter tout signe du système, toute formule, toute suite de formules et donc toute démonstration, par un entier positif unique, appelé nombre de Gödel (NG) du signe, de la formule, de la suite de formules.

Viennent alors 46 définitions réalisant l’internalisation des métamathématiques. Dans le système formel figurent, comme dit plus haut, des signes, des symboles de variables, de constantes, notamment logiques, de relations… Il est impossible dans un tel système d’écrire autre chose que des formules arithmétiques ou logiques, et des suites de telles formules. Par exemple, la proposition « la formule de nombre de Gödel x est démontrable » ne figure pas dans le système, c’est un énoncé métamathématique, une affirmation sur une propriété du système, ce n’est pas une formule arithmétique (elle contient des mots de la langue française). Il en est de même de l’expression française « la suite de formules de NG x est une démonstration de la formule de NG y ». Mais grâce à sa numérotation, Gödel parvient à exprimer de telles affirmations métamathématiques à l’intérieur du système, comme des relations arithmétiques, des formules dont les arguments sont, dans le cas de la deuxième, par exemple, les signes x et y désignant des variables numériques.

Enfin, Gödel construit une formule dont il prouve la non décidabilité (elle n’est ni démontrable ni réfutable), mais qui est néanmoins vraie. Pour faire cela, il s’inspire de certains paradoxes, comme celui du barbier qui doit raser tous les hommes qui ne se rasent pas eux-mêmes et seulement ceux-là. Le barbier doit-il alors se raser lui-même? S’il se rase lui-même, il fait partie de ceux qu’il ne peut pas raser, s’il ne se rase pas lui-même, il fait partie de ceux qu’il doit raser. Dans les deux cas, il y a une contradiction. La formule que Gödel construit est la traduction dans le système de l’affirmation G : « G n’est pas démontrable ». Gödel prouve que ni la formule G ni sa négation ne sont démontrables : G est indécidable. Mais G est vraie, puisque G consiste à affirmer que G est indémontrable, ce qui est le cas – G est même indécidable. Donc le système ne peut démontrer G, mais l’être humain peut le faire !

J.-M. D. : Les théorèmes de Gödel ont-t-ils été remis en cause ? Ou ont-t-ils été le point de départ de nouvelles problématiques ?

D. D. : A ma connaissance, les théorèmes de Gödel n’ont pas été remis en cause. Bien sûr, ils ont surpris, par exemple Von Neuman, qui a demandé à lire la démonstration du premier dès qu’il en a entendu parler, et qui, après l’avoir étudié, en a aussitôt déduit le second. Mais Gödel l’avait devancé… Hilbert a lui aussi été surpris, mais a accepté les résultats de Gödel.

Dans les mathématiques, à la suite de ces résultats de Gödel, lui-même et d’autres – Cohen, par exemple – ont continué à chercher des réponses à des questions fondamentales, comme l’indépendance de l’hypothèse du continu ou de l’axiome du choix par rapport aux autres axiomes de la théorie des ensembles. Dans sa démonstration, Gödel a introduit la théorie de la récursivité, et dans une certaine mesure ses travaux ont lancé la théorie de la démonstration. Toutefois, la plupart des mathématiciens travaillent dans leurs domaines respectifs sans trop se soucier de savoir s’ils vont rencontrer des propriétés indécidables ou une contradiction. Après tout, ils se sont bien sortis de la crise des fondements, et se disent qu’ils se sortiront encore bien d’une éventuelle crise future.

En revanche, hors des mathématiques, dans les sciences humaines, en philosophie, les théorèmes d’incomplétude ont donné lieu aux interprétations les plus diverses, voire les plus fantaisistes. Ainsi, certains en ont tiré un peu vite des conclusions anti scientifiques, y voyant un échec, voire un échec global, des mathématiques, de la science, de l’intelligence humaine. C’est exactement l’inverse : un échec aurait été l’impossibilité de répondre aux défis hilbertiens; au contraire, Gödel y apporte une réponse précise, c’est donc un succès. C’est encore moins un échec global des mathématiques, de la science, de la pensée. On serait plutôt tenté, avec Jean-Yves Girard, de dire, à l’opposé, que le théorème de Gödel est une réfutation d’un modèle mécanique de la science, de la pensée, du monde. Plus précisément, il s’agit de l’échec de la tentative de formalisation, de mécanisation des mathématiques. Mais c’est une victoire des mathématiques, de la science.

Toujours dans les sciences humaines, les théorèmes de Gödel partagent avec la physique quantique le triste privilège d’inspirer aux auteurs de ce domaine les métaphores les plus osées, les plus imaginatives, les plus farfelues, les plus éloignées de leur signification réelle (sur ce point, voir A. Sokal et J. Bricmont, Les Impostures intellectuelles, ou J. Bouveresse, Prodiges et Vertiges de l’Analogie).

Pour terminer sur une remarque mathématique, puisque c’est de cela qu’il s’agit et non de philosophie, ce qui inquiète le plus les mathématiciens, ce n’est pas l’incomplétude ni l’inconsistance éventuelle, mais la difficulté intrinsèque à leur travail, dont les deux exemples suivants donnent une idée. Il a fallu plus de 350 ans d’efforts pour venir à bout de la démonstration du «dernier» théorème de Fermat, et la conjecture de Riemann, dont la démonstration constituerait un apport fondamental à notre connaissance des nombres premiers, défie les plus grands mathématiciens depuis 1859…

Advertisements