L’infini, un concept paradoxal

thierrylibertLogicien, Thierry Libert enseigne à la Haute Ecole Paul-Henri Spaak et à l’Université libre de Bruxelles. Auteur d’une thèse intitulée More studies on the axiom of comprehension (2004), il a publié divers articles dans des revues internationales. Le 26 avril 2013, il a présenté au CREM (Centre de Recherche sur l’Enseignement des Mathématiques) une conférence sur l’infini. Voici l’essentiel de son propos.

Jean-Michel Dufays : Le concept d’ensemble, devenu indispensable en mathématiques, date du XIXème siècle. Pourtant, au début du XXème siècle, Hilbert relève, parmi les défis des prochaines décennies, la nécessité de résoudre les paradoxes de l’édifice construit par Cantor. Toi-même, tu as travaillé sur la manipulation et la conceptualisation des ensembles infinis. Pourquoi t’être intéressé à ce sujet ?

Thierry Libert : L’infini est un sujet ayant un certain attrait, car l’infini, par définition, est supposé être sans limite ; il est donc censé nous être inaccessible, ce qui laisse un peu rêveur et plonge ce concept dans l’imaginaire. Justement, les mathématiques font la part belle à l’imagination, et s’il y a bien une discipline dans laquelle on peut parler de l’infini avec une certaine rigueur, ce sont bien les mathématiques, lesquelles pourraient d’ailleurs être considérées comme la science de l’infini.

Il faut dire que l’infini apparaît spontanément en mathématiques, lorsque l’on considère des objets des plus élémentaires que sont les nombres naturels. Ces nombres dont on fait l’acquisition dès le plus jeune âge servent à dénombrer les collections d’objets concrets (plus généralement les collections finies). Ils nous apparaissent comme une suite qui peut être prolongée indéfiniment (ce qu’indiquent ici les points de suspension) :

0, 1, 2, 3, 4,…

Bien évidemment, comme pour beaucoup d’autres concepts, la maîtrise de l’infini ne s’est pas faite du jour au lendemain, d’autant que pour quelques raisons mystiques ou philosophiques, mais surtout parce qu’il peut paraître contre-intuitif, voire paradoxal, l’infini a suscité une certaine méfiance de la part de savants de toutes les époques. Cette méfiance a conduit certains d’entre eux à faire la distinction entre l’infini potentiel (en puissance) et l’infini actuel (en acte) et à dire que seul le premier est accessible à l’entendement humain.

Cette distinction remonte en fait à Aristote et peut se résumer comme suit. Dans l’infini en puissance, on considère la suite des nombres naturels comme quelque chose d’inachevé, mais qui peut potentiellement se prolonger au delà de toute limite préalablement donnée. Dans l’infini en acte, au contraire, on considère cette suite comme un tout achevé : on peut embrasser par la pensée l’ensemble de tous les nombres naturels, lequel existe dès lors (ce que l’on indique simplement de nos jours en encadrant ses éléments par des accolades) :

{0, 1, 2, 3, 4,…}

Les mathématiciens d’aujourd’hui ne se soucient guère de cette distinction et considèrent sans le moindre scrupule de tels ensembles infinis comme des objets à part entière, jouissant de diverses propriétés et à partir desquels on peut construire d’autres objets (ou structures) plus élaboré(e)s encore. Aussi, peut on parler du nombre d’éléments de l’ensemble des nombres naturels et remarquer que ce nombre ne change pas si l’on prive cet ensemble d’un de ces éléments, comme 0 ici :

illustration

L’illustration précédente montre effectivement qu’on peut apparier les éléments des ensembles {0, 1, 2, 3, 4, . . .} et {1, 2, 3, 4, 5 . . .} ; ils doivent donc avoir le même nombre d’éléments. En termes algébriques, si X désigne le nombre d’éléments de l’ensemble des nombres naturels, alors X−1 = X. Cette propriété peut paraître étrange, car elle n’est bien entendu vérifiée par aucun nombre naturel ; pire encore, les lois élémentaires de l’algèbre permettraient d’en déduire que 1 = 0 ! Les mathématiciens admettent simplement qu’il s’agit là d’un nombre d’une autre nature, qui n’est pas sujet aux mêmes lois. Richard Dedekind (mathématicien allemand, 1831-1916) caractérisa l’infini par cette propriété.

Les réflexions sur les ensembles infinis poussèrent naturellement les mathématiciens à s’interroger sur le concept d’ensemble lui-même—concept auquel il a déjà été fait référence dans ce texte et qui est fondamental en mathématique. Un ensemble est une collection d’objets qui est elle-même considérée comme un objet, susceptible à son tour d’être collecté pour définir des ensembles ; les objets constituant un ensemble sont appelés les éléments de cet ensemble.

Les objets des mathématiques, et a fortiori les ensembles, sont des objets abstraits, qui n’existent dans la pensée qu’à travers leurs définitions et les propriétés qu’on peut en déduire. Il est naturel de penser que toute propriété définit un ensemble, à savoir la collection des objets ayant la propriété en question. Ce principe fut à la base des premiers systèmes ensemblistes élaborés à la fin du XIXème siècle indépendamment par Georg Cantor (mathématicien allemand, 1845-1918) et Gottlob Frege (logicien allemand, 1848-1925). Quelle ne fut pas la surprise quand Bertrand Russell (mathématicien et philosophe britannique, 1872-1970) montra que ce principe était purement et simplement incompatible avec les lois élémentaires de la logique. Voici le paradoxe qui porte son nom.

En tant qu’objet, un ensemble peut être un élément d’un ensemble, un autre ensemble serait-on tenter d’ajouter, car on imagine difficilement qu’un ensemble soit un élément de lui-même. Cela peut pourtant se produire. La propriété ‘être identique à soi-même’, par exemple, est vraie pour tout objet, si bien que l’ensemble des objets satisfaisant cette propriété n’est autre que l’ensemble de tous les objets, lui-même compris. Un tel ensemble peut donner le vertige, mais n’est pas contradictoire. Ceci étant, appelons ‘normal’ un ensemble qui n’est pas élément de lui-même et considérons l’ensemble défini par cette propriété, à savoir la collection de tous les ensembles normaux. Cet ensemble, est-il normal ou pas ? (1)

La réponse à cette question conduit à une antinomie. En effet, de deux choses l’une, soit il est normal, soit il n’est pas normal. S’il est normal, il n’est pas un élément de lui-même (par définition de ‘normal’), ce qui voudrait dire alors qu’il n’est pas normal (par définition de l’ensemble en question). Il n’est donc pas normal, auquel cas il n’est pas élément de lui même (par définition de l’ensemble en question), ce qui voudrait dire alors qu’il est normal (par définition de ‘normal’). En bref, on vient de montrer que cet ensemble est normal si et seulement si il n’est pas normal : c’est le paradoxe de Russell.

Dès lors, on ne peut définir un ensemble par n’importe quelle propriété, sous peine de contradiction, ce qui força les mathématiciens à revoir leur copie et à élaborer un système ensembliste qui ne soit pas inconsistant. Plusieurs systèmes ont en réalité vus le jour, certains faisant fi des ensembles anormaux, d’autres s’en accommodant très bien. Ma thèse fut d’ailleurs consacrée à l’étude d’une variété de systèmes appartenant à cette dernière catégorie.

Mon intérêt pour le sujet a probablement son origine dans le conflit cognitif que provoque le paradoxe de Russell. Il est étonnant de constater qu’un concept aussi élémentaire que celui d’ensemble est tout bonnement contradictoire lorsqu’il est traité de façon naïve. Malgré tout, il continue d’être traité avec une certaine innocence par la grande majorité de la communauté mathématique, en particulier dans l’enseignement. La raison est que le paradoxe de Russell ne peut être résolu que par un recours au formalisme qui rend difficilement accessible les différents systèmes ensemblistes élaborés en réponse. En tant que spécialiste du sujet, et pour l’enseignant que je suis, le jeu consiste alors à en dire assez
sans en dire trop… C’est ce que j’ai essayé de faire ici aussi.

—————————————————

  1. Je conseille au lecteur d’y réfléchir quelques instants avant de lire le paragraphe suivant.
Advertisements