Série : Philo, math, langage & logique (1/2)
Le Dr Sébastien Richard est chercheur à l’Université Libre de Bruxelles (ULB) et maître de conférences à l’Université de Liège (ULg). Depuis quelques années, il s’intéresse à Stanisław Leśniewski, un logicien polonais parmi les plus importants du XXe siècle qui s’est penché sur les mathématiques et le langage.
Durant l’Entre-deux-guerres, Stanisław Leśniewski arrive à Lvov, une ville aujourd’hui en Ukraine). « Leśniewski va être l’un des grands contributeurs de ce qu’on appelle l’École de Lvov-Varsovie », entame Sébastien Richard. « Une école philosophique qui s’étend entre la fin du xixe siècle et la Seconde Guerre mondiale et qui fut la plus importante de l’histoire polonaise ». Elle est aujourd’hui surtout connue pour ses importantes contributions à la logique.
Des mathématiques encore éparses
À Lvov, Leśniewski entame une thèse en philosophie avec Twardowski, le fondateur de l’École de Lvov-Varsovie. C’est durant cette période qu’il tombe sur « un livre de Jan Łukasiewicz sur le principe de non-contradiction chez Aristote, poursuit Sébastien Richard, livre dans lequel figure une annexe où il découvre avec stupéfaction le célèbre paradoxe de Russell ».
Le paradoxe de Russell trouve son origine dans la logique formelle contemporaine initiée par Frege : « au xixe siècle, les mathématiques ne sont pas encore unifiées. Elles se composent alors de plusieurs domaines épars, comme l’arithmétique, la géométrie, l’analyse, … et Frege souhaite refonder les mathématiques sur un fondement solide dénué de contradictions. Soit une base unique d’axiomes et de définitions censée permettre de retrouver ensuite par déduction tous les théorèmes des mathématiques ».
A la recherche d’un fondement
C’est un peu l’idée des poupées russes qui s’emboîtent les unes dans les autres. « Tous les théorèmes d’un domaine donné des mathématiques peuvent être dérivés d’un ensemble d’axiomes et de définitions propres à ce domaine, pour ensuite être dérivés des axiomes et des définitions d’un domaine plus élémentaire », indique le Dr Richard. « Le but est d’aboutir au domaine le plus élémentaire possible et, à l’époque de Frege, c’est l’arithmétique qui joue ce rôle ».
Frege se demandait s’il n’était pas possible de trouver une base encore plus élémentaire d’où dériver les axiomes et les définitions de l’arithmétique et « pensait que ce rôle pouvait être assumé par la logique formelle. C’est la thèse du ‘logicisme’ : la totalité de l’édifice mathématique peut être réduite à la seule logique ».
Dans cette ambitieuse entreprise, « une des premières notions que l’on apprend en secondaire jouait un rôle fondamental, poursuit Sébastien Richard : celle d’ensemble. Selon Frege, les ensembles permettent de définir les nombres et leurs relations (comme une multiplication ou une addition) et de faire le saut entre logique et mathématique ».
Le barbier qui n’existe pas
Or Bertrand Russel, un philosophe et logicien anglais, « découvre en 1901 que cette notion d’ensemble pouvait donner lieu à un paradoxe. Celui-ci tient en une seule phrase : est-ce que l’ensemble de tous les ensembles qui ne se comprennent pas eux-mêmes se comprend lui-même ?
On peut l’illustrer avec la métaphore du barbier bien qu’elle soit moins pertinente : dans un village, un barbier rase toutes les personnes qui ne se rasent pas elles-mêmes et uniquement celles-là. Question : le barbier se rase-t-il lui-même ? Que l’on réponde positivement ou négativement à cette question, une contradiction en découle : s’il se rase, il est faux qu’il rase uniquement les personnes qui ne se rasent pas elles-mêmes et, inversement ; s’il ne se rase pas, il est faux qu’il rase toutes les personnes qui ne se rasent pas elles-mêmes dans le village ».
La conclusion est qu’un tel barbier n’existe tout simplement pas. Mais « l’ensemble de tous les ensembles qui ne se comprennent pas eux-mêmes, en revanche, pose un problème plus profond qui ne se résout pas aussi facilement. C’est le début de ce que l’on a appelé la « crise des fondements en mathématiques », qui s’est étendue jusqu’aux années 30 du siècle dernier ».
Le concret, seulement du concret
« Leśniewski a une révélation à la découverte du paradoxe de Russell et il décide de le résoudre. C’est le début de sa période de maturité. Le nœud du problème se trouve selon lui dans la notion même d’ensemble.
« Si elle nous semble aujourd’hui évidente, elle ne l’était pas avant son invention par Cantor au milieu du xixe siècle, nous dit Sébastien Richard. Leśniewski pense même qu’il s’agit d’un « monstre théorique », « une abstraction sortie de “la centrifugeuse d’esprits mathématiques” “démoralisés par des constructions spéculatives irréelles” ».
La méréologie, théorie des touts et des parties
Leśniewski est ce qu’on appelle un « nominaliste » : il croit uniquement à l’existence des individus concrets, et rejette dès lors toutes les entités abstraites, au premier rang desquels les ensembles.
Pour les remplacer, « il fonde la méréologie – la théorie des touts et des parties. Il s’agit donc de remplacer la notion d’ensemble par celle de tout concret dont les parties jouent un rôle analogue aux éléments des ensembles ». Un ensemble est un concept mathématique qui n’a pas vraiment d’existence concrète, alors qu’un tout n’est pas une réalité distincte de ses parties.
Le tout plutôt que l’ensemble
« Prenons un arbre, par exemple, avance Sébastien Richard. En tant que tout concret, celui-ci n’est rien de plus que ses parties (son tronc, ses branches, ses feuilles, etc.). Brûlez celles-ci et c’est l’arbre lui-même qui disparaît. Considérez maintenant l’ensemble de toutes les parties de cet arbre.
Que reste-t-il lorsqu’elles sont détruites ? Réponse : l’ensemble vide. Pour Leśniewski, cette notion d’ensemble est une abstraction intolérable. Il pense qu’en remplaçant la théorie des ensembles par la méréologie, et donc les notions abstraites d’ensemble et d’éléments par celles concrètes de tout et de parties, il sera à la fois possible de fonder les mathématiques et d’échapper au paradoxe de Russell ».
Le “0” résiste à la méréologie
Contrairement à ce qu’espérait Leśniewski, la méréologie ne permettra pas de fonder les mathématiques.
« Son application aux mathématiques ne va pas fonctionner notamment à cause de la notion d’ensemble vide. Frege définissait, pour dire les choses simplement, les nombres au moyen des ensembles. Par exemple, le nombre 1 c’est l’ensemble de tous les ensembles ayant un seul élément, le nombre deux c’est l’ensemble de tous les ensembles ayant deux éléments, etc. Du coup, il définissait le nombre 0 comme l’ensemble de tous les ensembles n’ayant pas d’éléments, c’est-à-dire l’ensemble vide.
Le problème, c’est que cet ensemble n’avait pas d’équivalent dans la méréologie de Leśniewski (que serait en effet un tout concret sans parties ?). Il va travailler pendant plus de vingt ans jusqu’à sa mort en 1938 pour surmonter cette difficulté et construire les bases logiques sous-jacentes de sa méréologie ».
Une question classée sans suite
Si le débat était passionné, « les deux théorèmes de Gödel publiés en 1931 vont mettre fin à la crise des fondements. Bien qu’ils soient un peu trop longs à expliquer ici, on peut retenir que les mathématiciens ont considéré disposer d’un outil suffisamment solide à leurs recherches tandis que philosophes et logiciens se sont penchés sur d’autres questions ».
Leśniewski, lui, a « passé son temps à approfondir sa méréologie, ainsi que les deux autres systèmes qu’il avait développés : la protothétique et l’ontologie. Ces travaux l’ont amené à également s’intéresser au langage, lequel n’est lui-même pas dépourvu de contradictions », contradictions que ce logicien « extrêmement pointilleux » n’a pas manqué de vouloir résoudre et que nous aborderons dans l’article suivant.