En titrant sa conférence, « les ordinateurs, peuvent-ils faire des mathématiques ? », Yacin Hamami, ingénieur et docteur en philosophie, semblait poser une question évidente. Son exposé a pourtant emmené le public du Forum des Savoirs (ULiège) dans une réflexion sur la complexité de la pensée humaine. Mettant en évidence les forces, faiblesses et limites des machines actuelles pour faire des mathématiques. Mais aussi les spécificités quand elles sont pratiquées par des humains. Une problématique étudiée par un domaine de la recherche méconnu : la philosophie des mathématiques.
Des problèmes difficiles, voire impossible à résoudre
« A la question de savoir si les ordinateurs peuvent réaliser des opérations mathématiques, la réponse est évidemment “oui” », précise d’emblée Yacin Hamami, actuellement postdoctorant à l’École polytechnique fédérale de Zurich (Suisse).
« Si on prend une opération arithmétique (addition, soustraction, division, multiplication), ou encore une résolution d’équation à plusieurs inconnues, basée sur des formules, des règles, à appliquer, les ordinateurs sont plus doués que les humains. Ils peuvent réaliser ce type de procédure avec de très grands nombres, instantanément, et sans erreurs. »
Reste que certains problèmes posent plus de difficultés. « Si l’on prend l’équation x³+y³+z³ = 42, en cherchant la solution dans les nombres entiers – c’est-à-dire des nombres positifs ou négatifs qui ne possèdent pas de chiffre après la virgule –, trouver la solution à l’aide d’un ordinateur est loin d’être une mince affaire. » C’est seulement en 2019 qu’une solution (parmi d’autres possibilités) a été trouvée. Ce qui a nécessité 1 million d’heures de calcul, opérées par un réseau de 500.000 ordinateurs.
A côté, de nombreux problèmes mathématiques sont encore aujourd’hui irrésolus, tant par les humains que par les ordinateurs.
L’esprit humain, une machine comme les autres ?
Il existe donc bien des limites à ce que peuvent réaliser les machines dans les sciences mathématiques. Ces limites, concernaient-elles aussi les humains ? La question resterait ouverte.
« Une hypothèse qui gouverne beaucoup d’études en sciences de la cognition dit que le cerveau humain est l’équivalent d’une machine de Turing (donc un ordinateur). Aussi, s’il n’existe pas de machine de Turing pour répondre à certains problèmes mathématiques, cela signifie qu’il existe des problèmes qui dépasseraient les capacités du cerveau. Ce qui pointe les limites de la cognition humaine. Cela reste toutefois une hypothèse encore très discutée. »
Comme l’a dit le mathématicien Kurt Gödel (1906-1978), soit il existe des indécidables mathématiques absolus. Soit l’esprit mathématique humain ne peut pas être réduit à un algorithme.
Focus sur le cerveau des mathématiciens
« Tout un pan de la philosophie des mathématiques essaie justement de comprendre les spécificités de l’activité mathématique telle qu’elle est pratiquée par les humains », fait savoir Yacin Hamami. « Et certains aspects apparaissent importants dans la pratique. »
Déjà, quand les humains font des mathématiques, ils combinent souvent différents modes de représentation, comme le langage et la visualisation. « Une interaction qui appelle également une certaine disposition à l’imagination. »
Par ailleurs, les mathématiciens rapportent que l’intuition peut guider le processus de découverte (formuler des conjectures, inventer des théories, découvrir des démonstrations…). Tout comme le désir de comprendre et d’expliquer le monde mathématique. « Cela constitue un réel moteur pour dédier du temps et de l’énergie à cette pratique. »
Enfin, les mathématiciens (de même que la communauté scientifique) font preuve de jugements de valeur : « On juge en permanence les objets mathématiques : ce théorème-là est intéressant, profond. Cette démonstration-là est ingénieuse, élégante. Il est clair que ces jugements jouent un rôle important dans la trajectoire que va prendre le développement des mathématiques. »
Des facultés difficiles à reproduire artificiellement
Qu’en est-il des technologies censées imiter le cerveau humain ? Pourrait-on un jour développer des intelligences artificielles capables d’imiter ces différentes facultés ? « Pour l’heure, on est loin du compte. Aujourd’hui, aucun théorème important n’a pu être démontré entièrement par un ordinateur. »
Ces facultés apparaissent difficiles à reproduire de manière artificielle, pour la simple raison qu’on ne comprend pas encore très bien leur fonctionnement. L’origine cognitive de nos facultés de reconnaissance de formes ou de nombres, par exemple, est activement étudiée. On ignore encore si c’est une capacité innée ou apprise.
« Le jour où l’on cernera mieux ces aptitudes, peut-être qu’on pourra construire des machines à même de réaliser des découvertes en mathématiques. Mieux comprendre ces capacités permettrait aussi de mieux former les élèves et les étudiants à la pratique des mathématiques. Car l’activité, on l’a vu, est finalement hyper-complexe », conclut Yacin Hamami.