La preuve par googol (2) Nombres et mathématique

Temps de lecture : 30 minutes

Cette lecture ne demande aucune autre connaissance de technique mathématique que la notation exponentielle « a^b », signifiant « a ✕ a … ✕ a » b fois.

Googol

Thus is the story of big numbers a story of human progress.

Scott Aaronson

Après plus de deux millénaires d’ « artisanat » de comptage et de mesure, l’ordinateur a fini par mettre tout le monde d’accord, du nord au sud, de l’Orient à l’Occident. La machine produit du nombre en quantité industrielle, le même pour tous, selon les mêmes procédés et pour les mêmes usages. Le progrès technologique a ainsi fait du nombre un « matériau transculturel » : personne ne revendique, n’interprète ni n’interroge « 2 », « 250 » ou « 10¹⁹ » ; personne ne remet en cause l’universalité des nombres ni par conséquent leur existence propre, indépendante de l’être humain.

Mais nos dispositifs techniques et scientifiques ont beau produire toujours plus de nombres et toujours plus grands, aucun ne dépasse jamais franchement cette lisière autour du nombre googol (10¹⁰⁰), comme si les nombres se pressaient derrière une porte cadenassée. Si les sciences et les techniques sont ainsi cantonnées par le « réel », les mathématiques en revanche ne connaissent pas de frontières : au-delà de googol, il y a une « infinité » un peu nébuleuse de nombres comme 10¹⁰⁰⁰, 10¹⁰⁰⁰⁰, 10¹⁰⁰⁰⁰ + 1… Que devons-nous donc comprendre de cette capacité d’écrire, de désigner ou tout simplement d’imaginer des nombres que la nature ne « produira » jamais ? Cette question apparemment sans grand intérêt, bien indifférente à nos vies pratiques, peut pourtant nous en apprendre beaucoup sur l’humain en tant qu’humain. Le nombre est un excellent indice « éthologique ».

Nous partons donc ici, après Nombres et Progrès, premier volet de la « preuve par googol », à l’assaut de ces numérosités extrêmes en partant, non plus de phénomènes réels qui semblent les ignorer, mais de l’unique langage qui permet d’en parler : les mathématiques.

Ce texte est structuré en trois parties. La première (Vers l’infini et au-delà) examine quelques exemples choisis de l’histoire des mathématiques et de leur unification, où le nombre perd tout contact avec le réel. La seconde partie (Vers le fini ?) relate quelques interrogations au sujet de cette perte de contact. La troisième partie (Impossible retour) concède la nature infinitaire de la mathématique et du langage en général.

1- Vers l’infini et au-delà

Musique !

La musique nous charme, quoique sa beauté ne consiste que dans les convenances des nombres et dans le compte dont nous ne nous apercevons pas, et que l’âme ne laisse pas de faire, des battements ou vibrations des corps sonnants qui se rencontrent par certains intervalles.

Leibniz¹

Leibniz présentait ainsi la musique comme le phénomène par lequel l’âme reconnaît immédiatement et instinctivement les nombres et leurs « convenances », leurs rapports essentiels et harmonieux. Près de 2000 ans plus tôt, la musique excitait déjà chez les pythagoriciens ce « sens de la numérosité » et Archytas, dont Ptolémée faisait « la réputation d’être le plus musicien des pythagoriciens »², étudia longuement les intervalles musicaux et leurs proportions numériques. Selon ces penseurs, la musique touche l’âme directement parce que « l’âme ne laisse pas de faire le compte » et s’accorde instinctivement au nombre tel qu’il se présente dans la nature. Nous éprouvons le nombre comme la caresse de l’air, la chaleur du soleil, l’éblouissement de l’éclair. Les nombres s’élèvent alors chez les pythagoriciens pour gagner un statut « ontologique » conduisant à une vision grandiose du cosmos³ :

Sphérique et harmonique se combinaient pour produire une théorie descriptive du cosmos. […] Certains vers d’Horace décrivent ainsi « Archytas comme ayant exploré les demeures aériennes et parcouru en pensée la voûte céleste ».

Cette « émancipation » du nombre ne va pas sans provoquer quelques égarements, comme tout concept naissant dans des esprits encore mal assurés⁴ :

Chez les pythagoriciens, les choses sont des nombres, ou les choses consistent en nombres, ou les choses imitent les nombres (qui seraient des principes), ou les choses ont des nombres : un certain flou demeure.

L’histoire retiendra en tout cas la célèbre devise de l’école pythagoricienne : « tout est nombre »⁵. Ce dogme quasi-religieux fut repris par Platon, ami d’Archytas, qui, selon Aristote, le rectifia ainsi⁶ :

De plus, [ Platon ] place les nombres en dehors des objets sensibles, tandis que [ les pythagoriciens ] prétendent que les nombres sont les objets eux-mêmes, et n’admettent point les êtres mathématiques comme intermédiaires. Si, contrairement aux Pythagoriciens, il plaça ainsi l’unité et les nombres en dehors des choses, et fit intervenir les idées, cela tenait à ses études sur les caractères distinctifs des êtres : ses prédécesseurs ne connaissaient point la Dialectique.

En ancrant ainsi tous les « êtres mathématiques » entre les deux eaux du monde sensible et des Idées, Platon prépare la place des mathématiques pour des siècles : médiatrices entre le réel et le conceptuel, oscillant sans cesse de l’un à l’autre. Par conséquent, concernant cet « être » qu’est le nombre, l’âme ne sera plus seulement subjuguée par ses manifestations harmoniques : elle pourra enfin s’en « faire une Idée ».

Arts mathématiques

Comme toute discipline en quête de « vérité », les mathématiques se développent dans un cadre social extrêmement codifié et organisé. La communauté pythagoricienne comprenait ainsi quatre degrés hiérarchiques. Les trois premiers formaient les « exotériques » (έξωτερικοί) et comprenaient les « postulants », les « néophytes », puis les « acousmaticiens » (άκουσματικοί). Les acousmaticiens écoutaient et retenaient par cœur les préceptes de Pythagore qui, dissimulé derrière un rideau, ne leur dispensait aucune explication ni démonstration⁷. Au quatrième et dernier degré, les « ésotériques » (έσωτερικοί), appelés « mathématiciens » (μαθηματικοί), avaient le privilège de voir Pythagore et d’accéder aux rouages de la connaissance, à l’articulation du monde sensible et de celui des Idées.

Du nombre omniprésent dépendaient ces disciplines qualifiées de « sœurs » par Archytas, encore groupées au Moyen-Âge sous le nom de « quadrivium » : l’arithmétique, la géométrie, l’astronomie et la musique. Le mathématicien américain Morris Kline (1908-1992) commentait ainsi dans son ouvrage « Mathematics in Western Culture » cette sororité numéricienne des « arts mathématiques »⁸ :

A partir de l’époque de Pythagore, l’étude de la musique fut considérée comme étant de nature mathématique et regroupée avec les mathématiques. Cette association fut formalisée dans le programme du système d’éducation médiéval où l’arithmétique, la géométrie, la sphère (astronomie) et la musique constituaient le fameux quadrivium. Les quatre sujets furent davantage corrélés en étant décrits comme relevant respectivement du nombre pur, stationnaire, mobile, et appliqué.

Dans le quadrivium, l’espace et le temps sont en quelque sorte « mis en forme » par le nombre⁹ : l’arithmétique ne concerne que le nombre pur, la géométrie le nombre dans l’espace, la musique le nombre dans le temps, et l’astronomie le nombre dans l’espace et dans le temps. Le travail d’unification des arts mathématiques, considérés ainsi comme différents points de vue sur le nombre, conduira à l’émergence, au tournant du XVII^ème siècle, d’une discipline que nous appellerons ici, non plus les (arts) mathématiques, mais la mathématique. C’est elle et elle seule qui déploiera la forme du nombre Idéal, ignorant de la « lisière googol », bien loin des rivages du monde sensible, des bâtons de comptage et autres calculi.

Mathématique !

Si temps du quadrivium est bien révolu, les mathématiques modernes regroupent toujours plusieurs « arts » (arithmétique, géométrie, analyse, topologie…) qui semblent encore justifier leur pluriel. Mais ces arts sont plus unifiés que jamais, non plus en tant qu’ils relèveraient tous des mêmes fondations numériques, mais parce qu’ils partagent tous la même forme, le même langage élaboré avec soin depuis l’époque François Viète au XVI^ème siècle. La mathématique se désigne ainsi comme l’ « instance constitutionnelle » d’une société de concepts destinés en premier lieu à la représentation des phénomènes sensibles et à la conduite des affaires terrestres (nous reviendrons conclure sur cette métaphore). Galilée est celui qui a le mieux incarné cette (r)évolution « darwinienne » de la doctrine médiévale-pythagoricienne (nous soulignons)¹⁰ :

[ L’Univers ] est écrit dans la langue mathématique et ses caractères sont des triangles, des cercles et autres figures géométriques, sans le moyen desquels il est humainement impossible d’en comprendre un mot.

Les concepts mathématiques ne sont plus des essences comme chez les pythagoriciens (« tout est nombre »), ni des « choses » prudemment installées par Platon à mi-chemin du monde sensible et de celui des Idées, mais ils sont déterminés par un langage avec lequel l’Univers se raconte à l’humain. Il pose donc ici un projet véritablement scientifique dans lequel la langue mathématique, toujours attachée par lui au réel, joue pour l’humain le rôle de moyen descriptif.

Si cette position semble claire, il subsiste toutefois dans la formule de Galilée une brèche par où les concepts mathématiques peuvent toujours se manifester sous la forme d’ « essences » éternelles : « l’Univers est écrit » et non pas « décrit », indiquant ainsi une relation ténue mais directe, sans médiation humaine, entre un Univers et une mathématique qui auraient en quelque sorte la même « forme ». Cette hypothèse demeure toujours aujourd’hui. Dans un bien connu article intitulé « The Unreasonable Effectiveness of Mathematics in the Natural Sciences », », le physicien Eugene Wigner note ceci¹¹ :

Les concepts mathématiques présentent des connexions tout à fait inattendues. De plus, ils permettent une description étonnamment proche et précise des phénomènes au travers de ces connexions. […] la formidable utilité des mathématiques dans les sciences naturelles est quelque chose qui confine au mystère et il n’y a pas d’explication rationnelle à cela.

L’Univers et la mathématique semblent ainsi « mystérieusement » connectés et les concepts mathématiques s’ajuster « clandestinement » aux phénomènes. Dès lors, pourquoi des nombres comme 10¹⁰⁰⁰, 10¹⁰⁰⁰⁰, 10¹⁰⁰⁰⁰ + 1… ne seraient-ils pas déjà présents dans l’Univers mais encore inobservés faute, par exemple, d’instruments de mesure adéquats ou de théories suffisantes ? La mathématique invente-t-elle ou découvre-t-elle ?  C’est le dilemme épistémologique classique qui émerge de l’ « entre deux eaux » platonicien.

Une langue mathématique mise au point par une race extraterrestre ou, hypothèse plus incertaine, par une machine, aurait certainement une forme différente de celle que nous connaissons (les nombres par exemple ne s’écriraient pas de la même façon). Mais, étant par hypothèse isomorphe à l’univers sensible, elle disposerait d’une traduction mécanique dans notre mathématique. Par conséquent ni l’humain, ni tel extraterrestre, ni telle machine, ne sont des conditions nécessaires de la mathématique en général mais seulement de ses formes « locales ». Tout concept cohérent avec la mathématique terrestre est susceptible de correspondre à quelque chose dans l’Univers, et attend simplement sa confirmation par le réel, y compris donc les nombres au-delà de googol, y compris, pourquoi pas, l’infini lui-même.

L’humain croit inévitablement en une certaine transcendance des concepts que son langage désigne. En la matière le langage mathématique a atteint des sommets.

Googolplex

Le neveu de Kasner (voir Nombres et progrès) avait bien compris le caractère récursif du langage en inventant cet autre nombre appelé « googolplex », qui s’écrirait 1 suivi de googol zéros. Nous l’écrivons très facilement sous la forme 10^gooogol mais, pour ce jeune garçon qui ne connaissait pas la notation exponentielle, le plus grand nombre que l’on puisse imaginer devait s’écrire avec la plus grande quantité possible de « 0 » après le « 1 ». Très intelligemment, il définissait donc googolplex comme « 1 suivi par l’écriture de zéros jusqu’à ce que vous en ayez marre ». Il percevait bien une limite physique à un exercice mathématique pourtant purement Idéel. Tout est peut-être nombre mais tout nombre correspond-il à quelque chose si rien ne peut jamais l’écrire ?

Dans l’exemple de googolplex, même équipés d’une notation de compétition, les mathématiciens perdraient rapidement patience et les placides machines abandonneraient faute de temps ou d’énergie. Plus généralement, tous les nombres finis ne peuvent pas être nommés puisque la langue mathématique comporte un nombre fini de symboles (« 0 », « 1 », « 2 » …) et que nous disposons d’une durée finie pour nommer ou écrire n’importe quoi. L’ensemble des nombres que l’on peut nommer ou écrire est donc fini¹². Googol et googolplex font partie de cette grande famille. Puisqu’elle n’est pas infinie, il y a nécessairement parmi ses membres un nombre et un seul qui est le plus grand. Appelons-le « googolmax ». Au-delà de googolmax il n’y a donc plus aucune instance du concept de nombre (aucun nombre que l’on puisse désigner) : il ne subsiste que la seule Idée platonicienne de « nombre », et rien d’autre ne nous vient d’autre pour en parler que l’expression « vraiment beaucoup » des indiens wari’. La logique interdit pourtant à googolmax d’exister car, pour utiliser un argument simple sur ce terrain « miné », si on peut désigner googolmax, alors « googolmax + 1 » vient sans difficulté et googolmax n’est donc pas le plus grand de tous.

La logique s’égare avec les très grands nombres mais, fort curieusement, le paysage s’éclaire lorsqu’on saute par-dessus pour gagner directement l’infini et au-delà : l’infini résout une certaine forme d’ « angoisse ».

Cantor

Toute confiance dans le monde débute par les noms, qui permettent de raconter des histoires. C’est ce dont témoigne le récit biblique de la donation des noms au paradis, mais aussi la croyance qui est au fondement de toute magie, et qui reste déterminante dans les commencements de toute science, que la nomination pertinente des choses supprimera l’inimitié entre elles et l’homme pour lui permettre de les utiliser. La terreur qui a retrouvé la voie du langage est déjà supportée.¹³

Les dérives d’une société de concepts n’ont pas d’autres limites que celles du langage quand rien de réel ne vient les amarrer. Les jeux de langage du mathématicien allemand Georg Cantor, à la fin du XIX^ème siècle, ont poussé ces dérives à l’extrême. Cantor a révélé (ou inventé) plusieurs espèces d’infinis, enjambant allègrement les difficultés de la désignation des nombres finis eux-mêmes¹⁴. Même s’il n’est pas exclu que ces espèces s’accordent un jour aux phénomènes (bénéfice du doute), il faut bien reconnaître que le mathématicien s’est replié derrière son rideau et ne semble plus parler qu’à quelques mathématiciens « fanatiques ». Cantor nomme « ℵ₀ » le nombre infini des nombres entiers, la numérosité d’une collection inimaginable. Il s’agit bien d’un nombre auquel on peut donc ajouter « 1 » en écrivant « ℵ₀ + 1 » et auquel succèdent d’autres infinis (appelés « cardinaux transfinis ») comme « ℵ₁ », « ℵ₂ »… « ℵ_googol », etc. Mais Cantor n’était pas un illuminé. Remarquant par exemple lors de ses travaux qu’il y a « autant » d’éléments (de points) dans un segment de droite quand dans un carré, en l’occurrence « ℵ₁ », il n’en revient pas, et il écrit à son collègue Richard Dedekind « Je le vois mais je ne le crois pas »¹⁵.

Cette dérive du nombre a-t-elle bien un sens ? La puissance du langage mathématique est extraordinaire mais cette puissance semble à notre image : dévorée par l’hubris, ce vertige engendré par un succès trop permanent auquel les Grecs opposaient la tempérance et la modération, qui est d’abord connaissance de soi et de ses limites¹⁶. À l’hubris devrait pourtant s’opposer la civilisation, la raison (logos), donc la mathématique. Mais la dé-mesure semble devoir pénétrer chacune de nos créations, faisant comme un écho à notre vitalité angoissée, et en même temps désirante, face à l’avenir (au « + 1 »).

2- Vers le fini ?

Émile Borel et l’étrange loi du hasard

Certains mathématiciens sont restés circonspects face à ces assauts conceptuels et numériques. Ce fut le cas d’Émile Borel (1871-1956), normalien, mathématicien précoce et brillant, qui mena en même temps une carrière politique marquée par son « intellectualisme républicain », loin des escapades solitaires dans le monde des Idées. Borel s’est intéressé à un art mathématique bien particulier : le calcul des probabilités, ou « science du hasard », dont les développements n’avaient véritablement commencé qu’avec Fermat et Pascal au milieu du XVII^ème siècle. Une probabilité est une mesure de « chance » et prend par conséquent la forme du nombre. En effet, bien que l’on dise par exemple « 1 chance sur 10 000 » (écrit « 1 / 10 000 »), le nombre entier « 10 000 », mesure du nombre de « possibilités » exclusives, suffit à la description du phénomène de hasard.

L’épistémologue Ernest Coumet écrit¹⁷ :

[…] une même inspiration avait guidé Jacques Bernoulli, Buffon, Condorcet…, et bien d’autres probabilistes qui avaient vu dans le calcul des probabilités l’instrument par excellence de la raison lorsqu’elle s’applique aux « affaires de la vie civile » et qu’elle doit aider les hommes à mieux choisir là où les embarrasse l’intervention du hasard.

La Mathématique se charge ainsi avec ce calcul, non plus seulement de fournir aux autres sciences les formes descriptives de la nature et de ses lois, mais également celles des « affaires de la vie civile » qui doivent être réglées par la « raison » (Utilité, Ophélimité, Rationalité). Nous pensons à l’économie, à la finance, au fonctionnement des entreprises, à la prise de décision… bref à toute la praxéologie au sens large¹⁸. L’art probabiliste est ainsi né de considérations tout à fait concrètes répondant à un besoin de contrôler nos évaluations confuses et souvent biaisées de la « numérosité » de ces situations de hasard qui foisonnent dans la vie courante. Émile Borel s’est ainsi emparé d’un art mathématique qui interroge de facto la morale¹⁹ :

 Dès la veille de la première guerre mondiale, sa première synthèse sur la question (Le Hasard) lui permet de constater que la « science du hasard » a pris une importance universelle : elle nous oblige en particulier à reconsidérer la « valeur pratique » du calcul, c’est-à-dire son importance pour les prises de décision quotidiennes de tout un chacun, ainsi que pour la conscience sociale des individus.

Borel s’interrogea ainsi depuis la mathématique sur la numérosité des ensembles de possibilités exclusives que l’on peut rencontrer en pratique et, par-delà, dans l’univers. Nous devons entrer ici dans quelques détails.

Borel fut, avec Henri Lebesgue et René-Louis Baire, un pionnier de la « théorie de la mesure » consistant en une vaste généralisation du concept de « mesure » (comme la surface, le volume, la masse ou encore… la probabilité). Intuitivement, mesurer consiste à rabattre ou à projeter n’importe quelle « forme » concevable, aussi complexe soit-elle, (comme un ordinateur) sur un seul nombre (1,2 kg)²⁰. Nous perdons au passage à peu près toutes les informations concernant cette forme – sa structure, sa topologie… – mais nous gagnons de pouvoir nous l’ « approprier » d’un seul coup (miracle du nombre !). Cette théorie de la mesure appliquée aux probabilités, c’est-à-dire la mesure de « formes probabilistes » ou de « configurations de chance », a conduit Émile Borel à une réflexion sur les nombres « accessibles » par la mesure de probabilités portant sur des événements susceptibles de se produire réellement. C’est ainsi qu’il a énoncé ce qu’il a appelé la « loi fondamentale et unique du hasard »²¹ :

Les phénomènes extrêmement improbables ne se produisent jamais.

Cette loi, entre les deux eaux de l’Idée et du sensible, du fini (« improbable ») et de l’infini (« jamais »), est tout à fait extraordinaire. Elle affirme en effet qu’un événement de très petite probabilité est non seulement très peu probable mais qu’il ne se produira en réalité jamais. Il y aurait donc un seuil numérique au-delà duquel le réel ne se manifeste jamais. Mais quel est ce seuil ? Borel suggère une estimation intuitive basée sur l’échelle du phénomène considéré²² :

Borel procède à une estimation numérique des probabilités négligeables en distinguant 3 échelles différentes : humaine, terrestre, cosmique. Bien entendu, son but n’est pas de fournir une mesure exacte de la limite à partir de laquelle une probabilité devient négligeable, mais seulement d’en indiquer l’ordre de grandeur. À l’échelle humaine, c’est-à-dire au niveau individuel, une probabilité pourra être considérée comme négligeable si elle est inférieure à 10⁻⁶. À l’échelle terrestre, c’est-à-dire pour l’humanité entière, cette limite pourra être abaissée à 10⁻¹⁵ dans l’hypothèse où on estime cette population, comme le fait Borel, à environ 1 milliard d’individus soit 10⁹. Enfin, elle sera, dit-il, de 10⁻⁵⁰ à l’échelle cosmique.

Ramenant la probabilité (« 1 / 10 000 ») au nombre de complexions (« 10 000 »), nous obtenons donc ceci :

Nous observons une certaine similitude avec l’échelle des nombres à l’époque de Borel, avant la poussée de l’ordinateur (voir Nombre et progrès) :

Le nombre de complexions correspondant à toutes les possibilités pour un événement de se produire réellement, il n’y a aucune raison pour que ce nombre s’échappe de cette lisière googol au-delà de laquelle n’existent plus que des instances du nombre Idéal.

Raison

Émile Borel ne fut pas isolé. L’expansion mathématique a en effet connu une pause introspective au tournant du XX^ème siècle, pause qui fut d’ailleurs parallèle aux soupçons portés sur les langages en général comme fondements de vérités universelles. C’est que, pensons-nous, la puissance technique commençait à tourner à plein régime, permettant de fabriquer et de confronter de plus en plus de « produits linguistiques » (livres, presse, lettres et désormais mails, posts, blogs, sms…). Or notre tendance à « déifier » le langage rend potentiellement « vrai » tout ce qu’il permet d’affirmer. Nous posons toutefois une condition : aucune contradiction ne doit apparaître ; tout doit être cohérent. Comme toutes les innombrables productions linguistiques ne peuvent pas être d’elles-mêmes cohérentes entre elles, les dispositifs de véridiction dont elles proviennent sont questionnés et se raidissent parfois. À chacun sa manière. Un réseau social, par exemple, dont la vérité n’est régie par aucun « conseil constitutionnel » se fragmente en sous-systèmes plus ou moins étanches et cohérents (« bulles de filtres », « groupes d’amis » …). Une idéologie (totalitaire) ne peut pas admettre la fragmentation et procède autrement : les contradictions sont écrasées par la force. Au besoin, le réel lui-même est rendu conforme au langage. Enfin la mathématique, plus civilisée, est un dispositif où les incohérences sont réparées, parfois difficilement, par l’instance suprême de la raison.

Les créations cantoriennes ou les très grands nombres boréliens lui ont donné du fil à retordre. Mais, c’est dans sa nature, la raison résiste, répare, et continue à travailler nos représentations, à les concrétiser pour les rendre toujours plus efficaces. Cette efficacité est d’ailleurs à la fois la cause et la condition de son adoption universelle et du commerce pacifique entre les humains. C’est la raison qui rappelle ainsi la mathématique à un peu de cohérence avec le réel et qui conduisait Émile Borel lorsqu’il déclarait²³ :

Dans la conduite ordinaire de sa vie, tout homme néglige habituellement les probabilités dont l’ordre de grandeur est inférieur à 10⁻⁶, c’est-à-dire à un millionième, et nous constaterons même, qu’un homme qui voudrait tenir constamment compte de possibilités aussi peu probables, deviendrait rapidement un maniaque ou même un fou.

Ultrafinitisme

Ce retour au réel a trouvé le moyen de s’exprimer au sein même de la Mathématique avec le courant « intuitionniste » initié par le mathématicien néerlandais Luitzen Egbertus Jan Brouwer au début du XX^ème siècle. Sa philosophie singulière a ouvert un schisme entre les tenants du formalisme classique et les contempteurs de cette épidémie formaliste qui a rompu les amarres du réel. L’intuitionnisme veut principalement rétablir des critères de véridiction non pas internes au langage (tout ce que l’on peut exprimer correctement dans le langage est, selon le « dogme de l’uniformité modale des mathématiques »²⁴, soit vrai, soit faux), mais relatifs à la possibilité d’accéder en acte à ce qui est « vrai ». La vérité est donc subjective, et plus précisément relative à la capacité du sujet d’y accéder par construction. Pour ne donner qu’une conséquence de cette théorie au fil du rasoir, Brouwer rejetait l’idée d’un infini actuel tel que « l’ensemble ℕ de tous les entiers ». Autant cet ensemble est concevable potentiellement comme quelque chose dont on ne peut jamais achever le parcours (constamment créé), autant il n’existe pas comme objet achevé, quand bien même il aurait un nom propre. « ℕ » n’est donc pas le nom d’une chose mais, si l’on veut, le nom d’une procédure dont les conditions d’arrêt ne sont pas spécifiées, ou encore d’une intention, comme le nombre googolplex dont l’écriture ne s’arrête que lorsqu’on en a « marre », selon l’appréciation et l’endurance de chacun.

Une version extrême de l’intuitionnisme, appelée « ultrafinitisme », pose radicalement la question de l’existence-même des grands nombres et donc de la nécessité, pour la mathématique de les prendre en charge. L’ultrafinitisme fut travaillé au début des années 1960 par le mathématicien et dissident russe Alexander Esenin-Volpin. Celui-ci rejette non seulement l’existence d’ensembles infinis mais également d’entiers « très grands », quoiqu’aussi « petits » que googol, par exemple. Ce n’est probablement pas un hasard si l’ultrafinitisme fut inventé par un homme épris de liberté et de justice dans un régime totalitaire, car au bout du compte l’intuitionnisme, l’ultrafinitisme et, plus généralement toutes les approches constructivistes demandent au réel de valider ce que d’autres prétendent, en servant seulement du langage, être la vérité. D’une certaine manière, ces approches répondent à cette posture « morale » entrevue avec Borel²⁵ :

[ Esenin-Volpin ] pensait que la libération devait passer par la véracité et la précision du langage, idéalement compris comme une formalisation inspirée par les mathématiques du langage des domaines les plus proches de la vie pratique et sociale : l’éthique et la jurisprudence. Sans un langage transparent et sans ambiguïté, nous ne serons pas en mesure, pensait-il, de faire confiance à nos pensées.

L’ultrafinitisme rejette autant l’infini actuel que l’infini potentiel (mirages « totalitaires » ?) et conteste même l’existence de nombres trop grands pour émerger jamais de l’univers sensible. Il prône le retour de la mathématique à une sorte d’ « état naturel » et du nombre aux numérosités concrètes. Voyons à sujet cette jolie anecdote racontée par le mathématicien Harvey Friedman et relatée dans l’article précité. Nous la reproduisons in extenso (ajout entre crochets)²⁶ :

J’ai vu certains ultrafinitistes aller jusqu’à remettre en cause l’existence de 2¹⁰⁰ en tant que nombre naturel, dans le sens où il existerait une série de « points » de cette longueur. Il y a une objection évidente à cela en demandant où se situe [ précisément ] la limite dans 2¹, 2², 2³… 2¹⁰⁰ et où cesse le « réel platoniste » ? La question est tout à fait innocente, car nous aurions ou facilement remplacer cette liste par 100 choses (des noms) séparés par des virgules. J’ai justement soulevé cette objection avec l’ultrafiniste (extrême) Yessenin-Volpin lors de l’une de ses conférences. Il m’a demandé d’être plus précis. J’ai alors commencé par 2¹ et je lui ai demandé si cela était « réel » ou quelque chose de ce genre. Il a presque immédiatement répondu par l’affirmative. J’ai ensuite posé la même question pour 2² et il a de nouveau répondu oui, mais avec un délai perceptible. Puis 2³ et à nouveau oui mais avec encore plus de délai. Nous avons continué encore un peu jusqu’à ce que sa façon de répondre à l’objection devienne évidente. Bien sûr, il était prêt à toujours répondre oui, mais il allait prendre 2¹⁰⁰ plus de temps pour répondre oui à 2¹⁰⁰ que pour répondre à 2¹. On ne peut pas aller bien loin avec ça.

Belle illustration de constructivisme radical ! Certes, Harvey Friedman a de bonnes raisons de juger cette attitude exagérée et, surtout, mathématiquement stérile. Mais pratiquement et éthiquement, ce questionnement ultrafinitiste nous semble absolument valable : pourquoi en effet accepter sans discuter l’existence a priori d’instances finies du Nombre comme 2¹⁰⁰ ou googol ? La seule observation qu’une machine répondrait bien plus vite qu’Esenin-Volpin au « défi » de Harvey Friedman montre qu’il faut impérativement garder un œil sur ce genre de question.

Etc.

J’ai cherché (sans trop me la préciser) la liaison des définitions – postulats – des math[ématiques] avec la sensibilité (spéciale) et la motricité – c’est-à-dire avec les constituants des actes. – Ce qui est naturel – puisque les math[ématiques] ne sont, en dernière analyse, qu’une prescription d’actes aboutissants à un nombre ou à un tracement, par voie de Je puis successifs.

Paul Valéry²⁷

Archytas de Tarente énonce le premier un paradoxe visant à démontrer l’absurdité de l’existence d’un bord matériel du monde, un peu à la manière de Friedman qui voulait montrer à Esenin-Volpin l’absurdité qu’un élément particulier de sa liste soit le dernier à exister²⁸ :

Si je me trouvais à la limite du ciel, autrement dit sur la sphère des fixes, pourrais-je tendre au-dehors la main ou un bâton, oui ou non ? Certes, il est absurde que je ne puisse pas le faire ; mais si j’y parviens, cela implique l’existence d’un dehors, corps ou lieu.

L’étrange particularité de ces arguments est d’utiliser la position matérielle, psychologique ou imaginaire du sujet (« je ») comme lieu le à partir duquel il est toujours possible d’extrapoler (Corps et jeux de langage), puis de retourner ce raisonnement solipsiste pour en conclure quelque chose au sujet d’un univers a priori, sans « je ». Quel problème surgirait-il donc si nous posions que l’Univers ne peut pas accueillir « je » partout²⁹ ? Eh bien, nous devrions suivre l’aphorisme de Ludwig Wittgenstein et garder le silence puisque parler n’est possible que depuis « je »³⁰. Mais il n’est pas si simple de nous taire réellement c’est-à-dire, non pas seulement de nous interdire l’emploi de certains mots ou de certains nombres, mais mieux encore : de forger un langage qui ne les produise jamais.

Prenons Googolplex. C’est un mot disponible mais sans « je » pour atteindre réellement quoique ce soit qui puisse lui correspondre. Alors, comment garder un « silence mathématique » sur googolplex et sur tous les autres nombres au-delà de googol ? C’est ce que tentent ces mathématiciens ultrafinitistes mais n’est-il pas, d’une certaine manière, déjà trop tard ?

3- Impossible retour

Constitution

Une Constitution est une loi fondamentale qui « légitime toutes les normes inférieures ». Elle doit selon nous, comme tout langage, en particulier mathématique, obéir à quatre commandements : cohérence, esthétique, véracité et efficacité. Les deux premiers sont d’ordre interne (l’Idéel), les deux autres régissent le rapport du jeu constitutionnel au réel (le Sensible). Passons-les en revue en identifiant chaque fois où échoue l’ultrafinitisme.

La cohérence est un impératif absolu et « la constitution [ doit jouir ] d’une unité intrinsèque, et chacun de ses éléments revêt une signification liée à celle des autres dispositions »³¹. Or l’existence d’un plus grand nombre, disons googol, est à première vue incohérente. En effet, si googol est un nombre, un article de la Constitution mathématique dit alors que l’on peut « faire » le nombre « googol + 1 ». Mais puisque googol est le plus grand nombre, on doit donc avoir « googol + 1 = googol » et donc par soustraction « 1 = 0 », ce qu’un autre article de la Constitution interdit. L’ultrafinitisme doit ainsi rédiger des articles mathématiques cohérents entre eux et avec l’existence d’ « un » plus grand nombre. Certains ultrafinitistes comme le mathématicien russe Vladimir Sazonov posent par exemple que « ce qui est sûr, c’est le « fait » que 2¹⁰⁰⁰ (et même 2¹⁰⁰) n’est pas réalisable »³². Mais à notre avis ce projet doit échouer pour une raison essentielle : au-delà de l’immense difficulté de la tâche, « ce » plus grand nombre n’a aucune raison logique d’émerger de la mathématique de façon purement interne. C’est comme si la Constitution devait poser une limite, par exemple au nombre de citoyens, et assurer sa cohérence interne avec cette quantité venant d’ailleurs.

L’esthétique est également un impératif absolu car elle détermine la forme sensible de l’Idée en vue de la rendre perceptible par l’intuition. La forme constitutionnelle doit évidemment être simple, claire et tout simplement intelligible. Il en va aussi bien de son acceptation que de son application concrète. C’est pourquoi le constitutionnaliste a un devoir esthétique, et le mathématicien pour les mêmes raisons. Celui-ci cherchera ainsi des formes économiques et symétriques ; il chassera les hypertélies, gommera les aspérités et les exceptions… Or le « fait » de Sazonov d’un plus grand nombre n’a rien d’esthétique : il introduit une exception, dé-symétrise la succession intemporelle des nombres. Au contraire, l’infini esthétise en simplifiant et en harmonisant tout l’édifice mathématique, et le gratifie même d’une certaine beauté. En revanche, il faut reconnaître qu’une machine puissante pourrait très bien s’accommoder à une grande complexité et à la laideur d’une Constitution mathématique tarabiscotée.

Troisièmement une Constitution doit être légitime et donc établir un rapport étroit à la « vérité ». Rappelons que le constitutionnalisme ne va pas de soi : c’est un mouvement récent, apparu en Europe sous les Lumières dans le but de limiter l’arbitraire et le despotisme des monarques. La « vérité » dont la Constitution doit rendre compte est celle du peuple et non plus celle d’un pouvoir absolu, qui n’a guère besoin de textes ni de langage mais seulement de la force pour imposer sa vérité. C’est probablement ce fond idéologique à quoi pensait Esenin-Volpin quand il évoquait la « véracité » du langage. La mathématique « traditionnelle » offre certes un déjà cadre véridictoire exceptionnel mais l’essor des ordinateurs (machines mathématiques finies par nature) et la conscience collective désormais établie (et angoissée) de la finitude de notre milieu travaillent en profondeur jusqu’aux critères de la vérité mathématique : le monde sensible est-il en définitive représentable par un langage infinitaire ? Disons-le simplement : ce n’est pas ce genre de vérité pratique que la mathématique cherche à atteindre. C’est pourquoi, d’une certaine manière, l’ultrafiniste est un idéologue, un praxéologue, voire un constitutionnaliste. Mais est-il encore un mathématicien ?

Enfin, une Constitution se doit d’être efficace en tant qu’elle s’applique à résoudre les problèmes afférents au système politique qu’elle soutient³³. La mathématique n’échappe pas à cette exigence si par « système politique » on entend « façon d’envisager l’univers ». La « déraisonnable efficacité » wignerienne de la mathématique s’entend donc pour un « système politique » déterminé par la science, le naturalisme et le corollaire technique visant la conquête des choses de la nature. Notre façon d’envisager l’univers doit donc reposer sur une constitution infinitaire qui ne fixe aucune limite à cette conquête. L’ultrafinitisme soutient, consciemment ou pas, un autre « système politique » de déconstruction du progrès que personne ne souhaite et dont le temps ne viendra peut-être jamais. Un peu à la façon de la blockchain, l’ultrafinitisme est confronté à un problème d’ « amorçage » par le milieu dont il serait l’outil efficace (Dimensions politiques de la blockchain).

Ces quelques arguments méritent d’être étoffés mais l’exploration des nombres nous mène en tout cas à ceci : la mathématique, comme tout langage, est, par nature, infinitaire. Il reste, pour finir, un dernier argument.

Désir

Quand il y a de moins en moins d’espace entre l’infini et nous, entre le soleil libertaire et le soleil procureur, nous sommes sur le banc de la nuit.

René Char, Tables de longévité

La mathématique dépasse de « vraiment beaucoup », sans recours finitiste, notre petit cantonnement entre zéro et googol :

Nous partageons toujours, en fin de compte, la même appréciation des numérosités que les indiens Mundurukú ou wari’ : au-delà d’un certain seuil, certes considérablement plus élevé pour nous qui sommes équipés de prothèses technologiques, flotte un brouillard de nombres innommables et collectivement envisagés sous le signifiant « beaucoup » (l’indéterminé « murios » grec signifie à peu près la même chose³⁴). Ce brouillard n’est « structuré » que par les mathématiciens et pour leur propre compte.

Ceci étant rappelé, nous pouvons maintenant mieux qualifier ce que nous avons qualifié de « changement de phase » dans Nombres et progrès entre les nombres « terrestres » et les nombres de la mathématique : les nombres terrestres mesurent ce que nous possédons et les nombres de la mathématique ce que nous désirons. C’est pourquoi les premiers accompagnent le « progrès » et les seconds témoignent d’une impossible modération.

Jean-Pierre Cléro, évoquant le travail de Jacques Lacan, formule une possibilité quant à l’office des signifiants mathématiques (dont les nombres)³⁵ :

Les signifiants du désir ne sont pas une expression au sens strict. Ils en sont la structure, le mode de fonctionnement. Les mathématiques offrent le meilleur exemple de ce type de discours qui progresse sans penser, si ce n’est de façon symbolique. Ce sont les mathématiques qui disent le mieux le désir dans sa réalité ultime.

Il reste à comprendre si cette remarque n’est qu’une lubie psychanalytique, voire poétique, ou si elle n’ouvre pas l’un des chemins de la « preuve » de la singularité humaine par Homo Mathematicus (Ecce Homo Mathematicus).

Version pdf : La preuve par googol (2) Nombres et mathématique

1. ↑ Gottfried Wilhelm Leibniz – 1714 – Principes de la nature et de la grâce fondés en raison
2. ↑ Bernard Mathieu / Bulletin de l’Association Guillaume Budé, Année 1987, 3, pp. 239-255 – 1987 – Archytas de Tarente, pythagoricien et ami de Platon
3. ↑ Ibid. 2, p. 243
4. ↑ Wikipédia – Pythagore
5. ↑ Traduction pleine d’ambiguïté de « τὰ ὄντα πάντα ἀριθμοὺς », mots d’un commentateur anonyme de la vie de Pythagore (Bibliothèque de Photius)
6. ↑ Aristote – Métaphysique, Livre I
7. ↑ Soit dit en passant, ces acousmaticiens sont exactement dans la position de Searle dans l’expérience de la « chambre chinoise » relatée dans GPT-3, LaMDA, Wu Dao… L’éclosion des IA « monstres ». Dans Mundus Numericus, la plupart d’entre nous atteignons, au mieux, le grade d’acousmaticien…
8. ↑ Morris Kline – 1953 – Mathematics in Western Culture (p. 287)
9. ↑ (en anglais) Wikipedia – Quadrivium
10. ↑ Galilée – 1623 – L’Essayeur
11. ↑ Eugene Wigner / Communications on Pure and Applied Mathematics, vol. 13, no 1,‎ 1960, p. 1–14. – 1960 – The unreasonable effectiveness of mathematics in the natural sciences
12. ↑ Il faudrait bien entendu préciser les conditions d’écriture (durée, nombre de caractères autorisés, dimensions du papier…) et les caractéristiques de l’écrivain (humain, machine…).
13. ↑ Hans Blumenberg / trad. fr. Denis Trierweiler – 1979 – Arbeit am Mythos
14. ↑ Georg Cantor (1845-1918) est un mathématicien allemand très important dans l’histoire des idées, notamment en mathématique. Il faudrait examiner le « corps de Cantor » dans une prochaine exploration, mais pour le moment nous posons cette simple remarque pour plus tard. La « théorie des ensembles » dont il est l’instigateur pose en gros que « tout est Ensemble » ou plutôt que nous pouvons tout nous figurer comme un Ensemble. Dans cette théorie, la relation fondamentale est celle d’appartenance d’un Élément « x » à un Ensemble « E », qui s’écrit « x∈E ». On note l’étrange similitude avec ce que nous disons du nombre comme outil d’appropriation. L’ensemble et le nombre sont deux figures historiquement distinctes de la « propriété ». Nulle surprise que l’ensemble ait fini par subsumer le nombre.
15. ↑ Thierry Berkover – 1er octobre 2006 – Digressions sur « Le drame subjectif de Cantor »
16. ↑ Wikipédia – Hybris
17. ↑ Ernest Coumet / Annales. Économies, sociétés, civilisations. 25ᵉ année, N.
3, 1970. pp. 574-598 – 1970 – La théorie du hasard est-elle née par hasard ?
18. ↑ Aujourd’hui, tous les dispositifs autonomes ou semi-autonomes du système technicien, notamment « intelligents », fonctionnant en milieu ouvert ont affaire au hasard et dépendent donc dans leur conception et leur fonctionnement de ces mathématiques du hasard.
19. ↑ Alain Bernard / Cahiers philosophiques 2018/4 (N° 155), pages 81 à 95 – 2018 – Émile Borel (1908) : le calcul des probabilités et la mentalité individualiste
20. ↑ C’est également ce que réalise un réseau neuromimétique.
21. ↑ Il s’agit d’une version plus forte de ce que certains ont appelé le « principe de Cournot », du nom de ce mathématicien français du XIX^ème siècle qui énonça en effet que « L’événement physiquement impossible est celui dont la probabilité mathématique est infiniment petite ». Cournot s’est appuyé pour cela sur un exemple saisissant : il est impossible de tracer physiquement le centre d’un cercle, puisque ce centre correspond à un point unique parmi une infinité de points situés juste autour (que Cantor mesurerait par le nombre « ℵ₁ »). Il n’y a donc aucune chance d’y arriver puisque cet événement constitue « l’unique cas favorable d’une infinité de cas possibles » (soit « 1/ ℵ₁ » qui « vaut » zéro dans la langue mathématique). Mais Borel a considéré d’une certaine manière que le traceur avait lui-même une « épaisseur » minimale et qu’il était donc en pratique possible de recouvrir le centre exact théorique du cercle, avec une probabilité certes de plus en plus petite à mesure que le traceur s’affine. Borel ne fera cependant jamais référence, ni à Cournot, ni à cette expérience de pensée.
22. ↑ Thierry Martin / Images des mathématiques – CNRS – 14 février 2018 – Les probabilités négligeables selon Émile Borel
23. ↑ Ibid. 22 (Borel tel que cité dans l’article)
24. ↑ Ivahn Smajda / Les Études philosophiques 2008/1 (n° 84), pages 49 à 69 – 2008 – Mathématiques, réalisme et modalités
25. ↑ Jan Gronwald / cantorsparadise.com – 16 décembre 2020 – The Beautiful Consistency of Mathematics — Alexander Yessenin-Volpin
26. ↑ Ibid. 25
27. ↑ Cité par Norbert Schappacher – 2016 – Paul Valéry et la potentialité des mathématiques
28. ↑ Cité ici : Wikipédia – Archytas de Tarente
29. ↑ Précisons que le « je « dont nous parlons est le « je » étendu par la technique et disposant, par exemple, d’un dispositif photographique (Le « progrès » révélé par la Photographie (avec Henri Van Lier)).
30. ↑ Ludwig Wittgenstein / Gallimard – 1921 – Tractatus logico-philosophicus – Aphorisme 7 : « Sur ce dont on ne peut parler, il faut garder le silence ».
31. ↑ Olivier Pluen / Actu-juridique.fr – 9 juillet 2018 – La cohérence de l’écriture constitutionnelle
32. ↑ Vladimir Sazonov (échange de mails) – 1998 – FOM: ultrafinitism; objective vs. subjective – La notion de « réalisable » (« feasible »), renvoie à l’idée générale d’un nombre que l’on peut concrètement atteindre.
33. ↑ Voir par exemple Alain Marciano / Revue interdisciplinaire d’études juridiques 2017/1 (Volume 78), pages 59 à 65 – 2017 – Constitution, économie et efficacité
34. ↑ Excellente lecture complémentaire (en anglais) : Mirco A. Mannucci, Rose M. Cherubin – 1er février 2008 – Model Theory of Ultrafinitism I: Fuzzy Initial Segments of Arithmetic (Preliminary Draft)
35. ↑ Propos rapportés ici