A paraître en 2000 aux Presses Universitaires de France dans un ouvrage dirigé par D. Bourg et J.-M. Besnier sous le titre Peut-on encore croire au progrès ? (co-auteurs Dominique Bourg, Jean-Michel Besnier, Michel Lacroix, Etienne Klein, Alain Finkielkraut, Jean-Claude Beaune, Friedrich Rapp, Jean-Marc Lévy-Leblond, Claudine Cohen, Jacques Grinevald, Michel Marccocia, Paul Caro )

 

 

PROGRèS, MATHéMATIQUES ET RAISON

 

Nicolas BOULEAU

 

Les mathématiques ont servi d'argument aux philosophies du progrès. Comme si la solidité de leurs démonstrations pouvait renforcer les doctrines qui leur réservaient une bonne place, elles furent en première ligne des systèmes positivistes. Leur impressionnant développement durant le dix-neuvième siècle arrivant à point nommé pour l'essor de la physique (électromagnétisme, relativité puis mécanique quantique) renforça encore les thèses progressistes. Curieusement les troubles qu'elles connurent au début du vingtième siècle sur la question des fondements et les changements qui en résultèrent eurent peu d'influence sur le prestige qui leur était accordé. Elles restent le parangon de la pensée moderniste jusqu'à la crise d'opinion provoquée par les "maths modernes" dans les lycées et collèges.

Pourtant, dès les années d'après-guerre, certains mathématiciens s'interrogent. "Notre foi dans le progrès, notre croyance en l'avenir de notre civilisation, ne sont plus si fermes ; elles se sont vues ébranlées par des chocs trop brutaux. Il ne nous paraît plus du tout légitime, comme Poincaré n'hésitait pas à le faire, d'"extrapoler" du passé et du présent au futur. Le mathématicien, interrogé sur l'avenir de sa science, se trouve en droit de poser la question préalable: quel avenir se prépare pour l'espèce humaine ?" écrit André Weil, un des fondateurs du groupe Bourbaki. D'autres s'inquiètent de la science elle-même tel Alexandre Grothendieck qui voit les scientifiques comme les prêtres d'une nouvelle religion dominante.

Par ailleurs, l'intensification mondiale de la recherche universitaire pendant la seconde moitié du vingtième siècle aboutit au paradoxe d'une surproduction mathématique. Près de cent mille articles sont publiés chaque année, et, submergées, les revues ont du mal à faire la part entre l'apport significatif et la déduction insignifiante, entre les vues éclairantes et ce qui devrait être considéré comme exercice.

Il y a lieu de se pencher à nouveau sur la nature des mathématiques qu'on a tendance à étiqueter trop rapidement. Sont-elles une caution légitime des théories du progrès ou au contraire reçoivent-elles de celles-ci des projections doctrinaires ? La logique mathématique contemporaine apporte ici quelque lumière. A l'inverse des courants qui suivirent la période d'axiomatisation tels que le logicisme et le formalisme, elle accorde une place importante à la dimension sémantique qui réhabilite le rôle du passé dans le présent mathématique de sorte qu'on peut proposer aujourd'hui une image de la création mathématique, faite de lectures simplifiantes de situations complexes, et de travail du sens qui s'apparente à une herméneutique propre à la science des nombres et des figures.

A partir d'éléments historiques et de recherches récentes, je tenterai de brosser ici une telle image, moins industrieuse et plus artisanale, qui donne aussi un contenu plus précis et plus fort au talent de l'inventeur. Elle fera voir pourquoi le rattachement des mathématiques à certaines philosophies a souvent été abusif.

Cela nous conduira, in fine, à porter un nouveau regard sur les principes méthodologiques par lesquels Descartes fonde sa démarche de raison. En effet, induits des mathématiques comme il le souligne lui-même, ces principes reflètent une conception implicitement trop optimiste de cette science qui ignore évidemment les limitations apparues lors de la crise des fondements et n'imagine pas qu'elles puissent exister. C'est dès lors un rationalisme outrancier qui est projeté sur l'ensemble de la connaissance.

Les mathématiques prises en gage

Dans les controverses entre disciplines, il est en général avantageux de mettre les mathématiques de son côté. L'économie avec ses nombreuses publications très mathématisées se présente comme plus "dure" que la sociologie. La linguistique apparaît plus scientifique si elle utilise des structures algébriques. La question est celle du savoir objectif et de la légitimité : récemment la finance, discipline montante, a installé son pouvoir vis à vis des politiques économiques largement grâce aux mathématiques. Cette façon de faire n'est pas nouvelle, tout au long de l'histoire les mathématiques ont servi d'argument aux penseurs, depuis Eléates jusqu'à Bertrand Russell, pour appuyer leurs vues contre des conceptions antérieures, construisant finalement, par renvois successifs, une vision des mathématiques tenace et difficile à modifier aujourd'hui.

Souvent, les philosophes ne font qu'y puiser des exemples pour illustrer leurs thèses. Ainsi Platon explique sa théorie des Idées par ce texte célèbre de La République où il rappelle que les géomètres construisent des raisonnements sans avoir à l'esprit les figures qu'ils tracent " mais les figures parfaites dont celles-ci sont les images". Cette analogie eut une influence considérable sur la façon de penser les mathématiques. Les notions mathématiques furent assimilées aux Idées platoniciennes ce qui, quoiqu'erroné du point de vue de la pensée de Platon, est encore une conception fortement ancrée aujourd'hui. Le cas de Pascal utilisant la toute jeune théorie des probabilités pour convaincre que la foi est une attitude raisonnable constitue un pas de plus. En s'appuyant sur une découverte récente pour construire l'argument du pari, celle d'espérance mathématique dans les jeux de hasard, Pascal laisse entendre que le progrès des mathématiques peut modifier la force des raisonnements philosophiques. C'est aussi le bénéfice que tente de recueillir Hegel lorsqu'il utilise les avancées du calcul différentiel dégagé au dix-septième siècle : "La dialectique dont nous venons de parler est la même que celle dont l'entendement se sert vis à vis du concept de grandeur infiniment petite qui découle de l'analyse supérieure [...] Les grandeurs en question ont été définies comme étant en voie de disparition, et non avant leur disparition car alors elles seraient des grandeurs finies ni après leur disparition, car alors elles seraient nulles [...] Les mathématiques sont redevables de leurs plus beaux succès à cette détermination qui répugne à l'entendement". Notons aussi qu'Auguste Comte, pour prendre acte du progrès des mathématiques, consacrera de nombreuses pages, fort intéressantes d'ailleurs, au calcul différentiel, dont il compare trois présentations différentes, celle de Leibniz, fondée sur les infiniment petits, celles de Newton utilisant la notion de limite et celle, plus algébrique, de Lagrange qui a sa préférence.

Cependant les mathématiques ont joué un rôle encore plus important comme méthode de pensée pour la philosophie. Celle-ci y trouve le socle d'un discours non religieux. Dans les démêlées de Galilée avec l'Église, ainsi que l'observe G. di Santillana, "ce n'est pas à ses découvertes qu'on en a, c'est à sa manière de raisonner qui confond les choses de la Terre et celles des cieux en une réalité unique, où domine la seule hiérarchie des concepts mathématiques". Cet appel aux mathématiques est explicite chez Descartes dans ses Règles pour la direction de l'esprit qui ne craint pas de dire que sa méthode n'a pas été inventée pour résoudre des problèmes mathématiques mais plutôt qu'il ne faut guère apprendre les mathématiques que pour cultiver sa méthode. Chez Leibniz elles participent à la construction du système philosophique et Spinoza va jusqu'à leur emprunter la forme axiomatique. Le goût des théorèmes et des corollaires avait pris une telle ampleur à partir du dix-septième siècle qu'on le retrouve aussi bien dans les livres d'astrologie ou de médecine que dans les traités de musique au point que d'Alembert se voit contraint d'en signaler l'abus dans ses Éléments de philosophie "On a mis jusqu'à des figures de géométrie dans les traités de l'âme : on a réduit en théorèmes l'énigme inexplicable de l'action de Dieu sur les créatures [...] Aussi il ne faut que jeter les yeux sur ces propositions si orgueilleusement qualifiées [de démonstration] pour découvrir la grossièreté du prestige, pour démasquer le Sophiste travesti en Géomètre, et pour se convaincre que les titres sont une marque aussi équivoque du mérite des ouvrages, que du mérite des hommes". Au demeurant les encyclopédistes trouvent dans la logique un appui pour leur travail d'émancipation. "Ne va point faire descendre d'un Dieu, que tu ne connaîtras jamais, qui se contredit lui-même, et que les hommes pervers font en tout pays parler suivant leurs intérêts, les règles de ton devoir qui sont claires et précises et que la nature te montre évidemment" écrit d'Holbach dans son Système de la nature (1871) et il conclut "Ecoutez donc la nature, elle ne se contredit jamais". Phrase où l'on distingue déjà les soubassements du positivisme.

Pour d'Alembert et Condorcet, les mathématiques sont véritablement cause du progrès. D'Alembert a une conception graduelle des mathématiques, il va plus loin que Bacon pour en souligner l'importance dans les applications aux sciences de la nature. Quant à Condorcet, introduisant le singulier, la mathématique, il pousse le calcul des probabilités jusqu'à "l'art social" préfigurant à la fois la statistique et l'économétrie en une sorte de sociologie stochastique, qui "promet des progrès d'autant plus importants, qu'elle est à la fois le seul moyen de donner [aux résultats] une précision presque mathématique et d'en apprécier le degré de certitude ou de vraisemblance". L'idée que les mathématiques sont à la fois un modèle et un outil pour le progrès des autres sciences, présente dans le Discours préliminaire deviendra un thème majeur du Cours de philosophie positive de Comte "la science mathématique [...] étant, depuis Descartes et Newton, la vraie base fondamentale" de toute philosophie naturelle et "constituant l'instrument le plus puissant que l'esprit humain puisse employer dans la recherche des lois des phénomènes naturels". Ce mouvement de pensée se trouve accompagné par la découverte, à la même époque, de deux facteurs qui développèrent un puissant effet rationalisateur sur l'organisation des productions durant tout le dix-neuvième siècle et au-delà.

Il s'agit en premier lieu de l'expression mathématique du travail d'une force qui permet à Navier de comparer la puissance des machines et conduira à la notion d'énergie et en second lieu des débuts de la mathématisation de l'économie avec les travaux de Jules Dupuit sur les péages et l'apparition des raisonnements quantitatifs d'offre et de demande.

Dans tout cet élan vers la modernité qui s'appuie sur elle et l'entraîne, que dit la mathématique ? Elle ne parle pas par elle-même. La mathématique est-elle la grande muette du progrès ? Si l'on veut affiner cette question force est de se tourner vers son évolution, ses propres préoccupations et ses crises. A cet égard son histoire fait ressortir nettement une période qui débute aux premières années du dix-neuvième siècle avec Gauss et Cauchy où elle acquiert des exigences de rigueur quasi-définitive et qui s'achève avec Bourbaki qu'on peut appeler la période du modernisme en mathématiques et que nous tenterons de mieux caractériser plus loin. Mais d'abord il est intéressant d'évoquer comment était pratiquée cette science antérieurement.

L'époque des philosophes mathématiciens et des mathématiciens philosophes

Lorsque Henri Poincaré écrit "en mathématiques la rigueur n'est pas tout [...] si on la prenait trop à la lettre, on serait amené à conclure qu'avant 1820, par exemple, il n'y avait pas de mathématiques ; ce qui serait manifestement excessif" il fait référence à cette rupture de style qui nous sépare autant du dix-huitième siècle que de l'antiquité.

Cette longue période prémoderne se caractérise tout d'abord par le rôle considérable joué par les amateurs. Capable d'apprécier les travaux de ses contemporains, d'en discuter, de comparer les méthodes, l'amateur pratique lui-même la géométrie, l'algèbre ou l'analyse. Elles deviennent grâce à lui des objets culturels. Auteurs parfois de contributions importantes les grands amateurs ont en général donné leur pleine mesure ailleurs, en philosophie comme Platon, Descartes, Pascal et Leibniz ou dans les arts comme Vinci et Dürer précurseur de la géométrie descriptive. John Neper, inventeur des logarithmes était baron et homme politique, il s'intéressait à la comptabilité pour gérer son domaine. Le naturaliste Buffon, qu'on peut aussi classer parmi les hommes de lettres tant sa plume est talentueuse, était un praticien éminent des probabilités. Savant ou amateur, la césure n'a jamais été nette et n'a aucune raison de l'être. Le marquis de l'Hospital développe le calcul différentiel tout en reconnaissant la primauté de Jean Bernoulli. Les amateurs communiquent avec les savants et le reste de la société. L'abbé Mersenne dialogue avec Descartes, Fermat, Pascal, Huygens et traduit Galilée en ajoutant ses commentaires. Cette situation semble tout-à-fait naturelle et c'est plutôt à notre époque de s'interroger sur le fossé qui s'est creusé entre la vie culturelle et les professionnels.

La question de la rigueur est insuffisante pour définir cette période, car on y trouve certes des déductions abusives par des développements en série douteux, mais aussi des textes splendides, comme ceux d'Euclide ou comme les approximations d'Archimède pour le calcul des volumes qui sont d'une perfection irréprochable. Il s'agit plutôt d'un esprit différent de la pratique mathématique qu'on peut se représenter comme des promenades sans carte, utilisant tous les signifiants disponibles comme points de repère et sans garantie de ne pas s'égarer dans les brumes de la métaphysique ou dans les parties mal assurées de la physique.

Alors qu'aujourd'hui l'invention conceptuelle se fait dans la sécurité du symbolisme ensembliste, l'audace d'idées comme celle des nombres imaginaires ou celle des infiniment petits vient de ce qu'elles prennent des libertés par rapport aux formalismes anciens sans aucune garantie de cohérence.

C'est plutôt au contraire la parfaite rigueur de certains textes, comme la preuve antique de l'irrationalité de racine de 2, ou la quadrature de la section de parabole par Archimède qui constitue un vrai questionnement épistémologique. L'actualité saisissante de ces raisonnements, malgré l'absence de langue symbolique, marque les mathématiques d'une spécificité frappante. Alors que la physique d'Aristote est contredite par les principes mécaniques que Lagrange et d'Alembert élaborent pour englober la gravitation newtonienne, les mathématiques accueillent aujourd'hui en leur sein aussi bien le traité des coniques d'Apollonius que la géométrie analytique de Descartes ou les formules de Leibniz et d'Euler.

Le modernisme en mathématiques

Après la révolution française cependant, mathématiques et philosophie vont diverger.

En France, l'importance donnée aux mathématiques dans la formation de l'élite sous la Convention puis sous l'Empire joue un rôle déterminant, mais le phénomène est européen. A partir de cette époque, le développement des mathématiques se présente comme un jaillissement tumultueux d'une fécondité extraordinaire, en particulier pour la physique, mêlé de controverses vives et passionnées (géométries non euclidiennes, nombres transfinis de Cantor) et de deux crises à propos des fondements : celle du paradoxe de Russell au début du vingtième siècle écartant la possibilité d'une base philosophique simple aux mathématiques puis celle de l'échec du programme de Hilbert dans les années 1930 imposant, avec les résultats de Gödel, Church et Turing, de penser la stabilité de l'édifice de façon définitivement risquée. Après quoi débute le vaste projet de Bourbaki dont le retentissement fut à la mesure du talent exceptionnel des membres de ce groupe. Cette période mouvementée engendre une succession fort intéressante de courants philosophiques propre aux mathématiques dont les plus connus sont le logicisme (Russell), l'intuitionnisme (Brouwer) et le structuralisme (Lautman, Bourbaki).

Mais pendant ce temps la grande philosophie s'est emparée de problèmes plus importants. Elle parle d'histoire, du bien des hommes, en ce lieu où était la religion précédemment. Elle s'intéresse aux forces et aux pouvoirs qui orientent l'avenir des peuples. Elle n'a que faire des mathématiques pour cela, surtout si difficiles et si techniques. D'ailleurs les philosophes ne connaissent plus aussi bien les mathématiques et s'en forgent une idée à travers ce qu'en ont dit les prédécesseurs qu'ils critiquent. Ainsi par exemple Schopenhauer, imbibé de Kant, tournera en dérision le comportement des mathématiciens qui s'interrogent sur l'axiome des parallèles d'Euclide, parfaitement évident à son avis, sans voir que leur volonté de contestation de l'ordre euclidien conduisait à des représentations nouvelles et que leur souci relevait assez typiquement de sa propre philosophie.

Ou encore, autre exemple, Husserl, qui avait été dans sa jeunesse l'assistant du grand mathématicien Weierstrass, se tournant à nouveau vers les mathématiques à la fin de sa vie prône pour celles-ci, comme l'ont souligné Jean Cavaillès et Jacques Derrida, des fondements nomologiques, c'est-à-dire sans équivoque alors que vingt ans auparavant déjà les logiciens avaient montré que seules des théories sans intérêt mathématique pouvaient avoir de telles propriétés. En vérité la raison en est que les mathématiques se sont professionnalisées et sont devenues ésotériques.

Pourquoi cette période peut-elle être placée sous le signe du modernisme ? D'abord parce qu'elle montre à plusieurs reprises l'espoir de rendre le corpus mathématique aussi parfait que possible, dans le but souvent explicite de constituer un outil plus solide pour les autres sciences. Ensuite et surtout par la permanence du souci unitaire : mentionnons l'inclusion au dix-neuvième siècle de la géométrie dans l'analyse puis le traité fondateur des Principia mathematica de Whitehead et Russell, et enfin, Les éléments de mathématique (noter le singulier) de Bourbaki point culminant de la pensée structuraliste qui tend à présenter les idées mathématiques d'une façon, certes intelligente, mais unitaire et exclusive d'autres approches, en une sorte de flore cohérente, où chaque notion n'est comprise que d'une seule et bonne façon.

Moderne aussi cette période l'est vis à vis de ce qui se passe après, le dernier quart du vingtième siècle où l'informatique par son essor fulgurant, oblige les mathématiques en quelque sorte à prendre conscience d'elles-mêmes et à restaurer l'importance du travail interprétatif constituant ainsi une image plus humaine et plus proche des mathématiques anciennes que nous allons évoquer maintenant et qui conduit à d'intéressantes interrogations philosophiques.

Les mathématiques comme herméneutique

Le terme d'herméneutique — travail interprétatif pour la compréhension d'un texte ancien — se voit assigner un usage nouveau en philosophie par Hans-Georg Gadamer vers la fin des années 1960 pour désigner la mission de comprendre la science et les objets techniques qu'elle engendre. "Il est vrai que la science moderne a fait surgir un monde nouveau, en renonçant résolument à la connaissance des substances pour se borner à l'esquisse mathématique de la nature et à l'emploi méthodique de la mesure et de l'expérimentation [...]. Mais c'est seulement au cours de notre siècle qu'avec des succès accrus s'est aggravée de plus en plus la tension entre notre conscience scientifique du progrès et notre conscience sociale et politique". Cette compréhension consiste à rétablir les liens entre "l'énoncé des sciences qui est figé dans des signes" et notre être issu de l'histoire vécue.

Cette préoccupation s'apparente en l'élargissant à la démarche de Brunschvicg à propos des mathématiques: "Le rôle de la philosophie mathématique n'est nullement, selon nous, de prolonger la forme déductive du raisonnement au-delà des limites où s'arrête la science positive [...] il faut au contraire atteindre la source où se manifesterait le contact originel de l'intelligence avec les choses et pour cela remonter le cours de l'histoire jusqu'au point où l'on pourra mettre à nu les racines de la vérité arithmétique ou géométrique".

Ce souci se renforce parallèlement aux développements de la linguistique et à l'apparition du structuralisme dans les sciences humaines comme une interrogation sur le sens des entités mathématiques. "La question qui se pose est de savoir si on peut utiliser sans jeu de mots les notions de structure, ou du moins si c'est de la même structure qu'on parle en mathématiques et dans les sciences humaines" . Aussi bien si l'on suit la définition de Foucault "appelons herméneutique l'ensemble des connaissances [...] qui permettent de faire parler les signes et de découvrir leur sens" est-il naturel de se demander ce qu'il en est de cette dimension interprétative en mathématiques. La signification des êtres mathématiques est-elle absolue, universelle et éternelle à l'instar des Idées de Platon, les limitations des systèmes symboliques venant simplement de leur maladresse à décrire ces idéalités ? Ou bien, tout au contraire, les mathématiques sont-elles faites de situations où signes et significations sont toujours déjà présentes et engendrent une combinatoire, complexe, incomprise, qui est une provocation à des interprétations nouvelles ?

Quoique le premier point de vue ait reçu les faveurs du plus grand nombre de commentateurs depuis l'antiquité et soit encore largement partagé aujourd'hui, c'est pourtant l'autre, qui voit la création mathématique non comme dévoilement mais comme démarche créative sur laquelle nous nous proposons d'insister ici, d'abord parce qu'elle s'accorde mieux aux polysémies que nous rencontrons, de fait, en mathématiques et que la logique nous impose par la théorie des modèles, mais surtout parce qu'elle approche mieux la spécificité des contenus mathématiques. Ceux-ci sont faits d'idées, mais pas n'importe quel type d'idée, l'histoire ne retient que celles qui ont la qualité d'être simplificatrices. Voyons cela plus au détail.

Le mathématicien en quête de compréhension se trouve dans une situation de déchiffrement. Comme Champollion devant les hiéroglyphes ou Michael Ventris devant les tablettes des palais minoens couvertes de ces caractères étranges qu'Evans avait appelés linéaire B. D'ailleurs la démarche des déchiffreurs présente une forte analogie avec les mathématiques, on n'est jamais dans une situation d'insignifiance absolue. Champollion avait les cartouches qui signalaient les noms des rois et la pierre de Rosette, Ventris disposait du dessin des objets inventoriés par chaque tablette. La connaissance des civilisations concernées leur fournissait des indications et des pistes. Lorsque Ventris, après de multiples hypothèses, ayant construit une grille par une succession de remarques habiles, où les caractères syllabiques sont classés selon les similarités de leurs consonnes et de leurs voyelles, celles-ci restant encore au demeurant inconnues, il se produit brutalement une succession de coïncidences en cascade lorsqu'il vient à amorcer les valeurs par des mots grecs. Le code avait craqué. En mathématiques également la situation se présente avec des signifiants issus de travaux antérieurs et l'on recherche des idées pour obtenir un tel craquement. Seulement ici, le grec aussi, il faut l'inventer. Seuls les platonistes croient que les idées sont écrites quelque part de toute éternité, émerveillés et éblouis qu'ils sont par la lumière qu'elles peuvent apporter.

La logique mathématique s'est emparée de cette question du déchiffrement. Après les grandes découvertes du début du vingtième siècle, les logiciens ont poursuivi leurs investigations en s'intéressant à l'ordinateur dont ils s'estiment, avec quelque raison, les inventeurs, si l'on pense aux travaux de Turing, de Von Neumann et d'autres. Dès les années 1930 ils avaient cerné précisément les notions d'algorithme et d'effectivité fournissant déjà une distinction claire entre l'activité mathématique et celle de la machine. Poussant plus loin la comparaison entre une démonstration et un programme d'ordinateur ils sont arrivés à des résultats significatifs qui permettent de proposer une image très parlante de l'activité des mathématiciens.

On sait que la plupart des langages de programmation utilisés en informatique, comme le Pascal par exemple, sont dits "de haut niveau" parce qu'ils doivent subir une opération appelée "compilation" avant d'être exécutables. L'utilisateur écrit un programme, le programme-source, en Pascal, travail qui reste assez proche de la pensée mathématique qu'il met en application. Puis ce programme est compilé, opération qui s'apparente au codage d'un message, et qui fournit le programme-code exécutable par la machine, composé de zéros et de uns et incompréhensible pour quiconque n'est pas spécialiste du compilateur. Ainsi le programme-source écrit en langage haut-niveau est compréhensible, et le compilateur le transforme en un programme-code exécutable mais incompréhensible.

L'image proposée du travail du mathématicien est alors la suivante : il a pour tâche, à partir d'un programme-code, de reconstituer un programme-source. Autrement dit, en observant ce que fait la machine avec ce code incompréhensible, tenter de reconstituer des procédures et des instructions qui restent en relation de rigueur avec le code et soient intelligibles. Il s'agit bien d'un décryptage mais d'un décryptage interprétatif et créatif.

Ce n'est pas une philosophie des mathématiques, il ne s'agit que d'une image. Au demeurant, à mes yeux, elle est très intéressante. J'y vois d'abord un argument nouveau contre le déterminisme de la connaissance, car elle montre que le travail peut se faire de diverses façons suivant le talent imaginatif du chercheur. Ensuite, partant du fait que la situation mathématique à décrypter est déjà partiellement interprétée, elle réhabilite le rôle du passé. Or les mathématiciens savent bien, malgré les tentatives des logicistes et des formalistes pour le dissimuler, que les notions apparaissent toujours reliées à des problématiques historiques.

En effet, comment procède le travail mathématique ? Dans la plupart des situations qu'on appelle concrètes parce que les signifiants en sont déjà posés, la difficulté vient de ce qu'on se trouve devant l'inextricable. Que les notions viennent de la physique, des sciences de l'automatique, de l'économie, de problèmes d'ordonnancement, ou de modélisation de l'environnement, des symbolisations ayant été effectuées à partir des représentations fournies par les disciplines concernées et issues de leur histoire propre, on débouche non pas sur une vision claire mais sur un enchevêtrement de signes et de relations. Faites de bribes de compréhension, de déductions naturelles qui s'entrelacent et se répercutent les unes sur les autres, cette complexité est une désolation, le constat de notre impuissance à maîtriser la situation. Elle est une provocation et un appel vers la mathématique : le sens actuel ne suffit pas à faire comprendre les relations.

Le travail du mathématicien est exactement inverse de celui de l'ordinateur, il est créateur de sens et de simplicité. Tout questionnement sur des combinatoires symboliques complexes à simplifier est légitimement mathématique. Pour cela l'outil principal est sémantique : inventer des idées simplifiantes. C'est ce qu'ont fait les mathématiques au cours des siècles et c'est la raison pour laquelle elles rendent service aux autres disciplines. Les exemples sont innombrables. La plus belle idée simplifiante est sans doute celle de groupe qui émergea au cours du dix-neuvième siècle. Il s'agit bien d'une herméneutique au sens de Foucault dans le contexte passionnant de la résolution des équations algébriques, mais elle nous entraînerait ici dans trop de technicité. Évoquons plutôt comment les nombres imaginaires ont acquis droit de cité en mathématiques. Ce récit révèle bien le rôle de l'histoire et la nature des critères qu'elle retient. Cardan introduisit au seizième siècle, timidement, avec des précautions de langage, le nombre imaginaire pour écrire plus commodément les racines de l'équation du troisième degré. Il s'agissait d'un artifice proche du moyen mnémotechnique. Ses élèves Bombelli et d'autres, se risquèrent à manipuler les nombres complexes qu'on peut former avec cet être imaginaire, ils ne rencontrèrent pas de contradiction. Durant le dix-septième siècle, l'idée est connue et beaucoup pratiquée mais avec prudence, on considère qu'elle ne fournit pas de démonstrations vraiment convaincantes. Au dix-huitième siècle après les travaux de de Moivre et de Cotes puis ceux d'Euler, Lagrange, d'Alembert, l'idée a fait un chemin considérable. On s'est rendu compte qu'elle simplifiait la combinatoire des formules trigonométriques, que désormais tout polynôme de degré n avait n racines, enfin Laplace l'utilise pour établir le théorème central des probabilités. A l'orée du dix-neuvième siècle elle est pleinement légitime, Gauss, Cauchy et Fourier la considèrent comme un outil indispensable de l'analyse et réussiront à surprendre encore grâce à elle. Les nombres imaginaires existent aujourd'hui parce qu'ils simplifient ou plus exactement parce qu'ils ont simplifié. On est bien loin de l'image courante des mathématiques. C'est que certains professionnels par une production pléthorique où les idées sont dissimulées pour que les autres ne s'en servent pas, dénaturent les mathématiques sous un ésotérisme décourageant. Trop de chercheurs ne publient que le résultat de leur propre compilation, le travail mathématique restant à faire par le lecteur.

L'image du mathématicien exégète et inventeur de sens permet également de mieux comprendre une remarque du mathématicien anglais Hardy célèbre pour ses travaux profonds en analyse fonctionnelle et ses prises de position en faveur de la beauté en mathématiques : "On arrive à l'étonnante conclusion que les mathématiques pures sont dans l'ensemble nettement plus utiles que les mathématiques appliquées. Le mathématicien pur semble triompher tant sur le plan pratique que sur le plan esthétique. Car ce qui est surtout utile c'est la technique, et la technique mathématique est enseignée principalement à travers les mathématiques pures." Au-delà du goût très britannique de la provocation, ce que nous percevons ici, c'est une vision des mathématiques où le rôle des idées est reconnu dans son efficience-même pour conduire la complexité. Hardy l'a bien montré dans son œuvre, ainsi que par celle de Ramanujan, cet autodidacte indien dont il comprit le génie à la simple lecture d'une lettre mentionnant une dizaine de formules et qu'il fit venir à Cambridge.

La logique mathématique en est arrivée à raviver ainsi le rôle de l'interprétation parce qu'elle avait montré que l'exploration systématique était inopérante pour découvrir les démonstrations. C'est un des principaux résultats des années 1930 que certains théorèmes simples ne peuvent être obtenus que par des trajets démonstratifs très longs de sorte que la complexité du lien entre un théorème et sa démonstration dépasse le mécanisable. Ainsi, quoique les démonstrations correctes puissent être effectivement numérotées, leur investigation à l'aide de l'informatique ne sert à rien pour faire des mathématiques. A ces arguments théoriques s'ajoute un point de vue pratique : on ne peut avoir confiance dans les résultats obtenus par ordinateur car dès que la complexité est grande des erreurs sont fréquentes dans les logiciels. Et pour trouver ces erreurs il faut bien revenir aux idées à l'origine du programme pour voir si elles ont été convenablement appliquées. La rigueur est aussi du côté des idées. D'ailleurs, en situation de décision importante, l'ingénieur n'est à même d'assumer ses responsabilités de conception et de réalisation que s'il n'abandonne aucun pouvoir à l'informatique sauf à comprendre vraiment tout ce qu'elle fait. Ainsi la logique mathématique nous suggère que le rêve cybernétique repose sur le mythe de l'investigation systématique. Elle désigne clairement ce qui justifie le travail sémantique et le rend incontournable en mathématiques c'est l'impossibilité de débrouiller mécaniquement ce qui est complexe.

Descartes à la lumière de la seconde crise des fondements

Si l'on suit aujourd'hui la démarche de Descartes de s'inspirer de la rigueur mathématique pour ordonner sa pensée, force nous est de tenir compte de cette grande leçon des années trente : la fécondité et la puissance des mathématiques leur vient de méthodes abstraites et non de dénombrements exhaustifs. Pour la recherche mathématique le principe d'exhaustion est inopérant.

Dès lors, le quatrième et dernier précepte du Discours de la Méthode pour bien conduire sa raison et chercher la vérité dans les sciences, à savoir "de faire partout des dénombrements si entiers, des revues si générales, que je fusse assuré de ne rien omettre" s'apparente au programme finitisme de Hilbert. Les dénombrements doivent être "si entiers" qu'ils apportent "l'assurance" d'exhaustivité. C'est un souci de complétude. Nous savons aujourd'hui que s'il s'agit de savoir si une théorie est cohérente ou non, on ne sera jamais assuré de rien tant qu'on aura pas été jusqu'à l'infini de toutes les preuves possibles, autrement dit jamais.

Ce précepte est trop ambitieux. Il sous-estime la complexité du monde.

C'est aussi ce que font les sciences actuellement. Elles pensent au premier degré et sont incapables d'envisager la totalité des aboutissants de leurs découvertes. Comme plusieurs auteurs l'ont signalé à propos de l'environnement, les innovations issues du progrès des connaissances dans les laboratoires, par les interactions des techniques qu'elles engendrent avec l'existant, posent plus de questions qu'elles n'en résolvent, produisent plus d'ignorance, en bilan, qu'elles n'en dissipent.

Dans cette impossibilité d'examen complet s'engouffrent les risques nouveaux que la science fait peser sur l'humanité sous couvert d'une démarche rationnelle : fantasme de voir toute notre pensée dans la matérialité de notre cortex, de réduire l'ontogenèse à l'expression d'un code informatique, illusion d'investiguer toutes les réactions chimiques dans toutes les conditions de température et de pression pour savoir si une molécule est utile ou nuisible et pour quelles espèces vivantes.

La leçon de la crise mathématique des fondements est de nous obliger à substituer au quatrième précepte de Descartes une préoccupation nouvelle : comment tenter de comprendre une situation dont nous sommes dans l'impossibilité d'examiner toute les variantes, question plus difficile où l'aide sémantique et historique ne saurait être de trop. Cette problématique est fort bien illustrée par la statistique, discipline à tord décriée, riche d'enseignements philosophiques, et évoquée à juste titre par Gadamer comme exemple d'herméneutique. La connaissance dans son ensemble a les mêmes caractéristiques générales que la statistique : d'un échantillon fini de cas elle construit des interprétations. Celles-ci sont multiples, non nécessairement compatibles entre elles. Le talent de les choisir constitue le travail herméneutique. C'est une préoccupation tout à fait sérieuse et importante que le positivisme a occulté et que le scientisme occulte encore de nos jours parce qu'ils croient que la démarche rationnelle est plus forte qu'elle n'est en réalité.

Il est plaisant de noter que nous nous trouvons ainsi fort proches d'une critique que Sartre a porté au rationalisme cartésien à partir d'une démarche évidemment fort différente. Celui-ci met en effet le doigt sur le caractère théorique de la liberté cartésienne : une création scientifique qui nie la liberté de créer. Il fait à ce propos cette remarque simple mais philosophiquement essentielle : "Il entre toujours, dans l'ivresse de comprendre, la joie de nous sentir responsables des vérités que nous découvrons. Quel que soit le maître, il vient un moment où l'élève est tout seul en face du problème mathématique, s'il ne détermine pas son esprit à saisir les relations, s'il ne produit pas lui-même les conjectures et les schèmes qui s'appliquent tout comme une grille à la figure considérée et qui dévoileront les structures principales, s'il ne provoque enfin aucune illumination décisive, les mots restent signes morts, tout est appris par cœur". Sartre a donc perçu l'importance et la fondamentale liberté du travail sémantique en mathématiques qui conditionne leur fécondité.

Cette analyse nous conduit à porter un regard plus vigilant sur les références aux mathématiques dans les philosophies du progrès. Ouvrons à nouveau d'Alembert et Condorcet protagonistes des lumières. Dans le Discours préliminaire nous remarquons deux façons de parler des mathématiques, fort différentes, comme dirigées en directions opposées. L'une, s'agissant des mathématiques elles-mêmes, met l'accent sur les génies inventeurs d'idées fondamentales originales réellement enrichissantes. D'Alembert fait montre ici d'une grande lucidité grâce à sa pratique de mathématicien, il est lui-même l'auteur d'une de ces idées éclairantes, le principe des travaux virtuels duquel on peut déduire l'analyse dynamique des systèmes les plus variés. Mais lorsque le propos est de comparer les mathématiques aux autres branches du savoir dans une perspective progressiste, il utilise une autre image qui s'attache à leur rigueur et leur vérité absolue : "quels progrès la médecine n'aurait-elle pas faits aux dépens des sciences de pure spéculation, si elle était aussi certaine que la géométrie ?" D'Alembert s'accomode ainsi d'un double point de vue où l'on décèle déjà l'ambivalence que Bruno Latour stigmatisera comme caractéristique de la pensée moderne. Condorcet, quant à lui, en appliquant le calcul des probabilités à "l'art social", place une discipline déductive en ce lieu qu'occupe aujourd'hui la statistique, essentiellement interprétative. Sa position est véritablement réductrice. Il convient de souligner, à sa décharge, que ce qu'on appelle l'inférence statistique - construction de modèles probabilistes à partir de données d'expérience - était insoupçonnée à cette époque. Elle apparaît pour la première fois, après le tournant du siècle, dans l'œuvre de Laplace avec les estimations de vraisemblance sur les erreurs de mesure des positions des planètes. Le caractère à la fois utile et partisan de la connaissance statistique ne sera perçu clairement que très lentement au cours du vingtième siècle. D'ailleurs la critique portée par Georges Sorel dans ses Illusions du progrès (1908) présente la même carence. Il dénonce le "scandale" du calcul des probabilités de Condorcet et de ses adeptes (Madame de Stael, etc.) mais n'aborde pas du tout la réflexion sur la démarche de la statistique encore trop peu développée. Celle-ci se situe précisément en permanence à la jonction du "motif de croire" individuel et des estimations en vue de la décision (permettant à un prince de gouverner), jonction qui fait scandale pour Sorel car il ne peut se dégager d'une vision moderniste qui occulte le rôle du social dans les contenus scientifiques et par là-même du culturel dans les mathématiques : "Au fur et à mesure que les mathématiciens ont été libérés des entraves que leur avait imposées l'ancienne oligarchie mondaine, ils ont pu discuter les questions d'application de la science d'une manière plus sérieuse et expulser tout ce qui n'avait pas une véritable valeur scientifique."

On pourrait multiplier les exemples, d'une façon générale, la pratique actuelle et les développements récents de la logique ont éloigné les mathématiques de l'image formée par les littératures progressistes et modernistes, image trop mécanique et univoque qui sous-estime le plus souvent l'émergence de significations nouvelles et leur imbrication sociale et historique. Ecrites aujourd'hui en un système de signes assez bien unifié, les mathématiques restent fondamentalement polysémiques et le travail du sens y est la dimension principale de créativité. A présent les mathématiciens, héritiers d'une période unifiante et systématisante, prennent conscience des effets directs que le développement de l'informatique produit à partir des représentations qu'ils élaborent et sont dans une situation de plus grande incertitude quant aux enjeux sociaux, à la valeur et à l'intérêt que peut susciter leur travaux. Le décor épistémologique dans lequel ils vivent, dessiné par la logique, est marquée essentiellement par des limitations, inconnues du rationalisme progressiste. Celles-ci dénoncent particulièrement l'imposture qui consiste à évoquer et à invoquer inlassablement un monde fictif ou les processus d'investigation actuellement définis, de dénombrement, d'expérimentation, de croisement, de classement, de démonstration auraient été menés jusqu'à l'infini. Cette fiction, absurde et contradictoire, est une abstraction ratée. La réalité ne saurait se laisser prendre à cette fausse perspective, un vécu nouveau donnera sens à des compréhensions nouvelles.

L'abstraction mathématique au contraire, qui elle est féconde, se présente comme un travail interprétatif où le sens qui vient à émerger parvient à éclairer des situations préalablement inextricables. Après la période moderne et la tentative unitaire de Bourbaki, le mathématicien redécouvre aujourd'hui une activité culturelle plus proche de celle des grands amateurs du passé.

 

 

 

Bibliographie

 

 

F. Le Lionnais, Les grands courants de la pensée mathématique, Blanchard, 1962.

J. Chadwick, Le déchiffrement du linéaire B, Gallimard, 1972.

H.G. Gadamer, L'art de comprendre, herméneutique et tradition philosophique, Aubier, 1982.

N. Bouleau, Dialogues autour de la création mathématique, Librairie Interférences, 33 rue Linné, Paris, 1997.