G. Arsac

Universite Lyon 1
bât 101
43 boulevard du 11 Novembre 1918
69 622 Villeurbanne CEDEX
France

Fax: 04 72 43 00 35
Courriel: arsac@desargues.univ-lyon1.fr

le 21 août 97

IX° Ecole d'été de
Didactique des Mathématiques

TABLE RONDE
FORMALISME ET RIGUEUR.

 

1) Formalisation, rigueur et formalisme : le point de vue de la démonstration

1.1) Formalisation

On connaît depuis Aristote les canons d'une science démonstrative: tous les mots doivent être définis, tous les énoncés doivent être démontrés. Ceci est en fait impossible: la réflexion montre qu'il faut disposer au départ d'un stock de mots qu'on ne définira pas (mots premiers) et d'énoncés qu'on ne démontrera pas (axiomes). A partir de ce stock initial, les énoncés vrais sont déduits par les règles de la logique et de nouveaux mots peuvent être définis. Un exemple de tentative de réalisation de cette science démonstrative est fourni par les éléments d'Euclide.

En fait, dans les éléments d'Euclide et dans toute les mathématiques jusqu'à la fin du dix-neuvième siècle, le programme est loin d'être respecté: le sens des mots, l'évidence de certains énoncés sont admis en référence à l'intuition (un mot typique du vocabulaire spontané des mathématiciens). D'une certaine manière, le texte mathématique est plein de définitions et de théorèmes "en actes" qui manifestent l'ancrage des mathématiques dans la réalité.

Le mot de "formalisation" n'ayant pas un sens précisé une fois pour toutes en mathématiques, je propose de désigner ainsi le mouvement qui consiste à rapprocher l'exposé d'une théorie mathématique de la forme démonstrative exposée ci-dessus: il y aura donc formalisation quand on précise les définitions, qu'on traque les évidences intuitives, qu'on explicite les axiomes et les mots premiers. En voici un exemple historique.

Jusqu'à ce que Cantor le mette en doute, il était admis qu'une courbe était définie par un paramètre réel (dans l'espace par une représentation du type: x=f(t), y=g(t), z=h(t)) alors qu'il fallait deux paramètres pour une surface (x=f(u,t), y=g(u,t), z=h(u,t)). Les notions de courbe, surface, dimension étaient considérées comme "évidentes" ou "intuitives" ("préconstruites" dans le vocabulaire introduit par Y Chevallard, 1985) et utilisées de cette manière dans les démonstrations (cet usage s'est maintenu dans l'enseignement français bien après la deuxième guerre mondiale).

Au contraire, un mathématicien contemporain ne peut pas employer dans un article scientifique les notions de courbe, surface, dimension, à la manière antérieure à Cantor. On peut donc dire que dans ce domaine (la géométrie des courbes et des surfaces), les exposés actuels sont plus formalisés qu'à une certaine époque.

1.2) Rigueur.

Le terme de rigueur est sans doute encore plus difficile à préciser que celui de formalisation. Mais on peut tenter une définition à partir de la remarque suivante: en dehors des périodes de remaniement dont nous avons vu un exemple, à chaque époque, dans chaque branche des mathématiques, le niveau de formalisation se fixe, il y a par exemple un certain nombre de propriétés que tous les mathématiciens considèrent comme évidentes sans que cette évidence fasse l'objet d'un axiome ou d'une démonstration explicite ou même soit repérée.

On pourra alors dire qu'une démonstration, à cette époque, est rigoureuse si elle n'emploie aucune autre évidence que celles admises par les contemporains.

Ainsi la rigueur évolue, nous en avons vu un exemple à propos de la géométrie des courbes et des surfaces. En géométrie pure, le texte des éléments d'Euclide a été considéré jusque vers le début du dix-neuvième siècle comme un modèle de rigueur, ce qui représente une belle longévité, mais les recherches sur les fondements de la géométrie (Pasch, Hilbert...) peuvent être considérées comme partant du constat d'un manque de rigueur chez Euclide. On cherche alors à formaliser davantage l'exposé de la géométrie.

La chasse à l'évidence s'intensifie à la fin du dix-neuvième siècle et trouve son aboutissement en géométrie avec l'ouvrage de Hilbert sur les fondements de la géométrie (Hilbert, 1889). Il est le premier à achever le travail entrepris par Euclide en faisant réellement de la géométrie une science démonstrative conforme aux canons rappelés plus haut. Ce travail est resté célèbre, mais il ne faut pas croire pour autant que la géométrie est le seul lieu de la chasse à l'évidence, toutes les mathématiques sont touchées et par exemple l'exposé de l'analyse est bouleversé (cf Pont, 1995).

D'une manière générale, c'est-à-dire concernant l'ensemble des mathématiques, Hilbert propose d'autre part, pour pouvoir contrôler la rigueur d'une démonstration, d'éliminer totalement le langage courant en créant un symbolisme mathématique complet et en lui adjoignant un symbolisme pour la logique:

[...] Depuis cinq ans, j'étudie les fondements des mathématiques en élaborant une théorie nouvelle de la démonstration. Je voudrais réduire tout énoncé mathématique à la présentation concrète d'une formule obtenue rigoureusement et donner ainsi aux notions et déductions mathématiques une forme irréfutable montrant bien l'ensemble de la science.[...] Comme toute autre science, la mathématique ne peut pas être construite sur la seule logique. Une donnée est indispensable, composée d'objets concrets, résultant d'une expérience antérieure à la pensée.[...] En mathématiques, les objets que nous examinons sont de signes qui pour nous sont clairs et reconnaissables.[...] L'idée fondamentale de ma théorie de la démonstration est la suivante.
   Toutes les phrases qui énoncent des propriétés mathématiques seront traduites en formules. Celles-ci se distinguent des formules mathématiques par la présence, en plus des signes habituels, de signes logiques.

(Hilbert, loc cit, appendice IX, p. 261)

La mathématique ainsi présentée se réduit à un jeu rigoureux car respectant un ensemble complet de règles explicites de manipulation de signes. Hilbert saute ensuite de la technique à la philosophie en déclarant que l'objet de la mathématique est l'étude de ces signes concrets tracés sur la feuille. Cette position est appelée formalisme de Hilbert. Nous n'aborderons pas ici la question de savoir si Hilbert croyait vraiment que son programme concernait toutes les mathématiques ou s'il le restreignait à l'étude des fondements, ce qui semble plus vraisemblable et est en tout cas en accord avec le contenu de sa production: par exemple, Hilbert n'a jamais formalisé au sens précis ci-dessus son exposé des fondements de la géométrie.

Cette conception de la formalisation qui pousse à l'extrême la définition que nous avons donnée n'est pas propre à Hilbert. Voici ce qu'écrit Gödel à la première phrase de son article historique sur le "théorème de Gödel": "Le développement des mathématiques vers plus d'exactitude a conduit, comme nous le savons, à en formaliser de larges secteurs, de telles sorte que la démonstration puisse s'y effectuer uniquement au moyen de quelques règles mécaniques"

1.3) Pourquoi la formalisation?

Jusqu'à présent, j'ai constaté l'existence en mathématiques d'une activité de formalisation, mais il reste la question du "pourquoi" de la formalisation, de la recherche de rigueur. Il y a déjà une amorce de réponse dans le texte de Gödel, voici la réponse de Dieudonné.

L'évolution de la plupart des parties des mathématiques s'est faite suivant un même déroulement: il s'agit initialement d'objets que les mathématiciens estiment bien connaître "intuitivement", dont ils ne cherchent pas à analyser profondément la nature, et sur lesquels ils échafaudent des raisonnements qui leur paraissent échapper à toute objection [...] Dans une seconde phase apparaissent dans ces raisonnements prétendus "rigoureux" d'inquiétantes lacunes, voire des contradictions, ou encore des conséquences qui semblent tout à fait contraires à l'"intuition" que l'on croit avoir des objets considérés; il devient alors nécessaire de revenir aux bases de ces raisonnements, pour définir avec plus de précision les objets que l'on étudie et les opérations permises sur eux. Mais souvent il reste, chez les initiateurs de ces réformes, un vestige de l'état d'esprit de leurs prédécesseurs, et l'on est surpris de constater qu'ils ont tendance à ne pas tenir compte des règles qu'ils ont eux-mêmes promulguées, et à se laisser entraîner par les vieilles "intuitions" à des conclusions erronées. C'est seulement lorsque la génération suivante s'astreint à respecter scrupuleusement les règles de la déduction logique à partir d'un système explicité de propositions admises à la base (un "système d'axiomes") que la théorie acquiert un pouvoir de totale conviction, qui, contrairement à ce que prétendent certains, n'est plus jamais remis en question.

(Dieudonné, 1984)

L'évolution décrite par Dieudonné correspond bien à la tendance à la formalisation décrite plus haut. Pour lui, il s'agit d'une évolution historique générale (bien sûr, cette opinion pourrait être discutée) qu'il décrit sans aller jusqu'aux exigences du formalisme de Hilbert ou de la formalisation de Gödel .

L'exemple développé plus haut à propos des courbes et surfaces illustre bien le texte ci-dessus: lorsque Cantor démontre qu'on peut mettre en bijection l'ensemble des points du carré
[0, 1]x[0,1] avec l'intervalle fermé [0,1], il démontre une propriété "tout à fait contraire à l'"intuition" que l'on croit avoir des objets considérés": elle signifie en effet que l'on peut représenter le carré paramétriquement sous la forme x=f(t), y=g(t) où t parcourt [0,1], cette possibilité de représentation à l'aide d'une seule variable ne caractérise donc pas les courbes. Ainsi, "Il devient alors nécessaire de revenir aux bases de ces raisonnements, pour définir avec plus de précision les objets que l'on étudie et les opérations permises sur eux", c'est effectivement ce qui est entamé aussitôt et dont témoigne la correspondance Cantor-Dedekind dans laquelle Cantor souligne du reste: "Il me semble donc que toutes les déductions philosophiques ou mathématiques qui utilisent cette hypothèse erronée sont inadmissibles. Il faut plutôt rechercher la différence qui existe entre deux variétés à un nombre différent de dimensions, dans quelque raison tout autre que celle généralement tenue pour caractéristique, du nombre de coordonnées indépendantes".

1.4) Rigueur et formalisation dans le développement des mathématiques.

Il est bien connu historiquement, et évident pédagogiquement, qu'un certain niveau de rigueur est inaccessible avant un développement suffisant des mathématiques: il n'apparaît que lors d'un retour sur quelque chose que l'on sait déjà, en vue de le comprendre mieux, d'une réflexion a posteriori; ce n'est que par un certain humour que Bourbaki peut prétendre que "le traité prend les mathématiques à leur début...". D'un certain point de vue, cette affirmation est vraie, d'un autre côté, c'est un gros mensonge...De même, le livre de Hilbert sur les fondements de la géométrie est destiné à un public de mathématiciens connaissant déjà la géométrie mais ne saurait être utilisé comme un manuel pour apprendre la géométrie, contrairement aux éléments d'Euclide qui ont effectivement servi à cette fin. A fortiori, une démonstration respectant les règles du formalisme de Hilbert est-elle un objet pour spécialistes seulement.

Je considère donc comme acquise l'affirmation suivante: il faut connaître beaucoup de mathématiques pour travailler sur les fondements des mathématiques, et je pose la question: pourquoi?

1.5) Limites de la rigueur.

L'examen des limites de la rigueur va fournir une réponse partielle à la question précédente. Je pars pour cela des observations suivantes.

- a) Plus un texte mathématique est formalisé, plus sa lecture suppose un commentaire dont le statut est d'ailleurs malaisé à définir, mais qui peut aller jusqu'à celui de "méta-mathématique", c'est-à-dire comporter éventuellement des démonstrations ("méta-démonstrations").
- b) Ce commentaire n'est accessible qu'à un lecteur qui est familiarisé déjà avec les mathématiques.

Pour illustrer ces deux affirmations, voici par exemple ce qu'écrit Hilbert pour accompagner sa présentation des axiomes de la géométrie:

Définition : "Nous pensons trois systèmes différents de choses ; nous nommons les choses du premier système des points ; nous les désignons par des majuscules A, B, C,...; nous nommons droites les choses du deuxième système et nous les désignons par des minuscules a, b, c,...; nous appelons plans les choses du troisième système et nous les désignons par les caractères grecs , ...Les points constituent les éléments de la géométrie linéaire ; les points et les droites sont les éléments de la géométrie plane ; enfin les points, les droites et les plans sont ceux de la géométrie de l'espace ou de l'espace lui-même.
   Entre les points, les droites et les plans, nous imaginons certaines relations que nous exprimons par des expressions telles que "être sur", "entre", "congruent"; la description exacte et appropriée au but des mathématiques de ces relations est donnée par les axiomes de la géométrie.[...]

Ainsi, d'une part, Hilbert ne dissimule pas que son but est bien d'analyser l'intuition de l'espace, et d'autre part, son discours sur les axiomes et les mots premiers fait un usage non seulement de mots de la langue courante, comme "penser", "majuscules", etc...mais aussi de mots à la frontière entre cette langue et la langue mathématique : "système", "différent", "chose" en opposition à "relation", "espace"...Le statut de ces derniers mots est manifestement celui de mots premiers mais au sens où Pascal l'envisageait au dix-septième siècle dans "De l'esprit géométrique", c'est-à-dire de mots que l'on ne définira pas parce que tout le monde est censé les comprendre: ici par exemple, tout le monde doit être d'accord sur le fait qu'un point et une droite sont des "choses" mais que le fait que "le point soit sur la droite" est une "relation " entre ces choses qui s'exprime par le mot premier incident sous la forme : le point A et la droite a sont incidents qui admettra pour expression synonyme le point A est sur la droite a, ou la droite a passe par e point A.Tout commentaire sur la nature des "choses" et des "relations" serait oiseux. L'usage courant de la langue, qui d'ailleurs ici, en ce qui concerne la notion de relation, présuppose un minimum de culture mathématique antérieure, fournit un réservoir inépuisable de tels mots. Il est vrai qu'au total, le langage mathématique, fort pauvre, n'en utilise pas beaucoup.

On verrrait de même que les traités de logique "formelle" ou l'article original de Gödel cité plus haut demandent pour être lus une habileté dans le maniement des "variables" qui ne peut provenir que d'une pratique mathématique préalable.

c) Les mathématiques employées dans ce discours de commentaire de la mathématique formalisée, dans le mode d'emploi du formalisme, sont des mathématiques intuitives, fondées en général sur l'arithmétique ordinaire.

Au total, je pense que si le formalisme peut se targuer, en un certain sens, de représenter un sommet de la rigueur, la certitude ainsi obtenue n'est pas supérieure à la certitude de l'arithmétique élémentaire, celle qui nous fait dire: "aussi vrai que 2 et 2 font 4". Il est vrai que ce genre d'affirmation passe effectivement pour un modèle de certitude et que finalement cette fondation des mathématiques était le but commun poursuivi par des voies différentes par Hilbert et son adversaire intuitionniste Brouwer.

1.6) Quelques remarques didactiques.

1.6.1) Il me semble que nous ne savons pas quelles conséquences tirer, pour l'enseignement, du travail des mathématiciens sur les fondements. Ce problème qui relève du domaine de la transposition didactique soulève déjà une première difficulté qui est d'ordre épistémologique: quelle conclusion tirer de ces travaux en ce qui concerne les mathématiques elles-mêmes? Il n'y a pas de réponse unanime à la question. Si l'on admet, ce qui semble raisonnable comme je l'ai rappelé ci-dessus, que la solution (partielle) à la crise des fondements peut être caractérisée en particulier comme une arithmétisation, on comprend que la réforme des mathématiques modernes ait essayé de tout ramener au nombre sur le modèle de la mathématique savante. Mais vu les limites et les complications de la rigueur et du formalisme, la vraie question me semble plutôt être quelle place pour les données intuitives dans l'enseignement des mathématiques après la crise des fondements et les effets qu'elle a produits en mathématiques au début de ce siècle (dans sa première moitié en gros)? Quels résultats peuvent et doivent être considérés comme évidents? Le grand ébranlement, dû en particulier à la géométrie non euclidienne, qui secoue les mathématiques au début du siècle est lié à la remise en cause de l'évidence (cf Pont, 1995). Or l'enseignant a encore plus besoin que le chercheur de faire appel à l'évidence, le jour où celle-ci est traquée dans la science, malheur à l'enseignant...dont l'évidence devient illégitime. Peut-être la montée de l'empirisme, telle que la voit Chevallard, répond-elle à ce besoin de fondement en justifiant les mathématiques comme une lecture du monde matériel?

1.6.2) La formalisation amène toujours à définir un objet par ses propriétés plutôt que par sa nature (d'où découleraient ses propriétés): de manière savante, les axiomes constituent une définition implicite des objets dont ils règlementent les relations, ce que Hilbert a exprimé dans une boutade célèbre, en remarquant que, à partir du moment où les objets fondamentaux de la géométrie, comme les points ou les droites, ne sont pas définis, mais considérés comme des mots premiers manipulés conformément aux axiomes, on peut leur donner les noms qu'on veut (chope de bière, chaise etc..). Cette question du passage de la manipulation des objets à celle des relations ou opérations qui les lient intéresse aussi le didacticien.

2) Formalisme et algébrisation

En un deuxième sens, un formalisme désigne un ensemble de symboles régis par des règles d'opération précises, l'exemple le plus simple en est le formalisme de la numération décimale. On peut citer aussi le formalisme leibnizien du calcul différentiel et intégral (les dx et dy...). Mais on connaît surtout les formalismes algébriques dont le plus simple est enseigné au collège (le calcul littéral). Ici aussi, on peut lire dans l'histoire des mathématiques un mouvement de formalisation en un sens différent, algébrique. Il ne faut pas bien sûr confondre ces deux formalisations, mais il ne faut pas non plus ignorer les rapports qui les lient. Nous commençons par l'étude de ces points communs avant d'en venir aux oppositions.

En fait, l'étymologie même du mot formalisme indique ce qu'il y a de commun: dans les deux cas l'attention se porte sur la forme aux dépens du contenu . Cette question de l'oubli du contenu a effectivement été soulevée au moment de la création de l'algèbre au sens moderne en Angleterre au dix-neuvième siècle. Un dilemne se pose alors: l'algèbre est-elle manipulation de lettres (de signes) qui représentent quelque chose (un nombre en général) ou manipulation de lettres soumise à des règles logiquement cohérentes sans chercher un référent quelconque, un sens? Cette deuxième option, qu'il est naturel d'appeler formelle, et qui ouvre la voie à l'algèbre moderne, fut identifiée et combattue avant de triompher:

contre: "The truth of a mathematical investigation, the goal after which the mathematical researcher was striving, lay in the subject matter his axioms and theorems described. The empty form of the mathematical structure had no truth or value of its own" ( Richards, 1980, p 345)
pour: "The mathematician goal is to explore and develop a logical structure without content which can be applied equally to the interpretation of a variety of subjects. Such interpretation is not a primary goal of the mathematician, howewer. The truth he seeks is that of completeness and consistency within the formal structure themselves" (ibid).

Il ne fut pas facile de se convaincre de l'intérêt de manipuler des symboles sans référent extérieur, De Morgan comparait cette activité à celle qui consisterait à reconstituer un puzzle en ayant retourné les pièces, c'est-à-dire en se souciant de l'adaptation des pièces entre elles, non du sens de la figure ainsi reconstituée (loc cit, p. 353-354). Il en concluait au rejet de l'activité ainsi caractérisée.

On peut souligner tout de suite que l'intuition ne sera pas la même dans les deux points de vue: dans un cas, elle sera guidée par le référent "concret", c'est-à-dire familier, caché derrière les signes, dans l'autre, réputé "moins intuitif", elle devra se construire dans la familiarisation avec les règles de manipulation des symboles, indépendamment de la signification accordée à ceux-ci. C'est un aspect de l'activité du mathématicien qu'il faut voir, même si on refuse par ailleurs l'affirmation philosophique de Hilbert suivant laquelle les seuls objets des mathématiques seraient des signes. Un bon calculateur a certainement une "intuition" du monde des signes dans lequel il travaille.

On retrouve ainsi dans la formalisation de type algébrique la mise à distance du sens, de la signification des objets manipulés au profit des règles de leur manipulation, sur laquelle nous avions conclu l'étude de la formalisation. Dans les deux cas, la manipulation de symboles sans référent apparaît bien; un symptôme de ce changement peut être la conception de la variable: historiquement, elle est d'abord une lettre représentant un nombre variable (référent), après formalisation elle est une simple lettre sujette à des règles de manipulation.

Cet abandon du référent semble créer un problème chez les élèves. En voici un témoignage, recueilli dans le cadre de la préparation d'un mémoire de DEA de didactique (Coppé, 1988):

lorsque nous avons demandé à des élèves de première S quelles différences ils voyaient entre mathématiques et physique, nous avons été surpris de les voir nous déclarer que les calculs n'étaient pas les mêmes en mathématiques et en physique. Après discussion, il apparut que la différence entre les deux était la suivante: en physique, dans un problème, on part de données numériques (par exemple, on donne une barre métallique de 17cm de longueur) puis on les désigne par des lettres: le professeur fait poser l=17, et calculer avec l, en particulier pour obtenir des formules homogènes, et on ne revient aux valeurs numériques que pour le calcul final. Autrement dit, on calcule avec les lettres, mais en sachant ce qu'elles représentent, ce qui constitue, du point de vue des élèves une différence fondamentale avec le cas des mathématiques où les lettres autres que l'inconnue sont des paramètres dont on ne sait pas au départ ce qu'ils représentent.

Voici un deuxième exemple encore plus simple: il est bien connu des enseignants qu'il est très difficile de convaincre les étudiants de l'utilité de manipuler la racine d'une équation du second degré, par exemple 7x2+3x-1=0, "formellement" comme un nombre a vérifiant 7a2+3a-1=0 plutôt qu'en remplaçant a par sa valeur exacte encombrée d'un radical et d'un dénominateur. Ici encore, il semble que les étudiants soient rebutés par l'idée d'abandonner l'objet, au profit de la relation qui le définit.

On retrouve le même type de phénomène dans la formalisation simplificatrice qu'introduit Marc Rogalski dans son texte parallèle sur formalisme et rigueur, je reproduis ci-dessous ce qu'il dit d'un exemple typique:

"Si on se propose d'étudier la suite récurrente définie par u(0)=1, u(n+1)= , l'analyse fait deviner que seul le comportement pour n grand du terme va compter, en même temps qu'elle fait prendre conscience que la forme compliquée de ce terme est un obstacle à la résolution du problème...[...] Tout cela amène à poser a(n)= et à étudier un problème plus général, la suite récurrente u(0)=1, u(n+1)= , avec l'hypothèse a(n) tend vers 1 ou même vers a, quand n tend vers l'infini..."

On voit qu'on a ici affaire à une méthode de résolution de problème, qu'on pourrait résumer en disant qu'elle permet de dégager clairement dans les données les prémisses du raisonnement concluant. L'attention ne se porte plus sur l'objet initial mais sur un objet plus simple qui ne retiendra de l'objet initial que certaines propriétés, les seules véritablement utiles, ici le comportement de a(n), (c'est en ce sens qu'il y a simplification): on reconnaît ici le basculement de l'objet vers les propriétés dont il est le sujet et en ce sens il y a formalisation (et si l'on veut abstraction), on ne raisonne plus sur une suite u(n) que l'on connaît mais sur une suite dont on sait seulement qu'elle vérifie certaines propriétés; comme le souligne Marc Rogalski, on perd de l'information et on fait de l'axiomatisation locale. Cet exemple a d'ailleurs l'intérêt de montrer que la démarche d'axiomatisation n'a pas seulement un intérêt dans l'étude du fondement des mathématiques mais est aussi un outil de résolution de problème. Dans les deux cas, l'axiomatisation a pour effet de montrer quelles sont les "vraies raisons" qui expliquent un résultat.

Ainsi une question didactique apparaît: ne se heurte-t-on pas à une réticence générale des élèves (ou étudiants) à oublier l'objet qu'ils manipulent au profit des règles de manipulation ou pour exprimer la chose de manière provocante à accepter qu'on puisse parler sans savoir de quoi on parle, la seule chose importante étant d'en bien parler? Les choses sont particulièrement délicates quand, comme c'est le cas en algèbre linéaire, on introduit à la fois une formalisation axiomatique et un formalisme nouveau (calcul sur les , calcul matriciel non commutatif, etc...).

3) Opposition entre les deux types de formalisation: rigueur et fécondité.

Nous avons défini la formalisation 1.1 dans un premier sens où elle apparaît comme le moyen d'atteindre une plus grande rigueur, une certitude supérieure de l'exactitude des résultats. De ce point de vue, le rôle des formalismes algébriques est parfois bien différent: ainsi, dans son cours sur le calcul infinitésimal, Cauchy oppose le formalisme des infiniment petits, fécond mais peu rigoureux, à la formalisation que constitue la définition plus récente et plus rigoureuse des limites:

Mon but principal a été de concilier la rigueur, dont je m'étais fait une loi dans mon Cours d'analyse, avec la simplicité qui résulte de la considération directe des quantités infiniment petites.

(Cauchy, 1823, avertissement)

Il est tout à fait étonnant de constater que le problème soulevé par Cauchy n'est toujours pas réglé: le travail de et al montre comment les notations traditionnelles du formalisme leibnizien conservent chez les étudiants une supériorité opératoire quant au calcul tout en gardant un handicap quant à la rigueur en ce sens que ses utilisateurs ont bien de la peine à délimiter nettement un domaine de validité. Il semble d'ailleurs que Leibniz était conscient du fait que son calcul constituait une méthode de résolution de problèmes demandant d'acquérir un certain savoir-faire plutôt qu'une théorie mathématique organisée et que sa principale qualité était sa fécondité et non pas sa rigueur (cf Berger, 1992).

Ainsi apparaît une opposition (ou une complémentarité) entre formalisme algébrisé bien réglé permettant des calculs aisés et formalisation donnant accès à une pratique plus rigoureuse mais moins féconde, même si en apparence, dans les deux cas on réduit les mathématiques à un calcul. Voici deux exemples bien connus qui montrent bien l'efficacité d'un bon formalisme tant qu'on ne se soucie pas prioritairement de rigueur:

- le premier, classique, utilise le formalisme de la numération décimale: soit à démontrer que 0,9999....=1. On remarque que si a=0,9999...., alors 10a=9,9999....d'où par différence, 9a=9 et donc a=1. Cette démonstration est certainement convaincante pour des étudiants de DEUG, et il serait sans doute beaucoup plus difficile de les convaincre de ses insuffisances (qui consistent dans le fait qu'on étend à un développement décimal infini, dont on ne sait même pas s'il représente un nombre, des règles de calcul valables pour les développements finis).

- le deuxième est emprunté au formalisme leibnizien: si y est fonction de x, la relation y=f(x) se différentie en dy=f'(x)dx d'où l'on tire dy/dx=f'(x) mais aussi, si f'(x)‚0, dx/dy=1/f'(x). Ici c'est l'existence et la dérivabilité de la fonction inverse qui sont rendues évidentes par le formalisme mais ce calcul n'a plus actuellement aucune valeur de démonstration, tout au plus est-il un moyen commode de retrouver la valeur de la dérivée de la fonction inverse.

Notons que ce calcul pouvait être considéré comme démonstratif à une époque où les notions de variable et de fonction étaient définies de manière intuitive ("solidairement préconstruites" pourrait-on dire, cf Chevallard, 1985, ch 8) comme chez Cauchy:

Lorsque des quantités variables sont tellement liées entre elles, que, les valeurs de l'une d'elles étant donnée, on puisse en conclure celles de toutes les autres, on conçoit d'ordinaire ces diverses quantités exprimées au moyen de la valeur de l'une d'entre elles qui prend alors le nom de variable indépendante; et les autres quantités, exprimées au moyen de la variable indépendante, sont ce qu'on appelle des fonctions de cette variable.

(Cauchy, loc cit, seconde leçon).

Si l'on se place du point de vue de Cauchy, le fait que x et y ne soient pas indépendantes symétrise les rôles de x et de y et rend évidente l'existence de la fonction inverse. La question de l'existence des fonctions inverses et plus généralement implicites ne se pose donc pas, comme on le voit en se reportant à Cauchy (loc cit, seconde leçon et neuvième leçon).

Pour ce qui est des questions didactiques soulevées par ces dernières remarques, c'est-à-dire du problème de l'équilibre entre un formalisme permettant des calculs simples et outil puissant de résolution de problèmes et une rigueur incompatible au moins avec un emploi trop automatique de ce formalisme, il suffit de se reporter à l'article pour voir qu'elles ne sont pas facilement réglées.

Bibliographie

Alibert D., Artigue M., Courdille J.M., Grenier D., Hallez M., Legrand M., Menigaux J., Richard F., Viennot L (1987) Le thème"différentielles": un exemple de coopération math-physique dans la recherches, In: Vergnaud G., Brousseau G., Hulin M. (eds.) Didactique et acquisition des connaissances scientifiques (pp.7-45).La Pensée Sauvage, Grenoble.

Breger H. (1992) Le continu chez Leibniz. in: Salanskis J-M et Sinaceur H. (eds.) Le labyrinthe du continu. Paris : Springer Verlag.

Cauchy A. (1823) Résumé des leçons sur le calcul infinitésimal. Paris : Debure (Rééd : Ellipses, Paris, 1994, 172 pages).

Chevallard Y. (1985) La transposition didactique. Grenoble : La Pensée Sauvage. (Réed 1991, 240 pages).

Coppé S. (1988) Processus de vérification dans la résolution de problèmes, mémoire de DEA de didactique. Université Lyon I..

Dieudonné J. (1984) Préhistoire de la topologie algébrique. Sans tambour ni trompette. 27, 9-14 Lyon (IREM de Lyon).

Gödel K. (1931) Sur les propositions formellement indécidables des Principia mathematica et des systèmes apparentés I. in: Nagel et al. (eds.) Le théorème de Gödel (traduit de l'allemand, pp. 105-143). Paris : Seuil (1989).

Hilbert (1899) Les fondements de la géométrie (traduction de la dixième édition, Paul Rossier). Paris : Dunod.

Pont J. C. (1995) Aux sources du conventionnalisme. In: Panza M. et Pont J. C. (éds) Les savants et l'épistémologie à la fin du XIXème siècle (pp.109-144). Paris : Albert Blanchard.

Richards J. L.(1980) The art and science of British algebra: a study in the perception of mathematical truth. Historia Mathematica 7(3) 343-365