Un théorème, une mathématicienne et leur lecteur : l’énigme de Fermat passée au crible

« La conviction profonde et partagée que Fermat n’a pas possédé une démonstration de son théorème vient de la longue histoire des tentatives faites pour l’établir. […] Les suiveurs des suiveurs, dans toutes les situations de ce genre, ne savent plus rien de ce qui a motivé les fondateurs […]. Ils pensent savoir tout ce qu’il y a à savoir, dès les commencements. » Jacques Roubaud, MATHÉMATIQUE:

« Je rêve d’un jour où l’égoïsme ne régnera plus dans les sciences, où on s’associera pour étudier, au lieu d’envoyer aux académiciens des plis cachetés, on s’empressera de publier ses moindres observations pour peu qu’elles soient nouvelles, et on ajoutera : Je ne sais pas pour le reste. » Évariste Galois (1811-1832).

*

I. L’énigme

     Bonjour et bienvenue à tous les admirateurs, professionnels et amateurs, de Pierre Fermat. Depuis longtemps je pensais créer un site/blog pour exposer le fruit de longues recherches sur l’histoire du Grand Théorème de Fermat. Le temps m’avait manqué jusqu’à maintenant, je m’y suis enfin décidé. Mon objectif ne sera pas de délivrer une démonstration « simple » du théorème (c.-à.-d. ne faisant pas appel aux mathématiques complexes de notre époque), mais de faire état des nombreux arguments en faveur de l’existence d’une preuve du théorème par Fermat lui-même. Bien qu’ayant nourri depuis mon plus jeune âge un goût prononcé pour la mathématique, je ne suis pas un mathématicien, seulement un petit polymathe, un petit philosophe autodidacte et un grand curieux. Parce que je n’aime pas les mystères, ma véritable passion est depuis longtemps la théologie. Je pense en effet que de nombreux « mystères », quand on pratique une saine théologie, cessent d’être des mystères, ils deviennent tout simplement des évidences, formant une architecture complète d’une logique admirable, qui contribue au plus haut point à nous mettre en accord avec le monde, nous rendant de plus en plus lucides et philosophes – un philosophe étant quelqu’un qui ne suit pas les sentiers battus, qui aime explorer de nouvelles voies, et sur lequel le qu’en dira-t-on n’a que peu de prise. Au contraire, sa compréhension des mécanismes de la pensée unique lui deviennent de plus en plus familiers, et contribue à augmenter sa lucidité, à affermir son individuation qui le préserve d’un panurgisme psychologique en constante expansion.

On comprendra pourquoi, lorsque j’ai commencé il y a une vingtaine d’années à m’intéresser à Fermat et à son théorème, voyant combien les mathématiciens les plus académiques s’évertuaient à clamer que « Fermat n’a jamais possédé une preuve de son théorème » – « puisque qu’il ne disposait pas des outils disponibles à notre époque » –, j’ai commencé mes petites recherches. Ces savants avaient très souvent une bonne (?) raison d’être aussi péremptoires, ils étaient envahis de milliers de lettres d’admirateurs de Fermat leur présentant une démonstration personnelle et bien sûr toujours fausse. En 1908, Paul Wolfskehl avait même créé un prix de 100 000 marks qui récompenserait la première démonstration du théorème. Des « démonstrations » plus ou moins farfelues commencèrent à s’accumuler sur le bureau du professeur Edmund Landau, chef du Département des mathématiques à l’université de Göttingen. Il avait été chargé d’examiner toutes ces propositions de preuve. Leur nombre augmenta tellement que son travail personnel en pâtit. Il trouva alors une solution radicale, il fit imprimer en grande quantité des modèles de réponses quasiment prêts à l’emploi :

Cher…

Je vous remercie pour votre manuscrit sur la démonstration du Dernier théorème de Fermat. La première erreur se trouve : Page… , ligne… Cela infirme la démonstration.

Professeur E.M. Landau.

Puis il pria ses élèves de remplir les blancs. Les envois ne cessèrent pas pour autant, arrivant sur les bureaux de mathématiciens du monde entier. L’atmosphère autour de ce fameux théorème devenant de plus en plus troublée jusqu’en 1994, date de la découverte d’une preuve après trois siècles d’efforts acharnés, il semble que l’inconscient collectif et l’effet de groupe à l’œuvre dans les hautes sphères de la discipline aient décidé qu’il faille arrêter là les dégâts et discréditer encore plus, par tous les moyens possibles, Fermat et son Grand Théorème. Rendons ici hommage aux nombreux savants qui ont fait preuve de sagesse, de retenue, d’honnêteté – on peut penser qu’ils sont aussi nombreux que les premiers même s’ils sont beaucoup plus discrets. Je connais deux mathématiciens contemporains qui osent dire officiellement qu’on ne peut se prononcer, ni dans un sens ni dans l’autre : d’abord Catherine Goldstein, mathématicienne, chercheur et historienne des mathématiques, directrice de recherches à l’Institut de mathématiques de Jussieu (CNRS), sans doute la meilleure spécialiste de Fermat. Ses travaux l’ont amenée à conclure qu’on ne peut pas savoir si Fermat avait une preuve – elle aussi est pourtant bombardée de textes visant à prouver que Fermat avait prouvé son théorème. Lorsque je lui ai demandé son opinion sur l’éventuelle existence d’une preuve par Fermat, elle m’a répondu : « Honnêtement, je sais que nous n’en savons rien ! » De même Jacques Roubaub, même s’il pointe les mauvais arguments avancés par les détracteurs de Fermat, ne se prononce pas. Peu de temps avant que la démonstration de Wiles fut vérifiée et validée, fin 1994, Catherine Goldstein écrivait : « Quoi qu’il en soit, cette approche, où le théorème de Fermat n’est qu’un corollaire très alléchant mais mineur, repose sur des techniques de représentations galoisiennes récentes. Reste possible qu’une démonstration élémentaire directe puisse être trouvée. » (Un théorème de Fermat et ses lecteurs, Note 7, p.120). Nombreux sont les savants réputés qui doutent (quand ils ne sont pas farouchement hostiles), que Fermat ait jamais pu trouver une preuve à son théorème, une preuve beaucoup plus courte et surtout plus accessible que celle découverte par Andrew Wiles en 1994. Au fil du temps cette note du XVIIe siècle fut très approximativement traduite dans différentes versions auxquelles les mathématiciens se sont toujours fiés, puisque seul leur importait le théorème en lui-même, qui y était parfaitement énoncé. Le texte latin lui-même a parfois été mal rapporté, ce qui pouvait donner des traductions assez savoureuses, telles que « Dormons » (Cubem). Voici une traduction fidèle de cet énoncé.

Cubum autem in duos cubos, aut quadratoquadratum in duos quadratoquadratos & generaliter nullam in infinitum vltra quadratum potestatem in duos eiusdem nominis fas est diuidere cuius rei demonstrationem mirabilem sane detexiHanc marginis exiguitas non caperet.

  • Demonstrationem est l’accusatif féminin, et se traduit par démonstration, description, raisonnement rigoureux.
  • mirabilem se traduit par admirable, étonnante, merveilleuse, singulière. C’est aussi un accusatif.
  • Sane se traduit par tout à fait, complètement, véritablement, vraiment. C’est la forme masculine du vocatif. Il ne s’applique pas à demonstrationem, qui est féminin, mais à l’auteur > « j’ai vraiment (entièrement) découvert ».
  • detexi se traduit par « j’ai découvert ». Le contraire de detexi, texi, se traduit par « j’ai couvert » (ou recouvert, caché, dissimulé). Notons que detexi est aussi l’infinitif passif du verbe detexere = être tissé, être tressé, entrelacé. La note complète de Fermat, en respectant à la fois le fond et la forme, en respectant aussi la forme conjuguée de non caperet ( = ne contiendrait pas) , se traduira donc

« Mais que ce soit un cube en deux cubes ou un bicarré en deux bicarrés, et en général jusqu’à l’infini, aucune puissance quelconque supérieure au carré ne peut être partagée en deux autres du même nom. J’en ai entièrement découvert (mis au jour) l’explication admirable (merveilleuse), que la marge trop étroite ne contiendrait pas. »

Notons que Fermat est non seulement un mathématicien de génie, un latiniste et helléniste distingué, un poète réputé pour sa finesse et son élégance, mais aussi un maître en matière la concision, surtout avec ce que permet le latin. Ludivine Goupillaud a d’abord été chercheur et se consacre désormais à l’enseignement. Elle a étudié l’usage du latin chez Fermat et montre comment Fermat utilise le latin « comme une machine à encoder et à décoder ». Le latin, par rapport au français, « possède un indéniable avantage : celui d’agir comme un « marqueur du sublime ». D’après monsieur Franquart on pourrait aussi traduire les dernières lignes d’une autre manière, en tenant compte du deuxième sens du verbe detexi (« tisser » à l’indicatif passif), sans oublier non plus que « marginis » se traduit aussi par bord, bordure, limite.

« J’en ai entièrement construit comme un tissu l’explication surprenante, le manque de la bordure ne la contiendrait pas. »

Une explication détaillée de cette traduction est donnée sur son site. Voici maintenant une des traductions erronées les plus répandues : « Au contraire, il est impossible de partager soit un cube en deux cubes, soit un bicarré en deux bicarrés, soit en général une puissance quelconque supérieure au carré en deux puissances de même degré : j’en ai découvert une  “démonstration véritablement merveilleuse” que cette marge est trop étroite pour contenir. » Le mot « véritablement » n’est pas à sa place puisqu’il se rapporte en réalité à « découvert » > j’ai véritablement découvert. C’est important et nous y reviendrons.

Le style utilisé par Fermat dans ces 48 observations laisse supposer, à l’évidence, qu’elles ont été écrites pour être lues par d’autres. On y voit d’ailleurs le même soin, la même élégance, dont il fait preuve dans ses correspondances. Pourquoi avoir demandé à son fils (à notre avis, et nous y reviendrons plus loin) d’écrire en toutes lettres « OBSERVATIO DOMINI PETRI DE FERMAT », et non en abrégé comme sur les 47 autres notes ? En outre, de nombreux commentateurs, comme l’historien Jean Itard, ont pris prétexte (entre autres), que la formulation du Grand Théorème, ou même toute allusion, n’apparaît nulle part ailleurs pour prétendre que Fermat, s’étant trompé, se serait aperçu de son erreur, mais comme il l’aurait écrite pour son seul usage personnel, il n’aurait pas eu à se rétracter. Dans son article de 1950, après avoir délivré une brève analyse, Itard conclut son article par cette formule expéditive : « Jamais Fermat n’a été en possession d’une preuve de son Grand Théorème pour un exposant supérieur ou égal à cinq. » Qu’est-ce qui a motivé Itard, en tant qu’historien, à être aussi péremptoire ? Ne soyons pas trop estomaqués par cette phrase. Chez certains savants en effet les préjugés encombrant leur pensée, envers ceux qui leur ont ouvert la voie, ont de tout temps existé, par besoin de s’affirmer, besoin de reconnaissance ou tout simplement désir bien humain de soutenir sa caste (désir parfois intéressé). Ce type d’attitude chez les suiveurs de suiveurs est propre à toutes les disciplines. De même en 1995, après la découverte de Wiles, le mathématicien Winfried Scharlau, nous assure que Fermat n’aurait écrit ces notes que pour lui-même.

Cette note qui a tenu les savants en haleine pendant plus de trois siècles est bien sûr la plus importante des 48 observations du Diophante. En annonçant qu’il a une preuve, il précise, en traduisant correctement, qu’il l’a « entièrement mise au jour » (où ? dans le libellé même de la note ?) par une « explication surprenante ». Si c’était le cas, de quelle façon ?). La note existe en au moins trois versions différentes, suivant l’exemplaire que l’on consulte (dès les débuts de l’imprimerie, il a toujours été facile de faire une pause (ou plusieurs) en cours d’édition afin d’effectuer des modifications).

1).  Voici la note en rapport avec la question VIII de l’Arithmetica de Diophante que Fermat possédait, et que son fils aîné, Clément Samuel fit imprimer dans l’édition de 1970 de l’Arithmetica. C’est la 2ème  des 48 annotations de Fermat, la seule dont le titre est écrit en toutes lettres, toutes les autres ayant un titre abrégé en « OBSERVATIO D.P.F. » Elle figure à la page 99 de l’ouvrage L’ÉNIGME DE FERMAT  (voir Bibliographie) et est accessible sur Internet, par exemple ici.

Note totale GROS t . avec Flèche bleue

GROS t . recadré 04

 

 

 

 

Nous remarquons, sur le mot stratégique detexi (= j’ai découvert, mis au jour), la lettre t outrageusement surchargée. C’est davantage une «jolie» tache qu’une lettre, d’ailleurs : quand on agrandit l’image, il semble que cette tache ait été très étudiée, soigneusement construite : si dans le texte on peut facilement la traduire par un « t », prise isolément en revanche, hors du contexte, il est impossible de l’assimiler à quelque lettre que ce soit. Mais ici elle n’est pas incongrue, elle ne se fait pas remarquer par un observateur non averti. Quant au point qui suit le mot, il semble lui aussi avoir été surchargé, mais très joliment : gros et bien rond à la fois. Ce point surchargé, situé sous le tiret de « eiuS  » et sous le grand très allongé, n’attire pas l’attention chez le lecteur qui ne cherche rien d’incongru. De plus, ces quatre caractères, à la fois répartis sur deux lignes successives, et groupés en bout de ligne, ne se font pas trop remarquer. Ce pseudo « t » n’est donc qu’une tache, et il est difficile d’imaginer l’imprimeur, dans le cas où ce caractère, ayant souffert d’un défaut d’impression, aurait été peu lisible, le surcharger autant. L’importance de cette modification sur le mot le plus important, detexi – j’ai [entièrement] découvert – de la note la plus importante de Fermat est expliquée sur le site de Monsieur Franquart.

2). Il existe deux autres versions de cette note, très légèrement différentes, qui ne peuvent qu’alerter l’observateur cherchant des indices qu’aurait pu nous laisser Fermat. En voici une, visible par exemple dans l’ouvrage Le dernier théorème de Fermat (voir Bibliographie), à la page 94 de l’édition de 1988, le texte est parfait, seul le point après detexi restant surchargé (plus gros que le point final de la note, mais il faut vraiment être attentif pour le remarquer). Voici un lien.

note normale agrandie 02 recadrée

Sans titre 8.jp2 mots sene detexi normal Recadré

 

 

Souvenons-nous que Fermat, non seulement est un mathématicien très astucieux, un sage surtout, mais que mâcher le travail de ses collègues en leur ôtant le goût de l’effort, n’est pas du tout dans sa manière.

3). J’ai eu connaissance de la bizarrerie de la première version en 2009 par un amateur, Roland Franquart, qui grâce à son intuition et à sa connaissance du latin m’avait apporté en 2009 les premiers arguments en faveur de l’existence d’une preuve par Fermat, m’incitant ainsi à en chercher d’autres par moi-même. J’ai ensuite trouvé par hasard cette deuxième version, sans surcharge sur le t, que j’ai rendue facilement accessible sur Wikipédia en avril 2014. Parfois je cherchais à dénicher encore une nouvelle version sans trop vraiment y croire… tout en y croyant (au fil des années je deviens de plus en  familier de la subtilité de cet immense pédagogue), avec un detexi encore différent. Peut-être voulais-je conforter encore ma certitude ? Je crois surtout que je cherchais un Nième argument à proposer, un dernier argument qui pourrait être un “argument massue”. J’ai dû passer plus de cinquante heures avant de la trouver, fin 2016 (le coup de massue, c’est moi qui l’ai reçu), et encore quelques dizaines d’heures, après l’avoir perdue, à la retrouver. Cette découverte fut une surprise totale pour moi, complètement assommé, j’ai eu du mal à réaliser ce qui se passait. La voici (observez la dernière lettre du mot detexi voici le lien, page 61) :

Note i en z totale XXL 01

Avec le recul je me suis un peu calmé (enfin un tout petit peu) : Pierre Fermat aurait eu du mal à prévoir qu’un jour on pourrait avoir accès à toutes ces données, il n’imaginait pas qu’après avoir été informé de l’existence d’une première note suspecte, quelqu’un puisse découvrir “assez facilement” une troisième version. Mais j’avais eu de la chance, et j’étais confirmé une fois de plus que lorsqu’on lui faisait totalement confiance, il ne se privait jamais de nous en récompenser, nous encourageant encore. Dans cette troisième version donc, toujours sur le même mot detexi, par un changement de lettre cette fois tout à fait incongru, Fermat (ou plutôt son fils, suivant les instructions de son père) remplace (demande à l’imprimeur de remplacer) le i par un s (qui tout en étant surmonté d’un point, est identique au s figurant deux lignes plus haut exactement à la verticale), en inventant un nouveau mot au passage (detexs).

Commencez-vous, comme je l’ai fait moi-même, à vous poser des questions ? Voyons donc ce « surmonté d’un point. Si là encore Fermat s’est adonné  à une de ces subtilités qui sont sa marque de fabrique, on peut décomposer ce «, surmonté d’un point, en un «i» + un «. Ce qui nous donne le mot is (le « est d’ailleurs un « tordu, ou encore, le «i» tordu est inclus dans le «). Or le mot latin is se traduit par : celui-ci, lui > ce mot-ci> detexi. Si comme monsieur Franquart je pense que les 19 t et les 21 u qu’on trouve dans la note peuvent avoir leur importance, qu’une tentative de décryptage (en entrelaçant, comme dans une trame) à partir de « [complètementconstruit comme un tissu » (detexi est aussi l’infinitif passif du verbe detexere, être tissé, entrelacé) me semble plausible, pour ce qui est de sa tentative de démonstration, selon Catherine Goldstein elle n’est pas pertinente.

En consultant les exemplaires de l’Arithmetica accessibles sur internet, on ne peut estimer que très approximativement la proportion dans laquelle se distribuent les trois versions. Avec toutes les précautions d’usage donc : 85% pour la version parfaite, 10% pour la version avec le t surchargé, 5% pour la version avec le i transformé en s. On sait que l’Arithmetica de Diophante qui a servi de support au travail de Fermat était très fautive (lui-même ne parvenait pas à déchiffrer certains passages truffés d’erreurs), mais quand bien même un lecteur n’ayant pas étudié consciencieusement le travail de Fermat et surtout l’homme Fermat, pourrait croire que ses 48 observations, dont certaines sont très longues, aient pu être écrites dans la marge (voir plus loin), il est certain que, puisqu’elles étaient importantes à ses yeux et à ceux de son fils, elles ont été transcrites avec le plus grand soin, ce qui signifie que les deux versions transformées ont été un acte volontaire. La question ne se pose d’ailleurs pas puisque ces observations ne pouvaient, techniquement, tenir dans la marge. Catherine Goldstein elle-même, sans développer le sujet, écrit : « […) observations qu’il aurait écrites dans la marge. »  (je mets moi-même en italiques). J’ignore s’il en existe encore d’autres versions, et j’avoue que j’ai déjà eu mon compte d’émotions…

Le lecteur sceptique pourrait négliger, voire mépriser, ces premières observations. Au fur et à mesure que nous exposerons d’autres arguments en faveur d’une preuve chez Fermat, si ce même lecteur ne voulait reconnaître qu’une telle somme de coïncidences ne peut être due au hasard, s’il ne voulait reconnaître aussi l’importance et la quantité des arguments exposés, il aurait toujours la possibilité de douter ! Quant au lecteur objectif, nous espérons qu’il méditera avec plaisir sur l’aventure que nous lui proposons.

*

11 juillet 2017

Assis à mon bureau je considère l’énoncé mathématique écrit en latin par un génie du XVIIe siècle, énoncé dont la première traduction, certainement en français, fut approximative. Elle fut ensuite reprise, parfois modifiée au passage, toujours dans des formulations approximatives et dans toutes les langues. Si la formulation originelle des dernières lignes de l’énoncé de Fermat ne fut jamais respectée, il faut aussi reconnaître qu’on n’accordait que peu d’importance technique à cette fin de texte qui n’avait rien de mathématique, et on n’avait jamais songé à demander à un latiniste d’en vérifier la traduction.  

Je peux être parcouru de sentiments divers en voyant que l’énoncé mathématique le plus célèbre de tous les temps, livré en 1670 par Samuel de Fermat, l’a été sous trois formes différentes. Je peux ne pas savoir qu’en penser, je peux aussi penser que ça n’a aucune importance (c’est bien pratique),  je peux feindre de croire que quelque chose de mécanique, de très bizarre, que je ne comprends pas, s’est produit à au moins deux reprises sur la presse à imprimer qui servit à éditer l’édition de 1670. Je peux me dire qu’il y a une explication physique, mécanique, mais j’ai beau chercher, je n’en vois pas une qui soit cohérente. Finalement je ressens un sentiment de profonde étrangeté. Et si je veux être honnête avec moi-même, puisque je me suis bien renseigné sur Fermat, sur sa personnalité, puisque j’ai un peu étudié sa vie, sa psychologie, ses manières de correspondre avec d’autres mathématiciens, je me dis qu’avec Fermat il faut s’attendre à tout. Alors l’esprit très ouvert je considère d’un œil attentif, le plus objectif possible, les trois versions de cet énoncé, différentes selon que le mot latin « detexi » ait été :

  • soit imprimé tout à fait correctement (version n°2),
  • soit imprimé avec une surcharge si grossière sur la lettre t que, si elle est prise isolément, cette lettre, on ne peut même pas dire qu’elle en soit une. Tout ce que l’on voit c’est une tache. Une bizarrerie donc, sur cet énoncé célèbre et, par sa formulation, le plus étrange, de tous les temps. Une bizarrerie qui pourtant n’a éveillé les soupçons de personne pendant des siècles. Évidemment me direz-vous, cet énoncé, ce n’est pas dans sa langue originelle, le latin, qu’il est le plus célèbre, il est surtout célèbre dans ses traductions en diverses langues, des traductions toujours fausses. Alors bien sûr, tant qu’on ne serait pas allé voir pas à la source (au texte latin), il serait impossible de remarquer cette bizarrerie. D’ailleurs pourquoi rechercher quelque chose de bizarre dans un texte déjà suffisamment étonnant ? Fermat ne nous avait-il pas déjà assez taquiné ?
  • soit corrompu par une mauvaise lettre, un s au lieu d’un i à « detexi », un « s » d’ailleurs surmonté d’un point (vous avez dit bizarre ?)

C’est plus que de l’étonnement que je ressens, ce que je vois est trop incongru pour une note aussi importante, trop incongru pour le théorème considéré pendant 325 ans comme « le Saint Graal des mathématiques », « l’Himalaya de la théorie des nombres », etc., c’est inacceptable pour moi. Si je suis un mathématicien conventionnel, ou même un grand savant académique, respectueux de ma caste, je n’attache pas d’importance à ces modifications bizarres, elles ne me servent à rien puisque pendant plus de trois siècles tous les savants ont échoué à retrouver la preuve qu’aurait pu avoir Fermat. On est dans les math ici, pas dans la supputation, ces bizarreries ce n’est pas mon problème. De plus, même si Fermat était un génie facétieux, je sais que c’était aussi un magistrat intègre, sérieux, respectable et respecté, je suis bien certain que cet honnête homme ne se serait jamais abaissé à se fiche ainsi de moi ! Pour quelle raison, d’ailleurs, l’aurait-il fait ?

Oui mais voilà, je ne suis pas un mathématicien, je n’ai pas ces préjugés propres à de nombreux savants, je ne peux accepter ces bizarreries. Ou alors a une condition, je dois admettre que cette double modification sur le mot le plus important de l’observation mathématique la plus importante de tous les temps, a été très précisément demandée par Pierre Fermat à son fils aîné, avec la consigne expresse de transmettre ces modifications à un imprimeur… qui restera à trouver. Une fois que j’ai admis cela, une fois que j’ai été confirmé, aussi, qu’avec Fermat on peut s’attendre à tout, alors je suis plus à même de réfléchir sereinement, objectivement, à la proposition de Fermat sur les nombres de la forme  22n+1 (« Nombres de Fermat ».

Il est intéressant de remarquer que cette dernière question, dont Fermat a toujours dit qu’il n’en avait pas la démonstration (nous en parlerons plus loin), ne figure pas parmi les 48 observations de l’Arithmetica. Or, tous les autres théorèmes que Fermat prétendait  avoir démontrés se sont révélés exacts. Quand il envoya à Roberval quelques propositions très ardues, Roberval lui en demanda les démonstrations, ce à quoi Fermat répondit : « J’ai dû travailler pour les découvrir. Travaillez vous aussi ; vous prendrez ainsi conscience que c’est dans ce travail que consiste la majeure partie du plaisir. » (Lettre de Roberval à Torricelli, 1646-47?). À la fin de sa vie, les jeunes mathématiciens avec lesquels il aurait pu correspondre n’avaient que faire de son arithmétique. Je suis certain que « le problème avec le théorème », c’est que Fermat ne faisait confiance qu’à ceux qui eux-mêmes lui feraient confiance, qui chercheraient à le connaître et, le connaissant, s’enhardiraient à dénicher des indices en faveur de l’existence de sa preuve – dont il dit dans sa note qu’il l’a complètement mise au jour (ou/et tissée) (ce que ne montrent pas les diverses traductions connues et erronées).

Reprenant à mon compte ce qu’écrit Roland Franquart, je pense que Fermat était conscient qu’on pouvait le prendre pour un vantard avec ses façons peu orthodoxes, provocantes (dans un but de stimulation surtout). Et qu’il s’adressait, dans cette note en particulier, à la fois aux sceptiques (« il ne fait que se regarder lui-même »), et à ceux qui lui feraient confiance. N’avoir évoqué ce théorème que dans cette note et nulle part ailleurs peut paraître étonnant, à moins d’admettre qu’il ne voulait rien dire, de son vivant, d’un théorème qu’il jugeait de la plus grande importance. Il avait déjà été tellement échaudé par les moqueries de certains correspondants, déçu aussi par leur manque d’empressement à le suivre dans ses recherches. Fermat savait que les mathématiciens qui viendraient après lui ne le suivraient pas dans des voies très ardues qu’il était seul à maîtriser (dans sa lettre testament à Carcavi en 1659, il ne fait là encore aucune mention de son théorème). Je pense que Fermat, ayant conscience de l’extrême difficulté que ses futurs détracteurs auraient à retrouver sa démonstration,  savait qu’il les prendrait à leur propre piège de négligence bien-pensante. De son vivant il testait chacun de ses correspondants avant de choisir le défi qu’il allait lui proposer (et de quelle manière il allait le faire) et il avait appris leurs limites, leur impuissance à le suivre dans des recherches d’une complexité parfois extrême. Nous savons aussi qu’il écrivait beaucoup pour la postérité, ne faire de son vivant aucune mention de la démonstration du plus difficile de ses théorèmes, mais le léguer à la postérité et ainsi entrer dans l’Histoire, outre le plaisir malicieux cela pouvait lui procurer, était aussi pour lui le meilleur moyen de faire progresser le science des nombres. Son arithmétique n’intéressant plus personne, il pouvait penser que ce théorème avait de très beaux jours devant lui. Outre une petite revanche sur ses détracteurs de l’époque, ça allait être un joli pied de nez à ses « non-suiveurs ». Fermat aura donc peut-être réussi le coup du millénaire – même si on a prétendu, avec la preuve très moderne découverte par Wiles en 1994, que ça y est, enfin, la seule vraie preuve on la tient ! Ah, que ce théorème aura fait parler de lui ! Je souris, et sûrement, ce facétieux génie sourirait aussi s’il pouvait être témoin de la fabuleuse épopée du théorème qui a fait couler le plus d’encre chez les savants.

II. Les 48 observations étaient-elles écrites “dans la marge” ?

Comment croire que Samuel de Fermat ait pris seul, sans les recommandations paternelles, l’initiative de faire publier une nouvelle édition de l’Arithmetica, augmentée des observations de son père, dont une seule livre une démonstration complète, celle de son « Petit Théorème » ? Essayons de savoir si c’est vraiment dans la marge que Fermat écrivit ses 48 observations. Serait-ce ailleurs, sur des feuilles volantes ou plus vraisemblablement, dans un livret, avec des instructions détaillées (sur les trois ‘’detexi’’ différents par exemple) à l’adresse de son fils (instructions spécifiques qui pouvaient être accompagnées d’autres instructions, recommandations, remerciements, etc.) ? Voyons ce qu’écrit Samuel dans la préface de l’édition de 1670 : Illas Parens meus quasi aliud agens et ad altiora festinans margini variis in locis apposuit, præsetim ad quatuor vltimos libros. En français : « Ces remarques, mon père les nota dans la marge à différents endroits, surtout dans les quatre derniers livres, comme s’il faisait autre chose et qu’il avait hâte d’atteindre des buts plus élevés. » Le début de cette assertion est extravagant car de nombreuses observations sont très longues et ne pouvaient tenir dans une marge, bien trop exigüe pour cela. Ayant mis en évidence ce non-sens, interrogeons-nous sur la question de savoir pourquoi Samuel juge nécessaire de poursuivre ainsi : “surtout dans les quatre derniers livres”, alors qu’il est évident que la majorité des 48 observations (45 sur 48) figurent dans ces quatre livres (III à VI). Qu’avait-il besoin de le préciser, donc, puisque cela ne nous apporte rien. Si l’on considère en effet, d’une part, que les 3 premières observations du Diophante (Livres I et II) sont très courtes et pouvaient tenir facilement dans la marge, et d’autre part qu’un grand nombre des 45 autres, très longuesdans les 4 derniers livres (III à VI), (voir par exemple les obs. N° 6, 7, 8, 9, 11, 15…), ne pouvaient y tenir, il aurait plutôt fallu écrire ‘’surtout dans les deux premiers livres’’. Quant à la fin de la phrase : “comme s’il faisait autre chose et qu’il avait hâte d’atteindre des buts plus élevés’’, elle dit presque exactement ce que disait Fermat lui-même. J’émets l’hypothèse que la phrase entière n’est pas de Samuel mais de Fermat lui-même, qui joue avec nous, avec nos nerfs, faisant preuve encore une fois de cet esprit facétieux qui pourrait nous paraître cruel, à moins que nous n’admettions une bonne fois que, lorsqu’il a voulu encourager ses suiveurs, on n’a jamais pu le prendre en flagrant délit de mesquinerie, prêt qu’il est à user de toutes les astuces imaginables. Si nous passions outre toutes ces prouesses, il pourrait nous sembler étonnant que son Diophante n’ait jamais été retrouvé, mais si nous les acceptons, nous acceptons beaucoup facilement que Samuel ait été dans l’obligation de le détruire puisque les 48 observations n’y auraient pas figuré (mais peut-être seulement des repères ou des notes confidentielles pour Samuel). Il semble donc que Pierre et Samuel n’ont pas cessé de jouer avec nous, quoique dans un but louable. Voila un bien noble binôme, qui a justement mérité sa particule : Pierre, homme de cœur, indépendant, intègre, audacieux, incisif parfois, ‘’paresseux’’ dit-il de lui, mais en fait fort courageux ; Samuel, humaniste, altruiste et passeur dévoué, il sait d’où il vient, il sait où il va, un vecteur bien orienté en quelque sorte, digne fils de son père. Examinons un autre point, nous avons vu que la traduction exacte de l’affirmation de Fermat qui a fait très polémique (mais dans d’autres traductions, presque toutes erronées) est : « J’en ai vraiment découvert l’explication merveilleuse […]. » Si ses 48 annotations avait été « réservées à son seul usage » (comme l’ont prétendu Jean Itard et bien d’autres), Fermat aurait-il eu besoin d’ajouter le mot “vraiment” ? Chère lectrice, cher lecteur, commencez-vous à nous suivre un peu ? Si c’était le cas il se peut que vous ne soyez pas déçu de votre petit voyage en terra incognita.

III. Fermat pensait-il que sa conjecture sur les nombres de la forme 22n+1 était vraie ?

Ce texte est dédié à Catherine Goldstein.

Fermat cherche à appréhender le principe premier du nombre. Cette perception restant toujours englobante, il ne prend pas les chemins de traverse qui l’en éloigneraient, il cherche à en saisir la quintessence, la saveur première, et le mode de relation très fin (vertigineux même) qu’à plusieurs ils ont entre eux. « On a en effet le sentiment d’une aspiration profonde de Fermat vers une métaphysique des nombres, une sorte de transcendance arithmétique aux reflets pythagoriciens, […] » (Ludivine Goupillaud). Il perçoit mieux que ses contemporains, autant que Parménide, autant que Pythagore, mieux que ses contemporains, que quand les hommes ont posé 1, puis 2, tout est déjà posé, l’unicité, la pluralité du monde. Fermat, petit à petit, assemble les maillons de sa chaîne de compréhension.

Je suis conscient que ce qui suit va à rebrousse-poil des sentiers battus, et je vous avoue tout net que moi-même, pendant longtemps (5 ans presque exactement), je n’ai pas été complètement certain de cette théorie. D’une heure à l’autre elle pouvait parfois se conforter considérablement, comme elle pouvait tout aussi bien se réduire presque à néant (je ne doute pas, amie lectrice, ami lecteur, que cela puisse aussi vous arriver 😉 ). De cela je n’étais pas étonné, parce que j’étais moi aussi très influencé par tout ce qui s’est dit de négatif au sujet de Fermat – dit, et surtout répété depuis des siècles, avec des raccourcis de raisonnement parfois saisissants, et des analyses orientées qui se surajoutaient aux précédentes en devenant de plus en plus partiales. Vous avouerai-je que face à autant d’avis négatifs venus de tant se savants au long des siècles, il arrive encore parfois, au sujet des polémiques autour de Fermat, que des doutes me reviennent (et c’est heureux puisque je n’ai pas les preuves de ce que j’avance. Je ne balaie pas ces doutes d’un revers de main mais les soumets alors à une analyse critique. Cette démarche m’a souvent permis de renforcer certains arguments, et même,souvent, d’en découvrir de nouveaux. Il ne faudrait pas trop s’étonner, ou même s’accabler, d’être en certaines circonstances aussi peu sûr de soi. Il serait au contraire fâcheux d’être irraisonnablement obstiné, ou de vouloir paraître très sûr de soi aux yeux d’autres personnes, quitte à utiliser de mauvais arguments. Il est important de considérer que la puissance d’un préjugé, quand il est très partagé, par des savants de surcroît, est presque indépassable. Dans tous les domaines, et chez nous tous, la problématique de la croyance est éminemment complexe. On aime croire ce qui nous est agréable, il nous arrive de modifier, parfois même de changer radicalement certaines de nos croyances, mais beaucoup d’entre elles ne nous quitteront pas de toute notre vie. Certaines heureusement seront bonnes, mais qui peut dire en ce bas monde qu’il détient la vérité ? Citons Claudine Tiercelin : « […] pour mesurer à quel point il est difficile de se débarrasser de nos croyances, et pourquoi on a temps de mal, même si on réalise que nos croyances sont fausses, même si on se rend compte que nos croyances sont éventuellement des préjugés, à cesser de croire ce qu’on croit. Parce qu’on a besoin de croyances pour agir. » Le seul mathématicien qui m’ait encouragé à redonner un peu de vie à ce théorème, dès mes débuts sur Wikipédia en 2005, est une mathématicienne, chercheur, historienne des mathématiques de surcroît, et grande spécialiste de Fermat pour mon grand bonheur, un grand merci à toi, chère Catherine. Examinons sereinement les choses. Fermat ne put jamais se faire publier – sauf un traité de géométrie, mais vers la fin de sa vie, après l’échec d’une publication de la théorie des nombres. Il avait en effet proposé à Pascal et Frénicle de s’occuper de « coucher sur le papier » son travail sur la théorie des nombres, travail auquel il n’avait pas le loisir de se consacrer. Il leur demandait aussi s’ils pouvaient trouver pour lui un éditeur, et leur proposait de publier ses travaux de géométrie sous leurs noms propres, ne conservant pour lui-même que (!) la seule paternité de la théorie des nombres (et encore, sans sa signature). Cette requête insistante ne put jamais être exaucée. Certains commentateurs parmi les plus sceptiques, philosophes, historiens et même mathématiciens, qui pour des raisons diverses et plus ou moins avouables, veulent croire ou/et nous faire croire que Fermat ne pouvait avoir eu une preuve de son théorème, ont prétendu que lorsqu’il écrit à propos de cette question des nombres de Fermat : « J’ay ensuite considéré certaines questions », il prétend avoir démontré la dernière question. On devrait donc lire : « J’ai démontré toutes ces propositions, y compris la dernière. » En 1977, l’Américain Harold Edwards par exemple écrit : « Il [Fermat] alla même jusqu’à dire, plus tard dans sa vie, qu’il pouvait prouver que ces nombres étaient tous premiers » – ce qui est loin d’être évident pour Eric Temple Bell, qui lui en fait la remarque, mais Edwards poursuit : « Je ne vois pas d’autre interprétation de cette lettre à Carcavi. » Tout va bien, les savants les plus sceptiques sont de plus en plus rassurés, Fermat n’est pas fiable, et il n’a jamais démontré son théorème comme il le prétend, d’ailleurs ça se saurait, il y aurait au moins une trace quelque part, or on a cherché partout. Un jour un petit lutin se penchera à l’oreille d’un de ces mathématiciens qui aiment à écrire que Fermat n’a rien découvert d’essentiel, à part sa méthode de descente infinie – et encore, Euclide la connaissait déjà, alors, Fermat, vous savez… Le lutin lui chuchotera : « Hep ! Tu n’as jamais pensé à faire traduire sérieusement la note écrite en latin ? Il y a un professeur de latin-grec près de chez toi, qu’est-ce que tu attends ? ». Que pensez-vous qu’il se passera ? Avez-vous la naïveté de croire que ce savant ne chassera pas d’un geste nerveux ce lutin agaçant ? Un argument baroque est aussi avancé pour nier une preuve du théorème : « puisqu’il [Fermat] ne connaissait pas nos outils modernes. » Il serait utile de se demander pourquoi non seulement des historiens, mais aussi, et c’est le plus important, des savants, veulent à tout prix que Fermat n’ait jamais eu de preuve. On sait que déjà à son époque il était jalousé, l’Anglais John Wallis l’appelait « ce damné Français », Descartes le traita de «vantard». Alors, que peuvent ressentir ces savants qui pendant plus de trois siècles ont planché et séché sur son Dernier Théorème ? Si certains ne se sont jamais prononcé ou ont reconnu humblement ne pas avoir d’avis sur la question, d’autres, inévitablement, humainement même, ont du concevoir une certaine vexation en imaginant que peut-être, Fermat avait trouvé. Si l’on peut comprendre que certains détracteurs de Fermat étaient las de recevoir des démonstrations erronées d’amateurs, avant la fabuleuse découverte d’Andrew Wiles en 1994, est-il nécessaire pour ces savants voulant calmer les ardeurs des plus optimistes de clamer : « Fermat n’a jamais eu aucune  preuve de son Grand Théorème ! » ? De là à inventer de soi-disant arguments pour justifier ce ton péremptoire, il n’y a qu’un pas. Voyons ce que Fermat écrit à propos de ces nombres de la forme 22n+1, en prêtant attention aux lignes que nous mettons ici en italiques, qui peuvent être interprétées comme des mises en appétit, des provocations, à la fois défis et encouragements à le suivre dans ses travaux :

1) août (?) 1640 à Frénicle : « Mais voici ce que j’admire le plus : c’est que je suis quasi persuadé que tous les nombres progressifs augmentés de l’unité, desquels les exposants sont des nombres de la progression double, sont nombres premiers, comme 3, 5, 17, 257, 65537, 4 294 967 297 et le suivant de 20 lettres 18 446 744 073 709 551 617 ; etc. Je n’en ai pas la démonstration exacte, mais j’ai exclu si grande quantité de diviseurs par démonstrations infaillibles, et j’ai de si grandes lumières qui établissent ma pensée, que j’aurois peine à me dédire. » Lettre XLIII.

2) 25 décembre 1640 à Mersenne : « Si je puis une fois tenir la raison fondamentale que 3, 5, 17, etc. sont nombres premiers, il me semble que je trouverai de très belles choses en cette matière, car j’ai déjà trouvé des choses merveilleuses dont je vous ferai part, après que j’aurai eu votre réponse et celle de M. Frenicle. »

3) 29 août 1654 à Pascal : « Au reste, il n’est rien à l’avenir que je ne vous communique avec toute franchise. Songez cependant, si vous le trouvez à propos, à cette proposition.
Les puissances carrées de 2, augmentées de l’unité, sont toujours des nombres premiers.
Le carré de 2, augmenté de l’unité, fait 5, qui est nombre premier.
Le carré du carré fait 16 qui, augmenté de l’unité, fait 17, nombre premier.
Le carré de 16 fait 256 qui, augmenté de l’unité, fait 257, nombre premier.
Le carré de 256 fait 65.536 qui, augmenté de l’unité, fait 65.537, nombre premier. Et ainsi à l’infini.
C’est une propriété de la vérité de laquelle je vous réponds. La démonstration en est très malaisée, et je vous avoue que je n’ai pu encore la trouver pleinement ; je ne vous la proposerais pas pour la chercher, si j’en étais venu à bout.
Cette proposition sert à l’invention des nombres qui sont à leurs parties aliquotes en raison donnée, sur quoi j’ai fait des découvertes considérables. Nous en parlerons une autre fois. Je suis, [etc.]»

4) 16 juin 1658, à John Wallis par Digby : « quelques propositions dont nous ne nierons pas ignorer la démonstration (…) Il reste à trouver une démonstration de cette proposition, certainement belle mais aussi très vraie », lettre XCVI dans Œuvres de Fermat, t. 2, p. 402-405.

  • Examinons maintenant sa dernière lettre traitant du sujet (1659) à Carcavi et à Huygens :

« J’ay ensuite considéré certaines questions qui, bien que négatives, ne restent pas de recevoir très grande difficulté, la méthode pour y pratiquer la descente étant tout à fait diverse des précédentes, comme il sera aisé d’éprouver. Telles sont les suivantes :
– Il n’y a aucun cube divisible en deux cubes.
– Il n’y a qu’un seul quarré en entiers qui augmenté du binaire fasse un cube. Ledit quarré est 25.
– Il n’y a que deux quarrez en entiers lesquels augmentés de 4 fassent un cube. Les dits quarrés sont 4 et 121.
– Toutes les puissances quarrées de 2 augmentées de l’unité sont nombres premiers. [Vide Commerc. Epistolicu Wallisii pag. 186 (…)]. Cette dernière question est d’une très subtile et très ingénieuse recherche et, bien qu’elle soit conçue affirmativement, elle est négative, puisque dire qu’un nombre est premier, c’est dire qu’il ne peut être divisé par aucun nombre. »

Cette question, on le sait, ne se vérifie pas dès 4 294 967 297 (F5). Peut-on réellement croire que Fermat, qui en essayant les nombres premiers de la forme 74k+1 trouve que 237-1 est divisible par 223, n’aurait pas vu par la même méthode, en utilisant les diviseurs de la forme 64k+1, et après seulement cinq divisions, que Fest divisible par (64×10) +1, soit 641, et donc qu’il n’est pas premier ? Que Fermat, maître en science des nombres, ait pu mentionner à qui voulait bien l’entendre (Frénicle, Mersenne, Pascal, Wallis, Digby, Carcavi et Huygens), sur une période de 19 ans (!), entre 1640 et 1659, qu’il est quasiment certain d’une proposition dont pourtant il peut démontrer la fausseté en quelques minutes est une nouvelle fois bien étrange. Si comme nous le supposons, Fermat sait pertinemment que cette conjecture, très importante à ses yeux, est fausse, il se pourrait bien que dès la première de ces lettres, et jusqu’à la quatrième, il utilise à nouveau sa méthode du défi (bien qu’ici un peu voilée). Et si l’un de ses correspondants avait pu alors démontrer (une grande première pour eux) qu’elle était fausse, cela aurait sans doute créé une forte émulation chez quelques autres, qui à leur tour auraient tenté, avec plus de persévérance qu’ils ne l’ont fait jusqu’alors, de tenter de relever d’autres ses plus grands défis, ce qui a toujours été son objectif avoué.

Dans la cinquième lettre, les mots alléchants « d’une très subtile et très ingénieuse recherche », sont destinés à aiguillonner un peu plus les savants, comme on peut le deviner à la fin de cette longue lettre, « en tout cas, cette indication [du compte de mes rêveries] servira aux savans pour trouver d’eux-mêmes ce que je n’étends point. » (NDR : « ce que je ne développe point »). Dans les lettres suivantes de Fermat ne se préoccupera pratiquement plus des nombres. Cette lettre pose donc une autre question, car maintenant qu’il est presque assuré qu’aucun de ses contemporains ne pourra résoudre cette dernière question, il la formule  d’une façon fort ambigüe (subtile ?) : « J’ay ensuite considéré certaines questions […] Toutes les puissances quarrées de 2 augmentées de l’unité sont nombres premiers. […] » ? À première vue on ne peut savoir avec certitude s’il a seulement « considéré ces questions » ou s’il prétend en avoir la démonstration pour chacune, jusqu’à la dernière. Notre hypothèse étant qu’il savait dès le début que cette dernière n’était pas valide, il se pourrait qu’il ait eu ici plusieurs objectifs :

  • D’abord laisser penser aux plus sceptiques qui ne voudraient pas (ou ne pourraient pas) le suivre qu’il s’était trompé (et tant pis pour eux), et augmenter encore davantage leur trouble quant à son affirmation sur son Grand Théorème prétendument démontré. C’était un Gascon, donc un matamore ? Soit ! Ils ne chercheront pas, comme lui, « subtilement », ingénieusement » donc, sa fameuse preuve, ils ne la trouveront donc pas de si tôt et languiront très longtemps, alors tant pis pour eux.
  • Semer le doute chez beaucoup, et les laisser dans l’incertitude.
  • Ensuite encourager les quelques mathématiciens qui auront confiance en ses capacités et le suivront, à travailler à la sueur de leur front… jusqu’à ce qu’ils découvrent que cette conjecture est fausse. Pour parvenir à cela ils auront fait d’importantes découvertes.
  • Last but not least, sidérer, émerveiller même, les plus curieux de ses lecteurs, les stimuler pour qu’ils cherchent ce qu’il peut y avoir de plus sublime, dans ce qu’il a bien voulu nous laisser de ses travaux. Alors qu’ils s’interrogent : pourquoi affirmer une chose quand on peut prouver qu’elle est fausse ? Fermat utiliserait-t-il alors, autre part que pour ces nombres 22n+1, de subtils moyens pour nous mettre sur la voie de ses découvertes ? Dans la note N°2 peut-être ? Si l’on s’est déjà s’interrogé sur la présence de ces bizarreries, alors on sera encore plus enclin à les étudier avec soin.

Énoncer en toute connaissance de cause, comme nous le croyons, cette fausse proposition, sera pour Fermat avantageuse à tous points de vue. Le lecteur curieux pourra lui-même chercher d’autres avantages à cette affirmation. Nous pensons maintenant être au fait des méthodes adoptées par Fermat pour encourager d’éventuels suiveurs, il  livre des indices de-ci de-là, laisse le temps faire son œuvre et travailler pour lui (il n’a plus le choix d’ailleurs, il est lâché de tous côtés). Le destin décidera lui-même de l’avenir du théorème. À partir de là, plusieurs possibilités s’offriront à cette énigme :

– Si des curieux s’avisaient un jour qu’il y a quelque chose de bizarre avec ce « j’en ai entièrement révélé » (detexi) avec une grosse tache sur le « t », ou, de la même façon, si un curieux s’avisait qu’il y a quelque chose de très bizarre avec ce « detexi », transformé en un « detexs », avec un « s » surmonté d’un point, eh bien on pourrait alors essayer de comprendre ce que cela peut bien vouloir signifier. Si la démonstration est entièrement découverte, mise au jour et peut-être même tissée, ce ne peut être que dans la note elle-même, qui a été une fois parfaitement écrite et deux fois corrompue, sur le même mot, dans la même édition de 1670, et il faudra alors l’étudier de très près, en se souvenant que Fermat utilise le latin « comme une machine à encoder et à décoder ». Un aspect non négligeable de l’étrangeté de cette note, utilisé d’ailleurs par les détracteurs de Fermat, est que nulle part ailleurs que sur cette observation N°2 (tiens, « 2 » comme l’exposant 2, amusant), Fermat ne fait d’allusion au théorème général. Lorsqu’il évoque pour la première fois en 1640 les exposants 3 et 4, déjà est sous-jacent le théorème, pourtant, au cours des 19 années qui suivent (jusqu’en 1659) où il continuera de se passionner pour les mystères des nombres, et même jusqu’à sa mort en 1665, l’existence – ou la non-existence – d’un théorème général ne sera, de près ou de loin, jamais évoquée ailleurs que dans cette fameuse note. Réserve-t-il ce théorème pour une annotation de son Diophante, pour lequel son fils devra trouver un éditeur ? C’est à mon sens la plus logique et la meilleure explication.

–  Si des curieux s’avisaient un jour qu’il y a quelque chose de très bizarre avec cette note mais qu’aucun mathématicien ne parvienne à faire apparaître une démonstration à l’aide des outils arithmétiques fondamentaux, eh bien tant pis, « on continuera comme avant. »

– Si aucun mathématicien ne veut s’interroger sur la cause de ces bizarreries,  eh bien tant pis, « on continuera comme avant. »

– Si personne ne trouvera jamais étrange l’une de ces modifications (ou les deux) sur sa note la plus importante, et bien d’autres choses encore, eh bien tant pis, « on continuera comme avant. »

Il est possible que des mathématiciens qui liraient ces remarques les trouvent parfaitement incongrues. Il pourraient aussi juger que les arguments parfois très étranges avancés pendant des siècles pour décrédibiliser Fermat sont très fondés, juger aussi que les bizarreries présentes sur la note du plus célèbre théorème de Fermat, le théorème qui a fait couler le plus d’encre au monde (beaucoup  plus d’encre que pour la tache figurant le t de detexi) sont tout à fait admissibles et pertinentes, chacun en effet voit midi à sa porte, porte que Pierre fermat mais pas complètement, nous laissant d’ailleurs deux petites clefs à peine cachées dans deux des trois entrées de son dernier refuge.

Au milieu du XIXe siècle, alors que les mathématiciens se désespèrent de jamais pouvoir trouver une preuve arithmétique du dernier théorème de Fermat qui reste à démontrer, Ernst Kummer amorce un virage qui va donner une tout autre tournure à l’affaire. Changeant radicalement d’approche il a l’idée de faire appel aux nombres complexes, de développer la théorie des nombres complexes idéaux (théorie qui allait devenir un outil très important de l’algèbre). Ce faisant il démontre le théorème pour la quasi-totalité des 99 premiers exposants, ainsi que pour quelques cas de nombres premiers irréguliers, tout en affirmant toujours que ce problème n’était une curiosité. Cette première « grande » avancée (on n’avait démontré jusqu’alors que les cas où n = 4, 5, 14, puis 7), même si elle est partielle et très relative par rapport à n infini, suscite l’enthousiasme chez les savants qui jusqu’alors n’avaient guère progressé. Mais le pli est pris puisqu’on abandonne définitivement la pure recherche arithmétique pour tenter de démontrer le théorème, d’autant que la nouvelle voie est riche de promesses pour la nouvelle mathématique. Désormais on va plutôt se consacrer à explorer cette nouvelle, étrange et complexe espèce de nombres, dont on voit qu’ils vont nous aider à aller beaucoup plus avant dans la compréhension des nombres premiers, en étudiant les questions mathématiques les plus profondes, comme celle de Fermat, même, et bien d’autres encore. Jacques Roubaud note qu’à partir de ce moment, il devient impossible à un mathématicien ne possédant pas comme Fermat autant de connaissances en arithmétique élémentaire, d’avoir accès aux raisonnements de Fermat. On recommencera donc à étudier le Fermat, mais différemment. Oui ce sera difficile, oui ce sera complexe, mais au moins l’espoir est revenu, et surtout on doute encore plus que Fermat ait pu démontrer son théorème, l’honneur est sauf.

Ainsi, depuis 1670, au fil des années, puis des siècles, tout un empilage de mauvais arguments s’est progressivement érigé, arguments qui s’additionnaient les uns aux autres pour se fortifier mutuellement,  et tenter ainsi de prouver que Fermat n’a jamais eu la preuve de ce qu’il avançait. Ses autres théorèmes avaient résisté beaucoup moins longtemps et reçurent meilleur accueil. Une telle somme de tentatives faites pour discréditer un théorème qui semblait trop inaccessible – voire même impossible à prouver – procède-t-elle d’une quelconque logique ? Puisqu’on ne parvient pas à trouver la preuve arithmétique de Fermat, il faut donc trouver des non preuves à sa preuve. « Ainsi, des mathématiciens qui avaient fait de vains efforts pour démontrer les théorèmes trouvés par Fermat ont voulu jeter quelque doute sur la réalité des démonstrations qu’il déclarait posséder, et ont supposé que ce grand géomètre était parvenu à certains résultats plutôt par induction et un peu au hasard que par une analyse rigoureuse de la question. » Cette appréciation fut écrite par un mathématicien italien (Gugliermo Libri) au XIXe siècle. Libri s’était rendu célèbre pour de nombreux vols de livres rares, lettres et manuscrits, commis dans les nombreuses bibliothèques où il avait facilement accès. Nonobstant que Libri était un grand voleur de documents, il n’en fut pas moins un mathématicien précoce, écrivant à 17 ans un Mémoire sur la théorie des nombres qui le fit remarquer par Cauchy et Gauss. Nous non plus ne suivrons pas les péremptoires contempteurs qui « pensent savoir tout ce qu’il y a à savoir, dès les commencements », les laissant à leurs certitudes et à leur logique incertaine. Revenons à notre étude : avec la dernière proposition plusieurs fois suggérée, Fermat adopte la posture de celui qui réclame de l’aide à tous. C’est en opposition avec l’habitude de l’époque, et encore plus chez lui. Il soumet même cette proposition à Pascal (1654), qui a pourtant abandonné l’arithmétique depuis longtemps pour se consacrer à la théologie. Fermat, ayant jaugé les plus grands mathématiciens de l’époque, peut douter qu’ils puissent facilement parvenir à leur fins. Mais l’essentiel pour Fermat n’est pas là, l’étude de la science des nombres n’a pas de limites, il veut « faire passer dans l’esprit de ceux qui viendraient après [lui] la Relation des nouvelles découvertes en la science des nombres pour traditio lampadis ad filios » (pour transmettre le flambeau aux enfants, aux successeurs) (lettre à Carcavi et à Huygens de 1659). Ne nous fait-il pas là aussi, mais dans une lettre cette fois – une lettre testament –, un nouveau clin d’œil ?

IV. De l’usage du latin chez Fermat

Avec l’autorisation des Éditions DROZ, et de deux des auteurs, Ludivine Goupillaud et Emmanuel Bury, que je remercie chaleureusement ici, voici quelques citations, extraites  de l’ouvrage  : Tous vos gens à latin. Le latin, langue savante, langue mondaine (XIVe-XVIIsiècles), Actes du colloque de l’Université de Saint-Quentin-en-Yvelines, à Paris E. N. S Ulm [compte-rendu] (2006).

« Ludivine Goupillaud s’est interrogée sur l’usage du latin chez le mathématicien Pierre de Fermat (1601-1665) […]. Selon L. Goupillaud, le mérite du latin, aux yeux de Fermat, est d’être une langue rigoureuse conforme aux exigences des mathématiques, ce que ne permettent pas alors les langues vernaculaires. Langue fixée de longue date par des normes grammaticales, elle peut fonctionner aisément comme une « machine à coder et à décoder », même si, comme on le voit sous la plume de Fermat, elle exige parfois des gloses en français pour expliciter le sens exact des termes employés. Cela dit, le caractère formulaire des sentences latines, à la fois gage de clarté et d’élégance, permet la fixation des règles dégagées, sans l’embarras de la glose explicative : la concision – on sait combien les mathématiciens de l’âge classique aiment sauter les étapes intermédiaires du raisonnement – suscite réaction et activité de la part du lecteur, quitte à prendre le risque de l’ellipse énigmatique ou du cryptage (ne sommes-nous pas alors dans l’âge d’or du concetto, où le modèle latin demeure prédominant ?) S’il existe un sublime en mathématique, le latin en est, selon L. Goupillaud, le « marqueur » par excellence, suscitant l’admiration devant les abîmes ouverts par les raisonnements mathématiques. […] Oublier le latin aujourd’hui, c’est donc prendre le risque de fausser les perspectives et d’être frappé d’une amnésie partielle de ce qui a constitué et qui constitue encore le patrimoine de notre culture européenne. » Emmanuel Bury

Pour Ludivine Goupillaud, Fermat s’attribuait un rôle d’« éclaireur », « ouvrant la piste à ceux qui auront le courage de le suivre. » Elle elle emploie à son sujet les expressions : « course folle », « boulimie d’expérience nouvelles », « état proche de la transe et de l’enthousiasme (au sens étymologique du terme : du grec ‘enthousia’, inspiration divine, et ‘théos’, dieu)  », « admiration devant les abîmes ouverts par les raisonnements mathématiques ».

Elle cite l’auteur (inconnu) du Traité du Sublime  : « La marque infaillible du sublime, c’est quand nous sentons qu’un discours nous laisse beaucoup à penser, qu’il fait d’abord un effet sur nous, auquel il est bien difficile, sinon impossible, de résister, et qu’ensuite le souvenir nous en dure, et ne s’efface qu’avec peine. »

Ainsi que Fermat : « Je ne puis donner ici la démonstration, qui découle des mystères multiples, variés et impénétrables, de la science des nombres ; j’ai décidé de consacrer un livre entier à ce sujet et de repousser d’une façon étonnante les bornes de cette branche de l’arithmétique, au-delà des limites anciennement connues. » (Observation XVIII sur son Diophante).

V. Vēnīvīdīvīcī. Văle : les 4 mots écrits par Pierre de Fermat, à l’encre sympathique, dans la marge 

Les interprétations que l’on peut faire de ce que nous a livré Fermat en arithmétique, jusque dans ses correspondances, dépendent (entre autres), du regard, confiant ou sceptique, que l’on y porte. Je pense que les mathématiciens qui ont minimisé ses découvertes par des remarques parfois fort critiques ont négligé qu’à son époque les mathématiques ne possédaient leur langage formel actuel, en effet les démonstrations utilisaient beaucoup le langage naturel, moins les symboles mathématiques. Si le pouvoir du raisonnement intuitif, l’efficacité, y gagnaient, cette formulation en mots, en langue française par exemple, nous paraît aujourd’hui assez alambiquée. Dans son livre Un théorème de Fermat et ses lecteurs, C. Goldstein, donne un joli exemple (p.87) « qui illustre élégamment l’efficacité et la sobriété légendaire de Fermat ». Heureusement, il -ci avait à sa disposition le latin, langue des savants dans laquelle il excellait, et qui convenait à son désir de condenser les énoncés (dans ses observations sur le Diophante par exemple), y utilisant l’ellipse pour ne  pas s’embarrasser de périphrases alourdissant des formulations alors rendues absconses. Comme il manquait de temps cette méthode lui convenait d’autant plus. Ainsi il écrivait à Mersenne : « J’ay si peu de commodité d’écrire mes démonstrations… que je me contente d’avoir découvert la vérité et de sçavoir le moyen de la prouver lorsque j’auray le loisir de le faire. » De même Libri écrivait à propos de Fermat : « Satisfait de vaincre les plus grandes difficultés, il communiquait ses découvertes à ses amis, à des géomètres tels que Pascal, Descartes, Roberval, Frenicle, Wallis, Torricelli, Huygens, et souvent il ne gardait pas même copie des démonstrations qu’il leur adressait. C’était surtout par l’entremise du père Mersenne, dont la correspondance était si étendue, que se faisaient ces communications. »

Il préférait donc utiliser son temps libre (c’était un magistrat assidu et très dévoué) à faire progresser ses travaux personnels par des échanges avec ses correspondants, échanges qui avaient l’avantage de les stimuler – et de le stimuler lui-même. Les historiens qui se sont penché sur ses travaux et l’ont plus ou moins dénigré n’ont peut-être pas suffisamment pris en compte cet aspect psychologique, négligeant trop ce qu’autorisait la stratégie du défi : ne livrer des indices qu’au compte gouttes, et parfois uniquement quand les discussions stagnaient trop. Reconnaissons en outre que si Fermat avait tout révélé de ses découvertes, nos mathématiques actuelles n’en seraient pas à ce niveau (tous les travaux que son théorème, surtout, a déclenchés). C’était non seulement un professionnel dans son domaine, mais aussi un visionnaire. La touche finale, la french touch – ou plutôt la touche latine –, a été cette observation énigmatique que nous a livrée son fils Samuel : à sa mort, il ne mettait pas un terme à son travail de pédagogue (le génie de Fermat il est aussi là), il mettait un point d’orgue à la démarche qui lui avait si bien réussi de son vivant, sans trop se fatiguer et en livrant le plus gros de ses défis par un sublime pied de nez à tous ses détracteurs, avant de goûter un repos bien mérité. À notre époque il aurait été un professeur de mathématiques remarquable, suscitant chez ses élèves, par les questions les mieux choisies, le goût de faire de grandes découvertes.

*

   Qu’aurait apporté à cet homme remarquable d’exposer noir sur blanc quelques pages qui auraient risqué de le sortir l’ombre malgré les jeunes savants progressistes qui arrivaient et qui n’avaient que faire de ses travaux datés ? Sortir de l’ombre, le souhaitait-il, lui si attaché à la tranquillité dans son travail assidu de juriste dans lequel il prenait parfois des risques en combattant l’injustice, à une époque troublée par les conflits religieux et les luttes de pouvoir – c’était l’époque de Richelieu et de Mazarin. Au fait, pourquoi Fermat aurait-il tant voulu rencontrer Pascal, comme on le lit dans une étrange lettre de juillet 1660, alors que tous deux étaient déjà très malades ?

Claude Mariotti

(Derniers ajouts le 18/12/2017)

BIBLIOGRAPHIE RESTREINTE

  • Catherine Goldstein :
  • Un théorème de Fermat et ses lecteurs, Éditions des Presses universitaires de Vincennes (PUV), 1995. Voir l’article de Alain Herreman et l’article de Hélène Gispert au sujet de l’ouvrage.
  • Descente infinie et analyse diophantienne : programmes de travail et mise en oeuvre chez Fermat, Levi, Mordell et Weil, Cahier du Séminaire d’histoire et de philosophie des mathématiques, 2e série, volume 3, 1993, p. 25-49. [fichier PDF, 152 Ko], 1993.
  • L’arithmétique de Pierre de Fermat dans le contexte de la correspondance de Mersenne : une approche microsociale, Sciences et techniques en perspective, IIe série, 8, (1), p. 14-47. [fichier PDF, 620 Ko], 2004.
  • Avec Karim Belabas « Fermat et son Théorème (et quelques variations arithmético-cryptographiques) », Orsay Info, vol. 57,‎ novembre 1999version préliminaire.
  • Laurent Hua et Jean Rousseau : Fermat a-t-il démontré son grand théorème ? L’hypothèse « Pascal », Essai. L’Harmattan, 2002, 188 p. La 1re partie (128 pages) est une étude historique : Fermat, vie, œuvre, premières formulations partielles et leur contexte, dernières formulations partielles, diverses formulations dans son  Diophante.
  • Tous vos gens à latin – Le latin langue vivante, langue savante, langue mondaine (XIVe-XVIIe siècles), Éditions Droz, 2005, dont une étude de Ludivine Goupillaud : Demonstrationem mirabilem detexi : mathématique et merveille dans l’œuvre de Pierre de Fermat.
  • Albert Violant I Holz : L’énigme de Fermat : Trois siècles de défi mathématique, RBA (es) – Le Monde, coll. « Le Monde est mathématique » (n° 9), 2013, 154 p.
  • Jacques Roubaud : Mathématique:  (récit), Seuil, 1997.
  • Simon SinghLe Dernier Théorème de Fermat. Récit de vulgarisation passionnant d’une quête qui dura 324 ans. Éditions J.C. Lattès, 1998.