6. Le « grand théorème » de Fermat
• L'énoncé
Un énoncé simple, tout d'abord. Il existe des carrés qui sont la somme de deux autres carrés : par exemple 25 = 5 × 5 est la somme de 16 (= 4 × 4) et de 9 (= 3 × 3). Il y en a beaucoup d'autres (en fait une infinité), comme 4 225 (= 65 × 65) est égal à 1 089 (= 33 × 33) + 3 136 (= 56 × 56) ; à cause du fameux théorème de Pythagore, cela revient à dire qu'il existe des triangles rectangles avec des côtés entiers. Les choses se gâtent (ou deviennent plus intéressantes) dès qu'on passe des carrés aux cubes ou aux puissances supérieures. Il n'existe pas de cube somme de deux cubes, ni plus généralement de puissance d'exposant supérieur à 2, somme de deux puissances de même exposant : autrement dit, l'équation an + bn = cn n'a pas de solutions a, b, c en entiers non nuls dès que n est au moins égal à 3.
C'est cet énoncé d'apparence banale que Pierre de Fermat nota en marge d'un de ses livres de mathématiques. Il ajouta à l'énoncé, et la légende s'en est abondamment nourrie, que la marge était trop étroite pour contenir la merveilleuse démonstration qu'il en avait trouvée.
Fermat ne parla jamais du cas général de son « théorème » dans ses lettres ; une étude serrée des dates de ses recherches et de leur contenu indique qu'il comprit peut-être que sa démonstration initiale n'était pas valide pour toutes les puissances. Fermat esquissa seulement dans une autre note une preuve pour l'exposant 4, et c'est par de maigres documents, des extraits de lettres, les fameuses notes, publiés par le fils du mathématicien après la mort de Fermat, que ses successeurs eurent accès à ses recherches. Au début du xixe siècle, la plupart des énoncés de Fermat étaient soit munis de preuves, soit infirmés. À une exception près, celle qu'on sait. Il y avait déjà eu pourtant des tentatives, dont certaines dues à d'importants mathématiciens : Euler, Legendre, Dirichlet, Lamé avaient ainsi élucidé les cas des premiers exposants (n = 3, 5, 7 — il suffit en effet de prouver le théorème pour 4 et pour les exposants premiers, c'est-à-dire non divisibles par un autre entier supérieur à 1, puisqu'il est alors vérifié automatiquement pour tous les multiples), chacun demandant un redoublement de persévérance et d'astuce.
[…]… pour nos abonnés, l'article se prolonge sur 6 pages…
