INFINI, mathématiques

Les ensembles infinis de Dedekind

En 1870, Georg Cantor commence sa carrière mathématique en s'attaquant, après B. Riemann et H. Hankel, à l'étude des critères de convergence des séries de Fourier. Depuis longtemps déjà, l'infini mathématique avait cessé d'être une source d'inquiétudes métaphysiques : A. Cauchy, B.  Bolzano et K.  Weierstrass l'avaient pour ainsi dire réduit à l'état domestique. Le pas décisif avait été accompli ici par Weierstrass. En arithmétisant (pour les besoins de la théorie des fonctions analytiques) le champ de l'analyse, ce dernier avait produit, en dehors de tout appel à l'intuition géométrique, le système d'objets sur lequel pouvaient être définis rigoureusement les concepts de suite infinie, de limite et de convergence : le système des nombres réels. Dans ce système, archimédien, le concept inquiétant de « grandeur infinitésimale » était éliminé. Par là se trouvaient justifiées les précautions formulées jadis par d'Alembert et Lagrange, mais aussi les méthodes pratiquées par Cauchy dans sa recherche de stricts critères de convergence. L'essentiel tenait ici au sens qu'avait pris, dans la pratique mathématique de Weierstrass, l'expression « rigoureusement ». Le système avait été produit en une suite d'enchaînements démonstratifs, obtenus par extension et complétion à partir du seul concept de nombre entier et organisés en un système déductif cohérent. Ainsi le prédicat « infini » subissait un nouveau déplacement. Il n'était plus importé dans les mathématiques. Il exigeait au contraire d'être défini dans les formes requises par l'appareil logique mis en œuvre et d'être saisi lui-même comme prédicat spécifique du champ d'objets que l'extension produisait. Sur ce point, un éclaircissement capital devait être apporté par R. Dedekind, lorsque, au début de la décennie 1870, il avait proposé, comme définition des ensembles infinis, la propriété qui, d'après Bolzano, constituait un des paradoxes de l'infini : la possibilité d'établir une correspondance biunivoque entre les éléments d'un ensemble et ceux de l'un de ses vrais sous-ensembles (cf. Richard Dedekind). Définition remarquable, car elle éliminait du concept d'infini toutes les considérations confuses concernant les « grandeurs », les « quantités variables », l'« accroissement indéfini ». Elle s'articulait fort bien sur les données de l'analyse weierstrassienne. Elle supposait un matériau conceptuel minimal et fort abstrait : la notion (à vrai dire intuitive) d'ensemble (« système de choses » disait Dedekind) et celle d'application, que Frege à la même époque définissait en termes purement logiques. Cependant, le concept ainsi posé désignait une pure virtualité. Pour parler le langage traditionnel, l'infini que produit l'application est « syncatégorématique » : il en est de lui comme de l'infini enveloppé dans l'exemple leibnizien de la série :

qui n'est jamais donnée comme totalité actuelle de ses éléments, mais comme simple possibilité de répéter indéfiniment l'opération qui définit son terme général. Dans le cas de Dedekind, l'« infini » est donné par la médiation de la fonction ϕ qui détermine la correspondance biunivoque exigée par sa définition. Celle-ci nous permet fort bien d'appliquer le prédicat « infini » à l'ensemble des entiers naturels par exemple. Mais elle ne nous permet nullement de considérer comme bien fondée l'expression « totalité infinie des entiers naturels ». Or, s'il est aisé de définir une fonction appliquant d'une manière biunivoque l'ensemble des nombres réels sur l'un de ses vrais sous-ensembles et de désigner cet ensemble comme un « infini syncatégorématique », on est[...]