4. La propriété de Baire
Les sous-espaces ouverts des espaces métriques complets et les espaces métriques localement compacts possèdent la propriété suivante, appelée propriété de Baire, qui joue un rôle important dans de nombreuses questions d'analyse : Si Un est une suite d'ouverts partout denses, alors l'intersection des Un est un ensemble partout dense.
Sous le nom de « méthode de la catégorie », ce résultat a été utilisé systématiquement par l'école mathématique polonaise pour démontrer de profonds théorèmes (théorème du graphe fermé, théorème de Banach-Steinhaus ; cf. Stefan banach ; espaces vectoriels normés).
Par passage au complémentaire, on peut énoncer cette propriété : si Fn est une suite de fermés dont le complémentaire est partout dense, alors la réunion des Fn a un complémentaire partout dense. On dit qu'un ensemble A est rare si le complémentaire de son adhérence est partout dense ; ainsi, la propriété de Baire entraîne que, si un ensemble est réunion dénombrable d'ensembles rares (on dit qu'un tel ensemble est maigre), son complémentaire est partout dense. En particulier ce complémentaire est non vide ; ce type de raisonnement a été utilisé par S. Banach pour démontrer l'existence de fonctions possédant des singularités données à l'avance. Voici maintenant, pour terminer, un énoncé faisant intervenir la notion d'ensemble maigre et permettant, grâce à elle, de « dire quelque chose » d'une fonction qui est limite simple d'une suite de fonctions continues (on sait qu'une telle limite n'est pas nécessairement une fonction continue) : Si E est un espace métrique complet et F un espace métrique, soit fn une suite d'applications continues de E dans F telles qu'en chaque point x ∈ E la suite (fn(x)) converge dans F vers un élément f (x). Alors l'ensemble des points x de E où f n'est pas continue est un ensemble maigre.
[…]… pour nos abonnés, l'article se prolonge sur 9 pages…
