Des fonctions bien bizarres

Tout le monde a au moins une perception intuitive de ce que l'on appelle une fonction (numériquenumérique) : on se donne une suite de règles -- une recette -- permettant de fabriquer un deuxième nombre, X, à partir d'un premier x. x peut être un entier, un réel, un complexe, un quaternion, en principe tout est envisageable, rien n'est interdit ; la recette, ce peut être élever x au carré et lui ajouter 3, obtenant X = x² + 3. Techniquement, on note x → X = f(x), f désignant la recette.

Cela fait, une question vient immédiatement à l'esprit. Il est sûr que quand x varie, X -- donc f(x) -- varie aussi. Dès lors, quand x varie gentiment autour d'une valeur fixe x₀, sans « sauter », la fonction f fait-elle de même ? Si oui, on dit que f est continue en x₀. Techniquement, cela s'exprime en invoquant un processus de limite, difficile à bien comprendre, mais d'une importance capitale. Intuitivement, la continuité signifie que quand on s'approche de x₀ (supposé pour simplifier être un nombre réel), on trouve la même valeur pour f que l'on arrive en x₀ par au-dessous (par valeurs inférieures) ou par au-dessus (par valeurs supérieures).

Une autre notion essentielle est celle de dérivée, survenant naturellement quand on se demande comment varie X (vite, pas vite ?) quand x varie. Pour cela, on fabrique le rapport entre l'accroissement ΔX et l'accroissement Δx au voisinage d'une valeur fixe x₀ : si ce rapport a une grande valeur, qu'elle soit absolue ou non, cela veut dire que la fonction varie vite, s'il est petit, la fonction varie lentement. Ensuite, on examine ce qui se passe quand Δx devient de plus en plus petit. Poussant les choses à l'extrême, on passe à la limite au sens du mathématicienmathématicien et alors, de deux choses l'une : ou bien la limite existe -- on dit alors que la fonction est dérivable en x₀, et on note f'(x₀) la valeur de la limite --, ou elle n'existe pas.

Dans les cas ordinaires (les « bonnes » fonctions), la dérivée existe sauf peut-être pour quelques valeurs de x, le « quelques » pouvant d'ailleurs être très grand, voire aussi grand que le nombre de nombres entiers, ; on a longtemps cru que ce dernier cas, pour une fonction continue, était le pire possible, à la limite une invention du diable. Vers 1870, Bolzano, Weierstrass et du BoisBois-Reymond ont exhibé des exemples de fonctions continues partout, mais n'ayant nulle part de dérivée, provoquant l'ire de Charles Hermite : « Je me détourne avec effroi et horreur de cette plaie lamentable des fonctions continues qui n'ont point de dérivées », et la perplexité de Poincaré : « Autrefois, quand on inventait une fonction nouvelle, c'était en vue de quelque but pratique ; aujourd'hui, on les invente tout exprès pour mettre en défaut les raisonnements de nos pères, et on n'en tirera jamais que cela. »

Il arrive aux plus grands génies de se tromper. Bien sûr, il n'y a rien de coupable dans l'imagination de Bolzano et ses compères, car les grandes découvertes mathématiques résultent souvent de prémisses qui semblent extravagantes pour le béotien, et parfois même monstrueuses pour les initiés. Et puis, on peut aussi se dire que si les mathématiciens sont en droit de soudainement sortir des sentiers battus, leurs apparentes divagations ne servent pas à grand-chose en pratique, et que ce n'est pas cela qui va inverser le champ magnétique terrestrechamp magnétique terrestre ou faire sortir aujourd'hui de l'utopie les applications civiles de la fusion nucléaire.

Jean Perrin, prix Nobel de physique 1926, a apporté la première preuve de l'existence des atomes en utilisant une formule d'Einstein issue de ses travaux sur le mouvement brownien. Il a fait le lien entre les trajectoires de particules effectuant un tel mouvement et les fonctions non dérivables découvertes au XIX^e siècle. © DP

Voire. Il aura fallu le génie de Jean Perrin, vers 1905 (année bénie des dieux) pour réaliser que ces monstres existent (presque) dans la nature. Étudiant le mouvement aléatoire de petites particules dans un fluide (mouvement brownien) à l'aide d'un simple microscope optique, Perrin (voir note) écrit -- la citation intégrale est de rigueur -- : « On ne peut non plus fixer une tangente, même de façon approchée, à aucun point de la trajectoire, et c'est un cas où il est vraiment naturel de penser à ces fonctions continues sans dérivées que les mathématiciens ont imaginées, et que l'on regarderait à tort comme des curiosités mathématiques, puisque la nature les suggère aussi bien que les fonctions à dérivées. »

Ainsi, les monstres imaginés par Bolzano existent dans la nature ? Presque, car ici intervient une subtilité à propos de laquelle il arrive que (certains) mathématiciens et (certains) physiciensphysiciens s'empoignent comme des chiffonniers. La subtilité est que le mathématicien peut passer à la limite avec son crayon sur son papier, mais que le physicien, lui, ne peut jamais le faire, car la nature, souveraine, a ses règles et ses échelles dont nul ne peut disposer à sa guise.

Quand Perrin traduisait en ses termes sa fulgurante intuition, il savait bien que, strictement, ce n'était pas tout à fait vrai : pour fabriquer la tangente (donc la dérivée), il faut passer à la limite d'accroissements nuls (pour la position et l'intervalle de temps). Or lui, Jean Perrin, ardent défenseur de l'atomisme envers et contre tous, savait bien qu'il y a forcément une échelle de longueur minimale en dessous de laquelle le physicien est aveugle au sens où ce que lui disent ses yeuxyeux à plus grande échelle ne doit pas être extrapolé vers l'infiniment petit (tiens, tiens, comme en mécanique quantique ?). Le physicien doit croire ce qu'il voit, avec ses yeux, avec ses appareils ou à travers les théories qui expliquent l'expérience, pas plus.

Cet exemple met en lumière ce qu'il ne faut pas considérer comme une ligne de fracture entre l'univers des mathématiciens et celui des physiciens -- tout juste une ligne de démarcation, et encore est-elle floue --, gardant en tête que, finalement, le zéro et l'infini des premiers sont toujours à relativiser pour les seconds, ces derniers devant toujours se référer aux échelles physiquesphysiques du problème qu'ils analysent. Pour qui fait de la spectroscopie atomique, la distance Terre-LuneLune, c'est vraiment l'infini, alors que pour le cosmologiste, c'est un « infiniment petit » ; pour qui se demande comment les atomesatomes s'assemblent pour former des moléculesmolécules, le noyau atomique est un point de rayon nul (et sans structure, comme tout bon point) alors que pour l'expert en gluonsgluons et quarksquarks, le noyau, c'est un peu comme une galaxiegalaxie.

L'importance des échelles se mesure aussi à propos de l'opération, à priori banale, en tout cas élémentaire, consistant à vouloir tracer le graphe des fonctions de Bolzano et Weierstrass. Le physicien est tenté de le faire, mais il s'aperçoit vite qu'il ne peut pas (ni lui, ni personne) : pour représenter graphiquement cette fonction, il faudrait un crayon dessinant un trait infiniment fin, et cela n'existe pas. Alors il se contentera de dessiner, dans un premier temps, quelque chose comme ce qui est représenté sur la figure ci-dessous (extraite de l'ouvrage Des mathématiques pour les sciences, Claude AslangulClaude Aslangul, De Boeck, Bruxelles, 2011). Ensuite, prenant un crayon beaucoup plus fin, il pourra faire le dessin de droite ; il pourrait recommencer, mais de toute façon, il ne pourra jamais faire beaucoup mieux, même avec un crayon ayant la pointe d'un quark. En tout cas, les dessins lui donnent une bonne idée du caractère monstrueux des objets qu'il manipule -- et notamment de leur invariance d'échelle --, c'est déjà pas mal.

Représentation graphique d'une approximation de la fonction de Weierstrass. Un zoom sur un intervalle ([0; 0,0001], par exemple) produit un graphe ayant grosso modo la même allure (à droite). © Claude Aslangul

Le mathématicien, lui, dira que le graphe est impossible à tracer, et il a raison. Mais est-ce vraiment une cause de divorce ?

Note

• Jean Perrin, Les atomes (Flammarion, Paris, 1991).