Connexité locale et hölderienne des IFS (version préliminaire) 5/1/1996

Connexité locale et par chemins hőlderiens pour les systèmes itérés de fonctions

Thierry Bousch CNRS, URA 1169 Mars 1993

Résumé. Dans cet article, nous montrons que les ensembles

\begin{aligned}M & = \{s ∈ D : ∃a_{1}, a_{2} … ∈ \{−1, 0, 1\} tq 1 + ∑_{k=1}^{∞} a_{k}s^{k} = 0\} \\ M_{1} & = \{s ∈ D : ∃a_{1}, a_{2} … ∈ \{−1, 1\} tq 1 + ∑_{k=1}^{∞} a_{k}s^{k} = 0\} \end{aligned}

définis dans [B-th] sont localement connexes, et que deux points quelconques peuvent être joints par un chemin hölderien. L’ensemble M est le lieu de connexité du système itéré de fonctions z ↦ sz ± 1, et M_{1} en est un sous-ensemble remarquable. La notion de quotient “récursivement connexe” du Cantor, inspirée par Odlyzko et Poonen, permet, dans le cas des systèmes itérés de fonctions, d’étendre au plan des paramètres les résultats déjà connus dans le plan dynamique.

Connexité locale et par chemins hőlderiens pour les systèmes itérés de fonctions

Thierry Bousch CNRS, URA 1169 Mars 1993

1. Rappels

1.1. Distance de Hausdorff entre compacts

Soit E un espace métrique et Com E l’ensemble des compacts non vides de E. La distance de Hausdorff entre deux éléments K, L de Com E est définie par

d_{H}(K, L) = max(∂(K, L), ∂(L, K)) où ∂(K, L) = max_{k∈K} d(k, L).

C’est une distance, qui fait de Com E un espace métrique complet (resp. compact) si E est complet (resp. compact).

1.2. Systèmes itérés de fonctions

Pour une présentation complète de cette notion et des énoncés classiques, le lecteur est prié de se référer à [Hut], [BH], [BD] ou [B-th]. Un système itéré de fonctions (en anglais IFS — Iterated Function System) est la donnée d’un espace métrique complet E et de n applications f_{1} … f_{n} de E dans lui-même, lipschitziennes de rapport k < 1.

Dans cet article, nous considèrerons seulement le système de deux fonctions f_{+}(z) = sz+1 et f_{−}(z) = sz−1 de ℂ dans lui-même, où s est un nombre complexe de module strictement inférieur à un.

On sait qu’il existe un unique compact non vide K(s) tel que

K = f_{+}(K) ∪ f_{−}(K)

Ce compact est appelé l’attracteur du système z ↦ sz ± 1. Il est constitué de tous les nombres de la forme

∑_{k=0}^{∞} a_{k}s^{k}, ∀k a_{k} ∈ {−1, 1} .

Si on note K_{±} = f_{±}(K), alors K_{+} (resp. K_{−}) est constitué de tous les nombres admettant une écriture de la forme ci-dessus, avec a_{0} = +1 (resp. −1).

On sait également — j’y reviendrai — que K sera connexe si et seulement si K_{+} ∩ K_{−} ≠ ∅. Cela signifie qu’on peut trouver deux suites (b_{n}), (c_{n}) ∈ {−1, 1}^{ℕ} telles que b_{0} = +1, c_{0} = −1, et

∑_{k=0}^{∞} b_{k}s^{k} = ∑_{k=0}^{∞} c_{k}s^{k}.

Réécrivons cette égalité en fonction de a_{k} = \frac{1}{2}(b_{k} − c_{k}) ; il vient

∑_{k=0}^{∞} a_{k}s^{k} = 0, a_{k} ∈ {−1, 0, 1} , a_{0} = 1.

Nous énonçons :

Proposition. Le lieu de connexité du système itéré de fonctions z ↦ sz ± 1 est l’ensemble

M = {s ∈ D : ∃(a_{k}) ∈ {−1, 0, 1}^{ℕ} tq a_{0} = 1 et ∑_{k=0}^{∞} a_{k}s^{k} = 0} .

Si s ∈ D − M − {0}, alors K(s) est un ensemble de Cantor. On est tenté de dire que les K(s) sont analogues aux ensembles de Julia et que M est l’analogue du lieu de connexité quadratique. L’analogie ne va malheureusement pas bien loin ; en particulier, bien qu’on ait

0 ∈ K(s) ⟹ K(s) connexe,

l’implication réciproque est fausse (par exemple pour s = 0.1 + 0.7i) parce que K(s) n’est pas nécessairement plein. On peut donc s’intéresser également au lieu des s pour lesquels 0 ∈ K(s).

Proposition. L’ensemble des s tels que 0 ∈ K(s) est

M_{1} = {s ∈ D : ∃(a_{k}) ∈ {−1, 1}^{ℕ} tq a_{0} = 1 et ∑_{k=0}^{∞} a_{k}s^{k} = 0} .

Une autre différence encore avec les polynômes quadratiques est que l’application s ↦ K(s) est continue pour la distance de Hausdorff ; la connexité, tout comme le fait de contenir 0, étant des propriétés fermées pour cette distance, il est immédiat que M et M_{1} sont fermés. Il est moins évident que

\begin{aligned}|s| ⩾ 2^{−1/2} & ⟹ s ∈ M \\ |s| ⩾ 2^{−1/4} & ⟹ s ∈ M_{1} \end{aligned}

Le lecteur se reportera à [BH] et [B-th] respectivement pour les démonstrations de ces deux points.

1.3. Connexité locale

Un espace topologique est dit localement connexe si tout point admet un système fondamental de voisinages connexes. Une condition équivalente (voir [Bbk]) est que toute composante connexe d’un ouvert soit ouverte. On prouve (toujours dans [Bbk]) qu’un quotient d’un espace localement connexe est lui-même localement connexe ; nous utiliserons ce résultat sous une forme légèrement différente :

Lemme. Soient X et Y deux espaces topologiques et f : X → Y une application continue, surjective et fermée. Si X est localement connexe, alors Y aussi.

En effet, l’application quotient f_{/f} : X/f → Y est une bijection continue et fermée, donc un homéomorphisme ; d’où le lemme.

La locale connexité intervient dans deux théorèmes importants : le théorème de Carathéodory (dont je ne parlerai pas), et celui-ci :

Théorème. Tout espace métrique compact connexe localement connexe est connexe par arcs.

Ces deux théorèmes sont énoncés et démontrés dans [DH1].

2. Quotients de l’ensemble de Cantor

2.1. Découpage en pièces

Considérons l’ensemble de Cantor Ω = {0, 1}^{ℕ} comme un ensemble de mots en 0 et 1 infini à droite. Si v désigne un mot de longueur finie n, alors vΩ est le sousensemble de Ω constitué des mots qui commencent par v. Nous dirons que vΩ est une pièce d’ordre n de Ω. Les pièces d’ordre n forment une partition en 2^{n} morceaux de Ω. Deux pièces de la forme v0Ω et v1Ω seront dites adjacentes (ce n’est pas une relation d’équivalence ! Cela revient à dire que leur réunion est une pièce d’ordre un de moins.)

Nous munirons l’ensemble Ω de la distance

d(x, y) = 2^{−n}, où n = inf {k ∈ ℕ : x_{k} ≠ y_{k}} ,

ainsi les pièces d’ordre n sont de diamètre 2^{−n}. Et réciproquement, si d(x, y) ⩽ 2^{−n}, alors x et y sont dans une même pièce d’ordre n.

2.2. Quotients récursivement connexes

Considérons maintenant un quotient séparé π : Ω → π(Ω) du Cantor.

Proposition. Les trois conditions suivantes sont équivalentes :

(i) Chaque pièce a une image connexe par π ; (ii) Deux pièces adjacentes quelconques ont des images non disjointes par π. (iii) Chaque pièce a une image connexe localement connexe par π.

Un quotient vérifiant l’une des propriétés ci-dessus sera dit récursivement connexe.

Preuve. Montrons d’abord que (i) ⟹ (ii). Soient U = v0Ω et V = v1Ω deux pièces adjacentes. Leur réunion est la pièce W = vΩ. On a

π(W) = π(U) ∪ π(V),

et cette union ne peut être disjointe puisque π(W) est connexe.

Prouvons maintenant (ii) ⟹ (i). Il suffit en fait de démontrer que la pièce Ω a une image connexe ; en effet, toute pièce peut être considérée comme un Cantor à part entière, muni d’un quotient qui vérifie encore l’hypothèse (ii) !

Soit θ_{0} une fonction continue de π(Ω) dans {0, 1}, et soit θ = θ_{0} ∘ π : nous devons prouver que cette fonction est constante. Comme elle est uniformément continue, il existe η > 0 tel que

d(x, y) < η ⟹ |θ(y) − θ(x)| < \frac{1}{2}.

Comme la fonction est assujettie à ne prendre que les valeurs 0 et 1, cela signifie que θ sera constante sur toute pièce d’ordre suffisamment élevé.

Si θ n’est pas constante, choisissons une pièce W d’ordre maximum sur laquelle θ n’est pas constante, et écrivons W = U ⊔ V, où U et V sont deux pièces adjacentes d’ordre un de plus. La fonction θ doit être constante sur U et V, sinon cela contredirait la maximalité de l’ordre de W. La fonction θ_{0} est constante sur π(U) et π(V) ; mais d’après l’hypothèse (ii) ces deux ensembles ont un point commun ; par conséquent, θ_{0} prend la même valeur constante sur π(U) et π(V) ; donc θ est constante sur U ⊔ V = W, ce qui est absurde.

L’équivalence de (i) et (ii) est donc démontrée. Il reste encore à prouver que (i) ⟹ (iii). Ici encore, on peut se borner à démontrer que π(Ω) est localement connexe.

Soit donc y ∈ π(Ω) et soit X = π^{−1}(y) sa fibre ; c’est une partie compacte de Ω. Soit X_{n} le 2^{−n}-voisinage de X, c’est-à-dire

X_{n} = {z ∈ Ω : ∃x ∈ X d(x, z) ⩽ 2^{−n}} .

C’est la réunion de toutes les pièces d’ordre n qui rencontrent X. Toutes ces pièces ont par π des images connexes contenant x, donc π(X_{n}) est une partie connexe contenant x, et c’est un voisinage de x dans π(Ω) parce que π est fermée. Quand n → ∞, le diamètre des pièces tend vers 0, et comme π est uniformément continue, le diamètre des π(X_{n}) tend vers 0. Les π(X_{n}) forment donc un système fondamental de voisinages de x, ce qu’il fallait démontrer.

2.3. Le cas particulier des attracteurs

Considérons un espace métrique complet E et f_{0}, f_{1} deux contractions de E. L’énoncé suivant est bien connu :

Proposition. Il existe une unique application continue ϕ : {0, 1}^{ℕ} → E telle que

∀i ∈ {0, 1} ∀x ∈ {0, 1}^{ℕ} ϕ(ix) = f_{i}(ϕ(x)).

L’image de cette application n’est autre que l’attracteur de l’IFS.

Pour tout mot de longueur finie v = (v_{0} … v_{n−1}), définissons f_{v} = f_{v_{0}} ∘ ⋯ ∘ f_{v_{n−1}} ; alors pour tout x ∈ Ω, on peut écrire ϕ(vx) = f_{v}(ϕ(x)).

L’attracteur est donc un quotient du Cantor, non pas seulement comme espace topologique, mais comme IFS : c’est ce qu’exprime l’équation fonctionnelle ci-dessus. Il en découle la

Proposition. Soit K = ϕ(Ω) l’attracteur. Les trois propriétés suivantes sont équivalentes :

(i) L’attracteur K est connexe ; (ii) L’intersection f_{0}(K) ∩ f_{1}(K) est non vide ; (iii) L’attracteur K est récursivement connexe.

Preuve. Comme K = f_{0}(K) ∪ f_{1}(K), on voit que (i) ⟹ (ii). Il est évident que (iii) ⟹ (i). Il reste à voir que (ii) ⟹ (iii) ; Supposons donc que f_{0}(K)∩f_{1}(K) ≠ ∅. Pour montrer que K est récursivement connexe, il suffit de prouver que deux pièces adjacentes quelconques ont des images non disjointes. Soient v0Ω et v1Ω deux telles pièces. Alors

ϕ(v0Ω) ∩ ϕ(v1Ω) = f_{v} ∘ f_{0} ∘ ϕ(Ω) ∩ f_{v} ∘ f_{1} ∘ ϕ(Ω)
= f_{v}(f_{0}(K)) ∩ f_{v}(f_{1}(K))
⊃ f_{v}(f_{0}(K) ∩ f_{1}(K))

donc l’intersection est non vide, ce qu’il fallait démontrer.

2.4. Chemins réguliers

Si K = ϕ(Ω) est un quotient récursivement connexe, alors il est localement connexe et donc connexe par arcs ; il est difficile d’estimer le module de continuité de tels arcs, car celui-ci dépend de façon essentielle de la distance choisie sur K, et il n’y a pas de manière canonique de choisir celle-ci. Appelons pièces-quotient d’ordre n les images dans K des pièces d’ordre n. Si deux points sont dans une même pièce-quotient d’ordre élevé, alors la distance entre ces deux points sera faible.

Définition. Une application γ : [0, 1] → K sera appelée chemin régulier si et seulement si pour tout n ∈ ℕ et tout p ∈ {0 … 2^{n} − 1}, l’ensemble

γ ([\frac{p}{2^{n}} , \frac{p + 1}{2^{n}}])

est entièrement contenu dans une pièce-quotient d’ordre n.

On vérifie aisément qu’un “chemin régulier” est toujours continu. La détermination explicite du module de continuité nécessite la connaissance du diamètre des piècesquotient (voir plus bas). Si γ est définie seulement sur une partie de [0, 1], on dira que c’est un chemin régulier incomplet.

Théorème. Soit K = ϕ(Ω) un quotient récursivement connexe. Alors deux points quelconques de K peuvent être joints par un chemin régulier.

Démonstration. Soient a et b les deux points de K que nous souhaitons joindre. Donnons-nous s ∈ ℕ, et soit I_{s} = {0.2^{−s}, 1.2^{−s} … (2^{s} − 1).2^{−s}}. On appellera chaîne régulière d’ordre s un chemin incomplet défini sur I_{s}.

Lemme a. Il existe un module de continuité, ne dépendant que de la distance choisie sur K, valable pour tous les chemins réguliers, incomplets ou non.

Preuve du lemme a. Soit a_{n} le diamètre maximum d’une pièce-quotient d’ordre n. La suite (a_{n}) tend vers zéro quand n → ∞.

Soit γ un chemin régulier, éventuellement incomplet, et x, y deux éléments quelconques du domaine de définition de γ, alors on a l’implication

|y − x| ⩽ 2^{−n} ⟹ d(γ(x), γ(y)) ⩽ 2a_{n}.

En effet, si |y − x| ⩽ 2^{−n}, alors il existe un entier p ∈ {1 … 2^{n} − 1} tel que

\{x, y\} ⊂ [\frac{p − 1}{2^{n}}, \frac{p + 1}{2^{n}}] .

Si l’on pose z = p/2^{n}, on voit que γ(x) et γ(z) sont dans une même pièce-quotient d’ordre n, puisque γ est régulier. Il en est de même pour γ(z) et γ(y). Finalement,

d(γ(x), γ(y)) ⩽ d(γ(x), γ(z)) + d(γ(z), γ(y)) ⩽ a_{n} + a_{n},

ce qui termine la preuve du lemme a.

Lemme b. Pour tout s ⩾ 0, deux points quelconques de K peuvent être joints par une chaîne régulière d’ordre s.

Preuve du lemme b. Cet énoncé est trivial pour s = 0. Supposons-le vrai pour s − 1 (avec s ⩾ 1) et démontrons-le pour s.

Soient a, b deux points quelconques de K. Soient K_{0} et K_{1} les deux pièces-quotient d’ordre 1. Comme K est récursivement connexe, il en est de même de K_{0} et K_{1}, et de plus K_{0} et K_{1} sont non disjoints : soit donc c ∈ K_{0} ∩ K_{1}.

Soit K_{i(a)} la pièce-quotient d’ordre 1 contenant a et c. D’après l’hypothèse de récurrence, il existe une chaîne régulière d’ordre s − 1 joignant a et c dans K_{i(a)} : notons-la γ_{ac}. Choisissons de même une chaîne régulière γ_{cb} d’ordre s − 1 joignant c et b dans K_{i(b)}. Définissons alors la chaîne γ_{ab} comme concaténation des deux chaînes précédentes :

γ_{ab}(x) = \{ \begin{matrix}γ_{ac}(2x), & si x ⩽ 1/2 ; \\ γ_{cb}(2x − 1), & si x ⩾ 1/2. \end{matrix}

Comme une pièce-quotient d’ordre ℓ dans K_{0} ou K_{1} doit être considérée comme une pièce-quotient d’ordre ℓ + 1 dans K, on voit aisément que γ_{ab} est bien une chaîne régulière d’ordre s. Ce qui prouve le lemme b.

Lemme c. Etant donnés deux points a, b ∈ K, il existe un chemin régulier incomplet joignant a et b, dont le domaine de définition est [0, 1] ∩ ℤ[\frac{1}{2}].

Preuve du lemme c. Posons I_{∞} = ⋃_{s∈ℕ} I_{s} = [0, 1] ∩ ℤ[\frac{1}{2}]. D’après le lemme b, il existe des chaînes régulières d’ordre arbitrairement élevé joignant a et b. Soit (γ_{n})_{n∈ℕ} une suite de telles chaînes régulières dont les ordres tendent vers l’infini. Pour tout x ∈ I_{∞}, γ_{n}(x) sera défini pour tout n assez grand.

Quitte à extraire une sous-suite de (γ_{n}) par la méthode diagonale, nous pouvons supposer que la suite (γ_{n}(x))_{n} est convergente pour tout x ∈ I_{∞}. Notons γ_{∞} la limite simple des γ_{n} ; le lecteur se convaincra aisément que cette application est un chemin régulier, ce qui résout le lemme c.

Nous sommes maintenant en mesure de prouver le théorème. D’après le lemme a, le chemin incomplet trouvé ci-dessus est uniformément continu ; soit γ son prolongement par continuité à l’intervalle [0, 1] tout entier. Ici encore, il est facile de voir que ce prolongement est encore un chemin régulier.

Ceci termine la preuve du théorème.

3. Propriétés dans l’espace des paramètres

3.1. L’espace des annulateurs

Les ensembles qui nous intéressent dans l’espace des paramètres sont tous de la forme {s ∈ D : ∃f ∈ F f(s) = 0}, où F est un certain espace de fonctions. Cet espace de fonctions sera appelé espace des annulateurs.

Définition. Soit U une surface de Riemann, et F une famille de fonctions holomorphes sur U. On dira que F est un espace d’annulateurs sur U si les deux conditions suivantes sont vérifiées :

(i) La famille F est compacte pour la topologie de la convergence compacte ; (ii) Aucun élément de F ne s’annule sur un ouvert de U.

Dans le cas où U est connexe, la condition (ii) signifie simplement que F ne contient pas la fonction nulle. Les éléments de F seront appelés annulateurs. Si f est un annulateur, on définira sa “trace” sur U par tr f = {z ∈ U : f(z) = 0}. Si A est une partie de F, on définira tr A = ⋃_{f∈A} tr f.

Pour le lieu de connexité M, l’ouvert est D et l’espace des annulateurs est

F_{0} = {f(z) = ∑_{k=0}^{∞} a_{k}z^{k}, a_{0} = 1, a_{k} ∈ {−1, 0, 1}} .

Pour M_{1}, c’est l’ensemble des fonctions de la forme

F_{1} = {f(z) = ∑_{k=0}^{∞} a_{k}z^{k}, a_{0} = 1, a_{k} ∈ {−1, 1}} .

Dans les deux cas, c’est un ensemble de Cantor.

La raison pour laquelle il est important d’étudier F est que, d’une certaine manière, cet espace donne un “paramétrage” du lieu d’annulation

tr F = {z ∈ U : ∃f ∈ F f(z) = 0} .

via l’application tr. En toute rigueur, c’est incorrect, car à un annulateur donné f peuvent correspondre plusieurs points de U, et de toute façon F n’est pas connexe. Mais, inversement, à un même point de U peuvent correspondre différents f s’annulant en ce point ; des recollements vont donc se produire sur F, et on peut espérer qu’il y en ait suffisamment pour que le quotient soit connexe. Cette idée de “recollement” est implicitement utilisée dans [B-th] pour prouver que M et M_{1} sont connexes, mais sans introduire d’espace quotient, et d’ailleurs il n’y a pas de relation d’équivalence non plus.

3.2. L’espace des classes d’annulateurs

L’idée fondamentale dans [OP] est qu’il faut construire un espace quotient de F. Comme la seule chose qui nous intéresse dans un annulateur f est son lieu d’annulation tr f, une solution consiste à poser f ∼ g ⟺ tr f = tr g. Il est également possible d’imposer que tr f et tr g soient identiques “avec multiplicités” ; c’est la relation choisie par Odlyzko et Poonen, et c’est celle-ci que nous utiliserons.

Définition. Deux annulateurs f, g ∈ F seront dits équivalents (et on notera f ∼ g) ssi la fonction f/g n’a ni zéro ni pôle. L’espace quotient F̃ est l’espace des classes d’annulateurs.

Le point essentiel (que l’on déduit facilement du théorème de Rouché) est que cette relation est fermée, et donc l’espace F̃ des classes d’annulateurs est un espace métrique compact.

Il reste à faire de tr une application continue ; il suffit pour celà de considérer le compactifié d’Alexandrov Ũ = U ⊔ {∞}, et l’application

\begin{aligned}Tr & : & F & ⟶ & Com Ũ \\ & & f & ⟼ & tr f ⊔ \{∞\} . \end{aligned}

Cette application, dont la continuité est une conséquence immédiate du théorème de Rouché, passe au quotient en une application continue de F̃ dans Com Ũ que nous noterons également Tr.

Lemme. Soit Λ un espace topologique connexe, V un espace métrique compact et t : Λ → Com V une application continue. On suppose qu’il existe λ_{0} ∈ Λ tel que t(λ_{0}) soit connexe. Alors

t(Λ) = ⋃_{λ∈Λ} t(λ)

est connexe.

Preuve du lemme. Soit θ une fonction continue de t(Λ) dans {0, 1}. Considérons l’ensemble

Y = {λ ∈ Λ : θ n’est pas constante sur t(λ)} .

Il résulte immédiatement de la continuité de t que Y est une partie ouverte et fermée de Λ. Comme λ_{0} ∉ Y, cette partie est vide, donc θ est constante, ce qui prouve le lemme.

En particulier, si l’espace F̃ des classes d’annulateurs est connexe, et s’il existe un annulateur f tel que tr f = ∅, alors Tr f̃ = {∞} ; et d’après le lemme ci-dessus, Tr F̃ = tr F ⊔ {∞} sera connexe.

Proposition. Les espaces de classes d’annulateurs F̃_{0} et F̃_{1} définis plus haut sont récursivement connexes.

Corollaire. Les ensembles M et M_{1} sont connexes.

Preuve du corollaire. On remarque que les espaces d’annulateurs F_{0} et F_{1} contiennent la fonction constante égale à 1, qui ne s’annulle nulle part. D’après la remarque ci-dessus, celà entraîne que les compactifiés M ⊔ {∞} et M_{1} ⊔ {∞}. Or, il résulte des inégalités données au paragraphe 1.2 que M et M_{1} contiennent un voisinage épointé de l’infini. Leurs compactifiés ne peuvent donc être connexes que s’ils sont eux-mêmes connexes.

Preuve de la proposition. Commençons par F̃_{1}. Donnons-nous deux pièces adjacentes d’ordre n dans F_{1}, disons U_{+} et U_{−} :

\begin{aligned}U_{+} & = \{f : f(z) = 1 + a_{1}z + ⋯ + a_{n−1}z^{n−1} + z^{n} + ⋯\} \\ U_{−} & = \{f : f(z) = 1 + a_{1}z + ⋯ + a_{n−1}z^{n−1} − z^{n} + ⋯\} \end{aligned}

où (a_{1} … a_{n−1}) est un (n − 1)-uplet de {−1, 1}, et les ⋯ finaux représentent des termes d’ordre > n, avec des coefficients arbitraires dans {−1, 1}. Nous devons trouver deux fonctions f_{+} ∈ U_{+} et f_{−} ∈ U_{−} telles que f_{+} ∼ f_{−}. Pour cela, considérons

f_{0}(z) = 1 + a_{1}z + ⋯ + a_{n−1}z^{n−1},

qui n’est pas un annulateur, et définissons

f_{+}(z) = \frac{f_{0}(z)}{1 − z^{n}} , f_{−}(z) = \frac{f_{0}(z)}{1 + z^{n}} .

Les fonctions f_{+} et f_{−} sont obtenues en complétant les coefficients de f_{0} de manière n-périodique et n-antipériodique respectivement. Ainsi f_{+} ∈ U_{+} et f_{−} ∈ U_{−}, et leur rapport (1 + z^{n})/(1 − z^{n}) n’a ni zéro ni pôle dans le disque unité. Donc F̃_{1} est récursivement connexe.

Dans le cas de F̃_{0}, la démonstration n’est guère différente, mais oblige à redéfinir la notion de “connnexité récursive” dans le cas où le Cantor a une structure ternaire.

Donnons-nous un alphabet fini A = {a, b … z}, de cardinal c, et considérons le Cantor Ω = A^{ℕ}. La notion de “pièce” se généralise aisément ; mais l’“adjacence” n’est plus une relation binaire. Nous appellerons clique un ensemble de c pièces de la forme vaΩ, vbΩ … vzΩ, où v est un mot de longueur finie, et graphe de recouvrement de la clique C le graphe sur C obtenu en plaçant une arête entre U et V si et seulement si π(U) ∩ π(V) ≠ ∅. La condition (ii) dans la définition de la connexité récursive s’écrit alors :

(ii) Toute clique a un graphe de recouvrement connexe.

Nous laissons au lecteur le soin de redémontrer l’équivalence des trois conditions, et de réécrire, mutatis mutandis, le critère de connexité pour l’attracteur d’un IFS de plus de deux fonctions.

Nous sommes maintenant en mesure de prouver que F̃_{0} est récursivement connexe. Donnons-nous une clique {U_{+}, U_{0}, U_{−}}, où

\begin{aligned}U_{+} & = \{f : f(z) = 1 + a_{1}z + ⋯ + a_{n−1}z^{n−1} + z^{n} + ⋯\} \\ U_{0} & = \{f : f(z) = 1 + a_{1}z + ⋯ + a_{n−1}z^{n−1} + 0z^{n} + ⋯\} \\ U_{−} & = \{f : f(z) = 1 + a_{1}z + ⋯ + a_{n−1}z^{n−1} − z^{n} + ⋯\} \end{aligned}

Si nous prenons, ici encore,

f_{0}(z) = 1 + a_{1}z + ⋯ + a_{n−1}z^{n−1},

f_{+}(z) = f_{0}(z)/(1 − z^{n}) et f_{−}(z) = f_{0}(z)/(1 + z^{n}), alors on voit que f_{+} ∈ U_{+}, f_{0} ∈ U_{0}, f_{−} ∈ U_{−}, et f_{+} ∼ f_{0} ∼ f_{−}. Donc π(U_{+}) ∩ π(U_{0}) ∩ π(U_{−}) est non vide, et par conséquent le graphe de recouvrement de la clique est le graphe complet à trois sommets. Ce qui prouve que F̃_{0} est récursivement connexe.

4. Connexité locale dans l’espace des paramètres

Au vu de l’énoncé du chapitre précédent, on aurait envie d’affirmer la chose suivante : “Si t(λ) est localement connexe pour tout λ ∈ Λ, et si l’espace des paramètres Λ est localement connexe, alors ⋃_{λ} t(λ) est localement connexe”. C’est malheureusement faux, même si Λ est compact. Le contre-exemple le plus typique est le suivant : Λ = [0, 1] et t : [0, 1] → Com ℝ^{2} est définie par

\begin{aligned}t(0) & = \{(0, y) : −1 ⩽ y ⩽ 1\} \\ t(x) & = t(0) ⊔ \{(x, sin x^{−1})\} pour x > 0. \end{aligned}

Cette pathologie ne se produit pas si l’on impose à t(λ) d’être discret.

Lemme. Soit Λ un espace métrique compact localement connexe, V un espace métrique compact, U un ouvert de V et t : Λ → Com V une application continue. On suppose que pour tout λ ∈ Λ, t(λ) ∩ U est localement connexe. Alors

t(Λ) = ⋃_{λ∈Λ} t(λ)

est tel que t(Λ) ∩ U est localement connexe.

Preuve du lemme. Considérons la partie Q de Λ × U (muni de la distance d_{Λ} + d_{V}) définie par

Q = {(λ, x) ∈ Λ × U : x ∈ t(λ)} .

La deuxième projection Q → U est propre, et son image est t(Λ) ∩ U, aussi suffit-il de prouver que Q est localement connexe.

Notons d la distance sur Λ et V, et soit x = (λ, x) un point quelconque de Q. Donnons-nous un voisinage de x de la forme B = V × B(x, ϵ), où V est un voisinage de λ. Comme x est isolé dans t(λ), on peut, quitte à diminuer ϵ, supposer que

B(x, 2ϵ) ∩ t(λ) = {x} .

Comme de plus l’application t est continue, on peut, quitte à restreindre V, supposer que

∀v ∈ V d_{H}(t(λ), t(v)) < ϵ/3.

On voit (exercice !) que, quand v décrit V, l’ensemble σ(v) = (v, t(v) ∩ B(0, ϵ)) sera non vide, compact, et dépendra continûment de v avec le même module de continuité que t — plus précisément, si v_{1}, v_{2} ∈ V, on a

d_{H}(σ(v_{1}), σ(v_{2})) ⩽ d_{H}(t(v_{1}), t(v_{2})) + d(v_{1}, v_{2}).

Comme Λ est localement connexe, je peux encore restreindre un peu V pour qu’il soit connexe. Comme σ(λ) est réduit au point (λ, {x}), il est connexe, et d’après le lemme donné plus haut, σ(V) est connexe. C’est la trace sur Q de B, c’est donc un voisinage de x dans Q, contenu dans B. Ce qui prouve que Q est localement connexe, et démontre le lemme.

Remarque. Nous avons eu besoin de supposer Λ métrisable pour pouvoir définir la distance de Hausdorff sur les compacts de Λ × U. Il serait certainement possible de se passer de cette hypothèse, en considérant une “topologie de Hausdorff” sur les compacts ; mais celà importe peu puisque, dans le cas qui nous intéresse, Λ sera un quotient du Cantor (donc métrisable).

Corollaire. Si l’espace des classes d’annulateurs F̃ est localement connexe, alors son lieu d’annulation

tr F̃ = {s ∈ U : ∃f ∈ F f(s) = 0}

est localement connexe. En particulier,les ensembles M et M_{1} sont localement connexes.

Il suffit en effet d’appliquer le lemme ci-dessus avec Λ = F̃, V est le compactifié U ⊔ {∞}, U est bien U, et t est l’application “trace” Tr indiquée plus haut.

5. Suivi individuel des points dans un compact

Le lieu d’annulation est défini comme l’ensemble des zéros de l’espace des annulateurs ; si l’on sait construire des chemins dans l’espace des annulateurs, on peut “relever” ces chemins en suivant continûment les racines de ces annulateurs, mais quel est le module de continuité du chemin ainsi relevé ? Nous commencerons par étudier le degré deux.

5.1. Racine carrée d’un chemin hölderien

Nous nous proposons de démontrer le résultat suivant :

Théorème. Soient f, g : ℝ → ℂ deux fonctions continues, telles que ∀x ∈ ℝ g(x)^{2} = f(x). Soit h : ℝ^{+} → ℝ^{+} une fonction continue, nulle en 0, croissante et concave ; nous supposons que c’est un module de continuité pour f, c’est-à-dire que |f(y) − f(x)| ⩽ h(|y − x|). Alors r → 2\sqrt{h(r/2)} est un module de continuité pour g.

En particulier, si f est hölderienne d’exposant α ∈ ]0, 1[ et de constante 1, alors g sera hölderienne d’exposant α/2 et de constante 2^{1−α/2}. Cette constante ne peut être améliorée, comme on le voit en considérant la fonction

g(z) = \frac{x}{|x|} |x|^{α/2} .

Démonstration. La première étape consiste à comparer les racines carrées de deux nombres complexes.

Lemme. Si u et v sont deux nombres complexes faisant entre eux un angle aigu ou droit, alors |v − u| ⩽ |v^{2} − u^{2}|^{1/2}.

En effet, l’inégalité proposée équivaut à |v − u| ⩽ |v + u|, c’est-à-dire que v est plus près de u que de −u. C.q.f.d.

En particulier, dans l’inégalité qui nous est proposée, si g(x) et g(y) font un angle non obtus, alors (nous posons |y − x| = r) :

|g(y) − g(x)| ⩽ |f(y) − f(x)|^{1/2} ⩽ \sqrt{h(r)} ⩽ \sqrt{2h(r/2)},

et dans ce cas-ci l’inégalité est vérifiée, avec une constante meilleure.

Dans le cas où g(x) et g(y) font un angle obtus, supposons qu’on puisse trouver z ∈ ]x, y[ tel que g(z) fasse des angles aigus ou droits avec g(x) et g(y). On aura alors

|g(y) − g(x)| ⩽ |g(y) − g(z)| + |g(z) − g(x)|
⩽ |f(y) − f(z)|^{1/2} + |f(z) − f(x)|^{1/2}
⩽ \sqrt{h(y − z)} + \sqrt{h(z − x)}
⩽ \sqrt{2(h(y − z) + h(z − x))}
⩽ \sqrt{4h(r/2)}.

En particulier, si g s’annule en point z ∈ ]x, y[, alors l’argument ci-dessus s’applique.

Si g ne s’annule pas, considérons la fonction A : [x, y] → S^{1} définie par A(s) = arg g(s). Son image est une partie compacte et connexe de S^{1} passant par A(x) et A(y), donc contient l’un des deux arcs joignant ces deux points (éventuellement les deux).

Le cas simple est celui où A([x, y]) contient l’arc “court”, c’est-à-dire celui compris entre 90 et 180 degrés. Il suffit alors de choisir z ∈ [x, y] tel que A(z) soit à michemin entre A(x) et A(y). Alors g(z) fait un angle non obtus avec g(x) et g(y), et on a vu plus haut comment traiter cette situation.

Reste le cas où A([x, y]) contient l’arc “long”, c’est-à-dire celui compris entre 180 et 270 degrés. On peut alors trouver deux points intermédiaires, x ⩽ z ⩽ t ⩽ y tels que ^{}(g(x), g(z)) et ^{}(g(t), g(y)) soient droits et ^{}(g(z), g(t)) soit aigu. Dans ce cas,

|g(y) − g(x)| ⩽ |g(y)| + |g(x)|
⩽ |g(y) − g(t)| + |g(z) − g(x)|
⩽ |f(y) − f(t)|^{1/2} + |f(z) − f(x)|^{1/2}
⩽ \sqrt{h(y − t)} + \sqrt{h(z − x)}
⩽ \sqrt{2(h(y − t) + h(z − x))}
⩽ \sqrt{4h(r/2)}.

Cette démonstration a été écrite en collaboration avec Pierrette Sentenac.

5.2. Suivi dans un compact de cardinal fini

On se donne un entier n au moins égal à un, G un espace topologique connexe, et E un espace métrique.

Proposition. Soit F : G → Com E une application continue telle que, pour tout x ∈ G on ait # F (x) ⩽ n ; et f : G → E une application continue telle que ∀x ∈ G f(x) ∈ F (x). Alors

Osc_{G} f ⩽ 2n Osc_{G} F.

Démonstration. Posons δ = Osc_{G} F, et choisissons x ∈ G. Comme l’oscillation de F est bornée par δ, on voit que f(G) est recouvert par les boules B^{f}(s, δ) pour s décrivant F (x). Ces boules sont de diamètre au plus 2δ, et il y en a au plus n, donc Diam f(G) ⩽ 2nδ, ce qu’il fallait démontrer.

Question. Sans hypothèses supplémentaires, peut-on améliorer la constante 2n dans l’énoncé ?

5.3. Le cas des zéros de polynômes

Nous nous intéressons à des fonctions g définies de manière implicite, i.e., P_{x}(g(x)) = 0, et on veut connaître un module de continuité pour g connaissant celui de x ↦ P_{x}.

On notera Mon(n) l’ensemble de tous les polynômes moniques de degré n à coefficients complexes, et Mon(n, R) l’ensemble des polynômes de Mon(n) dont toutes les racines sont de module ⩽ R, que nous munirons de la distance définie par la norme ∥P ∥_{R} = sup_{|x|⩽R} |P (x)|.

Lemme. Soit P ∈ Mon(n), et x ∈ ℂ. Alors d(x, P^{−1}(0)) ⩽ |P (x)|^{1/n}.

En effet, soient x_{1} … x_{n} les racines (avec multiplicité) de P. On a

P (x) = ∏_{i=1}^{n}(x − x_{i}) ⩾ d(x, P^{−1}(0))^{n}

puisque par définition d(x, P^{−1}(0)) est le minimum des x − x_{i}.

Corollaire. Soient P, Q ∈ Mon(n, R), alors d_{H}(P^{−1}(0), Q^{−1}(0)) ⩽ ∥Q − P ∥_{R}^{1/n}.

En effet, si x ∈ P^{−1}(0), alors d(x, Q^{−1}(0)) ⩽ |Q(x)|^{1/n} = |Q(x) − P (x)|^{1/n} ⩽ ∥Q − P ∥_{R}^{1/n} puisque |x| ⩽ R. Donc ∂(P^{−1}(0), Q^{−1}(0)) ⩽ ∥Q − P ∥_{R}^{1/n}, et l’on majore de même ∂(Q^{−1}(0), P^{−1}(0)).

Ce corollaire, combiné avec la proposition du paragraphe précédent, permet d’obtenir un module de continuité explicite pour la fonction g. Si l’on ne suppose plus que les P_{x} sont polynômiaux, mais simplement holomorphes, il apparaît quelques difficultés techniques supplémentaires, qui font l’objet du chapitre suivant.

5.4. Le cas holomorphe général

Les méthodes décrites ci-dessus doivent être légèrement adaptées pour l’étude des zéros des annulateurs, c’est-à-dire la détermination d’un module de continuité explicite pour l’application Tr. Pour ne pas surcharger les notations et les raisonnements, nous nous bornerons au cas où l’ouvert U est le disque unité, et où l’espace des annulateurs est

F = \{f : D → ℂ tq f(0) = 1 et |f(z)| ⩽ \frac{1}{1−|z|}\}

Les inégalités trouvées pour F seront valables a fortiori pour F_{0} et F_{1}, puisque F contient F_{0} et F_{1}.

Soit f ∈ F, z ∈ D, et considérons deux nombres réels R et ρ tels que 0 ⩽ |z| ⩽ R < ρ < 1. Pour étudier la stabilité de f vis-à-vis des petites perturbations, nous devons démontrer que f(z) est suffisamment éloigné de 0 quand z est suffisamment loin de f^{−1}(0). L’identité de Poisson-Jensen (voir [Ahl], page 206) nous dit que si f(z) ≠ 0, alors

log |f(z)| = − ∑_{i=1}^{n} log |\frac{ρ^{2} − ā_{i}z}{ρ(z − a_{i})}| + \frac{1}{2π} ∫_{0}^{2π} ℜe \frac{ρe^{iθ} + z}{ρe^{iθ} − z} log |f(ρe^{iθ})| dθ

où a_{1} … a_{n} sont les racines de f de module < ρ, comptées avec multiplicité. Pour z = 0, cette identité se réduit à l’identité de Jensen usuelle :

log |f(0)| = − ∑_{i=1}^{n} log \frac{ρ}{|a_{i}|} + \frac{1}{2π} ∫_{0}^{2π} log |f(ρe^{iθ})| dθ.

Nous ne pouvons pas “directement” comparer les deux intégrales ci-dessus par la formule de la moyenne, car log |f(ρe^{iθ})| n’est pas de signe constant. En revanche, la fonction log |(1 − ρ)f(ρe^{iθ})| est de signe constant (négatif), si bien que

∫_{0}^{2π} ℜe \frac{ρe^{iθ} + z}{ρe^{iθ} − z} log |f(ρe^{iθ})| dθ

= ∫_{0}^{2π} ℜe \frac{ρe^{iθ} + z}{ρe^{iθ} − z} (− log(1 − ρ) + log |(1 − ρ)f(ρe^{iθ})|)dθ

= −2π log(1 − ρ) + ∫_{0}^{2π} ℜe \frac{ρe^{iθ} + z}{ρe^{iθ} − z} log |(1 − ρ)f(ρe^{iθ})| dθ

⩾ −2π log(1 − ρ) + \frac{ρ + R}{ρ − R} ∫_{0}^{2π} log |(1 − ρ)f(ρe^{iθ})| dθ

= −2π log(1 − ρ) + 2π \frac{ρ + R}{ρ − R} log(1 − ρ) + \frac{ρ + R}{ρ − R} ∫_{0}^{2π} log |f(ρe^{iθ})| dθ

= \frac{4πR}{ρ − R} log(1 − ρ) + \frac{ρ + R}{ρ − R} ∫_{0}^{2π} log |f(ρe^{iθ})| dθ

= \frac{4πR}{ρ − R} log(1 − ρ) + 2π \frac{ρ + R}{ρ − R} ∑_{i=1}^{n} log \frac{ρ}{|a_{i}|}

grâce à la formule de Jensen, dans laquelle on a remplacé f(0) par 1. Substituant cette inégalité dans la formule de Poisson-Jensen, il vient

log |f(z)| ⩾ − ∑_{i=1}^{n} |\frac{ρ^{2} − ā_{i}z}{ρ(z − a_{i})}| + \frac{2R}{ρ − R} log(1 − ρ) + \frac{ρ + R}{ρ − R} ∑_{i=1}^{n} log \frac{ρ}{|a_{i}|}

En particulier, si l’on fait z = 0 dans l’inégalité ci-dessus, il vient

∑_{i=1}^{n} log \frac{ρ}{|a_{i}|} ⩽ − log(1 − ρ).

Ceci entraîne que, si l’on désigne par N_{τ} le nombre de a_{i} de module ⩽ τ, alors

N_{τ} ⩽ \frac{− log(1 − ρ)}{log(ρ/τ)},

pourvu que τ < ρ. En particulier, si l’on choisit ρ = τ^{1/2}, on obtient que

N_{τ} ⩽ \frac{2 log(1 − τ^{1/2})}{log τ}.

Cette inégalité aurait pu, comme dans [OP], être déduite directement de la formule de Jensen. En particulier,

n ⩽ \frac{2 log(1 − ρ^{1/2})}{log ρ}.

Revenons à la minoration de log |f(z)|. Le deuxième sigma étant toujours positif, on a

log |f(z)| ⩾ \frac{2R}{ρ − R} log(1 − ρ) + ∑_{i=1}^{n} log |\frac{ρ(z − a_{i})}{ρ^{2} − ā_{i}z}| ,

ce qui donne finalement, en prenant les exponentielles,

|∏_{i=1}^{n} \frac{ρ(z − a_{i})}{ρ^{2} − ā_{i}z}| ⩽ |f(z)| · (\frac{1}{1 − ρ})^{2R/(ρ−R)} .

En d’autres termes, f se comporte en gros comme le produit de Blaschke ayant les mêmes zéros. Remarquant que

|\frac{ρ(z − a_{i})}{ρ^{2} − ā_{i}z}| = tanh d_{P} (z, a_{i})

où d_{P} désigne la distance de Poincaré dans le disque D(0, ρ), on obtient

[tanh d_{P} (z, \{a_{1} … a_{n}\})]^{n} ⩽ |f(z)| · (\frac{1}{1 − ρ})^{2R/(ρ−R)} ,

avec la convention que le premier membre de l’inégalité vaut 1 si n = 0.

Il est assez clair que cette inégalité est de moins en moins bonne quand on s’approche du bord du disque, et il serait illusoire d’espérer un module de continuité hölderien pour l’application Tr sans restreindre U. Aussi prendrons-nous

U = D(0, R)

où R est un réel de ]0, ρ[ que nous préciserons plus tard, muni de la distance euclidienne usuelle. Son compactifié d’Alexandrov

Ũ = D(0, R) ⊔ {∞}

sera muni de la distance naturelle :

\begin{aligned}d_{A}(z_{1}, z_{2}) & = min(|z_{2} − z_{1}| , 2R − |z_{1}| − |z_{2}|) \\ d_{A}(z, ∞) & = R − |z| \end{aligned}

Au départ, nous munissons F de la distance

d(f, g) = sup_{|z|⩽ρ}(1 − |z|) |g(z) − f(z)| .

Proposition. Avec les ensembles et les distances ci-dessus, l’application Tr : F → Com Ũ est hölderienne d’exposant α = 1/N et de constante

c = 2ρ (\frac{1}{1 − ρ})^{\frac{1}{N} \frac{ρ+R}{ρ−R}} .

où N ⩾ 1 est un majorant de tous les n(f) quand f décrit F.

Démonstration. Soient f, g ∈ F, et désignons par a_{1} … a_{n} et b_{1} … b_{m} les zéros respectifs de f et g de module < ρ.

Soit b ∈ U tel que g(b) = 0. D’après l’inégalité plus haut, on a

[tanh d_{P} (b, \{a_{1} … a_{n}\})]^{n} ⩽ f(b) (\frac{1}{1 − ρ})^{2R/(ρ−R)} ⩽ δ (\frac{1}{1 − ρ})^{\frac{ρ+R}{ρ−R}}

où δ = d(f, g). Notons

E = δ (\frac{1}{1 − ρ})^{\frac{ρ+R}{ρ−R}} ,

et étudions d’abord le cas où E < 1. Ceci impose n ⩾ 1, et donc

tanh d_{P} (b, {a_{1} … a_{n}}) ⩽ E^{1/n} ⩽ E^{1/N}.

Dans le disque D(0, ρ), la distance usuelle et la distance de Poincaré sont liées par l’inégalité

d(z_{1}, z_{2}) ⩽ 2ρ tanh d_{P} (z_{1}, z_{2}),

donc il existe a ∈ D(0, ρ) tel que f(a) = 0 et

d(b, a) ⩽ 2ρE^{1/N}.

Si le point a est dans U, ceci entraîne que

d_{A}(b, Tr f) ⩽ 2ρE^{1/N},

et sinon, on peut dire que b est à une distance ⩽ 2ρE^{1/N} du bord de U, si bien que l’inégalité ci-dessus est encore vraie, puisque Tr f contient le point à l’infini.

Pour E ⩾ 1, l’inégalité ci-dessus est triviale. Par conséquent, on a dans tous les cas

∂_{A}(Tr g, Tr f) ⩽ 2ρE^{1/N}.

En inversant les rôles de f et g, on obtient la même inégalité dans l’autre sens. Finalement,

d_{HA}(Tr f, Tr g) ⩽ 2ρ (\frac{1}{1 − ρ})^{\frac{1}{N} \frac{ρ+R}{ρ−R}} δ^{1/N},

ce qu’il fallait démontrer.

Nous sommes maintenant en mesure d’énoncer et de démontrer les principaux résultats de ce chapitre.

Définition. Soit (E, d) un espace métrique, et α un réel de l’intervalle ]0, 1]. L’espace sera dit localement hölderien d’exposant α ssi pour tout x ∈ E et tout c > 0, il existe un voisinage V de x tel que tout point de V puisse être joint à x par un chemin hölderien d’exposant α et de constante c.

Il est démontré dans [B-th] que si K est l’attracteur d’un IFS de deux fonctions de constante de Lipschitz k, et si K est connexe, alors K est localement hölderien d’exposant α = − log_{2} k. Le fait d’être localement hölderien est manifestement une propriété plus forte que la connexité locale.

Théorème. Les ensembles M et M_{1} sont localement hölderiens.

Nous démontrerons en fait l’énoncé plus précis suivant :

Proposition. Soit z un point de M (resp. M_{1}), et R, ρ deux réels tels que |z| < R < ρ < 1. Soit N_{ρ} une majoration du nombre de racines de module < ρ des éléments de F. Alors pour tout c > 0, il existe un voisinage V de z tel que tout point de V puisse être joint à z par un chemin hölderien d’exposant α = − log_{3} ρ/N_{ρ} (resp. α = − log_{2} ρ/N_{ρ}) et de constante c.

Avant de prouver cette proposition, regardons pourquoi elle implique le théorème. Dans le cas de M par exemple, il est clair qu’on peut se borner à étudier le cas où |z| ⩽ 1/√2, sinon z serait dans l’intérieur de M. Il suffit dans ce cas de prendre (par exemple) R = 0.708 et ρ = 0.71 ; l’estimation

N_{ρ} = \frac{− log(1 − ς)}{log(ς/ρ)}

avec ς = 0.9 nous donne N_{ρ} = 9 (puisque N_{ρ} doit être entier). On obtient que M est localement hölderien d’exposant

α(M) = \frac{− log_{3} ρ}{N_{ρ}} = 0.034 …

De même dans le cas de M_{1}, on peut supposer |z| ⩽ 2^{−1/4}, ce qui permet de prendre R = 0.841 et ρ = 0.842 ; en prenant ς = 0.96, on obtient l’estimation N_{ρ} = 24, d’où

α(M_{1}) = \frac{− log_{2} ρ}{N_{ρ}} = 0.0044 …

Il est probable qu’on peut faire mieux.

Démonstration de la proposition. Nous la démontrerons dans le cas de M_{1} en laissant au lecteur le soin de l’adapter au cas de M. Soit donc z ∈ M_{1} et R, ρ tels que |z| < R < ρ < 1, soit α = − log_{2} ρ/N_{ρ} et c un réel strictement positif arbitrairement petit.

Raisonnons par l’absurde, en supposant qu’il n’existe aucun voisinage V de z possédant la propriété annoncée. Alors il existe une suite z_{n} d’éléments de M_{1}, convergeant vers z, telle qu’aucun des z_{i} ne puisse être joint à z par un chemin hölderien d’exposant α et de constante c. Pour chaque z_{i} choisissons un annulateur f_{i} ∈ F_{1}, i.e., f_{i}(z_{i}) = 0. Comme F_{1} est compact on peut, quitte à extraire une sous-suite, supposer que les f_{i} convergent vers une limite f ∈ F ; cette limite sera alors automatiquement un annulateur de z, i.e., f(z) = 0. De plus on peut, quitte à encore extraire une sous-suite, supposer que f_{k} est dans une même pièce d’ordre k que f.

Soit donc γ : [0, 1] → F̃_{1} un chemin régulier dans cette pièce allant de f_{k} à f. Si comme plus haut nous prenons

U = D(0, R) et Ũ son compactifié d’Alexandrov, alors l’application Tr est continue, et l’on peut donc “suivre” les racines de γ(t), c’est-à-dire trouver une application continue η : [0, 1] → Ũ telle que η(0) = z_{k}, et [γ(t)](η(t)) = 0 pour tout t. Comme on l’a vu plus haut, le module de continuité de η est égal au module de continuité de Tr γ, multiplié par 2N_{ρ}.

On remarquera cependant que l’existence du chemin η n’est en rien quelque chose d’évident ; dans [OP], ce résultat porte le nom de “lifting lemma”, où il est attribué à David Desjardins et Emmanuel Knill ; mais peut-être existe-t-il d’autres sources.

Quel est le module de continuité de Tr γ ? Eh bien, supposons tout d’abord que u et v soient dans un même intervalle de la forme [p/2^{n}, (p + 1)/2^{n}] ; comme γ est un chemin régulier dans une pièce d’ordre k, γ(u) et γ(v) seront dans une même pièce-quotient d’ordre k + n, c’est-à-dire que ce seront les classes de deux fonctions Γ_{u} et Γ_{v} de la forme

\begin{aligned}Γ_{u}(z) & = 1 + a_{1}z + ⋯ + a_{k+n}z^{k+n} + a′_{k+n+1}z^{k+n+1} + ⋯ \\ Γ_{v}(z) & = 1 + a_{1}z + ⋯ + a_{k+n}z^{k+n} + a′′_{k+n+1}z^{k+n+1} + ⋯ \end{aligned}

c’est-à-dire que les développements ne peuvent différer qu’à partir de l’ordre k+n+1 au moins. Ceci permet de majorer la distance entre les deux fonctions :

δ = d(Γ_{u}, Γ_{v}) = sup_{|z|⩽ρ}(1 − |z|) |Γ_{v}(z) − Γ_{u}(z)| ⩽ 2ρ^{k+n+1}.

Et l’application Tr est hölderienne, ce qui donne une majoration de la forme

d(Tr Γ_{u}, Tr Γ_{v}) ⩽ A_{0}δ^{1/N_{ρ}} ⩽ A_{1}ρ^{(k+n+1)/N_{ρ}},

où A_{0}, A_{1}, etc., sont des constantes ne dépendant que de R et ρ.

Donnons-nous maintenant x, y quelconques dans [0, 1] et soit θ = |y − x| leur distance. Soit n le plus grand entier tel que θ ⩽ 2^{−n}. On peut alors affirmer que x et y seront contenus dans un même intervalle de la forme [p/2^{n}, (p + 1)/2^{n}] ou au pire dans deux intervalles consécutifs de cette forme. Dans ce dernier cas, si z est le point commun de ces deux intervalles, il faut appliquer les inégalités ci-dessus entre x et z, puis entre z et y. Notant enfin qu’on a la minoration n + 1 > − log_{2} θ, on obtient

d(Tr γ(x), Tr γ(y)) ⩽ A_{2} exp (k \frac{log ρ}{N_{ρ}}) θ^{− log_{2} ρ/N_{ρ}}

et par conséquent η admet un module de continuité semblable :

d(η(x), η(y)) ⩽ A_{3} exp (k \frac{log ρ}{N_{ρ}}) θ^{− log_{2} ρ/N_{ρ}}

On note que la constante de Hölder tend vers zéro quand k tend vers l’infini ; les chemins η_{k} voient donc leur diamètre tendre vers 0, et leur extrémités z′_{k} = η_{k}(1) convergent vers z.

Or, z′_{k} doit toujours être dans Tr f ; comme z est isolé dans cet ensemble, on aura donc z′_{k} = z dès que k sera assez grand. On a donc réussi à joindre les points z_{k} au point z par des chemins hölderiens d’exposant α et de constante arbitrairement petite, ce qui contredit l’hypothèse initiale. Celle-ci est donc absurde, et la proposition est démontrée.

Remarque. J’ai un peu triché dans la démonstration ci-dessus, en faisant comme si η_{k} était un chemin dans ℂ, alors que c’est un chemin dans Ũ où U est le disque de rayon R. Il faut remarquer que, comme le diamètre des chemins tend vers 0, on finira (pour k assez grand) par se retrouver entièrement dans un voisinage de z ne s’approchant pas du cercle de rayon R, et à l’intérieur duquel la distance d_{A} sera simplement la distance usuelle.

Dans le cas de M, la seule modification par rapport à la démonstration ci-dessus concerne l’estimation du module de continuité des “chemins réguliers” car ici l’espace des annulateurs est un Cantor triadique : ceci explique que log_{3} ρ remplace log_{2} ρ.

6. Ce qui reste à faire

Autant l’estimation sur le module de continuité des chemins réguliers ne semble pas pouvoir être substantiellement améliorée, autant les estimations de N_{ρ} semblent pessimistes et bien loin de la réalité.

Il semble également possible, dans l’énoncé

c ∈ ∂M_{1} ⟹ |c| ⩽ 2^{−1/4},

de remplacer 2^{−1/4} par une constante meilleure. Ceci permettrait d’améliorer l’exposant vraiment catastrophique trouvé pour M_{1}.

Par ailleurs, il est probable que l’on pourrait — mais au prix d’estimations nettement plus fines — prendre pour N_{ρ} non pas le nombre maximum de zéros dans le disque D(0, ρ), mais bien la multiplicité maximum d’un zéro de module < ρ des éléments de F_{0} et F_{1}. Je conjecture que la “bonne valeur” de N_{ρ} est 2, mais pour le démontrer il faudrait connaître des encadrements précis pour les ensembles ∂M et ∂M_{1}.

Références

[Ahl] L. V. Ahlfors, Complex analysis, McGraw-Hill (1966).

[BH] M. F. Barnsley and D. P. Hardin, A Mandelbrot set whose boundary is piecewise smooth, Georgia Institute of Technology, Atlanta, Georgia 30332 (juin 1985).

[BD] M. F. Barnsley and S. G. Demko, Iterated function systems and global construction of fractals, Proc. R. Soc. London, A 399, pp 243–275 (1985).

[Bbk] N. Bourbaki, Topologie générale, Eléments de mathématique, chapitres 1–2, Hermann (1965)

[B-1] T. Bousch, Paires de similitudes z ↦ sz ± 1, manuscrit (1988).

[B-th] T. Bousch, Sur quelques problèmes de dynamique holomorphe, thèse de doctorat, Orsay (1992).

[DK] C. Davis and D. E. Knuth, Number representations and dragon curves, Journal of Recreational Mathematics 3 (1970), pp 66-81 et 133–149.

[DH1] A. Douady et J. H. Hubbard, Etude dynamique des polynômes complexes (première partie), publications mathématiques d’Orsay (1984).

[DH2] A. Douady et J. H. Hubbard, Etude dynamique des polynômes complexes (deuxième partie), publications mathématiques d’Orsay (1985).

[Edg] G. A. Edgar, Measure, Topology and Fractal Geometry, Springer-Verlag (1990).

[Hut] J. E. Hutchinson, Fractals and similarity, Indiana Univ. J. Math. 30, pp 713–747 (1981).

[OP] A. M. Odlyzko and B. Poonen, Zeros of polynomials with 0,1 coefficients, en préparation (1992).

[Vid] J. P. Vidal, Connectivity of compact invariant sets, Computer Science Department, Carnegie-Mellon University (1988).