ALGEBRES DE HÉNON

par Thierry Bousch

Résumé. Dans cet article, nous donnons une description de l’algèbre des polynômes sur K, où K désigne le compact maximum invariant de l’application de Hénon. Ceci fournit en particulier un moyen commode de calculer les points périodiques. Nous montrons également que, si μ_{n} désigne la mesure également répartie sur tous les points n-périodiques, alors ∫ P (x) μ_{n}(x) converge, pour toute fonction polynômiale P, vers une limite que l’on peut calculer explicitement. Nous donnons également un critère pour que K soit entièrement réel.

1. Points périodiques de l’application de Hénon

1.1. Notations

Nous étudions l’application de ℂ^{2} dans lui-même définie par

H_{a,c}\left[{x \atop y}\right] = \left[{x^{2} + c − ay \atop x}\right],

où a et c désignent deux nombres complexes quelconques. Pour a ≠ 0, c’est un automorphisme de ℂ^{2}, et on peut définir les ensembles invariants suivants :

\begin{aligned}K^{±} & = \{p ∈ ℂ^{2} : H^{∘n}(p) ↛ ∞ quand n → ±∞\} \\ K & = K^{+} ∩ K^{−} \end{aligned}

Il est bien connu, en particulier, que K est compact. Le lecteur se convaincra aisément que la dynamique de l’application de Hénon équivaut à étudier les suites complexes (x_{n}) vérifiant la relation de récurrence suivante :

∀n ∈ ℤ x_{n+1} = x_{n}^{2} + c − ax_{n−1}.

En effet, si l’on pose H^{∘n}\left[{x \atop y}\right] = \left[{x_{n} \atop y_{n}}\right], alors y_{n} = x_{n−1}, et les x_{n} vérifient la relation de récurrence indiquée plus haut. Si p = \left[{x_{0} \atop x_{−1}}\right] est dans K^{±}, alors

lim sup_{n→±∞} |x_{n}| < ∞,

et vice-versa. Le point p est dans K si et seulement si la suite (x_{n}) est bornée. Il est périodique si et seulement si la suite est périodique, et dans ce cas les périodes sont égales.

1.2. Equations donnant les points périodiques

Comment trouver les points n-périodiques (c’est-à-dire tous les points dont la période divise n) de l’application de Hénon ? Le cas a = 0 consiste à trouver les points npériodiques de P_{c} : z ↦ z^{2} + c, il y en a donc 2^{n}. Il s’avère que c’est également le cas pour l’application de Hénon, mais on ne le voit pas si on écrit naïvement

H^{∘n}\left[{x \atop y}\right] = \left[{x \atop y}\right]

car on obtient deux équations de degrés 2^{n} et 2^{n−1}, ce qui laisserait supposer qu’il y a 2^{2n−1} solutions. En réalité, la plupart de ces solutions sont à l’infini : la bonne méthode consiste à “balancer” les itérées positives et négatives de l’application de Hénon, en écrivant l’équation de périodicité sous la forme

\begin{matrix}H^{∘−k}\left[{x \atop y}\right] = H^{∘k}\left[{x \atop y}\right] & si n = 2k, \\ H^{∘−k}\left[{x \atop y}\right] = H^{∘k+1}\left[{x \atop y}\right] & si n = 2k + 1. \end{matrix}

On obtient alors deux équations de degré 2^{k} pour n pair, ou l’une de degré 2^{k+1} et l’autre de degré 2^{k} pour n impair, ce qui donne 2^{n} points, et aucun d’entre eux n’est à l’infini. Cela dit, il existe une méthode encore meilleure, non seulement pour prouver qu’il y a 2^{n} points périodiques, mais aussi pour les calculer explicitement (au moins jusqu’à la période 4). Au lieu d’écrire deux équations de grand degré, on va écrire un grand nombre d’équations de petit degré :

{ x_{1} = x_{0}^{2} + c − ax_{n−1}  (0) ; x_{2} = x_{1}^{2} + c − ax_{0}  (1) ; ⋮ ; x_{n−1} = x_{n−2}^{2} + c − ax_{n−3} (n − 2) ; x_{0} = x_{n−1}^{2} + c − ax_{n−2} (n − 1)

dont l’inconnue est le n-uplet (x_{0} … x_{n−1}). On a n équations quadratiques, donc en tout 2^{n} solutions, et là il est trivial de vérifier qu’aucune de ces solutions n’est à l’infini. Cette méthode présente de plus l’avantage de rester valable pour a = 0. Par la suite, nous noterons P_{n} l’ensemble des points n-périodiques, considéré, selon l’humeur, comme un sous-ensemble algébrique de ℂ^{2} ou de ℂ^{n}.

2. L’idéal associé à l’ensemble des points périodiques

La géométrie algébrique nous apprend que pour étudier un ensemble algébrique, tel que P_{n}, il faut étudier les fonctions définies sur cet ensemble, ce qui revient plus ou moins à étudier le quotient de ℂ[x_{0} … x_{n−1}] par l’idéal I_{n} qui définit cet ensemble. Ici, I_{n} est l’idéal engendré par les polynômes x_{k}^{2} +c−x_{k+1} −ax_{k−1}, pour k décrivant ℤ/nℤ.

Posons A_{n} = ℂ[x_{0} … x_{n−1}]/I_{n}. Cette algèbre est l’algèbre commutative définie par les générateurs

x_{k}, k ∈ ℤ/nℤ,

et les relations

x_{k}^{2} = ax_{k−1} − c + x_{k+1}, k ∈ ℤ/nℤ.

Que peut-on dire de cette algèbre, en particulier est-elle de dimension finie ? Il est bien connu que si tous les points de P_{n} sont simples, alors A_{n} s’identifie avec l’algèbre des applications de P_{n} dans ℂ, algèbre qui est manifestement de dimension 2^{n}. Dans le cas de points périodiques multiples, A_{n} admet toujours une interprétation en termes de fonctions algébriques sur P_{n}, mais ici il faut tenir compte non seulement des valeurs prises par la fonction sur P_{n}, mais aussi de certaines de ses dérivées. Dans tous les cas, A_{n} est de dimension 2^{n}, parce que dim A_{n} s’interprète comme le “nombre de points de P_{n} comptés avec multiplicité”, et on a vu plus haut que ce nombre valait 2^{n}. Nous énonçons :

Proposition 1. L’algèbre A_{n} est de dimension 2^{n} sur ℂ.

Il est facile de trouver une famille génératrice de A_{n} si l’on considère les relations x_{k}^{2} = ax_{k−1} − c + x_{k+1} comme des règles de réduction permettant de diminuer le degré d’un polynôme donné. Si, par exemple, on applique ces réductions au polynôme x_{1}^{2}x_{2}x_{3}, on obtient successivement

x_{1}^{2}x_{2}x_{3} = (ax_{0} − c + x_{2})x_{2}x_{3}
= ax_{0}x_{2}x_{3} − cx_{2}x_{3} + x_{2}^{2}x_{3}
= ax_{0}x_{2}x_{3} − cx_{2}x_{3} + (ax_{1} − c + x_{3})x_{3}
= ax_{0}x_{2}x_{3} − cx_{2}x_{3} + ax_{1}x_{3} − cx_{3} + x_{3}^{2}
= ax_{0}x_{2}x_{3} − cx_{2}x_{3} + ax_{1}x_{3} − cx_{3} + ax_{2} − c + x_{4}.

Nous appellerons les substitutions x_{k}^{2} → ax_{k−1} − c + ax_{k+1} des fissions. De même qu’un noyau lourd peut fissionner en plusieurs morceaux plus légers, de même un x_{k}^{ℓ}, avec ℓ ⩾ 2, peut fissionner en des termes de degré inférieur. Il faut voir que, comme en physique nucléaire, les produits de la fission peuvent rendre instable un noyau initialement stable, et en ce sens l’exemple donné ci-dessus est tout-à-fait typique : on a une réaction en chaîne de la gauche vers la droite; la fission du noyau x_{1}^{2} produit un morceau x_{2} qui “tombe” sur le noyau x_{2} et le rend instable, lequel éclate à son tour, et l’un des éclats tombe sur x_{3} et provoque sa fission. La fission cesse lorsque tous les monômes sont “stables”, c’est-à-dire quand le polynôme est de degré au plus 1 en chacun des x_{k}.

Définition. On dira qu’un polynôme d’une ou plusieurs variables est stable si et seulement si il est de degré au plus 1 en chacune de ces variables.

Nous avons (plus ou moins) prouvé que

Proposition 2. Tout polynôme de ℂ[x_{0} … x_{n−1}] est congru, modulo I_{n}, à un polynôme stable.

En d’autres termes, les monômes stables constituent une famille génératrice de A_{n}. Ce sont les monômes de la forme

x_{0}^{α_{0}}x_{1}^{α_{1}} ⋯ x_{n−1}^{α_{n−1}}

où tous les α_{k} valent 0 ou 1 ; il y en a donc 2^{n}. Or, nous avons dit plus haut que 2^{n} est précisément la dimension de A_{n} ! Nous pouvons donc énoncer le

Théorème 1. Tout polynôme en les x_{k} est congru modulo I_{n} à un unique polynôme stable. En d’autres termes, les polynômes stables en les x_{k} constituent une base de A_{n}.

Ce théorème est crucial. Il garantit en particulier que si l’on fait fissionner un polynôme, le produit final (i.e. stable) ne dépend pas de l’ordre dans lequel les fissions ont été effectuées—je ne sais pas démontrer ce résultat autrement. On peut donc le considérer comme une reformulation de l’énoncé combinatoire non trivial selon lequel il y a 2^{n} points n-périodiques. A ceci près que n n’intervient pas explicitement dans l’énoncé…

3. Diagonalisation d’un opérateur de multiplication

Soit u un élément de A_{n}, on considère l’application de A_{n} dans lui-même définie par M_{u} : f ↦ uf. C’est un endomorphisme d’un espace vectoriel de dimension finie 2^{n}. Peut-on calculer ses valeurs propres ? On sait que, génériquement (c’est-à-dire pour (a, c) à l’extérieur d’une certaine hypersurface algébrique), les points périodiques de l’application de Hénon sont simples : en effet, pour a fixé et c suffisamment grand, on a un fer à cheval complexe, et on sait que dans ce cas il y a 2^{n} points périodiques (comptés sans multiplicité). Supposons que tous les points de P_{n} soient simples :

P_{n} = {ϑ_{1} … ϑ_{N}},

où N = 2^{n} et les ϑ_{ℓ} sont des points de ℂ^{n}. Alors A_{n} est isomorphe à l’espace ℂ^{P_{n}} ; si l’on prend pour base les fonctions

δ_{ϑ_{k}} : x ↦ \{ \begin{matrix}1, & si x = ϑ_{k}, \\ 0 & sinon \end{matrix}

alors il est clair que cette base diagonalise l’opérateur M_{u} et que ses valeurs propres sont u(ϑ_{1}) … u(ϑ_{N}).

Proposition 1. Les valeurs propres de M_{u} sont les valeurs prises par la fonction u sur P_{n}, avec multiplicité.

Par densité, on étend ce résultat à toutes les valeurs du couple (a, c).

Proposition 2. Soit μ_{n} la mesure également répartie sur tous les points npériodiques :

μ_{n} = 2^{−n} ∑_{ϑ∈P_{n}} δ_{ϑ}.

Alors, pour toute fonction polynômiale u, on a

∫ u dμ_{n} = 2^{−n} tr M_{u}.

En effet, la trace de M_{u} n’est rien d’autre que la somme de ses valeurs propres ! Reste à calculer cette trace, ce qui est l’objet du paragraphe suivant.

4. Trace de l’opérateur de multiplication

4.1. Choix de la base

On vient de voir qu’une base de A_{n} est donnée par les monômes

u_{α_{0}...α_{n−1}} = x_{0}^{α_{0}} ⋯ x_{n−1}^{α_{n−1}},

où tous les α_{k} valent 0 ou 1. C’est dans cette base que l’on va calculer la trace. Choisissons pour u le monôme

u = u_{γ_{0}...γ_{n−1}}.

On pose

U = {k ∈ ℤ/nℤ : γ_{k} = 1},

et on note U_{1} … U_{s} les composantes connexes de U dans ℤ/nℤ, et # U le cardinal de U, c’est-à-dire le degré total de u. Les B_{i} seront appelés les blocs de u.

Soit maintenant v = u_{α_{0}...α_{n−1}} un vecteur de base quelconque. Il s’agit de trouver, dans les produits de fission de

uv = x_{0}^{α_{0}+γ_{0}} ⋯ x_{n−1}^{α_{n−1}+γ_{n−1}},

quels sont ceux qui sont proportionnels à v.

4.2. Remarques préliminaires

Commençons par deux remarques simples. La première consiste à dire que la seule manière de diminuer l’exposant dans x_{k}^{ℓ} consiste à fissionner x_{k}. La seconde affirme que fissionner un monôme diminue strictement son degré total. Pour “descendre” de uv jusqu’à v, il faudra diminuer les exposants de tous les x_{k} pour lesquels k ∈ U, donc faire fissionner # U noyaux. Dans ce cas, le degré total decroîtra de # U unités (au moins), ce qui nous amène au degré de v, et donc il n’est pas possible de réaliser d’autres fissions (sinon le degré total décroîtrait encore et, à la fin, nous ne pourrions pas avoir un terme proportionnel à v). Ceci entraîne en particulier que nous ne devons pas considérer les fissions dont les éclats tombent à l’extérieur d’un bloc (cela augmenterait l’exposant de l’un des x_{k}, avec k ∉ U, et il ne serait pas possible de le faire redescendre à sa valeur initiale puisque nous ne voulons plus réaliser de fissions). De plus, nous pouvons également ignorer le terme −c dans la fission x_{k}^{2} → ax_{k−1} − c + x_{k+1}, parce que ce terme provoquerait une diminution de deux unités du degré global, si bien qu’après les # U fissions, le degré global serait déjà inférieur à celui de v. Il n’y a donc que deux produits de fission à considérer : la fission à gauche (x_{k}^{2} → ax_{k−1}) et la fission à droite (x_{k}^{2} → x_{k+1}).

4.3. Le cas général

Bien, mais est-ce que les noyaux fissionnent à gauche ou à droite ? Il y a quelques situations où le sens est imposé. Imaginons par exemple que 0 soit juste à côté du bloc B_{1} = {1 … k}. Le noyau en position 1, x_{1}^{...}, ne peut pas fissionner vers la gauche, donc il fissionne vers la droite. Ce faisant, son degré en x_{1} diminue de deux unités, alors qu’il ne devrait diminuer que d’une. Le seul moyen de relever son degré consiste à faire fissionner le noyau en position 2 vers la gauche. Après ces deux fissions, les noyaux en positions 1 et 2 ont exactement les degrés qu’il faut, donc le noyau en 3 ne peut que fissionner vers la droite, le 4 vers la gauche, et ainsi de suite, alternativement, jusqu’au noyau en position k qui lui doit fissionner vers la gauche. Ceci n’est possible, bien sûr, que si k est pair : posons alors k = 2p. Une dernière restriction est que ces fissions soient possibles, c’est-à-dire qu’il y ait un exposant ⩾ 2 pour les initier. Les exposants dans uv valent initialement α_{k} + 1 si k est dans le bloc B_{1} ; pour que la fission se déclenche dans les paires (1, 2), (3, 4), …, (2p − 1, 2p), il faut et il suffit que (α_{1}, α_{2}) ≠ (0, 0), et ainsi de suite jusqu’à (α_{2p−1}, α_{2p}) ≠ (0, 0). Chacune de ces conditions a trois chances sur quatre d’être vérifiée. Si l’on considère tous les blocs, on trouve que

2^{−n} tr M_{u} = \{ \begin{matrix}(3a/4)^{# U/2} & si tous les # B_{i} sont pairs, \\ 0 & sinon. \end{matrix}

4.4. Le cas d’exception

Dans le cas où U = ℤ/nℤ, ce raisonnement doit être un peu modifié, non pas parce qu’il n’y a qu’un seul bloc, mais parce que ce bloc n’est pas limité par deux cases vides comme plus haut. Il se peut, effectivement, que les termes fissionnent alternativement à gauche et à droite ; mais, comme il n’y a pas de conditions aux limites, il y a deux fois plus de possibilités. Le noyau en 1 par exemple, peut fissionner aussi bien vers la gauche que vers la droite ! Enfin, il y a deux solutions supplémentaires, quand les noyaux fissionnent tous vers la gauche ou tous vers la droite. Ces solutions sont initiées pour peu que l’un au moins des α_{k} + 1 soit égal à deux ; ce sera toujours le cas, sauf si tous les α_{k} sont nuls.

Théorème 2. Soit u = u_{0}^{γ_{0}} ⋯ u_{n−1}^{γ_{n−1}}. Soit U = {k ∈ ℤ/nℤ : γ_{k} = 1}, et B_{1} … B_{s} les composantes connexes de U. Si # U < n, alors

2^{−n} tr M_{u} = \{ \begin{matrix}(3a/4)^{# U/2} & si tous les # B_{i} sont pairs, \\ 0 & sinon. \end{matrix}

Si # U = n, alors

2^{−n} tr M_{u} = (1 − 2^{−n})(1 + a^{n}) + \{ \begin{matrix}2(3a/4)^{n/2} & si n est pair, \\ 0 & sinon. \end{matrix}

5. Première algèbre de Hénon

5.1. Limite des algèbres

Il est temps maintenant de faire tendre n vers l’infini. Considérons pour celà l’algèbre A = ℂ[… x_{−1}, x_{0}, x_{1}, x_{2} …], I l’idéal engendré par les polynômes −ax_{k−1} + x_{k}^{2} + c − x_{k+1} pour k décrivant ℤ, et A = A/I l’algèbre quotient : nous l’appellerons première algèbre de Hénon. Pour éviter tout malentendu, je précise tout de suite que A n’est pas noethérienne, I n’est pas finiment engendré, et A est de dimension infinie. Et l’algèbre quotient a-t-elle une structure simple ? Oui, bien sûr, c’est tout simplement l’algèbre des fonctions polynomiales sur K, donc

A = A/I = ℂ[x_{0}, x_{−1}],

sauf dans un cas : si a = 0, il s’agit de l’algèbre des fonctions polynomiales sur ℂ̂_{c}, où ℂ̂_{c} désigne la limite projective de ℂ sous l’action de z ↦ z^{2} + c ; et dans ce cas, l’algèbre n’est pas finiment engendrée. Pour passer à la limite n = ∞ les résultats obtenus plus haut pour n fini, on doit introduire des opérateurs de “wrapping” de la manière suivante. Il existe un morphisme surjectif naturel de l’algèbre ℂ[x_{k}]_{k∈ℤ} dans l’algèbre de dimension finie ℂ[x_{k}]_{k∈ℤ/nℤ}, que nous noterons W_{n}, et qui est défini par W_{n} : x_{k} ↦ x_{kmodn}.

Lemme. Soit P un élément quelconque de ℂ[x_{k}]_{k∈ℤ}. Si P ∈ I, alors W_{n}(P) ∈ I_{n} pour tout n. Si P ≠ 0, alors W_{n}(P) ≠ 0 pour tout n assez grand. Si P est stable, alors W_{n}(P) est stable pour tout n assez grand.

Nous laissons ce lemme au lecteur. Il implique en particulier que les W_{n} passent au quotient en des morphismes surjectifs de A dans A_{n}. On en déduit également le

Théorème 1 bis. Tout polynôme en les x_{k} est congru modulo I à un unique polynôme stable. En d’autres termes, les polynômes stables en les x_{k} constituent une base de A.

5.2. Limite des mesures

Enfin, il reste à définir μ. Nous la définirons comme une forme linéaire sur A, de la manière suivante. Soit U une partie finie de ℤ, et B_{1} … B_{s} ses composantes connexes. On posera

∫ ( ∏_{k∈U} x_{k})dμ = \{ \begin{matrix}(3a/4)^{# U/2} & si tous les # B_{i} sont pairs, \\ 0 & sinon. \end{matrix}

Le résultat fondamental est le suivant.

Théorème 3. Soit P un polynome en les x_{k}, pour k ∈ ℤ. Alors, pour n assez grand on a

∫ P dμ_{n} = ∫ P dμ.

On peut tout de suite supposer que P est réduit à sa forme stable, et prendre n suffisamment grand pour que W_{n}(P) soit stable et que n soit supérieur au degré total de P (sinon on serait dans le cas d’exception du théorème 2).

5.3. Exemples

Vite, des exemples. On remarque tout d’abord que le fait de décaler les indices ne modifie pas le valeur de la fonctionnelle μ. Nous noterons simplement ⟨f⟩ pour ∫ f dμ.

\begin{aligned}⟨x_{k}⟩ & = 0 \\ ⟨x_{k}^{2}⟩ & = −c \\ ⟨x_{k}x_{k+1}⟩ & = 3a/4 \\ ⟨x_{k}x_{ℓ}⟩ & = 0 (ℓ > k + 1) \\ ⟨x_{0}^{2}x_{1}⟩ & = −c \\ ⟨x_{0}x_{1}^{2}⟩ & = −ac \end{aligned}

En particulier, le fait que ⟨x_{0}⟩ = ⟨x_{−1}⟩ = 0 peut s’interpréter en disant que le centre de gravité de la mesure μ est à l’origine.

6. S’agit-il d’une mesure ?

6.1. La deuxième algèbre de Hénon

Nous avons défini μ comme une fonctionnelle linéaire sur A, et prouvé que les μ_{n} convergent ∗-faiblement vers μ sur A. Il ne lui manque donc que très peu de chose pour être une mesure. Comme les μ_{n} sont des probabilités à support inclus dans K, on a pour tout n ∈ ℕ^{∗} et pour tout polynôme P :

∫ 1 dμ_{n} = 1,  |∫ P dμ_{n}| ⩽ sup_{K} |P | ,

et ces propriétés passent à la limite :

∫ 1 dμ = 1,  |∫ P dμ| ⩽ sup_{K} |P | .

Si on désigne par \overline{A} la fermeture de A pour la norme uniforme sur K, alors μ se prolonge (et de manière unique) en une forme linéaire continue sur \overline{A}, que nous appellerons deuxième algèbre de Hénon, et vérifiant encore les propriétés ci-dessus. Le problème vient de ce que, en général, \overline{A} ne s’identifie pas à l’espace des fonctions continues sur K, mais est strictement inclus dedans. On peut certes prolonger μ à C^{0}(K) tout entier et obtenir ainsi une “vraie” mesure, mais le prolongement obtenu n’est pas unique.

6.2. Le contre-exemple fondamental

Donnons un exemple en dimension 1. On prend pour K le disque unité fermé, et on définit μ par

μ(z^{n}) = \{ \begin{matrix}1 & si n = 0, \\ 0 & si n > 0. \end{matrix}

Ici, \overline{A} est l’espace des fonctions continues sur K et holomorphes à l’intérieur de K. Et on constate que μ peut se représenter aussi bien comme la mesure δ_{0} que comme la mesure équirépartie sur le cercle :

∫ P dμ = P (0) = ∮_{∂D} P (z)\frac{dz}{2iπz} .

Nous dirons que μ est une “demi-mesure” pour indiquer que l’écriture ∫ f dμ n’a de sens que si f est polynomiale ou holomorphe. Cela dit, il n’est pas mauvais de penser à μ comme à une probabilité, d’abord parce que μ peut toujours être représentée par une probabilité, et quelquefois (en particulier si K ⊂ ℝ^{2}) de manière unique.

7. L’application de Hénon est holomorphiquement mélangeante

Usuellement, on dit qu’une bijection h sur un espace mesure (X, T , μ), où μ est une mesure h-invariante, est mélangeante si et seulement si, quelles que soient les fonctions mesurables f, g, on a

lim_{n→+∞} ∫ f · (g ∘ h^{n}) dμ → ∫ f dμ ∫ g dμ.

Ici, on va prouver beaucoup moins :

Proposition 1. Soit f un élément quelconque de \overline{A}, et h l’application de Hénon, alors :

∫ (f ∘ h) dμ = ∫ f dμ.

Proposition 2. Soient f, g deux éléments quelconques de \overline{A}, et h l’application de Hénon, alors :

lim_{n→+∞} ∫ f · (g ∘ h^{n}) dμ → ∫ f dμ ∫ g dμ.

Le lecteur s’assurera qu’il suffit de prouver ces propositions dans le cas où f et g sont des polynômes, voire des monômes. Essentiellement, il s’agit de voir ce qui arrive à un monôme quand on le compose à droite avec l’application de Hénon. Mais on a tout fait, justement, pour que cette transformation soit aussi simple que possible ! En effet, x_{k} désigne la première composante de la k-ième itérée du point \left[{x \atop y}\right]. Donc, on a simplement

x_{k} ∘ h = x_{k+1}.

Appliquer h revient donc à décaler tous les monômes d’un cran vers la droite. Maintenant, la proposition 1 est évidente : il est manifeste, en effet, que la formule définissant μ est invariante par translation. Un autre argument consiste à dire que μ est limite de mesures invariantes (les μ_{n}), et donc est elle aussi invariante. La proposition 2 n’est guère plus difficile. Supposant que f et g sont deux monômes, on voit que pour n assez grand (aussi bien positif que négatif, d’ailleurs), les monômes f et g ∘ h^{n} seront “séparés”, et les blocs du produit f(g ∘ h^{n}) seront les blocs de f et les blocs de g ∘ h^{n}, donc

⟨f(g ∘ h^{n})⟩ = ⟨f⟩ ⟨g ∘ h^{n}⟩ = ⟨f⟩ ⟨g⟩ ,

ce qu’il fallait démontrer.

8. Le cas réel

8.1. Une condition nécessaire

Nous avons dit plus haut que si K ⊂ ℝ^{2}, alors μ définit, et de manière unique, une probabilité sur K. C’est donc une situation particulièrement importante, qu’il faudrait pouvoir reconnaître. Nous supposerons, évidemment, que a et c sont réels, sinon c’est sans espoir.

Proposition. Si K ⊂ ℝ^{2}, alors pour tout polynôme P non nul à coefficients réels, on a

∫ P^{2}dμ > 0.

Ce qui est clair en tout cas, c’est que comme μ est une “vraie” mesure à support dans K, et comme K est réel, on a

∫ P^{2}dμ ⩾ 0,

puisque P^{2} est positif. Si l’intégrale était nulle, ceci impliquerait que P soit nul sur le support de μ. Ceci est impossible en vertu du lemme suivant (que je ne démontrerai pas) :

Lemme. Si (a, c) ≠ (0, 0), alors la forme quadratique sur A définie par

(P, Q) ↦ ∫ P Q dμ

est non dégénérée.

La proposition, finalement, ne donne que des conditions nécessaires pour que K soit réel. Je conjecture que ces conditions sont en fait suffisantes. En tout cas, elles sont suffisantes pour a = 0, c’est-à-dire dans le cas des polynômes quadratiques. Prouvons le.

8.2. La réciproque dans le cas quadratique

Pour a = 0, le compact K est l’ensemble de Julia de P_{c} : z ↦ z^{2} + c (non pas dans ℂ, mais dans ℂ̂_{c}). Supposons c tel que ∫ P^{2} > 0 pour tout polynôme P non nul à coefficients réels. On aura en particulier −c = ∫ x_{0}^{2} > 0, donc c sera un réel strictement négatif. Maintenant, donnons-nous n > 0 et considérons le sous-espace vectoriel réel V_{n} de A engendré par les monômes de la forme

x_{0}^{0,1} ⋯ x_{n−1}^{0,1}.

Sur cet espace, la forme quadratique (f, g) ↦ ∫ fg doit être définie positive, donc son déterminant Δ_{n} (dans la base indiquée ci-dessus) sera strictement positif.

8.3. Le déterminant de la forme quadratique

Le calcul de ce déterminant requiert, tout d’abord, le calcul de chacun des éléments de matrice ! On doit calculer des espérances de la forme

∫ x_{0}^{γ_{0}} ⋯ x_{s}^{γ_{s}}

où les γ_{k} peuvent valoir zéro, un ou deux. Pour cela, on écrit à la suite les exposants γ_{i}, en complétant de chaque côté avec des zéros :

x_{0}^{1}x_{1}^{2}x_{2}^{2}x_{3}^{2}x_{4}^{0}x_{5}^{2}x_{6}^{1}  →  … 0 0 0 1 2 2 2 0 2 1 0 0 0…

et la règle est la suivante : l’espérance de ce monôme vaut (−c) puissance le nombre de “deux”, sauf s’il y a un zéro suivi d’un un, auquel cas l’espérance vaut zéro. Le calcul du déterminant est élémentaire et donne

Δ_{n} = α^{2^{n}−1} ∏_{0⩽k<n} f_{k}(0),

où on a posé α = −c, et les fonctions f_{k} sont définies par f_{0}(u) = 1−u et la relation de récurrence

f_{n}(u) = (−1)^{2^{n−1}}f_{n−1}(0)f_{n−1}(α(1 − u)^{2}).

Si tous les Δ_{n} sont strictement positifs, alors tous les f_{n}(0) seront aussi strictement positifs. Le lecteur vérifiera que

∀n ⩾ 1 f_{n}(0) = −f_{n−1}(0)f_{n−2}(0) ⋯ f_{0}(0)f_{0}(ω_{n})

où ω_{n} est la n-ième itérée de 0 par le polynôme quadratique p : u ↦ α(1 − u)^{2}. La condition est donc que ω_{n} soit toujours plus grand que 1. Mais, 0 et 1 sont respectivement la valeur critique et le point critique de p, polynôme qui est directement conjugué à P_{c}. Nous avons donc prouvé que, pour tout n au moins égal à deux, on a P_{c}^{n}(0) > 0. Ceci n’est possible que si c ⩽ −2.

9. Le problème des déterminants récursifs

Or, il est bien connu que le comportement du point critique caractérise (plus ou moins) la dynamique des polynômes quadratiques ; ceci suggère que les déterminants Δ_{n} contiennent des informations sur la dynamique de l’application. Il serait intéressant de savoir si on peut faire un calcul analogue dans le cas de l’application de Hénon générale.

On peut, au prix d’une étude très pénible, obtenir une expression de

⟨x_{0}^{α_{0}} ⋯ x_{s}^{α_{s}}⟩

où les α_{i} valent 0, 1 ou 2, sous la forme suivante :

ℓM_{α_{0}}M_{α_{1}} ⋯ M_{α_{s}}v,

où ℓ est un vecteur ligne, v un vecteur colonne et M_{0}, M_{1} et M_{2} des matrices carrées. A vrai dire, la seule différence par rapport au cas quadratique (a = 0) est la taille des matrices : tout-à-l’heure, nous avions des matrices 2×2, maintenant ce sont des matrices 16 × 16 ! La différence n’est pas seulement quantitative ; même avec des matrices 3 × 3, il n’est pas possible de calculer les déterminants Δ_{n} ; et sans doute était-il déraisonnable d’espérer autant. Faut-il se desespérer ? Non, bien sûr. D’abord, il est toujours possible d’étudier numériquement les petites valeurs de n, et de regarder à l’ordinateur l’aspect du lieu Δ_{n} > 0 dans l’espace des paramètres. Mais surtout, on a montré qu’il existait un rapport entre le comportement dynamique de l’application de Hénon (mais il est probable qu’on pourrait généraliser à n’importe quel automorphisme algébrique) et un problème purement algébrique, qui est le problème des déterminants récursifs. Sous sa forme la plus simple, voici l’énoncé. On définit trois suites de matrices (A_{n}), (B_{n}) et (C_{n}) comme suit ; A_{0}, B_{0} et C_{0} sont des matrices à une ligne et une colonne. De plus, les matrices A_{n}, B_{n}, C_{n} sont des matrices ayant deux fois plus de lignes et de colonnes que A_{n−1}, B_{n−1}, C_{n−1}, dont l’écriture en blocs fait apparaître des combinaisons linéaires de A_{n−1}, B_{n−1}, C_{n−1}, à coefficients constants ; par exemple, on pourrait avoir

A_{n} = ( \begin{matrix}2A_{n−1} + 3B_{n−1} + 4C_{n−1} & 5A_{n−1} + 6B_{n−1} + 7C_{n−1} \\ 8A_{n−1} − 3B_{n−1} − 5C_{n−1} & 2A_{n−1} + 8B_{n−1} + 2C_{n−1} \end{matrix} )

et des formules analogues pour B_{n} et C_{n}. Maintenant la question : calculer det A_{n}. Je doute qu’il existe une réponse satisfaisante, donc on peut être moins ambitieux et se demander, par exemple, quel est l’ordre de grandeur de ce déterminant quand n tend vers l’infini. Après, il faudra se demander comment les déterminants ci-dessus reflètent la dynamique de l’application. Ensuite, trouver une correspondance entre automorphismes algébriques et déterminants récursifs. Comme on le voit, il y a du travail…