Séminaire Bourbaki Mars 1999 51ème année, 1998-99, n^{o} 856

FORMULES DE TRACE, RÉSONANCES ET QUASI-MODES [d’après Sjöstrand-Zworski, Stefanov-Vodev et al.]

par Nicolas BURQ

1. INTRODUCTION

On se propose dans cet exposé de présenter quelques résultats récents mettant en évidence l’existence de résonances. Rappelons par exemple qu’à l’extérieur d’un obstacle compact Θ ⊂ ℝ^{n}, le laplacien avec conditions de Dirichlet Δ_{D}, sur l’espace L^{2} (Θ^{c}), de domaine l’espace de Sobolev H^{2}∩H_{0}^{1} (Θ^{c}) est autoadjoint et que sa résolvante (P + μ^{2})^{−1} est un opérateur holomorphe dans l’ensemble Imμ > 0. On peut montrer que cette résolvante (agissant de L_{comp}^{2} dans L_{loc}^{2}) admet un prolongement méromorphe à ℂ si n est impair et au revêtement simplement connexe ℂ̃ de ℂ^{∗} si n est pair. Les résonances sont les pôles de ce prolongement (nous préciserons cette définition dans la section 2). Elles peuvent être interprétées de plusieurs façons. Outre leur définition, ce sont aussi les points pour lesquels il existe une solution sortante (vérifiant les conditions de radiation de Sommerfeld à l’infini, |∂_{r}u + iμu| ≤ C|e^{−iμr}|/r^{1+n/2}) non triviale de l’équation

(Δ + μ^{2}) u = 0 u |_{∂Ω}= 0 ; (1.1)

ce sont également (en dimension impaire d’espace) les pôles de la matrice de diffusion (scattering) divisés par le complexe i et les valeurs propres du générateur infinitésimal du semi-groupe de Lax et Phillips. Ce sont enfin, nous le verrons à la section 2, les valeurs propres de certains opérateurs (non autoadjoints) construits à partir de −Δ_{D} par distorsion analytique. Les résonances peuvent permettre (en dimension d’espace impaire) de donner un développement asymptotique en grand temps pour les solutions de l’équation des ondes dans Ω, du type

U (t) f = ∑_{Imμ<C} e^{itμ}Π_{μ} (f) + O (e^{−(C−ε)t}) ,

où Π_{μ} est le projecteur spectral sur la “fonction propre” associée au pôle μ vérifiant (1.1) et U (t) f la solution de l’équation des ondes avec conditions au bord de Dirichlet et de données initiales u |_{t=0}= 0, ∂_{t}u |_{t=0}= f.

856-02

Pour l’opérateur −Δ_{D}, les quasi-modes sont des suites (u_{n}, μ_{n})_{n∈ℕ}, où μ_{n} ∈ ℝ, u_{n} ∈ H^{2} ∩ H_{0}^{1} (Θ^{c}) est une fonction à support compact vérifiant ∥u_{n}∥_{L^{2}} = 1 et μ_{n} ⟶^{x→+∞} 0, vérifiant pour tout N > 0 :

(Δ + μ_{n}^{2}) u_{n} = O (μ^{−N}) u |_{∂Ω}= 0.

De tels quasi-modes ont été construits (voir les résultats de V.M.Babich-V.S.Buldyrev [2], J.Ralston [10], V.F.Lazutkin [6], G.Popov [9]) depuis les années 70 dans certaines géométries favorables (présence de trajectoires captives de type elliptique pour le flot du billard dans Θ^{c} par exemple).

Nous nous sommes intéressé dans cet exposé à des résultats montrant la présence de résonances, dans un cadre bien plus général que celui du laplacien de Dirichlet. Ces résultats sont de deux types très différents : d’une part nous présenterons des résultats de J.Sjöstrand-M.Zworski [17, 19, 14, 15] utilisant de nouvelles formules de traces valides en dimensions quelconques d’espace (et plus seulement en dimensions impaires) permettant d’obtenir des bornes inférieures pour les fonctions de comptage des résonances (et en particulier de montrer la présence de résonances), et d’autre part des résultats de P.Stefanov-G.Vodev [21, 20], S.U.Tang-M.Zworski [22] montrant que les quasi-modes sont en fait asymptotiquement proches de résonances.

Le plan de l’exposé est le suivant : dans une première partie nous présentons le cadre mathématique de la boîte noire de J.Sjöstrand-M. Zworski permettant de définir les résonances pour un opérateur semi-classique analytiquement dilatable à l’infini. Même si elle ne contient pas tous les cas pour lesquels il est possible de définir les résonances, cette approche fournit le cadre conceptuel le plus utilisable à l’heure actuelle pour un analyste. Dans une deuxième partie nous présentons une nouvelle formule de trace due à J. Sjöstrand et nous montrons comment cette formule permet dans l’esprit de J. Sjöstrand-M.Zworski [17] de donner une borne inférieure (non triviale) pour la fonction de comptage des résonances pour l’opérateur de Schrödinger, −h^{2}Δ+V, sous des hypothèses très faibles sur le potentiel (les hypothèses sont par exemple vérifiées par tout potentiel réel régulier et à support compact). Enfin dans une troisième partie nous présentons les résultats de P.Stefanov-G.Vodev, S.U.Tang-M.Zworski mettant en évidence les liens entre quasi-modes et résonances.

Cet exposé ne prétend pas être exhaustif, ni en ce qui concerne les travaux des auteurs cités dont nous ne présentons qu’une faible part (nous ne parlerons en particulier ni des bornes supérieures pour les fonctions de comptage des résonances ni de résultats récents de J.Sjöstrand-M.Zworski [19] sur la distribution asymptotique des résonances à l’extérieur d’un obstacle convexe), ni en ce qui concerne de nombreux travaux d’autres auteurs sur le sujet.

856-03

2. LES RÉSONANCES

2.1. La boîte noire

On considère un espace de Hilbert complexe, H et une famille d’opérateurs P, autoadjoints et non bornés sur H, de domaines D, dépendant d’un paramètre h ∈]0, h_{0}]. On munit H^{2} (ℝ^{n} \ B (0, R_{0})) de la norme ∥u∥_{H^{2}}^{2} = ∥ (1 − h^{2}Δ) u∥_{L^{2}} et D de la norme ∥u∥_{D} = ∥ (i + P)^{−1} u∥_{L^{2}}.

Nous ferons les hypothèses suivantes sur H et P.

– H1 L’espace H admet une décomposition orthogonale

H = H_{R_{0}} ⊕ L^{2} (ℝ^{n} \ B (0, R_{0})) ,
u ∈ H = 1_{B(0,R_{0})}u + 1_{ℝ^{n}\B(0,R_{0})}u

et on suppose que

1_{ℝ^{n}\B(0,R_{0})}D = H^{2} (ℝ^{n} \ B (0, R_{0})) ,

uniformément par rapport à h, c’est à dire que l’application

1_{ℝ^{n}\B(0,R_{0})} : D → H^{2} (ℝ^{n} \ B (0, R_{0}))

est uniformément bornée par rapport à h et à un inverse à droite qui est aussi uniformément borné par rapport à h.

– H2 Si u ∈ H^{2} (ℝ^{n} \ B (0, R_{0})) est nulle au voisinage de B (0, R_{0}), alors u (ou plutôt son prolongement par 0 en debors de ℝ^{n} \ B (0, R_{0})) appartient à D.

– H3 L’opérateur 1_{B(0,R_{0})} (P + i)^{−1} est compact.

– H4 On suppose que (Pu) |_{ℝ^{n}\\overline{B(0,R_{0})}} est de la forme Q (u), avec

Qu = ∑_{|α|=2} a_{α} (x) (hD_{x})^{α} u + ∑_{|α|<2} a_{α} (x, h) (hD_{x})^{α} u, (2.1)

où Q est formellement autoadjoint, les fonctions a_{α} sont uniformément bornées par rapport à h ainsi que toutes leurs dérivées et vérifient

∃c > 0; ∀x, ∑_{|α|=2} a_{α}ξ^{α} ≥ c|ξ|^{2},

∑_{|α|≤2} a_{α}ξ^{α} ⟶^{x→+∞} |ξ|^{2} uniformément par rapport à h.

(2.2)

– H5 Soient R > 2R_{0} et P^{♯} l’opérateur sur H^{♯} = H_{R_{0}} ⊕ L^{2} (ℝ^{n}/Rℤ^{n} \ B (0, R_{0})) qui coïncide avec P sur la cellule [−R, R]^{n} avec des conditions périodiques au bord. L’opérateur P^{♯} a alors un spectre discret et on note N^{♯} (P^{♯}) le nombre de ses valeurs propres dans un intervalle I. On suppose qu’on a une formule de type formule de Weyl pour la fonction de comptage, N^{♯}, des valeurs propres de P^{♯} :

N^{♯} (P^{♯}, [−λ, λ]) = O (λ/h^{2})^{n^{♯}}; λ ≥ 1.

On peut vérifier que cette hypothèse ne dépend pas du choix de R.

856-04

Les deux exemples fondamentaux d’opérateurs vérifiant les hypothèses précédentes sont les suivants :

L’opérateur de Schrödinger. On considère P = −h^{2}Δ + V (x, h) où le potentiel V est réel et vérifie lim_{x→+∞} V (x, h) = 0 (uniformément par rapport à h), sur l’espace de Hilbert H = L^{2} (ℝ^{n}) et de domaine D = H^{2} (ℝ^{n}).

Le problème extérieur. On considère Θ ⊂ ℝ^{n} un domaine borné régulier, Ω = ℝ^{n} \ \overline{Θ} et P = −h^{2}Δ_{D} (respectivement P = −h^{2}Δ_{N}) le laplacien de Dirichlet (respectivement de Neumann) sur l’espace de Hilbert H = L^{2} (Ω) de domaine D_{D} = H^{2} (Ω) ∩ H_{0}^{1} (Ω) (respectivement H^{2} (Ω)).

2.2. Distorsion analytique

Dans cette partie on définit les résonances comme étant les valeurs caractéristiques de certains opérateurs non autoadjoints, obtenus à partir de P par distorsion analytique. L’introduction de la distorsion analytique pour l’étude des résonances remonte aux travaux de J.Aguilar-J.M. Combes [1].

– H6 On suppose qu’il existe un angle θ_{0} ∈]0, π[ et ε > 0, R_{1} > R_{0} tels que les coefficients a_{α} (x, h) ; |α| ≤ 2 admettent un prolongement holomorphe en x à l’ensemble

Ω_{R_{0},θ_{0},ε} = {rω; ω ∈ ℂ^{n}; dist (ω, ℂ^{n}) < ε, r ∈ e^{i[0,θ_{0}[}]R_{1}, +∞[}.

On suppose aussi que les relations (2.1) et (2.2) restent vérifiées dans cet ensemble. Cette hypothèse supplémentaire est évidement vérifiée pour le problème extérieur et pour l’opérateur de Schrödinger si par exemple le potentiel est à support compact.

Les constantes ε_{0} > 0, R_{1} > R_{0} étant fixées, on peut construire une famille de déformations

[0, θ_{0}] × [0, +∞[∋ (θ, t) ↦ f_{θ} (t) ∈ ℂ,

vérifiant (1) f_{θ} (t) = t pour t ≤ R_{1},

(2) 0 ≤ arg (f_{θ} (t)) ≤ θ, ∂_{t}f_{θ} ≠ 0,

(3) arg (f_{θ} (t)) ≤ arg∂_{t} (f_{θ} (t)) ≤ arg (f_{θ} (t)) + ε_{0},

(4) f_{θ} (t) = e^{iθ}t pour t ≥ T_{0}, T_{0} dépendant de R_{1} et ε_{0}. On considère alors l’application

κ_{θ} : ℝ^{n} ∋ x = |x|ω ↦ f_{θ} (|x|) ω ∈ ℂ^{n}

et on note Γ_{θ} son image qui est une variété totalement réelle (T Γ_{θ} ∩iT Γ_{θ} = 0) qui coïncide avec ℝ^{n} près de B (0, R_{1}). On note aussi

H_{θ} = H_{R_{0}} ⊕ L^{2} (Γ_{θ} \ B (0, R_{0})) .

856-05

La fonction κ_{θ} permet d’identifier H et H_{0}. De la même façon, on définit D_{θ} = κ_{θ∗} (D). Soit χ ∈ C_{0}^{∞} (B (0, R_{1})) égale à 1 au voisinage de B (0, R_{0}). On définit alors un opérateur P_{θ} non borné (et non autoadjoint) de domaine D_{θ} par

P_{θ}u = P (χu) + Q |_{Γ_{θ}} ((1 − χ) u) ; 0 ≤ θ ≤ θ_{0}.

Le symbole principal de l’opérateur Q |_{Γ_{θ}} vaut q_{θ} (z, ζ) = q_{0} ((κ_{θ}^{−1}(z), ^{t}T κ_{θ}(ζ))). Si on identifie Γ_{θ} et Γ, on obtient par exemple pour −Δ et son symbole principal, D en coordonnées polaires :

−Δ_{Γ_{θ}} = (\frac{1}{f′ (t)}D_{t}^{2}) − \frac{n − 1}{f (t) f′ (t)}iD_{t} + (f (t))^{−2} D_{ω}^{2},

D_{θ} = \frac{τ^{2}}{f′ (t^{2})} + \frac{|η|^{2}}{f (t)^{2}} .

Les lemmes suivants permettent de définir les résonances dans ce cadre : le premier résultat garantit que le spectre de P_{θ} est en dehors de e^{−2iθ}[0, +∞[ formé de valeurs propres :

Lemme 2.1 (J. Sjöstrand-M. Zworski [16]). — Soit z ∈ ℂ^{∗}, tel que arg z ≠ −2θ. Alors P_{θ} : D_{θ} ↦ θ est un opérateur de Fredholm d’indice 0. En particulier un point z ∈ ℂ \ e^{−2iθ}[0, +∞[ appartient au spectre de P_{θ} si et seulement si dim Ker(P_{θ} − z) ≠ 0

et le deuxième résultat décrit l’invariance du spectre par rapport à θ et au choix de la déformation f_{θ} :

Lemme 2.2 (J. Sjöstrand-M. Zworski [16]). — Soient 0 ≤ θ_{1} ≤ θ_{2} ≤ θ_{0} et z ∈ ℂ \ e^{−2i[θ_{1},θ_{2}]}[0, +∞[. Alors

∀k ∈ ℕ, dim Ker (P_{θ_{1}} − z)^{k} = dim Ker (P_{θ_{2}} − z)^{k} .

De plus, si on choisit une deuxième famille de déformation, f̃_{θ} vérifiant les hypothèses (1)– (4) et si on note P̃_{θ} la famille d’opérateurs associée, alors

∀k ∈ ℕ, dim Ker(P̃_{θ_{1}} − z)^{k} = dim Ker(P_{θ_{1}} − z)^{k}.

Définition 2.3. — On appelle résonances de l’opérateur P incluses dans e^{−2i[0,θ[}]0, +∞[ les valeurs propres de l’opérateur P_{θ} incluses dans e^{−2i[0,θ[}]0, +∞[. On notera Rés (P) l’ensemble des résonances de P.

D’après le lemme 2.2, cette définition ne dépend ni du choix de θ ni de celui de la famille de déformations f_{θ}. D’après la théorie de Fredholm analytique, si z_{0} ∈ e^{−2i[0,θ[}]0, +∞[ est une résonance, alors l’opérateur

π_{θ,z_{0}} = \frac{1}{2πi} ∫_{|z−z_{0}|=η<<1} (z − P_{θ})^{−1} dz

est une projection de rang fini, son image F_{θ,z_{0}} est, pour k ∈ ℕ assez grand le noyau de (P_{θ} − z_{0})^{k} et sa dimension ne dépend donc ni du choix de θ ni de celui de f_{θ}.

856-06

Définition 2.4. — Si z_{0} ∈ e^{−2i[0,θ[}]0, +∞[ est une résonance alors on définit sa multiplicité mult (z_{0}) par

mult (z_{0}) = dim F_{θ,z_{0}}.

Remarque 2.5. — La définition des résonances que nous avons donnée coïncide avec les autres définitions possibles, en particulier, on aurait pu montrer que la résolvante (z − P)^{−1} définie (et holomorphe) de H_{comp} dans H_{loc} pour Imz > 0 peut être prolongée méromorphiquement à travers ]0, +∞[ et que les pôles de ce prolongement sont les résonances. Plus précisement, on a le résultat suivant :

Lemme 2.6. — Soit χ ∈ C_{0}^{∞} (ℝ^{n}) égale à 1 au voisinage de B (0, R_{0}). Alors la résolvante tronquée, χ (P − z)^{−1} χ, qui est holomorphe pour Imz > 0, admet un prolongement méromorphe à l’ensemble z ∈ e^{−2i]π,θ[}]0, +∞[, les pôles de ce prolongement sont les résonances situées dans e^{−2i]0,θ[}]0, +∞[ et leur multiplicité est la dimension de l’image du projecteur spectral tronqué correspondant :

χπ_{z_{0}}χ = \frac{1}{2πi} ∫_{|z−z_{0}=η<<1} χ (z − P)^{−1} χdz.

Remarque 2.7. — La définition des résonances que nous avons esquissée dans l’introduction correspond donc à prendre μ = h^{−1}\sqrt{λ} où λ est une résonance suivant la définition 2.3 et \sqrt{λ} la racine est la détermination principale de la racine (positive sur ℝ^{+∗}).

3. FORMULES DE TRACES ET RÉSONANCES

3.1. Formules de trace

Dans le cas de la diffusion par un obstacle, Θ, ou par un potentiel à support compact, notons U (t) = cos (t\sqrt{P}), U_{0} (t) = cos (t\sqrt{P}_{0}) (U_{0} (t) = 1_{Θ^{c}} cos (t\sqrt{P}_{0}) 1_{Θ^{c}} dans le cas d’un obstacle, P_{0} = −Δ dans ℝ^{n} (ici on fixe h = 1). La formule de Poisson suivante a été démontrée par P.Lax-R.Phillips [5], puis généralisée successivement par C.Bardos-J.C.Guillot-J.Ralston [3], R.Melrose, [7, 8] et J.Sjöstrand-M.Zworski [18] dans le cas où la dimension d’espace est impaire :

u (t) = 2Tr (U (t) − U_{0} (t)) = ∑_{λ∈R̃és(P)} e^{−iλ|t|}; t ≠ 0,

l’égalité ayant lieu au sens des distributions sur ℝ^{∗}, et R̃és désignant l’ensemble des résonances telles que définies dans l’introduction. Cette relation s’exploite souvent de la manière suivante : on considère χ ∈ C_{0}^{∞} (]0, +∞[) et on obtient pour λ ∈ ℝ

(3.1) Tr (χ̂ (λ − \sqrt{P}) + χ̂ (λ + \sqrt{P}) − χ̂ (λ − \sqrt{P_{0}}) − χ̂ (λ + \sqrt{P_{0}}))

= χ̂u (λ) = ∑_{μ∈R̃és} χ̂ (λ − μ) .

856-07

La fonction

χ̂ (λ − \sqrt{z}) + χ̂ (λ + \sqrt{z})

étant holomorphe (car les puissances impaires de \sqrt{z} se compensent). On s’intéresse alors à l’asymptotique λ → +∞ de la relation (3.1). Posons λ = h^{−1}, on obtient

χ̂u (λ) = ∑_{μ∈R̃és} χ̂ (h^{−1} (1 − h\sqrt{μ})) + χ̂ (h^{−1} (1 + h\sqrt{μ})) .

On constate que la contribution du second terme est O (h^{∞}) tandis que celle du premier terme donne

χ̂u (λ) = ∑_{λ∈Rés} χ̂ (h^{−1} (1 − λ)) + O (h^{∞}) ; (3.2)

des renseignements sur les singularités de u (et donc sur la non décroissance rapide en λ de χ̂u peuvent alors permettre d’obtenir des indications sur la localisation des résonances.

Le but de cette partie est de présenter une formule de trace semi-classique locale due à J. Sjöstrand applicable en toutes dimensions d’espace et pour des perturbations du Laplacien qui peuvent être à longue portée et permettant de fournir des résultats du type (3.2). Nous suivons ici la présentation de [15]. Nous noterons par la suite, si f_{0} et f_{1} sont deux quantités, [f_{·}]_{0}^{1} = f_{1} − f_{0}.

On considère deux opérateurs P_{0;1} de domaines D_{0;1} vérifiant les hypothèses H1–6. On suppose qu’ils vérifient l’hypothèse supplémentaire :

– H7

\begin{matrix}∀α; |α| ≤ 2, ∀0 < h ≤ h_{0}, ∀x ∈ Ω_{R_{0},θ,ε}, \\ |[a_{˙,α} (x, h) ]_{0}^{1}| = ||[a_{1,α} (x, h) − a_{0,α} (x, h) ]_{0}^{1}| ≤ C (1 + |x|)^{−ñ}; ñ > n. \end{matrix}

Le résultat suivant permet de définir la trace (on note n^{♯} = max{n_{0}^{♯}, n_{1}^{♯}}) :

Proposition 3.1. — Soient m > 2N, χ ∈ C_{0}^{∞} (ℝ^{n}), égale à 1 au voisinage de B (0, R_{0}) et f ∈ C^{∞} (ℝ) vérifiant pour tout k entier

∂_{t}^{k}f (t) ≤ C (1 + |t|)^{−m−k} .

Alors les opérateurs

χf (P_{0;1}) , f (P_{0;1}) χ et [(1 − χ) f (P_{·}) (1 − χ)]_{0}^{1}

sont à trace et l’expression

Tr[f (P_{·}) ]_{0}^{1} =^{def} [Tr (f (P_{·}) χ + χf (P_{·}) (1 − χ)) ]_{0}^{1} + Tr[ (1 − χ) f (P_{·}) (1 − χ) ]_{0}^{1}

est indépendante du choix de χ et majorée par Ch^{−n^{♯}}.

856-08

Soient W ⊂⊂ Ω deux ouverts relativement compacts de e^{i]−2θ_{0},ε_{0}]}]0, +∞[. On suppose que les intersections I et J de W et Ω avec l’axe réel sont des intervalles et que Ω est simplement connexe. On note Ω_{−} et W_{−} les intersections de Ω et W avec e^{i]−2θ_{0},0]}0, +∞[.

Théorème 1 (Sjostrand, 96). — Soit f (z, h) une famille de fonctions holomorphes en z ∈ Ω telle que |f |_{Ω\W} | ≤ 1. Soit χ ∈ C_{0}^{∞} (ℝ) égale à 1 au voisinage de \overline{I}. Alors

Tr ((χf) (P_{1}) − (χf) (P_{0}))

= [ ∑_{λ∈RésP_{·}∩W_{−}} f (λ, h) − ∑_{μ∈σ(P_{·})∩]−∞,0[∩W_{−}} f (μ, h) ]_{0}^{1} + O (h^{−n^{♯}}) .

Remarque 3.2. — Si W ∩ ℝ^{−} = ∅, le choix de f = 1 sur W dans la formule de trace permet, si on peut construire un opérateur P_{0} n’ayant pas de résonances dans W, de retrouver que le nombre de résonances de P_{1} dans W est majoré par Ch^{−n^{♯}} (ce résultat était connu antérieurement).

La démonstration de cette formule de trace est assez technique. Nous allons en donner les grandes lignes. On fixe m ∈ ℕ assez grand pour que les opérateurs qu’on considère aient de bonnes propriétés de trace et on écrit, pour un z_{0} ∉ W de partie imaginaire strictement positive, loin du spectre de P, f (z) = (z − z_{0})^{−m} g (z) et on obtient par le calcul fonctionnel des opérateurs autoadjoints

(χf) (P_{·}) = (P − z_{0})^{−m} (χg) (P_{·}) ,

= −\frac{1}{2iπ} ∫_{ℝ} g (x) χ (x) (P_{·} − z_{0})^{−m} ((x + i0 − P)^{−1} − (x − i0 − P)^{−1}) dx.

Soit χ̃ une extension quasi analytique de χ (∂\overline{z}χ est nulle à l’ordre infini sur ℝ), à support proche de J_{+} = J ∩ ℝ^{+}, égale à 1 au voisinage de I_{+} = I ∩ ℝ^{+}. La formule de Stokes implique (dL (z) étant la mesure de Lebesgue sur ℂ),

(χf) (P_{·}) = −\frac{1}{π} ∫_{ℂ} g (z) ∂\overline{z}χ̃ (z) (P_{·} − z_{0})^{−m} (z − P_{·})^{−1} dL (z)

= −\frac{1}{π} ∫_{Ω_{−}} −\frac{1}{π} ∫_{Ω_{+}}

= I_{·}^{−} + I_{·}^{+}.

On choisit χ̂ égale à 1 au voisinage de W_{−}, à χ̃ près de J_{+} et quasi analytique près de ℝ^{−}. On obtient

I_{·}^{−} = − (χ̂1_{ℝ^{−}}f) (P_{·}) − \frac{1}{π} ∫_{ℂ} g (z) ∂\overline{z}χ̂ (z) (P_{·} − z_{0})^{−m} (z − P_{·})^{−1} dL (z) .

On vérifie alors que la contribution du premier terme à la trace donne le terme de la formule de trace correspondant aux valeurs propres négatives des opérateurs P_{0;1} tandis

856-09

que celle du deuxième est en O (h^{−n^{♯}}). Il reste à étudier la contribution de I^{+} à la formule de trace.

La formule de Stokes donne

I_{·}^{+} = −\frac{1}{π} ∫_{Ω_{+}∩Imz≤δ} g (z) ∂\overline{z}χ̃ (z) (P_{·} − z_{0})^{−m} (z − P_{·})^{−1} dL (z)

+ \frac{1}{2iπ} ∫_{Ω_{+}∩Imz=δ} g (z) χ̃ (z) (P_{·} − z_{0})^{−m} (z − P_{·})^{−1} dz.

Si δ > 0 est assez petit, sur le domaine d’intégration de la première intégrale, g = O (1), ce qui permet de montrer que la contribution de ce terme à la trace est O (h^{−n^{♯}}). La deuxième intégrale est, modulo une erreur du même ordre égale à

J_{·} = \frac{1}{2iπ} ∫_{γ} g (z) (P_{·} − z_{0})^{−m} (z − P_{·})^{−1} dz,

où γ est un segment [a, b], Ima = Imb = δ, J_{+} ∋ Rea < inf I_{+}, J_{+} ∋ Reb > sup I^{+}. On montre alors qu’on peut déformer l’opérateur P sans changer J_{·} :

J_{·} = \frac{1}{2iπ} ∫_{γ} g (z) (P_{θ,·} − z_{0})^{−m} (z − P_{θ,·}, ·)^{−1} dz.

Soit γ′ un contour dans Ω \ W joignant a à b. On montre ensuite (et c’est la partie la plus technique de la preuve) que

Tr[ (\frac{1}{2iπ} ∫_{γ′} g (z) (P_{θ,·} − z_{0})^{−m} (z − P_{θ,·})^{−1} dz) ]_{0}^{1} = O (h^{−n^{♯}}) ,

ce qui implique

Tr ([J]_{0}^{1}) = Tr ([\frac{1}{2iπ} ∫_{γ∪γ′} g (z) (P_{θ,·} − z_{0})^{−m} ((z − P_{θ,·})^{−1} dz]_{0}^{1}) + O (h^{−n^{♯}}) ,

= Tr ([\frac{1}{2iπ} ∫_{γ∪γ′} g (z) (P − z_{0})^{−m} (z − P_{θ})^{−1} dz]_{0}^{1}) + O (h^{−n^{♯}}) ,

et le théorème des résidus fournit la contribution des résonances à la formule de trace.

3.2. Application à l’étude des résonances pour des opérateurs de Schrödinger semi-classiques

Soit P_{1} = −h^{2}Δ + V_{1} (x) un opérateur de Schrödinger vérifiant les hypothèses H1– 6. Pour E > 0 on note ν_{+,1} (E) = ∫_{V_{1}(x)≥E} dx et on rappelle que le support singulier analytique d’une distribution f, noté supp sing_{a} (f), est l’ensemble des points au voisinage desquels cette distribution n’est pas une fonction analytique réelle). On a alors le résultat suivant qui montre l’existence de nombreuses résonances :

Théorème 2 (Sjöstrand 96). — Soit 0 < E_{0} ∈ supp sing_{a} (ν_{+,1}). Alors pour tout voisinage complexe de E_{0}, W, il existe h_{0}, C > 0 tels que pour tout 0 < h < h_{0} le nombre de résonance de P dans W est supérieur à Ch^{−n}.

856-10

Remarque 3.3. — Dans la mesure où la distribution ν_{+} est nulle pour

|x| > sup_{x} |V_{1} (x) |,

son support singulier analytique n’est pas vide.

Pour la démonstration du théorème 2 nous suivons [13] : on commence par construire un deuxième opérateur P_{0} = −h^{2}Δ + V_{0} vérifiant les hypothèses H1–6 et tel que

(1) La mesure ν_{+,0} est nulle au voisinage de E_{0},

(2) l’opérateur P_{0} n’a pas de résonance au voisinage de E_{0},

(3) |V_{1} (x) − V_{0} (x) | ≤ \frac{C}{(1+|x|)^{−n−1}} . Cette construction se fait simplement par troncature et régularisation.

Pour ±E > 0, on note ν_{±,·} = ∫_{±V (x)≥±E} dx et μ_{±} = ∓\frac{d}{dE} ν_{±,·}. Les distributions μ_{+} et μ_{−} sont deux mesures positives sur ℝ^{+} et ℝ^{−} respectivement. Soit μ la distribution d’ordre −1, à support compact définie par

⟨μ, φ⟩ = ∫ (φ (V_{1} (x) − V_{0} (x)) dx, ∀φ ∈ C_{0}^{∞} (ℝ) .

On a μ_{ℝ^{±}} = [μ_{±,·}]_{0}^{1}. Enfin, on note ω la distribution définie par

⟨ω, φ⟩ = ∫∫ [f (ξ^{2} + V_{·} (x)) ]_{0}^{1}dx.

Des calculs standard de distributions permettent d’exprimer μ et ω en fonction l’une de l’autre et de montrer en particulier que leurs supports singuliers analytiques coïncident. En particulier, E_{0} ∈ supp sing_{a} (ω). Plus précisement, puisque la distribution ω est réelle, les deux points (E_{0}, ±1) appartiennent au front d’onde analytique de ω. On rappelle la caractérisation du front d’onde analytique, SS_{a} (f), d’une distribution f ∈ D′ (ℝ^{d}), en termes de transformation de F.B.I. (voir [12]) :

Définition 3.4. — Soient ϱ_{0} = (x_{0}, ξ_{0}) ∈ ℝ^{2d} et χ ∈ C_{0}^{∞}(ℝ^{d}) égale à 1 au voisinage de x_{0}. On dit que ϱ_{0} n’appartient pas au front d’onde analytique de f (ϱ_{0} ∉ SS_{a} (f)) si et seulement s’il existe V un voisinage dans ℂ^{d} de x_{0} − iξ_{0} et C, ε > 0 tels que

T (χf, λ, z) = ∫ e^{−λ(z−x)^{2}/2}χf (x) dx,

vérifie |T (χf, λ, z) | ≤ Ce^{λ(Imz)^{2}/2−ελ} sur [1, +∞[_{λ}×V_{z}. Cette définition est indépendante du choix de χ.

Puisque (E_{0}, ±1) appartiennent au front d’onde analytique de ω, il existe donc des suites (α_{j}, β_{j})_{j∈ℕ} et (ε_{j}, λ_{j})_{j∈ℕ} convergeant vers (E_{0}, 1) et (0, +∞) respectivement et vérifiant

|T (χf, λ_{j}, α_{j} − iβ_{j}, λ_{j}) | = |∫ e^{iλ_{j}(β_{j}(α_{j}−E_{0})+i(α_{j}−E_{0})^{2}/2)}χf (x) dx| ≥ e^{−ε_{j}λ_{j}}. (3.3)

856-11

Soient a, b > 0 et

Ω =]E_{0} − b, E_{0} + b[×i] − a, a], W =]E_{0} − b/2, E_{0} + b/2[×i] − a/2, a].

On note I et J les intersections respectives de W et Ω avec l’axe réel et χ ∈ C_{0}^{∞} (J) égale à 1 sur I. Soient

f_{j} (E) = e^{iλ_{j}(β_{j}(α_{j}−E_{0})+i(α_{j}−E_{0})^{2}/2)},

qui vérifient, si a, b et a/b sont petits, f_{j} |_{Ω\W} | ≤ e^{−λ_{j}/C}. La formule de trace du théorème 1 donne

Tr[ (f_{j}χ) (P_{·}) ]_{0}^{1} = [ ∑_{λ∈Rés(P_{·})∩W_{−}} f (λ) ]_{0}^{1} + O (1) h^{−n}e^{−λ_{j}/C},
= ∑_{λ∈Rés(P_{1})∩W_{−}} f (λ) + O (1) h^{−n}e^{−λ_{j}/C}.

(3.4)

Pour calculer la trace on peut appliquer une autre formule due à D.Robert [11]

Tr[ (f_{j}χ) (P_{·}) ]_{0}^{1} = \frac{1}{(2πh)^{n}} ∫ (f_{j}χ) (E) ω (E) dE + O_{j} (h^{1−n}) . (3.5)

Cette formule se démontre assez simplement en utilisant le calcul symbolique des opérateurs (voir [13], pages 11 et 12 pour un schéma de preuve). D’après (3.4) et (3.5), on obtient

∑_{λ∈Rés(P_{1})∩W_{−}} f (λ) = \frac{1}{(2πh)^{n}} ∫ (f_{j}χ) (E) ω (E) dE + O (1) h^{−n}e^{−λ_{j}/C} + O_{j} (h^{1−n}) ,

donc d’après (3.3)

| ∑_{λ∈Rés(P_{1})∩W_{−}} f (λ) | ≥ \frac{e^{−ε_{j}λ_{j}} − O (1) e^{−λ_{j}/C}}{(2πh)^{n}} + O_{j} (h^{1−n}) .

Fixant d’abord j grand puis h petit, on obtient

| ∑_{λ∈Rés(P_{1})∩W_{−}} f (λ) | ≥ \frac{1}{Ch^{n}} ,

ce qui implique le théorème 2 puisque |f_{j}| ≤ 1 sur W_{−} (si on a choisi W assez petit).

4. RÉSONANCES ET QUASI-MODES

L’objet de cette section est de présenter une autre approche permettant de mettre en évidence la présence de résonances. Il s’agit de résultats de toute autre nature que les précédents. Dans la section 3.1, on a montré que les formules de traces permettaient de minorer le nombre de résonances dans un voisinage complexe d’une énergie E_{0}, c’est à dire relativement loin du réel. On aurait pu donner d’autres résultats de J. Sjöstrand et M. Zworski permettant de minorer ce nombre dans des régions de la forme |Rez − E_{0}| < ε, |Imz| < Ch^{2}| log h|. Ici, nous allons mettre en évidence (dans des cas particuliers) la présence de résonances convergeant vers le réel quand h tend vers 0 plus vite que tout

856-12

polynome en h^{−1}. Cette dernière propriété est à la fois un avantage et un inconvénient. C’est un inconvénient puisqu’elle restreint la généralité et que la construction que nous présentons nécessite des hypothèses très fortes (permettant de construire des quasi modes), mais c’est aussi un avantage car les résonances ainsi construites sont par nature très proches du réel et d’un point de vue physique (voire expérimental), ce sont ces résonances qu’il est possible de mesurer. Nous suivons ici la présentation de P.Stefanov [20].

Définition 4.1. — Pour toute suite (h_{l})_{l∈ℕ} de réels strictement positifs tendant vers 0 quand l tend vers l’infini, on appelle quasi-modes (u_{j}) associés aux quasi-résonances (E_{j}), toute famille (u_{j} (h_{l}) , E_{j} (h_{l}))_{j=1}^{m(l)} telle qu’il existe une fonction R (h) = O (h^{−N}) , ∀N > 0 et

– u_{j} (h_{l}) ∈ H, ∀l, j,

– E_{j} (h_{l}) ∈ ℝ, ∀l, j,

– Pour tout l ∈ ℕ^{∗} et tout 1 ≤ j ≤ m (l),

∥ (P − E_{j} (h_{l})) u_{j} (h_{l}) ∥_{H} ≤ R (h_{j}) ,
|(u_{i} (h_{l}) , u_{j} (h_{l}))_{H} − δ_{i,j}| ≤ R (h_{j}) ,
∃R_{1} > R_{0}; u_{j} (h_{l}) = 1_{B(0,R_{1})}u_{j} (h_{l}) .

On a alors le résultat suivant

Théorème 3 (Stefanov-Vodev 95, Tang-Zworski 98, Stefanov 98). — Soient P, un opérateur vérifiant les hypothèses H1–6, (h_{l}) → 0, l → +∞ et (u_{j} (h_{l}) , E_{j} (h_{l})) des quasimodes. On suppose de plus qu’il existe deux fonctions 0 < a_{0} ≤ a (h) ≤ b (h) ≤ b_{0} < +∞ telles que pour tous 0 ≤ j ≤ m (l), E_{j} (h_{l}) ∈ [a (h_{l}) , b (h_{l})]. Alors il existe D > 0, L ∈ ℕ tel que pour tout l ≥ L et toute fonction positive S (h) vérifiant

S (h) ≥ max{h^{−n^{♯}−1}R (h) , De^{−D/h}},

l’opérateur P (h_{l}) a au moins m (l) résonances (comptées avec leur multiplicité) dans l’ensemble

E = [a (h_{l}) − 6h_{l}^{k}, b (h_{l}) + 6h_{l}^{k}] × i [−2S (h_{j}) h_{l}^{−n^{♯}−1}, 0] . (4.1)

En d’autres termes, si l est assez grand, on aura au moins autant de résonances proches de E_{j} (h_{l}) que de quasi-modes et les résonances correspondantes seront d’autant plus proches du réel que la fonction R est petite, sans pouvoir être plus proches qu’exponentiellement. Au sujet de l’impossibilité pour les résonances de s’approcher du réel plus vite qu’exponentiellement, on pourra consulter [4].

La preuve de ce résultat repose essentiellement sur les deux lemmes suivants dus à S.H.Tang-M.Zworski [22]. Le premier est une estimation a priori sur la résolvante en dehors d’un voisinage des résonances :

856-13

Lemme 4.2. — Soient θ vérifiant les conclusions de l’hypothèse H6 et χ ∈ C_{0}^{∞} (ℝ^{d}) égale à 1 au voisinage de B (0, R_{0}). Pour tout compact simplement connexe Ω̃ vérifiant

Ω̃ ⊂ S_{θ} = {z ∈ ℂ; max(−π, 2θ − 2π) < − arg z < 2θ}

et pour toute fonction positive g (h) définie pour 0 < h < h_{0} et assez petite, il existe des constantes A, h_{1} > 0 telles que pour tout 0 < h < h_{1} et tout

z ∈ Ω̃ \ ∪_{z∈Rés(P(h))∩Ω̃}\overline{B (z, g (h))},

on a

∥χ (P (h) − z) χ∥_{L(H)} ≤ Ae^{Ah^{−n^{♯}} log(1/g(h))};

et le deuxième lemme est un principe du maximum :

Lemme 4.3. — Soient (h_{l}) une suite convergeant vers 0 quand l tend vers l’infini, H = ∪_{l}{h_{l}} et F (z, h) ; h ∈ H, une famille de fonctions holomorphes en z définie au voisinage de

Ω (h) = [E (h) − 5h^{k}, E (h) + 5h^{k}] + i [−S (h) h^{−n^{♯}−1}, S (h)] . (4.2)

On suppose qu’on a

|F (z, h) | ≤ Ae^{Ah^{−n^{♯}} log(1/hS(h))} sur Ω (h),
|F (z, h) | ≤ 1/|Imz| sur Ω (h) ∩ {Imz > 0}.

Alors il existe h_{1} > 0 et B ne dépendant que de S, A et k tels que pour tout 0 < h < h_{1}, h ∈ H,

|F (z, h) | ≤ B/S (h) sur [E (h) − h^{k}, E (h) + h^{k}].

On revient à la preuve du théorème 3. On commence par supposer que le nombre de quasi-modes vérifie m (h) ≤ Ch^{−n^{♯}}. On fixe h ∈ {h_{l}; l ∈ ℕ^{∗}}. On note z_{1} (h) , …, z_{M(h)} (h) les pôles de l’opérateur χ (P (h) − z) χ inclus dans l’ensemble E défini par la relation (4.1) et

A^{(j)} (h) = \frac{1}{2iπ} ∫_{|z−z_{j}(h)=ε_{j}} χ (P (h) − z) χdz,

le projecteur spectral correspondant (si ε_{j} est assez petit). On rappelle que la multiplicité de l’opérateur A^{(j)} est égale à la multiplicité de la résonance z_{j}. Soit Π (h) la projection orthogonale sur l’espace vectoriel engendré par la réunion des images des opérateurs A^{(j)}. Alors la dimension de l’image de Π (h) est supérieure au nombre de résonances dans l’ensemble E. Nous allons montrer que cette dimension est supérieure au nombre de quasi-modes, m (h). Soit Π′ (h) = Id − Π (h). On peut montrer par des calculs purement algébriques que l’image de la partie singulière de χ (P (h) − z) χ en un pôle est incluse

856-14

dans l’image du projecteur spectral correspondant. L’opérateur Π′ (h) χ (P (h) − z) χ est donc holomorphe dans E et donc aussi dans l’ensemble

Ω_{6} (h) = [a (h_{l}) − h_{l}^{k}, b (h_{l}) + h_{l}^{k}] × i [−2S (h_{j}) h_{l}^{−n^{♯}−1}, S (h)] .

Soient E_{s} (h) = (1 − s)a (h) + sb (h), s ∈ [0, 1]. L’opérateur Π′ (h) χ (P (h) − z) χ est donc pour tout s ∈ [0, 1] holomorphe dans l’ensemble

Ω_{5,s} = [E_{s} (h_{l}) − 5h_{l}^{k}, E_{s} (h_{l}) + 5h_{l}^{k}] × i [−2S (h_{j}) h_{l}^{−n^{♯}−1}, S (h)] .

On choisit g (h) = hS (h) et d’après le lemme 4.2 on obtient

∀z ∈ Ω_{6} (h) \ ∪_{z∈Rés(P(h))}\overline{B (z, hS (h))}, (4.3)

∥Π′ (h) χ (P (h) − z) χ∥_{L(H)} ≤ Ae^{Ah^{−n^{♯}} log(1/g(h))}. (4.4)

Les disques dans (4.3) qui rencontrent Ω_{5,s} sont inclus dans Ω_{6} (h), l’estimation (4.2) est donc vérifiée sur le bord de ces disques donc, par le principe du maximum, sur ces disques et par conséquent sur Ω_{5,s}. Enfin comme P (h) est autoadjoint, on a pour Imz > 0

∥Π′ (h) χ (P (h) − z) χ∥_{L(H)} ≤ ∥χ (P (h) − z) χ∥_{L(H)} ≤ \frac{1}{|Imz|}.

et le lemme 4.3 implique donc pour z ∈ E_{s} (h) − h^{k}, E_{s} (h) + h^{k}, s ∈ [0, 1] (donc pour z ∈ [a (h) − h^{k}, b (h) + h^{k}])

∥Π′ (h) χ (P (h) − z) χ∥_{L(H)} ≤ \frac{B}{S (h)}.

Comme pour z ∉ RésP (h), u_{j} (h) = χu_{j} (h) = χ(P (h) − z)^{−1}χ(P (h) − z)u_{j}, on a

Π′ (h) u_{j} (h) = Π′ (h) χu_{j} (h) = Π′ (h) χ(P (h) − z)^{−1}χ(P (h) − z)u_{j}. (4.5)

Le terme de droite est holomorphe en z ∈ E, par prolongement analytique la relation (4.5) reste donc vraie pour z = E_{j} (h), ce qui donne

∥Π′ (h) u_{j} (h) ∥_{H} ≤ B \frac{R (h)}{S (h)} ≤ Bh^{n^{♯}+1}.

Les fonctions f_{j} = Π (h) u_{j} (h) vérifient donc

| (f_{j} (h) , f_{i} (h)) − δ_{i,j}| ≤ Ch^{n^{♯}+1}. (4.6)

Comme on a au plus Ch^{−n^{♯}} quasi-modes les fonctions f_{j} forment d’aprés (4.6) un système libre et l’image de Π est donc de dimension au moins égale au nombre de quasi-modes. Il reste a supprimer l’hypothèse m (h) ≤ Ch^{−n^{♯}}. Le raisonnement précédent fonctionnerait encore si on gardait un nombre de quasi-modes de l’ordre h^{−n^{♯}−δ}, 0 < δ < 1, mais alors il montrerait la présence d’un nombre de résonances du même ordre, contredisant l’estimation a priori de la remarque 3.2.

856-15

RÉFÉRENCES

[1] J. Aguilar et J. Combes – A class of analytic perturbations for one body schrödinger hamiltonians , Comm. Math. Phys. 22 (1971), p. 269–279.

[2] V. Babich et V. Buldyrev – Short wavelength diffraction theory, asymptotic methods, Wave phenomena, vol. 4, Springer Verlag, Berlin, 1991, traduit du texte russe de 1972 par E.F.Kuester.

[3] C. Bardos, J. C. Guillot et J. Ralston – La relation de Poisson pour l’équation des ondes dans un ouvert non borné. Application à la théorie de la diffusion , Communications in Partial Differential Equations 7 (1982), p. 905–958.

[4] N. Burq – Décroissance de l’énergie locale de l’équation des ondes pour le problème extérieur et absence de résonance au voisinage du réel , Acta Mathematica 180 (1998), p. 1–29.

[5] P. D. Lax et R. S. Phillips – The time delay operator and a related trace formula , Topics in functional analysis, Advances in Math. Suppl. Studies 47 (1978), no. 3, p. 197–395.

[6] V. Lazutkin – Kam theory and semiclassical approximation to eigenfunctions, Ergebnisse der Mathematik und ihree Grenzgebiete, vol. 24, Springer Verlag, Berlin, 1993, With an addendum by A.I. Shnirelman.

[7] R. Melrose – Scattering theory and the trace of the wave group , Jour. of Func. Anal. 45 (1982), p. 429–440.

[8] R. Melrose – Polynomial bounds on the number of scattering poles , Jour. of Func. Anal. 53 (1983), p. 287–303.

[9] G. Popov – Quasi-modes for the Laplace operator and glancing hypersurfaces , Proceedings of conference on microlocal analysis and non linear waves (Minnesota) (J. R. M. Beals, R. Melrose, éd.), Springer Verlag, 1989.

[10] J. Ralston – Approximate eigenfunctions for the Laplacian , Jour. Diff. Geo. 12 (1977), p. 87–100.

[11] D. Robert – Relative time-delay for perturbation of elliptic operators and semiclassical asymptotics , ¡Jour. of Func. Anal. 126 (1994), no. 1, p. 36–82.

[12] J. Sjöstrand – Singularités analytiques microlocales, Astérisque, vol. 95, Société mathématique de France, 1982.

[13] J. Sjöstrand – A trace formula and application to semi-classical Schrödinger operators , Séminaire E.D.P. du Centre de Mathématiques de l’Ecole Polytechnique II (1996–97).

856-16

[14] J. Sjöstrand – A trace formula and review of some estimates for resonances , Microlocal Analysis and Spectral Theory, NATO ASI series C, vol. 490, Kluwer, 1997, p. 377–437.

[15] J. Sjöstrand – Resonances for bottles and trace formula , Prépublication du Centre de Mathématiques de l’Ecole Polytechnique 98-8 (1998).

[16] J. Sjöstrand et M. Zworski – Complex scaling and the distribution of scattering poles , Journal of the A.M.S. 4 (1991), no. 4, p. 729–769.

[17] J. Sjöstrand et M. Zworski – Lower bounds on the number of scattering poles , Comm. in P.D.E. 18 (1993), no. 5-6, p. 847–857.

[18] J. Sjöstrand et M. Zworski – Lower bounds on the number of scattering poles II , Jour. of Func. Anal. 123 (1994), no. 2, p. 336–367.

[19] J. Sjöstrand et M. Zworski – Asymptotic distribution of resonances for convex obstacles , Prépublication du Centre de Mathématiques de l’Ecole Polytechnique 98-6 (1998).

[20] P. Stefanov – Quasimodes and resonances : fine lower bounds , Preprint (1998).

[21] P. Stefanov et G. Vodev – Distribution of resonances for the Neuumann problem in linear elasticity outside a strictly convex body , Duke Math. Jour. 78 (1996), no. 3, p. 677–714.

[22] S. Tang et M. Zworski – From quasimodes to resonances , to appear in Math. Res. Lett. (1998).

Nicolas BURQ

Université Paris-Sud, URA 760 du CNRS, F-91405 ORSAY Cedex

                                E-mail : Nicolas.Burq@math.u-psud.fr