Pôles de diffusion engendrés par un coin

N. Burq, Centre de Mathématiques,

URA 169 du CNRS, Ecole Polytechnique, 91128 Palaiseau Cedex,

FRANCE.

Table des matières

1 Introduction 3

2 Propagation des singularités 9 2.1 Géométrie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9 2.2 Front d’onde, propagation des singularités . . . . . . . . . . . . . . . . 11 2.3 Propagation des singularités . . . . . . . . . . . . . . . . . . . . . . . . 17

3 La résolvante 23 3.1 Hypothèse, résultat . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23 3.2 La résolvante et la propagation des singularités . . . . . . . . . . . . . 24 3.3 Démonstration de la proposition 3.1 . . . . . . . . . . . . . . . . . . . . 28 3.4 Solutions sortantes et singularités . . . . . . . . . . . . . . . . . . . . . 30

4 Construction des opérateurs 35 4.1 Opérateurs sur les symboles . . . . . . . . . . . . . . . . . . . . . . . . 35 4.2 Opérateurs de rebond . . . . . . . . . . . . . . . . . . . . . . . . . . . . 42 4.3 Décomposition des opérateurs . . . . . . . . . . . . . . . . . . . . . . . 43

5 Un problème de Grushin 51

5.1 Un problème de Grushin pour un opérateur modèle . . . . . . . . . . . 51 5.1.1 Résolution d’un problème de Grushin pour un opérateur approché. 51 5.1.2 Développements asymptotiques . . . . . . . . . . . . . . . . . . 55

5.2 Estimations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 58 5.2.1 Action de l’opérateur M sur des distributions conormales …. 59 5.2.2 Estimations diverses sur des termes de reste . . . . . . . . . . . 63

5.3 Résolution d’un problème de Grushin . . . . . . . . . . . . . . . . . . . 66 5.3.1 Existence d’une solution . . . . . . . . . . . . . . . . . . . . . . 67 5.3.2 Unicité de la solution . . . . . . . . . . . . . . . . . . . . . . . . 69

6 Démonstration du théorème 1 73

6.1 Développements asymptotiques . . . . . . . . . . . . . . . . . . . . . . 73 6.1.1 Localisation au voisinage des pseudopôles . . . . . . . . . . . . . 73 6.1.2 Développements asymptotiques . . . . . . . . . . . . . . . . . . 76

N.Burq

6.2 Démonstration du théorème 1 . . . . . . . . . . . . . . . . . . . . . . . 82 6.2.1 Rappels sur les problèmes elliptiques dans les coins et les poten-

tiels de simple couche . . . . . . . . . . . . . . . . . . . . . . . . 82 6.2.2 Dilatation analytique . . . . . . . . . . . . . . . . . . . . . . . . 86

6.3 Décroissance de l’énergie locale des solutions de l’équation des ondes . . 90

Annexes 95

A Calcul Pseudo-Différentiel analytique pour les problèmes au bord … 95 A.1 Opérateurs à l’intérieur . . . . . . . . . . . . . . . . . . . . . . . 95 A.2 Opérateurs pour les problèmes aux limites . . . . . . . . . . . . 99

B Ensemble de fréquence et propagation des singularités . . . . . . . . . . 103 B.1 Estimations elliptiques . . . . . . . . . . . . . . . . . . . . . . . 104 B.2 Propagation des singularités . . . . . . . . . . . . . . . . . . . . 110 B.3 Ensemble de fréquence et estimations . . . . . . . . . . . . . . . 114

C Un principe du maximum . . . . . . . . . . . . . . . . . . . . . . . . . 115 D Une application du théorème de Sard . . . . . . . . . . . . . . . . . . . 116

I. Introduction

On se propose dans cet article de donner une localisation précise des pôles de diffusion dans un cas modèle pour le problème de Dirichlet à l’extérieur d’un obstacle contenant des coins et une trajectoire captive connectant ce coin à lui même. Précisons le problème étudié. On considère Θ un obstacle borné de R^{2}, on note Ω = Θ^{c} et on suppose que Ω est connexe. On note R_{Ω}(λ), la résolvante sortante du Laplacien avec conditions de Dirichlet, holomorphe dans Imλ < 0, définie par la construction suivante. Soit U_{Ω}(t) le propagateur du problème

(∂_{t}^{2} − Δ) U_{Ω}(t)f = 0, dans Ω × R_{t}
U_{Ω}(t)f |_{∂Ω} = 0
U_{Ω}(t)f |_{t=0} = 0
∂_{t}U_{Ω}(t)f |_{t=0} = f ∈ C_{0}^{∞}(Ω)

qu’on étend comme opérateur de L^{2}(Ω) dans H_{0}^{1}(Ω). L’opérateur R_{Ω}(λ) est défini par la relation :

R_{Ω}(λ) = ∫_{0}^{+∞} e^{−iλt}U_{Ω}(t)dt,

pour tout λ ∈ {Imλ < 0}.

Comme l’opérateur U (t) est une contraction de L^{2} (Ω) dans H_{0}^{1} (Ω), il est clair que cette relation définit une famille d’opérateurs bornés de L^{2} (Ω) dans H_{0}^{1} (Ω), holomorphe dans {Imλ < 0}. Il est classique que la résolvante sortante R_{Ω}, considérée comme opérateur de L_{comp}^{2}(Ω) dans H_{0,loc}^{1}(\overline{Ω}), holomorphe dans \{Imλ < 0\}, s’étend en un opérateur méromorphe dans le revêtement simplement connexe de C^{∗}. Le problème qui nous intéresse est celui de la localisation des pôles de ce prolongement, qu’on appelle pôles de diffusion. L’intérêt de cette question est que ces pôles ont de multiples interprétations : outre le fait que ce sont les pôles de la résolvante, ce sont aussi les points pour lesquels il existe une solution sortante non triviale de l’équation

(Δ + λ^{2}) u = 0 u |_{∂Ω}= 0 ; (1.1)

ce sont également (en dimension impaire d’espace) les pôles de la matrice de diffusion (scattering) divisés par le complexe i et les valeurs propres du générateur infinitésimal du semi-groupe de Lax et Phillips. Enfin, si on a également des estimations sur la résolvante, ils permettent (en dimension d’espace impaire) de donner un développement asymptotique en grand temps pour les solutions de l’équations des ondes dans Ω du type

U (t) f = ∑_{Imλ<C} e^{itλ}Π_{λ} (f) + O (e^{−(C−ε)t})

où Π_{λ} est le projecteur spectral sur la “fonction propre” associée au pôle λ vérifiant (1.1). Nous donnerons également dans cet article une version affaiblie de ce résultat (le théorème 4) vraie en dimension d’espace paire.

Dans un cadre C^{∞} le problème de la localisation des pôles de diffusion a été étudié par de nombreux auteurs. Dans le cas où l’obstacle est non captif (c’est à dire que tout rayon issu d’une boule contenant l’obstacle et se réfléchissant sur l’obstacle selon les lois de l’optique géométrique sort en temps fini de cette boule), le résultat le plus frappant est certainement le suivant qui est une conséquence des résultats de R. Melrose et J. Sjöstrand [19] sur la propagation des singularités : Théorème (R. Melrose J. Sjöstrand). — Soit Θ un obstacle C^{∞}, non captif. Pour tout N ∈ N, il existe C_{N} > 0 tel que la résolvante sortante du Laplacien avec conditions de Dirichlet dans Ω est holomorphe dans l’ensemble

{λ ∈ C; |Imλ| < N log (|λ|) ; |λ| > C_{N}} ∪ {Imλ < 0}.

Par ailleurs en dehors de travaux de V. Petkov et L. Stoyanov [22, 23], le seul cas captif connu précisement est celui où Θ = Θ_{1} ∪ Θ_{2} avec Θ_{i} des convexes stricts de classe C^{∞}. La trajectoire captive est alors celle qui minimise la distance entre Θ_{1} et Θ_{2}. Cette situation a été étudiée par M. Ikawa [13], [14], [12] (qui a aussi étudié le cas non strictement convexe) puis par C. Gérard [7]. Ces auteurs montrent que dans ce cas qui est celui pour lequel la trajectoire est “le moins captive possible” donc pour lequel les pôles seront le plus loin possible de l’axe réel, ces pôles se répartissent asymptotiquement sur des droites horizontales et C. Gérard donne un développement asymptotique explicite de tous les pôles dans les régions du type {λ ∈ C; Imλ ≤ C; C > 0}. Théorème (C. Gérard). — Il existe ν > 1 tel que, pour tout A > 0, il existe C > 0 tel que, si on note λ_{i,n} = n\frac{π}{d} + \sqrt{−1}\frac{i+1/2}{2d} log (ν), alors il existe des développements asymptotiques a_{k,i} tels que les pôles situés dans la région

{λ ∈ C; Imλ < A, |λ| > C}

sont tous dans des boules

|λ − (λ_{i,n} + ∑_{N>k≥1} a_{i,k}λ_{i,n}^{−k})| ≤ C_{N}|λ_{i,k}|^{N}

et chaque boule en contient exactement un. (En toute rigueur, le résultat de C. Gérard est démontré en dimension impaire d’espace alors que nous l’énonçons ici en dimension 2, mais la démonstration est exactement la même et l’énoncé légèrement plus simple)

1. Introduction

Nous allons étudier un cas modèle intermédiaire entre la situation non captive de R. Melrose et J. Sjöstrand et la situation de M. Ikawa et C. Gérard. Pour cela, il faut nécessairement sortir de la catégorie C^{∞}. Notre situation géométrique est la suivante : on considère Θ = Θ_{1}∪Θ_{2}, un compact de R^{2}. On suppose que le bord de l’obstacle Θ_{1}, ∂Θ_{1}, est analytique et que ∂Θ_{2} est aussi analytique sauf en un point O au voisinage duquel il existe des fonctions a et b, analytiques au voisinage de 0 dans R, telles que localement Θ_{2} est défini par l’équation Θ_{2} = {(x, y) ∈ R^{+}×R; b(x) ≤ y ≤ a(x). On suppose également que les obstacles Θ_{i} sont strictement convexes. Il n’y a donc qu’une seule trajectoire captive dans l’ouvert Ω = (Θ_{1} ∪ Θ_{2})^{c}, celle qui minimise la distance entre Θ_{1} et Θ_{2}. Enfin on suppose que cette trajectoire connecte le coin à un point de Θ_{1}, A, et que Θ_{2} est strictement d’un seul coté de la normale à [A, O] au point O (exceptée la dernière ces hypothèses pourraient être affaiblies en “Θ_{1} pas trop concave au voisinage de A et [A, O] est la seule trajectoire captive”, supprimant l’hypothèse de convexité de Θ_{i}, mais ceci compliquerait inutilement l’article). On notera d la distance entre les obstacles Θ_{1} et Θ_{2}.

Θ_{1}  d  Θ_{2}

Fig. 1.1 – Les obstacles

Dans ce cadre la géométrie est dans un certain sens beaucoup plus favorable que dans le cas C^{∞} étudié par C. Gérard et M. Ikawa. En effet une trajectoire captive de type hyperbolique (dans l’espace cotangent) possède une variété stable rentrante et une variété stable sortante alors qu’il est facile de voir que dans notre situation un rayon qui rebondit un nombre suffisament grand de fois (mais fixe) sur les obstacles a nécessairement rencontré le coin (et non pas un voisinage du coin comme dans le cas C^{∞}). Cette géométrie particulièrement favorable va nous permettre de donner un résultat plus complet que celui de C. Gérard et de calculer (presque) tous les pôles localisés sous une courbe logarithmique arbitraire {λ ∈ C; Imλ ≤ C log(|λ|)}; C > 0}.

Le résultat principal que nous obtenons est le suivant: Théorème 1. — Pour tout N ∈ N, il existe C_{N} > 0 tel que

i) Il existe C′_{N} > 0, M ≤ N^{2}, (a_{p}, q_{p})_{0≤p≤M} ∈ C × Q^{+} tels que, si on note, pour tout p, (λ_{j,p})_{j∈Z}, la suite des solutions de l’équation

\frac{e^{−2iλd}}{λ^{1/2+q_{p}}} = a_{p},

qui vérifie alors

Re (λ_{j,p}) ∼ j \frac{π}{d} , Im (λ_{j,p}) ∼ \frac{(1/2 + q_{p})}{2d} log (|j|) ,

pour chaque p, il existe un developpement asymptotique (b_{k,p})_{k∈N}, un exposant r_{p} ∈ Q_{∗}^{+} tels que pour tout m ∈ N, il existe C_{m} tel que chaque boule d’équation

|λ − (λ_{j,p} + ∑_{k=1}^{m} (λ_{j,p}^{−1/r_{p}})^{k} b_{k,p})| ≤ C_{m} |λ_{j,p}|^{−(m+1)/r_{p}}

contient un pôle de diffusion (avec multiplicité si plusieurs de ces boules sont d’intersection non vide) et sur l’ensemble

\{Imλ ≤ \frac{N + 1/2}{2d} log (|λ|) − C′_{N}; |λ| ≥ C_{N}\} ,

tous les pôles de diffusion sont dans une telle boule.

ii) Si on suppose q_{p} rangés par ordre croissant, q_{0} = 0, r_{0} = 1

a_{0} = −\sqrt{\frac{π}{d (1 + dκ)}}e^{−iπ/4}Ψ(α, θ),

où Ψ est une fonction analytique de α, l’angle extérieur au coin et de θ, l’angle entre le coin et la trajectoire captive et q_{1} ≥ 1/2.

Ψ (α, θ) = \frac{cos (\frac{π^{2}}{2α}) sin^{2} (\frac{π}{α}θ)}{α sin (\frac{π^{2}}{2α}) sin (\frac{π}{α}θ + \frac{π^{2}}{2α}) sin (\frac{π}{α}θ − \frac{π^{2}}{2α})}.

Cet énoncé montre que comme annoncé les pôles de diffusion se repartissent asymptotiquement sur des courbes logarithmiques. Remarque 1.1. — Dans le cas où l’obstacle est de classe C^{∞} la situation est très différente puisque, d’une part le résultat de R. Melrose et J. Sjöstrand montre que s’il n’y a pas de trajectoire captive il n’y a qu’un nombre fini de pôles sous toute courbe logarithmique, et d’autre part les résultats de C. Gérard et M. Ikawa montrent que s’il n’y a qu’une trajectoire captive de type hyperbolique alors on a une infinité de pôles à distance fixe de l’axe réel. Remarque 1.2. — D’un point de vue numérique notre résultat est à rapprocher d’un résultat de O. Poisson [24] qui calcule numériquement les pôles de diffusion pour le problème de Neumann à l’extérieur d’une fissure rectiligne dans R^{2}. En effet, l’ouvert possède aussi dans ce cas une unique trajectoire captive reliant un coin (dégénéré) à un

pôles Reλ Imλ  2dImλ = \frac{1}{2} log (|λ|) 2dImλ = (\frac{1}{2} + q_{0}) log (|λ|) \begin{matrix}·  ·  · \\ ·  ·  · \\ ·  ·  · \end{matrix} 2dImλ = (\frac{1}{2} + q_{M}) log (|λ|) 2dImλ = (\frac{1}{2} + N) log (|λ|)
Fig. 1.2 – Pôles situés sous une courbe 2dImλ = (\frac{1}{2} + N) log (|λ|).

autre (celle qui connecte une extrémité de la fissure à l’autre) et les calculs de O. Poisson (antérieurs à notre résultat) font clairement apparaitre des pôles de diffusion situés asymptotiquement sur des courbes logarithmiques (au moins pour les trois premières courbes), de manière remarquablement précise puisque la répartition asymptotique apparait pour des fréquences de l’ordre de 5 (si la longueur de la fissure est 1). Enfin on peut vérifier numériquement sur ces résultats la pente logarithmique en \frac{1}{4d} de la première rangée de pôles qui est celle que notre résultat annonce (si on l’extrapole au cadre étudié par O. Poisson)

La démonstration de ce résultat a été rendue possible par le calcul extrèmement précis de l’onde diffractée par un coin quand l’onde incidente est conormale analytique, réalisé par P. Gérard et G. Lebeau [8]. Notre démonstration repose de façon cruciale sur ces résultats. Le plan de l’article est le suivant. Dans une deuxième partie nous définissons des fronts d’onde Sobolev et Gevrey pour les solutions H^{1} de l’équation des ondes avec conditions de Dirichlet dans un ouvert à coins et nous démontrons un théorème de propagation des singularités le long des rayons C^{∞} ou analytiques selon le cas pour ces fronts d’onde. Dans la troisième partie nous démontrons un résultat analogue à celui de C. Bardos, G. Lebeau et J. Rauch [1] pour un ouvert à coins non captif, c’est à dire que dans ce cas la résolvante sortante tronquée admet un prolongement analytique sous un courbe inverse cubique Imλ < εe^{−ε|λ|^{1/3}}, |λ| > C. La quatrième partie est consacrée à la construction des opérateurs associés au rebond microlocal le long de la trajectoire captive. Nous résolvons un problème de Grushin associé à ces opérateurs dans la cinquième partie. Dans la sixième partie nous calculons des développements asymptotiques pour les zéros d’une matrice qui résoud ce problème de Grushin, nous montrons qu’ils correspondent aux pôles de diffusion et nous démontrons le théorème 1. Enfin dans une annexe nous avons rassemblé des parties plus techniques ou en particulier nous établissons d’une part de façon systématique un lien entre front d’onde et ensemble de fréquence et d’autre part nous utilisons ce lien pour déduire à partir des résultats de propagation des singularités, des résultats de propagation des ensembles de fréquence.

Terminons cette introduction en remarquant que R (−\overline{λ}) = \overline{R (λ)}, ce qui nous permettra de limiter notre étude à l’ensemble Reλ > 0. Remerciements. Je voudrais remercier J.M. Schlenker pour les discussions qui ont permis la rédaction de l’annexe D et tout particulièrement G. Lebeau qui m’a indiqué ce problème, pour les discussions que j’ai eues avec lui sur cet article.

II. Propagation des singularités dans les ouverts à coins

Nous allons dans cette partie étendre les résultats de propagation des singularités de R. Melrose et J. Sjöstrand [19] dans le cadre C^{∞}, de J. Sjöstrand [27] dans le cas analytique et de G. Lebeau [16] dans le cas Gevrey au cas où l’ouvert considéré comporte des coins. On se limitera à l’étude d’une équation d’ondes en dimension 2 d’espace. Dans le cadre analytique ce travail a déja été réalisé par G. Lebeau ([18]), dans le cas plus général d’un dièdre.

2.1 Géométrie

Soient a et b deux fonctions réel-analytiques, telles que a (0) = b (0) = 0, b′ (0) < 0 < a′ (0). On supposera que l’ouvert Ω ⊂ R^{2} coïncide avec l’un des ouverts Ω^{i} et Ω^{e} définis par :

\{ \begin{matrix}Ω^{i} = \{(x, y) ; x > 0, b (x) < y < a (x)\}, \\ Ω^{e} = \{(x, y) ; x < 0 ou x > 0, y ∉ [b (x) ; a (x)]\}. \end{matrix} (2.1)

On notera

Δ_{1} = {(x, y) ; x > 0, y = a (x)},
Δ_{2} = {(x, y) ; x > 0, y = b (x)},
O = (0, 0) , L = O × R_{t},
∂Ω^{i,e} = Δ_{1} ∪ Δ_{2} ∪ O,
M = Ω × R_{t}, avec Ω = Ω^{i,e},
Δ̃_{1,2} = Δ_{1,2} × R_{t},

(2.2)

On notera T_{b}^{∗}M le fibré cotangent jusqu’au bord à Ω dont on a retiré la section nulle. Au voisinage des coins on a

T_{b}^{∗}M = T^{∗}M \ 0 ∪ T^{∗}Δ̃_{1} \ 0 ∪ T^{∗}Δ̃_{2} \ 0 ∪ T^{∗}L \ 0.

On a une projection naturelle :

T^{∗}R^{2+1} |\overline{M} \underrightarrow{π}T_{b}^{∗}M

t = 0 Δ_{1} Δ_{2}L  Ω^{e}  Ω^{i}

Fig. 2.1 – La géométrie au voisinage des coins

et on munit T_{b}^{∗}M de la topologie induite. On note Σ_{b} la projection sur T_{b}^{∗}M de la variété caractéristique (Car (□)) de l’équation des ondes, d’équation τ^{2} = |ξ|^{2}. On définit dans T_{b}^{∗}M les régions elliptique (E), hyperbolique (H) et glissante (G) par :

\begin{cases}E = T_{b}^{∗}M \ Σ_{b}, \\ H = \{ρ ∈ T_{b}^{∗}M \ 0; ♯\{π^{−1} (ρ) ∩ Car (□)\} ≠ 1\}, \\ G = \{ρ ∈ T_{b}^{∗}M \ 0; ♯\{π^{−1} (ρ) ∩ Car (□)\} = 1\}. \end{cases}

Définition 2.1. — On appelle rayon analytique (respectivement C^{∞}) toute application γ, définie sur un intervalle I de R à valeurs dans Σ_{b}, continue, telle que pour tout t_{0} ∈ I,

– si γ (t_{0}) ∉ T^{∗}L alors γ est un rayon analytique (respectivement C^{∞}) au sens usuel au voisinage de t_{0},

– si γ (t_{0}) ∈ T^{∗}L alors il existe ε > 0 tel que γ (s) ∉ T^{∗}L, ∀0 < |s − t_{0}| < ε.

On pourra également par abus de notation appeler dans la suite rayons les projections des rayons sur l’espace des x, ξ. On gardera alors comme orientation des rayons celle qui vient de l’orientation dans l’espace des t, τ = |ξ|, x, ξ. C’est à dire qu’on appelera, si x est un point intérieur, demi-rayon issu de (x, ξ) vers t < 0, le rayon qui au voisinage de x coïncide avec (x − tξ, ξ) ; t < 0, pour |t| assez petit.

On rappelle les propriétés suivantes des rayons: Proposition 2.2. — Soit K un compact de Σ_{b} et a < b, alors l’ensemble des rayons définis sur [a, b], à valeurs dans K est soit compact pour la topologie de la convergence uniforme, soit vide.

Dans le cas analytique cette propriété est démontrée par G. Lebeau ([18]), Proposition 2.1, et dans le cas C^{∞} il suffit de vérifier que l’ensemble des rayons C^{∞} est fermé pour la topologie de la convergence uniforme; or si une suite de rayons γ_{n} converge uniformément vers γ sur [a, b] et si γ (t_{0}) ∉ T^{∗}L il existe ε > 0 tel que pour tout n assez grand et pour tout |t − t_{0}| ≤ ε γ_{n} (t) ∉ T^{∗}L. D’après L. Hörmander [11], théorème 24.3.12, γ |_{[t_{0}−ε,t_{0}+ε]} est un rayon C^{∞}.

2. Propagation des singularités

2.2 Front d’onde, propagation des singularités

Soient u ∈ C^{1} (R_{t} ; L^{2}) ∩ C^{0} (R_{t} ; H_{0}^{1}) et v ∈ L_{loc}^{2} (\overline{Ω} × R_{t}) nulle au voisinage des coins, solutions de

□u = v dans Ω × R_{t}.

Définition 2.3. — On notera pour s ≥ 1, W F_{b}^{s} (u) ⊂ T_{b}^{∗}M, le front d’onde Sobolev d’ordre s de u défini par ρ_{0} ∉ W F_{b}^{s} (u) si et seulement si :

– si ρ_{0} ∉ T^{∗}L alors ρ_{0} n’appartient pas au front d’onde Sobolev d’ordre s jusqu’au bord au sens usuel,

– si ρ_{0} ∈ T^{∗}L, il existe φ ∈ C_{0}^{∞} (R_{t}) et ψ ∈ C_{0}^{∞} (R_{x}^{2}) telles que φ (t_{0}) ≠ 0 et ψ (O) ≠ 0 et

∫_{τ/τ_{0}≥0} ∥ψF_{t→τ}φu (τ, ·) ∥_{H^{1}(Ω)}^{2} (1 + |τ|^{2})^{s−1} dτ < +∞, (2.3)

c’est à dire que u est microlocalement en (t_{0}, τ_{0}) de classe H_{t}^{s−1} à valeurs H_{x}^{1} au voisinage de O et donc, comme u est solution de l’équation des ondes avec conditions de Dirichlet, u est microlocalement en (t_{0}, τ_{0}) de classe H_{t}^{s} à valeurs L_{x}^{2} et de classe H_{t}^{s−1} à valeurs H_{0,x}^{1} au voisinage de O.

Définition 2.4. — On notera W F_{b}^{∞} (u) = \overline{∪_{s≥1}W F_{b}^{s} (u)} le front d’onde C^{∞} jusqu’au bord de u.

On rappelle qu’une fonction f ∈ C^{∞} (R^{n}) est de classe Gevrey σ (1 < σ) si et seulement si elle vérifie l’estimation suivante:

∀K ⊂⊂ R^{n} ∃C > 0; ∀α ∈ N^{n} ∀x ∈ K | ∂_{x}^{α}f(x) ≤ C^{|α|+1}(3α!).

On note f ∈ G^{σ} (R^{n}). Définition 2.5. — On notera, pour σ ≥ 1, SS_{b}^{σ} (u) ⊂ T_{b}^{∗}M, le front d’onde Gevrey d’ordre σ de u défini par ρ_{0} ∉ SS_{b}^{σ} (u) si et seulement si :

– si ρ_{0} ∉ T^{∗}L, alors ρ_{0} n’appartient pas au front d’onde Gevrey d’ordre σ au sens usuel,

– si ρ_{0} ∈ T^{∗}L, il existe ψ ∈ C_{0}^{∞} (R_{x}^{2}), telle que ψ ≡ 1 au voisinage de O, et si

T_{0}ψu (w, x, λ) = ∫ e^{λ(w·t−t^{2}/2)}ψ (t) u (t, x) dt,

il existe un voisinage W de w_{0} = t_{0} − iτ_{0}, ε_{0} > 0 tels que pour tout w ∈ W on a

∥T_{0}ψu (w, ., λ) ∥_{H^{1}(Ω)} ≤ e^{λφ_{0}(w)−ε_{0}λ^{1/σ}},

avec φ_{0} (w) = \frac{1}{2} (Rew)^{2}. C’est à dire que u est microlocalement en (t_{0}, τ_{0}) de classe Gevrey σ en temps à valeurs H^{1} en espace au voisinage de O.

On commence par rappeler quelques propriétés vérifiées par la transformation de F.B.I., T_{0} Lemme 2.6. — La transformation T_{0} vérifie les propriétés suivantes :

1. Il existe C > 0 tel que pour tout t ∈ R, on a, pour H = L^{2} (Ω) ou H^{1} (Ω),

∥T_{0}u (t − iα, x, λ) e^{−λ \frac{t^{2}}{2}} ∥_{L^{2}(R_{α}; H)} ≤ \frac{C}{\sqrt{λ}}∥u∥_{L^{2}(R_{t}; H)}. (2.4)

2. Il existe C > 0 tel que pour tout t ∈ R, on a

∥T_{0}u (t − iα, x, λ) (1 + |α|^{2})^{1/2} e^{−λ \frac{t^{2}}{2}} ∥_{L^{2}(R_{α}×Ω)} ≤ \frac{C}{\sqrt{λ}}∥u∥_{H^{1}(R_{t};L^{2}(Ω))}. (2.5)

3. On a les formules d’inversion suivantes :

ψu (t, x) = \frac{λ}{2π} ∫ e^{iλtα−λ \frac{t^{2}}{2}} T_{0}ψu (t − iα, x, λ) dα.

4. Si on note û la transformée de Fourier partielle de u par rapport à t, on a, si u ∈ L^{∞} (R_{t}),

ψ̂u (λτ, x) = \sqrt{\frac{λ}{2π}} ∫ e^{−λ \frac{t^{2}}{2}} T_{0}ψu (t − iτ, x, λ) dt. (2.6)

5. Enfin, si u est à support compact en t

(2.7) ∥T_{0}u (s − iα, x) ∥_{L^{∞}(R_{t})}

≤ diam (supp (u))^{1/2}e^{^{\frac{λ}{2}}(s^{2}−dist(s,supp(u))^{2})}∥u (t, x) ∥_{L^{2}(R_{t})}.

On commence en effet par remarquer que

e^{iλtα−λ \frac{t^{2}}{2}} T_{0}ψu (t − iα) = F_{s→τ} (e^{−λ \frac{s^{2}}{2}} ψ (t + s) u (t + s)) (τ = λα) .

La première inégalité est donc conséquence directe de la continuité L^{2} de la transformation de Fourier et la troisième est juste une réécriture de la formule de transformation de Fourier inverse en s = 0. On a donc également

iλαe^{iλtα−λ \frac{t^{2}}{2}} T_{0}ψu (t − iα) = F_{s→τ} (\frac{∂}{∂s} (e^{−λ \frac{s^{2}}{2}} ψ (t + s) u (t + s))) (τ = λα)
= F_{s→τ}(−λse^{−λ \frac{s^{2}}{2}} ψ (t + s) u (t + s)
+ e^{−λ \frac{s^{2}}{2}} ∂_{s} (ψ (t + s) u (t + s)) (τ = λα)).

Comme λse^{−λ \frac{s^{2}}{2}} ≤ C\sqrt{λ}, on en déduit la deuxième inégalité. On a également, si θ ∈ C_{0}^{∞} (R) et θ (0) = 1,

\begin{aligned}∫ e^{−λ \frac{t^{2}}{2}} ψT_{0}u (t − iτ, x, λ) dt & = lim_{ε→0} ∫ e^{−λ \frac{t^{2}}{2}} θ (εt) dt ∫ e^{λ(t−iτ)s−λ \frac{s^{2}}{2}} ψ (s) u (s) ds \\ & = lim_{ε→0} ∫ e^{−iλτs}ψu (s) ds ∫ e^{−λ \frac{(t−s)^{2}}{2}} θ (εt) dt. \end{aligned}

La quatrième proposition est donc conséquence du théorème de convergence dominée. Enfin la dernière proposition se démontre facilement en estimant brutalement l’intégrale définissant T_{0}.

Nous rappelons également le résultat suivant dû à G. Lebeau, Lemme 2.7. — On a la formule d’inversion suivante, dont on trouvera, par exemple une démonstration dans [5], lemme 1.7.

ψu (s) = \frac{1}{4π} ∫_{0}^{+∞} e^{\frac{−λ}{2}} dλ ∑_{ε=±1} (1 + ε\frac{∂_{t}}{iλ}) (e^{− \frac{λ}{2} (t−iε)^{2}}T_{0}ψu (t − iελ)) . (2.8)

Nous allons donner une définition équivalente du front d’onde Gevrey au coin : Proposition 2.8. — Soient v ∈ L_{loc}^{2} (R_{t} × \overline{Ω}), σ > 1, (t_{0}, τ_{0}) ∈ T^{∗}R_{t} \ \{0\} et g ∈ C_{0}^{∞} (R_{x}^{2}). Les deux propositions suivantes sont équivalentes :

1. Il existe Ψ ∈ C_{0}^{∞} (R_{t}), égale à 1 au voisinage de t_{0}, C > 0 et W un voisinage de t_{0} − iτ_{0} tels que pour tout w ∈ W et tout λ > 0 on a :

∥T_{0} (Ψgu) ∥_{L^{2}(Ω)} (w, λ) ≤ Ce^{\frac{λ}{2} (Rew)^{2}− \frac{λ^{1/σ}}{C}} . (2.9)

2. Il existe φ ∈ G_{0}^{σ} (R_{t}), égale à 1 au voisinage de t_{0} et C > 0 tels que pour tout n ∈ N on a :

(∫_{\frac{τ}{τ_{0}} >0} ∥F_{t→τ} (∂_{t}^{n}φgu) ∥_{L^{2}(Ω)}^{2} (τ))^{1/2} ≤ C^{n+1} (σn)^{σn} . (2.10)

Avant de démontrer la proposition 2.8, on en déduit le résultat suivant : Corollaire 2.9. — Soit σ > 1. On a l’équivalence entre les deux propositions suivantes:

1. Le point ρ_{0} = (x_{0} = O, t_{0}, ξ_{0} = 0, τ_{0}) n’appartient pas au front d’onde Gevrey de u.

2. Il existe φ ∈ G_{0}^{σ} (R_{t}), égale à 1 au voisinage de t_{0}, g ∈ C_{0}^{∞} (R^{2}) égale à 1 au voisinage du point O et C > 0 tels que pour tout n ∈ N on a :

(∫_{\frac{τ}{τ_{0}} >0} ∥F_{t→τ} (∂_{t}^{n}φgu) ∥_{H^{1}(Ω)}^{2} (τ))^{1/2} ≤ C^{n+1} (σn)^{σn} .

Pour démontrer ce corollaire, il suffit en effet d’appliquer la proposition 2.8 à gu et à ∇_{x} (gu).

On revient à la preuve de la proposition 2.8. On suppose par exemple τ_{0} = 1. On suppose que W est de la forme ]t_{0} −ε, t_{0} +ε[+i]τ_{0} −ε, τ_{0} +ε[ (avec ε > 0). On commence par démontrer 1 ⇒ 2. On choisit Ψ vérifiant (2.9), φ à support inclus dans l’intérieur de l’intersection de l’ensemble Ψ ≡ 1 avec ]t_{0} − ε, t_{0} + ε[ et g ∈ C_{0}^{∞} (R_{x}^{2}). Le point de départ est la formule d’inversion (2.8). On a donc :

φ̂u (λ) = \frac{1}{4π} ∫ e^{−iλt}φ (t) ∫_{μ=0}^{+∞} ∑_{α=±1} e^{\frac{−μ}{2}} (1 + α\frac{∂_{t}}{iμ}) (e^{− \frac{μ}{2} (t−iα)^{2}} (T_{0}ψu (t − iα, μ)))
= I_{α=1} + I_{α=−1}.

Etudions d’abord la contribution de α = 1 à cette intégrale :

λ^{n}I_{α=1} = \frac{1}{4π} ∫ e^{−iλt} (i∂_{t})^{n} (φ (t) ∫_{μ=0}^{+∞} e^{\frac{−μ}{2}} (1 + \frac{∂_{t}}{iμ}) (e^{− \frac{μ}{2} (t−i)^{2}} (T_{0}ψu (t − i, μ)))) .

Par hypothèse, il existe C, C′ > 0 tels qu’on a, pour tout z dans un voisinage complexe de supp (φ) × {−i} de taille ε,

∥e^{− \frac{μ}{2} z^{2}} (T_{0}ψu (z, μ))∥_{L^{2}(ω)} | ≤ Ce^{\frac{μ}{2} (Immz)^{2}− \frac{μ^{1/σ}}{C′}} .

D’après les formules de Cauchy appliquées sur un cercle centré au point t − i de rayon 1/μ, on a donc, quitte à agrandir C, pour tout t ∈ supp (φ)

∥∂_{t}^{n} (1 + \frac{∂_{t}}{iμ}) (e^{− \frac{μ}{2} (t−i)^{2}} (T_{0}ψu (t − i, μ)))∥ ≤ C^{n+1}μ^{n}e^{\frac{μ}{2} − \frac{μ^{1/σ}}{C′}} .

Pour tout n ∈ N, l’intégrale

∫_{λ>0} ∥I_{α=1}∥_{L^{2}(Ω)}^{2} (λ^{2n}) dλ (2.11)

se majore donc par

(2.12) ∫_{t} ∥∑_{k=0}^{n} C_{n}^{k}∂_{t}^{k} (φ (t)) ∂_{t}^{n−k} (∫_{μ=0}^{+∞} e^{\frac{−μ}{2}} (1 + \frac{∂_{t}}{iμ}) (e^{− \frac{μ}{2} (t−i)^{2}} (T_{0}ψu (t − i, μ))))∥_{L^{2}(Ω)}^{2} dt

≤ n ∑_{k=0}^{n} ∫_{t∈supp(φ)} (C_{n}^{k}∂_{t}^{k} (φ (t)))^{2} dt

|∂_{t}^{n−k} (∫_{μ=0}^{+∞} e^{\frac{−μ}{2}} (1 + \frac{∂_{t}}{iμ}) (e^{− \frac{μ}{2} (t−i)^{2}} (T_{0}ψu (t − i, μ))))|^{2}

≤ n ∑_{k=0}^{n} (\frac{n!}{k! (n − k)!})^{2} C^{2k+2} (kσ)^{2kσ}

(∫_{t∈supp(φ)} ∫_{μ>0} C^{(n−k)+1}μ^{(n−k)}e^{\frac{−μ^{1/σ}}{C′}} dμdt)^{2}

≤ AB^{n+1} (σn)^{2nσ} , puisque l’intégrale

∫_{μ>0} μ^{n}e^{\frac{−μ^{1/σ}}{C′}} dμ

se majore aisément par récurence par AB^{n} (σn)^{σn}.

Il reste à étudier la contribution de I_{α=−1} :

λ^{n}I_{α=−1} = \frac{1}{4π} ∫ e^{−iλt}λ^{n}[φ (t) ∫_{μ=0}^{+∞} e^{\frac{−μ}{2}}

(1 − \frac{∂_{t}}{iμ}) (e^{− \frac{μ}{2} (t+i)^{2}} (∫_{s} e^{μ(t+i)s−μs^{2}/2}ψu (s)) ds))].

La contribution de la région {λ ≤ 1} ∩ {μ ≤ 1} à l’intégrale

∫_{λ>0} ∥I_{α=−1}∥_{L^{2}(Ω)}^{2} (λ^{2n}) dλ (2.13)

se majore facilement en norme L^{2} (Ω) et pour majorer le reste, il suffit d’intégrer par parties en utilisant l’opérateur

(\frac{∂_{t}}{i (λ + μ) − μ (t − s)})^{n} ,

ce qui donne pour

∫_{λ>0} λ^{2n} |I_{α=−1}|^{2} dλ,

une majoration similaire à (2.12) et donc démontre 1 ⇒ 2.

On va maintenant montrer 2 ⇒ 1. On a

T_{0} (φu) (t_{0} − iτ_{0}, x, λ) = \sqrt{\frac{λ}{2π}} ∫ e^{− \frac{λ}{2} (τ−τ_{0})^{2}+iλt_{0}(τ−τ_{0})}φ̂u (λτ, x) dτ.

La contribution dans cette intégrale de la partie τ < τ_{0}/2 se majore aisément en norme L^{∞} par e^{− \frac{λ}{2} τ_{0}^{2}}∥u∥_{L^{2}(R_{t})} et on a

∥\sqrt{\frac{λ}{2π}} ∫_{τ> \frac{τ_{0}}{2}} e^{−λ(τ−τ_{0})^{2}+iλt_{0}(τ−τ_{0})}φ̂u (λτ, x) dτ∥^{2}

≤ C\sqrt{λ} ∫_{τ> \frac{τ_{0}}{2}} (λτ)^{−2n} e^{−λ(τ−τ_{0})^{2}} ∫_{τ> \frac{τ_{0}}{2}} (λτ)^{2n} ∥φ̂u (λτ, x)∥^{2} dτ

≤ A^{2n+2} (σn)^{2σn} × (\frac{2}{λτ_{0}} )^{2n}

≤ Ce^{− \frac{λ^{1/σ}}{C}} , si on choisit n = \frac{λ^{1/σ}}{C_{0}} avec C_{0} assez grand; ce qui conclut la preuve de la proposition 2.8. Lemme 2.10 (Régularité elliptique). — Les fronts d’onde Sobolev et Gevrey vérifient les inclusions suivantes:

∀1 ≤ s ≤ +∞, W F_{b}^{s} (u) ⊂ Σ_{b},
∀1 ≤ σ < +∞, SS_{b}^{σ} (u) ⊂ Σ_{b}.

En effet, en dehors des points de T^{∗}L, ce résultat est standard et sur T^{∗}L, il est vide. Proposition 2.11. — Les fronts d’onde définis par les définitions (2.3), (2.4) et (2.5) sont fermés, localement compacts dans T_{b}^{∗}M et coniques pour l’action naturelle de R^{∗,+} sur T_{b}^{∗}Ω.

Ce résultat est classique en dehors des coins. Au voisinage d’un coin, la définition des fronts d’onde Sobolev implique qu’ils sont coniques. Dans le cas Gevrey, c’est une conséquence du corollaire 2.9. On vérifie maintenant que ce sont des fermés. Etudions le cas Sobolev: on va montrer que si ρ_{0} ∈ T^{∗}L et si ρ_{0} ∉ W F_{b}^{s} (u) alors il existe ε > 0 tel que pour tout

ρ_{1} = (x_{1}, t_{1}, ξ_{1}, τ_{1}) ∈ π (\{(x, t, ξ, τ) ∈ T^{∗}R^{3} |\overline{M}; |x| < ε, |τ − τ_{0}| < ε, |t − t_{0}| < ε\}) ,

alors ρ ∉ W F_{b}^{s} (u).

1. si x_{1} = O, la conclusion est triviale puisque la condition définissant W F_{b}^{s} (u) est ouverte,

2. si x_{1} ≠ O et x_{1} ∈ Δ_{1}, d’après la proposition 2.10, on peut supposer que ρ_{1} ∈ Σ_{b}. D’après l’hypothèse, il existe φ ∈ C_{0}^{∞} (R_{t}) et ψ ∈ C_{0}^{∞} (R_{x}^{2}) telles que φ (t_{0}) ≠ 0 et ψ (O) ≠ 0 et

∫_{τ/τ_{0}≥0} ∥ψF_{t→τ}φu (τ, ·) ∥_{H^{1}(Ω)}^{2} (1 + |τ|^{2})^{s−1} dτ < +∞. (2.14)

On se place dans un système de coordonnées où Δ_{1} = {(x = 0, y > 0)}, on note x_{1} = (x_{0}, y_{0}) et on choisit h_{1,2} ∈ C_{0}^{∞} (R) telles que h_{1}(x)h_{2}(y) est à support dans l’ensemble où la fonction ψ vaut 1, h_{2} est à support dans R^{∗,+} et h_{1} (x) h_{2} (y) ne s’annule pas au point x_{1}. On a donc par hypothèse,

∫_{τ/τ_{0}} ∫_{η} ∥F_{{t→τ \atop y→η}} ψφu (τ, ξ_{2}, ·) ∥_{L^{2}(R_{x}^{±})}^{2} (1 + |τ|^{2})^{s−1} (1 + |η|^{2} + |τ|^{2}) < +∞,

où on choisit le signe + ou − selon qu’on est dans le cas de l’ouvert intérieur ou de l’ouvert extérieur, d’après la définition de W F_{b}^{s} (u). Comme le front d’onde W F_{b}^{s} est inclus dans Σ_{b}, on a |τ_{1}| ≥ c|η_{1}|. Si Γ est un voisinage conique de (τ_{1}, η_{1}) assez petit, on a donc :

∫_{Γ} ∥F_{{t→τ \atop x_{2}→ξ_{2}}} ψφu (τ, ξ_{2}, ·) ∥_{L^{2}(R_{x_{1}}^{+})}^{2} (1 + |τ|^{2} + |ξ_{2}|)^{s} < +∞,

donc (x_{1}, ξ_{1}, t_{1}, τ_{1}) ∉ W F_{b}^{s} (u) au sens usuel.

Les cas x ∈ Δ_{2} et x ∈ M se traitent de la même façon; ce qui montre que les fronts d’onde Sobolev sont fermés. On montre que SS_{b}^{σ} (u) est fermé de la même manière.

On va maintenant montrer que les fronts d’onde sont localement compacts. Soit ρ_{0} ∈ W F_{b}^{s} (u) (respectivement ρ_{0} ∈ SS_{b}^{σ} (u)). Si x_{0} ∉ Δ_{1} ∪ Δ_{2} ∪ {O}, alors ρ_{0} admet un voisinage compact ; le résultat est donc immédiat. Si x_{0} ∈ Δ_{1} ∪ Δ_{2} ∪ {O}, alors ρ_{0} ∈ π ({|x − x_{0}| ≤ ε, |t − t_{0}| ≤ ε, |τ − τ_{0}| ≤ ε, |ξ|^{2} ≤ 2|τ|^{2}}) et cet ensemble est un voisinage compact de ρ_{0}.

2.3 Propagation des singularités

Le but de cette partie est de la démonstration du résultat suivant Théorème 2. — Soit u ∈ H_{0}^{1} (Ω) solution de □u = 0 dans Ω × R_{t}. Alors les fronts d’onde W F_{b}^{s} (u) , SS_{b}^{σ} (u) sont réunion de rayons (analytiques pour σ < 3 et C^{∞} sinon) maximaux ; c’est à dire que par tout point ρ_{0} ∈ W F_{b}^{s} (u) (respectivement SS_{b}^{σ} (u)), il passe un rayon C^{∞} (respectivement C^{∞} si σ ≥ 3 et analytique si σ < 3) qui est inclus dans W F_{b}^{s} (u) (respectivement SS_{b}^{σ} (u)). Remarque 2.12. — Pour σ = 1, ce résultat est conséquence du théorème 5 de G. Lebeau [18].

Tous les rayons que nous considérerons seront paramétrés dans le sens des temps croissants. On notera F = W F_{b}^{s} (u) ou F = SS_{b}^{σ} (u), selon le cas considéré. On va montrer que si ρ_{0} ∈ F ∩ T^{∗}L, alors il existe un rayon, γ : [−a, 0[→ T_{b}^{∗}M ∩ Σ_{b} ∩ F, C^{∞} ou analytique suivant le cas, tel que lim_{s→0^{−}} γ (s) = ρ_{0}. Comme on peut faire le même raisonnement pour s > 0 et comme les fronts d’onde sont fermés, on aura alors montré le théorème 2 au voisinage d’un point de T^{∗}L. Comme le résultat du théorème 3 est classique en dehors de T^{∗}L, le théorème 2 sera démontré.

On reprend des notations de [18]. On notera Γ̂_{ρ_{0},a}^{−}, l’ensemble des rayons analytiques définis sur [−a, 0[, tels que lim_{s→0^{−}} γ (s) = ρ_{0}, Γ̃_{ρ_{0},a}^{−} l’intersection de Γ̂_{ρ_{0},a}^{−} avec l’ensemble des rayons C^{∞} et Γ_{ρ_{0},a}^{−}, l’ensemble égal à Γ̂_{ρ_{0},a}^{−} dans le cas où F = SS_{b}^{σ} (u) , σ < 3 et à Γ̃_{ρ_{0},a}^{−} sinon. Lemme 2.13. — Tout rayon défini sur un intervalle non vide ]a, b[, à valeurs dans Σ_{b} se prolonge en un rayon défini sur R.

En effet, sur γ, on a |τ (γ (s)) | = Constante et |ξ (γ (s)) | ≤ |τ (γ (s)) |. En dehors des points hyperboliques et du coin qui sont isolés, on a |\frac{dx}{ds}| = |ξ| = 1 et |\frac{dt}{ds}| = |τ| = 1. On en déduit que dist (γ (s) , γ (r)) ≤ |s − r|. D’après le lemme 7.II de [18], l’intervalle maximum de prolongement, I, de γ est donc fermé dans R, il est également ouvert car au voisinage d’un point n’appartenant pas à T^{∗}L, ce résultat est classique et si γ (c) ∈ T^{∗}L, on peut prendre n’importe quel demi-rayon issu de γ (c) pour prolonger γ.

Nous allons montrer l’analogue du théorème 3 de [18] : Proposition 2.14. — Soit u solution de □u = 0 dans Ω, u ∈ H_{0}^{1} (Ω), et soit ρ_{0} ∈ T^{∗}L. On suppose qu’il existe un voisinage compact W de ρ_{0} = (O, t_{0} = 0, τ_{0}) dans Σ_{b} et a_{0} > 0 tels que pour tout ρ ∈ W, s’il existe γ ∈ Γ_{ρ_{0},a}^{−}, a ≤ a_{0}, γ (−a) = ρ, alors ρ ∉ F. Alors ρ_{0} ∉ F.

On notera ρ_{0}^{s} = (x_{0} = O, t = s, ξ = 0, τ_{0}). Sous les hypothèses précédentes, on a: Lemme 2.15. — Il existe a_{0} > 0 et ε > 0 tels que pour tout rayon γ : [−a_{0}, 0], tel que τ (γ) = τ_{0}, si on a (x (γ (0)) , t (γ (0))) ∈ B ((O, t_{0}) , ε), alors on n’a pas

γ ([−a_{0}, 0]) ⊂ F. (2.15)

On raisonne en effet par l’absurde, supposons qu’il existe des rayons γ_{n} ⊂ F définis sur [−a_{0}, 0] et tels que τ (γ_{n}) = τ_{0} et (x (γ_{n} (0)) , t (γ_{n} (0))) ∈ B ((O, t_{0}) , ε). Quitte à extraire une sous suite, on peut supposer que les rayons γ_{n} convergent quand n tend vers l’infini vers un rayon qu’on note γ, défini sur [−a_{0}, 0], inclus dans F et tel que γ (0) = (O, t_{0}, τ_{0}), ce qui contredit les hypothèses de la proposition 2.14.

Le lemme suivant est une conséquence directe de la conservation de l’énergie et de la vitesse finie de propagation du support pour l’équation des ondes : Lemme 2.16. — Soient u ∈ H_{0}^{1} (Ω) solution de □u = 0, et α, η > 0. Si u est microlocalement en τ_{0} ≠ 0 de classe Gevrey σ (respectivement H^{s−1}) sur l’intervalle [−α, α] à valeurs dans H^{1} (Ω ∩ B (O, η)), alors, pour tout s ≥ 0, ε > 0, u est microlocalement en τ_{0} de classe Gevrey σ (respectivement H^{s−1}) sur [−α − s + ε, α + s − ε] à valeurs H^{1} (Ω ∩ B (O, η − ε − s)).

Démontrons d’abord le cas H^{s}. On fixe ε > 0. Soit Θ ∈ C_{0}^{∞} (R^{2}) telle que supp (Θ) ⊂ B (O, η), Θ ≡ 1 sur B (O, η − ε) et 0 ≤ Θ ≤ 1. Soit Ψ ∈ C^{∞} (R_{t}) telle que Ψ |_{t<−α}≡ 0, Ψ |_{t>−α+ε}≡ 1. On notera v la solution de

\{ \begin{matrix}□v = Ψ′′ (s) Θ (x) u (x, s) + 2Ψ′ (s) Θ (x) ∂_{t}u (s, x) , \\ v |_{t<−α}≡ 0, \\ v ∈ H_{0}^{1} (Ω) . \end{matrix} (2.16)

c’est à dire

v (t, x) = ∫_{−α}^{t} U (t − s) [Ψ′′Θu + 2Ψ′Θu] (s, x) ds,

où U est le propagateur de l’équation des ondes avec conditions de Dirichlet sur Ω :

\{ \begin{matrix}□U (t) u_{0} & = & 0, \\ U (0) u_{0} & = & 0, \\ ∂_{t}U (0) u_{0} & = & u_{0} ∈ L^{2} (Ω) , \\ U (t) u_{0} & ∈ & H_{0}^{1} (Ω) . \end{matrix}

La fonction w = v − Ψu vérifie alors l’équation obtenue en remplaçant dans (2.16) Θ par 1 − Θ. D’après la vitesse finie de propagation du support pour les solutions de l’équation des ondes, on a

w ≡ 0 sur {(x, t) ; t ≥ 0, x ∈ B (O, α − ε − t)}. (2.17)

Soit g ∈ C_{0}^{∞} (R). On note

E_{±} (s, u) = ∫_{τ∈R^{±}} ∫_{Ω} |F_{t→τ}g (s + t) ∇u (t)|^{2} + |F_{t→τ}g (s + t) ∂_{t}u (t)|^{2} (τ, x) dτdx.

On a alors:

\frac{1}{2} \frac{d}{ds}E_{±} (s, v) = ∫_{R^{±}} Re[∫_{Ω} ∫_{R} e^{−itτ}dtg (s + t) ∇v (x, t) \overline{∫_{R} e^{−itτ} \frac{dg}{ds} (s + t) ∇vdt}

+ ∫_{Ω} ∫_{R} e^{−itτ}dtg (s + t) ∂_{t}v\overline{∫_{R} e^{−itτ}dt\frac{dg}{ds} (s + t) ∂_{t}v}]

= ∫_{R^{±}} Re[∫_{Ω} ∫_{R} e^{−itτ}dtg (s + t) ∇v (x, t) \overline{∫_{R} dte^{−itτ}g (iτ∇v − ∂_{t}∇v)}

+ ∫_{Ω} ∫_{R} e^{−itτ}dtg (s + t) ∂_{t}v\overline{∫_{R} e^{−itτ}dtg (s + t) (iτ∂_{t}v − ∂_{t}^{2}v)}]

= ∫_{R^{±}} Re[∫_{Ω} ∫_{R} e^{−itτ}dtg (t + s) ∂_{t}v
\overline{∫_{R} dte^{−itτ}g (t + s) (−Ψ′′ (s) θ (x) u (x, s) − 2Ψ′ (s) Θ (x) ∂_{t}u (s, x))}]
≤ E_{±} (s, v)^{1/2} ∫_{R^{±}} ∫_{Ω} |F_{t→τ}g (s + t)

(−Ψ′′ (s) Θ (x) u (s, x) − 2Ψ′ (s) Θ (x) ∂_{s}u (s, x)| dτdx)

≤ CE_{±} (s, v)^{1/2} E_{±} (s, (|Ψ′′| + |Ψ′|) Θ (x) u)^{1/2} .

On en déduit que

E_{±} (t, v)^{1/2} ≤ C ∫_{α}^{t} E_{±}^{1/2} (t, (|Ψ′′| + |Ψ′|) Θ (x) u) . (2.18)

En utilisant cette remarque et l’équation

\{ \begin{matrix}□∂_{t}^{k}v & = & ∂_{t}^{k} [ΘΨ′′u + 2Ψ′Θ∂_{t}u] , \\ ∂_{t}^{k}v |_{t<−α} & ≡ & 0, \\ ∂_{t}^{k}v |_{∂Ω} & = & 0, \end{matrix}

il est clair que sous les hypothèses du lemme 2.16, v est microlocalement en (t, τ_{0}) de classe H^{s−1} à valeurs H_{0}^{1} (Ω), pour toutes les valeurs de t et uniformément par rapport à t. D’après (2.17), et comme ψ |_{t>−α+ε}≡ 1, il en résulte que u est microlocalement en τ_{0} de classe H^{s−1} sur [−α + s + ε, α + s − ε] à valeurs H^{1} (Ω ∩ B (O, η − ε − s)).

La démonstration du lemme 2.16 dans le cas Gevrey σ se fait de la même manière en utilisant le corollaire 2.9 et des troncatures de classe Gevrey au lieu de C^{∞}.

On revient à la démonstration de la proposition 2.14. Soit x_{1} ∈ \overline{Ω} ∩ B (O, η) et γ ∈ Γ_{ρ_{0},a}^{−}, a > 0, a < a_{0} tel que Π_{x} (γ (−a)) = x_{1}. On note

Γ = {γ, rayons analytiques : [−α, s_{γ}[→ Σ_{b}; Π_{x,τ}γ (−α) = (x_{1}, τ_{0}) , Π_{x}γ (s_{γ}) = O},

l’ensemble des rayons analytiques issus de (x_{1}, τ_{0}) à l’instant −α et

S_{x_{1}} = ∪_{γ∈Γ}{s_{γ}},

l’ensemble des instants d’arrivée au coin des rayons analytiques issus de x_{1} à l’instant t = −α. La proposition suivante qui va nous permettre de déduire la proposition 2.14 dans les cas Sobolev et Gevrey du même résultat démontré par Lebeau [18] dans le cas analytique est démontrée en annexe : Proposition 2.17. — Il existe C > 0, α_{0} > 0 tel que pour tout α_{0} > α > 0, x ∈ B(O, C) ∩ \overline{Ω}, S_{x} est un fermé de mesure nulle dans R. Remarque 2.18. — Ce résultat reste vrai pour tout x ∈ \overline{Ω}, mais la démonstration est un peu plus délicate.

On peut maintenant démontrer la proposition (2.14) dans le cas H^{s}, s > 1. On reprend les notations du lemme 2.15. On prend C > 0, α = C/2 vérifiant les conclusions de la proposition 2.17, qu’on pourra éventuellement diminuer et ε > 0 et a_{0} vérifiant les conclusions du lemme 2.15. Soit x_{1} ∈ B(O, C) ∩ \overline{Ω}. D’après la proposition 2.17, il existe ε_{1} > 0 et t_{1} < 0 tels que ]t_{1} −ε_{1}, t_{1}[⊂ S_{x_{1}}^{c}∩]−ε, ε[. Un raisonnement par l’absurde montre qu’on peut supposer qu’il existe ε_{2} > 0 tel que pour tout x ∈ B (x_{1}, ε_{2}) ∩ \overline{Ω}, on a

]t_{1} − 2ε_{1}/3, t_{1} − ε_{1}/3[⊂ S_{x}∩] − ε, ε[. (2.19)

On remplace pour plus de simplicité t_{1} par t_{1} + ε_{1}/3 et ε_{1}/3 par ε_{1}, ce qui implique le lemme : Lemme 2.19. — Pour tout x_{1} ∈ \overline{Ω} ∩ B(O, C), et tout ε > 0, il existe ε_{1}, ε_{2} > 0 tels que pour tout x ∈ B (x_{1}, ε_{2}) ∩ \overline{Ω}, on a:

]t_{1} − ε_{1}, t_{1}[⊂ S_{x}^{c}∩] − ε, ε[.

Les constantes ε_{1}, ε_{2} étant ainsi fixées, on prend χ ∈ C_{0}^{∞} (R^{2}) et Ψ ∈ C^{∞} (R_{t}) telles que

supp (χ) ⊂ B (x_{1}, ε_{2}) ,
χ ≡ 1 sur B (x_{1}, \frac{ε_{2}}{2} ) ,
Ψ |_{t<−α}≡ 0,
Ψ |_{t>−α+ε/2}≡ 1 (ε > 0).

Soit v la solution de

\{ \begin{matrix}□v = Ψ′′ (s) χ (x) u (x, s) + 2Ψ′ (s) χ (x) ∂_{t}u (s, x) , \\ v |_{t<−a_{0}}≡ 0, \\ v ∈ H_{0}^{1} (Ω) . \end{matrix} (2.20)

D’après les résultats de propagations des singularités avec second membre, en temps petit (c’est à dire tant qu’on ne rencontre pas le coin), les seuls rayons porteurs de singularités analytiques de v sont ceux qui sont, pour t ∈ [−α, −α + ε/2] issus du support de χ, or, d’après (2.19) et comme à tout rayon analytique issu du point (x, t) et rencontrant le coin (O, t′), on peut par translation du temps associer un rayon analytique issu du point (x, t + s) et rencontrant le coin (O, t′ + s), aucun de ces rayons porteurs de singularités analytique de v n’arrive sur le coin pour t ∈]t_{1} − ε_{1} + ε_{1}/2, t_{1}[. D’après le théorème 5 de [18], v est microlocalement en analytique en temps à valeurs H_{0}^{1} (Ω) en tout point (t, x = O, τ_{0}) ; t ∈ [t_{1} − ε_{1}/2, t_{1}]. Par compacité, il existe donc η > 0, g ≡ 1 sur B (O, η) et φ ≡ 1 sur [t_{1} − ε_{1}/3, t_{1} − ε_{1}/4] tels qu’on a l’estimation (2.3) pour la fonction v. On dira qu’alors v est sur [t_{1} − ε_{1}/3, t_{1} − ε_{1}/4] microlocalement en τ_{0} de classe H^{s−1} à valeurs H_{0}^{1} sur Ω ∩ B (O, η) et on notera

v ∈ H_{τ_{0}}^{s−1} ([t_{1} − ε_{1}/3, t_{1} − ε_{1}/4]; H_{0}^{1} (Ω ∩ B (O, η))) .

On note

T = sup{T > t_{1} − ε_{1}/3 ; v ∈ H_{τ_{0}}^{s} ([t_{1} − ε_{1}/3, T]; H_{0}^{1} (Ω ∩ B (O, η))) .

On supposera que la constante η est inférieure à la constante ε du lemme 2.15. D’après ce qui précède, T ≥ t_{1} − ε_{1}/4. On veut montrer que T > 0. On va en fait montrer que T ≥ ε. Si ce résultat n’était pas vrai, alors v ∉ H_{τ_{0}}^{s} (R_{t}; H_{0}^{1} (Ω ∩ B (O, η))) au voisinage de t = T ce qui donne deux possibilités :

\{ \begin{matrix}v ∉ H_{τ_{0}}^{s} (R_{t}; H_{0}^{1} (Ω ∩ B (O, η) \ B (O, ε))) au voisinage de t = T, \\ v ∉ H_{τ_{0}}^{s} (R_{t}; H_{0}^{1} (Ω ∩ B (O, ε))) au voisinage de t = T. \end{matrix}

Le deuxième cas est impossible d’après la définition de T et le lemme 2.16. Dans le premier cas, il existe nécessairement ρ_{0} = (x_{0} ≠ O, T, ξ_{0}τ_{0}) ∈ Σ_{b} ∩ W F_{b}^{s} (v). D’après les résultats usuels de propagation des singularités en dehors des coins, on peut propager cette singularité vers le passé tant qu’on ne rencontre ni le coin O ni le front d’onde W F_{b}^{s−1} du second membre de (2.20). D’après la définition de T, le rayon ainsi construit ne contient pas de point dans B (O, η) pour T − t > 0 assez petit, il sort donc de B (O, η) tout de suite, et on peut le prolonger sur un intervalle de temps fixe, qu’on peut supposer supérieur à −α sans qu’il rencontre à nouveau un coin. Nécessairement, ce rayon a rencontre le front d’onde H^{s−1} de la distribution Ψ′′ (s) χ (x) u (x, s) + 2Ψ′ (s) χ (x) ∂_{t}u (s, x), donc le front d’onde H^{s} de u d’après les résultats de propagation des singularités H^{s} avec second membre dans les ouverts réguliers appliqués à v. En appliquant à nouveau les résultats de propagation des singularités à la fonction u, on obtient que ce rayon est, tant qu’il ne rencontre pas à nouveau un coin, inclus dans W F_{b}^{s} (u). Nous avons donc construit un rayon, γ : [−a_{0}, 0] inclus dans F et tel que x (γ (0)) ∈ B (O, η) et t (γ (0)) = T ∈ B (0, ε) (puisque −ε < t_{1} < T < ε). Cette dernière propriété contredit le lemme 2.15.

Nous avons donc démontré le résultat suivant : Proposition 2.20. — Il existe C > 0 tel que pour tout x ∈ \overline{Ω}∩B (O, C), il existe ε > 0 tel que pour tout χ ∈ C_{0}^{∞} (R^{2}) égale à 1 sur B (x, ε/2) et à support dans B (0, ε), la solution du système (2.20) est au voisinage de t = 0, x = O microlocalement en τ_{0} de classe H^{s−1} à valeurs H^{1_{0}}.

On recouvre maintenent \overline{B} (O, 2C/3) par un nombre fini de boules de type B (x, ε) et par compacité, on obtient qu’il existe χ ∈ C_{0}^{∞} (R^{2}) égale à 1 au voisinage de B (O, 2C/3) et telle que la solution du système (2.20) est au voisinage de t = 0, x = O microlocalement en τ_{0} de classe H^{s−1} à valeurs H_{0}^{1}. Enfin, comme la solution de (2.20) associée à 1 − χ est, par vitesse finie de propagation du support pour les solutions de l’équation des ondes avec conditions de Dirichlet, égale à 0 au voisinage de (x = O, t = 0), nous avons démontré la proposition 2.14 dans le cas sobolev.

La démonstration de la proposition 2.14 dans le cas Gevrey se fait de la même manière en utilisant la caractérisation du front d’onde Gevrey donnée par le corollaire 2.9, la relation (2.18), en prenant dans (2.20) Ψ et χ de classe Gevrey σ et en dérivant l’équation (2.20) par rapport au temps.

III. La résolvante à l’extérieur d’un obstacle à coin

Dans cette partie, nous allons étudier la résolvante dans le cas où l’ouvert Ω est le complémentaire d’un seul obstacle, non captif et comportant éventuellement des coins.

3.1 Hypothèse, résultat

On considère un obstacle Θ à frontière analytique, sauf éventuellement près d’un nombre fini de points au voisinage desquels, l’ouvert Ω = Θ^{c} coïncide avec un ouvert Ω^{i} ou Ω^{e} de la forme (2.1). On suppose également que l’obstacle Θ est non captif, c’est à dire que si Θ ⊂ B (O, R) alors il existe T > 0 tel que tout rayon C^{∞} issu d’un point x ∈ Ω ∩ B (O, R) en sort après un parcours de longueur au plus égale à T. Soient R_{1} > R > 0 tels que Θ ⊂ B (0, R).

L’objet de cette partie est la démonstration du résultat suivant : Théorème 3. — Soit χ ∈ C_{0}^{∞} (R^{2}) telle que χ ≡ 1 au voisinage de B (0, R) et χ ≡ 0 au voisinage de B (0, R_{1})^{c}. Il existe A, B > 0 tels que l’opérateur χRχ (λ), défini pour Imλ < 0 possède un prolongement analytique dans l’ensemble

U_{A,B} = {λ; Imλ ≤ A|λ|^{1/3} − B}, (3.1)

comme opérateur borné de L^{2} (Ω) dans H_{0}^{1} (Ω), et y vérifie l’estimation

∃C, D > 0; ∥χRχ∥_{L(L^{2}(Ω),H_{0}^{1}(Ω))} ≤ Ce^{DImλ^{+}},

où Imλ^{+} = max (Imλ, 0).

La démonstration de ce résultat dans le cas où l’ouvert considéré est à frontière analytique est classique. Dans la suite, on notera R_{i} les résolvantes obtenues pour Ω = Θ_{i}^{c}, i = 1; 2. Les obstacles Θ_{i} sont séparément non captifs (puisque convexes) et on pourra donc appliquer ce résultat à R_{1} et R_{2}.

La démonstration du théorème 3 utilise deux ingrédients:

– Une stratégie de G.Popov [25], qui permet de réduire le problème à l’obtention de résultats de propagation de type Gevrey 3 en temps à valeur H^{1} en espace, pour la solution de l’équation des ondes dans l’ouvert Ω

– Les résultats de propagation des singularités démontrés au chapitre 2

3.2 La résolvante et la propagation des singularités

On note U_{0} (t) le propagateur du problème suivant:

(∂_{t}^{2} − Δ) U_{0} (t) f = 0, dans R_{x}^{2} × R_{t},
U_{0} (t) f |_{t=0} = 0,
∂_{t}U_{0} (t) f |_{t=0} = f ∈ C_{0}^{∞} (Ω) ,

qu’on étend comme opérateur de L^{2} ( R_{x}^{2}) dans C^{0} ( R_{t}; H_{0}^{1} ( R_{x}^{2})) ∩ C^{1} (R_{t}; L^{2} (Ω)).

Soit T plus grand que le temps maximum nécessaire à tout rayon C^{∞} parcouru à vitesse 1, issu du support de χ, pour en sortir,(On peut choisir T < 2R_{1}, si l’obstacle Θ est convexe). On supposera par la suite T ≥ R_{1}.

Soit ζ ∈ G^{3} ( R^{2+1}) telle que:

– ζ ≡ 1 dans {| |x| − t |< T },

– ζ ≡ 0 dans {| |x| − t |> T + 1}.

ζ = 0 ζ = 1 T T + 1

Figure 3.1: Graphe de la fonction ζ

(on choisit la fonction ζ telle que, compte tenu de la vitesse de propagation égale à 1 pour les solutions de l’équation des ondes, une solution, dont les données initiales sont à support dans B (0, R) vit dans la région ζ = 1).

Soient U_{χ} (t) = χU_{Ω} (t) χ et E (t) = ζU_{Ω} (t) χ. On note, pour Imλ < 0,

χÊ (λ) = ∫_{0}^{+∞} e^{−iλt}χE (t) dt.

Comme χE (t) est à support compact en temps (car χζ l’est), χÊ (λ) admet un prolongement analytique à C, comme fonction à valeur L (L^{2} (Ω) ; H_{0}^{1} (Ω)).

On pose

F (t) = [∂_{t}^{2} − Δ, ζ] U_{Ω} (t) χ. (3.2)

3. La résolvante

L’opérateur E (t) est alors le propagateur du problème:

(∂_{t}^{2} − Δ) E (t) f = F (t) f, dans Ω × R_{t},
E (t) f |_{∂Ω} = 0,
E (t) f |_{t=0} = 0,
∂_{t}E (t) f |_{t=0} = χf ∈ L^{2}(Ω).

Proposition 3.1. — L’opérateur F (t) est Gevrey 3 en temps à valeurs L (L^{2} (Ω)).

Nous admettons dans un premier temps ce résultat, nous allons en déduire le théorème 3 en suivant la méthode de G. Popov [25].

On note F′ (t) le prolongement par 0 de F comme opérateur L (L^{2} (Ω) ; L^{2} ( R_{x}^{2})). Soit W (t) le propagateur du problème

(∂_{t}^{2} − Δ) W (t) f = F′ (t) f dans R_{x}^{2} × R_{t},
W (0) f = ∂_{t}W (0) f = 0; f ∈ L^{2} (Ω) , (3.3)

c’est à dire

W (t) = ∫_{0}^{t} U_{0} (t − s) F′ (s) ds.

Soit Ψ ∈ C^{∞} ( R^{2}) telle que Ψ ≡ 0 au voisinage de B (0, R) et telle que χ ≡ 1 au voisinage du support de (1 − Ψ). Soit

Q (t) (f) =^{def} (∂_{t}^{2} − Δ) [E (t) f − ΨW (t) f]
= (1 − Ψ) F (t) f + [Δ, Ψ]W (t) f.

On a alors, comme Q (t) f |_{∂Ω}= 0,

E (t) f − ΨW (t) f = U (t) χf + ∫_{0}^{t} U (t − s) χQ (s) dsf,

car χQ (t) = Q (t). On en déduit que pour Imλ < 0, on a

χÊ (λ) f = R_{χ} (λ) f + R_{χ} (λ) Q̂ (λ) f + ΨχŴ (λ) . (3.4)

On va montrer que Q̂ (λ)(respectivement ΨχŴ (λ)) admet un prolongement analytique à C \ i R^{+} comme opérateur L^{2} (Ω) dans lui même (respectivement comme opérateur de L^{2} (Ω) dans H_{0}^{1} (Ω)) et que l’opérateur Id + Q̂ (λ) est inversible par une série de Neumann, comme opérateur L (L^{2} (Ω)) dans un ouvert de la forme U_{A,B}.

On commence par étudier l’opérateur W (t) . Soit H ∈ C^{∞} ( R^{2}) telle que H ≡ 0 sur B (0, T) et H ≡ 1 au voisinage de B (0, T + 1)^{c}. Soit

\begin{aligned}G (t) f & = (∂_{t}^{2} − Δ) [W (t) f − HE (t) f] \\ & = (1 − H) F′ (t) f + [Δ, H]E (t) f. \end{aligned} (3.5)

L’ opérateur G (t) est borné de L^{2} (Ω) dans L^{2} ( R^{2}) ; en effet, E (t) est borné de L^{2} (Ω) dans H^{1} (Ω) et [Δ, H] ≡ 0 au voisinage de Ω. On a alors

W (t) f = HE (t) f + ∫_{0}^{t} U_{0} (t − s) G (s) ds. (3.6)

Soient χ_{2} ∈ C_{0}^{∞} (B (0, T)) et χ_{1} ∈ C_{0}^{∞} (B (0, T + 1)), égale à 1 sur le support de 1 − H. Alors

χ_{2}W (t) f = χ_{2} ∫_{0}^{t} U_{0} (t − s) χ_{1}G (s) fds, (3.7)

en effet, χ_{2}H ≡ 0 et

χ_{1}G (t) = χ_{1} (1 − H) F′ (t) + χ_{1}[Δ, H]E (t)
= (1 − H) F′ (t) + [Δ, H]E (t)
= G.

Nous allons utiliser le lemme suivant

Lemme 3.2. — Soit χ_{2} ∈ C_{0}^{∞} (B (0, T)). La fonction:

t ∈]2T + 3, +∞[↦ χ_{2}U_{0} (t) χ_{1} ∈ L (L^{2} ( R^{2}); H_{0}^{1} ( R^{2}))

admet un prolongement analytique dans {t ∈ C; |t| > 2T + 3} et pour j ≥ 1, on a

∥D_{t}^{j}χ_{2}U_{0} (t) χ_{1}∥_{L(L^{2}( R^{2});H_{0}^{1}( R^{2}))} ≤ Aj!|t|^{−2}.

Le noyau distribution de U_{0} (t) vaut en effet, sur Θ_{T} = {(t, x, y) ∈ C^{5}; |t| ≥ 2T + 3; |x| ≤ T; |y| ≤ T + 1}, U_{0} (t, x, y) = C (t^{2} − |x − y|^{2})^{−1/2}, le lemme 3.2 résulte donc des formules de Cauchy appliquées à ∂_{t}U_{0} (x, y, t), sur un disque de rayon 1.

Soit T_{2} > 4T + 5. Puisque d’après (3.5), pour f ∈ L^{2} (Ω), le support de G (t) f est inclus dans

(supp (ζ) ∩ supp (1 − H)) ∪ (supp (H′) ∩ supp (ζ)) ,

qui est inclus dans {t; |t| ≤ 2T + 2}, on déduit du lemme 3.2 et des relations (3.7) et (3.6) que la fonction

t ∈ [T_{2}, +∞[↦ χ_{2}W (t) ∈ L (L^{2} (Ω) ; H_{0}^{1} (Ω))

admet un prolongement analytique dans {t ∈ C; |t| ≥ T_{2}} et vérifie pour tout j ≥ 1 et tout t ∈ C; |t| ≥ T_{2},

∥D_{t}^{j}χ_{2}W (t) ∥_{L(L^{2}(Ω);H^{1}(Ω))} ≤ Aj!|t|^{−2}. (3.8)

On se place maintenant dans un demi-plan {Reλ ≥ λ_{0} > 0}. Comme sur le support de χ_{2}, χ est constante, d’après les relations (3.2) et (3.3), on a χ_{2}W ≡ 0 pour |t| assez petit, ce qui permet d’intégrer par parties dans l’intégrale définissant χ_{2}Ŵ.

χ_{2}Ŵ (λ) = iλ^{−1} ∫_{0}^{T_{2}} e^{−iλt}∂_{t}χ_{2}W (t) dt + iλ^{−1} ∫_{T_{2}}^{+∞} e^{−iλt}∂_{t}χ_{2}W (t) dt,

pour Imλ < 0. D’après (3.8), on peut déformer le contour d’intégration T_{2} +t; t ∈ R^{+}, sur T_{2} + it; t ∈ R^{+}, dans la deuxième intégrale, ce qui donne

χ_{2}Ŵ (λ) = iλ^{−1} ∫_{0}^{T_{2}} e^{−iλt}∂_{t}χ_{2}W (t) dt + iλ^{−1}e^{−iλT_{2}} ∫_{0}^{+∞} e^{−λt}∂_{t}χ_{2}W (T_{2} + it) dt,

ce qui montre que χ_{2}Ŵ (λ) admet un prolongement analytique comme opérateur de l’espace L^{2} (Ω) dans H_{0}^{1} (Ω), à l’ensemble

A_{λ_{0}}^{+} = {λ ∈ C; Reλ ≥ λ_{0} > 0} ∪ {λ ∈ C; Imλ < 0}.

On a de plus, pour tout j ∈ N,

χ_{2}Ŵ (λ) = (−iλ)^{−j−1} ∫_{0}^{T_{2}} e^{−iλt}∂_{t}^{j+1}χ_{2}W (t) dt

+ (−iλ)^{−j−1} e^{−iλT_{2}} ∫_{0}^{+∞} e^{−λt}∂_{t}^{j+1}χ_{2}W (T_{2} + it) dt,

pour j = [λ/C], on obtient, avec B = T si Imλ ≤ 0 et B = T_{2} si Imλ > 0, d’après (3.8)

\begin{aligned}∥χ_{2}Ŵ (λ) ∥_{L(L^{2}(Ω);H^{1}( R_{x}^{2}))} & ≤ |λ|^{−[λ/C]−1}A ([λ/C]!) e^{BImλ} \\ & ≤ Ce^{− \frac{λ}{C} +BImλ}, \end{aligned} (3.9)

pour Reλ ≥ λ_{0} > 0. On a un résultat similaire pour Reλ ≤ −λ_{0}.

On étudie maintenant

Q (t) = (1 − Ψ) F (t) + [Δ, Ψ]W (t) . (3.10)

Etudions d’abord la contribution de (1 − Ψ) F. Le support en temps de (1 − Ψ) F (t) est inclus dans {|t| ≤ T + 1 + R_{1}}. Par ailleurs, (1 − Ψ) F est nul pour t assez proche de 0. En effet, au voisinage de 0, on a ζ ≡ 1 sur {|x| < T − ε} (ε > 0) qui contient le support de (1 − Ψ), (1 − Ψ) F (t) est donc d’après (3.2) nul au voisinage de 0. Nous allons intégrer par parties dans la relation :

(1 − Ψ) F̂ (λ) = ∫_{0}^{T +1+R_{1}} e^{−iλt} (1 − Ψ) F (t) dt.

On a donc

(1 − Ψ) F̂ (λ) = (\frac{i}{λ})^{n} ∫_{0}^{T +1+R_{1}} e^{−iλt} (1 − Ψ) ∂_{t}^{n}F (t) dt,

donc

∥ (1 − Ψ) F̂ (λ) ∥_{L^{2}} ≤ \frac{1}{|λ|^{n}} ∫_{0}^{T +1+R_{1}} e^{tImλ^{+}}∥ (1 − Ψ) ∂_{t}^{n}F (t) ∥_{L^{2}}dt

≤ \frac{1}{|λ|^{n}} ∫_{0}^{T +1+R_{1}} e^{tImλ^{+}}C^{n+1} (3n)^{3n} dt

≤ Ae^{BImλ^{+}−ε|λ|^{1/3}}, (3.11) en choisissant n = λ^{1/3}/C′ avec C′ assez grand.

On étudie ensuite la contribution du terme [Δ, Ψ] W dans (3.10). On peut choisir χ_{2} ≡ 1 sur le support de ∇_{x}Ψ ⊂ B (0, R)^{c} ∩ B (0, R_{1}). On a alors,

[Δ, Ψ] W (t) = χ_{2} [Δ, Ψ] W (t) ,

ce qui implique d’après (3.9) que l’opérateur { \atop [Δ, Ψ] W} (λ) admet un prolongement analytique dans C\i R^{+} (comme opérateur de L (L^{2} (Ω)) dans lui même et pour tout λ_{0} > 0, il existe des constantes A, B, ε > 0 telles que pour tout λ ∈ C; Imλ < 0 ou Reλ > λ_{0}, on a l’estimation :

∥{ \atop [Δ, Ψ] W} (λ) ∥_{L^{2}(Ω)} ≤ Ae^{BImλ^{+}−ε|λ|}.

En résumé, nous avons montré que l’opérateur Q̂ admet un prolongement analytique dans C \ i R^{+} comme opérateur de L^{2} (Ω) dans lui même et pour tout λ_{0} > 0, il existe des constantes A, B, ε > 0 telles que pour tout λ ∈ C; Imλ < 0 ou Reλ > λ_{0}, on a l’estimation :

∥Q̂ (λ) ∥_{L^{2}(Ω)} ≤ Ae^{BImλ^{+}−ε|λ|^{1/3}}. (3.12)

Il est clair, que, si B′ est assez grand, l’opérateur Q̂ est de norme plus petite que 1/2 pour tout λ ∈ U_{ε/B,B′} et l’opérateur Id + Q̂ y est inversible par une série de Neumann, donc, d’après (3.4), l’opérateur R_{χ} (λ) y est analytique et y vérifie

R_{χ} (λ) f = (Id + Q̂)^{−1} (χÊ (λ) + ΨχŴ (λ)) f,

donc, comme on peut également choisir χ_{2} ≡ 1 sur le support de Ψχ, on a, pour tout λ ∈ U_{ε/B,B′},

∥R_{χ} (λ) ∥_{L(L^{2}(Ω),H^{1}(Ω))} ≤ Ae^{BImλ^{+}},

ce qui termine la démonstration du théorème 3.

3.3 Démonstration de la proposition 3.1

On a

\begin{cases}F (t) & = [∂_{t}^{2} − Δ_{x}, ζ] U (t) χ \\ & = ((∂_{t}^{2} − Δ_{x}) ζ + (2∂_{t}ζ∂_{t} − 2∇ζ∇)) U (t) χ. \end{cases} (3.13)

On rappelle les propriétés vérifiées par les troncatures ζ et χ: on a Θ ⊂⊂ B (0, R), T = 2R_{1} > R_{1} > R et

χ = 1 surB (0, R) ,
χ = 0 surB (0, R_{1})^{c} ,
ζ ∈ G^{3} ( R^{2+1}) ,
ζ = 1 sur{||x| − t| < T },
ζ = 0 sur{||x| − t| > T + 1}.

Lemme 3.3. — Pour tout u ∈ L^{2} (Ω), la distribution F (t) (u) appartient à l’espace des fonctions de classe Gevrey 3 en temps à valeurs L^{2} (Ω).

Par vitesse finie de propagation du support pour l’équation des ondes, et d’après la relation (3.13), la fonction F (t) (u) est à support compact en x ∈ \overline{Ω}. Il suffit donc pour démontrer ce lemme de démontrer que SS_{b}^{3} (F (t) (u)) = ∅. Soit donc ρ_{0} ∈ SS_{b}^{3} (F (t) (u)). On a donc nécessairement ρ_{0} ∈ SS_{b}^{3} (v) ∩ {T < ||x| − t| < T + 1 où v = U (t) χu. Puisque ζ est égale à 1 au voisinage de {t = 0} × supp (χ)}, et comme en dehors de t = 0, d’après le résultat de régularité elliptique (2.10), le front d’onde SS_{b}^{3} (v) est inclus dans la variété caractéristique, Σ_{b}, on a ρ_{0} ∈ Σ_{b}. D’après le théorème 3, il existe un rayon, γ, C^{∞} issu à t = 0 du support de χ contenant le point ρ_{0} et inclus dans SS_{b}^{3} (v). Or, par hypothèse, tous les rayons issus à t = 0 de B (O, R_{1}) en sont sortis pour t > T. Soit t_{1} < t, l’instant où γ sort de B (O, R_{1}). Pour t > t_{1}, on a donc, sur γ, |x| > t − t_{1}. Comme on a nécessairement toujours |x| < R_{1} + |t|, on obtient une contradiction avec les propriétés de γ

Pour conclure, nous suivons un argument de [15] : que nous résumons dans le Lemme 3.4. — Soient I ⊂ R, un intervalle compact et H_{1}, H_{2} deux espaces de Banach. Soit T (t) une famille uniformément continue par rapport à t d’opérateurs continus de H_{1} dans H_{2}. On suppose que pour tout u_{1} ∈ H_{1}, la fonction T (t) (u_{1}) est de classe Gevrey σ sur I à valeurs dans H_{2}. Alors la famille d’opérateurs T est de classe Gevrey σ à valeurs opérateurs continus de L (H_{1}, H_{2}).

On note

G_{N} = \{u ∈ G^{σ} (I; H_{2}) ; sup_{{t∈I \atop l∈ N}} \frac{∥∂_{t}^{l} (u) ∥_{H_{2}}}{(3l)!N^{l+1}} < +∞\}

et

A_{N} = {u_{1} ∈ H_{1}; T (t) u_{1} ∈ G_{N}}.

D’après l’hypothèse et comme I est compact, H_{1} = ∪_{N∈ N}A_{N}. On a donc également H_{1} = ∪_{N∈ N}\overline{A_{N}}, il existe donc N_{1} tel que \overline{A_{N_{1}}} est d’intérieur non vide et comme les A_{N} sont des espaces vectoriels, on a alors \overline{A_{N_{1}}} = H_{1}. Enfin, pour N < M, on a A_{N} ⊂ A_{M}. On a donc aussi H_{1} = ∪_{N≥N_{1}}A_{N} ; il existe donc N_{0} ∈ N tel que A_{N_{0}} est dense dans H_{1} et de seconde catégorie. L’espace G_{N} muni de sa norme naturelle est un espace de Banach et l’application

u ∈ A_{N_{0}} ↦ T (t) u ∈ G_{N_{0}},

définie sur un espace de seconde catégorie a son graphe fermé, elle est donc continue : il existe C > 0 tel que pour tout u ∈ A_{N_{0}}, on a

∥F (t) u∥_{G_{N_{0}}} ≤ C∥u∥_{H_{1}}.

L’application naturelle de A_{N_{0}} dans G_{N_{0}} se prolonge donc par continuité à H_{1} et comme ce prolongement coïncide nécessairement avec F, le lemme est démontré.

3.4 Solutions sortantes et singularités

Nous terminons cette partie par la proposition suivante qui justifie la terminologie “sortante”:

Proposition 3.5. — Soit f (λ) ∈ L^{2} (Ω), une famille de fonctions dépendant de λ ∈ R^{+} comme d’un paramètre et telles qu’il existe C, N > 0 tels que pour tout λ ∈ R^{+},

∥f (λ) ∥_{L^{2}(Ω)} ≤ C|λ|^{N}.

Soient H ∈ G_{0}^{3} ( R^{2}) et x_{0} ∈ Ω. On notera G le flot bicaractéristique généralisé de l’équation des ondes sur Ω paramétré, à vitesse égale à 1, dans le sens des t croissants. Au voisinage d’un point intérieur, pour |s| assez petit et pour (t, τ, x, ξ) tel que τ^{2} = |ξ|^{2} ≠ 0, on a

G (s, (t, τ, x, ρ)) = (t + s, τ, x − s\frac{ξ}{τ} , ξ) .

Soit ξ_{0} ∈ T_{x_{0}}^{∗} R_{x}^{2}. On suppose que la projection spaciale du demi rayon C^{∞} issu du point (x_{0}, t = 0, τ = 1, ξ_{0}) vers t < 0, donné par {G (s, (t = 0, τ = 1, x_{0}, ξ_{0})) ; s ≤ 0} ne rencontre pas un voisinage du support de H. Alors (x_{0}, ξ_{0}) ∉ SS_{b}^{3} (R (λ) (Hf)). (Ce résultat dit que les singularités gevrey 3 de R (λ) (Hf) sont incluses dans la réunion des demi-rayons issus, vers t ≥ 0 du support de f). (On rappelle que la définition de l’ensemble de fréquence semi-classique est donnée à l’annexe B). Plus précisement, sous les hypothèses précédentes, il existe ψ ∈ G_{0}^{3} ( R^{2}) égale à 1 au voisinage de x_{0}, C > 0, V un voisinage de z_{0} = x_{0} − iξ_{0} et ε > 0 tels que pour tout f ∈ L^{2} (Ω), tout z ∈ V et tout λ ∈ R^{+}, on a

|T (ψR (λ) (Hf)) (z, λ)| ≤ Ce^{\frac{λ}{2} (Rez)^{2}−ε|λ|^{1/3}}∥u∥_{L^{2}(Ω)}. (3.14)

Soit 0 ≤ χ ≤ 1 ∈ G_{0}^{3} égale à 1 au voisinage de Θ, de x_{1} et du support de H. D’après (3.4), (3.9) et (3.12), on a l’équivalence suivante, pour tout σ ≥ 3:

ρ_{0} ∈ SS^{σ} (R (λ) (Hf)) ⟺ ρ_{0} ∈ SS^{σ} (R_{χ} (λ) (Hf))
⟺ ρ_{0} ∈ SS^{σ} (χÊ (λ) Hf) .

On rappelle que

χÊ (λ) Hf = ∫_{0}^{+∞} e^{−iλt}χζU (t) χHf.

On choisira 0 ≤ ψ ≤ 1 ∈ G_{0}^{3} ( R^{2}) égale à 1 au voisinage de x_{0} et telle que ψχ = ψ. On s’intéresse à

T (ψχÊ (λ) f) = ∫ e^{λ(x·z−x^{2}/2)} ∫_{t∈K} e^{−iλt}χ_{1}ζU (t) Hfdtdx (3.15)

et dans cette expression, on intègre sur un compact K de R^{∗+} car χζ est à support compact en temps et par vitesse finie de propagation, U (t) Hf est nulle au voisinage de x_{0} si t > 0 est assez petit. Soit φ ∈ G_{0}^{3} ( R_{t}) égale à 1 au voisinage de ce compact K.

On fixe une fonction f ∈ L^{2} (Ω). On a, d’après le théorème 3, Lemme 3.6. — Pour tout t_{0} ∈ R^{+}, le point (t_{0}, x_{0}, τ_{0} = \frac{1}{\sqrt{2}}, η_{0} = \frac{ξ_{0}}{\sqrt{2}}) n’appartient pas au front d’onde Gevrey 3 de la fonction U (t) (Hf)

Il existe donc, pour tout t_{0} ≥ 0 des fonctions φ_{t_{0}} ∈ G_{0}^{3} ( R_{t}) et ψ_{t_{0}} ∈ G_{0}^{3} ( R_{x}^{2}) égales à 1 au voisinage de t_{0} et x_{0} respectivement et il existe un voisinage V_{t_{0}} de (t_{0}, x_{0}) − i (τ_{0}, η_{0}) dans C^{3} et des constantes C, ε > 0 tels que, pour tout (s, z) ∈ V_{t_{0}}, on a

|T_{0} ⊗ T (φ_{t_{0}}ψ_{t_{0}}χζU (t) Hf)| ≤ Ce^{− \frac{λ}{2}((Res)^{2}+(Rez)^{2})−ε|λ|^{1/3}} (3.16)

On peut supposer que V_{t_{0}} est de la forme V_{t_{0},t} × V_{t_{0},x} − iW_{t_{0},ω}. Par compacité, on peut choisir un nombre fini de réels t_{i} ≥ 0 tels que les ouverts V_{t_{i},t} ∩ {φ_{t_{i}} = 1} recouvrent le support de la fonction φ. On peut également supposer que ni les fonctions ψ_{t_{i}} ni les ouverts V_{t_{i},x} et W_{t_{i},ω} ne dépendent de l’indice i. On les notera ψ, V_{x} et W_{ω} respectivement. On peut également supposer que ψχ = ψ On choisit alors des fonctions φ_{i} à support dans les ensembles V_{t_{i},t} ∩ {φ_{t_{i}} = 1} et telles que φ (t) = ∑_{i=1}^{N} φ_{i}(t). D’après la version multidimensionnelle du lemme 2.7 (voir par exemple [5], Théorème 1.6), on a

φ_{i} (t) ψχζU (t) (Hf) \frac{1}{8π^{2}} ∫_{μ=0}^{+∞} φ_{i} (t) e^{− \frac{μ}{2}} μdμ ∫_{ω∈S^{2}} (1 − \frac{ω · ∇_{t,x}}{iμ} )

(e^{− \frac{μ}{2} ((t,x)−iω)^{2}}T_{0} ⊗ T (φ_{t_{i}}ψζU (t) Hf) ((t, x) − iω, μ)) dω,

puisque φ_{i} (t) × φ_{t_{i}} (t) = φ_{i} (t).

On écrit cette dernière intégrale comme somme de deux termes :

∫_{μ=0}^{+∞} ∫_{ω∈S^{2}} = ∫_{μ=0}^{+∞} ∫_{ω∈S^{2}∩W′_{ω}} + ∫_{ω∈S^{2}\W′_{ω}}
= I_{i,1} + I_{i,2},

avec W′_{ω} ⊂⊂ W_{ω}.

On s’intéresse d’abord à la contribution de I_{i,1} à la relation (3.15) et pour cela dans l’expression définissant T (ψ ∫_{t∈K} e^{−iλt}I_{i,1}), on intégre par parties par rapport à t n fois. L’estimation (3.16) vraie sur un voisinage complexe de supp (φ_{i}) × supp (ψ) − iW′_{ω} et les formules de Cauchy sur un polydisque centré en (t, x) − iω de rayon \frac{C}{μ} si μ > 1 et C si μ < 1 montrent qu’on a les estimations, pour tout (t, x) ∈ supp (φ_{i}) × ψ et tout ω ∈ W′_{ω}:

|∂_{t}^{n} (1 − \frac{ω · ∇_{t,x}}{iμ} ) (e^{− \frac{μ}{2} ((t,x)−iω)^{2}}T_{0} ⊗ T (φ_{t_{i}}ψζU (t) Hf) ((t, x) − iω, μ))|

≤ AB^{n}n!e^{−ε|μ|^{1/3}} (1 + |μ|)^{n} .

En utilisant le fait que la fonction φ_{i} est de classe Gevrey 3 et que

∫_{1}^{+∞} μ^{k}e^{−|μ|^{1/3}} ≤ AB^{k} (3k)!,

on majore facilement |T (Ψ ∫_{t∈K} e^{−iλt}I_{i,1})| par \frac{AB^{n}(3n)!}{λ^{n}}. Le choix de n = [\frac{λ^{1/3}}{C} ] avec C assez grand donne

|T (ψ ∫_{t∈K} e^{−iλt}I_{i,1})| ≤ Ce^{−|λ|^{1/3}}.

Il reste à étudier la contribution de I_{i,2}. Soit ψ′ ∈ G_{0}^{3} ( R^{2}), ψ′ égale à 1 au voisinage de x_{0}, et telle que ψ′ψ = ψ. On a

T (ψ ∫ e^{−iλt}I_{i,2}dt) (z, λ)

= ∫ ψ (x) dxe^{λ(x.z− \frac{x^{2}}{2} )}φ_{i}(t)\frac{1}{8π^{2}} ∫_{μ=0}^{+∞} μdμ ∫_{ω∈S^{2}\W′_{ω}} (1 − \frac{ω · ∇_{t,x}}{iμ} )

(e^{− \frac{μ}{2} ((t,x)−iω)^{2}}T_{0} ⊗ T (φ_{t_{i}}ψζU (t) Hf) ((t, x) − iω, μ)) dω

= ∫_{x,y∈ R^{2}_{x} ; {s,t∈ R_{t} \atop ω∈S^{2}\W′_{ω}}} e^{ϕ(x,z,t,s,y,ω,λ,μ)}φ_{t_{i}} (s) ψ (y) ζ (s, y) U (s) (Hf) dxdtdsdydω,

avec

ϕ (x, z, t, s, y, ω, λ, μ) = λ (x · z − \frac{x^{2}}{2} )

+ μ ((t − iω_{t}) · s − \frac{s^{2}}{2} − \frac{t^{2}}{2} − \frac{x^{2}}{2} + (x − iω_{x}) · y − \frac{y^{2}}{2} + i (tω_{t} + x · ω_{x})) .

On va intégrer par parties avec l’opérateur :

\frac{(λ (\overline{z} − x) + μ (y − x − iω_{x})) · ∇_{x} + (−μt + iλ − iμω_{t}) ∂_{t}}{|(z − x) + μ (iω_{x} − x + y)|^{2} + |−iλ − μt + iμω_{t}|^{2}} ,

en remarquant que, si z est assez proche de z_{0} = x_{0} − iξ_{0}, on a pour tout

(x, y, t, s, ω) ∈ supp (ψ′) × supp (ψ) × supp (φ_{i}) × supp (φ_{t_{i}}) × S^{2} \ W′_{ω},
|(z − x) + μ (iω_{x} − x + y)|^{2} + |−iλ − μt + iμω_{t}|^{2} ≥ C (λ^{2} + μ^{2}) .

En effet, l’annulation de ce terme implique les égalités :

−λξ_{0} + μω_{x} = 0, −λ + μω_{t} = 0.

Comme on a λ, μ ≥ 0, |ξ_{0}| = 1, on a nécessairement μ^{2} = 2λ^{2}, ω_{t} = \frac{1}{\sqrt{2}} et ω_{x} = η_{0} = \frac{ξ_{0}}{\sqrt{2}}.

En intégrant n fois par parties avec l’opérateur L qui vérifie L (e^{ϕ}) = e^{ϕ}, et utilisant le fait que toutes nos troncatures sont de classe Gevrey 3, on obtient la majoration

|T (ψ ∫ e^{−iλt}I_{i}, 2dt) (z, λ)| ≤ Ce^{\frac{λ}{2} (Rez)^{2}−ε|λ|^{1/3}},

pour tout z dans un voisinage V de z_{0}. Compte tenu de ce que la construction de ϕ et de V est purement géométrique, nous avons donc montré le lemme : Lemme 3.7. — Il existe ψ ∈ G_{0}^{3} ( R^{2}) et un voisinage V de z_{0} tel que, pour tout f ∈ L^{2} (Ω), il existe C, ε > 0 tels qu’on a

|T (ψR (Hf)) (z, λ)| ≤ Ce^{\frac{λ}{2} (Rez)^{2}−ε|λ|^{1/3}}.

Il reste, pour pouvoir conclure, à s’affranchir de la dépendance de C et ε par rapport à f. On utilise pour cele le théorème du graphe fermé. Lemme 3.8. — Soient H_{1,2} deux espaces de Banach, Λ ⊂ C et Q une famille bornée d’opérateurs linéaires de H_{1} dans H_{2} dépendant de λ comme d’un paramètre. On suppose que pour tout f ∈ H_{1} il existe C, ε > 0 tels que

∥Q (f) ∥_{H_{2}} ≤ Ce^{−ε|λ|^{1/3}}

alors il existe C, ε > 0 tels que

∥Q∥_{L(H_{1} ;H_{2})} ≤ Ce^{−ε|λ|^{1/3}}.

On notera, pour ε > 0

A_{ε} = {f ∈ H_{1}; sup_{λ∈Λ} ∥Q (f)∥_{H_{2}} e^{ε|λ|^{1/3}} < +∞} .

Les espaces A_{ε} forment des sous espaces vectoriels de H_{1} et vérifient ∪_{n∈ N}A_{1/n} = H_{1}. D’après le théorème de Baire appliqué aux espaces \overline{A}_{1/n}, il existe n_{0} tel que \overline{A}_{1/n_{0}} = H_{1}, et comme les espaces A_{1/n} sont croissants, ils sont tous denses dans H_{1} à partir du rang n_{0}. Comme ∪_{N≥n_{0}}A_{1/n} = H_{1}, il existe n_{1} ≥ n_{0} tel que A_{1/n_{1}} est de seconde catégorie. L’application

ϕ : f ∈ A_{1/n_{1}} ↦ Q(f)e^{\frac{|λ|^{1/3}}{n_{1}}} ∈ L^{∞}(Λ ; H_{2})

a son graphe fermé puisque l’application

f ∈ H_{1} ↦ Q(f) ∈ L^{∞}(Λ ; H_{2}) (3.17)

est continue. On en déduit que l’application ϕ est continue de A_{1/n_{1}} dans L^{∞}(Λ ; H_{2}) et par densité qu’elle se prolonge de manière unique à tout H_{1} et d’après (3.17), ce prolongement est nécessairement donné par

f ∈ H_{1} ↦ Q(f)e^{\frac{|λ|^{1/3}}{n_{1}}} ∈ L^{∞}(Λ ; H_{2}),

ce qui démontre le lemme 3.8.

Pour démontrer l’estimation 3.14, il suffit d’utiliser les lemmes 3.7 et 3.8 avec H_{1} = L^{2} (Ω), H_{2} = L^{∞} (V) et Q (f) = T (ψR (Hf)) e^{− \frac{λ}{2} (Rez)^{2}}.

N.Burq 34

IV. Construction des opérateurs

Dans ce chapitre nous construisons les opérateurs de rebond microlocaux qui permettront, via la résolution d’un problème de Grushin, de microlocaliser l’étude des pôles de diffusion au voisinage de la trajectoire captive.

Dans la suite de cet article, on notera si H est un espace de Banach, A (H), l’espace des fonctions f (λ), holomorphes en λ ∈ {z ∈ C ; Imz < 0} à valeurs dans H telles qu’il existe des constantes A, B, C, D, N > 0 telles que la fonction f se prolonge en une fonction holomorphe dans l’ouvert U_{A,B} et vérifie, pour tout λ ∈ U_{A,B},

∥f (λ)∥_{H} ≤ C|λ|^{N}e^{DImλ^{+}}.

On notera aussi N (H) le sous espace formé des fonctions f ∈ A (H) telles qu’il existe des constantes A, B, C, ε > 0 telles que la fonction f vérifie, pour tout λ ∈ U_{A,B},

∥f (λ)∥_{H} ≤ Ce^{−ε|λ|^{1/3}}.

4.1 Opérateurs sur les symboles

On commence par définir les opérateurs de rebond microlocaux en les faisant agir sur des distributions conormales analytiques par rapport au cône issu du coin, ce qui revient à définir des opérateurs sur les symboles correspondants. Définition 4.1. — Soient α, D > 0. On notera

L_{α,D} = {λ ∈ C; Imλ < α|Reλ|, |λ| ≥ D} ∪ {Imλ < 0}.

Définition 4.2. — Soient ω, un voisinage ouvert complexe de A dans ∂Θ_{1}. On notera H_{α,D}(ω), l’espace des symboles analytiques σ(x, τ, λ), définis pour x ∈ ω, λ ∈ L_{α,D}, holomorphes en λ et vérifiant :

sup_{x∈ω} sup_{{s≥0 \atop λ>1}} ∫_{−∞}^{+∞} (1 + |λ|^{2}) |σ (x, λ − is)|^{2} dλ < +∞, (4.1)

sup_{x∈ω} sup_{λ∈L_{α,D}} |σ(x, λ)| < +∞. (4.2)

On notera ∥σ∥_{H_{α,D}(ω)} la norme définie par (4.1) et (4.2).

On choisit ω un voisinage complexe de A dans ∂Ω qu’on pourra diminuer un nombre fini de fois, ε > 0 et D > 0. Pour σ ∈ H_{α,D} (ω), on pose

u_{0} (y, t) = ∫ e^{iλ(t−|y|)}σ (y, λ) dλ.

D’après un théorème de Paley-Wigner, u_{0} ∈ H^{1} (∂Ω × R_{t}) et son support est inclus dans l’ensemble {t ≥ 0}. On notera u (t, x), la solution du problème d’évolution :

\begin{cases}□u & = 0 dans Θ_{1}^{c} × R_{t}, \\ u |_{∂Θ_{1}} & = u_{0}, \\ u |_{t<0} & = 0. \end{cases}

Soit φ la solution réelle analytique de l’équation eïkonale définie sur un voisinage V de A dans C_{x}^{2} :

|∇φ| = 1 dans Θ_{1}^{c},
\frac{∂φ}{∂n} = −\frac{∂|x|}{∂n} sur ∂Θ_{1},

(4.3)

où \frac{∂}{∂n} désigne la normale extérieure à l’ouvert Θ_{1}. Comme Θ_{1} est strictement convexe, φ se prolonge à l’ensemble des demi-rayons issus de V, ω, et y vérifie (4.3) (on n’a en effet pas de problème de caustique sur ω). Un calcul classique d’optique géométrique

Θ^{1} V  O  ω

Fig. 4.1 – Domaine de définition de la phase φ

analytique montre alors qu’il existe un symbole analytique σ̃ (x, λ) défini au voisinage de A, se prolongeant en une fonction holomorphe dans Imλ < 0, tel que modulo une fonction analytique, on a au voisinage de A:

u (x, t) = ∫ e^{iλ(t−φ(x))}σ̃ (x, λ) dλ

et

sup_{s≥0} ∫ (1 + |λ|^{2}) |σ̃ (x, λ − is)|^{2} dλ < +∞.

De plus, σ̃ vérifie l’équation :

\begin{cases}iλΔφσ̃ + 2iλ∇φ · ∇σ̃ = Δσ̃, \\ σ̃ |_{∂Θ_{1}}= σ. \end{cases}

4. Construction des opérateurs

On peut donc prendre σ̃ ∼ ∑_{0}^{+∞} σ_{i} (x, λ) λ^{−i} où les σ_{i} vérifient les équations de transport :

\begin{cases}(Δφ + 2∇φ · ∇) σ_{i} = Δσ_{i−1}, \\ σ_{i} |_{∂Θ_{1}}= δ_{i,0}σ. \end{cases}

avec la convention σ_{−1} ≡ 0. Comme ces équations de transport sont des équations différentielles ordinaires le long des rayons, on peut en fait supposer que σ̃ est défini sur ω. On notera T_{1} l’opérateur défini par

σ̃ = T_{1} (σ)

Un calcul simple montre que, pour tout x ∈ ω et tout t > 0,

σ_{0} (x + t∇φ (x)) = e^{− \frac{1}{2} ∫_{0}^{t} Δφ(x+s∇φ(x))ds}σ_{0} (x, λ) ,

où Δφ (x) qui est le Laplacien de la fonction φ au point x est aussi (voir [2], preuve du lemme 4.8), la valeur de la courbure de Gauss de la surface de niveau de φ passant par le point x. D’après [2], relations (3.17) et suivantes, on a, pour tout point x ∈ ∂Θ_{1} :

Δφ (x) = Δ (|x|) (x) + 2κ,

où κ désigne la courbure de l’obstacle au point x. Enfin, toujours d’après [2], relation (3.20), on a :

Δφ (x + t∇φ) = \frac{Δφ (x)}{1 + tΔφ (x)}.

On obtient donc :

\begin{aligned}σ_{0} (O, λ) & = σ (x, λ) exp(−\frac{1}{2} ∫_{0}^{d} \frac{(\frac{1}{d} + 2κ)}{1 + s (\frac{1}{d} + 2κ)}ds) \\ & = σ (A, λ) exp(−\frac{1}{2} ∫_{0}^{d} \frac{(\frac{1}{d} + 2κ)}{1 + s (\frac{1}{d} + 2κ)}ds) \\ & = \frac{σ (A, λ)}{\sqrt{2 + 2κd}}, \end{aligned} (4.4)

où κ est le rayon de courbure de l’obstacle Θ_{1} au point A.

On note

U (t, x) = ∫ e^{iλ(t−φ(x))}σ̃ (x, λ) dλ.

Il est clair que φ (O) = 2d et que U est supportée dans l’ensemble d’équation t ≥ φ (x). Soit O_{ε} le point sur le segment [A, O] situé à distance ε de O. D’après le théorème 1.1 de [8], il existe un voisinage W de O_{ε} et η > ε tels que la solution de

\begin{cases}(∂_{t}^{2} − Δ) v = 0 dans Θ_{2}^{c} × R_{t}, \\ v |_{t<2d}= U (t, x) , v |_{∂Θ_{2}^{c}}= 0 \end{cases}

s’écrit sur W ∩ Ω × [2d, 2d + η], modulo une fonction analytique :

v (t, x) = U (t, x) + ∫_{−∞}^{+∞} e^{iλ(t−|x|−2d)}σ̂ (x, λ) dλ,

où σ̂ (x, λ) est un symbole analytique se prolongeant en une fonction holomorphe dans Imλ < 0. De plus, on a

σ̂ (x, λ) = σ̂_{0} (x, λ) + r (x, λ) ,

avec

sup_{s≥0} ∫ (1 + |λ|^{2})^{5/2} |r (x, λ) |^{2}dλ < +∞

et σ̂_{0} est le terme que donnerait le coin droit :

σ̂_{0} (x, λ) = \frac{1}{λ^{1/2}\sqrt{|x|}}σ̃ (O, λ) K (θ) ,

où θ est l’angle que fait la direction donnée par le vecteur x avec la face supérieure du coin.

O_{ε} W  O  Θ_{2}

Fig. 4.2 – Domaine de définition du symbole diffracté

Soient C_{ε} = {|x| = ε} et γ = C_{ε} ∩ W. On peut résoudre au voisinage de O_{ε} les équations de transport:

\begin{aligned}(\frac{i}{|x|} + 2\frac{x}{|x|} · ∇_{x})σ_{i+1} & = Δσ_{i}, \\ σ_{i+1} |_{γ} & = δ_{i+1,0}σ̂ |_{γ} \end{aligned}

et comme ces équations sont des équations différentielles ordinaire le long des rayons issus de γ, on peut en fait les résoudre sur la réunion de ces demi-rayons, Γ. Soit σ̂′ un

Γ  γ

Fig. 4.3 – Prolongement du domaine de définition du symbole diffracté symbole analytique défini sur ω′, se prolongeant en une fonction holomorphe dans Imλ < 0 et tel que

σ̂′ ∼ ∑_{0}^{+∞} σ_{i}λ^{−i}.

On suppose maintenant, ce qui est toujours possible, quitte à le diminuer que ω ⊂ Γ ; et on note T l’application qui à σ associe −σ̂′.

On considère, sur ω le système de coordonnées donné par l’angle entre le vecteur x dans R^{2} et la trajectoire captive, de telle façon que le point A correspond à l’angle θ = 0. On a ainsi une coordonnée holomorphe sur ω, si on a pris ω assez petit. Les calculs explicites de P. Gérard et G. Lebeau [8] montrent qu’on a la proposition: Proposition 4.3. — Si l’ouvert ω est assez petit, alors l’opérateur e^{2iλd}\sqrt{λ}T envoie, pour α assez petit, D assez grand et α′ < α, D′ > D, H_{α,D}(ω) dans H_{α′,D′}(ω) et vérifie, si C > 0 est assez grand,

T (σ (θ, λ)) = \frac{e^{−2iλd}}{\sqrt{λ}} ( ∑_{n≤|λ|/C} λ^{−n} ∑_{p≤2n} K_{n,p} (θ)\frac{1}{p!} (\frac{∂^{p}σ (θ, λ)}{∂θ^{p}} |_{θ=0}) + R (σ)), (4.5)

où l’opérateur R vérifie

|R|_{L(H_{α,D}(ω),H_{α′,D′}(ω))} ≤ Ce^{−|λ|/C},

si C est assez grand et où les fonctions K_{n,p} (θ) sont holomorphes par rapport à θ et vérifient

sup_{θ∈ω} |K_{n,p} (θ)| ≤ C^{n+1}n!

Remarque 4.4. — Le terme principal de (4.5) est du point de vue des opérateurs analytiques excellent, si on ne tient pas compte de l’holomorphie, il envoie l’espace H_{α,D} dans lui même (et mieux encore puisqu’il envoie les germes en θ = 0 de fonctions analytiques sur les symboles analytiques). Neanmoins, le reste R bien que petit en norme n’envoie pas l’espace H_{α,D} dans lui même et ne vérifie même pas, à priori, les estimations nécessaires pour le faire agir dans une chaîne d’espaces au sens d’Ovsjannikov [21]. Enfin, le fait que l’opérateur n’est pas différentiel en λ n’est pas évident à la lecture de [8] et résulte d’un phénomène de compensation qui fait que deux développements asymptotiques qui, à priori ont peu de liens correspondent aux développements qui seraient donnés par deux transformations de FBI inverses l’une de l’autre et donc se compensent.

Indiquons brièvement comment, à partir des résultats de [8], on obtient ce résultat. Ces deux auteurs montrent que, si on note f_{+} la trace de la dérivée normale de v sur la face supérieure du coin et f_{−} la trace de la dérivée normale de v sur la face inférieure, et si on identifie ces faces à l’ensemble d’équation x ≥ 0, si on note

F_{±} (w, z, λ) = T_{0} ⊗ T_{1} (f_{±}) = ∫_{t=−∞}^{+∞} ∫_{x=0}^{+∞} e^{λ(xz− \frac{x^{2}}{2} − \frac{(w−t)^{2}}{2} )}f_{±} (x, t) dxdt,

alors il existe une matrice 2 × 2 d’ opérateurs pseudodifférentiels analytiques

A = Op( ∑_{0≤n≤λ/C} (iλ)^{−n} a_{n} (τ, λ))

(voir [8], appendice A) opérant sur la variable w à valeurs opérateurs continus dans une chaîne d’espace de Banach que nous ne précisons pas, des fonctions w_{k,m}, ne dépendant que de la géométrie du problème, appartenant à ces espaces tels que

(F_{+}, F_{−}) = ( \begin{matrix}A^{+,+} & A^{−,+} \\ A^{+,−} & A^{−−} \end{matrix} ) ( \begin{matrix}L_{+} \\ L_{−} \end{matrix} ) (w = t − iτ, z, λ) , (4.6)

avec

(4.7) L_{±} (w, z) = ∫_{Σ} e^{iλϕ(τ,τ′,t,w)} (\frac{λ}{2π} )^{3/2}

∑_{k≤λ/C} λ^{−k} ∑_{|α|≤λ/C} ∂_{x′}^{α} \binom{}{σ} (x′ = O, λτ′) w_{k,α} (τ, λτ′, z) dtdτdτ′,

où on a noté ϕ (τ, τ′, t, w) = τ (w − t) + iτ^{2} + τ′ (t − iτ) + i\frac{τ′^{2}}{2} et où le contour Σ est un bon contour pour la phase ϕ.

Comme, d’après la quantification adoptée par ces auteurs, on a

Op (A) (f) (w, λ) = \frac{λ}{2π} ∫_{t=−κ}^{κ} ∫_{τ=−1−κ}^{−1+κ} e^{iλτ(w−t)−λ \frac{τ^{2}}{2}} A (τ, λ) f (t, λ) dtdτ, (4.8)

on obtient donc, si on reporte (4.7) et (4.8) dans (4.6), que F_{±} () est de la forme

∫_{Σ′} e^{iλ[ϕ(ρ,τ′,s,t−iτ)+τ(w−t)+i \frac{τ^{2}}{2} ]}A (τ, λ)

∑_{k≤λ/C} λ^{−k} ∑_{|α|≤λ/C} ∂_{x′}^{α} \binom{}{σ} (x′ = O, λτ′) w_{k,α} (ρ, λτ′, z) dsdρdτ′dτdt,

où Σ′ est un bon contour pour la phase ϕ (ρ, τ′, s, t − iτ) + τ (w − t) + i\frac{τ^{2}}{2} . Le théorème de la phase stationnaire montre qu’alors, on a

F_{±} (w, z) = e^{−λ \frac{w^{2}}{2}} ∑_{n≤λ/C} λ^{−n} (∂_{ρ} + ∂_{τ′} + ∂_{τ})^{2n}

(A (τ, λ) ∑_{k≤λ/C} λ^{−k} ∑_{|α|≤λ/C} ∂_{x′}^{α} \binom{}{σ} (x′ = O, λτ′) w_{k,α} (ρ, λτ′, z)) |_{τ=τ′=ρ=iw},

soit

(4.9) F_{±} (w, z) = e^{−λ \frac{w^{2}}{2}} ∑_{n≤λ/C} \frac{1}{2^{n}} λ^{−n} (i∂w)^{2n}

(A (iw, λ) ∑_{k≤λ/C} λ^{−k} ∑_{|α|≤λ/C} ∂_{x′}^{α} \binom{}{σ} (x′ = O, iλw′) w_{k,α} (ρ, iλw, z)).

Par ailleurs, un calcul classique de phase stationnaire montre que

F_{±} (w, z, λ) = e^{−λ \frac{w^{2}}{2}} ∑_{{n≤λ/C \atop m≤λ/C}} (λ)^{−n−m} \frac{∂_{τ}^{2n}}{n!} \frac{∂_{ξ}^{2m}}{m!} f̂(λτ, λξ) |_{{τ=iw \atop ξ=iz}} ,

où f̂ désigne la transformée de Fourier de la fonction f. Si on inverse cette relation, on s’aperçoit que les dérivations en w ainsi obtenues compensent exactement celles données par la relation (4.9) ! (ce sont les dérivations que donneraient deux transformations de FBI inverses l’une de l’autre). C’est ce phénomène qui explique que l’opérateur T n’est pas différentiel en λ. Enfin, un calcul classique permet de donner le symbole diffracté, σ̂ en fonction de f̂ et les calculs que nous venons d’esquisser donnent le résultat de la proposition 4.3.

Comme par ailleurs, P. Gérard et G. Lebeau montrent que le premier terme du développement asymptotique de l’opérateur qui à σ̃ associe σ̂ (celui qui donne le terme (n = 0, p = 0) est celui que donnerait le coin droit, pour identifier la fonction K_{0,0}, il suffit d’utiliser les résultats de Garnir [6], qui calcule explicitement ce terme (pour un coin droit) et de les réinterpréter. On obtient que la fonction de Green incidente, solution sortante dans l’espace libre de l’équation

(Δ_{x} + λ^{2}) G (x, y, λ) = δ_{x=y},

vaut

G (x, y, λ) = e^{−iλ|x−y|}\sqrt{\frac{2π}{λd}}e^{− \frac{iπ}{4}} + O (λ^{−∋/∈}) .

L’onde diffractée calculée par Garnir vaut, d’après [6], page 219, si θ est la direction entre x et la face supérieure du coin:

G_{d} = e^{−iλ(|y|+|x|)} \frac{2π}{λ\sqrt{|x||y|}}e^{−i \frac{π}{2}} \frac{Ψ (θ, θ_{0})}{2α},

avec

Ψ (θ, θ) = −\frac{sin( \frac{π^{2}}{α} )}{1−cos( \frac{π^{2}}{α} )} − \frac{sin( \frac{π^{2}}{α} )}{1−cos( \frac{π^{2}}{α} )} + \frac{sin( \frac{2π}{α} θ+ \frac{π^{2}}{α} )}{1−cos( \frac{2π}{α} θ+ \frac{π^{2}}{α} )} − \frac{sin( \frac{2π}{α} θ− \frac{π^{2}}{α} )}{1−cos( \frac{2π}{α} θ− \frac{π^{2}}{α} )}
= \frac{2 cos( \frac{π^{2}}{2α} ) sin^{2}(\frac{π}{α} θ)}{sin( \frac{π^{2}}{2α} ) sin( \frac{π}{α} θ+ \frac{π^{2}}{2α} ) sin( \frac{π}{α} θ− \frac{π^{2}}{2α} )}

(4.10)

(on rappelle que le nombre α est l’angle d’ouverture extérieur du coin). Remarque 4.5. — L’expression (4.10) définissant le coefficient de diffraction est singulière pour θ = \frac{π}{2} et θ = α − \frac{π}{2} ce qui n’est pas surprenant puisque ces angles correspondent aux directions pour lesquelles l’onde réfléchie sur les demi-faces intervient. et donc pour lesquelles le calcul de P. Gérard et G. Lebeau n’est pas valable (ce sont les points où les surfaces par rapport auxquelles l’onde diffractée est conormale analytique se rencontrent).

En identifiant les termes, et d’après (4.4), on obtient

K_{0,0} (θ) = −\frac{1}{\sqrt{d(1 + dκ)}}\sqrt{π} \frac{Ψ (θ, θ_{0})}{2α}e^{−i \frac{π}{4}} ,

où l’angle Θ_{0} est celui entre la direction incidente donnée par y et la face supérieure du coin.

4.2 Opérateurs de rebond

On note H_{1}(λ) la résolvante sortante du problème

\begin{cases}(Δ + λ^{2})H_{1}u & = 0, \\ H_{1}u |_{∂Θ_{1}} & = u, \end{cases}

qu’on étend de H^{1/2}(∂Θ_{i}) dans H_{loc}^{1}(\overline{Θ}_{i}^{c}). Il est classique (voir [1]) que cette résolvante, analytique pour Imλ < 0 admet un prolongement analytique dans un ouvert de la forme (3.1), comme opérateur borné de H^{1/2} (∂Θ_{1}) dans H_{0,loc}^{1} (\overline{Θ_{1}^{c}}) et y vérifie l’estimation suivante:

\begin{matrix}∀R > 0, ∃C > 0, ∃D > 0, ∀λ ∈ U_{A,B}, \\ ∥H_{1}∥_{L(H^{1/2}(∂Θ_{1}),H^{1}(Θ_{1}^{c}∩B(0,R)))} ≤ Ce^{DIm^{+}λ}. \end{matrix}

On note H_{2}(λ) la résolvante sortante du problème

\begin{cases}(Δ + λ^{2})H_{2}u & = 0, \\ H_{2}u |_{∂Θ_{2}} & = u, \end{cases}

qu’on définit par la construction suivante: on commence par résoudre par des méthodes variationelles (voir la section 6.2) le problème

\begin{cases}(Δ − 1)v & = 0, \\ v |_{∂Θ_{2}} & = u, \end{cases}

puis, on pose, pour κ ∈ C_{0}^{∞} (R^{2}), égale à 1 au voisinage de Θ_{2},

H_{2,κ}u = κv − R_{2} ([Δ, κ] v + κ (1 + λ^{2}) v) .

On vérifie que la définition de H_{2,κ} est indépendante du choix de κ. En effet, soient κ^{1;2} deux fonctions du type précédent, l’opérateur H_{2,κ^{1}} − H_{2,κ^{2}} vérifie

(Δ + λ^{2}) (H_{2,κ^{1}} − H_{2,κ^{2}}) (f) = 0

et, pour Imλ < 0, H_{2,κ^{1}} − H_{2,κ^{2}} ∈ H_{0}^{1} (Θ_{2}^{c}). La formule de Green montre qu’alors, dans Imλ < 0, l’opérateur H_{2,κ^{1}}−H_{2,κ^{2}} est identiquement nul. Un argument de prolongement analytique montre qu’alors, l’opérateur χ (H_{2,κ^{1}} − H_{κ^{2}}) est également nul sur l’ouvert U_{A,B} où il est défini (et analytique). On note H_{2} = H_{2,κ}. On note H(λ) = H_{2}∘γ_{2}∘H_{1} (γ_{i} est l’opérateur de réstriction sur ∂Θ_{i}), la résolvante sortante du problème suivant:

\begin{cases}(Δ + λ^{2})Hu & = 0,  dans Θ_{2}^{c}, \\ Hu |_{∂Θ_{2}} & = H_{1}u |_{∂Θ_{2}}, \end{cases}

qu’on peut aussi définir de la manière suivante : soit κ ∈ C_{0}^{∞}(R^{2}) telle que κ ≡ 1 au voisinage de Θ_{2} et κ ≡ 0 au voisinage de Θ_{1}, on pose alors

H_{κ}(λ)u = R_{Ω_{2}}(λ)([Δ, κ]H^{1}u) + κH^{1}u. (4.11)

On a alors la proposition suivante:

Lemme 4.6. L’opérateur χH_{κ}(λ), défini de H^{1}(∂Θ_{1}) dans H^{1}(Θ_{1}^{c}) pour Imλ < 0 admet un prolongement analytique à un ouvert de la forme (3.1) et y vérifie l’estimation suivante

∃D > 0, ∃C > 0, ∀λ ∈ U_{A,B}, ∥H_{κ}∥_{L(H^{1}(∂Θ_{1}),H^{1}(Θ_{1}^{c}))} ≤ C|λ|^{2}e^{DImλ^{+}}.

On vérifie que la définition de l’opérateur H_{κ} est indépendante du choix de κ, comme précédemment. On note H (λ) l’opérateur ainsi défini.

On notera, par la suite, M (λ) l’opérateur défini de H^{1/2} (∂Θ_{1}) dans lui même donné

M (λ) (f) = H (λ) (f) |_{∂Θ_{1}} .

Lemme 4.7. L’opérateur M(λ), défini de H^{1}(∂Θ_{1}) dans lui même pour Imλ < 0 admet un prolongement analytique à un ouvert de la forme (3.1) et y vérifie l’estimation suivante

∃D > 0, ∃C > 0, ∀λ ∈ U_{A,B}, ∥M (λ) ∥_{L(H^{1/2}(∂Θ_{1})))} ≤ C|λ|^{2}e^{DImλ^{+}}.

Par ailleurs, comme au voisinage de Θ_{1}, Mu vérifie (Δ + λ^{2}) Mu = 0, on obtient

∃D > 0, ∀s ∈ R, ∃C_{s} > 0, ∀λ ∈ U_{A,B}, ∥M (λ) ∥_{L(H^{s}(∂Θ_{1})))} ≤ C_{s}e^{DImλ^{+}} |λ|^{s+2} .

4.3 Décomposition des opérateurs

Nous allons, dans cette partie décomposer l’opérateur M en somme de deux termes, M_{a} + M_{b}, correspondant dans la relation (4.11) à une décomposition de la troncature κ en somme de deux termes, puis, pour étudier et expliciter l’opérateur M_{a}, nous étudierons la fonction de Green de l’opérateur des ondes avec conditions de Dirichlet dans l’ouvert Θ_{2}^{c}. (Nous montrerons plus tard que l’opérateur M_{b} donne une contribution négligeable pour le problème qui nous intéresse). On choisit des fonctions χ_{a}, χ_{b} ∈ G_{0}^{3} ((Θ_{1} ∪ Θ_{2})^{c}) telles que χ_{a} + χ_{b} = 1 au voisinage du support de ∇κ et χ_{b} est égale à 0 au voisinage de l’intersection de ce support avec la trajectoire captive [A, O]. On pourra éventuellement, par la suite, réduire le support de κ autour de Θ_{2} et celui de χ_{a} autour de l’intersection du support de ∇κ avec le segment [O, A]

On notera H_{a} et H_{b} les opérateurs définis par les relations :

\begin{aligned}H_{a} & = R_{Ω_{2}} (χ_{a} [Δ, κ] H_{1} (f)) , \\ H_{b} & = R_{Ω_{2}} (χ_{b} [Δ, κ] H_{1} (f)) + κH_{1} (f) . \end{aligned}

supp(χ_{a}) supp(χ_{b}) supp(∇κ) Θ_{1}  Θ_{2}

Fig. 4.4 – Troncatures

Enfin, on notera M_{a} = H_{a} |_{∂Θ_{1}} et M_{b} = H_{b} |_{∂Θ_{1}}. L’opérateur M_{a} correspond à la partie de l’opérateur M qui va voir le coin, tandis que l’opérateur M_{b} correspond au reste qui fournira une contribution négligeable.

Nous étudions maintenant la fonction de Green de l’équation des ondes. Pour cela, nous allons utiliser les résultats de P. Gérard et G. Lebeau [8]. On notera, pour y ∈ supp (χ_{a}), G(y, x) la distribution solution de :

(∂_{t}^{2} − Δ_{x}) G (y, x, t) = δ_{{t=0 \atop y=x}} dans Θ_{2}^{c} × R_{t},
G |_{∂Θ_{2}} = 0,
G |_{t<0} ≡ 0,

obtenue de la manière suivante : on note e^{+} (x, t) la solution fondamentale du Laplacien à support dans t ≥ 0 et g (x, y, t) = e^{+} (x − y, t). Pour |t| assez petit, la distribution g est à support en x compact dans Θ_{2}^{c}. Soit ϱ (t) = tHe^{−t} où H désigne la fonction de Heaviside, H (t) = 1_{t>0} ; de telle sorte que ϱ̂(τ) = \frac{−1}{(τ−i)^{2}} (on a choisi la distribution ϱ

de telle sorte que (∂_{t} + 1)^{2} (ϱ) = δ_{t=0}). Soit f (x, y, t) = ϱ ∗ g (x, y, t). La distribution f est alors solution de l’équation

\begin{cases}(∂_{t}^{2} − Δ_{x}) f (y, x, t) & = δ_{y=x} ⊗ ϱ (t) dans Θ_{2}^{c} × R_{t}, \\ G |_{t<0} & ≡ 0. \end{cases}

et il est facile de voir que pour y ∈ supp (χ_{a}), f ∈ H^{1} (R_{x}^{2} × R_{t}), uniformément par rapport à y. Par ailleurs, puisque le support de la fonction ϱ est inclus dans {t ≥ 0}, la vitesse finie de propagation pour les solutions de l’équation des ondes montre que pour t > 0 assez petit et tout y ∈ supp (χ_{a}), la fonction f est à support compact en x. Enfin, la fonction f est, pour tout y ∈ supp (χ_{a}) et t > 0 assez petit, conormale analytique par rapport à la surface d’équation t = |x − y|. On note F la solution de classe H_{0}^{1} de l’équation

\begin{cases}(∂_{t}^{2} − Δ_{x}) F (y, x, t) & = 0 dans Θ_{2}^{c} × R_{t}, \\ F |_{∂Θ_{2}} & = 0, \end{cases}

associée à la donnée incidente, f. La distribution G est définie par la relation

G = (∂_{x} + 1)^{2} (F) .

Cette méthode de définition par régularisation puis dérivation est rendu nécessaire par la présence du coin qui peut faire apparaître des termes parasites au coin, si on essaye de définir des solutions peu régulières de l’équation des ondes avec conditions de Dirichlet (moins régulières que H^{1}, ce qui est le cas ici). En fait, cette procédure permet de définir des solutions à faible régularité en temps, à valeurs H_{0}^{1} en espace, ce qui permet d’éviter l’apparition de ces singularités parasites au coin.

D’après les résultats de P. Gérard et G. Lebeau [8], la fonction F est, pour |y| < t < |y|+ε (ε > 0), et dans un voisinage de O, somme d’une distribution calculée par réflexion de F sur les faces du coin et d’une distribution conormale analytique par rapport à la surface t = |y| + |x|. Revenant à la distribution G, on obtient un résultat similaire pour la distribution G et, utilisant que la convolution par ϱ se traduit en transformation de Fourier par la division par \frac{1}{(τ+i)^{2}} , comme le symbole associé à la solution fondamentale de l’équation des ondes est de la forme

σ = \frac{σ_{0} (x, y)}{\sqrt{τ − i}} + O (τ^{−3/2}) ,

le symbole incident associé à la fonction f est de la forme

σ′ = \frac{σ_{0} (x, y)}{(τ − i)^{5/2}} + O (τ^{−7/2})

(ce qui permet de montrer que f est de classe H^{1}), on a obtient finalement une description explicite du symbole associé à la partie diffractée de G, qui est de la forme :

σ_{d} (x, y, τ) = e^{−iτ|y|} \frac{σ′_{0} (x, y, τ)}{(τ − i)^{2}},

où le symbole σ′_{0} est un symbole analytique se prolongeant en une fonction holomorphe dans Imτ < 0 et vérifiant, pour tout N ∈ N,

σ′_{0} (x, y, τ) = ∑_{j=1}^{N} \frac{σ_{j} (x, y)}{(τ − i)^{j}} + σ^{N} (x, y, τ) ,

avec σ_{j} des fonctions holomorphes vérifiant des estimations de type analytique et pour tout ε > 0,

sup_{s≥0} ∫_{−∞}^{+∞} (1 + τ^{2})^{N+1/2−ε} |σ^{N} (x, y, τ − is)|^{2} < +∞.

Soit W un voisinage dans R_{x}^{2} du point A. On suppose, ce qui est toujours possible quitte à réduire W et le support de χ_{a}, que W vérifie les hypothèses suivantes :

– Pour tout y ∈ supp (χ_{a}), on a dist (y, W) > |y|.

– Pour tout y ∈ supp (χ_{a}), aucun des demi-rayons issus de y, se réflechissant sur une des arêtes du coin ne rencontre W Comme, pour y ∈ supp (χ_{a}), la surface t − |x| = |y| ne présente pas de caustiques, en dehors du point t = |y| , |x| = 0, la partie conormale analytique par rapport à cette surface pour 0 < t−|y| assez petit de G, le reste pour tout t >| y |, et d’après la deuxième hypothèse, et le théorème de propagation des singularités Gevrey 3, la contribution de la partie calculée par réflection de g sur les demi-arêtes donne pour t > |y| une contribution de classe Gevrey 3, puisqu’aucun rayon C^{∞} issu du support de la fonction χ_{a} et se réfléchissant sur une des demi-arêtes ne rencontre à nouveau dans le futur le voisinage W de A. On obtient donc : Proposition 4.8. — Pour tout y ∈ supp (χ_{a}), la distribution G_{y} est sur W × R^{+} somme d’une distribution conormale analytique par rapport à la surface t = |x| + |y|, supportée par le demi-espace d’équation t ≥ |x| + |y|, notée h (x, y, t) et d’une fonction de classe Gevrey 3.

Nous reprenons maintenant les notations du paragraphe 3. On a sur W, d’après les relations (3.12) et (3.9) :

χH_{a} (λ) v (x) = ∫_{0}^{+∞} e^{−iλt}χ (x) ζ (x, t) U (t) χ_{a} (x) w (x, λ) dt + R (λ) v,

avec

w = [Δ, κ] H_{1} (λ) v,

donc

∥χ_{a}w∥_{L^{2}(R^{2})} ≤ Ce^{CImλ^{+}}∥v∥_{H^{1/2}(∂Θ_{1})}

et

R ∈ N (L (H^{1/2} (∂Θ_{1}) ; H^{1} (Θ_{2}^{c} ∩ B(O, R)))) .

Or, par vitesse de propagation finie, si Ψ ∈ G^{3} (R), Ψ ≡ 1 au voisinage de [ε, +∞[, on a, sur W,

U (t) χ_{a}w (x, λ) = ∫_{y∈suppχ_{a}} Ψ (t) G (x, y, t) χ_{a}w (y, λ) dy. (4.12)

D’après la proposition 4.8, il existe σ^{2} un symbole analytique défini pour x ∈ W, y ∈ supp (χ_{a}), se prolongeant en une fonction holomorphe dans Imλ < 0 et tel que, sur W,

G (x, y, t) − g (x, y, t) − ∫_{λ=−∞}^{+∞} e^{iλ(t−(|x|+|y|))}σ^{2} (y, x, λ) = g_{3}(x, y, t) ∈ G^{3} (R_{t}^{+} × W ) .

De cette décomposition de G en somme de trois termes et de (4.12), on déduit une décomposition de H_{a} en somme de trois termes : H_{a} = H_{a}^{1} + H_{a}^{2} + H_{a}^{3}, avec

χH_{a}^{1} (λ) v = ∫_{0}^{+∞} e^{−iλt}Ψ (t) χ (x) ζ (x, t) U_{0} (t) χ_{a}w.

L’opérateur χH_{a}^{1} est donc égal à χÊχ_{a} [Δ, κ] H_{1} (λ), où l’opérateur χÊ est celui associé à Θ = ∅. D’après les résultats de la section 3, ce dernier opérateur est, modulo un opérateur négligeable, égal à l’opérateur χR_{0} (λ) (R_{0} est la résolvante sortante dans l’espace libre). On a donc

χH_{a}^{1} = χR_{0}χ_{a} [Δ, κ] H_{1} (λ) + R,

avec R ∈ N (L (H^{1/2} (∂Θ_{1}) ; H_{loc}^{1} (Θ_{2}^{c}))).

On note SS_{b}^{3} et ŜS_{b}^{3} les ensembles de fréquence définis à l’annexe B. Nous allons montrer:

SS_{b}^{3} (χR_{0} (λ) v) ∩ \overline{W} = ∅, (4.13)

ŜS_{b}^{3} (χR_{0} (λ) v) ∩ \overline{W} . (4.14)

Comme la fonction κ (et donc aussi la fonction v) est nulle au voisinage de W, la relation (4.14) est juste conséquence de la proposition B.3. Pour démontrer la relation (4.13), nous allons utiliser les résultats de propagation des singularités dans R^{2}. Soit ρ_{0} ∈ SS_{b}^{3} (R_{0}v) ∩ \overline{W}. D’après la proposition B.12, on a |ξ_{0}| = 1 et d’après la proposition B.13, tant que la bicaractéristique (ici la demi-droite) issue du point (x_{0}, ξ_{0}) vers le passé ne rencontre pas le front d’onde SS_{b}^{3} (v), le rayon est inclus dans SS_{b}^{3} (R_{0} (v)). D’après la proposition 3.5, cette demi-droite rencontre donc nécessairement SS_{b}^{3} (v), donc SS_{b}^{3} (H^{1} (λ) f), en un point x ∈ supp (χ_{a}). Or, les mêmes arguments de propagation, appliqués dans l’ouvert Θ_{1}^{c} montrent que SS_{b}^{3} (H^{1} (f)) est inclus dans la réunion des demi-rayons issus vers le futur du support de f (et donc de Θ_{1}); ce qui est absurde puisqu’aucun rayon (de Θ_{1}^{c}) ne peut quitter Θ_{1}, atteindre la suppport de χ_{a} puis revenir (comme rayon de R^{2}) sur W, puisque Θ_{1} est convexe.

On déduit maintenant de la proposition B.14, de (4.13), (4.14) et de la remarque B.15 qu’il existe ψ ∈ C_{0}^{∞} (R^{2}), égale à 1 au voisinage de W telle que pour tout f ∈ H^{1/2} (∂Ω), il existe C, ε > 0 tels que, pour tout λ ∈ R,

∥ΨR_{0} (λ) (χ_{a} [Δ, κ] H^{1} (f))∥_{H^{1}(Ω)} ≤ Ce^{−ε|λ|^{1/3}}.

Le lemme 3.8 permet de supprimer la dépendance de C et ε par rapport à f ∈ H^{1/2} (∂Ω) et l’application du principe du maximum de l’annexe C montre que

χH_{a}^{1} (λ) ∈ N (L (H^{1/2} (∂Θ_{1}) ; H^{1} (R^{2} ∩ W ))) .

On étudie maintenant la contribution de H_{a}^{3}. On a

χH_{a}^{3} (λ) v = ∫_{0}^{+∞} Ψ (t) χ (x) ζ (x, t) e^{−iλt}g_{3} (x, t) χ_{a}w (y) dt.

On intègre par parties par rapport à t, ce qui donne

χH_{a}^{3} (λ) v = ∫_{0}^{+∞} e^{−iλt} \frac{1}{(iλ)^{n}} (\frac{∂}{∂t})^{n} (Ψζg_{3}) χ_{a}w (y) dt.

Comme la fonction ψζg_{3} est de classe Gevrey 3, à support compact en temps, on en déduit qu’il existe A, B > 0 tels que pour tout λ ∈ R et tout n ∈ N, on a

∥χH_{a}^{3} (λ) v∥_{H^{1}} ≤ B \frac{1}{|λ|^{n}} A^{n+1} (3n)!

ce qui donne, en choisissant n = |λ|^{1/3} /C avec C assez grand, pour tout λ ∈ R

∥χH_{a}^{3} (λ) v∥_{H^{1}} ≤ C′e^{−ε|λ|^{1/3}}.

Le principe du maximum de l’annexe C montre que χH_{a}^{3} (v) ∈ N (H^{1} (W)), pour tout v ∈ H^{1/2} (∂Θ_{1}) et en utilisant le lemme 3.8, on en déduit que l’opérateur χH_{a}^{3} ∈ N (L (H^{1/2} (∂Θ_{1}) ; H^{1} (W))).

Finalement, la seule contribution significative à l’opérateur H_{a} est celle donnée par H_{a}^{2} et est égale à

χH_{a}^{2} (λ) v = \begin{matrix}∫_{0}^{+∞} e^{−iλt} ∫_{μ=−∞}^{+∞} ∫_{y} e^{iμ(t−|x|−|y|)}Ψ (t) χ (x) ζ (x, t) \\ σ^{2} (x, y, μ) [Δ, κ] (H_{1} (λ) v) dμds \end{matrix}

= \begin{matrix}e^{−iλ(|x|)} ∫_{s=−∞}^{+∞} ∫_{μ=−∞}^{+∞} ∫_{y} e^{i(μ−λ)s}χ (x) ψ (s + |x| + |y|) ζ (x, s + |x| + |y|) \\ e^{−iλ(|y|)}σ^{2} (x, y, μ) [Δ, κ] (H_{1} (λ) v) dμdsdy. \end{matrix}

On remarque maintenant que

∫ ∫ e^{i(μ−λ)s}σ^{2} (x, y, μ) dμds = σ^{2} (x, y, λ) .

Soit g ∈ G_{0}^{3} (R), égale à 1 au voisinage de 0 et à support inclus dans B (0, 1/2), en intégrant par parties n fois avec l’opérateur

L = \frac{1}{i (λ − μ)}∂_{s},

il est facile de voir que

|∫_{μ=−∞}^{+∞} (1 − g (\frac{μ − λ}{λ})) ∫_{s} e^{i(μ−λ)s} (1 − ψζ) σ^{2}dsdμ| ≤ \frac{AB^{n}}{|λ|^{n}} .

Par ailleurs, comme on peut supposer que s = 0 n’appartient pas au support de la fonction (1 − χ (x) ζ (s + |x| + |y|)) (il suffit pour cela de prendre dans la définition de la fonction ζ, le réel T plus grand que |x| + |y| pour tout x ∈ W et tout y ∈ supp (χ_{a})), on peut intégrer par parties n fois en utilisant l’opérateur L = \frac{1}{is}∂_{μ} dans

∫_{μ=−∞}^{+∞} g (\frac{μ − λ}{λ}) ∫_{s} e^{i(μ−λ)s} (1 − ψζ) σ^{2}dsdμ,

ce qui montre que

|∫∫ e^{i(μ−λ)s} (1 − ψζ) g (\frac{μ − λ}{λ}) σ^{2} (x, y, μ) dμds| ≤ \frac{AB^{n}}{|λ|^{n}} (3n)!

Définition 4.9. — On notera H_{1}^{α,D}(W), l’espace des symboles analytiques σ(x, τ, λ), définis pour x ∈ W, λ ∈ L_{α,D}, holomorphes en λ et vérifiant :

sup_{x∈W} sup_{{s≥0 \atop λ>1}} ∫_{−∞}^{+∞} (1 + |λ|^{2}) |σ (x, λ − is)|^{2} dλ < +∞, (4.15)

sup_{x∈W} sup_{λ∈L_{α,D}} |σ(x, λ)| < +∞. (4.16)

On notera ∥σ∥_{H_{1}^{α,D}(W)} la norme définie par (4.15) et (4.16).

En choisissant n = [|λ|^{1/3} /C], avec C grand dans les majorations précédentes, on obtient la proposition suivante : Proposition 4.10. — Il existe α, D > 0 et W, un voisinage de A dans C^{2}, un opérateur σ ∈ A (L (H^{1/2} (∂Θ_{1}) ; H_{1}^{α,D}(W))), R ∈ N (L (H^{1/2} (∂Θ_{1}) ; H^{1} (W ∩ R^{2})))

tels que, pour tout v ∈ H^{1/2} (∂Θ_{1})

H_{a} (λ) v = e^{−iλ(|x|)}σ (λ) (v) + R (λ) (v) ,

et l’opérateur σ à la forme suivante :

σ (λ) (f) = ∫_{y} e^{−iλ|y|}σ^{2} (x, y, λ) χ_{a} (y) [Δ, κ] (H_{1} (f)) dy. (4.17)

N.Burq 50

V. Résolution d’un problème de Grushin

On va résoudre dans ce chapitre un problème de Grushin. Pour cela, on commence par résoudre un problème approché, puis on estime la différence entre le problème de départ et ce problème approché pour conclure par un argument de perturbation.

5.1 Un problème de Grushin pour un opérateur modèle

On notera T′ l’opérateur obtenu en retranchant le reste R à l’opérateur T défini par la relation (4.5),

T′ (σ (θ, λ)) = \frac{e^{−2iλd}}{\sqrt{λ}} ( ∑_{n≤|λ|/C} λ^{−n} ∑_{p≤2n} K_{n,p} (θ)\frac{1}{p!} (\frac{∂^{p}σ (θ, λ)}{∂θ^{p}} |_{θ=0})) . (5.1)

On rappelle que l’angle θ est une coordonnée holomorphe sur ∂Θ_{1} au voisinage de A (on a identifié le point A avec θ = 0). On pourra éventuellement agrandir un nombre fini de fois la constante C. Le but de cette partie est de résoudre un problème de Grushin pour l’opérateur T′, qu’on considérera comme un opérateur dépendant d’un paramètre λ agissant sur un espace de fonctions holomorphes

5.1.1 Résolution d’un problème de Grushin pour un opérateur approché.

Nous allons résoudre un problème de Grushin pour l’opérateur obtenu en tronquant l’opérateur T′ à l’ordre N, considéré comme un opérateur agissant sur les fonctions holomorphes en θ et dépendant d’un paramètre λ. On note [q] la partie entière du réel q et

T_{N} (σ) (θ, λ) = \frac{e^{−2iλd}}{\sqrt{λ}} ∑_{{0≤α≤2N \atop α/2≤i≤α/2+N+1}} λ^{−i}K_{i,α} (θ) \frac{1}{α!}∂_{θ}^{α}σ (0, λ) .

Pour ω un voisinage complexe de A dans ∂Θ_{1}, on note H (ω), l’espace des fonctions holomorphes bornées sur ω, muni de sa norme naturelle :

∥u∥_{H(ω)} = sup_{θ∈ω} |u (θ) |.

Dans toute la suite, on choisira ω de la forme ω = B_{θ} (0, ϱ) (ϱ > 0) .

On notera G_{N} (λ) l’opérateur défini de H (ω) dans C^{2N+1} par :

G_{N} (u)_{p} = \frac{∂_{θ}^{p}}{p!} u (0)

et P_{N} l’opérateur défini de C^{2N+1} dans H (ω) par P_{N} (D) = ∑_{i=0}^{2N} d_{i}θ^{i} de telle sorte que G_{N} ∘ P_{N} = Id_{C^{2N+1}}. Enfin on notera T̃_{N} l’opérateur défini de C^{2N+1} dans H (ω) par T̃_{N} = T_{N} ∘ P_{N}, soit:

T̃_{N} (D) = \frac{e^{−2iλd}}{\sqrt{λ}} ∑_{{0≤α≤2N \atop α/2≤i≤α/2+N+1}} λ^{−i}K_{i,α} (θ) d_{α}.

Dans toute la suite, on fixe des réels α, D > 0. Un calcul simple montre alors la Proposition 5.1. — Pour tout λ ∈ L_{α,D}, on peut résoudre dans H (ω) × C^{2N+1} le problème de Grushin

\begin{cases}(Id − T_{N}) u − P_{N} (C) & = v, \\ G_{N} (u) & = D. \end{cases} (5.2)

La solution de ce problème est unique, on a

(\begin{matrix}u \\ C \end{matrix}) = E_{N,0} (λ) (\begin{matrix}v \\ D \end{matrix}) ,

avec

E_{N,0} (λ) = (\begin{matrix}E_{N,0}^{0} & E_{N,0}^{+,−} \\ E_{N,0}^{−,+} & E_{N,0}^{±} \end{matrix})

et

\begin{aligned}E_{N,0}^{0} & = Id_{H(ω)} − P_{N} ∘ G_{N}, \\ E_{N,0}^{+,−} & = T̃_{N} + P_{N} − P_{N} ∘ G_{N} ∘ T̃_{N}, \\ E_{N,0}^{−,+} & = −G_{N}, \\ E_{N,0}^{±} & = Id_{C^{2N+1}} − G_{N} T̃_{N} \end{aligned} (5.3)

et il existe C > 0 tel que pour tout λ ∈ L_{α,D}, l’opérateur E_{N,0} vérifie

∥E_{N,0}∥_{L(H(ω)×C^{2N+1})} ≤ Ce^{2dImλ^{+}}.

5. Un problème de Grushin

On va maintenant inverser le problème de Grushin obtenu en remplaçant T_{N} par T′ dans (5.2), par un argument de perturbation. Pour cela, il faut étudier la différence de ces deux opérateurs (considérés comme opérateurs sur H (ω)).

On notera dans toute la suite z = \frac{e^{−2iλd}}{\sqrt{λ}} Lemme 5.2. — Pour tout N ∈ N, il existe C_{N} > 0 tel que pour tout λ ∈ L_{α,D} on a

∥T′ − T_{N}∥_{L(H(ω))} ≤ C_{N} |\frac{|z|}{λ^{N+1}} | . (5.4)

En effet,

(5.5) z^{−1} (T′ − T_{N}) (u) = ∑_{α=0}^{2N} ∑_{α/2+N+1≤i≤ \frac{|λ|}{C}} λ^{−i}K_{i,α} (θ) \frac{∂_{θ}^{α}}{α!} u (0)

+ ∑_{2N<α≤2 \frac{λ}{C}} ∑_{α/2≤i≤ \frac{λ}{C}} λ^{−i}K_{i,α} (θ) \frac{∂_{θ}^{α}}{α!} u (0) .

D’après les formules de Cauchy, pour tout 0 < ϱ′ < ϱ, comme B (0, ϱ′) ⊂ ω, alors pour tout u ∈ H (ω), on a

\frac{∂_{θ}^{α}}{α!} u (0) ≤ ϱ^{′−α} sup_{θ∈ω} |u (θ)| ,

ce qui implique que l’opérateur p_{n} : u ↦ \frac{x^{n}}{n!} ∂_{n}u (0) de H (ω) dans lui même vérifie

∥p_{n}∥_{L(H(ω))} ≤ 1. (5.6)

On obtient donc

∥ (T′ − T_{N}) ∥_{H(ω)} ≤ |z|( ∑_{{0≤α≤2N \atop α/2+N+1≤i≤λ/C}} |λ^{−i}|A^{i+1}i!ϱ^{−α} + ∑_{{2N<α≤2λ/C \atop α/2≤i≤λ/C}} |λ^{−i}|A^{i+1}i!ϱ^{−α})

≤ |\frac{z}{λ^{N+1}} | ( ∑_{{0≤2N \atop α/2≤i≤λ/C}} λ^{−i}A^{i+N+1} (i + N + 2)!ϱ^{−α})

≤ C_{N} |\frac{z}{λ^{N+1}} | .

On notera Λ_{ε,N} = \{λ ∈ C; |\frac{z}{λ^{N+1}} | < ε\}. Proposition 5.3. — Pour tout N ∈ N, il existe C_{N} > 0, ε_{N} > 0 tels que pour tout λ ∈ Λ_{ε_{N} ,N} ∩ {|λ| > C_{N}}, l’opérateur Id − E_{N,0}^{0} (T′ − T_{N}) est inversible sur H (ω) par une série de Neumann et on peut résoudre dans H (ω) × C^{2N+1} le problème de Grushin

\begin{cases}(Id − T′) u − P_{N,0} (c) & = v, \\ G_{N} (u) & = d. \end{cases} (5.7)

N.Burq

La solution de ce problème est unique, on a

(\begin{matrix}u \\ c \end{matrix}) = E_{N,1} (λ) (\begin{matrix}v \\ d \end{matrix}) , (5.8)

avec

E_{N,1} (λ) = (\begin{matrix}E_{N,1}^{0} & E_{N,1}^{+,−} \\ E_{N,1}^{−,+} & E_{N,1}^{±} \end{matrix})

et

\begin{aligned}E_{N,1}^{0} & = (Id − E_{N,0}^{0} (T′ − T_{N}))^{−1} E_{N,0}^{0}, \\ E_{N,1}^{+,−} & = (Id − E_{N,0}^{0} (T′ − T_{N}))^{−1} E_{N,0}^{+,−}, \\ E_{N,1}^{−,+} & = E_{N,0}^{−,+} − E_{N,0}^{−,+} (T_{N} − T′) (Id − E_{N,0}^{0} (T′ − T_{N}))^{−1} E_{N,0}, \\ E_{N,1}^{±} & = E_{N,0}^{±} − E_{N,0}^{−,+} (T_{N} − T′) (Id − E_{N,0}^{0} (T′ − T_{N}))^{−1} E_{N,0}^{+,−} \end{aligned} (5.9)

et il existe C > 0 tel que pour tout λ ∈ Λ_{ε_{N} ,N} ∩ {|λ| > C}, l’opérateur E_{N,1} vérifie

∥E_{N,1}∥_{L(H(ω)×C^{2N+1})} ≤ Ce^{2dImλ^{+}}.

L’inversibilité de l’opérateur Id − E_{N,0}^{0} (T′ − T_{N}) par une série de Neumann résulte des estimations (5.4) et (5.6). On a par ailleurs :

(\begin{matrix}Id − T′ & −P_{N} \\ G_{N} & 0 \end{matrix}) = (\begin{matrix}Id − T_{N} & −P_{N} \\ G_{N} & 0 \end{matrix}) (Id + E_{N,0} (\begin{matrix}T_{N} − T′ & 0 \\ 0 & 0 \end{matrix})) , (5.10)

or

(Id + E_{N,0} (\begin{matrix}T_{N} − T′ & 0 \\ 0 & 0 \end{matrix})) = (\begin{matrix}Id + E_{N,0}^{0} (T_{N} − T′) & 0 \\ E_{N,0}^{−,+} (T_{N} − T′) & Id \end{matrix}) .

Cet opérateur est donc, si ε_{0} > 0 est assez petit inversible pour λ ∈ Λ_{ε,N}, d’inverse :

(\begin{matrix}(Id + E_{N,0}^{0} (T_{N} − T′))^{−1} & 0 \\ −E_{N,0}^{−,+} (T_{N} − T′) (Id + E_{N,0}^{0} (T_{N} − T′))^{−1} & Id \end{matrix}) ,

ce qui montre, d’après (5.10), que l’opérateur

(\begin{matrix}Id − T′ & −P_{N} \\ G_{N} & 0 \end{matrix})

est inversible et que son inverse est donné par (5.9).

5.1.2 Développements asymptotiques

On s’intéresse maintenant à la forme exacte de E_{N,1}^{±}. En effet, c’est ce terme qui donne le défaut d’inversibilité de l’opérateur Id − T′ qui lui même nous donnera plus tard les pôles de diffusion. Nous rappelons pour mémoire le Lemme 5.4. — Si l’opérateur E_{N,1}^{±} est inversible sur C^{2N+1}, alors l’opérateur Id−T′ l’est aussi sur H (ω) et on a

(Id − T′)^{−1} = E_{N,1} − E_{N,1}^{+,−} (E_{N,1}^{±})^{−1} E_{N,1}^{−,+}.

D’après les relations (5.3) et (5.9), si on note R_{N} = T′ − T_{N}, on a

(5.11) E_{N,1}^{±} = Id − G_{N} T̃_{N} − G_{N}R_{N} ∑_{i=0}^{+∞} ((Id − P_{N}G_{N}) R_{N})^{i} (T̃_{N} + P_{N} − P_{N}G_{N} T̃_{N}) .

La décomposition (5.5) fournit une décomposition R_{N} = R_{N}^{1} + R_{N}^{2}. Lemme 5.5. — Il existe des fonctions K_{n,i,α}, (i, n, α) ∈ N^{3}, holomorphes sur l’ouvert ω, des opérateurs r_{n} (λ) ∈ L (H (ω)) définis pour λ ∈ Λ_{ε,N} et des constantes A_{0}, A_{1}, A′_{1}, B, D tels que pour tout n ∈ N^{∗}

(E_{N,0}^{0}R_{N}^{2})^{n} = (\frac{z}{λ^{N+1}} )^{n−1} z[ ∑_{{2N<α≤2λ/C \atop α/2≤i≤λ/C}} λ^{−i}K_{n,i,α} (x) \frac{∂_{x}^{α}}{α!} + r_{n} (λ)] (5.12)

et on a les estimations analytiques suivantes:

\begin{aligned}sup_{x∈ω} |K_{n,i,α}| & ≤ A_{0}A_{1}^{n}B^{i}ϱ^{2α}i!, \\ ∥r_{n} (λ) ∥_{L(H(ω))} & ≤ A′_{0} (A′_{1})^{n−1} De^{−|λ|/D}. \end{aligned} (5.13)

La preuve de ce lemme se fait par récurrence sur n. Au rang n = 1, comme l’opérateur u ↦ \frac{x^{n}}{n!} ∂^{n}u (0) est borné par 1 sur H (ω), on a, en posant

K_{1,i,α} = (Id − P_{N} ∘ G_{N}) K_{i,α},
|K_{1,i,α}| ≤ (2N + 2) C^{i+1}i!,

d’après les inégalités vérifiées par les fonctions K_{i,α}. Il suffit donc de choisir, comme α ≤ 2i,

C ≤ Bϱ et A_{0}A_{1} ≥ (2N + 2) C (5.14)

et comme on peut supposer ϱ < 1, de prendre r_{1} = 0. Supposons maintenant l’hypothèse vérifiée au rang n. On a alors :

(E_{0,N}^{0}R_{N}^{2})^{n+1} = z ∑_{{2N<α≤2λ/C \atop α/2≤i≤λ/C}} (λ^{−i}K_{1,i,α} (x) \frac{∂_{x}}{α!})

[(\frac{z}{λ^{N+1}} )^{n−1} z ∑_{{2N<β≤2λ/C \atop β/2≤j≤λ/C}} λ^{−j}K_{n,j,β} (x) \frac{∂_{x}}{β!} + r_{n} (λ)]

= (\frac{z}{λ^{N+1}} )^{n−1} z^{2} ∑_{{N+1≤i≤λ/C \atop N+1≤j≤λ/C}}λ^{−(i+j)} ∑_{{2N<α≤2i \atop 2N<β≤2j}}K_{1,i,α} \frac{∂_{x}^{α}}{α!} (K_{n,j,β}) (0) \frac{∂_{x}^{β}}{β!}

+E_{N,0}^{0}R_{N}^{2}r_{n} (λ) .

Soient

K_{n+1,k,β} = ∑_{{i+j=k+N+1 \atop 2N<α≤2i}} K_{1,i,α} \frac{∂_{x}^{α}}{α!} K_{n,j,β} (0)

et

r_{n+1} = E_{N,0}^{0}R_{N}^{2} (r_{n}) (λ) + ∑_{{λ/C<k≤2λC−N+1 \atop 2N<β≤2k}} λ^{−k}K_{n+1,k,β} \frac{∂_{x}^{β}}{β!} .

L’opérateur (E_{N,0}^{0}R_{n}^{2})^{n+1} est bien de la forme (5.12), il reste à vérifier que les estimations (5.13) sont vérifiées au rang n + 1. D’après les inégalités de Cauchy,

|K_{n+1,k,β}| ≤ ∑_{{2N<α≤2i \atop i+j=k+N+1}} A_{0}A_{1}B^{i}ϱ^{2α}i! × A_{0}A_{1}^{n}ϱ^{−α}B^{j}ϱ^{2β}j!

≤ ∑_{{i+j=k+N+1 \atop i,j≥N+1}} A_{0}^{2}A_{1}^{n+1}B^{i+j}ϱ^{2β} \frac{1}{1 − ϱ}i!j!

≤ A_{0}^{2}A_{1}^{n+1}B^{k+N+1} \frac{ϱ^{2β}}{1 − ϱ} ∑_{{i+j=k+N+1 \atop i,j≥N+1}} i!j!

≤ A_{0}^{2}A_{1}^{n+1}B^{k+N+1} \frac{ϱ^{2β}}{1 − ϱ}k! × (N + 1)! × (N + 4) .

Il suffit donc de choisir A_{0}^{2}B^{N+1} \frac{(N+1)!(N+4)}{1−ϱ} ≤ A_{0}, ce qui bien est compatible avec les inégalités (5.14), si on prend A_{1} assez grand. Il reste à montrer que le reste est bien petit. La première contribution au reste se majore en norme par

(2N + 2) × ∥R_{N}^{2}∥_{H(ω)}∥r_{n}∥_{H(ω)} ≤ ∥r_{n}∥ × |z| × ∑_{{2N<α≤2λ/C \atop α/2≤i≤λ/C}} λ^{−i}∥K_{1,i,α}∥_{H(ω)}ϱ^{−α}

≤ |z| ∑_{{2N<α≤2λ/C \atop α/2≤i≤λ/C}} |λ^{−i}|A_{0}A_{1}B^{i}ϱ^{2α}i!ϱ^{−α}∥r_{n}∥

≤ \frac{A_{0}A_{1}}{1 − ϱ}K (C) |\frac{z}{λ^{N+1}} | ∥r_{n}∥_{H(ω)},

si la constante C est choisie assez grande. Il suffit donc de choisir \frac{A_{0}A_{1}}{1−ϱ} K (C) ≤ A′_{1}/2 pour obtenir une contribution inférieure à 1/2A′_{0} (A′_{1})^{n+1} e^{−ε|λ/D}. Le deuxième terme donne une contribution inférieure à :

∑_{{λ/C<k≤2λ/C \atop 2N<β≤2k}} |λ|^{−k}A_{0}A_{1}^{n}B^{k}ϱ^{2β}k!ϱ^{−β} ≤ \frac{1}{1 − ϱ} ∑_{λ/C<k≤2λ/C} A_{0}A_{1}^{n}|λ|^{−k}B^{k}k!

≤ \frac{A_{0}A_{1}^{n+1}}{1 − ϱ} × ∑_{λ/C<k≤2λ/C} |λ|^{−k}B^{k}k!

≤ \frac{A_{0}}{1 − ϱ}A_{1}^{n+1} × k(C)e^{−ε|λ|},

si C est choisie assez grande. Il suffit donc de prendre pour conclure A′_{0} ≥ k(C)\frac{A_{0}A_{1}}{(1−ϱ)} et A′_{1} ≥ A_{1}. La constante C est maintenant fixée (puisque A′_{0} et A′_{1} en dépendent).

Comme G_{N} ∘ E_{N,0} = 0, on a aussi R_{N}^{1} ∘ E_{N,0}^{0} = 0, le lemme 5.5 implique donc (il suffit de prendre ε_{0} < (A′_{1})^{−1}). Lemme 5.6. — Il existe un réel ε_{0} > 0, des fonctions K_{n,i,α}, (i, n, α) ∈ N^{3} vérifiant les estimations (5.13) et un opérateur r (λ) tels que ∥r∥_{L(H(ω))} ≤ Ctee^{−ε|λ|} (ε > 0) tels que pour tout λ ∈ Λ_{ε_{0},N}, on a

(Id − E_{N,0}^{0}R_{N})^{−1} = Id + ∑_{{β≤2λ/C \atop β/2≤k≤λ/C}} λ^{−k} (∑_{n=0}^{+∞} (\frac{z}{λ^{N+1}} )^{n} K_{n,k,β} (x) \frac{∂_{x}^{β}}{β!} ) + r (λ) . (5.15)

On peut maintenant calculer E_{N,1}^{±}: d’après (5.11) et (5.15), on a, pour (α, γ) ∈ N^{2(2N+1)},

(5.16) (E_{N,1}^{±} − E_{N,0}^{±})_{α,γ} = \frac{∂_{x}^{α}}{α!} (z ∑_{{β≤2N \atop β/2+N+1≤i≤λ/C}} λ^{−i}K_{i,β} (x) \frac{∂_{y}^{β}}{β!} + z ∑_{{2N<β≤2λ/C \atop β/2≤i≤λ/C}} λ^{−i}K_{i,β} (x) \frac{∂_{y}^{β}}{β!} )

[Id + ∑_{{δ≤2λ/C \atop δ/2≤k≤λ/C}} λ^{−k} ∑_{n=1}^{+∞} (\frac{z}{λ^{N+1}} )^{n} K_{n,k,δ} (y) \frac{∂_{t}^{δ}}{δ!} + r (λ)]

[t^{γ} + ∑_{γ/2≤j≤γ/2+N+1} λ^{−j} (K_{j,γ} (t) − P_{N}G_{N} (K_{j,γ} (t)))].

Comme les fonctions K_{n,k,γ} sont obtenues après action de l’opérateur E_{N,0}^{0}, on remarque que G_{N} (K_{n,k,γ}) = 0 et la contribution du terme t^{γ} vaut donc

\frac{∂_{x}^{α}}{α!} (z ∑_{γ/2+N+1≤i≤λ/C} λ^{−i}K_{i,γ} (x))

+ \frac{∂_{y}^{α}}{α!} (z ∑_{{2N<β≤2λ/C \atop β/2≤i≤λ/C}} λ^{−i}K_{i,β} (y) \frac{∂_{t}^{β}}{β!} ∑_{γ/2≤k≤λ/C} λ^{−k} ∑_{n=1}^{+∞} (\frac{z}{λ^{N+1}} )^{n} K_{n,k,γ} (t)),

ce qui peut s’écrire sous la forme

z(  ∑_{γ/2+N+1≤i≤λ/C} λ^{−i}k_{i,γ,α} + ∑_{n=1}^{+∞} (\frac{z}{λ^{N+1}} )^{n} ∑_{N+1+γ/2≤k≤2λ/C} λ^{−k}k′_{n,k,α,γ}),

avec |k′_{n,k,α,γ}| ≤ AB^{α+γ+n+k}k !.

La contribution du second terme de (5.16) est

\frac{∂_{x}^{α}}{α!} (z ∑_{{2N<β≤2λ/C \atop β/2≤i≤λ/C}} λ^{−i}K_{i,β} (x) \frac{∂_{y}^{β}}{β!} ∑_{γ/2≤j≤γ/2+N+1} λ^{−j}K_{j,γ} − P_{N}G_{N} (K_{j,γ}))

+ \frac{∂_{x}^{α}}{α!} (z ∑_{{2N<β≤2λ/C \atop β/2≤i≤λ/C}} λ^{−i}K_{i,β} (x) \frac{∂_{y}^{β}}{β!} ∑_{{δ≤2λ/C \atop δ/2≤k≤λ/C}} λ^{−k}

∑_{n=1}^{+∞} (\frac{z}{λ^{N+1}} )^{n} K_{n,k,δ} (y) \frac{∂_{t}^{δ}}{δ!} ∑_{γ/2≤j≤γ/2+N+1} λ^{−j} (K_{j,γ} (t) − P_{N}G_{N} (K_{j,γ} (t)))),

ce qui peut aussi s’écrire sous la forme

z ∑_{γ/2+N+1≤p≤λ/C} λ^{−p}k_{p,α,γ} + z ∑_{{γ/2+2(N+1)≤p \atop p≤2λ/C+γ/2+2(N+1)}} λ^{−p} ∑_{n=1}^{+∞} (\frac{z}{λ^{N+1}} )^{n} k′_{n,p,γ,α}, (5.17)

avec |k_{n,p,γ,α}| ≤ AB^{p+n+α+γ} et |k′_{p,α,γ}| ≤ AB^{p+α+γ}. Nous avons donc, compte tenu de la forme des termes (E_{N,0}^{±})_{α,γ}, montré le Lemme 5.7. — Il existe des réels A, B, D > 0, des nombres complexes k_{p,α,γ}, k_{n,p,α,γ}, et des fonctions de la variable λ, r_{α,γ} tels que la matrice E_{N,1}^{±} vaut, pour tout λ ∈ Λ_{ε,D}:

(5.18) E_{N,1}^{±} = δ_{α,γ} − z( ∑_{γ/2≤i≤λ/C+γ/2+N+1} λ^{−i}k_{i,α,γ}

+ ∑_{n=1}^{+∞} (\frac{z}{λ^{N+1}} )^{n} ∑_{N+1+γ/2≤p≤2λ/C+γ/2+N+1} λ^{−p}k_{n,p,α,γ} + r_{α,γ} (λ))

et on a les estimations:

|k_{p,α,γ}| ≤ AB^{p+α+γ},  |k_{n,p,α,γ}| ≤ AB^{n+p+α+γ},  |r_{α,γ}| ≤ De^{−ε|λ|},

avec A, B indépendants du choix de la constante C dans (5.1) et D, ε en dépendant.

5.2 Estimations

Cette partie est consacrée à l’obtention d’estimations de type propagation pour les opérateurs que nous venons de construire. On rappelle que les ensembles de fréquence SS_{b}^{σ} et ŜS_{b}^{σ} sont définis à l’annexe B. Nous ferons, dans cette partie un usage répété de la proposition B.13, du lemme 3.8 et du principe du maximum de l’annexe C.

5.2.1 Action de l’opérateur M sur des distributions conor-

males

Proposition 5.8. — Il existe ω, un voisinage complexe de A dans ∂Θ_{1} et χ ∈ G_{0}^{3} égale à 1 au voisinage de A, à support inclus dans la trace sur le réel de ω, A, B, ε > 0 et pour tout s ≥ 0, il existe C_{s} tels que pour tout λ ∈ U_{A,B} et tout σ ∈ H (ω), on a

∥χMχe^{−iλ|x|}σ − χe^{−iλ|x|}T′ (λ) (σ) |_{∂Θ_{1}} ∥_{H^{s}(∂Θ_{1})} ≤ C_{s} |λ|^{s} e^{−ε|λ|^{1/3}}∥σ∥_{H(ω)}

et pour tout ω′ ⊂ ω voisinage complexe de A dans le complexifié de ∂Θ_{1}, il existe χ′ ∈ G_{0}^{3} égale à 1 au voisinage de A, à support inclus dans la trace sur le réel de ω, telle que la conclusion précédente reste vérifiée si on change χ en χ′ et ω en ω′.

On prouve d’abord le cas s = 1. On commence, pour assurer que la transformée de Fourier inverse par rapport à λ de la donnée χe^{−iλ|x|}σ est de classe H^{1/2}, par remplacer σ par \frac{σ}{(λ−i)^{2}} , ce qui ne change rien au problème, puisque

M (\frac{f}{(λ − i)^{2}} ) = \frac{M (f)}{(λ − i)^{2}} et T′ (\frac{σ}{(λ − i)^{2}} ) = \frac{T′ (σ)}{(λ − i)^{2}} .

On choisit W un voisinage de A tel qu’aucun des rayons issus de O, rencontrant \overline{W}, se réfléchissant à nouveau sur ∂Θ_{2} ne rencontre ensuite \overline{W} sauf s’il a rencontré O à sa deuxième réflection sur ∂Θ_{2} (W doit être inclus dans la région grisée sur le dessin)

W  rayon incident rayons réfléchis

Fig. 5.1 – Le voisinage W

Soit χ ∈ G_{0}^{3}(W) , égale à 1 au voisinage de A. On suppose que ω est tel que \overline{W} est inclus dans la trace sur le réel de ω. Comme, d’après les équations de transport vérifiées par le symbole T_{1} (σ), au voisinage de W, on a

(Δ + λ^{2}) (H (χe^{−iλ|x|}σ (x, λ)) − e^{−iλ(|x|+2d)}T′ (σ)) = e^{−iλ|x|}s(x, λ),

où s est une fonction holomorphe en x ∈ ω et vérifie ∥s∥_{H(ω)} ≤ Ce^{−ε|λ|}, d’après la proposition B.3, on a

\overline{W} ∩ ŜS_{b}^{3} (H (χe^{−iλ|x|}σ (x, λ)) − e^{−iλ(|x|+2d)}T′ (σ)) = ∅. (5.19)

On montre maintenant que pour tout σ ∈ H (ω) , et tout λ ∈ R, on a

SS_{b}^{3} (H (χe^{−iλ|x|}σ (x, λ)) − e^{−iλ(|x|+2d)}T′ (σ)) ∩ \overline{W} = ∅. (5.20)

Pour démontrer cette relation, on va procéder en plusieures étapes correspondant aux étapes suivies lors de la définition de l’opérateur T′.

Soit Γ_{0} la réunion de la projection spaciale des demi-rayons issus du coin et se réfléchissant sur ∂Θ_{1} ∩ {χ (x) = 1}. Le symbole σ̃ est, d’après les constructions du

χ = 1  O Γ_{0}

Fig. 5.2 – Région éclairée par la réflexion sur {χ = 1} des rayons issus du coin

chapitre 4, défini au voisinage de Γ_{0}. On a alors, si χ_{1} ∈ G_{0}^{3} (Θ_{1}^{c}) égale à 1 au voisinage de A est à support assez petit et inclus dans l’intersection de Γ_{0} avec ∂Θ_{2},

SS_{b}^{3} (χ_{1} (H_{1} (χe^{−iλ|x|}) − e^{−iλφ(x)}σ̃)) = ∅, (5.21)

ŜS_{b}^{3} (χ_{1} (H_{1} (χe^{−iλ|x|}) − e^{−iλφ(x)}σ̃)) = ∅. (5.22)

La seconde relation est simplement conséquence de ce que, si on choisit sur le support de χ_{1}, on a (Δ + λ^{2}) (H_{1} (χe^{−iλ|x|}) − e^{−iλφ(x)}σ̃) = O (e^{−ε|λ|^{1/3}}) et des estimations elliptiques de l’annexe B. Pour démontrer la première relation, on procède par l’absurde, on note D = (H_{1} (χe^{−iλ|x|}) − e^{−iλφ(x)}σ̃) et on choisit ρ_{0} = (x_{0}, ξ_{0}) ∈ SS_{b}^{3} (D), tel que x_{0} ∈ supp (χ_{1}). Sur Γ_{0}, on a, modulo des termes négligeables,

\begin{cases}(Δ + λ^{2}) D & = 0, \\ D |_{\overline{Γ}_{0}∩∂Θ_{1}} & = (1 − χ)σe^{−iλ|x|}. \end{cases}

Or un calcul simple montre que si la phase ψ est réelle analytique et σ est un symbole analytique, SS_{b}^{3} (e^{−iλψ(x)}σ (x, λ)) ⊂ {(x, −∇ψ)}. On a alors deux possibilités,

– Soit le demi-rayon issu de ρ_{0} vers le passé rencontre le coin O après réflection sur ∂Θ_{1} (c’est à dire ξ_{0} = −∇φ (x_{0})

– Soit ce n’est pas le cas, donc ρ_{0} ∉ SS_{b}^{3} (e^{−iλφ(x)}σ̃) et ρ_{0} ∈ SS_{b}^{3} (H_{1} (χe^{−iλ|x|})). D’après la proposition B.13, le demi-rayon issu vers le passé de ρ_{0} reste donc inclus dans SS_{b}^{3} (H_{1} (χe^{−iλ|x|})) tant qu’il ne rencontre pas SS (χσe^{−iλ|x|}). Or, puisque −∇φ (x_{0}) ≠ ξ_{0}, si ce demi-rayon rencontre ∂Θ_{1}, c’est en un point unique (x_{1}, ξ_{1}) ou Π_{T^{∗}∂Θ_{1}} (ξ_{1}) ≠ −∇_{x} (|x|) donc en un point qui n’appartient pas à SS_{b}^{3} (e^{−iλ|x|}σ). On peut donc continuer à propager la singularité après le point ρ_{1}, ce qui est absurde d’après la proposition (3.5). On est donc nécessairement dans le premier cas.

On se place donc dans le premier cas. Au voisinage du demi-rayon (de Θ_{1}^{c}) issu de ρ_{0}, on a

(Δ + λ^{2}) D = 0 D |_{\overline{Γ}_{0}∩∂Θ_{1}}= 0,

puisque ce demi-rayon est inclus dans Γ_{0} tant qu’il ne rencontre pas le bord de Θ_{1} et le rencontre donc en un point où χ_{1} = 1. D’après les résultats de propagation des singularités de l’annexe B, ce demi-rayon est inclus dans SS_{b}^{3} (D) et après réflection, les points correspondants ne peuvent pas être dans SS_{b}^{3} (e^{−iλφ(x)}σ̃) (puisqu’alors −∇φ (x) ≠ ξ et donc, après réflection −∇| (x) | ≠ ξ) et sont donc dans SS_{b}^{3} (H_{1} (χe^{−iλ|x|}σ)) et la proposition (3.5) fournit encore une contradiction. Nous avons donc montré la relation (5.21). D’après les relations (5.21), (5.22), la proposition B.14 et la remarque B.15, pour tout σ ∈ H (ω), il existe C, ε > 0 tels que

∥χ_{1} (H_{1} (χσe^{−iλ|x|}) − e^{−iλφ(x)}σ̃)∥_{H_{1}(R^{2})} ≤ Ce^{−ε|λ|^{1/3}}∥σ∥_{H(ω)}. (5.23)

Puis en utilisant le lemme 3.8, on montre qu’on peut choisir C et ε indépendants de σ.

On s’intéresse maintenant à la différence H_{2}H_{1} (χσe^{−iλ|x|}) − H_{2} (χ_{1}e^{−iλφ(x)}σ̃). Pour cela, on commence par démontrer le Lemme 5.9. — L’intersection de l’ensemble \overline{W} avec la projection spaciale de l’ensemble de fréquence SS_{b}^{3} (H (χσe^{−iλ|x|}) − H_{2} (χ_{1}σ̃e^{−iλφ(x)} |_{∂Θ_{2}})) est vide.

En effet, sur Θ_{2}^{c}, la différence, D de ces deux termes est égale à

D = H_{2} ((1 − χ_{1}) H_{1} (χσe^{−iλ|x|})) + H_{2} (χ_{1} (H_{1} (σe^{−iλ|x|}) − σ̃e^{−iλφ(x)}))

D’après l’estimation (5.23), il est facile de voir que la contribution du second terme de bord est négligeable; donc si ρ_{0} ∈ SS_{b}^{3} (H (χσe^{−iλ|x|}) − H_{2} (χ_{1}σ̃e^{−iλφ(x)} |_{∂Θ_{2}})) ∩ \overline{W}, on a aussi ρ_{0} ∈ SS_{b}^{3} (H_{2} ((1 − χ_{1}) H_{1} (χσe^{−iλ|x|}) |_{∂Θ_{2}})) ∩ \overline{W}. D’après la proposition B.13, le demi-rayon issu de ρ_{0}, vers le passé reste inclus dans l’ensemble de fréquence tant qu’il ne rencontre pas ∂Θ_{2} en un point ρ_{1} tel que d’une part x_{1} appartienne au support de la fonction χ_{1} et d’autre part, ρ_{1} appartienne à l’ensemble de fréquence Gevrey 3 de H_{1} (χσe^{−iλ|x|}) |_{∂Θ_{2}}. Or, en utilisant encore les résultats de propagation des singularités et la proposition 3.5, il est facile de voir que l’ensemble de fréquence Gevrey 3 de H_{1} (χσe^{−iλ|x|}) est inclus dans la réunion des demi-rayons (de Θ_{1}^{c}) issus, vers le futur du support de χ. Ce procédé nous permet donc de construire un demi-rayon (de (Θ_{1} ∪ Θ_{2})^{c}), issu vers le futur du support de χ, se réfléchissant sur Θ_{2} en un point distinct du coin (puisque dans le support de 1 − χ_{1}) et rencontrant par la suite \overline{W}, ce qui est absurde. Nous avons donc démontré le lemme 5.9. Lemme 5.10. — La projection spaciale de l’ensemble de fréquence

SS_{b}^{3} (H_{2} (χ_{1}σ̃e^{−iλφ(x)} |_{∂Θ_{2}}) − e^{−iλ|x|+2d}σ̂) (5.24)

ne rencontre pas \overline{W}.

En effet, on raisonne comme précedemment par l’absurde et on choisit ρ_{0} dans cet ensemble et tel que x_{0} ∈ \overline{W}. Si le demi-rayon (de Θ_{2}^{c}) ne rencontre pas le coin, alors ρ_{0} ∉ SS_{b}^{3} (σ̂e^{−iλ(|x|+2d)}), donc ρ_{0} ∈ SS_{b}^{3} (H_{2} (χ_{1}σ̃e^{−iλφ(x)} |_{∂Θ_{2}})) et comme précedemment, on peut construire un demi-rayon (de (Θ_{1} ∪ Θ_{2})^{c}), issu vers le futur du support de χ, se réfléchissant sur ∂Θ_{2} en un point distinct du coin et rencontrant \overline{W}, ce qui est absurde. Donc nécessairement le demi-rayon (de R^{2}) issu de ρ_{0} vers le passé rencontre le coin et reste tant qu’il n’a pas rencontré le coin, inclus dans l’ensemble (5.24). On considère

w (t, x) = ∫ e^{iλ(t−φ(x))}σ̃ (x, λ) dλ |_{∂Θ_{2}},

qui est supportée par {t ≥ 2d} puisque φ |_{∂Θ_{2}}≥ 2d. Soit V la solution de

\begin{cases}(∂_{t}^{2} − Δ) V & = 0 dans Θ_{2}^{c}, \\ V |_{t<2d} & = 0, \\ V |_{∂Θ_{2}} & = ∫ χ_{1}σ̃e^{iλ(t−φ(x))}. \end{cases}

P. Gérard et G. Lebeau montrent dans [8] qu’au voisinage de t = 2d, la fonction V s’écrit, dans Γ_{1}, l’intersection avec un voisinage de O d’un cône de sommet O et contenant le segment [A, O] (et donc aussi \overline{W} si W est assez petit), modulo une fonction analytique,

V (t, x) = − ∫ e^{iλ(t−(|x|+2d))}σ̂ (x, λ) dλ. (5.25)

On va montrer qu’il en est de même, pour tout t et tout x ∈ Γ_{1}^{∘}, modulo une fonction Gevrey 3. On note D la différence des deux termes de l’équation (5.25), qui est bien

définie sur Γ_{1}^{∘} et qui y vérifie

(∂_{t}^{2} − Δ) D = N (t, x) , (5.26)

avec N (t, x) analytique dans Γ_{1}^{∘} (pas jusqu’au bord de Γ_{1} à cause de la singularité due au coin). On prend ρ_{0} ∈ SS_{b}^{3} (D) tel que x_{0} appartient à Γ_{2}. On a alors deux possibilités :

– Soit le demi-rayon issu de ρ_{0} vers le passé ne rencontre pas le coin, pour t = 2d

– Soit ce demi-rayon ne rencontre pas le coin ou le rencontre pour t = 2d.

Dans le premier cas, ρ_{0} ∉ SS_{b}^{3} (∫ e^{iλ(t−(|x|+2d))}σ̂ (x, λ) dλ = V′ (t, x)), donc, ρ_{0} ∈ SS_{b}^{3} (V) et d’après les théorèmes de propagation des singularités, le rayon (de Θ_{2}^{c}) issu de ρ_{0} reste dans cet ensemble, tant qu’il ne rencontre pas le bord de Θ_{2} en un point appartenant au support de χ_{1}. Donc, il le rencontre nécessairement avant t ≤ 2d (puisque, pour t < 2d, V = 0) et si c’est en un point distinct du coin, c’est aussi, d’après les théorèmes de propagation des singularités dans les domaines analytiques, en un point appartenant à SS^{3} (∫ e^{iλ(t−φ(x))}σ̃ (x, λ) dλ |_{∂Θ_{2}}). Comme il est clair que cet ensemble est inclus dans la projection sur T^{∗}∂Θ_{2} de SS^{3} (∫ e^{iλ(t−φ(x))}σ̃ (x, λ) dλ) qui lui même est inclus dans la projection spaciale de l’ensemble {(t, x, τ, ξ) ; t = φ (x) , τ = 1, ξ = −∇φ (x)}, on pourrait construire un rayon (de (Θ_{1} ∪ Θ_{2})^{c}) issu d’un point de l’ensemble χ = 1 se réfléchissant sur ∂Θ_{2}, en un point distinct du coin, puis rencontrant un point de \overline{W}, ce qui est absurde. Donc, nécessairement, le demi-rayon issu de ρ_{0}, vers le passé rencontre le coin, en un point, ρ_{1}. Si t_{1} ≠ 2d, on choisit ψ ∈ G_{0}^{3} (R_{t}) égale à 1 au voisinage de t_{1} et dont le support ne rencontre pas un voisinage de t = 2d. On remarque maintenant que au voisinage de t_{1}, la fonction b(x, t) = χ_{1} ∫ e^{iλ(t−φ(x))}σ̃ (x, λ) dλ |_{∂Θ_{2}} est telle que b × ψ est de classe Gevrey 3 en temps à valeurs H^{1/2}(∂Θ_{2}). On écrit V = V_{1} + V_{2} avec

(∂_{t}^{2} − Δ) V_{1} = 0, dans Θ_{2}^{c}, V_{1} |_{t<2d}= 0, V_{1} |_{∂Θ_{2}}= ψb

et

(∂_{t}^{2} − Δ) V_{2} = 0, dans Θ_{2}^{c}, V_{2} |_{t<2d}= 0, V_{2} |_{∂Θ_{2}}= (1 − ψ)b.

D’après ce qui précède, la fonction V_{1} est de classe Gevrey 3 en temps à valeurs H^{1} et V_{2} est solution d’une équation d’onde, avec conditions de Dirichlet au voisinage du coin et de t_{1}; on peut donc lui appliquer les résultats de propagation des singularités dans les ouverts à coin, et comme, pour t > t_{1}, V a une singularité Gevrey 3 qui arrive sur le coin pour t = t_{1}, il en est de même pour V_{2} et comme au voisinage du coin et de t = t_{1}, Ψ = 1, V_{2} possède une singularité Gevrey 3 qui repart du coin vers t < t_{1}, qui, puisque Θ_{2} est convexe, ne peut plus rencontrer l’obstacle Θ_{2} par la suite, donc, par propagation des singularités à l’intérieur, cette singularité rentre dans t < 2d, ce qui est absurde. Finalement, on est nécessairement dans le deuxième cas, c’est-à-dire que le demi-rayon issu vers le passé de ρ_{0} rencontre le coin pour t = 2d. Comme ρ_{0} ∈ SS_{b}^{3} (D) et le long de ce demi-rayon (avant de rencontrer le coin), on reste dans Γ_{2}, d’après l’équation (5.26), le demi-rayon issu de ρ_{0} vers le passé reste dans SS_{b}^{3} (D), tant qu’il ne rencontre pas le coin, donc rentre dans une région où l’équation (5.25) est vérifiée, donc où D est analytique, ce qui est absurde.

On montre enfin comme on l’a fait pour l’étude de l’opérateurH_{a}, pages 46 et suivantes que la contribution d’une fonction de classe Gevrey 3 à la résolvante est de norme O (e^{−ε|λ|^{1/3}}), donc que la solution sortante de l’équation

(Δ + λ^{2}) v = 0 dans Θ_{2}^{c}, v |_{∂Θ_{2}}= χ_{1}σ̃e^{−iλφ(x)}

est, sur \overline{W}, égale à e^{−iλ(|x|+2d)}σ̂ modulo un terme r tel que ∥r∥_{H^{1}(W)} ≤ Ce^{−ε|λ|^{1/3}}. On en déduit le lemme 5.10. Les lemmes 5.9 et 5.10 impliquent la relation (5.20). Les estimations (5.19), (5.20), la proposition B.14, la remarque B.15, le lemme 3.8 et le principe du maximum montrent la proposition 5.8, dans le cas s = 1, le cas général est conséquence de ce cas particulier et de l’équation vérifiée par Mχe^{−iλ|x|}σ − e^{−iλ|x|}T′ (Ml) (σ) au voisinage du support de la fonction χ.

5.2.2 Estimations diverses sur des termes de reste

Le but de cette partie est de donner des estimations sur des termes qu’on considèrera dans la section suivante comme des termes de reste, en utilisant toujours de façon systématique des arguments de propagation des singularités. Nous avons rassemblé ces estimations dans la Proposition 5.11. — Il existe W un voisinage de A dans ∂Θ_{1} et un entier m, tels que pour tout ω, voisinage complexe de A dans le complexifié de ∂Θ_{1} tel que la trace de ω sur le réel contient \overline{W}, pour toute fonction χ ∈ G_{0}^{3} (W) égale à 1 au voisinage de A, il existe A, B, C, ε > 0 tels que pour tout p ∈ N, tout λ ∈ U_{A,B} et tout f ∈ H^{1/2} (∂Θ_{1}) on a

\{ \begin{matrix}∥χM^{p} (1 − χ) M_{a}M^{m} (f) ∥_{H^{1/2}(∂Θ_{1})} ≤ Ce^{−ε|λ|^{1/3}}∥f∥_{H^{1/2}(∂Θ_{1})}, \\ ∥M^{m} ((1 − χ) M_{a}M^{m}) ∥_{H^{1/2}(∂Θ_{1})} ≤ Ce^{−ε|λ|^{1/3}}∥f∥_{H^{1/2}(∂Θ_{1})}, \end{matrix} (5.27)

\{ \begin{matrix}∥χM^{p} (1 − χ) M^{m} (f) ∥_{H^{1/2}(∂Θ_{1})} ≤ Ce^{−ε|λ|^{1/3}}∥f∥_{H^{1/2}(∂Θ_{1})}, \\ ∥M^{m} ((1 − χ) M^{m}) ∥_{H^{1/2}(∂Θ_{1})} ≤ Ce^{−ε|λ|^{1/3}}∥f∥_{H^{1/2}(∂Θ_{1})}, \end{matrix} (5.28)

\{ \begin{matrix}∥χM^{p}M_{b}M^{m}f∥_{H^{1/2}(∂Θ_{1})} ≤ Ce^{−ε|λ|^{1/3}}∥f∥_{H^{1/2}(∂Θ_{1})}, \\ ∥M^{m}M_{b}M^{m}f∥_{H^{1/2}(∂Θ_{1})} ≤ Ce^{−ε|λ|^{1/3}}∥f∥_{H^{1/2}(∂Θ_{1})} \end{matrix} (5.29)

et pour tout σ ∈ H (ω),

\{ \begin{matrix}∥χM^{p} (1 − χ) Mχ (e^{−iλ|x|}σ) ∥_{H^{1/2}(∂Θ_{1})} ≤ Ce^{−ε|λ|^{1/3}}∥σ∥_{H(ω)}, \\ ∥M^{m} (1 − χ) Mχ (e^{−iλ|x|}σ) ∥_{H^{1/2}(∂Θ_{1})} ≤ Ce^{−ε|λ|^{1/3}}∥σ∥_{H(ω)}, \end{matrix} (5.30)

\{ \begin{matrix}∥χM^{p} (1 − χ) χ (e^{−iλ|x|}σ) ∥_{H^{1/2}(∂Θ_{1})} ≤ Ce^{−ε|λ|^{1/3}}∥σ∥_{H(ω)}, \\ ∥M^{m} (1 − χ) χ (e^{−iλ|x|}σ) ∥_{H^{1/2}(∂Θ_{1})} ≤ Ce^{−ε|λ|^{1/3}}∥σ∥_{H(ω)} \end{matrix} (5.31)

et pour tout q ∈ N, et tout d ∈ C^{2N+1},

\{ \begin{matrix}∥ (χM)^{p} (1 − χ) M^{q}χ (e^{−iλ|x|}P_{N} (d)) ∥_{H^{1/2}(∂Θ_{1})} ≤ Ce^{−ε|λ|^{1/3}}∥d∥, \\ ∥M^{m} (1 − χ) M^{q}χ (e^{−iλ|x|}P_{N} (d)) ∥_{H^{1/2}(∂Θ_{1})} ≤ Ce^{−ε|λ|^{1/3}}∥d∥. \end{matrix} (5.32)

Pour démontrer cette proposition, on commence par montrer le lemme suivant : Lemme 5.12. — Il existe un voisinage V de A dans R^{2} et N ∈ N tels que

– Tout demi-rayon faisant au moins N réflexions successives sur ∂Θ_{1} et ∂Θ_{2} a nécessairement rencontré le coin.

– Aucun demi-rayon issu du coin, ne rencontrant pas A à sa première réflexion sur ∂Θ_{1} ne rencontre par la suite V

– Aucun demi-rayon issu du coin, rencontrant lors d’une réflexion entre ∂Θ_{1} et ∂Θ_{2} le support de χ_{b} ne rencontre par la suite V.

– Tout demi-rayon issu du coin, qui rencontre lors d’une réflexion sur ∂Θ_{1} un point distinct de A fait par la suite au plus N réflexions sur ∂Θ_{1}.

De plus, si V′ ⊂ V est un autre voisinage de A dans R^{2}, V′ vérifie encore ces propriétés.

La première proposition est une conséquence directe de la stricte convexité des obstacles Θ_{1} et Θ_{2} et de la présence du coin O sur la trajectoire qui minimise la distance entre Θ_{1} et Θ_{2}.

Pour vérifier la deuxième, il suffit de prendre V inclus dans le secteur angulaire délimité par les deux rayons réfléchis sur les deux faces de ∂Θ_{2} associés au rayon incident [A, O].

Comme χ_{b} est identiquement nulle au voisinage du segment [A, O], tout rayon issu du coin qui rencontre le support de χ_{b} sort du secteur angulaire défini précedemment définitivement, d’où la troisième proposition.

Enfin, la quatrième proposition est conséquence directe de la première. Lemme 5.13. — Pour tout f ∈ H^{1/2} (∂Θ_{1}), l’intersection de l’ensemble de fréquence Gevrey 3 de H_{1} (f) avec Θ_{1}^{c} est inclus dans la réunion des demi-rayons (de Θ_{1}^{c}) issus vers le futur de l’intersection de SS^{3} (f) avec la projection sur T^{∗}∂Θ_{1} de la variété caractéristique |ξ|^{2} = 1.

En effet, il est facile de voir que la proposition 3.5 reste vraie pour H_{1} et les résultats de propagation des singularités montrent que si ρ_{0} ∈ SS_{b}^{3} (H_{1} (f)), il en est de même du demi-rayon issu de ρ_{0} vers le passé tant qu’il ne rencontre pas SS^{3} (f), et nécessairement, d’après la proposition 3.5, il doit rencontrer cet ensemble. Lemme 5.14. — Il existe V un voisinage de Θ_{1} tel que pour tout f ∈ H^{1/2} (∂Θ_{1}), l’intersection de l’ensemble de fréquence Gevrey 3 de H (f) avec V est inclus dans la réunion des demi-rayons (de Θ_{2}^{c}) issus vers le futur de l’intersection de SS^{3} (f) avec la projection sur T^{∗}∂Θ_{1} de la variété caractéristique |ξ|^{2} = 1, et se réfléchissant sur ∂Θ_{2}.

En effet, la proposition 3.5 reste vraie pour H_{2} et si ρ_{0} ∈ SS_{b}^{3} (H (f)) ∩ T^{∗} (Θ_{2}^{c}), par propagation des singularités, il en est de même du demi-rayon (de Θ_{2}^{c}) issu de ρ_{0} vers le passé, tant qu’il ne rencontre pas ∂Θ_{2}. D’après la proposition 3.5, il rencontre nécessairement ∂Θ_{2}. Soit ρ_{1} un point sur ce rayon proche de ∂Θ_{2}. Au voisinage de ∂Θ_{2}, on a (Δ + λ^{2}) (H (f) − H_{1} (f)) = 0, H (f) − H_{1} (f) |_{∂Θ_{2}}= 0, donc si ρ_{1} ∉ SS_{b}^{3} (H_{1} (f)), un des demi-rayons (de Θ_{2}^{c}) issus de ρ_{1} vers le passé (à cause du coin, on n’a plus unicité) reste, au voisinage de Θ_{2} dans SS_{b}^{3} (H (f) − H_{1} (f)), comme d’après la proposition 3.5, après réflexion sur ∂Θ_{2}, le demi-rayon ne peut pas rencontrer SS_{b}^{3} (H (f)), il est inclus dans SS_{b}^{3} (H_{1} (f)), ce qui permet de conclure d’après le lemme 5.13. Le seul problème est donc si ρ_{1} ∈ SS_{b}^{3} (H_{1} (f)), ce qui implique, d’après le lemme 5.13 qu’il existe x ∈ ∂Θ_{1} tel que x_{1} ∈ [x, x_{o}]. Ce dernier cas est exclu, si on a pris le point x_{0} tel que pour tout x ∈ Θ_{1}, le segment [x_{0}, x] ne rencontre pas ∂Θ_{2}, ce qui est possible si V est assez petit. On démontre de la même manière le Lemme 5.15. — Il existe V un voisinage de Θ_{1} tel que pour tout f ∈ H^{1/2} (∂Θ_{1}), l’intersection de l’ensemble de fréquence Gevrey 3 de H_{a} (f) (respectivement H_{b} (f)) avec V est inclus dans la réunion des demi-rayons (de Θ_{2}^{c}) issus vers le futur de l’intersection de SS^{3} (f) avec la projection sur T^{∗}∂Θ_{1} de la variété caractéristique |ξ|^{2} = 1, se réfléchissant sur ∂Θ_{2} et rencontrant le support de la fonction χ_{a} (respectivement χ_{b}).

Pour démontrer les relations (5.27), (5.28), il suffit de démontrer que les ensembles de fréquence correspondants sont vides, d’utiliser les estimations elliptiques pour montrer que les ensembles de fréquence à l’infini sont également vides, puis d’utiliser la proposition B.14 et la remarque B.15 pour en déduire une estimation, enfin, on utilise le lemme 3.8 pour montrer que les constantes ne dépendent pas de f, puis pour conclure, on propage les estimations sur le réel à un domaine U_{A,B}, en utilisant le principe du maximum de l’annexe C. Pour démontrer que les ensembles de fréquence correspondants sont vides, on utilise les lemmes 5.14, 5.15, en remarquant que l’ensemble de fréquence de la restriction à ∂Θ_{1} d’une fonction g est inclus dans la projection sur T^{∗}∂Θ_{1} de l’ensemble de fréquence de g, et on conclut en utilisant les propriétés géométriques de la proposition 5.12. Les relations (5.29), (5.30), (5.31) et (5.32) se démontrent de la même manière en remarquant de plus que

SS_{b}^{3} (σe^{−iλ|x|}) ⊂ Π_{T^{∗}∂Θ_{1}} (\{(x, −\frac{x}{|x|})\}) .

5.3 Résolution d’un problème de Grushin

Définition 5.16. — On notera, pour ω ⊂ ∂Θ_{1}, s ∈ N, H^{s} (ω) l’espace de Sobolev d’ordre s sur ω, muni de la norme

∥u∥_{s} (ω) = (∑_{|p|≤s} ∥(∂_{θ})^{p} u∥_{L^{2}(ω)}^{2})^{1/2},

de telle façon que si σ ∈ H (ω), ω un voisinage complexe de A, alors, pour tout χ ∈ G_{0}^{3} (ω), ∥χe^{−iλ|x|}σ |_{∂Θ_{1}} ∥_{s} (ω ∩ ∂Θ_{1}) ≤ C_{s}|λ|^{s}∥σ∥_{H(ω)}.

Le but de cette partie est la démonstration du résultat suivant : Proposition 5.17. — Pour tout N ∈ N, il existe ε > 0 et A > 0 tels que pour tout λ ∈ Λ_{ε,N} ∩ {|λ| > A}, on peut résoudre dans H^{2N+1} (∂Θ_{1}) × C^{2N+1} le problème de Grushin :

\begin{cases}(Id − M) u − e^{−iλ|x|}P_{N}(C) & = f, \\ G_{N} (e^{iλ|x|}u) & = D. \end{cases} (5.33)

La solution de ce problème est unique et holomorphe en λ ∈ Λ_{ε,N} ∩ {|λ| > A}. On la notera

(\begin{matrix}u \\ C \end{matrix}) = E (λ) (\begin{matrix}f \\ D \end{matrix}) ,

avec

E (λ) = (\begin{matrix}E^{0} & E^{+,−} \\ E^{−,+} & E^{±} \end{matrix}) .

Cette solution est telle qu’il existe C, N, D tels que pour tout λ ∈ Λ_{ε,N},

∥E (λ) ∥_{L(H_{2N+1}×C^{2N+1})} ≤ C|λ|^{N}e^{DImλ^{+}} (5.34)

et il existe C, η > 0 tel que pour tout λ ∈ Λ_{ε,N},

∥E^{±} − E_{N,1}^{±} (λ) ∥_{L(C^{2N+1})} ≤ Ce^{−η|λ|^{1/3}}. (5.35) Remarque 5.18. — Ce problème de Grushin a bien un sens sur H^{2N+1} (∂Θ_{1}) puisque cet espace s’injecte continuement dans C^{2N} (∂Θ_{1}), d’après les théorèmes d’injection de Sobolev.

L’idée de la démonstration est la suivante : dans un premier temps, on s’intéresse uniquement à la question de l’existence et pour cela, on se ramène par des arguments de perturbation , en utilisant les résultats de la section précédente, au problème résolu par la proposition 5.3. On ne s’intéresse pas dans cette première étape au caractère holomorphe du problème. Dans un deuxième temps, on démontre l’unicité. L’holomorphie de l’inverse est automatique, puisque cet inverse que nous construisons est continu.

5.3.1 Existence d’une solution

Soit m ∈ N, que nous fixerons plus tard (on le prendra assez grand pour que les estimations de la section 5.2 soient vérifiées). Soient

\begin{cases}u_{1} & = u − ∑_{i=0}^{m} M^{i}f, \\ D_{1} & = D − ∑_{i=0}^{m} G_{N} (e^{iλ|x|}M^{i}u) . \end{cases}

Il existe A, B, C > 0 tels que pour tout λ ∈ U_{A,B} et tout s ∈ N il existe C_{s} > 0 tel que

∥u − u_{1}∥_{s} ≤ C_{s}|λ|^{s+2}e^{C_{s}Imλ^{+}}∥f∥_{1/2},  ∥D − D_{1}∥ ≤ C|λ|^{2N+3}e^{C_{s}Imλ^{+}} (∥f∥_{1/2}) . (5.36)

En effet, on a

∥H (f)∥_{H^{1}(Ω)} ≤ C|λ|^{2}e^{CImλ^{+}}∥f∥_{1/2}

en écrivant H_{1} ∘γ_{1}H_{2}f = κH_{2}f −R_{1} [Δ, κ] H_{1}f avec κ ∈ C_{0}^{∞} (Θ_{2}^{c}) égale à 1 au voisinage de Θ_{1}, on en déduit qu’on a aussi

∥H^{k} (f)∥_{H^{1}(Ω)} ≤ C_{s}|λ|^{2}e^{C_{s}Imλ^{+}}∥f∥_{1/2}

et comme au voisinage de Θ_{1}, H^{s} (f) est solution de (Δ + λ^{2}) H (f) = 0, on a, si V est un voisinage de Θ_{1},

∥H^{k} (f)∥_{H^{s}(Ω)} ≤ C_{s,k}|λ|^{s}∥H^{k} (f) ∥_{1/2},

l’estimation (5.36) en découle. On a aussi

∥D − D_{1}∥ ≤ C|λ|^{2N+3}e^{CImλ^{+}}∥f∥_{1/2}.

Trouver (u, C) solution du système (5.33) est équivalent à trouver (u_{1}, C) solution du même système, où on a remplacé f par M^{m+1} (f) et D par D_{1}.

D’après la proposition 4.10, il existe α, D > 0 et χ ∈ G_{0}^{3} (∂Θ_{1}), égale à 1 au voisinage du point A tels qu’il existe des opérateurs R ∈ N (L (H^{1/2} (∂Θ_{1}) ; H^{1} (Θ_{2}^{c}))) et σ ∈ A (L (H^{1/2} (∂Θ_{1}) ; H_{α,D} (∂Θ_{1}))) tels que

M^{m+1} = χe^{−iλ|x|}σ (M^{m}) + (1 − χ) M_{a}M^{m} + M_{b}M^{m} + χR (5.37) et la forme de σ donnée par la relation (4.17) montre que pour tout λ, on a

sup_{x} |σ (u) | ≤ Ce^{CImλ^{+}}∥u∥_{1/2} (∂Θ_{1}) (5.38)

et

e^{−CImλ^{+}} sup_{s≤0} ∫_{Imλ=−s} (1 + |λ|^{2}) |σ (u) (x, λ) dλ ≤ C∥u∥_{1/2} (∂Θ_{1}) .

Si on considère σ (M^{m} (u_{1})), comme une fonction holomorphe de la variable x dépendant de λ comme d’un paramètre, on peut appliquer au couple (σ (M^{m} (u_{1})) , D_{1}) l’opérateur E_{N,1} défini en (5.8). Soit

(s, C) = E_{N,1} (σ (M^{m} (u_{1})) , D_{1}) .

D’après la proposition 5.8, il existe ω, un voisinage complexe de A dans ∂Θ_{1}, χ égale à 1 au voisinage de A, à support inclus dans ′ω et C, A, B, η > 0 et pour tout s ≥ 0, il existe C_{s} tels que pour tout λ ∈ U_{A,B} et tout σ ∈ ⟨ (ω), on a

∥χMχe^{−iλ|x|}σ − χe^{−iλ|x|}T′ (λ) (σ) |_{∂Θ_{1}} ∥_{H^{s}(∂Θ_{1})} ≤ C_{s} |λ|^{N+s} e^{−η|λ|^{1/3}}∥σ∥_{H(ω)}. (5.39)

On applique ce résultat à s_{λ} (x) = σ, λ fixe. Comme les opérateurs M et T′ commmutent à la restriction en λ_{0}, on obtient, pour tout λ,

∥χMχe^{−iλ|x|}s − χe^{−iλ|x|}T′ (λ) (s) |_{∂Θ_{1}} ∥_{H^{s}(∂Θ_{1})} ≤ C_{s} |λ|^{N′+s} e^{−η|λ|^{1/3}} ∥f∥_{H^{1/2}(∂Θ_{1})} .

La fonction u_{2} = χe^{−iλ|x|}s_{λ} (x, λ) définie pour λ ∈ Λ_{ε,N}, ε assez petit vérifie donc

\begin{cases}u_{2} − χM (λ) u_{2} − χe^{−iλ|x|}P_{N} (C) & = χe^{−iλ|x|}σ (M^{m} (f)) + R (f) , \\ G_{N} (χe^{iλ|x|}u_{2}) & = D_{1}. \end{cases} (5.40)

où l’opérateur R vérifie pour tout λ ∈ Λ_{ε,N}, ∥e^{|λ|^{1/3}/C}R∥_{2N+1} ≤ C.

On cherche maintenant u_{3} = u_{1} − u_{2} telle que

\begin{cases}(Id − M) u_{3} & = (1 − χ)e^{−iλ|x|} (P_{N}(c) + σ (M^{m} (f))) + (1 − χ) Mu_{2} \\ & + (1 − χ)M_{a}M^{m}(f) + M_{b}M^{m}(f) + χR(f) \\ & = A(f, d) + χR(f) \\ G_{N} (e^{iλ|x|}u_{3}) & = 0. \end{cases}

On va pouvoir résoudre ce problème de manière approchée ; d’après la relation (5.40), il est facile de voir que

(1 − χ) Mu_{2}

= (1 − χ) M (χM)^{m} u_{2} + ∑_{i=0}^{m−1} (1 − χ) M (χM)^{i} (χe^{−iλ|x|} (P_{N} (c) + σ (M^{m} (f)))) .

Soit u_{3} = ∑_{i=0}^{m} M^{i} (A (f, d)). On a

(Id − M) u_{3} = A(f, d) + M^{m} (A(f, d)) .

D’après les estimations de la proposition 5.11, la fonction u_{3} ainsi définie vérifie, si on a choisi l’entier m assez grand :

∥(Id − M) u_{3} − A (f, D)∥_{H^{2N+1}(∂Θ_{1})}

≤ Ce^{−η|λ|^{1/3}}(∥f∥_{H^{1/2}(∂Θ_{1})} + ∥u_{2} (λ)∥_{H^{1/2}(∂Θ_{1})} + ∥P_{N} (C)∥_{H^{1/2}(∂Θ_{1})} + ∥σ_{λ}∥_{H(ω)})

et donc, d’après (5.38) et les estimations de la proposition 5.3, on a

∥(Id − M) u_{3} − A (f, D)∥_{H^{2N+1}(∂Θ_{1})} ≤ Ce^{−η|λ|^{1/3}} (∥f∥_{H^{1/2}(∂Θ_{1})} + ∥D∥) .

On a également d’après les estimations de la proposition 5.11,

∥G_{N} (e^{iλ|x|}u_{3})∥ ≤ Ce^{−η|λ|^{1/3}} (∥f∥_{H^{1/2}(∂Θ_{1})} + ∥D∥) .

En résumé, nous avons montré que le couple (u = ∑_{i=0}^{m} M^{i} (f) + u_{2} + u_{3}, C) vérifie

\begin{cases}(Id − M) u & = f + R_{1}(f, d), \\ G_{N} (e^{iλ|x|}u) & = D + R_{2}(f, d), \end{cases}

avec des opérateurs (R_{1}, R_{2}) ∈ L (H̃_{Λ_{ε,N}}^{2N} (∂Θ_{1}) × C^{2N+1}) vérifiant pour tout λ ∈ Λ_{ε,N}

∥ (R_{1}, R_{2}) ∥_{L(H^{2N+1}(∂Θ_{1})×C^{2N+1})} ≤ C|λ|^{C}e^{−|λ|^{1/3}/C}.

L’opérateur Id + (R_{1}, R_{2}) étant donc clairement inversible par une série de Neumann, si |λ| est assez grand, nous avons montré l’existence d’un inverse a gauche qui vérifie les estimations (5.34), pour le problème de Grushin initial. Il reste à prouver l’unicité.

5.3.2 Unicité de la solution

On fixe, dans cette partie les nombres ε et N vérifiant les conditions nécessaires pour l’existence d’un inverse à gauche. On pourra éventuellement les diminuer un nombre fini de fois. Aucune des constantes que nous introduirons ne dépendra de λ ∈ Λ_{ε,N}.

Soient (u, C) ∈ H^{2N+1} (∂Θ_{1}) × C^{2N+1} et λ_{0} ∈ Λ_{ε,N} ∩ {|λ| > A}, tels que

\begin{cases}(Id − M (λ_{0})) u − e^{−iλ_{0}|x|}P_{N}(C) & = 0, \\ G_{N} (e^{iλ_{0}|x|}u) & = 0. \end{cases} (5.41)

On veut montrer qu’alors (u, C) = (0, 0). On a

u = M (λ_{0}) u − e^{−iλ_{0}|x|}P_{N} (C) ,

on en déduit, pour tout m ∈ N,

u = M^{m+1} (λ_{0}) u − ∑_{i=0}^{m} M^{i} (λ_{0}) (e^{−iλ_{0}|x|}P_{N} (C)) ,

donc, d’après (5.37),

\begin{aligned}u & = χe^{−iλ_{0}|x|}σ (u, C) |_{λ=λ_{0}} + (1 − χ) M_{a}M^{m} |_{λ=λ_{0}} (u) + M_{b}M^{m} |_{λ=λ_{0}} (u) \\ & − ∑_{i=0}^{m} (χM)^{i} |_{λ=λ_{0}} (χe^{−iλ_{0}|x|}P_{N} (C)) \\ & − ∑_{i=0}^{m} ∑_{j=0}^{i} (χM)^{j} |_{λ=λ_{0}} (1 − χ) M^{i−j} |_{λ=λ_{0}} (e^{−iλ_{0}|x|}P_{N} (C)) \\ & − ∑_{i=0}^{m} (χM)^{i} |_{λ=λ_{0}} (1 − χ) (e^{−iλ_{0}|x|}P_{N} (C)) \\ & = χe^{−iλ_{0}|x|}σ (u, C) |_{λ=λ_{0}} +A_{m} (u, C) |_{λ=λ_{0}} . \end{aligned} (5.42)

avec A_{m} vérifiant, d’après les estimations de la proposition 5.11 et (5.39),

∀K ∈ N, ∃A, B, C, η > 0; ∀p ≤ K, ∀λ ∈ U_{A,B},

∥χM^{p}A_{m}∥_{H^{2N+1}(∂Θ_{1})} ≤ Ce^{−η|λ|^{1/3}}. (5.43) Lemme 5.19. — Il existe A_{1}, A_{2} > 0 tels que pour tout k ∈ N, il existe σ_{k} (x) ∈ H (ω) et

R_{k} ∈ A (L (H^{2N+1} (∂Θ_{1}) × C^{2N+1}; (H^{2N+1} (∂Θ_{1})))) ,

tels que pour tout p ∈ N,

u = χe^{−iλ_{0}|x|}σ_{k} (x) + R_{k} (u, C) , (5.44)

χM^{p}R_{k} ∈ N (L (H^{2N+1} (∂Θ_{1}) × C^{2N+1}; (H^{2N+1} (∂Θ_{1})))) (5.45)

et

(5.46) ∥σ_{k}∥_{H(ω)} ≤ A_{1}^{k+1}|\frac{z}{λ_{0}^{N+3/2}} |^{k}e^{A_{2}Imλ_{0}^{+}} (∥u∥_{H^{2N+1}(∂Θ_{1})} + ∥C∥)

+ ∑_{p=0}^{k} ((2N + 2) A_{1}^{p}) |\frac{z}{λ_{0}^{N+3/2}} |^{p}∥C∥ + A_{k}e^{−η_{k}|λ_{0}|^{1/3}} (∥u∥_{2N+1} + ∥C∥) .

On montre ce lemme par récurence sur k. Pour k = 0, ce résultat est conséquence des relations (5.42) et (5.43). Supposons ce résultat vérifié au rang k. d’après (5.41), on a

\begin{aligned}u & = M (χe^{−iλ_{0}|x|}σ_{k}) + χe^{−iλ_{0}|x|}P_{N} (C) + M (A_{k} (u, C)) + (1 − χ) e^{−iλ_{0}|x|}P_{N} (C) \\ & = χe^{−iλ_{0}|x|}T′ (σ_{k} + P_{N} (C)) + R_{k+1} (u, C) \end{aligned}

avec

R_{k+1} (u, C) = (1 − χ) M (χe^{−iλ_{0}|x|}σ_{k}) + (1 − χ) e^{−iλ_{0}|x|}P_{N} (C)

+ MR_{k} + (χMχe^{−iλ_{0}|x|}σ_{k} − χe^{−iλ_{0}|x|}T′σ_{k})

et il est facile de voir que cette relation définit bien un opérateur R_{k+1} vérifiant (5.45) au rang k + 1. Il suffit donc de vérifier que σ_{k+1} = T′ (σ_{k}) + P_{N} (C) vérifie bien (5.46). Or, d’après (5.44) au rang k,

∥G_{N} (σ_{k}) ∥ ≤ A_{k}e^{−η_{k}|λ_{0}|^{1/3}} (∥u∥_{2N+1} + ∥C∥) ,

on obtient donc

∥σ_{k+1}∥_{H(ω)} ≤ (2N + 2) ∥C∥ + AA_{k}e^{−η_{k}|λ_{0}|^{1/3}} |\frac{z}{λ^{1/2}} | (∥u∥_{2N+1} + ∥C∥)

+ A|\frac{z}{λ_{0}^{N+3/2}} |∥σ_{k}∥_{H(ω)},

d’où le résultat, puisque |z| ≤ |λ|^{N+1/2}. Finalement, si on choisit k, assez grand et ε >

|_{\frac{z}{λ_{0}^{N+1/2}}} | assez petit, on obtient, pour tout K > 0

∥σ_{k}∥_{H(ω)} ≤ A_{K} (∥C∥ + |λ_{0}|^{−K}∥u∥_{2N+1}) .

En appliquant l’opérateur G_{N} ∘ e^{iλ_{0}|x|} à (5.44), pour k + 1, en remarquant que σ_{k+1} = T′ (σ_{k}) + P_{N} (C), on obtient modulo un terme négligeable,

(5.47)  C = −G_{N} (T′ (σ_{k})) − G_{N} (A_{k} (u, C)) .

donc

(5.48)  ∥C∥ ≤ A |\frac{z}{λ^{N+3/2}} | ∥σ_{k}∥_{H(ω)} + Ce^{−η|λ|^{1/3}} (∥C∥ + ∥u∥_{2N+1})

On en déduit que pour tout K > 0 il existe C_{K} tel que

\begin{aligned}∥C∥ & ≤ C_{K}|λ_{0}|^{−K}∥u∥_{2N+1} \\ ∥σ_{k}∥_{H(ω)} & ≤ C_{K}|λ_{0}|^{−K}∥u∥_{2N+1} \end{aligned} (5.49)

D’après (5.44), (5.45), (5.47) et (5.49),

∥χu∥ ≤ C_{K}|λ_{0}|^{−K}∥u∥_{2N+1}. (5.50)

On utilise à nouveau (5.41), ce qui donne

u = M (u) + e^{−iλ_{0}|x|}P_{N} (C)
= M (u) + R_{1} (u)
= M^{m} (u) + R_{m} (u)
= (1 − χ) M^{m} (u) + R′_{m} (u)
= M^{m} (1 − χ) M^{m} (u) + R′′_{m} (u) ,

avec R_{1}, R_{m}, R′_{m}, R′′_{m} des opérateurs continus de H^{2N+1} (∂Θ_{1}) dans lui même, de normes inférieures à C_{K}|λ|^{2N+1−K}, d’après (5.50). La proposition 5.11 montre donc que u vérifie,

∥u∥_{2N+1} ≤ C_{K}|λ_{0}|^{2N+1−K}∥u∥_{2N+1},

ce qui, si |λ_{0}| est assez grand et si on a choisi K > 2N + 1 implique que u = 0, donc que C = 0.

Nous avons donc inversé le problème de Grushin (5.33), les estimations (5.34) et (5.35) découlent de la preuve donnée et le fait que l’inverse est holomorphe en λ est simplement une conséquence de ce que l’opérateur qu’on inverse l’est (cette dernière propriété n’est pas une conséquence de la preuve donnée).

VI. Démonstration du théorème 1

6.1 Développements asymptotiques

Nous allons, dans cette partie donner des développements asymptotiques pour les racines de l’équation

det (E^{±}) = 0. (6.1)

On va commencer par donner un développement asymptotique pour les racines de l’équation

det ((E_{N,1}^{±} − R(λ)) = 0, (6.2)

où la matrice R = (r_{α,γ}) est celle donnée par la relation (5.18), puis on montrera que les racines de l’équation (6.1) et celle de l’équation (6.2) ont des développements asymptotiques identiques.

Nous rappelons que d’après le théorème de Puiseux, si b_{j} (z), j = 1; ⋯; m sont m fonctions holomorphes au voisinage de 0 dans C, alors, il existe a_{l}, l = 1; ⋯; p, ∑_{1}^{p} a_{l} = m tels que les racines de l’équation X^{m} + b_{1} (z) X^{m−1} + ⋯ + b_{m} (z) sont des fonctions holomorphes de z^{1/a_{l}} (et pour chaque l on a exactement a_{l} solutions). Nous ferons dans ce chapitre un usage répété de ce résultat.

Pour simplifier les notations, on notera encore, E_{N,1}^{±} la matrice E_{N,1}^{±} − R(λ).

6.1.1 Localisation au voisinage des pseudopôles

On rappelle que

\begin{aligned}(E_{N,0}^{±})_{α,γ} & = δ_{α,γ} − z ∑_{α/2≤i<α/2+N+1} λ^{−i}a_{i,α,γ} \\ & = Id − zF_{N,0}^{±}, \end{aligned}

avec a_{0,0,0} ≠ 0. On étudie d’abord les pôles situés dans une région de la forme

\{λ ∈ C; |z| = |\frac{e^{−2iλd}}{\sqrt{λ}} | ≤ M < +∞\}.

Lemme 6.1. — Pour tout M > 0, il existe A, C > 0 et ε > 0 tels que pour tout λ ∈ C, tel que |z| ≤ M, |λ| > C et |z − a_{0,0,0}^{−1}| ≥ \frac{A}{|λ|}, on a

|detE_{N,1}^{±}| ≥ \frac{ε}{|λ|}.

En effet, si on considère z et λ comme deux variables indépendantes, on a

E_{N,1}^{±} (z, λ) = Id − z (\begin{matrix}a_{0,0,0} & 0 & … & 0 \\ a_{0,1,0} & ⋮ & & ⋮ \\ a_{0,α,0} & ⋮ & & ⋮ \\ a_{0,2N,0} & 0 & … & 0 \end{matrix}) + O (\frac{|z| + 1}{|λ|}) ,

ce qui implique

det (E_{N,1}^{±} (z, λ)) = (1 − za_{0,0,0}) + O (\frac{|z|^{2} + 1}{λ}) (6.3)

et si |z| ≤ M, |z − a_{0,0,0}^{−1}| ≥ \frac{A}{|λ|} alors on a |1 − za_{0,0,0}| ≥ \frac{A}{M|a_{0,0,0}λ|}.

On s’intéresse maintenant aux pôles obtenus pour |z| grand donc dans une région de la forme

\{λ ∈ C ; |z| = |\frac{e^{−2iλd}}{\sqrt{λ}} | > M\}.

On suppose N ≥ 1. Lemme 6.2. — Il existe M > 0, ε > 0 et A > 0 tels que pour tout λ ∈ C tel que M ≤ |z| ≤ ε|λ| on a

|detE_{N,1}^{±} (z, λ)| ≥ A|z|. (6.4)

En effet, ce résultat est conséquence de (6.3).

Ces deux résultats montrent que les zéros en z de l’équation detE^{±}_{N,1}, sous une courbe d’équation |z| ≤ ε|λ| sont tous, si ε est assez petit, dans un voisinage arbitrairement petit de z_{0} = a_{0,0,0}^{−1} (si |λ| est assez grand). Définition 6.3. — Soit (a_{l})_{l∈N^{∗}} une suite d’entiers strictement positifs et (b_{i,l})_{{1≤i≤a_{l} \atop ∈N^{∗}}}, (r_{i,l})_{{1≤i≤a_{l} \atop l∈N^{∗}}} deux suites doubles de complexes et d’entiers strictement positifs respecti-

vement. On notera z_{i,l} = b_{i,l} (λ^{\frac{1}{a_{l}}} )^{r_{i,l}} défini pour Reλ > 0 (On prend la définition

de λ^{\frac{1}{a}} = ϱ^{\frac{1}{a}} e^{\frac{iθ}{a}} si λ = ϱe^{iθ}). On appellera z_{i,l} la suite des pseudoZ associés aux suites A = a_{i,l}, B = b_{i,l} et R = r_{i,l}. Lemme 6.4 (Localisation au voisinage des pseudoZ). — Soit K ∈ N. On choisit N = K^{2}. Il existe des suites A, B et R telles que

– Le nombre de couples (i, l) tels que \frac{r_{i,l}}{a_{l}} ≤ K est inférieur à N

– Il existe ε, η, α > 0 tels que pour tout λ ∈ C tel que M ≤ |z| ≤ |λ|^{K}, on a

∀(i, l), |z^{−1} − z_{i,l}^{−1}| ≥ α |z_{i,l}^{−1}| |λ|^{−ε} ⇒ |detE_{N,1}^{±}(z, λ)| ≥ η|λ|^{−Nε}. (6.5)

On a

det (E_{N,0}^{±} (z, λ)) = z^{N}det (z^{−1}Id − F_{N,o}^{±}) .

6. Démonstration du théorème 1

Notons

P (X, λ^{−1}) = det (XId − F_{N,o}^{±}) .

P est un polynome en X de degré 2N + 1, à coefficients polynomes en λ^{−1}. D’après le théorème de Puiseux, il existe L ∈ N et (a_{l})_{1≤l≤L} tels que ∑_{l} a_{l} = 2N + 1 et que les racines en X de P sont des fonctions ramifiées de λ^{−1}, pour |λ| assez grand. C’est à dire s’écrivent X_{i,l} (λ^{−1}), avec X_{i,l} (λ^{−a_{l}}) = g_{i,l} (λ^{−1}) où les fonctions (g_{i,l})_{{1≤l≤L \atop 1≤i≤a_{l}}} sont holomorphes au voisinage de 0. Au premier ordre, on a donc, si X_{i,l} ≠ 0,

X_{i,l} (λ^{−1}) = b_{i,l} (λ^{\frac{−1}{a_{l}}} )^{r_{i,l}} + O (λ^{\frac{−1}{a_{l}}} )^{r_{i,l}+1} .

On obtient donc, pour ce choix de b_{i,l} et de r_{i,l},

det (E_{N,0}^{±} (z, λ)) = z^{N} ∏_{(i,l)} (z^{−1} − X_{i,l} (λ^{−1}))
⇒ |det (E_{N,0}^{±} (z, λ))| ≥ |z|^{N} ∏_{i,l;X_{i,l}≠0} α|z_{i,l}|^{−1}|λ|^{−ε} × ∏_{i,l ;X_{i,l}=0} |z|^{−1}

or, |z^{−1} − z_{i,l}^{−1}| ≥ α |z_{i,l}^{−1}| ⇒ |\frac{z}{z_{i,l}} | ≥ 1 − α |\frac{z}{z_{i,l}} | ⇒ |\frac{z}{z_{i,l}} | ≥ \frac{1}{1+α} > 0 et donc

det (E_{N,0}^{±} (z, λ)) ≥ β|λ|^{−(2N+1)ε}, β > 0.

(puisque si X_{i,l} ≡ 0, on a toujours |z^{−1}| ≥ α|z^{−1}| si 0 < α < 1.)

Nous allons utiliser la relation

E_{N,1}^{±} (z, λ) = E_{N,0}^{±} (z, λ) (Id + E_{N,0}^{±} (z, λ)^{−1} (E_{N,1}^{±} − E_{N,0}^{±}) (z, λ))

pour calculer le déterminant de E_{N,1}^{±} (z, λ). On a

E_{N,0}^{±} (z, λ)^{−1} = \frac{1}{det (E_{N,0}^{±} (z, λ))}Ẽ_{N,0}^{±}(z, λ),

où Ẽ_{N,0}^{±}(z, λ) est la matrice des cofacteurs :

(Ẽ_{N,0}^{±}(z, λ))_{α,β} = O(\frac{(1 + |z|) × (1 + \frac{|z|}{λ}) × (1 + \frac{|z|}{λ}) × ⋯ × (1 + \frac{|z|}{λ^{N}} )}{(1 + _{\frac{|z|}{λ^{[^{\frac{β+1}{2}}]}}} )}),

donc, pour tout λ tel que 0 < M ≤ |z| ≤ |λ|^{K}, si |λ|^{R−1} < |z| ≤ |λ|^{R},

|(Ẽ_{N,0}^{±}(z, λ))_{α,β}| ≤ (\frac{|z|^{2R+1}}{|λ|^{R^{2}+R}} + 1) × (\frac{1}{1 + _{\frac{|z|}{λ^{[^{\frac{β+1}{2}}]}}}} )

≤ λ^{[^{\frac{β+1}{2}}]} (\frac{|z|^{2R}}{|λ|^{R^{2}+R}} + 1)

≤ λ^{[^{\frac{β+1}{2}}]} |λ|^{K^{2}−K} .

On note P (λ) = Diag (1, λ, λ, ⋯, λ^{N}, λ^{N}). On a donc (E_{N,0}^{±})^{−1} = P (λ) × G_{N,0}^{±} (z, λ) avec

|G_{N,0}^{±} (z, λ)_{α,β}| ≤ C (1 + |\frac{z^{2K}}{λ^{K^{2}+K}} |) × \frac{1}{|det (E_{0,N}^{±})|}.

D’après la relation (5.18), on a

|((E_{N,1}^{±} − E_{N,0}^{±}) × P )_{α,β}| ≤ C |\frac{z}{λ^{N+1}} |

si |\frac{z}{λ^{N+1}} | est assez petit. Or, si ∥G_{N,0} × (E_{N,1}^{±} − E_{N,0}^{±}) × P ∥ ≤ α < 1, on aura

|det (Id + (E_{N,0}^{±})^{−1} (E_{N,1}^{±} − E_{N,0}^{±}))| ≥ f (α) > 0 (6.6)

et

|λ|^{K^{2}−K} × \frac{1}{|det (E_{N,0}^{±})|} × \frac{|z|}{|λ|^{N+1}} ≤ C′ |λ|^{K^{2}−K+Nε+K−(N+1)} ≤ |λ^{Nε−1}| .

Il suffit donc de choisir 0 < ε < 1/N pour démontrer le lemme 6.4.

Les lemmes 6.1 et 6.4 impliquent que si λ est un zéro du déterminant de la matrice E_{N,1}^{±} (λ), alors z (λ) = \frac{e^{−2iλd}}{λ^{1/2}} est nécessairement proche d’un pseudoZ.

6.1.2 Développements asymptotiques

Dans ce qui suit, l’entier N = K^{2} est fixé. Nous allons calculer un développement asymptotique de type C^{∞} à tous les ordres des racines de l’équation det (E_{N,1}^{±}(z)) = 0,

pour |λ| → +∞ et |\frac{z(λ)}{|λ|^{K}} | petit. Définition 6.5. — Pour b ∈ C, a ∈ N^{∗} et r ∈ N^{∗}, on appelle pseudo pôles associés à (b, a, r), les racines λ de partie réelle positive, de l’équation \frac{e^{−2iλd}}{λ^{1/2}} = b (λ^{1/a})^{r}.

L’étude de la fonction λ ↦ \frac{e^{−2iλd}}{b×λ^{\frac{r}{a} +1/2}} montre le résultat suivant : Lemme 6.6. — Il existe C > 0 tel que les pseudopôles tels que |λ| > C forment une suite, λ_{n}^{a,b,r} telle que :

Reλ_{n} = \frac{nπ}{d} − \frac{Arg (b)}{2d} + o (1)

et

Imλ_{n} = (\frac{1}{2} + \frac{r}{a}) × \frac{1}{2d} log (\frac{nπ}{d} ) + log (|b|) + o (1) ,

donc en particulier, on a Imλ_{n} ∼^{n→+∞} (\frac{1}{2} + \frac{r}{a}) × \frac{1}{2d} log (Reλ_{n}), ce qui montre que les pseudopôles sont asymptotiquement sur une courbe logarithmique, de pente (\frac{1}{2} + \frac{r}{a})× \frac{1}{2d}.

On se place dans toute la suite de cette section dans une région U = \{λ; \frac{|z|}{|λ|^{K}} < 1, |λ| > C, η < |z|} avec C assez grand et η > 0. D’après ce qui précède, pour tout ε > 0, il existe C, η > 0 tel que dans cette région, les zéros de l’équation (6.2) sont tous tels que z^{−1} (λ) est tel qu’il existe (i, l) tel que

|\frac{X_{i,l} (λ^{−1})}{z (λ^{−1})} − 1| < ε.

On peut donc supposer, dans le cas où X_{i,l} ≠ 0 qu’on a également

|\frac{z (λ^{−1})}{X_{i,l} (λ^{−1})} − 1| < ε (6.7)

et l’équation (6.7) définit un voisinage des pseudopôles associés au pseudoZ considéré. Si on prend ε > 0 assez petit, on peut supposer que ces voisinages sont distincts, si les pseudoZ le sont. On choisit un pseudoZ, z̃ = bλ^{\frac{−r}{a}}, tel que r/a < K, on note m sa multiplicité (comme pseudoZ), c’est à dire le nombre de fois où z̃^{−1} est la partie principale d’une racine X_{i,l} (λ^{−1}), et on s’intéresse aux λ ∈ U tels que

|\frac{z(λ)}{z̃(λ^{−1})} − 1| < ε

et tels que pour les autre pseudoZ, z′ on a

|\frac{z}{z′} − 1| > ε.

On remplace maintenant E_{N,1}^{±} par l’expression obtenue en tronquant la série (5.18) au rang M, qu’on note E_{N,1,M}^{±}

E_{N,1,M}^{±} = δ_{α,γ} − z( ∑_{γ/2≤i≤M} λ^{−i}k_{i,α,γ} + ∑_{n=1}^{+∞} (\frac{z}{λ^{N+1}} )^{n} ∑_{N+1+γ/2≤p≤M} λ^{−p}k_{n,p,α,γ})

= E_{N,0}^{±} + \frac{z}{λ^{N+1}} A (\frac{z}{λ^{N+1}} , λ^{−1}) ,

donc

det (E_{N,1,M}^{±}) = det (E_{N,0}) + O (\frac{z}{λ^{N+1}} × \frac{z^{2R}}{λ^{R(R+1)}} ) , (6.8)

où R = max\{r ∈ N; \frac{z}{|λ^{r}|} ≥ 1\}. En effet, dans le développement du déterminant, pour obtenir le terme à priori le plus grand, on prend un terme dans la matrice A, par exemple dans la colonne i et les 2N autres termes dans la matrice E_{N,0}. Ces derniers termes sont majorés par \frac{z}{λ^{j}} si le terme vient de la colonne 2j − 1 ou de la colonne 2j et si j ≤ R et majorés par 1 sinon. Comme on ne peut pas prendre ces termes dans la colonne i, on obtient la majoration (6.8).

Dans la suite, pour alléger les notations, on omet l’indice M. D’après ce qui précède, on a dans U,

det (E_{N,1}^{±}) (z, λ) = ∏_{(i,l)} (1 − zz_{i,l}^{−1}) + R (\frac{z}{λ^{N+1}} , λ^{−1}) ,

avec, R (Z, λ^{−1}) une fonction holomorphe en Z pour |Z| assez petit et méromorphe en λ^{−1} au voisinage de (0, 0), c’est à dire telle qu’il existe N_{0} ∈ N tel que la fonction λ^{−N_{0}}r (Z, λ^{−1}) est holomorphe au voisinage de (0, 0). On fait le changement de variables X = \frac{z}{z̃}, et on pose

\begin{aligned}Q (X, λ^{−1}) & = det (E_{N,1}^{±}) (z̃X, λ^{−1}) \\ & = det (E_{N,0}^{±}) + r (X, λ^{−1}) , \end{aligned}

où la fonction r est holomorphe en X, méromorphe en λ^{−1/a} au voisinage de (1, 0) (car \frac{r}{a} < K) et d’après ce qui précède, on a également :

\begin{aligned}|Q (X, λ^{−1})| & ≤ C (\frac{z̃X}{λ^{N+1}} × \frac{(z̃X)^{2R}}{λ^{R(R+1)}} + 1) \\ & ≤ C (\frac{X^{2R+1}}{λ^{N+1}} × \frac{λ^{\frac{r(2R+1)}{a}}}{λ^{R(R+1)}} + 1) \end{aligned}

(on rappelle qu’on peut prendre R = [\frac{r}{a}] ≤ \frac{r}{a}). On cherche à calculer les racines de l’équation Q (X, λ^{−1}) = 0 au voisinage du point (X = 1, λ^{−1} = 0). On notera

D (X, λ^{−1}) = \frac{r (X, λ^{−a})}{∏_{z_{i,l}≠z̃} (1 − \frac{z̃}{z_{i,l}} (λ^{−a}) X)}.

La fonction D est méromorphe en (X, λ^{−1}), au voisinage de (1, 0). En effet, r (X, λ^{−a}) l’est,

∏_{z_{i,l}≠z̃}(1 − \frac{z̃}{z_{i,l}} (λ^{−a}) X) = \frac{1}{(1 − X)^{m}} det (E_{N,0}^{±} (Xz̃(λ^{−a}) , λ^{−a})) .

et z̃(λ^{−a}) est holomorphe en λ^{−1}. Si le pseudoZ près duquel on travaille n’est pas z_{0,0} = a_{0,0}^{−1}, on a aussi

|(1 − \frac{z̃}{z_{0,0}} (λ^{−a}) X)| ≥ C|z|,

ce qui implique

|D (X, λ^{−1/a})| ≤ C (\frac{z̃X}{λ^{N+1}} × \frac{(z̃X)^{2R−1}}{λ^{R(R+1)}} + 1)

≤ C (\frac{X^{2R+1}}{λ^{N+1}} × \frac{λ^{\frac{r(2R)}{a}}}{λ^{R(R+1)}} + 1)

≤ C (X^{2R+1}λ^{\frac{r}{a}^{2}−N−1} + 1)

et si on travaille près de z_{0,0}, alors, on a

|D (X, λ^{−1})| ≤ C |\frac{X^{2R+1}}{λ^{N+1}} | .

Dans tous les cas, la fonction λD (X, λ^{−1}) est bornée au voisinage de (1, 0) ; elle est donc holomorphe sur ce voisinage. La fonction S (X, λ^{−1}) = (1 − X)^{m} + D (X, λ^{−1})

est donc holomorphe en (X, λ^{−1}) au voisinage de(1, 0) et vérifie (\frac{∂}{∂_{X}} )^{i} (S (1, 0)) = 0

(pour 0 ≤ i < m) et (\frac{∂}{∂_{X}} )^{m} (S (1, 0)) ≠ 0. D’après le théorème de préparation de Weierstrass, il existe donc m + 1 fonctions holomorphes en λ^{−1} au voisinage de 0, a_{j} et une fonction c (X, λ^{−1}) holomorphe au voisinage de (1, 0) telle que c (1, 0) ≠ 0, a_{j} (0) = 0 et

S (X, λ^{−1}) = c (X, λ^{−1}) ((1 − X)^{m} + a_{m−1} (λ^{−1}) (1 − X)^{m−1} + ⋯ + a_{0} (λ^{−1})) .

Enfin, le théorème de Puiseux montre que les racines X, de l’équation S (X, λ^{−1}) = 0 sont m fonction algébriques de λ^{−1}, c’est à dire qu’il existe m entiers a_{j} tels que ces racines X_{j} vérifient

X_{j} (λ^{−1}) = 1 + f_{j} (λ^{\frac{−1}{a_{j}}} ) ,

où les f_{j} sont des fonctions holomorphes au voisinage de 0. On écrit à nouveau l’indice M, on a donc le lemme : Lemme 6.7. — Il existe des développements asymptotiques, b_{i,j,M}; j = 1, ⋯ m; i ∈ N^{∗} tels que les solutions, X_{j,M} (λ^{−1}), de l’équation

det (E_{N,1,M}^{±} (bλ^{r/a}X, λ^{−1})) = 0,

telles que |X − 1| ≤ ε (ε > 0 assez petit) vérifient, pour λ assez grand,

X_{j,M} (λ^{−1}) ∼ 1 + ∑_{i∈N^{∗}} b_{i,j,M}λ^{\frac{−i}{a_{j,M}}} ,

avec 1 ≤ a_{j,M} ≤ m.

On va montrer que ces développements asymptotiques ne dépendent, en fait pas de M, jusqu’à un certain rang qu’on peut choisir arbitrairement grand si on choisit M grand. On commence pour cela par supprimer la dépendance en M de a_{j,M} ; et pour cela, il suffit de remplacer a_{j,M} par m!. On s’intéresse ensuite au développement proprement dit. Cette étude a été faite, dans un cadre très proche par C. Gérard [7], annexe A.III.1. On note

P^{M} (X, λ^{−1}) = \begin{matrix}det & (E_{N,1,M}^{±}) & (\frac{X}{X_{i,l}} , λ) \\ ∏ & z_{i,l}≠z̃ & (1 − \frac{z̃}{z_{i,l}} (λ^{−a}) X) \end{matrix}.

On a l’estimation

|P^{M_{1}} (X, λ^{−1}) − P^{M_{2}} (X, λ^{−1})| = O (|λ^{−f(M_{1},M_{2})}) ,

quand λ tend vers l’infini (en restant tel que \frac{z}{λ^{K}} reste petit) et quand |X − 1| reste petit et où f est une fonction qui tend vers l’infini quand M_{1} et M_{2} tendent vers l’infini puisque P^{M_{1}} et P^{M_{2}} sont des polynômes en X et λ^{−1/a} dont les coefficients en λ^{−1/a} coïncident jusqu’à un rang de plus en plus élevé quand on fait tendre M_{1} et M_{2} vers l’infini.

Cette estimation permet d’adapter la démonstration de C.Gérard à notre cadre ; et il est alors facile de voir que l’exposant a_{j,M} ne dépend nécessairement pas de M. Proposition 6.8. — Il existe des développements asymptotiques, c_{i,j}, pour j = 1, ⋯, m et i ∈ N^{∗} tels que, si on note λ_{n} la suite des pseudo-pôles associée à bλ^{\frac{−r}{a}}, et

λ_{j,n}^{M} = λ_{n} + ∑_{i=1}^{M} c_{i,j}λn^{\frac{−r}{aa_{j}}} ,

alors

– Pour tout M ∈ N, il existe n_{0} ∈ N et C_{M} tels que pour n ≥ n_{0}, chacune des boules

\{λ ∈ C; |λ − λ_{j,n}^{M}| ≤ C_{M}|λ_{n}|^{− \frac{Mr}{aa_{j}}} \}

contient un zéro de l’équation

det (E_{N,1}^{±}) = 0,

avec multiplicité, c’est à dire qu’il y a exactement s zéros (comptés avec leur multiplicité) si s des développements asymptotiques précédents coïncident jusqu’à l’ordre M

– Il existe ε′ > 0 et C′ > 0 tels qu’ on a, pour tout λ ∈ C tel que |λ| > C′ et |\frac{e^{−2iλd}}{bλ^{1/2+r/a}} − 1| < ε′,

|λ − λ_{j,n}^{M}| > C_{N}|λ_{n}|^{− \frac{Mr}{aa_{j}}} ⇒ |det (E_{N,1}^{±})| > C′|λ|^{−N(M)}.

avec lim_{M→+∞} N (M) = +∞.

On commence par démontrer le Lemme 6.9. — Soit M ∈ N et ε > 0 assez petit. Il existe alors n_{0} ∈ N tel que pour tout n ∈ N; n ≥ n_{0} et tout j ∈ {1, ⋯, m}, les solutions de l’équation

\frac{e^{−2iλd}}{λ^{1/2+r/a}} − X_{j,M} (λ^{−1}) = 0 (6.9)

forment une suite, notée λ_{n,M}, qui vérifie |λ_{n,M} − λ_{n}| < ε.

En effet, d’après ce qui précède, il est clair que si n_{0} est grand alors les solutions sont dans un ε voisinage des pseudopôles λ_{n}. L’équation (6.9) peut aussi s’écrire, en notant ζ = λ − λ_{n},

\frac{e^{−2iζd}}{(1 + λ_{n}^{−1}ζ)^{1/2+r/a}} − X_{j,M} (λ_{n}^{−1} (1 + λ_{n}^{−1}ζ)^{−1}) = 0

et la fonction

H_{M} : (ζ, μ) ↦ \frac{e^{−2iζd}}{(1 + μ^{aa_{j}}ζ)^{1/2+r/a}} − X_{j,M} ((μ (1 + μ^{aa_{j}}ζ)^{−1/aa_{j}})^{aa_{j}})

est une fonction holomorphe de (ζ, μ) au voisinage de (0, 0) qui vérifie H_{M} (0, 0) = 0 et ∂_{ζ}H_{M} (0, 0) = −2id ≠ 0. Le théorème des fonctions implicites implique donc qu’il existe une fonction holomorphe ζ_{M} (μ) définie au voisinage de 0 dans C, telle qu’au voisinage de (0, 0) dans C, les solutions de l’équation H_{M} (ζ, μ) = 0 s’ecrivent (ζ_{M} (μ) , μ) ; ce qui implique, si n_{0} est assez grand et ε > 0 assez petit que les solutions de l’équation (6.9) s’écrivent

λ_{n,M} = λ_{n} + ζ_{M} (λ_{n}^{−1/aa_{j}}) .

Enfin, comme X_{j,M} (λ^{−1}) − X_{j,M′} (λ^{−1}) = O (λ^{− \frac{min\{M,M′\}+1}{a}} ), on a également λ_{n,M} −

λ_{n,M′} = O (λ^{− \frac{min\{M,M′\}}{a}} ). Nous avons donc montré le Lemme 6.10. — Il existe ε > 0 et C > 0 tels que les racines de l’équation

det (E_{N,1,M} (\frac{e^{−2iλd}}{λ^{1/2}} , λ)) ,

qui vérifient

|\frac{e^{−2iλd}}{λ^{1/2+r/a}} − 1| < ε

et telles que |λ| > C sont données par les relations λ = λ_{n} + ζ_{j,M} (λ_{n}^{− \frac{1}{aa_{j}}} ) =^{def} λ_{j,n,M}.

Corollaire 6.11. — Il existe ε > 0 tel que pour tout K ∈ N, il existe K′ ∈ N tel que pour tout λ tel que |\frac{e^{−2iλd}}{λ^{1/2+r/a}} − 1| < ε (donc tel qu’il existe n avec |λ − λ_{n}| < ε′), et pour tout C > 0, il existe C_{K,M} tel que

|λ − λ_{n,M}| > Cλ_{n}^{−K} ⇒ |detE_{N,1,M}^{±} (\frac{e^{−2iλd}}{λ^{1/2}} , λ)| ≥ C_{K,M}λ_{n}^{−K′}.

Dans ce résultat, le seul point qui ne soit pas clair est que l’entier K′ ne dépend que de K et pas de M. Ceci vient de ce que l’ordre d’annulation de detE_{N,1,M}^{±} (\frac{e^{−2iλd}}{λ^{1/2}} , λ) au point λ = λ_{n,M} est au plus m et est donc indépendant de M.

Nous allons maintenant compter les racines de l’équation det (E_{N,1}^{±}) = 0. On rappelle qu’on a, pour tout λ ∈ C tel que |e^{−2iλd}| ≤ ε|λ|^{N+1}, avec ε > 0 assez petit,

∥E_{N,1}^{±} − E_{N,1,M}^{±}∥ ≤ C_{M}|λ|^{N+1−(M+1)} (6.10)

et

∥E_{N,1}^{±}∥ ≤ C|λ|^{N+1}, (6.11) on a donc aussi

|det (E_{N,1}^{±}) − det (E_{N,1,M}^{±})| ≤ C_{M}|λ|^{2N(N+1)+N−M}.

Soient K ∈ N fixé et C, le cercle centré en λ_{n,M} et de rayon |λ_{n}|^{−K}. D’après ce qui précède, si M et n sont assez grands alors le déterminant de E_{N,1}^{±} ne s’annule pas sur C et d’après les formules de Cauchy et (6.10), (6.11) on a, sur C

|T r (\frac{d}{dλ}E_{N,1}^{±}) (det (E_{N,1}^{±})) − T r (\frac{d}{dλ}E_{N,1,M}^{±}) (det (E_{N,1}^{±}))|

≤ C_{M} (|λ_{n}|^{K′+N−M} + |λ_{n}|^{N+1+K′+2N(N+1)+N−M}) ,

donc, le nombre de zéros de l’équation det (E_{N,1}^{±}) = 0 situés à l’intérieur de C qui vaut

s = \frac{1}{2πi} ∫_{C} (\frac{d}{dλ} (detE_{N,1}^{±})) (detE_{N,1}^{±})^{−1} dλ,

est arbitrairement proche (si on prend M suffisament grand) de

s′ = \frac{1}{2πi} ∫_{C} (\frac{d}{dλ} (detE_{N,1,M}^{±})) (detE_{N,1,M}^{±})^{−1} dλ,

donc, si n est assez grand, ces deux entiers sont égaux. Enfin, comme le développement en puissances de λ_{n}^{−1/a} à l’ordre K de λ_{n,M} est égal à λ_{n}^{K}, si M est assez grand, on obtient la proposition 6.8. Remarque 6.12. — La proposition 6.8 reste vraie si on remplace maintenant la matrice E_{N,1}^{±} tronquée (celle dont on a soustrait la matrice R (λ)) par la vraie matrice E_{N}^{±}, 1 où par la matrice E^{±}, puisque ces matrices diffèrent d’un terme négligeable et que le dernier argument reste vrai.

6.2 Démonstration du théorème 1

6.2.1 Rappels sur les problèmes elliptiques dans les coins et les potentiels de simple couche

On considère, dans cette partie Θ, un obstacle borné de R^{2} vérifiant les hypothèses de l’introduction. On suppose que l’ouvert Ω est de la forme Ω^{i} ou Ω^{e}. On notera Γ = ∂Ω \ K, le bord de l’ouvert Ω dont on a retiré les coins. L’ensemble Γ est donc réunion disjointe d’ensembles Γ_{i}, difféomorphes soit à la sphère S^{1} soit à des segments de R ouverts. Définition 6.13. — On notera H^{1/2} (Γ) = ⊕_{i}H^{1/2} (Γ_{i}) et H^{−1/2} (Γ) = ⊕_{i}H^{−1/2} (Γ_{i}) son dual.

Il est alors démontré par P. Grisvard dans [9] et [10] que l’application

\begin{matrix}C_{0}^{∞} (\overline{Ω}) & → H^{1/2} (Γ) \\ u & ↦ u |_{Γ} \end{matrix}

se prolonge de manière unique en une application continue et surjective de H^{1} (Ω) dans H^{1/2} (Γ), qu’on notera u |_{Γ}. On a aussi le Lemme 6.14. — Pour tout u ∈ H^{1} (Ω) tel que Δu ∈ L^{2} (Ω), on peut définir une trace \frac{∂u}{∂n} |_{Γ}∈ H^{−1/2} (Γ) telle que pour tout v ∈ H^{1} (Ω), on a

∫_{Ω} ∇u · ∇v = ∫_{Ω} Δuv + ⟨\frac{∂u}{∂n}, v⟩,

où ⟨·, ·⟩ désigne le crochet de dualité entre H^{1/2} et H^{−1/2}.

En effet, il est démontré dans [20] que, si u, v ∈ H^{1} (Ω), on a

∫_{Ω} u∂_{x_{i}}v + v∂_{x_{i}}u = ∫_{Γ} uvν_{i}dσ,

où ν_{i} désigne la ième composante du vecteur normal extérieur. On en déduit que, si u ∈ H^{2} (Ω) et v ∈ H^{1} (Ω),

∫_{Ω} ∇u · ∇v − ∫_{Ω} Δuv = ∫_{Γ} \frac{∂u}{∂n}vdσ = ⟨\frac{∂u}{∂n}, v⟩.

Comme d’après [9], l’espace H^{2} (Ω) est dense dans l’espace {u ∈ H^{1} (Ω) ; Δu ∈ L^{2} (Ω)}, on en déduit le lemme. (On a ici identifié H^{−1/2} (Γ) avec un espace de distributions, via la mesure dσ).

Pour u ∈ H = H^{1} (Θ^{c}) ⊕ H^{1}(Θ^{∘}), on notera [u] ∈ H^{1/2} (Γ) le saut entre les deux traces de la distribution u, [u] = u |_{∂Θ^{∘}} −u |_{∂Θ^{c}}. On remarque que le noyau de l’opérateur

\begin{cases}Tr : H & → H^{1/2} (Γ) \\ u & ↦ [u] \end{cases}

qui est linéaire, continu et d’après [9] surjectif, est l’espace H^{1} (R^{2}). En effet, cet espace est clairement inclus dans ce noyau, et si (u, v) ∈ Ker (T r), la fonction \underline{(u, v)} de L^{2} (Ω) valant u sur Ω^{e} et v sur Ω^{i} vérifie ∇\underline{(u, v)} = \underline{(∇u, ∇v)} au voisinage de tout point de R^{2} qui n’est pas un coin, d’après la formule des sauts, et la différence de ces deux distributions est donc un élément de H^{−1} (R^{2}) supporté par les coins. Comme δ ∉ H^{−1} (R^{2}), cette différence est nulle et donc ∇\underline{(u, v)} = \underline{(∇u, ∇v)} ∈ L^{2} (Ω).

On notera V = {u ∈ H^{1} (R^{2}) ; Δu + λ^{2}u = 0 dans Ω^{e} ∪ Ω^{i}}. La forme sesquilinéaire

b (u, v) = ∫_{Θ^{c}∪Θ^{∘}} ∇u∇\overline{v} − λ^{2}u\overline{v}

est coercive sur H^{1} (R^{2}), pour tout λ ∈ C^{−}, et, pour g ∈ H^{−1/2} (Γ), la forme linéaire L_{g} définie sur H^{1} (R^{2}) par

L_{g} (v) = ∫_{Γ} gv

est continue. On en déduit que, pour tout λ ∈ C^{−} et tout g ∈ H^{−1/2} (Γ), il existe une solution unique dans H^{1} (R^{2}) du système

\begin{cases}(Δ + λ^{2}) u & = 0 dans Θ^{c} ∪ Θ^{∘}, \\ [∂_{n}u] & = g. \end{cases}

On note u = u_{N} (g) cette solution.

En considérant aussi la forme sesquilinéaire b sur V et la forme linéaire L^{φ} (v) = ∫_{Γ} [\frac{∂v}{∂n}] φ, on montre que pour tout λ ∈ C^{−} et tout φ ∈ H^{1/2} (Γ), il existe une solution unique dans V du système :

\begin{cases}(Δ + λ^{2}) u & = 0 dans Θ^{c} ∪ Θ^{∘}, \\ u |_{Γ} & = φ. \end{cases}

On note u = u_{D} (φ) cette solution.

La distribution u_{N} vérifie (dans D′ (R^{2}))

(Δ + λ^{2}) u_{N} (g) = g ⊗ δ_{Γ}. (6.12)

Chacun des termes est un élément de H^{−1} (R^{2}). En effet, c’est évident pour (Δ + λ^{2}) u_{N} puisque u_{N} ∈ H^{1} (R^{2}), et g ⊗ δ_{Γ} ∈ H^{−1} (R^{2}) puisque g ∈ H^{−1/2} (Γ) et l’application de trace envoie H^{1} (R^{2}) dans H^{1/2} (Γ). La différence de ces deux termes est donc une distribution de H^{−1} (R^{2}) supportée par les coins, elle est donc nulle.

On note T et S, les opérateurs définis, pour λ ∈ C^{−} par :

\{ \begin{matrix}T : H^{1/2} (Γ) & → H^{−1/2} (Γ) \\ φ & ↦ [∂_{n}u_{D} (φ)] \end{matrix}

et

\{ \begin{matrix}S : H^{−1/2} (Γ) & → H^{1/2} (Γ) \\ g & ↦ u_{N} (g) \end{matrix}

Il est clair que les opérateurs S et T sont inverses l’un de l’autre.

On note g_{r} (x, y, λ), le noyau distribution de la résolvante sortante libre du Laplacien, R_{0} (λ) :

(Δ + λ^{2}) u = v, u sortante,

on a donc, d’après (6.12),

S (g) = ∫_{Γ} g_{r} (x, y, λ) g (y) dσ (y) , (6.13)

pour tout g ∈ H^{−1/2} (Γ). Enfin, il est bien connu que la résolvante sortante libre possède un prolongement analytique à C \ iR^{+} (au revêtement simplement connexe de C^{∗} en fait), la relation (6.13) va donc nous permettre de définir un prolongement analytique pour l’opérateur S à C \ iR^{+}.

On rappelle d’abord quelques propriétés du noyau distribution gr (x, y, λ) : on a

gr (x, y, λ) = \frac{1}{2} ∫_{−∞}^{+∞} e^{−iλcht|x−y|}dt (6.14)

et, si on note z = |x − y|, il existe deux fonctions holomorphes sur C, R_{1;2} telles que

gr (x, y, λ) = log (iz) R_{1} (z^{2}) + R_{2} (z^{2}) .

Soit n (x, y, λ) = gr (x, y, λ) − gr (x, y, −i). On a donc

(6.15) n (x, y, λ) = log (iλ) R_{1} (z^{2}) + R_{2} (z^{2}) − R_{2} (− (x − y)^{2})

+ \frac{1}{2} log ((x − y)^{2}) (R_{1} (z^{2}) − R_{1} (− (x − y)^{2})) .

La singularité du noyau n (x, y, λ) est donc en log ((x − y)^{2}) (x − y)^{2}. Si on dérive une fois par rapport à x, y, la singularité du noyau est en |x − y| log ((x − y)^{2}) qui est de classe L^{2} (Γ × Γ) et si on dérive deux fois, la singularité du noyau est en log ((x − y)^{2}) qui est aussi de classe L^{2} (Γ). L’opérateur de noyau 1_{x∈Γ}n (x, y, λ) 1_{y∈Γ} est donc continu de ⊕_{i}H^{−1} (Γ_{i}) dans ⊕_{i}H^{1} (Γ_{i}) donc aussi de H^{−1/2} (Γ) dans H^{1/2} (Γ). En dérivant par rapport à λ le noyau n et en faisant le même raisonnement, on obtient que le noyau n (x, y, λ) est le noyau d’une famille holomorphe dans C \ iR^{+} d’opérateurs bornés de H^{−1/2} (Γ) dans H^{1/2} (Γ). La relation

S (λ) (u) = S (−i) (u) + ∫_{Γ} n (x, y, λ) u (y) dσ

permet donc de définir un prolongement analytique pour la famille d’opérateurs S (λ). (En fait on a même prolongé au revêtement simplement connexe de C \ {0}). On a en plus montré que l’opérateur S (λ) − S (−i) est compact de l’espace H^{−1/2}(Γ) dans l’espace H^{1/2}(Γ). Finalement, on a

S (λ) = S (−i) (Id + T (−i) (S (λ) − S (−i))) = S (−i) (Id + K (λ)) ,

où l’opérateur K (λ) est un opérateur compact de H^{−1/2} (Γ) dans lui même. On en déduit, d’après le théorème de Fredholm analytique (voir [26], Théorème VI.14), que soit l’opérateur Id+K (λ) n’est jamais inversible sur H^{−1/2}(γ), soit il possède un inverse méromorphe, dans C \ iR^{+}. Comme cet opérateur est toujours inversible pour Imλ < 0 (son inverse est alors T (λ) S (−i)), on est dans le deuxième cas, ce qui montre le Lemme 6.15. — La famille d’opérateurs bornés de H^{1/2} (Γ) dans H^{−1/2} (Γ), T (λ), holomorphe pour Imλ < 0 se prolonge en une famille méromorphe sur l’ensemble C\iR d’opérateurs continus de H^{1/2} (Γ) dans H^{−1/2} (Γ), qu’on note encore T (λ).

On choisit maintenant Θ = Θ_{1;2}. La construction précédente permet de définir des opérateurs T_{i} (λ), S_{i} (λ). On notera

H̃_{i} (λ) = R_{0} (λ) (δ_{Γ_{i}} ⊗ T_{i} (λ)) . (6.16)

On a

\begin{cases}(Δ + λ^{2}) H̃_{i}φ & = 0 dans Θ_{i}^{c} ∪ Θ_{i}^{∘}, \\ [\frac{∂H̃_{i}φ}{∂n}] & = T (λ) φ = [\frac{∂u_{D,i} (φ)}{∂n}] . \end{cases}

On en déduit que, pour Imλ < 0, on a H̃_{i}φ = u_{D,i} (φ) donc vérifie H̃_{i} (φ) |_{∂Θ_{i}}= φ et par prolongement analytique, cette égalité reste vérifiée partout ou H̃_{i} est définie. On note H_{i} = H̃_{i} |_{Θ_{i}^{c}}. On vérifie facilement que cette définition coïncide avec la définition de H_{1;2} du chapitre 3. Enfin, en étudiant le noyau de l’opérateur R_{0} il est facile de voir que l’opérateur H_{i} envoie L^{2} (Γ_{i}) dans H_{loc}^{1} (Θ_{i}^{c}); et qu’on a

H = H_{2}γ_{2}H_{1} et M = γ_{1}H_{2}γ_{2}H_{1}.

6.2.2 Dilatation analytique

On va utiliser, dans cette partie, une idée de dilatation analytique due à J. Sjöstrand pour montrer que les pôles de diffusion coïncident avec les points où l’opérateur Id − M n’est pas inversible. On reprend ici une méthode de C. Gérard, en la modifiant légèrement pour qu’elle s’adapte à notre cadre.

On notera R^{2}, une déformation de R^{2} égale à e^{−iθ}R^{2} (θ > 0) hors d’un voisinage de Θ. On prolonge analytiquement la noyau gr à D′ (R^{2}) en posant dans (6.14), |x − y| = ((x − y)^{2})^{1/2}. La résolvante sortante libre du Laplacien sur R^{2}, S_{0} admet un prolongement à L^{2} (Γ), holomorphe pour |Imλ| < ε|λ|, ε > 0 assez petit, puisqu’alors, d’après (6.14), le noyau distribution gr (x, y, λ) est exponentiellement décroissant

|gr (x, y, λ) | ≤ Ce^{−|λ||x−y|/C}.

La relation 6.16 montre que les opérateurs H_{i} admettent également un prolongement méromorphe comme opérateurs continus de L^{2}(Γ) dans L^{2} (R^{2}) et comme les résolvantes tronquées R_{i} associées à chacun des obstacles Θ_{i} n’ont pas de pôles dans des ouverts U_{A,B}, il en est de même pour les opérateurs H_{i} (la déformation est égale à l’identité au voisinage de Θ et il est classique que les pôles des opérateurs T et ceux des résolvantes tronquées sont les mêmes). Dans toute la suite, on se placera dans U_{A,B}.

La résolvante sortante du problème :

\begin{cases}(Δ + λ^{2}) u & = v dans Θ^{c}, \\ u |_{∂Θ} & = 0 \end{cases} (6.17)

s’écrit

u = R (λ) v = R_{0} (λ) v − R_{0} (λ) (δ_{Γ} ⊗ T (λ)) γR_{0} (λ) v,

où on a noté γ l’opérateur de trace sur ∂Θ = Γ.

On choisit une courbe fermée de C, C, ne rencontrant pas l’ensemble des pôles de l’opérateur T. Puisque \frac{1}{2πi} ∫_{C} −2λS (λ) dΛ est le projecteur spectral associé aux pôles de S (λ) à l’intérieur de C, le nombre de pôles de l’opérateur R situés à l’intérieur de la courbe C est

\begin{aligned}m (C) & = Tr (\frac{1}{2πi} ∫_{C} −2λR (λ) dλ) \\ & = Tr (\frac{1}{2πi} ∫_{C} 2λR_{0} (λ) (δ_{Γ} ⊗ T (λ)) γR_{0} (λ)) . \end{aligned} (6.18)

On remarque maintenant que l’opérateur R_{0} (λ) (δ_{Γ} ⊗ Id) a pour noyau distribution la fonction gr (x, y, λ) 1_{y∈Γ} qui appartient à L^{2} (R^{2} × Γ) (puisque à l’infini, il est exponentiellement décroissant et en x = y, sa singularité est en log (|x − y|)), et l’opérateur γR_{0} (λ) a également un noyau de classe L^{2} (Γ × R^{2}). L’opérateur R_{0} (λ) (δ_{Γ} ⊗ Id) (respectivement γR_{0} (λ)) est donc de Hilbert Schmidt de L^{2} (Γ) dans L^{2} (R^{2}) (respectivement de L^{2} (R^{2}) dans L^{2} (Γ)) ; l’opérateur R_{0} (λ) (δ_{Γ} ⊗ T (λ)) γR_{0} (λ) est donc à trace sur L^{2} (R^{2}). On peut donc dans (6.18) rentrer l’opérateur de trace sous l’intégrale :

m (C) = (\frac{1}{2πi} ∫_{C} 2λTr (R_{0} (λ) (δ_{Γ} ⊗ T (λ)) γR_{0} (λ))) .

On a, partout où l’opérateur (Id − M)^{−1} existe,

R_{0} (λ) (δ_{Γ} ⊗ T (λ)) γR_{0} (λ)

= (H_{1} (Id − M)^{−1} − H_{2}γ_{2}H_{1} (Id − M)^{−1}) γ_{1}R_{0} (λ)

+ (H_{2} − H_{1} (Id − M)^{−1} γ_{1}H_{2} + H_{2}γ_{2}H_{1} (Id − M)^{−1} γ_{1}H_{2}) γ_{2}R_{0} (λ) .

Comme l’opérateur H_{2} est holomorphe, on a donc

m (C) = \frac{1}{πi} ∫_{C} λTr (H_{1} (Id − M)^{−1} γ_{1}R_{0} (λ))

− \frac{1}{πi} ∫_{C} λTr (H_{2}γ_{2}H_{1} (Id − M)^{−1} γ_{1}R_{0} (λ))

− \frac{1}{πi} ∫_{C} λTr (H_{1} (Id − M)^{−1} γ_{1}H_{2}γ_{2}R_{0} (λ))

+ \frac{1}{πi} ∫_{C} λTr (H_{2}γ_{2}H_{1} (Id − M)^{−1} γ_{1}H_{2}γ_{2}R_{0} (λ))

= (1) + (2) + (3) + (4) .

Le nombre de zéros du déterminant de l’opérateur E^{±} situés à l’intérieur de la courbe C est égal si ce déterminant ne s’annule pas sur la courbe C, à

n (C) = \frac{1}{2iπ} ∫_{C} \frac{d}{dλ} (detE^{±}) × (detE^{±})^{−1} dλ.

Or, en dérivant l’équation

(\begin{matrix}Id − M & P_{N} \\ G_{N} & 0 \end{matrix}) (\begin{matrix}E^{0} & E^{+,−} \\ E^{−,+} & E^{±} \end{matrix}) = (\begin{matrix}Id & 0 \\ 0 & Id \end{matrix}) ,

on obtient

\frac{d}{dλ}E^{±} = (E^{−,+} \frac{d}{dλ}M − E^{±} \frac{d}{dλ}G_{N}) E^{+,−},

ce qui implique

n (C) = \frac{1}{2iπ} ∫_{C} Tr (E^{−,+} \frac{d}{dλ}M − E^{±} \frac{d}{dλ}G_{N}E^{+,−} (E^{±})^{−1}) dλ

(tous les opérateurs précédents sont à trace puisque E^{±} et E^{−,+} sont de rangs finis). Comme les opérateurs G_{N} et E^{+,−} sont holomorphes, on a

\begin{aligned}n (C) & = \frac{1}{2iπ} ∫_{C} Tr (E^{−,+} \frac{d}{dλ}ME^{+,−} (E^{±})^{−1}) dλ \\ & = \frac{1}{2iπ} ∫_{C} Tr (\frac{d}{dλ}ME^{+,−} (E^{±})^{−1} E^{−,+}) dλ, \end{aligned}

or, on a (Id − M)^{−1} = E^{0} − E^{+,−} (E^{±})^{−1} E^{−,+}, on en déduit que

(6.19) n (C) = \frac{1}{2iπ} Tr (∫_{C} \frac{d}{dλ}M (Id − M)^{−1} dλ) .

Comme \frac{d}{dλ}M = −2λ (γ_{1}R_{2}H_{2}γ_{2}H_{1} + γ_{1}H_{2}γ_{2}R_{1}H_{1}) et comme γ_{1}R_{2} = γ_{1}R_{0} −γ_{1}H_{2}γ_{2}R_{0}, on obtient

\frac{1}{iπ} Tr ∫_{C} λ (γ_{1}R_{2}H_{2}γ_{2}H_{1}) = \frac{1}{iπ} Tr (∫_{C} λγ_{1}R_{0}H_{2}γ_{2}H_{1} (Id − M)^{−1})

+ \frac{1}{iπ} Tr (∫_{C} λγ_{1}H_{2}γ_{2}R_{0}H_{2}γ_{2}H_{1} (Id − M)^{−1})

= (2) + (4)

et comme γ_{2}R_{1} = γ_{2}R_{0} − γ_{2}H_{1}γ_{1}R_{0}, la contribution à (6.19) du premier terme est égale à (3) et celle du second terme à

\frac{1}{iπ} Tr (∫_{C} γ_{1}H_{2}γ_{2}H_{1}γ_{1}R_{0}H_{1} (Id − M)^{−1}) = \frac{1}{iπ} Tr (∫_{C} Mγ_{1}R_{0}H_{1} (Id − M)^{−1}) . (6.20)

On peut dans (6.20) rentrer l’opérateur de trace sous le signe somme puisque les noyaux des opérateurs γ_{1}R_{0} et H_{1} sont de classe L^{2} (Γ × R) et L^{2} (R × Γ) respectivement (on écrit pour voir cela H_{1} = R_{0} (δ_{Γ} ⊗ T_{1}), où l’opérateur T_{1} est l’opérateur T associé à Ω = Θ_{1}^{c}); on obtient

\frac{1}{iπ} Tr (∫_{C} λγ_{1}H_{2}γ_{2}H_{1}γ_{1}R_{0}H_{1} (Id − M)^{−1})

\begin{matrix}= \frac{1}{iπ} ∫_{C} λTrγ_{1}R_{0}H_{1} (Id − M)^{−1} (M − Id + Id) \\ = \frac{1}{iπ} Trλ (∫_{C} H_{1} (Id − M)^{−1} γ_{1}R_{0}dλ) = (1) . \end{matrix}

Nous avons donc montré que le nombre de pôles de R (λ) situés à l’intérieur d’une courbe fermée de C, C, est aussi égal au nombre de zéros du determinant de E^{±} situés à l’intérieur de C; ce qui montre que les pôles de l’opérateur R sur L^{2} (Γ) et les zéros du déterminant de l’opérateur E^{±} dont nous avons calculés les développements asymptotiques à la section précédente, sont les mêmes, avec multiplicité.

Pour terminer la démonstration du théorème 1, il suffit maintenant de montrer que les pôles de l’opérateur R (λ), sur L^{2} (R^{2}) sont (avec multiplicité) les pôles de la résolvante sortante du Laplacien, considérée de L_{comp}^{2} (Θ^{c}) dans H_{0,loc}^{1} (\overline{Θ^{c}}) (qui est l’opérateur R, mais considéré comme opérateur de L_{comp}^{2} (Θ^{c}) dans H_{0,loc}^{1} (\overline{Θ^{c}})).

On note r (x, y, λ) son noyau distribution. On considère, pour x, y ∈ R^{2}, si la courbe C est une courbe fermée ne rencontrant pas les pôles de l’opérateur R sur L^{2} (R)

Π_{C} = \frac{1}{2πi} ∫_{C} R (λ) dλ.

On a, puisque R_{0} est holomorphe, et d’après (6.17),

Π_{C} = \frac{1}{2πi} ∫_{C} R_{0}(δ_{Γ} ⊗ K(λ)γR_{0}) (λ) dλ (6.21)

et, si on note h (x, y, λ) le noyau distribution de l’opérateur sous le signe somme,

h (x, y, λ) = \frac{1}{2πi} ∫_{C} ∫_{Γ^{3}} gr (x, u, λ) k (u, v, λ, λ_{0}) t (v, w, λ_{0}) gr (w, y, λ) dudvdw, (6.22)

où on a noté k le noyau distribution de K. (Cette expression a un sens puisque, le noyau k est de classe L^{2} et les noyaux gr(x, y)1_{y∈Γ} et gr(x, y)1_{x∈Γ} sont de classe L^{2} en y et x respectivement.)

Le noyau Π_{C} (x, y, λ) est donc holomorphe pour (x, y) dans un ouvert connexe de l’espace (C^{2} \ Θ^{c})^{2} contenant (R^{2} \ Θ^{c})^{2} et (R^{2} \ Θ^{c})^{2}. Par prolongement analytique, s’il est identiquement nul sur (R^{2} \ Θ^{c})^{2}, il l’est donc aussi sur (R^{2} \ Θ^{c})^{2} et réciproquement. Comme les courbes C contenant des pôles de l’opérateur R sont celles pour lesquelles l’opérateur Π_{C} n’est pas nul, nous avons montré que s’il y a des pôles de l’opérateur R sur L^{2}(Γ) à l’intérieur de la courbe C, il y a aussi des pôles de l’opérateur R de L_{comp}^{2}(R^{2}) dans H_{loc}^{1}(R, 2) à l’intérieur de la courbe C. Le seul problème restant à traiter est donc celui de la multiplicité.

Sur L^{2} (Γ), l’opérateur Π_{C} est un projecteur. On a donc trace (Π_{C}) = rang (Π_{C}) et il existe deux systèmes de fonctions φ_{j} et Ψ_{j} indépendantes dans L^{2} (R^{2}), telles que pour x, y ∈ R^{2},

Π_{C} (x, y) = ∑_{j=1}^{m(C)}φ_{j} (x) \overline{Ψ_{j} (\overline{y})}. (6.23)

On commence par montrer que les fonctions φ_{j} et Ψ_{j} admettent un prolongement analytique dans un voisinage complexe de R^{2} contenant R^{2}\Θ^{c}. En effet, comme Π_{C} (φ_{i}) = φ_{i}, on a

φ_{i} (x) = ∫_{R^{2}} Π_{C} (x, y) φ_{i} (y) dy. (6.24)

Il suffit donc de montrer que le terme de droite admet un prolongement analytique en x. Or, les relations (6.21) et (6.22), la forme explicite du noyau gr (x, y, λ) et celle du noyau n (x, y, λ) (voir (6.15)), montrent que le noyau Π (x, y) est, uniformément par rapport à x dans un voisinage complexe de R^{2} contenant R^{2}, de classe L^{2} en y ∈ R^{2} ; ce qui montre que la relation (6.24) fournit un prolongement analytique pour la fonction φ (x). En considérant l’opérateur adjoint de Π_{C}, on obtient le même résultat en ce qui concerne les fonctions Ψ_{j}. La relation (6.23) est donc, par prolongement analytique, vérifiée pour x, y dans un ouvert connexe de C^{2} contenant R^{2} \Θ^{c} et R^{2} \Θ^{c}, et les fonctions φ_{j} sont également, toujours par prolongement analytique, indépendantes sur le réel, ce qui montre que la résolvante R a exactement n (C) pôles à l’intérieur de la courbe C.

6.3 Décroissance de l’énergie locale des solutions de l’équation des ondes

Nous présentons dans cette section une application simple de notre résultat à l’étude en grand temps de l’énergie locale des solutions de l’équation des ondes dans l’ouvert Ω = Θ^{c}. On a, partout où l’opérateur Id − M est inversible,

R (λ) = R_{0} (λ) − (H_{1} − H_{2}γ_{2}H_{1}) (Id − M)^{−1} (γ_{1}R_{0} + γ_{1}H_{2}γ_{2}R_{0}) − H_{2}γ_{2}R_{0}

et si l’opérateur E^{±} est inversible, alors l’opérateur Id − M aussi et

(Id − M)^{−1} = E_{N}^{0} − E_{N}^{+,−} (E_{N}^{±})^{−1} E_{N}^{−,+}.

On déduit de cette relation et des estimations (5.34), (5.35), (6.4) et (6.5), que pour tout ε > 0 il existe N > 0 tel que pour tout C > 0 et tous χ_{1}, χ_{2} ∈ C_{0}^{∞} (R^{2}), il existe A > 0 tel que, pour tout λ ∈ C; Imλ < C et tel que la distance de λ à la réunion de l’ensemble des pôles et de {0} est supérieure à ε,

∥χ_{2}R (λ) ∘ χ_{1}∥_{L(L^{2}(Ω);H_{0}^{1}(Ω))} ≤ A|λ|^{N}. (6.25)

On va utiliser l’estimation (6.25) pour déformer dans la relation

χ_{2}U (t) χ_{1}f = ∫_{−∞}^{+∞} e^{iλt}χ_{2}R (λ) χ_{1}fdλ,

le contour d’intégration réel sur un contour dans Imλ = C.

Soient φ ∈ C_{0}^{∞} (R) égale à 1 au voisinage de 0. On suppose que le support de φ est inclus dans B (0, ε) et on note φ_{t} (s) = φ (t + s). On a, pour ψ ∈ C_{0}^{∞} (R^{3}),

\begin{aligned}⟨φ_{t}χ_{2}U (s) χ_{1}f, ψ (s, t)⟩ & = ∫_{s} ∫_{λ} e^{iλs}φ_{t} (s) χ_{2} (x) R (λ) (χ_{1}f) ψ (s, x) dxdλ \\ & = ∫_{s} ∫_{λ} e^{iλs}χ_{1}R (λ) (χ_{1}f) (\frac{i∂}{λ∂s})^{N+2} (φ_{t} (s) ψ (s, x)) dsdxdλ. \end{aligned}

Soit C′ < C. On suppose que l’ensemble [iC′, iC′ + ∞[ reste à distance ε > 0 de l’ensemble des pôles, qu’il en est de même de ] − ∞ + iC′, iC′] (dans l’autre feuillet du revêtement simplement connexe de C^{∗} ou on fait la déformation) et qu’il n’y a pas de pôle vérifiant C′ < Imλ < C (c’est possible car l’ensemble des pôles situés sous la droite Imλ < C est fini). Si m > N + 1, on peut déformer le contour d’intégration réel sur le contour γ suivant: où on a choisi la partie γ_{0} du contour γ qui n’est pas

Reλ Imλ C′ C

Fig. 6.1 – Contour de déformation

dans Imλ = C′ telle qu’elle ne rencontre pas l’ensemble des pôles et telle qu’elle reste dans |λ| < C. Quand on fait cette déformation, il apparaît la contribution des pôles situés entre l’axe réel et le contour γ. On note {λ_{i}, i = 1, ⋯, I} l’ensemble de ces pôles, on a alors

⟨φ_{t}χ_{2}U (s) χ_{1}f, ψ (s, x)⟩

= ∫_{s} ∫_{λ∈γ} e^{iλs}χ_{2}R (λ) (χ_{1}f) (\frac{i∂}{λ∂s})^{N+2} (φ_{t} (s) ψ (s, x)) dsdxdλ

+ ∑_{i=1}^{I} ∫_{s} ∫_{λ∈C(λ_{i},ε)} e^{iλs}χ_{2}R (λ) (χ_{1}f) (φ_{t} (s) ψ (s, x)) dsdxdλ.

On décompose la première intégrale en somme de deux termes correspondant aux contributions de γ_{0} et de γ \ γ_{0}. On a donc

|∫_{s} ∫_{λ∈γ\γ_{0}} e^{iλs}χ_{1}R (λ) (χ_{1}f) (\frac{i∂}{λ∂s})^{N+2} (φ_{t} (s) ψ (s, x)) dsdx| ≤ A′ ∥ψ∥_{H^{N+2}} e^{−(C′−ε)t},

où la constante A′ ne dépend que de φ et de A (pas du choix de t). Ce qui permet d’écrire, si S_{C} est l’ensemble des pôles de diffusion de partie imaginaire inférieure (strictement) à C et de module supérieur à C (d’après le théorème 1, cet ensemble est non vide, si C est assez grand),

φ_{t}U (s) (χ_{1}f) = K (s) (f) + ∑_{λ∈S_{C}} ∫_{λ∈C(λ_{i},ε)} e^{iλs}χ_{2}R (λ) (χ_{1}f) dxdλ + N (s) (χ_{1}f) ,

avec, si S′_{C} est l’ensemble des pôles compris entre l’axe réel et γ et n’appartenant pas à S_{C},

K (λ) = ∫_{λ∈γ_{0}} e^{iλs}R (λ) (χ_{1}f) dxdλ + ∑_{λ∈S′_{C}} ∫_{λ∈C(λ_{i},ε)} e^{iλs}χ_{2}R (λ) (χ_{1}f) dxdλ (6.26)

et avec

N (s) = ∫_{γ\γ_{0}} e^{iλs}R(λ)dλ

vérifiant

\begin{aligned}(∂_{t}^{2} − Δ) N (s) (χ_{1}f) & = ∫_{γ\γ_{0}} e^{iλs} (Δ + λ^{2}) R (λ) (χ_{1}f) dλ \\ & = − ∫_{γ\γ_{0}} e^{iλs} (χ_{1}f) dλ \\ & = ∫_{γ_{0}} e^{iλt} (χ_{1}f) dλ − ∫_{γ} e^{iλs} (χ_{1}f) dλ \\ & = ∫_{γ_{0}} e^{iλs} (χ_{1}f) dλ − ∫_{−∞}^{+∞} e^{iλs}χ_{i}f \\ & = ∫_{γ_{0}} e^{iλs} (χ_{1}f) dλ \\ & = ψ_{0} (s) χ_{1}f \end{aligned} (6.27)

et pour ψ (s, x) ∈ C_{0}^{∞} (R^{3}), on a

⟨φ_{t}χ_{2}N (s) χ_{1}f, ψ (s, t)⟩

= ∫_{s} ∫_{λ∈γ\γ_{0}} e^{iλs}φ_{t} (s) χ_{2} (x) R (λ) (χ_{1}f) ψ (s, x) dxdλ

= ∫_{s} ∫_{λ∈γ\γ_{0}} e^{iλs}χ_{1}R (λ) (χ_{1}f) (\frac{i∂}{λ∂s})^{N+2} (φ_{t} (s) ψ (s, x)) dsdxdλ,

ce qui implique que

∥φ_{t} (s) χ_{1} (x) N (s, x) ∥_{L(L^{2}(Ω);H^{−(N+2)}(Ω))} ≤ Ae^{−(C′−ε)t}.

On suppose maintenant que f ∈ C_{0}^{∞} (R^{2}) et on note h = Δ^{M} (χ_{1}f), avec 2M > N + 1. D’après l’équation (6.27), on a,

∂_{s}^{2M}N (s) (χ_{1}f) = N (s) Δ^{M} (χ_{1}f) + ∑_{i=0}^{M} ψ_{i} (s) Δ^{i} (χ_{1}f) ,

avec ψ_{i} ∈ C_{0}^{∞} (R_{s}), (puisque ΔR (λ) (f) = R (λ) (Δf) et donc [Δ, N (s)] = 0). On obtient donc

∥φ_{t} (s) χ_{2} (∂_{s}^{2M} + Δ^{M}) N (s) (χ_{1}f) ∥_{H^{−N} (Ω)} ≤ Ae^{−(C′−ε)t}∥f∥_{H^{2M} (Ω)}.

On en déduit, par conservation de l’énergie et vitesse finie de propagation du support pour les solutions de l’équation des ondes, qu’il existe A, s, ε > 0 tels que pour tout f ∈ C_{0}^{∞} (R^{2}),

∫_{Ω} |χ_{2}∇_{x}N (t) χ_{1}f| + |χ_{2}∂_{t}N (t) χ_{1}f| ≤ Ae^{−(C−ε)t}∥f∥_{H^{s}(Ω∩supp(χ_{1}))}. (6.28)

On a donc Théorème 4. — Pour tous χ_{1}, χ_{2} ∈ C_{0}^{∞} (R^{2}), il existe s > 0 tel que, pour tout C > 0 et tout ε > 0, il existe A > 0 tel que pour tout f ∈ C_{0}^{∞} (R^{2}) et tout t > 0, la solution de l’équation des ondes avec conditions de Dirichlet dans Ω, associée aux données initiales u |_{t=0}= 0, ∂_{t}u |_{t=0}= χ_{1}f vérifie

χ_{2}u = χ_{2}K (χ_{1}f) + ∑_{λ∈S_{C}} \frac{e^{itλ}}{iλ} χ_{2} (x) Π_{λ} (χ_{1}f) + N (t) (χ_{1}f) ,

où S_{C} est l’ensemble des pôles de diffusion tels que Imλ < C et |λ| > C (d’après le théorème 1, si C est assez grand, S est non vide mais fini, et Π_{λ} est le projecteur spectral sur la fonction propre associée au pôle λ. Enfin, N (t) vérifie (6.28) et l’opérateur K (λ) donné par la relation (6.26) vérifie

∃A > 0; ∀n ∈ N,

∥χ_{2}∂_{t}^{n}K (χ_{1}f) ∥_{H^{1}(Ω)} ≤ AC^{n}∥f∥_{L^{2}(Ω)}, (6.29) ∥χ_{2}Δ^{n}K (χ_{1}f) ∥_{H^{1}(Ω)} ≤ AC^{2n}∥f∥_{L^{2}(Ω)} (6.30)

(l’opérateur K est un opérateur basse fréquence, infiniment régularisant au sens des espaces H^{s} de la section 2, mais qui n’est pas exponentiellement décroissant en temps, puisque nous sommes en dimension paire d’espace).

Le seul point qui reste à vérifier est en effet que la contribution de chaque pôle est bien de la forme annoncée. Le projecteur spectral associé aux pôles d’un opérateur S (λ) méromorphe, à l’intérieur d’une courbe C est

\frac{−1}{2πi} ∫_{C} 2λS (λ) dλ.

On en déduit que la contribution de chaque pôle est bien la projection spectrale sur l’espace propre associé aux pôles de \frac{1}{iλ}e^{itλ}R (λ). Remarque 6.16. — En dimension impaire, quitte à rajouter les contributions des pôles dans |λ| < C, on pourrait supposer que l’opérateur K est nul et un tel résultat montrerait d’une part la décroissance exponentielle de l’énergie locale des solutions de l’équations des ondes, par rapport à une norme sobolev fixe (voir les résultats de M. Ikawa [14]) et d’autre part donnerait un développement asymptotique en grand temps de ces solutions, ce qui malheureusement n’est pas le cas en dimension paire.

N.Burq 94

Annexes

A Calcul Pseudo-Différentiel analytique pour les problèmes au bord

Nous présentons ici un calcul pseudo-différentiel qui reprend essentiellement celui de P. Gérard et G. Lebeau [8], la seule différence étant que nous travaillons dans des domaines non bornés de l’espace des phases et que nous voulons des estimations uniformes à l’infini. Nous reprendrons donc dans cette partie la plupart des notations et des démonstrations de [8].

A.1 Opérateurs à l’intérieur

Soient U un ouvert de C^{2n} et Ω un ouvert de C^{n} Définition A.1. — Pour tout entier m, on note S^{m} (U) l’espace des séries formelles

e = ∑_{n≥0} (iλ)^{−n} e_{n},

telles qu’il existe A, B > 0 tels que pour tout n, la fonction e_{n} est définie pour λ ≥ 1, holomorphe en (z, ζ) ∈ U et vérifie

|e_{n} (z, ζ) | ≤ AB^{n}n! (1 + |z| + |ζ|)^{m} . (A.1) Définition A.2. — Pour K ⊂ C^{n} fermé, on notera S^{m} (K) = lim_{\overrightarrow{d>0}} S^{m} (K + B (0, d)),

c’est à dire que la série e appartient à ∈ S^{m} (K) si et seulement s’il existe d > 0 tel que e ∈ S^{m} (K + B (0, d)). Définition A.3. — Soit φ ∈ C^{1} (Ω, R). On notera H_{φ}^{m} (Ω) l’espace des fonctions u (z, λ), définies pour λ ≥ 1, holomorphes en z ∈ Ω, telles que

∃C, M, ∀z ∈ Ω, |u (z, λ) | ≤ Cλ^{M}e^{λφ(z)} × (1 + |z|)^{m} .

On notera N_{φ}^{m} (Ω) l’espace des fonctions u (z, λ), définies pour λ ≥ 1, holomorphes en z ∈ Ω, telles que

∃C, M, ε > 0, ∀z ∈ Ω, |u (z, λ) | ≤ Cλ^{M}e^{λ(φ(z)−ε)} × (1 + |z|)^{m} .

Remarque A.4. — Si l’ouvert Ω est borné, les espaces H_{φ}^{m} (Ω) et N_{φ}^{m} (Ω) coï ncident avec les espaces de Sjöstrand usuels, H_{φ} (Ω) et N_{φ} (Ω).

On suppose maintenant qu’il existe R > 0 tel que Ω × B (0, R) ⊂ U. On quantifie alors les symboles de S^{m} (Ω) de la façon suivante: Définition A.5. — Soient e ∈ S^{m} (U) et C > 0 une constante, on pose pour u ∈ H_{φ}^{p} (Ω) et z ∈ Ω, λ ≥ 1,

Op (e)_{C} (u) (z, λ) =^{def} ∑_{n≤λ/C} ∑_{|α|≤λ/C} (iλ)^{−n} \frac{1}{α!}∂_{ζ}^{α}e_{n} (z, ζ = 0, λ) (\frac{1}{iλ}∂_{z})^{α} u (z, λ) .

Soient d > 0 et Ω′ ⊂ Ω tel que Ω′ + B (0, d) ⊂ Ω. Soit D > 0 tel que

sup_{z∈Ω} ∥\frac{2}{i} \frac{∂φ}{∂z}∥ < D < R.

Lemme A.6. — Soit e ∈ S^{p} (U). Pour tous C > sup{2B/e, 1/Dd}, m ∈ N, u ∈ H_{φ}^{m} (Ω) on a

Op (e)_{C} (u) ∈ H_{φ}^{m+p} (Ω′)

de plus, si C′ ≥ C, il existe ε > 0 tel que pour tout u ∈ H_{φ}^{m} (Ω) on a

Op (e)_{C} (u) − Op (e)_{C′} (u) ∈ H_{φ−ε}^{m+p} (Ω′) .

Si z ∈ Ω′ et si ∥z − w∥ ≤ (DC)^{−1} alors w ∈ Ω. Pour |α| ≤ λ/C posons ρ_{α_{i}} = α_{i} (λD)^{−1}. D’après les formules de Cauchy appliquées sur un polydisque de centre z et de polyrayon ϱ, on a

|(\frac{1}{iλ}∂_{z})^{α} u (z, λ) e^{−λφ(z)} (1 + |z|)^{−m}|

≤ \frac{α!λ^{−|α|}}{∏_{i=1}^{n} ρ_{α_{i}}^{α_{i}}} sup_{{w∈Ω \atop |z−w|≤(DC)^{−1}}} |u (w, λ) e^{−λφ(w)} (1 + |w|)^{−m}|

sup_{|z_{i}−w_{i}|=ρ_{α_{i}}} |e^{λ(φ(w)−φ(z))} (\frac{(1 + |w|)}{(1 + |z|)})^{m}|.

Or on a

Re (φ (w) − φ (z)) = −Im (∫_{0}^{1} (\frac{2}{i} \frac{∂φ}{∂_{z}}z + θ (w − z)) dθ · (w − z)) ≤ \frac{|α|}{λ}

on en déduit que

|(\frac{1}{iλ}∂_{z})^{α} u (z, λ) e^{−λφ(z)} (1 + |z|)^{−m}| ≤ C′′ \frac{α! (De)^{|α|}}{∏_{i=1}^{n} α_{i}^{α_{i}}} λ^{M},

or, d’après la formule de Stirling, on a

α_{i}! ≤ C (\frac{α_{i}}{e} )^{α_{i}} \sqrt{α_{i} + 1},

ce qui implique que

|(\frac{1}{iλ}∂_{z})^{α} u (z, λ) e^{−λφ(z)} (1 + |z|)^{−m}| ≤ Aλ^{M}D^{|α|} ∏_{i=1}^{n} \sqrt{α_{i} + 1}. (A.2)

D’après les formules de Cauchy, on a

sup_{z∈Ω} |∂_{ζ}e_{n} (z, ζ = 0)| ≤ AB^{n}n!R^{|−α|}α!,

On obtient donc finalement

| ∑_{{n≤λ/C \atop |α|≤λ/C}} (iλ)^{−n} \frac{1}{α!}∂_{ζ}^{α}e_{n} (z, ζ = 0, λ) (\frac{1}{iλ}∂_{z})^{α} u (z, λ) e^{−λφ(z)}|

≤ ∑_{n≤λ/C} |λ|^{−n}AB^{n}n! (1 + |z|)^{m+p} ∑_{|α|≤λ/C} (\frac{D}{R})^{|α|} ∏_{i=1}^{n} \sqrt{α_{i} + 1}

≤ Cte (1 + |z|)^{m+p} ∑_{n≤λ/C} \frac{AB^{n}n!}{|λ|^{n}}

≤ Cte (1 + |z|)^{m+p} ∑_{n≤λ/C} A (\frac{Bn}{λe})^{n} \sqrt{λ + 1}

≤ Cte (1 + |z|)^{m+p} ,

puisque D/R < 1 et C > 2B/e. On en déduit la première partie du lemme. On a par ailleurs

∑_{{n≤λ/C \atop λ/C′≤|α|≤λ/C}} |λ|^{−n}AB^{n}n! (1 + |z|)^{m+p} ∑_{|α|≤λ/C} (\frac{D}{R})^{|α|} ∏_{i=1}^{n} \sqrt{α_{i} + 1}

\begin{matrix}≤ Cte (\frac{D}{R})^{λ/C′} (1 + |z|)^{m+p} ∑_{n≤λ/C} \frac{AB^{n}n!}{|λ|^{n}} \\ ≤ Cte (1 + |z|)^{m+p} e^{−|λ| log(\frac{R}{D})/C′} \end{matrix}

et

∑_{{λ/C′≤n≤λ/C \atop λ/C′≤|α|≤λ/C}} |λ|^{−n}AB^{n}n! (1 + |z|)^{m+p} ∑_{|α|≤λ/C} (\frac{D}{R})^{|α|} ∏_{i=1}^{n} \sqrt{α_{i} + 1}

\begin{matrix}≤ Cte (1 + |z|)^{m+p} ∑_{λ/C′≤n≤λ/C} \frac{AB^{n}n!}{|λ|^{n}} \\ ≤ Cte (1 + |z|)^{m+p} e^{−|λ| log(\frac{Ce}{B})/C′}, \end{matrix}

ce qui montre la deuxième partie du lemme.

Nous allons étudier la composition des opérateurs ainsi définis: Définition A.7. — Soient e ∈ S^{p} (U) et f ∈ S^{q} (U), on note f♯e le symbole composé défini par la relation usuelle:

(f♯e (z, ζ)) = ∑_{n′+n”+|α|=n} \frac{1}{α!}∂_{ζ}^{α}f_{n′}∂_{z}^{α}e_{n”} (z, ζ) .

On vérifie facilement que pour tout U′ ⊂ U, tel que U′ + B (0, ε) ⊂ U (ε > 0), f♯e ∈ S^{p+q} (U′):

\begin{aligned}|(f♯e)_{n}| & ≤ ∑_{n′+n′′+|α|=n} \frac{1}{α!}AB^{n′}n′!ε^{−|α|}α!AB^{n′′}n′′!ε^{−|α|}α! (1 + |z| + ε)^{p+q} \\ & ≤ A′B^{′n}n! \end{aligned}

si on prend B′ > max\{B, \frac{1}{ε}\}. Lemme A.8. — Pour tout f ∈ S^{p} (U), e ∈ S^{q} (U), Ω′ ⊂ Ω, U′ ⊂ U, tels que U′ + B (0, d_{1}) ⊂ U, Ω′ + B (0, d) ⊂ Ω et Ω × B (0, d_{2}) ⊂ U′ (d_{1}, d_{2} > 0), C > 0 assez grand, tels que D = sup_{z∈Ω} ∥\frac{2}{i}∂_{z}φ∥ < d_{2}, il existe ε > 0 tel que pour tout u ∈ H_{φ}^{m} (Ω), on a

Op (f♯e)_{C} u − Op (f)_{C} ∘ Op (e)_{C} u ∈ H_{φ−ε}^{m+p+q} (Ω′) .

D’après les inégalités de Cauchy, il existe des constantes A, B > 0 telles que pour tout z ∈ Ω′

\begin{aligned}|∂_{ζ}^{α}f_{n} (t, τ, z, ζ = 0)| & ≤ α!AB^{n} \frac{1}{d_{2}^{|α|}} (1 + |z|)^{p} , \\ |∂_{z}^{α}∂_{ζ}^{β}e_{n} (τ, z, ζ = 0, λ)| & ≤ α!β!AB^{n}n!\frac{1}{d_{2}^{|α|}} \frac{1}{d^{|β|}} (1 + |z|)^{q} , \\ |∂_{ζ}^{γ} (f♯e)_{n}| & ≤ γ!AB^{n}n!\frac{1}{d_{2}^{|γ|}} (1 + |z|)^{p+q} . \end{aligned} (A.3)

D’après (A.2) on a pour z ∈ Ω′, |α| ≤ λ/C_{0},

|(\frac{∂_{z}}{iλ})^{α} u (z, λ)| ≤ Cλ^{M}D^{|α|} |e^{λφ(z)}| (1 + |z|)^{m} .

On a alors par définition

Op (f)_{C} ∘ Op (e)_{C} u = ∑_{{n′≤λ/.C \atop |α|≤λ/C}} (iλ)^{−n′} \frac{1}{α!}∂_{ζ}^{α}f_{n′} (z, 0, λ) (\frac{1}{iλ}∂_{z})^{α}

( ∑_{{n′′≤λ/C \atop |β|≤λ/C}} (iλ)^{−n′′} \frac{1}{β!}∂_{ζ}^{β}e_{n′′} (z, 0, λ) (\frac{1}{iλ}∂_{z})^{α} u (z, λ)),

qu’on écrit sous la forme

Op (f)_{C} ∘ Op (e)_{C} u = ∑_{(n′,n′′,α_{1},α_{2},β)∈E} J_{n′,n′′,α_{1},α_{2},β}, (A.4)

avec E = {(n′, n′′, α_{1}, α_{2}, β) ; n′, n′′, |β|, |α_{1}| + |α_{2}| ≤ λ/C} et

J_{n′,n′′,α_{1},α_{2},β} = (iλ)^{−n′−n′′−|α_{1}|} \frac{1}{(α_{1} + α_{2})!}∂_{ζ}^{α_{1}+α_{2}}f_{n′} (z, 0, λ)

\frac{(α_{1} + α_{2})!}{α_{1}!α_{2}!} \frac{1}{β!}∂_{ζ}^{β}∂_{z}^{α_{1}}e_{n′′} (z, 0, λ) (\frac{1}{iλ}∂_{z})^{β+α_{2}} u (z, λ) .

On a donc, d’après (A.2) et (A.3)

|J_{n′,n′′,α_{1},α_{2},β}| ≤ \begin{matrix}|λ|^{−(n′+n′′+|α_{1}|)}AB^{n′}n′!d_{1}^{−(α_{1}+α_{2})} (1 + |z|)^{p} \frac{(α_{1} + α_{2})!}{α_{1}!α_{2}!}α_{1}!AB^{n′′+α_{1}} \\ d^{−|β|}n′′! (1 + |z|)^{q} AD^{(β+α_{2})} ∏_{i=1}^{n} \sqrt{β_{i} + α_{2,i} + 1}λ^{M} (1 + |z|)^{m} \end{matrix}

≤ \begin{matrix}Cteλ^{M} (1 + |z|)^{p+q+m} (\frac{Bn′}{eλ} )^{n′} \sqrt{n′ + 1} (\frac{Bn′′}{eλ} )^{n′′} \sqrt{n′′ + 1} \\ (\frac{α_{1}B}{edλ} )^{α_{1}} \sqrt{α_{1} + 1}\frac{(α_{1} + α_{2})!}{α_{1}!α_{2}!} (\frac{D}{d_{2}} )^{|α_{2}|} (\frac{D}{d})^{|β|} . \end{matrix}

Or, pour tout η > 0, il existe A_{η} et F_{η} tels que

∀α_{1}, α_{2}, \frac{(α_{1} + α_{2})!}{α_{1}!α_{2}!} ≤ A_{η}F_{η}^{|α_{1}|} (1 + η)^{|α_{2}|} .

si on choisit η tel que (1 + η) D̃ < d_{2} et si la constante C est choisie assez grande, il existe θ < 1 tel que pour tous n′, n′′, α_{1}, α_{2}, β ≤ λ/C, C grand,

|J_{n′,n′′,α_{1},α_{2},β}| ≤ Cλ^{M}θ^{n′+n′′+|α_{1}|+|α_{2}|+|β|} (1 + |z|)^{M} ,

ce qui permet dans l’expression (A.4) de se réstreindre à la somme sur

E′ = {(n′, n′′, α_{1}, α_{2}, β) ; n′ + n′′ + |α_{1}| ≤ λ/C, |β + α_{2}| ≤ λ/C},

modulo un terme à décroissance exponentielle par rapport à λ, ce qui est exactement la définition de Op (f♯e)_{C} u, d’où le lemme.

A.2 Opérateurs pour les problèmes aux limites

Soit t_{0} > 0. On note I l’intervalle [0, t_{0}]. Soient U un ouvert de C^{2n}, Ω un ouvert de C^{n} et K un compact de C \ R. Définition A.9. — Pour tout (m, p) ∈ N^{2}, on note A^{m,p} (I, U, K) l’espace des séries formelles

e = ∑_{n≥0} (iλ)^{−n} e_{n},

telles qu’il existe V un voisinage de I dans C, A, B > 0 tels que pour tout n, la fonction e_{n} est définie pour λ ≥ 1, holomorphe en t ∈ V, τ ∈ C \ (1 + |z|) K, (z, ζ) ∈ U et vérifie

|e_{n} (t, τ, z, ζ, λ) | ≤ AB^{n}n! (1 + |z| + |ζ|)^{p} (1 + |τ|)^{m} .

Remarque A.10. — Si on note par abus de notation V × (C \ (1 + |z|) K) × U l’ensemble {(t, τ, z, ζ) ; t ∈ V, τ ∉ (1 + |z|) K, (z, ζ) ∈ U, alors on a

A^{m,p} (I, U, K) ⊂ S^{m+max(0,p)} (V × (C \ (1 + |z|) K) × U)

et

A^{m,0} (I, U, K) = S^{m} (V × (C \ (1 + |z|) K) × U) .

Pour e ∈ A^{m,p} (I, U, K), si on pose m_{+} = sup{0, m}, on a une décomposition unique:

e_{n} (t, τ, z, ζ, λ) = ∑_{j=0}^{m^{+}} e_{n}^{j} (t, z, ζ, λ) τ^{j} + e_{n}^{−} (t, τ, z, ζ, λ) ,

avec e_{n}^{j} indépendants de τ et e^{−} =^{def} ∑_{n≥0} (iλ)^{−n} e_{n}^{−} ∈ A^{−1,p} (I, U, K).

Définition A.11. — Soit φ ∈ C^{1} (Ω, R), On notera C^{∞} (I; H_{φ}^{p} (Ω)) l’espace des fonctions u (t, z, λ), définies pour λ ≥ 1, de classe C^{∞} en t ∈ I, holomorphes en z ∈ Ω, telles que

∃M, ∀l ∈ N, ∃C_{l}, ∀(t, z, λ) ∈ I × Ω × [1, +∞[,
|∂_{t}^{l}u (t, z, λ)| ≤ C_{l}λ^{M+l}e^{λφ(z)} × (1 + |z|)^{p} .

On notera C^{∞} (I; N_{φ}^{p} (Ω)) l’espace des fonctions u (t, z, λ), définies pour λ ≥ 1, de classe C^{∞} en t ∈ I, holomorphes en z ∈ Ω, telles que

∃ε > 0, ∃M, ∀l ∈ N, ∃C_{l}, ∀(t, z, λ) ∈ I × Ω × [1, +∞[,
|∂_{t}^{l}u (t, z, λ)| ≤ C_{l}λ^{M+l}e^{λ(φ(z)−ε)} × (1 + |z|)^{p} .

On suppose maintenant qu’il existe R_{0} > 0 tel que Ω × B (0, R_{0}) ⊂ U. D’après les inégalités de Cauchy, si e ∈ A^{m,p} (I, U, K), on a

\begin{matrix}∀z ∈ Ω, ∀α ∈ N^{n}, ∀i ∈ N, \\ |∂_{ζ}^{α}e_{i} (z, ζ = 0)| ≤ A\frac{α!}{R_{0}^{|α|}} B^{n}n! (1 + |z|)^{p} . \end{matrix}

On pose, au sens des intégrales oscillantes

k (e, n, α) = \frac{λ}{2π} ∫_{−∞}^{+∞} e^{iλ(t−s)τ} \frac{1}{α!}∂_{ζ}^{α}e_{n} (t, τ, z, ζ = 0, λ) dτ.

On pose K_{±} = K ∩ {±Imτ > 0} et

k^{±} (e, n, α) (t, s, z, λ) = k |_{±(t−s)≥0} .

La fonction k^{±} est C^{∞} dans ± (t − s) > 0, analytique en z ∈ Ω et vérifie

\begin{matrix}∀β, ∃C_{β} ∀ (t, s) ∈ I × I, ± (t − s) ≥ 0, ∀z ∈ Ω, ∀λ ≥ 1 \\ |∂_{s,t}^{β}k^{±} (e, n, α) (t, s, z, λ)| ≤ C_{β}λ^{|β|+1}B^{n}R_{0}^{−α}n!e^{−λ/2|t−s|(1+|z|)dist(K_{±},R)} (1 + |z|)^{p} . \end{matrix} (A.5)

De plus le noyau distribution k est égal à

k (e, n, α) = 1_{t≥s}k^{+} + 1_{t≤s}k^{−} + ∑_{j=0}^{m^{+}} \frac{1}{α!}∂_{ζ}^{α}e_{n}^{j} (t, z, ζ = 0, λ) (\frac{∂}{∂t})^{j} (δ_{t=s}) .

On quantifie alors les symboles e ∈ S^{m,p} de la façon suivante: Définition A.12. — Soient e ∈ S^{m,p} (U) et C > 0 une constante, on pose pour u ∈ C^{∞} (I; H_{φ}^{q} (Ω)), z ∈ Ω et λ ≥ 1,

Op (e)_{C} (u) (z, λ) =^{def}

= ∑_{n≤λ/C} ∑_{|α|≤λ/C} (iλ)^{−n} ∫_{0}^{t_{0}} k (e, n, α) (t, s, z, λ) (\frac{∂_{z}}{iλ})^{α} u (s, z, λ) ds.

Soient d > 0 et Ω′ ⊂ Ω tel que Ω′ + B (0, d) ⊂ Ω. Soit D > 0 tel que

sup_{z∈Ω} ∥\frac{2}{i} \frac{∂φ}{∂z}∥ < D < R_{0}.

Lemme A.13. — Pour tous C > sup{2B/e, 1/Dd}, u ∈ C^{∞} (I; H_{φ}^{q} (Ω)) on a

Op (e)_{C} (u) ∈ C^{∞} (I; H_{φ}^{p+q} (Ω′))

et pour tout C′ > sup{B/e, 1/Dd}, il existe ε > 0 tel que pour tout u ∈ C^{∞} (I; H_{φ}^{q} (Ω)),

Op (e)_{C} (u) − Op (e)_{C′} (u) ∈ C^{∞} (I; H_{φ−ε}^{p+q} (Ω′)) .

D’après (A.2) appliqué à ∂_{t}^{s}u (s, t, λ), on a

\begin{aligned}|∂_{t}^{l} (\frac{1}{iλ}∂_{z})^{α} u (t, z, λ)| & ≤ C_{l}λ^{M+l}α!λ^{−|α|}e^{|α|} ∏_{i=1}^{n} ρ_{α_{i}}^{−α_{i}} |e^{λφ(z)}| (1 + |z|)^{q} \\ & ≤ C′_{l}λ^{M+l}D^{|α|} ∏_{j=1}^{n} (α_{j} + 1)^{1/2} |e^{λφ(z)}| (1 + |z|)^{q}, \end{aligned} (A.6)

or

∂_{t}^{l} (∫_{0}^{t_{0}} k (e, n, α) (t, s, z, λ) (\frac{∂_{z}}{iλ})^{α} u (s, z, λ) ds)

= ∂_{t}^{l}[∫_{0}^{t} k^{+} (\frac{∂_{z}}{iλ})^{α} u (s, z, λ) ds + ∫_{t}^{t_{0}} k^{−} (\frac{∂_{z}}{iλ})^{α} u (s, z, λ) ds

+ ∑_{j=0}^{m^{+}} \frac{1}{α!}∂_{ζ}^{α}e_{n}^{j} (t, z, ζ = 0, λ) ∂_{t}^{j} (\frac{∂_{z}}{iλ})^{α} u (t, z, λ)]

et d’après les relations (A.2), (A.5) et (A.6)

|∂_{t}^{l} ∫_{0}^{t} k^{+} (\frac{∂_{z}}{iλ})^{α} u (s, z, λ) ds|

= |∑_{j=0}^{l} ∂_{t}^{l−j} (∂_{t}^{j}k^{+} (e, n, α) (t, t, z, λ) (\frac{∂_{z}}{iλ})^{α} u (t, z, λ))

+ ∫_{0}^{t} ∂_{t}^{l}k^{+} (e, n, α) (t, s, z, λ) (\frac{∂_{z}}{iλ})^{α} u (s, z, λ) ds|

≤ ∑_{j=0}^{l} C_{l}λ^{l+1}B^{n} (\frac{D}{R_{0}} )^{|α|} ∏_{j=1}^{n} \sqrt{α_{j} + 1}λ^{M}e^{λφ(z)} (1 + |z|)^{q+p} .

On a la même majoration pour le deuxième terme et

|∂_{t}^{l} ∑_{j=0}^{m^{+}} \frac{1}{α!}∂_{ζ}^{α}e_{n}^{j}∂_{t}^{j} (\frac{∂_{z}}{iλ})^{α} u (t, z, λ)|

≤ C_{l}λ^{M+m^{+}+l+1}D^{|α|} ∏_{j=1}^{n} \sqrt{α_{j} + 1} |e^{λφ(z)}| (1 + |z|)^{q} (\frac{1}{R_{0}} )^{|α|} AB^{n}n! (1 + |z|)^{p} .

Finalement, on obtient

(A.7) |∂_{t}^{l} (∫_{0}^{t_{0}} k (e, n, α) (t, s, z, λ) (\frac{∂_{z}}{iλ})^{α} u (s, z, λ) ds)|

≤ C_{l}λ^{M′+l}B^{n}n! (\frac{D}{R_{0}} )^{|α|} e^{λφ(z)} (1 + |z|)^{p+q} ,

ce qui permet de terminer la démonstration du lemme comme celle du lemme A.6.

On s’intéresse maintenant aux propriétés de composition de ces opérateurs. Nous voulons étudier le Laplacien sur un ouvert à bord. Dans un système de coordonnées géodésiques, cet opérateur s’écrit Δ = ∂_{t}^{2} + P (x, t, ∂_{x}) où t désigne la variable normale au bord et x la variable tangentielle. Il suffit donc pour notre propos d’étudier la composition des opérateurs pseudo-différentiels avec d’une part les opérateurs tangentiels et d’autre part avec l’opérateur ∂_{t}^{2}; ce que nous allons faire dans la suite de cette section.

Soit e ∈ A^{−2,p} (I, U, K) et q ∈ A^{0,q} (I, U, K), tel que q est indépendant de la variable τ. Définition A.14. — On note e♯q le symbole composé

(e♯q)_{n} (t, τ, z, ζ, λ) = ∑_{n′+n′′+|α|+l=n} \frac{1}{l!α!}∂_{τ}^{l}∂_{ζ}^{α}e_{n′}∂_{t}^{l}∂_{z}^{α}q_{n′′} (t, z, τ, ζ, λ) .

Soit K_{1} un voisinage compact de K dans C\R et U_{1} tel que U_{1}+B (0, d) ⊂ U, d > 0. On a alors e♯q ∈ A^{−2,p+q} (I, U_{1}, K_{1}). Soit Ω tel que Ω × B (0, R_{0}) ⊂ U_{1} et tel que

sup_{z∈Ω} ∥\frac{2}{i} \frac{∂φ}{∂z}∥ < D < R.

Lemme A.15. — Soit Ω′ tel que Ω′ + B (0, d) ⊂ Ω. Il existe C^{0} tel que pours tout C ≥ C^{0}, il existe ε > 0 tel que pour tout u ∈ C^{∞} (I, H_{φ} (Ω′)),

(Op (e♯q)_{C} − Op (e)_{C} ∘ Op (q)_{C}) u ∈ C^{∞} (I, H_{φ−ε} (Ω′)) .

Compte tenu de l’estimation (A.7), la démonstration de ce lemme est identique à celle du lemme A.8 Nous nous intéressons maintenant à la composition de l’opérateur ∂_{t}^{2} avec un opérateur pseudodifférentiel. Soient e ∈ A^{−2,p} (I, U, K), Ω, R_{0} > 0 tels que Ω × B (0, R_{0}) ⊂ U. On a τ^{2}e ∈ A^{0,p} (I, U, K). On pose

(τ^{2}e_{n})^{0} (t, τ, z, ζ) = lim_{τ→∞} τ^{2}e_{n} (t, τ, z, ζ, λ)

et

K^{±} (t, s)_{C} = ∑_{n≤λ/C} ∑_{|α|≤λ/C} (iλ)^{−n} k^{±} (e, n, α) (t, s) (\frac{1}{iλ}∂_{z})^{α} .

On remarque que

K^{+} (t, t) − K^{−} (t, t) = 0

et

\frac{1}{λ^{2}} (∂_{s}K^{+} (t, t) − ∂_{s}K^{−} (t, t))

= ∑_{n≤λ/C} ∑_{|α|≤λ/C} (iλ)^{−n} \frac{1}{α!}∂_{ζ}^{α} (τ^{2}e_{n})^{0} (t, z, ζ = 0, λ) (\frac{1}{iλ}∂_{z})^{α} .

On en déduit par intégrations par parties Lemme A.16. — Pour u ∈ C^{∞} (I, H_{φ} (Ω)), on a

Op (e)_{C} ((\frac{∂_{t}}{iλ})^{2} u) = Op (τ^{2}e)_{C} u + \frac{1}{λ^{2}} (K^{+} (t, 0) ∂_{t}u (0) − ∂_{s}K^{+} (t, 0) u (0)

− K^{−} (t, t_{0}) ∂_{t}u (0) + ∂_{s}K^{−} (t, t_{0}) u (t_{0})).

B Ensemble de fréquence et propagation des singularités

Soit Ω un ouvert de R^{n}, à bord analytique, sauf éventuellement en un point O qui sera alors du type défini dans l’introduction. Nous allons dans cette section définir et étudier les ensembles de fréquence d’une famille de solutions, u (x, λ) ∈ H_{loc}^{1} (\overline{Ω}), distributions prolongeables, définies pour λ > 1, solutions des équations

(Δ + λ^{2}) u = f u |_{∂Ω}= g, (B.1)

avec f et g nulles au voisinage de O. On supposera également que les familles u (λ), f (λ) et g (λ) vérifient les estimations à priori :

∃N ∈ N; ∀φ ∈ C_{0}^{∞} (R^{2}) , ∃C > 0; ∀λ ≥ 1,
∥φu∥_{H^{1}(Ω)} ≤ Cλ^{N}, ∥φf∥_{L^{2}(Ω)} ≤ Cλ^{N},
∃N ∈ N; ∀φ ∈ C_{0}^{∞} (∂Ω \ O) , ∃C > 0; ∀λ ≥ 1 ∥φg∥_{H^{1/2}(∂Ω)} ≤ Cλ^{N}.

(B.2)

Soit u une telle distribution, on a alors, au voisinage de tout point x_{0} ∈ ∂Ω \ {O}, dans un système de coordonnées où Ω = {x′ ∈ R^{n−1}, x_{n} > 0}, si a > 0 est assez petit, u ∈ C^{∞} ([0, a[; D′ (\{|x′| < a\})), les traces u |_{∂Ω} et les traces \frac{∂u}{∂n} |_{∂Ω} sont donc bien définies dans D′ ({|x′| < a}). Définition B.1. — Soient σ > 0 et u, f et g vérifiant l’équation (B.1) et les hypothèses (B.2). On définit l’ensemble de fréquence d’ordre σ jusqu’au bord de u, SS_{b}^{σ} (u) ⊂ T_{b}^{∗}Ω = T^{∗}Ω ∪ T^{∗}∂Ω ∪ {O} de la manière suivante : si (x_{0}, ξ_{0}) ∈ T^{∗}Ω, alors (x_{0}, ξ_{0}) n’est pas dans SS_{b}^{σ} (u) si et seulement s’il existe φ ∈ C_{0}^{∞} (Ω); φ ≡ 1 au voisinage de x_{0} et ϵ > 0 tels que

T u (z, λ) =^{def} ∫_{Ω} e^{λz·x−λx^{2}/2}φ (x) u (x, λ) dx

vérifie

∃C > 0; ∀λ ≥ 1, |T u (z, λ)| ≤ Ce^{\frac{λ}{2} (Rez)^{2}−ϵ|λ|^{σ}},

au voisinage de z_{0} = x_{0} − iξ_{0}.

Si (x_{0}, ξ_{0}) ∈ T^{∗}{∂Ω\O}, alors (x_{0}, ξ_{0}) n’est pas SS_{b}^{σ} (u) si et seulement si (x_{0}, ξ_{0}) ∉ SS_{b}^{σ} (u |_{∂Ω}) et (x_{0}, ξ_{0}) ∉ SS_{b}^{σ} (\frac{∂u}{∂n} |_{∂Ω}). Enfin, (O) n’est pas dans SS_{b}^{σ} (u) si et seulement s’il existe φ ∈ G_{0}^{σ} (R^{n}) tel que φ ≡ 1 au voisinage de O et

∥φu (x, λ)∥_{H^{1}(Ω)} ≤ Ce^{\frac{λ}{2} (Rez)^{2}−ϵ|λ|^{σ}}.

Définition B.2. — Soient σ > 0 et u, f et g vérifiant l’équation (B.1) et les hypothèses (B.2). On définit l’ensemble de fréquence à l’infini d’ordre σ jusqu’au bord de u, ŜS_{b}^{σ} (u) ⊂ T_{b}^{∗}Ω de la manière suivante : Si (x_{0}, ξ_{0}) ∈ T^{∗}Ω, alors (x_{0}, ξ_{0}) n’est pas dans ŜS_{b}^{σ} (u) si et seulement s’il existe φ ∈ C_{0}^{∞} (Ω); φ ≡ 1 au voisinage de x_{0}, μ > 0, m ∈ N, V un voisinage conique de (x_{0}, ξ_{0}) et ϵ > 0 tels que pour tout (x, ξ) ∈ V, |ξ| ≥ μ,

|T φu (z = x − iξ, λ)| ≤ Ce^{\frac{λ}{2} (Rez)^{2}−ϵ|λ|^{σ}} (1 + |ξ|)^{m} .

Si (x_{0}, ξ_{0}) ∈ T^{∗}∂Ω, alors (x_{0}, ξ_{0}) n’est pas dans ŜS_{b}^{σ} (u) si et seulement si (x_{0}, ξ_{0}) ∉ ŜS_{b}^{σ} (u |_{∂Ω}) et (x_{0}, ξ_{0}) ∉ ŜS_{b}^{σ} (\frac{∂u}{∂n} |_{∂Ω}). Enfin, (O) ∉ ŜS_{b}^{σ} (u).

B.1 Estimations elliptiques

Proposition B.3 (Régularité elliptique à l’infini). — Soit u (x, λ) ∈ H_{loc}^{1} (\overline{Ω}), une famille de distributions prolongeables, définie pour λ > 1, solutions de l’équation (B.1) et vérifiant les estimations (B.2). Alors,

ŜS_{b}^{σ} (u) ⊂ ŜS_{b}^{σ} (f) ∪ ŜS^{σ} (g) .

La démonstration de cette proposition est divisée en deux parties: les estimations à l’intérieur et celles au voisinage d’un point du bord (différent du coin O puisque O ∉ ŜS_{b}^{σ} (u)).

A l’intérieur

On se place près d’un point intérieur, x_{0}. Quitte à faire un changement de variables orthonormales, on peut supposer que x_{0} = 0. On choisit ψ ∈ C_{0}^{∞} (Ω) égale à 1 au voisinage de x_{0}. On a

Δ_{x} + λ^{2} = ∑_{i=1}^{2} ((∂_{x_{i}} − λx_{i})^{2} + 2λ (∂_{x_{i}} − λx_{i}) x_{i} − λ + λ^{2}x_{i}^{2}) + λ^{2},

donc

T (ψ (Δ + λ^{2}) u) (z, λ) = T (ψf) (z, λ)
= T ((Δ + λ^{2}) ψu) (z, λ) + T ([ψ, Δ]u)
= λ^{−2}(λ^{2}|z|^{2} − 2λz · ∇_{z}
+ Δ_{z} − 2λ + λ^{2})T (ψu) (z, λ) + T ([ψ, Δ]u) .

Or ψ ≡ 1 au voisinage de x_{0}, d’après (B.2), il existe donc ε > 0 et η > 0 tel que pour tout z ∈ C, si |Rez| < ε,

|T ([ψ, Δ]u)| ≤ Ce^{\frac{λ}{2} (Rez)^{2}−ηλ}. (B.3)

Nous allons donc étudier l’opérateur λ^{−2}(λ^{2}|z|^{2} − 2λz · ∇_{z} + Δ_{z} − 2λ + λ^{2}). Or si on note

e (z, ζ, λ) = (−ζ^{2} + 1 − z^{2} − 2iz · ζ) + (iλ)^{−1} ∈ S^{2} (C × C) ,

alors on a, d’après (B.2), si on note φ (z) = (Rez)^{2} /2, on a T (ψu) ∈ H_{φ}^{0} (C^{2}) et

λ^{−2} (λ^{2}|z|^{2} + 2z · ∇_{z} + 2Δ_{z} − λ + λ^{2}) T (ψu) (z, λ) = Op (e) (T (ψu) (z, λ)) . Proposition B.4. — Soient K un fermé connexe de C^{4} et e ∈ S^{2} (K) tel que e_{0} ne s’annule pas sur un voisinage de K et \frac{1}{e_{0}} ∈ S^{−2} (K). Alors il existe f ∈ S^{−2} (K) tel que f♯e = 1 dans S^{0} (K).

La démonstration de ce résultat ne diffère essentiellement pas de celle du cas des opérateurs pseudodifférentiels classiques de L. Boutet de Montvel et P. Kree [4] (voir aussi J. Sjöstrand [28]). Pour être complets, nous la donnons néanmoins.

On choisit U_{0} et U_{1} deux voisinages ouverts de K tels que U_{0} + B (0, ε) ⊂ U_{1}. On notera, pour s ∈ [0, 1],

U_{s} = {(z, ζ) ; dist ((z, ζ) , U_{0}) < εs}

et H_{s}, l’ensemble des fonctions holomorphes bornées sur U_{s}.

Pour tous 0 < s < t, l’opérateur \frac{∂^{α}}{α!} est borné de l’espace H_{s} dans l’espace H_{t}, de norme majorée par \frac{α!}{(t−s)^{|α|}}. Pour tout p ∈ S^{0} (\overline{U_{1}}) on note

A_{p,n} (z, ζ, ∂_{z}) = ∑_{|α|+k=n} \frac{1}{α!}∂_{ζ}^{α}p_{k} (z, ζ) ∂_{z}^{α}

et

A_{p} (z, ζ, ∂_{z}) = ∑_{n=0}^{+∞} \frac{1}{(iλ)^{n}} A_{p,n} (z, ζ, ∂_{z}) .

Il résulte des inégalités de Cauchy et des hypothèses que les opérateurs A_{p,n} sont bornés de H_{t} dans H_{s} ( pour tous 0 < s < t), de normes majorées par

∥A_{p,n}∥_{t,s} ≤ ∑_{α+i=n} \frac{1}{α !}∥∂_{ζ}^{α}p_{i}∥_{L^{∞}(\overline{U_{1}})} \frac{α!}{(t − s)^{α}}

≤ ∑_{α+i=n} AB^{i} \frac{i!ε^{−i}}{α!} \frac{α!}{(t − s)^{α}}

≤ A′B^{′n} \frac{n!}{(t − s)^{n}} .

On notera C_{k} (p) = sup_{t,s} ∥A_{p,k}∥_{t,s} \frac{(t−s)^{k}}{k!} ≤ AB^{k}. Lemme B.5. — Pour tout p ∈ S^{m} (\overline{U_{1}}) et tout q ∈ S^{n} (\overline{U_{1}}), on a, avec g = p♯q,

C_{n} (g) ≤ ∑_{i+j=n} C_{i} (p) C_{j} (q) .

En effet , on a A_{g,n} = ∑_{i+j=n} A_{p,i}A_{q,j} et donc

∥A_{g,n}∥_{t,s} ≤ ∑_{i+j=n} ∥A_{p,i}∥_{σ,s}∥A_{q,j}∥_{t,σ}

≤ ∑ C_{i} (p) \frac{i^{i}}{(σ − s)^{i}} C_{j} (q) \frac{j^{j}}{(t − σ)^{j}}

≤ ∑ C_{i} (p) C_{j} (q) inf_{s<σ<t} \frac{i^{i}j^{j}}{(t − σ)^{j} (σ − s)^{i}}

≤ ∑ C_{i} (p) C_{j} (q) \frac{n^{n}}{(t − s)^{n}} ,

en choisissant (σ − s) = \frac{i}{n} (t − s), et (t − σ) = \frac{j}{n} (t − s) si i ≠ 0 et j ≠ 0 et en remarquant que inf \frac{n^{n}}{(t−σ)} = \frac{n^{n}}{(t−s)} ou inf \frac{n^{n}}{(σ−s)} = \frac{n^{n}}{(t−s)}sinon.

On peut maintenant revenir à la preuve de la proposition B.4. Soit e vérifiant les hypothèses de la proposition. On suppose que U_{0} et U_{1} vérifient U_{0}+B (0, ε) ⊂ U_{1}, \frac{1}{e_{0}} ∈ S^{−2} (U_{1} + B (0, 2ε)) et e ∈ S^{2} (U_{1} + B (0, 2ε)) (ε > 0 assez petit). Soit g = \frac{1}{e_{0}} ♯e − 1 ∈

S^{0} (\overline{U_{1} + B (0, ε)}), vérifiant g_{0} = 0. Il existe donc ε > 0 tel que ∥r∥_{ε} = ∑ C_{n} (g) ε^{n} < 1/2 puisque cette série est, pour ε > 0 assez petit, convergente et de premier terme nul (C_{0} (g) = 0). On définit f = ∑_{n} f_{n} (iλ)^{−n} en chaque degré d’homogénéité par la relation

f = ∑ g^{[n]} = ∑_{n} \overbrace{g♯ ⋯ ♯g}^{nfois}

(en chaque degré d’homogénéité, on a une somme finie). Les fonctions f_{n} sont évidement holomorphes au voisinage de U_{1}. Tout le problème est de démontrer qu’elles vérifient les estimations (A.1).

On définit C_{n} (f) = sup_{t,s} ∥A_{f,n}∥_{t,s}^{r} \frac{(t−s)^{n}}{n^{n}}. L’holomorphie des fonctions f_{n} au voisinage de U_{1} montre que les C_{n} (f) sont finies. On veut montrer qu’en fait, on a C_{n} (f) ≤ AB^{n}. Il est facile de voir d’après le lemme B.5 que

∥r^{[n]}∥_{ε} ≤ ∥r∥_{ε}^{n}.

On en déduit que ∥f∥_{ε} ≤ ∑_{n} 1/2^{n} ≤ 2 ce qui implique que C_{n}^{r} (f) ≤ 2ε^{−n}. Comme f_{n} = A_{f,n} (1), on en déduit que f ∈ S^{0} (U_{1}). Enfin, comme il est clair que f♯ (1 − r) = 1 dans S^{0} (U_{1}), on voit façilement que f♯\frac{1}{e_{0}} ∈ S^{−2}(U_{1}) vérifie f♯\frac{1}{e_{0}} ♯e = 1.

Nous allons appliquer la proposition B.4 à notre situation. On notera

U′ = \{(z, ζ) ; |ζ| < \frac{1}{3}, |Rez| < \frac{2}{3}, |Imz| > \frac{5}{3}\},
U = \{(z, ζ) ; |ζ| < \frac{1}{2}, |Rez| < \frac{2}{4}, |Imz| > \frac{5}{4}\},
Ω′ = \{z; |Rez| < \frac{1}{4}, |Imz| > 4\},
Ω = \{z; |Rez| < \frac{1}{3}, |Imz| > 3\}.

On vérifie facilement que le symbole e ∈ S^{2}(U) vérifie les hypothèses. Soit f ∈ S^{−2}(U′) son inverse pseudodifférentiel donné par la proposition B.4. D’après le lemme A.7, on a, si C est assez grand

Op (f)_{C} ∘ Op (e)_{C} (T (ψu)) − Op (1)_{C} (T (ψu)) ∈ H_{φ−ε} (Ω′) ,

on en déduit, d’après (B.3)

T (ψu) − λ^{−2}T (ψf) ∈ H_{φ−ε} (Ω′) ,

ce qui implique la proposition B.3 pour les points intérieurs.

Au voisinage du bord

Soit x_{0} ∈ ∂Ω \ O et soit V un voisinage de x_{0} dans R^{n} tel qu’il existe un système de coordonnées géodésiques sur V, centrées en x_{0} et un réel a tels que

\begin{aligned}Ω ∩ V & = \{(t, x) ∈ R × R^{n−1}; |x| < a; t ∈]0, 1[\} =^{def} M, \\ ∂Ω ∩ V & = \{(0, x) ; |x| < a\}. \end{aligned}

Dans ce système de coordonnées, l’opérateur \frac{Δ}{λ^{2}} + 1 s’écrit \frac{∂_{t}^{2}}{λ^{2}} + R (t, x, ∂_{x}) avec R polynomial de degré 2 en ∂_{x}, à coefficients analytiques (car le bord de Ω est supposé analytique au voisinage de x_{0}). Il existe donc des fonctions P_{α}, |α| ≤ 2, analytiques au voisinage de M dans R^{n}, telles que

R (t, x, ∂_{x}) = \frac{1}{λ^{2}} ∑_{|α|≤2} (∂_{x} − λx)^{α} P_{α} (t, x) .

Soient P_{α,β} (t) des fonctions analytiques au voisinage de 0 et une constante D_{0} telles que pour tout x ∈ B (0, 1/D_{0}) et tout t; |t| ≤ 1/D_{0}, tout α, |α| ≤ 2,

P_{α} (t, x) = ∑_{β∈N^{n−1}} P_{α,β} (t) x^{β}.

De plus, d’après les inégalités de Cauchy, pour tout D_{1} > D_{0} et tout l ∈ N, on a

|∂_{t}^{l}P_{α,β} (t)| ≤ Cte_{l} D_{1}^{|β|}. (B.4)

Pour tout C > 0, on peut écrire l’opérateur R sous la forme suivante:

R (t, x, ∂_{x}) = \frac{1}{λ^{2}} ( ∑_{{|α|≤2 \atop |β|≤λ/C}} (∂_{x} − λx)^{α} P_{α,β} (t) x^{β}

+ ∑_{{|α|≤2 \atop |β|>λ/C}} (∂_{x} − λx)^{α} P_{α,β} (t) x^{β})

=^{def} R_{C} + R^{C}.

Soit ψ ∈ C_{0}^{∞} (R^{n}) telle que ψ ≡ 1 au voisinage de 0 et supp (ψ) ⊂ B (0, d) avec d < 1/D_{0}.

On note

T u (z, t, λ) = ∫ e^{λx·z−λx^{2}/2}u (t, x, λ) dx

et

φ (z) = \frac{1}{2} (Rez)^{2} .

Lemme B.6. — On a T (ψu) ∈ C^{∞} ([0, t_{0}] ; H_{φ}^{2} (B_{x} (0, a))).

En effet, d’après l’équation vérifiée par la distribution u sur M, il existe r ∈ R tel que pour tout n ∈ N, u ∈ C^{n} (R_{t}^{+}; H^{r−n} (B_{x} (0, a))) et vérifie

∥∂_{t}^{n}u∥_{H^{r−n}} (B (0, a)) ≤ C_{n}.

On a

T (R (t, x, ∂_{x}) ψu (t, x, λ)) = T ([R, ψ] u) + T (ψRu) . (B.5) Lemme B.7. — Il existe ϵ > 0 et C > 0 tels que

T ([R, ψ] u) ∈ C^{∞} ([0, t_{0}]; H_{φ−ϵ}^{2} (C^{n−1})) .

Il suffit d’utiliser le fait que le support de l’opérateur [R, ψ] ne rencontre pas un ϵ voisinage de x = 0 et le fait que cet opérateur est différentiel d’ordre 1. Lemme B.8. — Il existe ϵ > 0 et C > 0 tels que pour tout C′ > C et tout u ∈ C^{∞} ([0, t_{0}]; L^{2} (B (0, a))),

T (R^{C′}ψu) ∈ C^{∞} ([0, t_{0}]; H_{−ϵ} (C^{n−1})) .

On a

\begin{aligned}T (R^{C′}ψu) & = T (\frac{1}{λ^{2}} ∑_{{|α|≤2 \atop |β|>λ/C′}} (∂_{x} − λx)^{α} P_{α,β} (t) x^{β}ψu) \\ & = \frac{1}{λ^{2}} ∑_{|α|≤2} (−1)^{|α|} (λz)^{α} T ( ∑_{|β|>λ/C′} P_{α,β} (t) x^{β}ψu). \end{aligned}

Or, d’après (B.4), on a

| ∑_{|β|>λ/C′} P_{α,β} (t) x^{β}u| ≤ ∑_{j>λ/C′} |x|^{j}j^{n−1}D_{1}^{j},

donc , si ϵ < − log (aD_{1}) /C′,

|T (R^{C′}ψu)| ≤ C (1 + |z|)^{2} e^{λ(φ−ϵ)}.

On en déduit que T (R^{C′}ψu) ∈ C^{0} ([0, t_{0}]; H_{−ϵ} (C^{n−1})). Comme ∂_{t} (T v) = T (∂_{t}v) et comme les fonctions P_{α,β} vérifient (B.4), on en déduit le lemme. Il suffit donc d’étudier T (R_{C}ψu) pour C grand.

T (R_{C}ψu) = \frac{1}{λ^{2}} ∑_{{|α|≤2 \atop |β|≤λ/C}} (iλ)^{|α|} (iz)^{α} P_{α,β} (t) (\frac{∂_{z}}{λ} )^{β} T (ψu) = Op (r)_{C} T (ψu) , (B.6)

avec

r (z, ζ) = ∑_{|α|≤2} \frac{(−λ)^{|α|}}{λ^{2}} (z)^{|α|} ∑ P_{α,β} (t) \frac{(iζ)^{β}}{β!} .

Le symbole principal de r est

r_{0} (z, ζ) = ∑_{|α|=2} (z)^{|α|} ∑ P_{α,β} (t) \frac{(iζ)^{β}}{β!} . (B.7)

On prendra par la suite C assez grand, de telle façon que toutes les hypothèses de l’annexe A sont vérifiées.

On remarque que si χ est la transformation canonique associée à la transformation de FBI, T, c’est à dire χ (x, ξ) = (x − iξ, −ix), on a

r_{0} (z, ζ) = R_{0} (χ^{−1} (z, ζ)) .

On en déduit qu’il existe un compact K de C \ R, d > 0 , η > 0, I = [0, t_{0}] ⊂ R tels que si on note U = Ω × ω = {(z, ζ) ∈ C^{2n−2}; |Rez| < d, |Imz| ≥ η, |ζ| < d}, alors on a τ^{2} + r (z, ζ, t, λ) ∈ A^{2,2} (I, U, K) et de plus, les racines en τ de l’équation

−τ^{2} + r_{o} (z, ζ, t, λ) = 0 (B.8) restent dans le compact (1 + |z|)K. En effet, ce résultat est clair, d’après (B.7), si |z| est borné car pour |Imz| grand l’équation (B.8) n’a pas de racine réelle et on conclut en utilisant l’homogénéité de r_{0} par rapport à |z|. On a en plus \frac{1}{τ^{2}+r_{0}} ∈ A^{−2,−2} (I, U, K)

Soient U′ et K′ tels que U′ + B (0, ϵ) ⊂ U et K + B (0, ϵ) ⊂ K′. Soit e (z, t, τ, ζ, λ) ∈ A^{−2,−2} (I, U′, K′) l’inverse pseudo-différentiel de τ^{2} + r donné par la proposition B.4. D’après les lemmes A.15 et A.16, on a, si C est assez grand

(B.9) Op (1) T (ψu) − Op (e)_{C} ∘ Op (τ^{2} + r)_{C} T (ψu)

= \frac{1}{λ^{2}} (K^{+} (t, 0) T (ψ∂_{t}u (0)) − ∂_{s}K^{+} (t, 0) T (ψu (0))

− K^{−} (t, t_{0}) T (ψ∂_{t}u (t_{0})) + ∂_{s}K^{−} (t,_{0} ) T (ψu (t_{0}))),

d’où en utilisant l’équation vérifiée par u, les lemmes B.7 et B.8 et les relations (B.5), (B.6) et (A.5), on a

T (ψu) + \frac{1}{λ^{2}} ∂_{s}K^{+} (t, 0) T (ψf) = \frac{1}{λ^{2}} (K^{+} (t, 0) T (ψ∂_{t}u (0))) + w,

avec w ∈ C^{∞} (I; H_{−ϵ} (Ω)). Si on prend la trace en t = 0 dans la relation précédente, il est alors clair que si ρ ∉ ŜS^{s} (g), comme l’opérateur K^{+} (0, 0) est elliptique, le même raisonnement qu’à l’intérieur, mais en variables x ∈ R^{n−1} (tangentielles) montre que ρ ∉ ŜS^{s} (∂_{t}u (0)). La proposition B.3 est donc démontrée. Remarque B.9. — D’après la relation (B.9), la condition ρ ∉ ŜS^{s} (g) est équivalente à l’existence d’un voisinage conique de (x_{0}, ηξ_{0}), U et de μ > 0, tels que

T (ψu) ∈ C^{∞} (I; H_{φ−ϵ} (U ∩ {|ξ| > μ})) .

B.2 Propagation des singularités

Nous allons dans cette partie utiliser les résultats de propagation des singularités Gevrey pour démontrer des estimations sur les solutions d’équations semi-classiques. Dans la section précédente, nous avons établi des estimations elliptiques qui microlocalisent le problème dans une région compacte de l’espace de phases.

Nous allons, suivant G. Lebeau [17], faire une transformation qui remplace le paramètre λ par une variable supplémentaire (essentiellement, cette transformation est une transformation de Fourier).

Soient 1 < a < b < 2 deux réels tels que \sqrt{2}a < b < 2a. Nous noterons par la suite L (respectivement L′), l’ensemble des suites Λ = (λ_{k})_{k∈N} telles que pour tout k ∈ N, on a 2^{k}a ≤ λ_{k} < 2^{k}b (respectivement 2^{k+1/2}a ≤ λ_{k} < 2^{k+1/2}b). A une suite Λ ∈ L (respectivement Λ ∈ L′) et a une distribution u prolongeable à R^{n}, solution de(B.1), vérifiant (B.2) on associe la distribution

u_{Λ} (t, x) = ∑_{k∈N} e^{iλ_{k}s}u (λ_{k}, x) .

La distribution u_{Λ} est alors une distribution prolongeable à R × R^{n}. On peut de même associer aux distributions f et g des distributions f_{Λ} et g_{Λ}.

Pour ρ ∈ T_{b}^{∗} (Ω), on note

θ (s, ρ) = (s, σ = 1, ρ) ∈ T_{b}^{∗} (R × Ω) .

On a alors la proposition suivante Proposition B.10. — Pour tout s_{0} ∈ R et tout σ ≥ 1, on a l’équivalence

ρ_{0} ∈ SS_{b}^{s} (u) ⇔ ∃Λ ∈ L ∪ L′; θ (s_{0}, ρ_{0}) ∈ SS_{b}^{s} (u_{Λ}) ,

où SS_{b}^{s} (u_{Λ}) désigne le front d’onde Gevrey s au bord défini à la section 2.

Nous allons traiter le cas où le point x_{0} est à l’intérieur, le cas où il est sur le bord de l’ouvert Ω se traitant de la même façon, en considérant les distributions u_{Λ} |_{∂Ω}, ∂_{n}u_{Λ} |_{∂Ω} et le cas du coin se traitant également de la même manière en considérant les fonctions de λ, ∥ψu∥_{H_{0}^{1}(Ω)}.

Quitte à remplacer la famille u (x, λ) par la famille e^{iλs_{0}}u (x, λ), on peut supposer que s_{0} = 0. Soient Λ ∈ L et u (x, λ) une famille de solution de l’équation (B.1) vérifiant (B.2). On considère T̃ la transformation de F BI sur T^{∗}R^{n+1} définie par

T̃v (t, z) = ∫ e^{λ(x·z+s·t− \frac{x^{2}}{2} − \frac{s^{2}}{2} )}v (x, s) dxds. (B.10)

On a alors, pour ψ_{1} ∈ C_{0}^{∞} (R^{2}) et ψ_{2} ∈ C_{0}^{∞} (R), égales à 1 au voisinage de 0 dans R_{x}^{2} et R_{s} respectivement,

T̃ψ_{1}ψ_{2}u_{λ} (t, z) = ∫ e^{λ(x·z+s·t− \frac{x^{2}}{2} − \frac{s^{2}}{2} )} ∑_{k=1}^{+∞} ψ (x) e^{iλ_{k}s}u (λ_{k}, x) dxds

= ∑_{k=1}^{+∞} ∫ e^{λ(x·z− \frac{x^{2}}{2} )} × [\frac{C}{\sqrt{λ}}e^{^{\frac{λ}{2}} (t+ \frac{iλ_{k}}{λ} )^{2}}

− ∫_{−∞}^{+∞} e^{λ(ts−s^{2}/2)+iλ_{k}s} (1 − ψ_{2} (s)) ds]u (λ_{k}, x) dx,

or, si ψ_{2} ≡ 1 sur B (0, 2ε), il existe c > 0 tel que pour tout t ∈ C tel que |Ret| ≤ ε et |Imt + 1| ≤ ε, on a pour tout λ_{k} ∈ R^{+} et tout s ∈ supp (1 − ψ_{2})

|\frac{λ}{λ_{k}} (t − s) + i| > c.

On a donc

∫_{−∞}^{+∞} e^{λ(ts−s^{2}/2)+iλ_{k}s} (1 − ψ_{2} (s)) ds

= ∫ e^{λ(ts−s^{2}/2)+iλ_{k}s} \frac{1}{λ_{k}^{2}} (∂_{s} ∘ \frac{1}{\frac{λ}{λ_{k}} (t − s) + i})^{2} (ψ_{2} − 1) ds.

Comme sur le support de (1 − ψ_{2}), on a

|e^{λ(ts−s^{2}/2)+iλ_{k}^{2}s} \frac{1}{λ_{k}^{2}} | ≤ \frac{e^{\frac{λ}{2}} ((Rez)^{2} − ε^{2})}{λ_{k}^{2}},

on obtient donc

|∑_{k=1}^{+∞} ∫ e^{λ(x·z− \frac{x^{2}}{2} )} ∫_{−∞}^{+∞} e^{λ(ts−s^{2}/2)+iλ_{k}s} (1 − ψ_{2} (s)) dsu (λ_{k}, x) dx| ≤ Ce^{^{\frac{λ}{2}}((Rez)^{2}−ε^{2})},

ce qui montre que modulo un terme à décroissance exponentielle, on peut dans (B.10), remplacer ψ_{2} par 1.

On a

|e^{^{\frac{λ}{2}} (t+i \frac{λ_{k}}{λ} )^{2}} | ≤ e^{^{\frac{λ}{2}} ((Ret)^{2}−|Imt+ \frac{λ_{k}}{λ} |^{2})},

donc, pour tout η > 0, si Imt ∈ B (−1, ε) et si

\frac{λ_{k}}{λ} ∉ B (−Imt, \frac{η}{|λ|^{1−1/σ}} )  et  \frac{λ}{λ_{k}} ∉ B (−Imt, \frac{η}{|λ|^{1−1/σ}} ) , (B.11)

alors

|e^{^{\frac{λ}{2}} (t+i \frac{λ_{k}}{λ} )^{2}} | ≤ e^{\frac{λ}{2} (Ret)^{2}−η max\{λ_{k},λ\}^{1/σ}}.

Or, si η > 0 est choisi assez petit, il existe au plus un seul k tel que \frac{λ_{k}}{λ} ∈ B (1, 2η) ou \frac{λ}{λ_{k}} ∈ B (1, 2η) (car 2^{k}a ≤ λ_{k} < 2^{k}b et 1 < a < b < 2). On le note alors k_{λ,t}. Les estimations précédentes impliquent le lemme suivant Lemme B.11. — Il existe N > 0 et C > 0 tels que pour tous t, z tels que |Reet| ≤ ϵ, pour tout λ ∈ R^{+}, si

♯ \{k ∈ N; \frac{λ_{k}}{λ} ∈ B (−Imt, \frac{η}{|λ|^{1−1/σ}} ) ou \frac{λ}{λ_{k}} ∈ B (−Imt, \frac{η}{|λ|^{1−1/σ}} )\} = 1,

alors

|T̃ψ_{1}ψ_{2}u_{λ} (t, z) − ∫ e^{λ(x·z−x^{2}/2)}e^{^{\frac{λ}{2}} (t+i \frac{λ_{k_{λ.t}}}{λ} )^{2}}ψ_{1} (x) u (x, λ_{k_{λ,t}}) dx|

≤ C\sqrt{λ}e^{\frac{λ}{2}((Ret)^{2}+(Rez)^{2})−η|λ|^{1/σ}}

et si ♯\{k ∈ N; \frac{λ_{k}}{λ} ∈ [1 − 2ϵ, 1 + 2ϵ] et \frac{λ}{λ_{k}} ∈ [1 − 2ϵ, 1 + 2ϵ]\} = 1\} = 0, on a

| T̃Ψ_{1}Ψ_{2}u_{λ} (t, z) |≤ Cλ^{N}e^{\frac{λ}{2}((Ret)^{2}+(Rez)^{2})−η|λ|^{1/σ}}.

Nous supposons maintenant que ρ_{0} ∉ SS_{b}^{σ} (u). Il existe donc η′ > 0 tel que, si z est assez proche de z_{0} = x_{0} − iξ_{0}, on a

|T (ψu) (z, λ)| ≤ Cλ^{N}e^{\frac{λ}{2} (Rez)^{2}−η′|λ|^{1/σ}}.

Soit Λ ∈ L. Alors, d’après le lemme B.11, si |Imt + 1| < η et si η et ε sont assez petits (ε, η << η′), on a

| T̃ψ_{1}ψ_{2}u_{Λ} (t, z) |≤ Cλ^{N}e^{\frac{λ}{2}((Ret)^{2}+(Rez)^{2})−η|λ|^{1/σ}},

ce qui implique que (s_{0}, σ_{0} = 1, ϱ_{0}) ∉ SS_{b}^{σ} (u_{Λ}).

Réciproquement, supposons qu’il existe s_{0} ∈ R tel que pour toute suite Λ ∈ L ∪ L′, le point (s_{0}, σ_{0} = 1, x_{0}, ξ_{0}) ∉ SS_{b}^{σ} (u_{Λ}), c’est à dire qu’il existe ψ_{1} ∈ C_{0}^{∞} (R^{2}) (respectivement ψ_{2} ∈ C_{0}^{∞} (R)) égale à 1 au voisinage de x_{0} (respectivement au voisinage de s_{0}) ε_{1} > 0, C > 0 et η_{1} > 0 tels que pour tout z ∈ B (z_{0} = x_{0} − iξ_{0}, η_{1}) et tout t ∈ B (s_{0} − i, η), on a

|T̃u_{Λ} (t, z)| ≤ Ce^{\frac{λ}{2}((Rez)^{2}+(Ret)^{2})−ε_{1}|λ|^{1/s}}.

Nous allons montrer qu’alors, le point (x_{0}, ξ_{0}) ∉ SS_{b}^{σ} (u). On raisonne par l’absurde : on suppose donc que pour toute fonction ψ ∈ C_{0}^{∞} (R^{2}), égale à 1 au voisinage de x_{0}, tout ε > 0, C > 0 et tout η > 0, il existe λ_{ψ,ε,C,η} et z ∈ B (z_{0} = x_{0} − iξ_{0}, η) tel que

|T (ψu) (z, λ)| > Ce^{\frac{λ}{2} (Rez)^{2}−ε|λ|^{1/s}}.

On choisit ψ = ψ_{1}, 0 < ε < ε_{1} et 0 < η < η_{1} que nous fixerons par la suite. Il existe donc une suite λ_{n} telle que pour tout n ∈ N, il existe z_{n} ∈ B (z_{0} = x_{0} − iξ_{0}, η) tel que

|T (ψu) (z_{n}, λ_{n})| > ne^{\frac{λn}{2} (Rez_{n})^{2}−ε|λ_{n}|^{1/σ}}.

On remarque d’abord que d’après les estimations (B.2), nécessairement, la suite λ_{n} tend vers l’infini. On peut donc construire une suite Λ ∈ L ∪ L′ contenant une infinité de termes de la suite (λ_{n}). Supposons par exemple que Λ ∈ L. Le lemme B.11 appliqué aux λ = λ_{k} montre qu’alors, nécessairement, on a (s_{0}, 1, x_{0}, ξ_{0}) ∈ SS_{b}^{σ} (u_{Λ}), ce qui fournit la contradiction annoncée. Le cas Λ ∈ L′ se traite de la même manière.

Nous allons maintenant utiliser ces résultats pour déduire des résultats de propagation des singularités de G. Lebeau [18], des résultats sur la localisation de l’ensemble de fréquence. On commence par remarquer que la distribution u_{Λ} vérifie

\{ \begin{matrix}∂_{s}^{2}u_{Λ} − Δ_{x}u_{Λ} & = f_{Λ}, \\ u_{Λ} |_{∂Ω} & = g_{Λ}. \end{matrix}

On a donc, par le théorème de régularité elliptique Gevrey σ,

SS_{b}^{σ} (u_{Λ}) ⊂ SS_{b}^{σ} (f_{Λ}) ∪ SS^{σ} (g_{Λ}) ∪ Π (car (□)) ,

où Π (car (□)) désigne la projection de la variété caractéristique de l’équation des ondes sur T_{b}^{∗}Ω (ce résultat est classique en dehors du coin et il est vide au coin). On en déduit la Proposition B.12 (Régularité elliptique). — Soit u une famille de distributions définies pour λ ∈ R^{+}, solutions de l’équation (B.1), vérifiant (B.2), alors l’ensemble de fréquence SS_{b}^{σ} (u) est inclus dans l’ensemble

SS_{b}^{σ} (u) ⊂ SS_{b}^{σ} (f) ∪ SS^{σ} (g) ∪ Π {|ξ|^{2} = 1} .

On peut également appliquer à la distribution u_{Λ} le théorème de propagation des singularités Gevrey σ de la section 2. Soit η_{0} = (s_{0}, σ = 1, ρ_{0}) ∈ SS_{b}^{3} (u_{Λ}) ∩ Π(car□). Soit γ la bicaractéristique généralisée issue de η_{0}. On suppose que Π est paramétrée par l ∈ R et que Π (0) = η_{0}. On suppose également que pour l ∈ [0, t_{0}], la bicaractéristique γ ne rencontre ni SS_{b}^{σ} (f_{Λ}) ni SS^{σ} (g_{λ}). Alors, si le point η_{0} appartient à SS_{b}^{σ} (u_{Λ}), le point γ (l) aussi, pour tout l ∈ [0, t_{0}]. On en déduit la Proposition B.13 (propagation des singularités). — Soit ρ_{0} = (x_{0}, ξ_{0}) appartenant à la projection de la variété caractéristique, Π {|ξ|^{2} = 1}. Tant que la projection sur l’espace des (x, ξ) de la bicaractéristique issue du point η_{0} = (s_{0}, σ = 1, ρ_{0}) paramétrée par l ∈ R et telle que γ (0) = η_{0} ne rencontre ni SS_{b}^{σ} (f) ni SS^{σ} (g) ni le coin, si le point ρ_{0} appartient à SS_{b}^{σ} (u), le point Π_{x,ξ}γ (l) aussi, et quand elle rencontre un coin, si avant de le rencontrer elle est incluse dans SS_{b}^{σ} (u), alors on peut la prolonger après le coin en une bicaractéristique généralisée incluse dans SS_{b}^{σ} (u) au voisinage du coin.

B.3 Ensemble de fréquence et estimations

Le but de cette partie est de faire un lien entre la localisation des ensembles de fréquence et l’obtention d’estimations. Le résultat obtenu est le suivant : Proposition B.14. — Soit u vérifiant (B.1) et (B.2). On suppose que x_{0} ∈ T^{∗}Ω est tel que x_{0} ∉ Π_{x} (SS_{b}^{σ} (u) ∪ ŜS_{b}^{σ} (u)). Alors, il existe ψ ∈ C_{0}^{∞} (R^{2}) égale à 1 au voisinage de x_{0}, s ∈ R, C > 0 et ε > 0 tels que pour tout λ ∈ R^{+},

∥ψu∥_{H^{s}} (Ω) ≤ Ce^{−ε|λ|^{1/σ}}.

Remarque B.15. — Dans le cas où (Δ + λ^{2}) u = 0 au voisinage de x_{0}, on peut remplacer “il existe s” par “quelque soit s”, si on remplace aussi C par C_{s}λ^{s}.

On commence par remarquer que si ψ_{1} et ψ_{2} sont égales à 1 au voisinage de x_{0}, alors, si η > 0 est assez petit, il existe C, ε > 0 tels que pour tout |Rez| < η, on a

|T ((ψ_{1} − ψ_{2}) u)| ≤ Ce^{−ε|λ|}.

Cette remarque et la compacité de la sphère unité permettent de montrer que sous les hypothèses de la proposition B.14, il existe ψ ∈ C_{0}^{∞} (R^{2}), s ∈ R, C, ε > 0, η > 0 tels que pour tout z ∈ C^{2} tel que |Rez| < η, on a

|T (ψu) (z, λ)| ≤ Ce^{\frac{λ}{2} (Rez)^{2}−ε|λ|^{1/σ}} (1 + |Imz|)^{s} .

On a d’après la formule d’inversion de Fourier,

ψu (x, λ) = (\frac{λ}{2π} )^{2} ∫_{R^{2}} e^{iλx·α−λ \frac{x^{2}}{2}} T (ψu) (x − iα) dα.

Soit h ∈ C_{0}^{∞} (R^{2}) égale à 1 au voisinage de 0. On a alors

∥(\frac{λ}{2π} )^{2} ∫_{R^{2}} e^{iλx·α− \frac{λx^{2}}{2}} h (α) T (ψu) (x − iα) dα∥_{L^{2}(R^{2})} ≤ Ce^{−|λ|^{1/σ}}. (B.12)

On note

v_{h} (x, λ) = (\frac{λ}{2π} )^{2} ∫_{R^{2}} e^{iλx·α− \frac{λx^{2}}{2}} (1 − h) (α) T (ψu) (x − iα) dα

et en utilisant les inégalités de Cauchy sur un polydisque de centre z et de rayon \frac{1}{λ}, on montre qu’il existe A, B > 0 tels que pour tout z ∈ C^{2} ; |Rez| < \frac{η}{2}, pour tout λ ≥ 1 et tout α ∈ N^{2}

|∂_{z}^{α}T (ψu) (z, λ)| ≤ α!AB^{|α|}λ^{|α|}e^{\frac{λ}{2} (Rez)^{2}−ε|λ|^{1/σ}} (1 + |Imz|)^{s} . (B.13)

Soit ψ_{0} ∈ C_{0}^{∞} (R^{2}) égale à 1 au voisinage du support de la fonction ψ. Comme, pour tout φ ∈ C_{0}^{∞} (R^{2}),

(\frac{λ}{2π} )^{2} ∫_{R_{x}^{2}} ∫_{R_{α}^{2}} e^{iλx·α−λ \frac{x^{2}}{2}} (1 − h) (α) ψ_{0}T (ψu) (x − iα) dαφ (x) dx

= (\frac{λ}{2π} )^{2} ∫_{R^{2}} e^{iλx·α−λ \frac{x^{2}}{2}} (\frac{∂_{x}}{iλα − λx})^{l} ((1 − h) (α) ψ_{0}T (ψu) (x − iα) φ (x)) dαdx,

on obtient, en utilisant (B.13),

(v_{h} (x, λ) , φ)_{L^{2}(R^{2})} ≤ C ∑_{|n|≤s+3} ∥∂_{x}^{n}φ∥_{L^{2}(R^{2})} e^{−ε|λ|^{1/σ}}.

En utilisant cette dernière relation et (B.12), on obtient le lemme B.14. Finalement, si (Δ + λ^{2}) u = 0, il est bien connu que la norme sobolev d’ordre s de u et le produit de la norme L^{2} par λ^{s} sont (uniformément par rapport à λ) équivalentes, d’où la remarque B.15.

C Un principe du maximum

Le but de cette partie est de démontrer un principe du maximum permettant de propager des estimations en O(e^{−|λ|^{1/3}}) obtenues sur l’axe réel par des arguments de propagation de singularités développés dans l’annexe B, à un domaine de la forme U_{A,B} (A, B > 0). Nous allons montrer que cette propagation est possible à condition d’avoir une estimation à priori beaucoup plus faible sur un ouvert U_{A′,B′}; A′ > A. Lemme C.1. — Soit f une fonction holomorphe sur le domaine D_{A} = {z ∈ C; 0 ≤ Imz ≤ A|z|^{1/3}; Rez ≥ 1} à valeurs dans un espace de Hilbert H. On suppose que f vérifie les hypothèses suivantes:

i) il existe C > 0, ε > 0 tels que pour tout x ∈ R^{+}, ∥f(x)∥ ≤ Ce^{−εx^{1/3}},

ii) il existe N, C > 0, η > 0 tels que pour tout z ∈ D_{A}, ∥f(z)∥ ≤ C|λ|^{N}e^{ηImz}.

Alors Il existe A′, C, ε′ > 0 tels que pour tout z ∈ D_{A′}, la fonction f vérifie:

∥f(z)∥ ≤ Ce^{−ε′|z|^{1/3}}. (C.1)

Soient B, α > 0 que nous fixerons plus tard et h(z) = z^{2}e^{−iBz−εz^{1/3}−αz} (on définit z^{1/3} en utilisant la détermination principale du logarithme bien définie sur D_{A}). Pour tout z ∈ D_{A}, on a

∥\frac{f(z)}{h(z)}∥ ≤ Ce^{ηImz−BImz+εRe(z^{1/3})+αRe(z)}.

Sur Γ_{A} = \{z ∈ C; Imz = A|z|^{1/3}; Rez ≥ 0\}, on écrit z = ϱe^{iθ}, on a z^{1/3} = ρ^{1/3}e^{\frac{iθ}{3}} et sur Γ_{A} on a θ ∼ Aρ^{−2/3} donc Imz ∼ Aρ^{1/3} et Re(z^{1/3}) ∼ ρ^{1/3}, si on choisit B assez grand, on obtient pour tout z ∈ Γ

∥\frac{f}{h}∥ ≤ Ce^{(η−B)Imz+εRe(z^{1/3})+αRez} ≤ Ce^{αRez}.

Sur l’axe réel on a d’autre part

∥\frac{f}{h}∥ ≤ Ce^{αx+εx^{1/3}−εx^{1/3}} ≤ Ce^{αx}.

On fixe maintenant un segment vertical

K = {z ∈ C; Rez = M, 0 ≤ Imz ≤ |z|^{1/3}}.

Sur K on a

∥\frac{f}{h}∥ ≤ e^{ηImz−BImz+εRe(z^{1/3})+αRez}.

Si on choisit M assez grand, on a donc pour tout z ∈ K

∥\frac{f}{h}∥ ≤ Ce^{2αRez}.

En appliquant le principe du maximum à la fonction f/h, holomorphe dans D_{A}, puis en faisant tendre M vers l’infini, on en déduit que ∥f/h∥ ≤ C|e^{2αz}| dans D_{A}. Si on fait tendre α vers 0 on a donc ∥f∥ ≤ C|h| sur D_{C}. Il suffit maintenant de prendre ϵ′ et A assez petits pour vérifier que l’estimation (C.1) est satisfaite par la fonction h donc par la fonction f sur D_{A′}.

D Une application du théorème de Sard

On rappelle les notations suivantes introduites au chapitre 2. On notera Γ_{a_{0}} l’ensemble des rayons analytiques définis sur un intervalle [−a_{0}, s_{γ}[ et tels que

Π_{x,τ}γ(−a_{0}) = (x_{1}, τ_{0}), Π_{x}γ(s_{γ}) = O}

et

S_{x_{1}} = ∪_{γ∈Γ}{s_{γ}},

l’ensemble des instants d’arrivée au coin des rayons analytiques issus de x_{1} à l’instant t = −a_{0}. Proposition D.1. — Il existe un voisinage fermé W de 0 dans R_{t} et un voisinage V de O dans \overline{Ω} tel que si a_{0} est assez petit, pour tout x ∈ V, l’intersection de S_{x} avec W est un fermé de mesure nulle dans R.

La démonstration va se faire en plusieurs étapes. On peut clairement supposer τ_{0} = 1. Quitte à les prolonger vers le futur, on peut également supposer que tous les rayons considérés sont définis sur l’intervalle [−a_{0}, η], avec η > 0. Soit ε > 0. Il est clair, puisque les rayons sont parcourus à vitesse 1, que si on prend a_{0} et W assez petits les seuls rayons qui nous intéressent sont ceux qui ne sont pas sortis de B_{x}(O, ε). Si on choisit ε > 0 assez petit les rayons qui nous intéressent ont donc rencontré une seule fois le coin entre −a_{0} et η (au point paramétré par s_{γ}). Dans la suite de cette partie on se bornera à étudier les projections sur l’espace des x des rayons bicaractéristiques généralisés qu’on notera encore rayon.

D’après [18], lemme 1.2, les rayons qui rencontrent le coin sont localement soit inclus dans T^{∗}Ω∪T^{∗}Δ_{1} (type 1) soit inclus dans T^{∗}Ω∪T^{∗}Δ_{2} (type 2). Comme le bord de Ω est analytique par morceaux, quitte à diminuer ε, on peut supposer que les intersections des deux arêtes définies par les équations (2.2) avec B(O, ε) sont, au voisinage de tout point distinct du coin, soit des segments de droite, soit strictement convexes, soit strictement concaves, soit des arcs qui changent de concavité uniquement au point considéré. Dans les trois derniers cas, on sait alors que tout rayon qui rencontre le coin et quitte le bord ne le rencontre pas de nouveau avant d’avoir parcouru une longueur ε′ > 0. Puisqu’un point d’accumulation de rayons brisés est nécessairement un point de contact d’ordre infini du rayon avec le bord, ce qui est exclu par l’analycité par morceaux du bord, les rayons qui rencontrent le coin sont, si a_{0} > 0 et η > 0 sont assez petits, sur [−a_{0}, η]\{s_{γ}} réunions localement finies de morceaux des types suivants :

– des segments de droite,

– des arcs dans le bord Δ_{1} ∪ Δ_{2}.

On va montrer la proposition D.1, pour les rayons de type 2, par exemple.

On notera A, l’intersection de l’arête T^{∗}Δ_{1} avec B (O, ε). On suppose que A est paramétrée par la longueur de l’arc issu du coin, ce qui permet d’identifier A avec [0, L]. On peut maintenant introduire un ensemble qui permettra d’une certaine manière de décrire les ”formes” des trajectoires allant de x à y: Définition D.2. — On notera F l’ensemble des n-uplets (ε_{i}^{f})_{i∈{1..k_{f} }}, pour k_{f} ∈ N, où les ε_{i}^{f} ∈ {1, 2}.

On associe maintenant à chaque élément de F une variété à bord, qui correspondra à un ensemble de trajectoires: Définition D.3. — Pour f ∈ F, on notera G_{f} = ∏_{i∈{1..k_{f} −1}} V_{i} × V_{k_{f}} où:

– V_{i} =]0, L] si ε_{i}^{f} = 1,

– V_{i} =]0, L]^{2} \ {(x, x)|x ∈ [0, L]} si ε_{i}^{f} = 2

et:

– V_{k_{f}} = {0} si ε_{k_{f}}^{f} = 1,

– V_{k_{f}} =]0, L] si ε_{k_{f}}^{f} = 2

et G = ∪_{f∈F} G_{f}.

On va aussi définir un espace de trajectoires un peu artificiel, mais qui contient les rayons qui nous intéressent Définition D.4. — On notera H l’espace des trajectoires de longueur finie partant de x et allant en O, qui sont composées d’un nombre fini d’arcs de ∂Ω (qui peuvent être de longueur nulle) et de segments de droites (qui peuvent sortir de \overline{Ω}) entre deux arcs de ∂Ω.

On a alors une application surjective, ϕ, définie de G dans H, qui à f ∈ F et à g = (x_{1}, x′_{1}, ..., x_{k_{f}} , x′_{k_{f}}) ∈ G_{f} fait correspondre la trajectoire ϕ(g) ∈ H qui part de x et

– si ε_{1}^{f} = 1, atteint l’arête f_{1} au point de paramètre x_{1} et continue par un segment de droite,

– si ε_{1}^{f} = 2, atteint l’arête f_{1} au point de paramètre x′_{1} et la suit jusqu’au point de paramètre x_{1} et continue par un segment de droite,

pour aller (par un segment de droite) jusqu’au point de f_{2} de paramètre x_{2} si ε_{2}^{f} = 1, etc... jusqu’à arriver en O, par un segment de droite si ε_{k_{f}}^{f} = 1 et par l’arc (x_{k_{f}} , 0) si ε_{k_{f}}^{f} = 2.

Cette définition permet de définir une fonctionnelle longueur l, définie sur G_{f} à partir de celle qui existe dans H, donnée par

l (f) = ∑_{i=1}^{k_{f}} l_{i} + l′_{i},

avec l_{i} = dist (x_{i−1}, x_{i}) si ε_{i}^{f} = 1 et l_{i} = dist (x_{i−1}, x′_{i}) + |x′_{i} − x_{i}| si ε_{i}^{f} = 2 (compte tenu du paramétrage par la longueur de l’arc, |x′_{i} − x_{i}| est la longueur de l’arc parcouru).

On remarque que tout rayon issu de x_{0} et arrivant en O est obtenu comme un ϕ (g) pour un f ∈ F et un g ∈ G_{f}.

On note, pour ε > 0, G_{f}^{ε}, l’espace obtenu en remplaçant ]0, L] par [ε, L] et ]0, L]^{2} \ {(x, x); x ∈ [0, L]} par [ε, L]^{2} \ {(x, y); x ∈ [0, L]^{2}; |x − y| < ε}. Il est alors clair que, pour tout ε > 0, l’application l est de classe C^{∞} sur l’espace G_{f}^{ε}. Il est également clair que si γ est un rayon analytique issus de x_{0} et joignant O, égal à ϕ (g), g ∈ G_{f}, alors g est un point critique pour cette fonctionnelle, ce qui correspond seulement à imposer les règles de la réflexion optique pour les rayons arrivant transversalement au bord et à imposer qu’avant de parcourir un segment d’arc le rayon arrive tangentiellement au bord et qu’après avoir parcouru un segment d’arc le rayon reparte tangentiellement au bord. D’après le théorème de Sard, pour tout f ∈ F et tout ε > 0, puisque s_{γ} +a_{0} = l (g) si γ = ϕ (g), l’ensemble

⋃_{{γ=ϕ(g) \atop g∈G^{ε}_{f}}}(s_{γ} + a_{0})

est de mesure nulle. Par réunion dénombrable, il en est de même pour

⋃_{f∈F ; {γ=ϕ(g) \atop g∈G_{f}}} (s_{γ} + a_{0}),

ce qui montre la première partie de la proposition D.1.

Il reste à montrer que E_{x,y} est fermé. Ceci provient aussi de ce que c’est un ensemble de valeurs critiques pour une fonctionnelle sur un certain espace, mais il est plus simple d’en donner une démonstration directe. Proposition D.5. — L’ensemble E_{x,y} est fermé.

Soit (t_{n})_{n∈N} une suite d’éléments de E_{x,y} convergeant vers t. Soit γ_{n} une suite de rayons de longueur t_{n} + a_{0} issus du point x_{0} à l’instant t = −a_{0}. On peut prolonger ces rayons sur ] − a_{0}, t + ε]. D’après la proposition 2.2, on peut extraire de la suite γ_{n} une sous suite convergeant uniformément vers le rayon γ et il est alors clair que la longueur du rayon γ est t + a_{0}

Centre de Mathématiques,

URA 169 du CNRS, Ecole Polytechnique, 91128 Palaiseau Cedex, FRANCE. email : burq@math.polytechnique.fr N.Burq

120

Bibliographie

[1] C. Bardos, G. Lebeau, and J. Rauch. Scattering frequencies and gevrey 3 singularities. Inventiones Mathematicae, 90:77–114, 1987.

[2] N. Burq. Contrôle de l’équation des plaques en présence d’obstacles strictement convexes. Mémoire, 55, 1993. Supplément au Bulletin de la Société Mathémetique de France.

[3] N. Burq. Pôles de diffusion engendrés par un coin. Séminaire E.D.P. du centre de mathématiques de l’école Polytechnique, 1994-1995.

[4] L. Boutet de Monvel and P. Kree. Pseudodifferential operators and gevrey spaces. Annales de l’Institut Fourier, 17:295–323, 1967.

[5] J. M. Delors. F.B.I. transformation, second Microlocalisation and Semilinear Caustics, volume 1522 of Lecture Notes in Mathematics. Springer-Verlag, 1992.

[6] H. G. Garnir. Fonction de green pour l’opérateur métaharmonique dans un angle ou un dièdre. Bulletin de la Société Royale de Sciences de Liège, pages 119–140, 207–231, 328–344, 1952.

[7] C. Gérard. Asymptotique des pôles de la matrice de scattering pour deux obstacles strictement convexes. Supplément au Bulletin de la Société Mathématique de France, 116, 1988.

[8] P. Gérard et G.Lebeau. Diffusion d’une onde par un coin. Journal of the American Mathematical Society, 6:341–423, 1993.

[9] P. Grisvard. Elliptic Problems in non smooth Domains, volume 24 of Monographs and Studies in mathematics. Pitman, 1985.

[10] P. Grisvard. Singularities in Boundary Value Problems, volume 22 of Research Notes in Applied Mathematics. Masson, 1992.

[11] L. Hörmander. The Analysis of Linear Partial Differential Operators, volume 3. Springer Verlag, 1985.

[12] M. Ikawa. Decay of solution of the wave equation in the exterior of several convex bodies. Annales de l’ Institut Fourier, 38(2):113–146, 1982.

[13] M. Ikawa. Decay of solution of the wave equation in the exterior of two convex bodies. Osaka Journal of Mathematics, 19:459–509, 1982.

[14] M. Ikawa. On the poles of the scattering matrix for two convex obstacles. Annales de l’ Institut Fourier, 38:113–146, 1988.

[15] P. D. Lax. Asymptotic solutions of initial value problems. Duke Mathematical Journal, 24:627–646, 1957.

[16] G. Lebeau. Régularité gevrey 3 pour la diffraction. Communications in Partial Differential Equation, 9:1437–1494, 1984.

[17] G. Lebeau. Contrôle de l’équation de schrödinger. Journal de Mathématiques Pures et Appliquées, 71:267–291, 1992.

[18] G. Lebeau. Propagation des ondes dans les dièdres. Prépublications de l’université de Paris-Sud, 1994.

[19] R.B. Melrose and J. Sjöstrand. Singularities of boundary value problems I. Communications in Pure Applied Mathematics, 35, 1982.

[20] J. Nečas. Les Méthodes directes en Théorie des Equations Elliptiques. Masson, 1967.

[21] L.V. Ovsjannikov. A nonlinear cauchy problem in a scale of banach spaces. Sov. Math. Dokl, 12:1497–1502, 1971.

[22] V. Petkov. Pôles de la matrice de diffusion pour des perturbations captives. Séminaire E.D.P. du Centre de Mathématiques de l’école Polytechnique, pages XV– 1–13, 1990-91.

[23] V. Petkov and L. Stoyanov. Sojourn times of trapping rays and the behaviour of the modified resolvant of the laplacian. Ann. Inst. Poincaré, 62:17–45, 1995.

[24] O. Poisson. Calculs des pôles associés à la diffraction d’ondes acoustiques et élastiques en dimension 2. PhD thesis, Université Paris IX Dauphine, 1993.

[25] G. Popov. Some estimates of green’s functions in the shadow. Osaka Journal of Mathematics, 27:1–12, 1987.

[26] M. Reed and B. Simon. Methods of Modern Mathetical Physics, volume I, II, III, IV. Academic Press, 1978.

[27] J. Sjöstrand. Analytic singularities and microhyperbolic boundary value problems. Mathematische Annalen, 254:211–256, 1980.

[28] J. Sjöstrand. Singularités analytiques microlocales, volume 95 of Astérisque. Société mathématique de France, 1982.