5.1 Hessienne
La théorie de Morse fait jouer un rôle essentiel à la hessienne d'une fonction en un point critique. Avant de discuter cette notion sur une variété, rappelons la situation classique pour une fonction d'un espace affine réel dans . On note l'espace vectoriel dirigeant . La dérivée première est une application de dans . La dérivée seconde est donc une application de dans . Ce dernier espace est canoniquement isomorphe à , l'espace des formes bilinéaires sur . La hessienne de est la dérivée seconde vue à travers cet isomorphisme : . Le théorème de symétrie de Schwarz assure que cette forme bilinéaire est symétrique.
Dans la discussion précédente, il est important que l'espace d'arrivée de soit indépendant du point. Elle ne se généralise donc pas immédiatement au cas des variétés car les espaces tangents dépendent du point. On va voir que ce problème disparaît aux points critiques.
On commence par une discussion générale. Soit un fibré vectoriel. On note la section nulle de , c'est à dire l'ensemble des des espaces vectoriels pour parcourant . Il s'agit d'une sous-variété de naturellement difféomorphe à via . Chaque fibre de est à la fois une sous-variété de et un espace vectoriel. La discussion du fibré tangent à un espace affine ou vectoriel (exemple 2.7) donne un isomorphisme naturel pour tout dans et dans . Les fibres de sont transversales à la section nulle et les identifications discutées ci-dessus fournissent, pour tout point de , une décomposition en somme directe canonique .
Soit une variété et son fibré cotangent, le fibré vectoriel dual de , de fibre en tout . Comme expliqué dans la section 2.3, toute fonction fournit une section de , qui envoie sur la composée de et de l'isomorphisme de l'exemple 2.7. Pour tout point et tout vecteur de , est la dérivée de dans la direction de .
Puisque est de dimension une, les points critiques de sont les points tels que , c'est à dire les points envoyés par dans la section nulle de . Pour un tel on peut composer avec la projection sur le facteur pour obtenir une application linéaire de dans . La forme bilinéaire correspondante sur (qui envoie sur ) est appelée Hessienne de en et notée . Il est important de remarquer que, contrairement à , cette forme bilinéaire n'est définie qu'aux points critiques de .
L'indice d'un point critique est l'indice de la hessienne de la fonction en ce point, c'est à dire le maximum des dimensions des sous-espaces sur lesquels la hessienne est définie négative.