Décomposition mince-épaisse
Décomposition mince-épaisse des variétés hyperboliques
Soit $M=\Gamma\backslash H^n$ une variété hyperbolique et soit $\pi: H^n \to M$ la projection naturelle. Si $\tilde{x}\in H^n$, on note $\ell_x$ la longueur d'un plus petit lacet géodésique non trivial basé au point $x=\pi(\tilde{x}) \in M$, c'est-à-dire la distance minimale entre deux points distincts de l'orbite $\Gamma\cdot\tilde{x}$. La quantité $\ell_x/2$ est le plus grand rayon $0<r$ tel que la restriction de la projection $\pi$ à la boule ouverte $B_\tilde{x}(r)$ soit injective, on l'appelle rayon d'injectivité au point $x$, noté $inj_x$.
Pour tout $\epsilon >0$, on définit la partie épaisse $M_{\geq \epsilon} = \{x\in M; inj_x \geq \epsilon/2\}$ et la partie mince $M_{\leq \epsilon}$ comme l'adhérence de de l'ensemble $\{x\in M; inj_x < \epsilon/2\}$. L'adhérence permet d'éviter les géodésiques fermées isolées. On a évidemment $M=M_{\geq \epsilon} \cup M_{\leq \epsilon}$ (décomposition de Margulis-Jorgensen). Il existe une borne $\epsilon_n$ ne dépendant que de la dimension telle que pour toute variété hyperbolique de dimension $n$ et pour $\epsilon\leq \epsilon_n$, la topologie de la partie mince $M_{\leq \epsilon}$ (si elle est non vide) est déterminée. Nous énonçons ce résultat remarquable en dimension 3, dans le cas oritentable.
Théorème (Kazhdan-Margulis) Il existe une constante $\mu >0$ telle que pour toute variété hyperbolique complète et orientable $M$ de dimension 3, pour tout $0< \epsilon < \mu$, toute composante connexe de la partie mince $M_{\leq \epsilon}$ (si elle est non vide) est homéomorphe à l'un des espaces suivants :
- un tore solide (voisinage tubulaire d'une géodésique fermée ou "tube de Margulis"),
- $T^2\times [0,\infty[$ ou $C\times [0,\infty[$ ($T^2$ tore, $C$ cylindre).
Idée de preuve (d'après Thurston, Three-Dimensional Geometry and Topology, vol I)
Étape 1. (Lemme de Zassenhaus) Si $G$ un groupe de Lie (par exemple $G=PSL_2(\mathbb{C})$), il existe un voisinage $U$ de $1\in G$ tel que tout sous-groupe discret $\Gamma$ engendré par $\Gamma\cap U$ est nilpotent.
Preuve : Cela résulte de l'observation que la dérivée de l'application commutateur est nulle au pont $(1,1)\in G\times G$ : $[a,b]=aba^{-1}b^{-1} = 1 + O(\max(|a-1|^2,|b-1|^2)$. Par suite, $[[[a_1,a_2],a_3],... ],a_k] -1 $ est de l'ordre de $\max(|a_1-1|^k,|a_2-1|^k, |a_k-1|^k)$. En prenant par exemple $U=\{g\in g; |g-1|\leq 1/2\}$ et $\epsilon>0$ tel que $\Gamma \cap \{g\in G;|g-1|< \epsilon\} =\{1\}$, on aura pour $k$ assez grand $[[[a_1,a_2],a_3],... ],a_k] =1 $ dès que $a_i\in \Gamma\cap U$ ($i=1,\ldots,k$).
Étape 2. Soit $x\in H^3$. Il existe $\epsilon>0$ tel que tout sous-groupe discret $\Gamma$ de $G=PSL_2(C)$ engendré par $\Gamma \cap \{g\in G;dist(x,g\cdot x)\leq \epsilon\}$ est virtuellement nilpotent.
Preuve : Soit $U$ comme à l'étape 1 et soit $\Gamma_U$ le sous-groupe de $\Gamma$ engendré par $\Gamma\cap U$. On montre que $\Gamma_U$ est d'indice fini dans $\Gamma$ grâce à un lemme purement combinatoire.
Lemme : Soit $\Gamma$ un groupe agissant transitivement sur un ensemble $X$ de cardinal $m+1$. On fixe un système de générateurs $S$ de $\Gamma$ et on mesure la longueur des éléments de $\Gamma$ par rapport à $S$, notée $|\cdot|_S$. Si $x\in X$, il existe $m+1$ éléments $\gamma_1,\ldots,\gamma_{m+1}$ de longeur $\leq m$ tels que $card \{\gamma_i\cdot x ;i=1,\ldots,m+1\} = m+1$.
[ Considérer la croissante de l'orbite de $x$, $\alpha_n= card\{\gamma\cdot x ;|\gamma|_S\leq n\}$, et vérifier par l'absurde que $\alpha_m > m$. ]
Maintenant soit $V$ un voisinage relativement compact du stabilisateur $G_x$ (noter que $G_x$ est lui-même compact), que l'on recouvre avec $m-1$ translatés de l'ouvert $U$ : $V=g_1U \cup \ldots \cup g_{m-1}U$. Soit $W$ un voisinage symétrique ($W^{-1}=W$) de $1\in G$ tel que $W^m \subset V$. Supposons que le cardinal de l'ensemble $X=\Gamma/\Gamma_U$ est supérieur à $m +1$. Par le lemme, il existe $\gamma_1,\ldots,\gamma_{m+1}$ non congrus modulo $\Gamma_U$ et chaque $\gamma_i$ est produit d'au plus $m$ générateurs. On a $\gamma_i \in V$ (car $W^m$ est inclus dans $V$), deux des $\gamma_i$ appartiennent à un même translaté $g_k U$, ce qui est absurde ! ◻
Étape 3. On suppose que $\Gamma$ n'a que des élements hyperboliques (le principe est analogue quand il y a des paraboliques). Soit $M=\Gamma\backslash H^3$. Tout sous-groupe virtuellement nilpotent $N$ de $\Gamma$ est virtuellement abélien. Soit $N_0$ un sous-groupe nilpotent d'indice fini de $N$ et soit $\gamma$ un élément non trivial du centre $C_0$ de $N_0$. La transformation $\gamma$ est hyperbolique, avec deux points fixes $a, b \in \partial H^3$. Noter que les éléments de $\Gamma$ ne peuvent renverser l'axe $ab$ car $\Gamma$ est sans points fixes dans $H^3$. Le sous-groupe $G_{a,b}$ des éléments de $PSL_2(C)$ fixant $a$ et $b$ est abélien isomorphe à $SO(2)\times \R$ (groupe "loxodromique"). On voit successivement que $C_0\subset G_{a,b}$ ($C_0$ abélien), $N_0\subset G_{a,b}$ ($C_0$ normal dans $N_0$) et $N\subset G_{a,b}$. Par conséquent $N$ est infini cyclique. Pour $\gamma\in \Gamma$ on note $T_\gamma = T_\gamma(\epsilon)$ le tube $\{x\in H^3;dist(x,\gamma\cdot x)< \epsilon\}$. Toute composante de $M_{\leq \epsilon}$ s'écrit comme une réunion de tubes $T_0= \cup_{\gamma\in S_0} T_\gamma$. Si deux tubes $T_{\gamma}$ et $T_\delta$ se coupent, le sous-groupe engendré par $\gamma$ et $\delta$ virtuellement nilpotent, donc infini cyclique d'après ce qui précède. Il en résulte que $T_{\gamma} = T_\delta$ et que $T_0$ est lui-même un tube associé à un élément hyperbolique de $\Gamma$.
Remarque. Dans le cas parabolique, on montrerait de même que $N$ agit par isométries euclidiennes sur une horosphère, donc contient un $Z^k$ d'indice fini (premier théorème de Bieberbach).
