Cours Octobre 2009
Upcoming SlideShare
Loading in...5
×
 

Cours Octobre 2009

on

  • 467 views

 

Statistics

Views

Total Views
467
Views on SlideShare
467
Embed Views
0

Actions

Likes
0
Downloads
1
Comments
0

0 Embeds 0

No embeds

Accessibility

Upload Details

Uploaded via as Adobe PDF

Usage Rights

© All Rights Reserved

Report content

Flagged as inappropriate Flag as inappropriate
Flag as inappropriate

Select your reason for flagging this presentation as inappropriate.

Cancel
  • Full Name Full Name Comment goes here.
    Are you sure you want to
    Your message goes here
    Processing…
Post Comment
Edit your comment

Cours Octobre 2009 Cours Octobre 2009 Document Transcript

  • Croissance des groupes d’isom´tries des e espaces sym´triques e Jean-Fran¸ois Quint c GDR Platon, Institut Henri Poincar´, Paris, Octobre 2009 e
  • 2
  • Chapitre 1 Groupes de Lie semi-simples et sous-groupes discrets Dans ce cours, nous allons nous int´resser a la compr´hension de certaines e ` e propri´t´s asymptotiques des sous-groupes discrets des groupes de Lie semi- ee simple. Ce premier chapitre a pour but de pr´ciser ce qu’est un groupe de e Lie semi-simples, en tˆchant d’´viter la th´orie g´n´rale le plus possible. a e e e e 1.1 Groupes de Lie semi-simples Rappelons qu’un groupe de Lie est un groupe G muni d’une structure de vari´t´ diff´rentielle pour laquelle l’application G × G → G, (g, h) → g −1 h ee e est lisse. Nous utiliserons tous les r´sultats fondamentaux de la th´orie des e e groupes de Lie, pour lesquels on renvoie ` [16]. a D´finition 1.1.1. Un groupe de Lie connexe G est dit semi-simple si le seul e sous-groupe distingu´ ab´lien connexe de G est le sous-groupe trivial r´duit e e e a l’´l´ment neutre de G. ` ee Cette d´finition a le m´rite de la concision ` d´faut de celui de la clart´. En e e a e e effet, les groupes de Lie semi-simples sont des objets extrˆmement riches qui e poss`dent de nombreuses d´finitions ´quivalentes. En particulier, les groupes e e e de Lie semi-simple peuvent ˆtre d´crits tr`s pr´cis´ment. Tout groupe de Lie e e e e e semi-simple est, a un revˆtement pr`s, le produit d’un nombre fini de groupes ` e e de Lie simples (un groupe de Lie connexe G est simple s’il est de de dimension > 1 et si les seuls sous-groupes ferm´s distingu´s connexes de G sont le sous- e e groupe trivial et G lui-mˆme). Les groupes de Lie simples peuvent, quant e 3 View slide
  • 4 CHAPITRE 1. GROUPES DE LIE SEMI-SIMPLES a eux, ˆtre classifi´s, ` un revˆtement pr`s (voir [8]). Sans rentrer dans les ` e e a e e d´tails de cette classification, disons simplement qu’elle comprend de grandes e familles comme les groupes SLn (R) ou SLn (C), n ≥ 2, la composante connexe des groupes SO(p, q), p + q ≥ 3, les groupes SU(p, q), p + q ≥ 2, etc. ainsi qu’une liste finie de groupes dits exceptionnels. Bien que les groupes de Lie semi-simples soient, a priori, des objets de nature diff´rentielle, leur ´tude est proche de celle de certains objets prove- e e nant de la g´om´triqe alg´brique. Si K est un corps, un groupe alg´brique e e e e sur K est un groupe G muni d’une structure de K-vari´t´ alg´brique pour la- ee e quelle l’application G × G → G, (g, h) → g −1 h est un morphisme de vari´t´s ee alg´briques (voir [4]). Si K est R, le groupe G(R) des points r´els de G e e poss`de une structure naturelle de groupe de Lie. e R´ciproquement, si G est un groupe de Lie semi-simple, d’alg`bre de e e Lie g, le groupe des automorphismes de g poss`de une structure naturelle de e groupe alg´brique. On note G sa composante connexe au sens de la g´om´trie e e e alg´brique. Alors, la repr´sentation adjointe de G induit un morphisme de e e groupes de Lie G → G(R) dont l’image est la composante connexe (au sens classique) de G(R). Ce morphisme est un revˆtement. Par cons´quent, tout e e groupe de Lie semi-simple est, a un revˆtement pr`s, la composante connexe ` e e du groupe des points r´els d’un groupe alg´brique. Ceci explique pourquoi e e tous les exemples de groupes de Lie que nous avons donn´ sont de ce type. e Les groupes de Lie semi-simple apparaissent aussi en g´om´trie. Si M est e e une vari´t´ riemannienne connexe et m un point de M , le th´or`me de Hopf- ee e e Rinov (voir [7]) assure l’existence d’un voisinage sym´trique U de 0 dans e l’espace tangent en m a M tel que l’application exponentielle en m induise ` un diff´omorphisme de U sur un voisinage V de m. La sym´trie g´od´sique e e e e sm en m est alors l’application V → V, Expm X → Expm (−X). On dit que M est sym´trique si, pour tout m dans M , la sym´trie g´od´sique sm se prolonge e e e e en une isom´trie globale de m (n´cessairement unique). Dans ce cas, M peut e e s’´crire de mani`re unique M = M+ × M0 × M− o` M+ , M0 , M− sont aussi e e u des vari´t´s riemaniennes sym´triques telles que M0 est isom´trique ` un ee e e a espace euclidien et M− (resp. M+ ) est a courbure n´gative (resp. positive) ` e et ne peut pas s’´crire comme le produit d’un espace euclidien avec un autre e espace sym´trique. Si M = M+ , on dit que M est de type compact et, si e M = M− , on dit qu’il est de type non compact. Les espaces sym´triques de e type compact et non compact sont d´crits dans [8]. Ceux de type non compact e sont toujours contractiles (comme toute vari´t´ riemannienne simplement ee connexe ` courbure n´gative, d’apr`s le th´or`me de Hadamard, voir [7]). a e e e e View slide
  • ´ 1.2. DECOMPOSITIONS DES GROUPES DE LIE SEMI-SIMPLES 5 Le groupe des isom´tries H d’un espace sym´trique M peut ˆtre muni e e e d’une structure naturelle de groupe de Lie, pour laquelle l’action de H sur M est une application lisse H ×M → M . Si M est de type non-compact, la com- posante neutre G de H est semi-simple et son action sur M est transitive. Les stabilisateurs des points de M dans G sont des sous-groupes compacts maxi- maux de G. R´ciproquement, si G est un groupe semi-simple de centre fini, il e poss`de des sous-groupes compacts maximaux et ceux-ci sont tous conjugu´s. e e Si K est un tel sous-groupe, les m´triques riemanniennes G-invariantes du e quotient G/K le munissent d’une structure d’espace sym´trique de type non e compact. Exemple 1.1.2. Pour tout n ≥ 2 (resp. n ≥ 1), la composante connexe du groupe des isom´tries de l’espace hyperbolique r´el (resp. complexe) de di- e e mension n est la composante connexe du groupe SO(1, n) (resp. le groupe SU(1, n)). Pour tout n ≥ 2, le groupe SO(n) (resp. SU(n)) est un sous-groupe com- pact de SLn (R) (resp. SLn (C)). Le quotient SLn (R)/SO(n) (resp. SLn (C)/SU(n)) s’identifie a l’ensemble des matrices sym´triques (resp. hermitiennes) d´finies ` e e positives de taille n et de d´terminant 1. e Signalons enfin une derni`re caract´risation des groupes de Lie semi- e e simples en termes d’actions lin´aires. Si Γ est un sous-groupe de GLn (R), e pour n ≥ 1, on dit que Γ agit irr´ductiblement sur Rn si pour tout sous- e espace vectoriel V de R tel que ΓV ⊂ V , on a V = {0} ou V = Rn . n Rappelons par ailleurs que l’adh´rence de Zariski de Γ dans GLn (R) est le e groupe G(R) o` G est le plus petit sous-groupe alg´brique r´el de GLn tel que u e e n Γ ⊂ G(R). Alors, si Γ agit irr´ductiblement sur R , la composante connexe e de son adh´rence de Zariski est un groupe de Lie r´ductif, c’est-`-dire, a un e e a ` revˆtement pr`s, le produit d’un groupe de Lie ab´lien par un groupe de Lie e e e semi-simple. 1.2 D´compositions des groupes de Lie semi- e simples Nous allons a pr´sent pr´senter certains r´sultats de structure des groupes ` e e e de Lie semi-simples. Ces r´sultats sont des cons´quences de la th´orie g´n´rale e e e e e d´velopp´e dans [8] et [4]. Nous les ´non¸ons et les d´montrons ici dans le cas e e e c e particulier des groupes SLn (R) et SLn (C), n ≥ 2. Ils s’´tendent sans difficult´ e e
  • 6 CHAPITRE 1. GROUPES DE LIE SEMI-SIMPLES aux produits de tels groupes. On note K le groupe SO(n) (resp. SU(n)), A le groupe des matrices diagonales de taille n, de d´terminant 1 et dont les coefficients sont des r´els e e > 0 et N le groupe des matrices triangulaires sup´rieures a coefficients r´els e ` e (resp. complexes) dont toutes les valeurs propres ´galent 1. On note A+ le e sous ensemble de A form´ des matrices de coefficients diagonaux a1 , . . . an e avec a1 ≥ . . . ≥ an . Enfin, on note M le groupe des matrices diagonales de d´terminant 1 dont les coefficients sont r´els (resp. complexes) de module e e 1 et B le groupe des matrices triangulaires sup´rieures, c’est-`-dire qu’on a e a B = M AN . Proposition 1.2.1 (D´composition de Cartan). On a G = KA+ K. Plus e pr´cis´ment, pour tout g dans G, il existe un unique ´l´ment a de A+ tel que e e ee g appartienne ` KaK. a D´monstration. Soit g dans G. Si g t est la matrice transpos´e de g, la matrice e e t 2 g g est sym´trique est d´finie positive. Elle s’´crit donc s , o` s est elle mˆme e e e u e une matrice sym´trique d´finie positive. On a alors (gs−1 )t (gs−1 ) = 1, c’est- e e a-dire g = ks, avec k dans K. Mais alors, comme s est diagonalisable en base ` orthonorm´e ` valeurs propres positives, on peut ´crire s = lal−1 avec l dans e a e K et a dans A+ . Il vient g = klsl−1 , d’o` l’existence de la d´composition. u e L’unicit´ s’obtient de mani`re analogue. e e Exemple 1.2.2. Munissons Rn (resp. Cn du produit scalaire standard qui est g 0 K-invariant. Si n = 2, pour tout g dans G, on a g ∈ K K. Si 0 g −1   g 0 0 n = 3, pour tout g dans G, on a g ∈ K  0 g −1 g −1 0  K. −1 0 0 g −1 L’alg`bre de Lie a de A s’identifie a l’ensemble des ´l´ments (X1 , . . . , Xn ) e ` ee n de R avec X1 +. . .+Xn = 0. Pour g dans G, on note κ(g) = (κ1 (g), . . . , κn (g)) l’unique ´l´ment de a tel que g ∈ K exp(κ(g))K. ee Remarque 1.2.3. L’espace tangent a G/K en K s’identifie de fa¸on K-´quivariante ` c e a l’espace des matrices sym´triques de trace nulle. L’action de K dans cet ` e espace pr´serve la forme quadratique d´finie positive (X, Y ) → tr(XY ) et e e l’on v´rifie qu’il s’agit l`, ` un multiple pr`s, de l’unique forme quadratique e a a e pr´serv´e par cette action. La m´trique riemannienne G-invariante associ´e e e e e
  • ´ 1.2. DECOMPOSITIONS DES GROUPES DE LIE SEMI-SIMPLES 7 sur G/K est donc, ` un multiple pr`s, l’unique m´trique riemannienne G- a e e invariante sur cet espace. Si g est un ´l´ment de G, pour cette m´trique, on ee e a d(gK, K) = κ1 (g) 2 + . . . + κ (g)2 . n Plus g´n´ralement, si G est un groupe de Lie simple de centre fini et K e e un sous-groupe compact maximal de G, G pr´serve, ` un scalaire pr`s, une e a e unique m´trique riemannienne sur G/K. e Proposition 1.2.4 (D´composition d’Iwasawa). On a G = KAN et l’appli- e cation produit K × A × N → G est une bijection. D´monstration. Il s’agit l` d’une traduction imm´diate du proc´d´ d’ortho- e a e e e gonalisation de Gram-Schmidt. Le normalisateur de M A dans G est le groupe des ´l´ments de G ee qui laissent stable l’ensemble des droites engendr´es par la base canonique e (e1 , . . . , en ) de Rn (resp. Cn ). Son quotient W par M A est donc un groupe fini qui s’identifie naturellement au groupe des permutations de l’ensemble {1, . . . , n}. Proposition 1.2.5 (D´composition de Bruhat). On a G = w∈W BwB. e Plus pr´cis´ment, le groupe G est la r´union distincte des ensembles BwB, e e e o` w parcourt W . u Si K est un corps et V un K-espace vectoriel, un drapeau de V est une suite strictement croissante V0 = {0} V1 . . . Vr = V de sous-espaces vectoriels de V . Si r = dim V , on dit que le drapeau est complet. Si ξ et η sont deux drapeaux complets, on montre ais´ment qu’il existe une unique e permutation w de l’ensemble {1, . . . , n} telle qu’il existe une base (v1 , . . . , vn ) de V avec ξ = ({0}, Kv1 , Kv1 ⊕ Kv2 , . . . , V ) et η = ({0}, Kvw(1) , Kvw(1) ⊕ Kvw(2) , . . . , V ). On note B l’espace des drapeaux complets de Rn (resp. Cn ). Si ξ0 est le drapeau complet {0}, Re1 , Re1 ⊕ Re2 , . . . , Rn (resp. {0}, Ce1 , Ce1 ⊕ Ce2 , . . . , Cn ), l’application G → B, g → gξ0 identifie B et G/B. D´monstration de la proposition 1.2.5. Soit g dans G. D’apr`s la remarque e e ci-dessus, il existe une permutation w de {1, . . . , n} et une base (v1 , . . . , vn ) de V avec ξ0 = ({0}, Kv1 , Kv1 ⊕ Kv2 , . . . , V ) et gξ0 = ({0}, Kvw(1) , Kvw(1) ⊕ Kvw(2) , . . . , V ). Soit b un ´l´ment de G tel que, pour tout 1 ≤ i ≤ n, bei soit ee proportionnel a vi . Alors, on a bξ0 = ξ0 , donc b appartient ` B. De plus, si ` a
  • 8 CHAPITRE 1. GROUPES DE LIE SEMI-SIMPLES on note encore w un ´l´ment de G tel que, pour tout 1 ≤ i ≤ n, wei soit ee proportionnel ` ew(i) , on a gξ0 = bwξ0 , donc g ∈ bwB, d’o` l’existence de la a u d´composition. L’unicit´ se d´montre de mani`re analogue. e e e e 1.3 Sous-groupes Zariski denses Si G est un groupe de Lie semi-simple, son image par la repr´sentation e adjointe, c’est-`-dire son quotient par son centre, peut se voir de mani`re a e naturelle comme le groupe des points r´els d’un groupe alg´brique d´fini sur e e e R. On dit alors qu’un sous-groupe Γ de G est Zariski dense dans G si l’image de Γ dans ce quotient est Zariski dense, c’est-`-dire n’est pas contenue dans a le groupe des points r´els d’un sous-groupe alg´brique strict. Cela revient a e e ` dire que, pour toute repr´sentation lin´aire de G dans un espace vectoriel e e r´el V , pour tout sous-espace vectoriel W de V , si ΓW ⊂ W , on a GW ⊂ W e (ce fait ´tant une cons´quence du th´or`me de Chevalley, voir [4]). e e e e Revenons, pour pr´ciser les id´es, au cas o` G est SLn (R) ou SLn (C). e e u Nous conservons les notations introduites au paragraphe pr´c´dent et nous e e noterons A++ l’ensemble des ´l´ments de A dont les coefficients a1 , . . . , an ee v´rifient a1 > . . . > an , c’est-`-dire que A++ est l’int´rieur de A+ . Nous di- e a e rons qu’un ´l´ment g de G est loxodromique s’il est conjugu´ ` un ´l´ment de ee ea ee M A++ . On d´montre ais´ment qu’un ´l´ment est loxodromique si et seule- e e ee ment s’il poss`de un point fixe attracteur dans B. e Proposition 1.3.1 (Benoist-Labourie, Prasad [11]). Soit Γ un sous-groupe Zariski dense de G. Alors Γ contient un ´l´ment loxodromique. ee Exemple 1.3.2. Un sous-groupe de SL2 (R) est Zariski dense si et seulement s’il est non-´l´mentaire au sens de la g´om´trie hyperbolique, ce qui revient ee e e a dire qu’il ne fixe ni de produit scalaire sur R2 , ni de droite de R2 , ni de ` r´union de deux droites dans R2 . e Proposition 1.3.3. Soient G un groupe de Lie simple et Γ un sous-groupe Zariski dense de G. Alors Γ est discret ou dense. D´monstration. Soient g l’alg`bre de Lie de G et h ⊂ g l’alg`bre de Lie de e e e l’adh´rence de Γ. Alors, pour tout γ dans Γ, on a Adγ h ⊂ h, donc, pour tout e g dans G, on a Adg h ⊂ h. Comme G est simple, on a h = {0} ou h = g, d’o` u le r´sultat. e
  • 1.4. EXEMPLES DE SOUS-GROUPES DISCRETS ZARISKI DENSES 9 1.4 Exemples de sous-groupes discrets Za- riski denses Nous allons a pr´sent donner trois types d’exemples de sous-groupes dis- ` e crets Zariski dense d’un groupe de Lie semi-simple G. 1.4.1 R´seaux e Rappelons qu’un r´seau d’un groupe topologique localement compact G e est un sous-groupe discret Γ de G tel quel le quotient G/Γ poss`de une mesure e bor´lienne finie invariante par G. En particulier, si Γ est un sous-groupe co- e compact de G, il est un r´seau. e Exemple 1.4.1. Pour tout n ≥ 2, SLn (Z) est un r´seau non co-compact de e SLn (R) et SLn (Z[i]) est un r´seau non co-compact de SLn (C). e Les groupes de Lie semi-simples admettent de nombreux r´seaux. e Th´or`me 1.4.2 (Borel-Harish Chandra [5]). Si G est un groupe de Lie e e semi-simple, G poss`de ` la fois des r´seaux co-compacts et des r´seaux non e a e e co-compacts. Exemple 1.4.3. Pour tout n ≥ 2, le groupe SO(1, n) poss`de un r´seau co- e e compact Γ. D’apr`s le lemme de Selberg (voir [2]), quitte ` remplacer Γ e a par un sous-groupe d’indice fini, Γ est sans torsion. Alors, le quotient ΓHnR de l’espace hyperbolique r´el par l’action de Γ est une vari´t´ diff´rentielle e ee e muni d’une m´trique riemanienne localement isom´trique ` celle de l’espace e e a hyperbolique. Un groupe de Lie semi-simple peut s’´crire, ` revˆtement fini pr`s, de e a e e mani`re unique comme le produit de groupes de Lie semi-simples. Nous dirons e alors qu’il est sans facteur compact si aucun de ces groupes simples n’est compact. Th´or`me 1.4.4 (Borel [17]). Si G est un groupe de Lie semi-simple sans e e facteur compact, les r´seaux de G sont Zariski denses dans G. e Notons que cette condition est ´videmment n´cessaire. En effet, si K e e est un groupe compact, le sous-groupe trivial est un r´seau de K ! Plus e pr´cis´ment, si K est un groupe de Lie semi-simple compact, ses sous-groupes e e Zariski denses sont exactement ses sous-groupes denses au sens usuel.
  • 10 CHAPITRE 1. GROUPES DE LIE SEMI-SIMPLES 1.4.2 D´formations de groupes fondamentaux de e vari´t´s hyperboliques e e Si G est un groupe localement compact et Γ un groupe de type fini l’en- semble R(Γ, G) des homomorphismes de Γ dans G peut ˆtre muni d’une topo- e logie localement compacte naturelle. En effet, si S est une partie g´n´ratrice e e de Γ, cet ensemble s’identifie naturellement a ` {(gs )s∈S ∈ GS |∀r ∈ N ∀(ni , si )1≤i≤r ∈ (Z × Γ)r sn1 sn2 . . . snr = e ⇒ gs1 gs2 . . . gsrr = e} 1 2 r r1 r2 n et la topologie induite par cette identification sur R(Γ, G) ne d´pend pas de e S. Soient G et H des groupes de Lie semi-simples et Γ un r´seau de H. e Supposons donn´ un morphisme lisse de noyau fini ρ : H → G. La res- e triction ρ|Γ de ρ a Γ est donc un ´l´ment de R(Γ, G) d’image discr`te. ` ee e On peut alors se demander s’il existe des ´l´ments de R(Γ, G) qui sont ee d’image discr`te et Zariski dense et proches de ρ|Γ dans R(Γ, G). L’existence e de telles d´formations rencontre des obstructions de nature alg´brique qui e e sont d´crites par le th´or`me de Weil (voir [14]). Cependant, il existe des cas e e e o` cette constrcution est possible : u Th´or`me 1.4.5 (Johnson-Millson [10]). Pour tout n ≥ 2, il existe un e e r´seau co-compact Γ de SO(1, n) tel que la restriction ` Γ de la repr´sentation e a e naturelle de SO(1, n) dans SLn+1 (R) se d´forme en un morphisme d’image e discr`te et Zariski dense. e 1.4.3 Groupes de Schottky Nous allons a pr´sent introduire un dernier exemple de sous-groupe dis- ` e cret Zariski dense dont la construction est compl`tement explicite et permet e d’effectuer de nombreux calculs. Pour ce faire, nous allons avoir besoin de compl´ter nos connaissances sur les ´l´ments loxodromiques. e ee Si K est un corps et V un K-espace vectoriel, deux drapeaux complets ξ = (V0 , V1 , . . . , Vn ) et η = (W0 , W1 , . . . , Wn ) de V sont en position g´n´rale e e si, pour tout 0 ≤ i ≤ n, on a Vi ∩ Wn−i = {0} (ce qui revient a dire que ces ` deux sous-espaces engendrent V ). Exemple 1.4.6. Si dim V = 2, les drapeaux complets sont des droites de V . Deux droites sont en position g´n´rale si elles sont distinctes. Si dim V = 3, e e
  • 1.4. EXEMPLES DE SOUS-GROUPES DISCRETS ZARISKI DENSES 11 les drapeaux complets sont des couples (V1 , V2 ), o` V1 est une droite et V2 u un plan de V . Les couples (V1 , V2 ) et (W1 , W2 ) sont en position g´n´rale si e e V1 n’est pas contenu dans W2 et W1 n’est pas contenu dans V2 . ∨ Reprenons les notations du paragraphe 1.2 et notons ξ0 le drapeau ({0}, Ken , Ken ⊕ Ken−1 , . . . , Kn ), qui est en position g´n´rale avec ξ0 . Si g est e e ++ un ´l´ment de M A , l’action de g dans B admet ξ0 pour point fixe attrac- ee teur. On v´rifie ais´ment que son bassin d’attraction est B Q0 , o` Q0 est e e u l’ensemble des drapeaux complets qui ne sont pas en position g´n´rale avec e e ∨ ξ0 . Par cons´quent, si g est un ´l´ment loxodromique de G = SLn (R) e ee + ou SLn (C), il poss`de un unique point fixe attracteur ξg dans B et le e compl´mentaire du bassin d’attraction de ce point fixe est l’ensemble Q− e g des ´l´ments de B qui ne sont pas en position g´n´rale avec le point fixe ee e e attracteur de g −1 . Fixons-nous dor´navant des ´l´ments loxodromiques g1 , . . . , gr de G et e ee supposons que pour tout 1 ≤ i = j ≤ r, on a ξgi ∈ Q− ∪ Q−−1 et ξg−1 ∈ + / gj g + / j i Q− ∪ Q−−1 . gj g j p p Proposition 1.4.7 (Benoist, [3]). Il existe un entier p tel que g1 , . . . , gr engendrent un sous-groupe libre et discret de G. La d´monstration de cette proposition est une simple application de la e p p m´thode du tennis de table de Klein. La condition assurant que g1 , . . . , gr e engendrent un sous-groupe libre et discret de G ´tant ouverte, on peut, quitte e a modifier l´g`rement certains des g´n´rateurs, supposer que ce sous-groupe ` e e e e est Zariski dense dans G (voir [15]). D´monstration. Quitte ` remplacer les gi , 1 ≤ i ≤ r, par une puissance, on e a peut supposer qu’il existe dans B des ouverts b+ ξgi , b− ξg−1 , Bi− ⊃ Q− i + i + gi i et Bi+ ⊃ Q−−1 , avec b+ ∩ Bi− = ∅ = b− ∩ Bi+ = ∅, b+ ⊂ Bi+ , b− ⊂ Bi− g i i i i i et gi (B Bi− ) ⊂ b+ et gi (B Bi+ ) ⊂ b− , 1 ≤ i ≤ r, tels que, pour tous i −1 i 1 ≤ i = j ≤ r, on ait bi ∩ Bj = b+ ∩ Bj = b− ∩ Bj = b− ∩ Bj = ∅ et + − i + i − i + que 1≤i≤r Bi− ∪ Bi+ ne soit pas dense dans B. Alors, si 1 , . . . , l sont des ´l´ments de {±1}, t1 , . . . , tl des entiers non nuls et h1 , . . . , hl des ´l´ments de ee ee − {g1 , . . . , gr } avec, pour 1 ≤ k ≤ l−1, hk = hk+1 , on a hl l tl . . . h11 t1 (BB1 1 ) ⊂ bl l . En particulier, si ξ est un point int´rieur de B 1≤i≤r Bi− ∪ Bi+ , on a e l tl hl . . . h1 ξ ∈ 1≤i≤r Bi ∪ Bi . Donc hl l tl . . . h11 t1 est non trivial dans G 1 t1 − +
  • 12 CHAPITRE 1. GROUPES DE LIE SEMI-SIMPLES et il n’appartient pas au voisinage de l’identi´ constitu´ de l’ensemble des g e e − + dans G tels que gξ ∈ 1≤i≤r Bi ∪ Bi . La proposition en d´coule. / e √ Exemple 1.4.8. Pour t > 1 log(3 + 2 2), les matrices 4 et 0 cosh t sinh t et 0 e−t − sinh t cosh t engendrent un sous-groupe discret, libre et Zariski dense de SL2 (R). 1.5 R´sultats de comptage e Nous allons ` pr´sent d´crire les r´sultats connus sur le comptage asymp- a e e e totique dans les sous-groupes discrets des groupes de Lie semi-simples. Com- men¸ons par un r´sultat g´n´ral c e e e Th´or`me 1.5.1 ([12]). Soit G un groupe de Lie semi-simple de centre fini et e e K un sous-groupe compact maximal de G. Munissons G/K d’une m´trique e riemannienne G-invariante. Alors, si Γ est un sous-groupe discret Zariski dense de G, il existe δ > 0 tel que, pour tout x dans G/K, on ait 1 log {γ ∈ Γ|d(x, γx) ≤ a} − − δ −→ a a→∞ et {γ ∈ Γ|d(x, γx) ≤ a} = O ar−1 eaτ , a→∞ o` r est le rang r´el de G. u e Notons que le rang r´el de SLn (R) est n − 1. e L’estimation pr´cise de ces quantit´s est connue dans deux cas. Dans le e e cas des r´seaux, on a le e Th´or`me 1.5.2 (Eskin-McMullen, [6]). Soit G un groupe de Lie semi- e e simple de centre fini et K un sous-groupe compact maximal de G. Munissons G/K d’une m´trique riemannienne G-invariante et de la forme volume as- e soci´e et G de la mesure de Haar λ associ´e au choix de cette forme volume e e et de la mesure de Haar de masse totale 1 de K. Alors, si Γ est un r´seau e de G, pour tout x dans G/K, on a 1 {γ ∈ Γ|d(x, γx) ≤ a} ∼ vol(b(x, a)). a→∞ λ(G/Γ)
  • ´ 1.5. RESULTATS DE COMPTAGE 13 r−1 Notons que, d’apr`s [9], il existe C > 0 avec vol(b(x, a)) ∼ Ca e 2 eδG a , a→∞ o` r est le rang r´el de G et δG est un r´el > 0. u e e Dans le cas des groupes de Schottky, on a le Th´or`me 1.5.3 ([13]). Soit G un groupe de Lie semi-simple de centre fini e e et K un sous-groupe compact maximal de G. Munissons G/K d’une m´trique e riemannienne G-invariante. Alors, si Γ est un sous-groupe de Schottky de G, il existe δ > 0 tel que, pour tout x dans G/K, on ait {γ ∈ Γ|d(x, γx) ≤ a} ∼ Ceδa . a→∞ Dans la suite de ce cours, nous allons donner la d´monstration du e th´or`me 1.5.1 dans le cas o` G est le groupe SL3 (R). e e u
  • 14 CHAPITRE 1. GROUPES DE LIE SEMI-SIMPLES
  • Chapitre 2 Produit g´n´rique e e La d´monstration du th´or`me 1.5.1 repose essentiellement sur la e e e Proposition 2.0.4. Soit Γ un sous-groupe discret Zariski dense de G. Il existe une application π : Γ × Γ → Γ ayant les propri´t´s suivantes : ee (i) il existe un r´el M ≥ 0 tel que, pour tous g, h dans Γ, on ait : e κ(π(g, h)) − κ(g) − κ(h) ≤ M. (ii) pour tout r´el R ≥ 0, il existe une partie finie H de Γ telle que, pour e g, h, g , h dans Γ, avec κ(g) − κ(g ) ≤ R et κ(h) − κ(h ) ≤ R, on ait : π(g, h) = π(g , h ) ⇒ (g ∈ gH et h ∈ Hh) . Pour beaucoup de couples g, h, π(g, h) est simplement le produit de g et h. Plus g´n´ralement π(g, h) sera de la forme gf h o` f sera choisi dans une e e u partie finie de Γ de fa¸on judicieuse. c 2.1 Composante de Cartan du produit g´n´- e e rique Nous supposons donc dor´navant que G est SL3 (R). Nous notons e (e∗ , e∗ , e∗ ) la base duale de (e1 , e2 , e3 ). Si ρ est la repr´sentation standard 1 2 3 e de G dans R , sa repr´sentation contragradiante ρ dans l’espace dual (R3 )∗ 3 e ∗ de R3 v´rifie, pour tout g dans G, ρ∗ (g) = (g −1 )∗ . Nous munissons R3 et e son espace dual du produit scalaire usuel. Alors l’espace projectif P (R3 ) est 15
  • 16 ´ ´ CHAPITRE 2. PRODUIT GENERIQUE naturellement muni de la distance telle que, pour toutes droites V et W de R3 , pour tout vecteurs non nuls v de V et w de W , on ait v∧w d(V, W ) = . v w On munit l’espace projectif du dual de R3 de la distance analogue. Pour g dans G, on fixe une fois pour toutes kg et lg dans K avec −1 g = kg exp(κ(g))lg et on note VgM = kg Re1 , Vgm = lg (Re2 ⊕ Re3 ), ∗,M ∗ ∗,m −1 ∗ ∗ Vg = kg Re3 et Vg = lg (Re1 ⊕ Re2 ). Notons que, par construction, on a κ(g) = (log ρ(g) , log ρ∗ (g) − log ρ(g) , − log ρ∗ (g) ). Le lemme suivant nous permettra de calculer la composante de Cartan des produits utilis´s pour construire l’application π. On fixe une norme . sur a. e Lemme 2.1.1. Soient ε > 0 et F une partie compacte de G. Il existe M ≥ 0 tel que, pour tous g, h dans G et f dans F , si d(f VhM , P Vgm ) ≥ ε et d(f VhM,∗ , P Vg∗,m ) ≥ ε, on a κ(gf h) − κ(g) − κ(h) ≤ M. D´monstration. Soient a dans A+ et v = 0 dans R3 tels qu’on ait e d(Rv, P (Re2 ⊕ Re3 )) ≥ ε. Posons v = (v1 , v2 , v3 ), de sorte que |v1 | ≥ ε v . Il vient ρ(a)v ≥ a1 |v1 | ≥ εa1 v = ε ρ(a) v . Par cons´quent, pour tout g dans G, si v = 0 est tel que d(Rv, P Vgm ) ≥ ε, e on a ρ(g)v ≥ ε ρ(g) v . Alors, si f, g, h sont comme dans l’´nonc´, on a, d’une part e e ρ(gf h) ≤ ρ(g) ρ(f ) ρ(h) ≤ max ρ(f ) ρ(g) ρ(h) f ∈F et, d’autre part, si v = 0 est un vecteur de h−1 VhM , par construction, ρ(h)v = ρ(h) v , si bien que, d’apr`s la remarque ci-dessus, e −1 ρ(gf h)v ≥ ε ρ(g) ρ(f h)v ≥ ε ρ(g) ρ(f )−1 ρ(h)v −1 ≥ ε max ρ(f )−1 ρ(g) ρ(h) v , f ∈F −1 si bien que ρ(gf h) ≥ ε maxf ∈F ρ(f )−1 ρ(g) ρ(h) . Le r´sultat en e d´coule, en raisonnant de mani`re analogue dans l’espace dual de R3 . e e
  • 2.2. LEMME DE L’OMBRE 17 2.2 Lemme de l’ombre Nous allons a pr´sent introduire l’outil principal permettant de montrer ` e le point (ii) de la proposition 2.0.4, c’est-`-dire un contrˆle d’injectivit´. Le a o e lemme suivant peut se voir comme une contrapos´e du lemme de l’ombre e de Sullivan dont l’utilisation est fr´quente en g´om´trie hyperbolique et qui e e e assure que l’ombre, vue du point de r´f´rence o, d’une boule de rayon r > 0 ee centr´e autour de son image go par une isom´trie g contient l’image par g e e du compl´mentaire d’une certaine boule de rayon ε > 0 dans le bord, muni e de la m´trique associ´e ` o, o` ε ne d´pend que de r et peut ˆtre rendu e e a u e e arbitrairement petit en augmentant r. On note B ∨ le groupe des matrices triangulaires inf´rieures dans SL3 (R). e ∨ L’ensemble B ξ0 est exactement l’ensemble des ´l´ments de B qui sont en ee ∨ position g´n´rale avec ξ0 . e e Lemme 2.2.1. Pour toute partie compacte L de B ∨ , il existe une partie com- pacte M de G telle que, pour tous a dans A+ et k dans K, si kξ0 appartient ` aLξ0 , on ait a−1 ka ∈ M . a D´monstration. Notons que, pour toute partie relativement compacte M de B e (resp. B ∨ ), l’ensemble a∈A+ a−1 M a (resp. a∈A+ aM a−1 ) est relativement compact. En particulier, on peut supposer que, pour tout a dans A+ , on a aLa−1 ⊂ L. Soient k dans K et a dans A+ avec kξ0 ∈ aLξ0 . Ecrivons kξ0 = apξ0 , o` p est un ´l´ment de L, c’est-`-dire ap = kq, avec q dans B. Alors, on a u ee a a−1 ka = a−1 (apq −1 )a = p(a−1 q)−1 . Or, on a a−1 q = a−1 (qa−1 )a et, comme q = k −1 ap, qa−1 = k −1 apa−1 ∈ KL. Soit L l’ensemble relativement compact −1 −1 −1 −1 b∈A+ b (KL ∩ P A)b. On a a q ∈ L et, donc, a ka ∈ L(L ) , d’o` le u r´sultat. e Nous allons ` pr´sent ´noncer le r´sultat qui nous servira ` d´montrer a e e e a e le contrˆle d’injectivit´ de la proposition 2.0.4 et qui est une cons´quence o e e du lemme 2.2.1. Remarquons que l’espace B des drapeaux complets de R3 se plonge de mani`re naturelle dans P (R3 ) × P ((R3 )∗ ). Pour tout ξ dans B, e notons Vξ et Vξ les deux droites associ´es dans P (R3 ) et P ((R3 )∗ ). Pour g ∗ e ε dans G et pour ε > 0, notons Bg l’ensemble des ξ dans B tels que d(Vξ , Vgm ) ≥ ε et d(Vξ∗ , Vg∗,m ) ≥ ε. Par construction, il existe une partie compacte L de B ∨ telle que, pour tout g dans G, on ait Bg = lg Lξ0 . Pour X, Y dans a et ε −1 C ≥ 0, on note X ≥ Y si et seulement si X1 ≥ X2 − C et X2 ≥ X3 − C.
  • 18 ´ ´ CHAPITRE 2. PRODUIT GENERIQUE Lemme 2.2.2. Pour tous C ≥ 0 et ε > 0, il existe une partie compacte M ε ε de G telle que, pour tous g, h dans G avec κ(h) ≥C κ(g), si gBg ∩ hBh = ∅, on a g ∈ kh exp(κ(g))M . En d’autres termes, la connaissance de la composante de Cartan de G et ε de l’ensemble gBg permet de reconstituer g a un compact pr`s. ` e D´monstration. Notons AC = {a ∈ A|a1 ≥ eC a2 ≥ e2C a3 }. Soit L une partie e compacte de B ∨ telle que, pour tout g dans G, on ait Bg ⊂ lg Lξ0 et soit ε −1 −1 L l’ensemble relativement compact a∈AC aLa . D’apr`s le lemme 2.2.1, il e existe une partie compacte M de G telle que, pour tous a dans A+ et k dans K, si kξ0 appartient a aL ξ0 , on ait a−1 ka ∈ M . ` ε Soient alors g et h comme dans l’´nonc´. On a gBg ⊂ kg exp(κ(g))Lξ0 ⊂ e e ε kg exp(κ(g))L ξ0 et, comme κ(h) ≥C κ(g), hBh ⊂ kh exp(κ(h))Lξ0 ⊂ kh exp(κ(g))L ξ0 . En particulier, on a kg exp(κ(g))L ξ0 ∩kh exp(κ(g))L ξ0 = ∅. Soit ξ un ´l´ment de cette intersection et soit k dans K tel que ξ = kξ0 . On ee −1 −1 a kg kξ0 ∈ exp(κ(g))L ξ0 donc exp(−κ(g))kg k exp(κ(g)) ∈ M et, de mˆme, e −1 exp(−κ(g))kh k exp(κ(g)) ∈ M . Il vient donc g ∈ kg exp(κ(g))K ⊂ k exp(κ(g))M −1 K ⊂ kh exp(κ(g))M M −1 K, d’o` le r´sultat. u e 2.3 Produit g´n´rique dans G e e Nous allons ` pr´sent appliquer le lemme 2.2.2 a l’estimation, pour f, g, h a e ` dans G, de la d´composition de Cartan de g en fonction de celle de gf h, ` e a condition que soient v´rifi´es les hypoth`ses du lemme 2.1.1. e e e Lemme 2.3.1. Soient ε > 0 et F une partie compacte de G. Il existe une partie compacte M de G telle que, pour tous g, h dans G et f dans F avec d(f VhM , P Vgm ) ≥ ε et d(f Vh∗,M , P Vg∗,m ) ≥ ε, on ait g ∈ kgf h exp(κ(g))M . Ce r´sultat repose sur le lemme 2.2.2 et sur les estimations suivantes e d’alg`bre lin´aire qui permettront d’en valider les hypoth`ses. e e e Lemme 2.3.2. Pour tous g dans G et ε > 0, la restriction de g ` l’ensemble a 3 m 1 {X ∈ P (R ) |d(X, P Vg ) ≥ ε} est ε2 -lipschitzienne.
  • ´ ´ 2.3. PRODUIT GENERIQUE DANS G 19 D´monstration. Par d´composition de Cartan, il suffit de d´montrer ce e e e r´sultat pour g = a appartenant a A . Alors, pour v et w dans R3 {0} e ` + avec d(Rv, P Vg ) ≥ ε et d(Rw, P Vgm ) ≥ ε, on a, d’une part av ≥ m a1 |v1 | ≥ εa1 v et, de mˆme, aw ≥ εa1 w , et, d’autre part, a(v ∧ w) ≤ e 2 2 a v ∧ w = a1 v ∧ w , si bien que a(v ∧ w) 1 d(aRv, aRw) = ≤ 2 d(Rv, Rw), av aw ε ce qu’il fallait d´montrer. e Lemme 2.3.3. Soient ε, η > 0. Il existe > 0 tel que, pour tout g dans G, pour tout hyperplan W de R3 avec d(VgM , P (W )) ≥ ε, on ait g −1 b(P (W ) , ) ⊂ b(P g −1 W , η). D´monstration. On v´rifie ais´ment que, pour v = 0 dans R3 et ϕ = 0 e e e dans (R3 )∗ , on a d(Rv, P (ker ϕ)) = |ϕ(v)| . Par ailleurs, pour g dans G, on a ϕ v ∗,m Vg∗ = (Vg ) , si bien que si v = 0 est dans R3 et ϕ = 0 est dans (R3 )∗ avec M ⊥ d(Rv, P (ker ϕ)) ≤ 2 et d(VgM , P (ker ϕ)) ≥ ε), on a aussi d(Rϕ, P v ⊥ ) ≤ 2 ε ε et d(Rϕ, Vg∗,m ) ≥ ε. D’apr`s le lemme 2.3.2, appliqu´ dans (R3 )∗ , il vient ∗ e e ∗ ∗ ⊥ 4 ⊥ d(g Rϕ, g P v ) ≤ ε2 d(Rϕ, P v ). En d’autres termes, pour tout 0 < η ≤ 2 , on a g −1 b(P (ker ϕ) , η) ⊂ b(P (g −1 ker ϕ) , ε42 η). Le r´sultat en d´coule. ε e e D´monstration du lemme 2.3.1. D’apr`s le lemme 2.1.1, il existe C ≥ 0 tel e e que, pour tous g, f, h comme dans l’´nonc´, on a κ(gf h) ≥C κ(g) si bien e e que, pour appliquer le lemme 2.2.2, il suffit de garantir que, pour un certain > 0, on a gBg ∩ gf hBgf h = ∅, c’est-`-dire h−1 f −1 Bg ∩ Bgf h = ∅. a Choisissons θ > 0 suffisament petit pour que, pour tous hyperplans W1 , W2 dans R3 et W1 , W2 dans (R3 )∗ , il existe un drapeau complet (V, V ∗ ) ∗ ∗ dans B avec d(V, P (W1 ) ∪ P (W2 )) ≥ θ et d(V ∗ , P (W1 ) ∪ P (W2 )) ≥ θ. ∗ ∗ Soit η > 0 tel que, pour tous f dans F et X, Y dans P (R3 ) (resp. P ((R3 )∗ )) avec d(X, Y ) ≤ η, on ait d(f −1 X, f −1 Y ) ≤ ε. D’apr`s lee lemme 2.3.3, il existe ω > 0 tel que, pour tout h dans G et pour tout plan W de R3 (resp.W ∗ de (R3 )∗ ) tel que d(VhM , P (W )) ≥ θ) (resp. d(Vh∗,M , P (W ∗ )) ≥ θ)), on ait h−1 b(P (W ) , ω) ⊂ b(P (h−1 W ) , θ) (resp. h−1 b(P (W ∗ ) , ω) ⊂ b(P (h−1 W ∗ ) , θ)). Enfin, il existe 0 < ≤ θ tel que,
  • 20 ´ ´ CHAPITRE 2. PRODUIT GENERIQUE pour tous f dans F et X, Y dans P (R3 ) (resp. P ((R3 )∗ )) avec d(X, Y ) ≤ , on ait d(f −1 X, f −1 Y ) ≤ ω. Alors, pour tous f dans F et g, h dans G avec d(f VhM , P Vgm ) ≥ ε et d(f Vh∗,M , P Vg∗,m ) ≥ ε, on a h−1 f −1 b(P Vgm , ) ⊂ b(P h−1 f −1 Vgm , θ) et h−1 f −1 b(P Vg∗,m , ) ⊂ b(P h−1 f −1 Vg∗,m , θ). Par cons´quent, par d´finition de θ, il existe un drapeau ξ = (V, V ∗ ) dans B tel e e ∗,m que d(V, Vgf h ) ≥ θ ≥ et d(V ∗ , Vgf h ) ≥ θ ≥ , c’est-`-dire que ξ appartient m a a Bgf h , ainsi que d(hf V, Vgm ) ≥ ` et d(hf V ∗ , Vg∗,m ) ≥ , c’est-`-dire que a −1 −1 hf ξ appartient a Bg . Il vient bien h f Bg ∩ Bgf h = ∅ et le lemme d´coule ` e alors directement du lemme 2.2.2. 2.4 Le lemme de finitude d’Abels-Margulis- Soifer Il nous reste, pour construire l’application π de la proposition 2.0.4, a ` construire, dans tout sous-groupe Zariski dense Γ de G, une partie F telle que, pour tous g, h dans Γ, il existe f dans F tel que f, g, h v´rifient les e hypoth`ses des lemmes 2.1.1 et 2.3.1. C’est l’objet du lemme suivant. e Lemme 2.4.1 (Abels-Margulis-Soifer [1]). Soit Γ un sous-groupe Zariski dense de G. Il existe ε > 0 et une partie finie F de Γ ayant la propri´t´ ee 3 ∗ 3 ∗ suivante : pour toutes droites V dans R et V et (R ) , pour tous hyperplans W dans R3 et W ∗ et (R3 )∗ , il existe f dans F tel que d(f V, P (W )) ≥ ε et d(f V ∗ , P (W ∗ )) ≥ ε. D´monstration. D’apr`s la proposition 1.3.1, Γ contient un ´l´ment loxodro- e e ee mique g. Alors, l’action de g dans P (R3 ) est proximale : si V + d´signe la e droite propre associ´e ` sa plus grande valeur propre en module, V + est un e a point fixe attracteur pour l’action de g sur P (R3 ) et son bassin d’attraction est P (R3 ) P (W − ), o` W − est le plan engendr´ par les deux autres droites u e ∗,+ propres de g. De mˆme, on note V e la droite propre associ´e ` la plus e a grande valeur propre de ρ∗ (g) dans l’espace dual de R3 , et W ∗,− son unique suppl´mentaire g-stable. e Soit l un entier ≥ 1 et V1 , . . . , Vl des droites distinctes de R3 , V1∗ , . . . , Vl∗ des droites distinctes de l’espace dual de R3 , W1 , . . . , Wl des plans distincts de R3 et W1 , . . . , Wl∗ des plans distincts de l’espace dual de R3 . Il existe des ∗ droites V dans R3 et V ∗ dans l’espace dual de R3 , ainsi que des plans W dans R3 et W ∗ dans l’espace dual de R3 tels que, pour tout 1 ≤ i = j ≤ l, V (resp.
  • ´ ´ 2.5. PRODUIT GENERIQUE DANS Γ 21 V ∗ ) n’appartienne pas au plan engendr´ par Vi et Vj (resp. Vi∗ et Vj∗ ) et W e (resp. W ) ne contienne pas l’intersection de Wi et de Wj (resp. de Wi∗ et de ∗ Wj∗ ). Comme Γ est Zariski dense dans G qui est Zariski connexe, il existe h dans Γ tel que hV + (resp. hV ∗,+ ) n’appartienne pas au plan engendr´ par Vi e ∗ ∗ − −,∗ et Vj (resp. Vi et Vj ) et hW (resp. hW ) ne contienne pas l’intersection de Wi et de Wj (resp. de Wi∗ et de Wj∗ ). Ainsi, par r´currence, il existe une e suite (hi )i≥1 d’´l´ments de Γ, tels que, pour tous i, j, k ≥ 1 distincts, les ee droites hi V , hj V + et hk V + (resp. hi V +,∗ , hj V +,∗ et hk V +,∗ ) engendrent R3 + (resp. l’espace dual de R3 ) et l’intersection des plans hi W − , hj W − et hk W − (resp. hi W −,∗ , hj W −,∗ et hk W −,∗ ) est triviale. On pose, pour tout i ≥ 1, Vi = hi V + , Vi∗ = hi V ∗,+ , Wi = hi W − , Wi∗ = hi W ∗,− et gi = hi gh−1 . i Par construction, si V et V ∗ sont des droites de R3 et de l’espace dual de R3 et si W et W ∗ sont des plans de R3 et de l’espace dual de R3 , il existe 1 ≤ i ≤ 9 tel qu’on ait V ⊂ Wi V ∗ ⊂ Wi∗ Vi ⊂ W Vi∗ ⊂ W ∗ et, donc, il existe ε > 0 tel que pour tous V, V ∗ , W, W ∗ comme ci-dessus, on puisse trouver 1 ≤ i ≤ 9 avec d(V, P (Wi ) ≥ 2ε d(V ∗ , P (Wi∗ )) ≥ 2ε d(Vi , P (W )) ≥ 2ε d(Vi∗ , P (W ∗ )) ≥ 2ε. k Il existe un entier k tel que, pour tout 1 ≤ i ≤ 9, on ait gi {X ∈ P (V ) |d(X, P (Wi )) ≥ ε} ⊂ b(Vi , ε). Par cons´quent, si V, V ∗ , W, W ∗ sont e comme ci-dessus, il existe un entier 1 ≤ i ≤ 9 avec d(g k V, Vi ) ≤ ε d(g k V ∗ , Vi∗ ) ≤ ε d(Vi , P (W )) ≥ 2ε d(Vi∗ , P (W ∗ )) ≥ 2ε. k Le r´sultat en d´coule, en posant F = {gi |1 ≤ i ≤ 9}. e e 2.5 Produit g´n´rique dans Γ e e Nous pouvons a pr´sent conclure la ` e D´monstration de la proposition 2.0.4. Soient ε > 0 et F comme dans e le lemme 2.4.1. Pour tous g et h dans Γ, choisissons fg,h dans F avec
  • 22 ´ ´ CHAPITRE 2. PRODUIT GENERIQUE d(fg,h VhM , P Vgm ) ≥ ε et d(fg,h Vh∗,M , P Vg∗,m ) ≥ ε. Posons π(g, h) = gfg,h h. D’apr`s le lemme 2.1.1, il existe C ≥ 0 tel que, pour tous g, h dans Γ, on e ait κ(π(g, h)) − κ(g) − κ(h) ≤ C tandis que, d’apr`s le lemme 2.3.1, il e existe une partie compacte M de G telle que, pour tout g, h dans Γ, on a g ∈ kπ(g,h) exp(κ(g))M . En particulier, si g et h sont des ´l´ments de Γ tels ee que π(g , h ) = π(g, h), on a g ∈ gM −1 exp(κ(g ) − κ(g))M et donc, comme −1 h = (g fg ,h )−1 gfg,h h, h ∈ F −1 M −1 exp(κ(g ) − κ(g))M F h. Le r´sultat en e d´coule. e
  • Chapitre 3 Mesures ` croissance concave a Nous allons ` pr´sent d´tailler le lien abstrait qui existe entre la proposi- a e e tion 2.0.4 et le th´or`me 1.5.1. e e Soit E un espace vectoriel r´el de dimension finie, muni d’une norme N . e Une mesure de Radon ν sur E sera dite ` croissance concave s’il existe des a r´els α, β, γ > 0 tels que, pour tous x, y dans E, e ν bN (x + y, α) ≥ γν bN (x, β) ν bN (y, β) . La proposition 2.0.4 assure que, si Γ est un sous-groupe discret Zariski dense de G, l’image par κ de la mesure de comptage de Γ est une mesure a ` croissance concave sur a. 3.1 Exposants de convergence et formules de Hadamard Pour tout r´el t, on pose LN (t) = e ν E e−tN (x) dν(x) et τν = inf t ∈ R LN (t) < ∞ N ν = sup t ∈ R LN (t) = ∞ ∈ R ∪ {+∞, −∞}, ν qu’on appelle l’exposant de convergence de ν par rapport a N . Pour tous ` N r´els a ≤ b, on note C (a, b) = {x ∈ E |a ≤ N (x) ≤ b }. Donnons quelques e N formules de Hadamard pour le calcul de τν : 23
  • 24 ` CHAPITRE 3. MESURES A CROISSANCE CONCAVE Lemme 3.1.1. Pour tous a > 0 et b, c ≥ 0 avec b + c ≥ a, on a : N 1 log ν C N (na − b, na + c) τν = lim sup . a n→∞ n N Si τν > 0, on a : N log ν bN (0, a) τν = lim sup . a→∞ a D´monstration. Soient a > 0 et b, c ≥ 0 avec b + c ≥ a. Il existe un entier e n0 > 0 tel que, pour tout x dans E, 0 < card n ∈ N|x ∈ C N (na − b, na + c) ≤ n0 . Il vient, pour tout t dans R, ∞ 1 −|t| max(b,c) e ν (C N (na − b, na + c) e−tna ≤ e−tN (x) dν(x) n0 n=0 E ∞ ≤ e|t| max(b,c) ν (C N (na − b, na + c) e−tna , n=0 d’o` la premi`re formule. u e Par ailleurs, on a : N log ν C N (n − 1, n) log ν bN (0, n) τν = lim sup ≤ lim sup n→∞ n n→∞ n log ν bN (0, a) ≤ lim sup . a→∞ a N Supposons τν > 0. Soient t et s avec log ν bN (0, a) 0 < t < s < lim sup . a→∞ a Pour tout r´el a ≥ 0, il existe b ≥ a tel que, pour tout c ≥ b, on ait : e esc − etc ≥ ν bN (0, a) et, donc, il existe c ≥ b tel que l’on ait : ν C N (a, c) ≥ ν bN (0, c) − ν bN (0, a) ≥ esc − ν bN (0, a) ≥ etc .
  • ˆ 3.2. CONTROLE DE LA DIVERGENCE 25 On peut donc construire une suite (an )n∈N de r´els ≥ 0 avec, pour tout n e dans N, an+1 ≥ an + 1 et ν C N (an + 1, an+1 ) ≥ etan+1 . Il vient alors : ∞ e−tN (x) dν(x) ≥ ν C N (an + 1, an+1 ) e−tan+1 = ∞, E n=0 N donc t ≤ τν , d’o` la seconde formule. u 3.2 Contrˆle de la divergence o Nous dirons qu’une mesure de Radon a croissance concave ν sur E est ` N a croissance strictement divergente si τν > 0 (ce qui est ind´pendant de la ` e norme N choisie). Pour les mesures a croissance concave, on peut am´liorer ` e le lemme 3.1.1 : Proposition 3.2.1. Si ν est ` croissance concave strictement divergente, a pour toute norme N sur E, on a : log ν bN (0, a) N −→ N − − τν et ν bN (0, a) = O ar−1 eaτν . a a→∞ a→∞ Commen¸ons par it´rer la formule de d´finition : c e e Lemme 3.2.2. Supposons ν ` croissance concave. Soit N une norme sur E a et soient α, β, γ tels que, pour tous x, y dans E, ν bN (x + y, α) ≥ γν bN (x, β) ν bN (y, β) . Alors il existe des r´els θ > 0 et η > 0 tels que, pour tout entier k ≥ 2 et e pour tous x1 , . . . , xk dans E, on ait : ν bN (x1 + . . . + xk , (k − 1)α + (k − 2)β) ≥ θη k ν bN (x1 , β) . . . ν bN (xk , β) . La d´monstration fait appel au lemme suivant dont la d´monstration est e e imm´diate. e
  • 26 ` CHAPITRE 3. MESURES A CROISSANCE CONCAVE Lemme 3.2.3. Soient N une norme sur E et β > 0. Il existe un r´el M > 0 e telle que, pour tout x dans E et pour tout a > 0, il existe un entier p ≤ M (1 + a)r et des points x1 , . . . , xp de E avec bN (x, a) ⊂ p bN (xi , β). i=1 D´monstration du lemme 3.2.2. Soit N une norme sur E. Donnons-nous e α, β, γ comme ci-dessus et M comme dans le lemme 3.2.3. 1 Posons r = dim E et η = M (α+β+1)r et montrons par r´currence sur k ≥ 2 e l que, si l est le plus petit entier tel que 2 ≥ k, alors, pour tous x1 , . . . , xk dans E, on a : ν bN (x1 + . . . + xk , (k − 1)α + (k − 2)β) γ k−1 η k−2 ≥ ν bN (x1 , β) . . . ν bN (xk , β) . (22(l−1)+4(l−2)+8(l−3)+...+2l−1 )r Pour k = 2, il s’agit juste de la d´finition de la croissance concave ; pour e k = 3, c’est un raisonnement analogue a celui fait ci-apr`s. ` e Soit donc k ≥ 4 et supposons la formule vraie pour tous les entiers < k. Soient l le plus petit entier tel que 2l ≥ k et x1 , . . . , xk dans E. Si k est pair, on pose h = k ; s’il est impair, on pose h = k−1 . Dans les deux cas, on a 2 2 2l−1 ≥ h > 2l−2 et 2l−1 ≥ k − h > 2l−2 . D’apr`s le lemme 3.2.3, il existe un point y1 dans bN (x1 + . . . + xh , (h − 1)(α + e β)) tel que l’on ait : ν bN (x1 + . . . + xh , (h − 1)α + (h − 2)β) 2r(l−1) ≤ M (1 + (h − 1)α + (h − 2)β)r ν bN (y1 , β) ≤ ν bN (y1 , β) . η De mˆme, il existe un point y2 dans bN (xh+1 + . . . + xk , (k − h − 1)(α + β)) e tel que l’on ait : ν bN (xh+1 + . . . + xk , (k − h − 1)α + (k − h − 2)β) 2r(l−1) ≤ M (1 + (k − h − 1)α + (k − h − 2)β)r ν bN (y2 , β) ≤ ν bN (y2 , β) . η
  • ˆ 3.2. CONTROLE DE LA DIVERGENCE 27 On a alors : ν(bN (y1 + y2 , α)) ≥ γν(bN (y1 , β))ν(bN (y2 , β)) γη 2 ≥ 2r(l−1) ν bN (x1 + . . . + xh , (h − 1)α + (k − 2)β) 2 ν bN (xh+1 + . . . + xk , (k − h − 1)α + (k − h − 2)β) . Or, on a, par r´currence, e ν bN (x1 + . . . + xh , (h − 1)α + (h − 2)β) γ h−1 η h−2 ≥ ν bN (x1 , β) . . . ν bN (xh , β) . (22(l−2)+4(l−3)+...+2l−2 )r et ν bN (xh+1 + . . . + xk , (k − h − 1)α + (k − h − 2)β) γ k−h−1 η k−h−2 ≥ ν bN (xk+1 , β) . . . ν bN (xk , β) . (22(l−2)+4(l−3)+...+2l−2 )r Il vient : ν bN (y1 + y2 , α) γ k−1 η k−2 ≥ ν bN (x1 , β) . . . ν bN (xk , β) , (22(l−1)+4(l−2)+8(l−3)+...+2l−1 )r d’o` le r´sultat, puisque l’on a : u e bN (y1 + y2 , α) ⊂ bN (x1 + . . . + xk , (k − 1)α + (k − 2)β). Par r´currence, la formule est vraie pour tout k ≥ 2. Or, pour tout k ≥ 2, e si 2 < k ≤ 2l , on a : l−1 2(l − 1) + 4(l − 2) + 8(l − 3) + . . . + 2l−1 ∞ l l−1 l−2 l−3 1 l h =2 l−1 + l−2 + l−3 + . . . + ≤2 ≤ 4k 2 2 2 2 h=0 2h et, donc, pour tous x1 , . . . , xk dans E, on a : ν bN (x1 + . . . + xk , (k − 1)α + (k − 2)β) γ k−1 η k−2 ≥ ν bN (x1 , β) . . . ν bN (xk , β) , 4kr ce qu’il fallait d´montrer. e
  • 28 ` CHAPITRE 3. MESURES A CROISSANCE CONCAVE Des lemmes 3.2.3 et 3.2.2, on d´duit imm´diatement le e e Lemme 3.2.4. Supposons ν ` croissance concave. Soit N une norme sur E. a Il existe des r´els θ, η, κ > 0 tels que, pour tout r´el a ≥ 0 et pour tous r´els e e e a1 , . . . , ap tels que a = a1 + . . . + ap , on ait : ν bN (0, a + p + (p − 1)κ) θη p N N ≥ r−1 ν C (a1 , a1 + 1) . . . ν C (ap , ap + 1) . ((1 + a1 ) . . . (1 + ap )) Remarquons aussi le Lemme 3.2.5. Soit f : R+ → R une fonction croissante. Alors on a : f (a) f (n) f (a) f (n) lim sup = lim sup et lim inf a→∞ = lim inf n→∞ . a→∞ a n→∞ n a∈R∗ a n∈N∗ n a∈R∗ + ∗ n∈N + f ([a]) f (a) f ([a]+1) D´monstration. Pour tout r´el a ≥ 1, on a e e [a]+1 ≤ a ≤ [a] . D´monstration de la proposition 3.2.1. Soit N une norme sur E. e N log(ν (bN (0,a))) D’apr`s le lemme 3.1.1, on a τν = lim supa→∞ e a . Soient θ, η, κ > 0 comme dans le lemme 3.2.4. Soient m ≥ n ≥ 1 des entiers naturels et m = pn + q la division euclidienne de m par n. On a : κ+2 ν bN 0, m 1 + ≥ ν bN (0, m + (p + 1) + pκ) n θη p+1 ≥ ((1 + n)p (1 + q))r−1 p ν C N (n, n + 1) ν C N (q, q + 1) . Il vient, pour tout n ≥ 1, d’apr`s le lemme 3.2.5, e κ+2 log ν bN (0, a) 1+ lim inf n a→∞ a 1 η log ν C N (n, n + 1) ≥ log + . n (1 + n)r−1 n
  • 3.3. CROISSANCE DES SOUS-GROUPES DISCRETS 29 On en d´duit, en r´utilisant le lemme 3.1.1 : e e log ν bN (0, a) log ν C N (n, n + 1) N lim inf ≥ lim sup = τν a→∞ a n→∞ n log(ν (bN (0,a))) et, donc, a −→ N − − τν . a→∞ Mais alors, pour tout n ≥ 1, on a : N η (n + κ + 2) τν ≥ log + log ν C N (n, n + 1) (1 + n)r−1 d’o` u 1 N ν C N (n, n + 1) ≤ (1 + n)r−1 e(n+κ+2)τν . η En d’autres termes, il existe un r´el M ≥ 0 tel que, pour tout entier naturel e n, on ait : N ν C N (n, n + 1) ≤ M (1 + n)r−1 enτν . N Il vient, comme τν > 0, n−1 N N N ν b (0, n) ≤ M (1 + k)r−1 ekτν = O nr−1 enτν . n→∞ k=0 On en d´duit le r´sultat puisque, pour tout r´el a ≥ 0, on a bN (0, a) ⊂ e e e N b (0, [a] + 1). 3.3 Croissance des sous-groupes discrets La proposition 2.0.4 assure que, si Γ est un sous-groupe Zariski dense de G, l’image par κ de la mesure de comptage de Γ est ` croissance concave. a Pour appliquer la proposition 3.2.1 et conclure la d´monstration du th´or`me e e e 1.5.1, il nous reste ` montrer que les exposants de convergence de cette mesure a sont > 0. Lemme 3.3.1. Soit Γ un sous-groupe Zariski dense de G. Alors, on a 1 lim sup log {γ ∈ Γ| κ(γ) ≤ a} > 0. a→∞ a
  • 30 ` CHAPITRE 3. MESURES A CROISSANCE CONCAVE D´monstration. D’apr`s la proposition 1.3.1, Γ contient un ´l´ment loxodro- e e ee mique g. Comme Γ est Zariski dense dans G, il existe f dans Γ tel que f ξg = ξg , que f ξg ∈ Q− et que ξg ∈ f Q− . En raisonnant comme dans la + + + / g + / g proposition 1.4.7, on voit que ces conditions suffisent ` garantir que, quitte a −1 a remplacer g et h = f gf par une puissance, le semi-groupe engendr´ par ` e g et h est libre. Pour X = (X1 , X2 , X3 ) dans a, posons N (x) = max(|X1 | , |X2 | , |X3 |). Alors, pour tout γ dans G, on a N (κ(γ)) = log( γ ). En particulier, si C = max(log g , log h ), pour tout mot γ de longueur r en g et h, on a N (κ(γ)) ≤ rC. Il vient, pour r dans N, {γ ∈ Γ|N (κ(γ)) ≤ rC} ≥ 2r et, donc, 1 1 lim sup log {γ ∈ Γ|N (κ(γ)) ≤ a} ≥ log 2, a→∞ a C d’o` le r´sultat. u e Montrons aussi que ces exposants sont finis. Rappelons que, d’apr`s [9], il e r−1 existe δG > 0 et C > 0 tels que, dans G/K, on ait vol(b(x, a)) ∼ Ca 2 eδG a . a→∞ Lemme 3.3.2. Soit Γ un sous-groupe discret de G. Pour tout x dans G/K, on a r−1 {γ ∈ Γ|d(x, γx) ≤ a} = O(a 2 eδG a ). a→∞ D´monstration. Comme Γ est discret dans G et que G agit proprement sur e G/K, il existe un r´el r > 0 tel que, pour tout γ dans Γ tel que γx = x, on e ait γb(x, r) ∩ b(x, r) = ∅. Alors, pour tout a > 0, on a {γ ∈ Γ|d(x, γx) ≤ a} ≤ (Γ ∩ K)vol(b(x, a + r)). Le r´sultat en d´coule. e e Nous pouvons a pr´sent conclure la ` e D´monstration du th´or`me 1.5.1. D’apr`s la proposition 2.0.4, l’image par e e e e κ de la mesure de comptage de Γ est a croissance concave et, d’apr`s les ` e lemmes 3.3.1 et 3.3.2, elle est de type strictement divergent, a exposant fini. ` Le r´sultat d´coule alors de la proposition 3.2.1. e e
  • Bibliographie [1] H. Abels, G. Margulis, G.A. Soifer, Semigroups containing proximal linear maps, Israel J. Math. 91 (1995), no. 1-3, 1-30. [2] R. Alperin, An elementary account of Selberg’s lemma, Enseign. Math. 33 (1987), no. 3-4, 269-273. [3] Y. Benoist, Propri´t´s asymptotiques des groupes lin´aires, Geom. Funct. ee e Anal. 7 (1997), no. 1, 1-47. [4] A. Borel, Linear algebraic groups, Graduate Texts in Mathematics, 126, Springer-Verlag, New York, 1991, xii+288 pp. [5] A. Borel, Harish-Chandra, Arithmetic subgroups of algebraic groups, Ann. of Math. (2) 75 (1962), 485-535. [6] A. Eskin, C. McMullen, Mixing, counting, and equidistribution in Lie groups, Duke Math. J. 71 (1993), no. 1, 181-209. [7] S. Gallot, D. Hulin, Dominique, J. Lafontaine, Riemannian geometry, Universitext, Springer-Verlag, Berlin, 2004, xvi+322 pp. [8] S. Helgason, Differential geometry, Lie groups, and symmetric spaces, Graduate Studies in Mathematics, 34, American Mathematical Society, Providence, RI, 2001, xxvi+641 pp. [9] S. Helgason, Groups and geometric analysis. Integral geometry, invariant differential operators, and spherical functions, Mathematical Surveys and Monographs, 83, American Mathematical Society, Providence, RI, 2000, xxii+667 pp. [10] D. Johnson, J.J. Millson, Deformation spaces associated to compact hy- perbolic manifolds, Discrete groups in geometry and analysis (New Ha- ven, Conn., 1984), 48-106, Progr. Math., 67, Birkh¨user Boston, Boston, a MA, 1987. [11] G. Prasad, R-regular elements in Zariski-dense subgroups, Quart. J. Math. Oxford Ser. (2) 45 (1994), no. 180, 541-545. 31
  • 32 BIBLIOGRAPHIE [12] J.-F. Quint, Divergence exponentielle des sous-groupes discrets en rang sup´rieur, Comment. Math. Helv. 77 (2002), no. 3, 563-608. e [13] J.-F. Quint, Groupes de Schottky et comptage, Ann. Inst. Fourier (Gre- noble) 55 (2005), no. 2, 373-429. [14] M.S. Raghunathan, Discrete subgroups of Lie groups, Ergebnisse der Ma- thematik und ihrer Grenzgebiete, Band 68. Springer-Verlag, New York- Heidelberg, 1972, ix+227 pp. [15] J. Tits, Free subgroups in linear groups, J. Algebra 20 (1972), 250-270. [16] V.S. Varadarajan, Lie groups, Lie algebras, and their representations, Graduate Texts in Mathematics, 102, Springer-Verlag, New York, 1984, xiii+430 pp. [17] R.J. Zimmer, Ergodic theory and semisimple groups, Monographs in Ma- thematics, 81, Birkh¨user Verlag, Basel, 1984, x+209 pp. a