RESTRICTION DE LA COHOMOLOGIE D'UNE VARI ET E DE SHIMURA A SES SOUS-VARI ET ES

Transformation Groups c©Birkhauser Boston (2008)

RESTRICTION DE LA COHOMOLOGIE D’UNE

VARIETE DE SHIMURA A SES SOUS-VARIETES

N. BERGERON

Institut de Mathematiques de JussieuU. M. R. 7586 du CNRS

Universite Pierre et Marie Curie4, place Jussieu

75252 Paris Cedex 05, France

[email protected]

Abstract. Let G be a connected semisimple group over Q. Given a maximal compactsubgroup K ⊂ G(R) such that X = G(R)/K is a Hermitian symmetric domain, and aconvenient arithmetic subgroup Γ ⊂ G(Q), one constructs a (connected) Shimura varietyS = S(Γ) = Γ\X. If H ⊂ G is a connected semisimple subgroup such that H(R) ∩ Kis maximal compact, then Y = H(R)/K is a Hermitian symmetric subdomain of X.For each g ∈ G(Q) one can construct a connected Shimura variety S(H, g) = (H(Q) ∩g−1Γg)\Y and a natural holomorphic map jg : S(H, g) → S induced by the map H(A)→G(A), h 7→ gh. Let us assume that G is anisotropic, which implies that S and S(H, g)are compact. Then, for each positive integer k, the map jg induces a restriction map

Rg : Hk(S, C) → Hk(S(H, g), C).

In this paper we focus on classical Hermitian domains and give explicit criterions forthe injectivity of the product of the maps Rg (for g running through G(Q)) when restrictedto the strongly primitive (in the sense of Vogan and Zuckerman) part of the cohomology.In the holomorphic case we recover previous results of Clozel and Venkataramana [CV].We also derive applications of our results to the proofs of new cases of the Hodge conjec-ture and of new results on the vanishing of the cohomology of some particular Shimuravariety.

Translated Introduction

Let G be an anisotropic connected Q-reductive group which is almost simpleover Q modulo its center. Assume moreover that the real group G(R) is theproduct

U ×Gnc

(with finite intersection) of a compact group U by a noncompact real group Gnc

which is almost simple modulo its center that we will assume to be compact.We may consider the adelic points G(A) of G, it contains G(Q) as a discretesubgroup. A congruence subgroup of G(Q) is some intersection Γ = G(Q) ∩ Kf

DOI: 10.1007/S00031-008-9047-4

, Vol. 1 No. 200 pp.4, 1, 9, 41– 86

Received@September@15,@2007.@Accepted@July@31,@2008.@Published@online@January@15,@2009.

N. BERGERON

where Kf is a compact-open subgroup of the finite adelic points G(Af ) of G.Let XG = G(R)/K∞ be the associated symmetric space, where K∞ ⊂ G(R) is amaximal compact subgroup. We will always assume that XG is Hermitian.

In this paper we study the (compact, as G is anisotropic) quotients S(Γ) =Γ\XG, where Γ ⊂ G(Q) is a congruence subgroup, and more particularly theircohomology groups1, H∗(Γ\XG). These cohomology groups form an inductivesystem indexed by the congruence subgroups Γ ⊂ G(Q). Passing to the (inductive)limit we define

H∗(Sh0G) = lim→Γ

H∗(Γ\XG). (1)

(The notation above refers to the connected Shimura variety Sh0G, the projectivelimit of the Γ\XG with Γ of congruence; it is a topological space whose Cechcohomology is computed in [R] and shown to coincide with (1). For our matters itwill be sufficient to consider H∗(Sh0G) as a convenient notation for the inductivelimit (1).)

The space XG being Hermitian, there exists some element c in the center ofK∞ such that Ad(c) induces multiplication by i =

√−1 (on the tangent space p0

to XG at its base point o = eK). Let

g = k⊕ p+ ⊕ p− (2)

the associated decomposition of g = Lie(G(R))⊗ C, with k = Lie(K∞)⊗ C. Thusp+ = X ∈ p : Ad(c)X = iX is the holomorphic tangent space.

Now let H ⊂ G be a Q-reductive subgroup fixed by the Cartan involution θcorresponding to K∞. Then

H(R) ∩K∞ is a maximal compact subgroup of H(R). (3)

The involution θ restricts to H as a Cartan involution of H(R) yielding the de-composition

h = kH ⊕ pH (4)

with pH = p ∩ h. We moreover assume that

pH is fixed under the action of Ad(c). (5)

Then Ad(c) defines an (H(R) ∩K∞)-invariant complex structure on p0 ∩ h. Thespace XH = H(R)/(H(R) ∩K∞) is Hermitian symmetric. We have a triangulardecomposition

h = kH ⊕ p+H ⊕ p−H (6)

compatible with (2). And the natural embedding XH → XG is holomorphic.

1All the cohomology groups to be considered are with complex coefficients.

42

LA COHOMOLOGIE D’UNE VARIETE DE SHIMURA

Now take Γ ⊂ G(Q) as a torsionfree congruence subgroup of G. Let SH(Γ) =(H(R) ∩ Γ)\XH . The group Γ being torsionfree, the natural map j : SH(Γ) →S(Kf ) is unramified and finite. It is moreover well known (see [D] or [B]) that ifwe replace Γ by some sufficiently small subgroup Γ′, we get a diagram

SH(Γ)j′

//

j$$H

H

H

H

H

H

H

H

H

S(Γ′)

π

S(Γ),

(7)

where π is the natural covering projection and j ′ is injective.Passing to the (inductive) limit on the Γ, the maps j induce the restriction map

resGH : H∗(Sh0G) → H∗(Sh0H). (8)

We will say that Sh0H is a Shimura subvariety of Sh0G, and we will write Sh0H ⊂Sh0G.

In this paper we study the question of injectivity of the restriction map (8). Wemust be more precise for it is not hard to see that there is no hope for injectivityin general. The kind of results we have in mind are virtual results. Let’s be moreprecise. Consider the family of maps jg : (H(R)∩g−1Γg)\XH → Γ\XG, g ∈ G(Q).They induce the virtual restriction map

H∗(S(Γ)) →∏

g∈G(Q)

H∗(SH (g)),

where SH(g) = (H(R) ∩ g−1Γg)\XH , and the restriction map is induced by thefamily of maps (jg). Taking the (inductive) limit on Γ we get the map ResG

H :

ResGH : H∗(Sh0G) →

∏

g∈G(Q)

H∗(Sh0H). (9)

In [V2] Venkataramana proves a nice criterion (see Proposition 8) which ensuresthat the image by the virtual restriction map of a given strongly primitive (seeSection 1) cohomology class is nonzero. This criterion is a linear algebra conditionon the classes we consider. It is stated in terms of representation theory of realreductive groups and (g,K)-cohomology; it moreover requires using the descrip-tion, due to Vogan and Zuckerman [VZ], of the (g,K)-modules with nontrivialcohomology. We recall all the necessary material in Section 1. Note that when thecohomology classes are holomorphic, Venkataramana’s condition is in fact a neces-sary condition; we then recover Clozel and Venkataramana’s criterion [CV]. In thecase where the groups are U(n, 1) or O(2, n), Venkataramana [V2] is able to makehis criterion sufficiently explicit in order to prove the following theorem.2 In an

2The case of the holomorphic cohomology was already known, see Oda [O] and Clozeland Venkataramana [CV]. Finally, the general statement was conjectured by Harris andLi in [HL] where some particular cases are proved.

43

N. BERGERON

appendix we sketch a somewhat new proof of Venkataramana’s theorem that mayeasily be generalized to give a proof of Venkataramana’s criterion (Proposition 8).

Theorem 1 (Venkataramana). Let H ⊂ G be two anisotropic and connected Q-reductive groups with Gnc = U(n, 1) (resp., Gnc = O(2, n)) and Hnc = U(n− 1, 1)(resp., Hnc = O(2, n− 1)). Then,

ResGH : Hk(Sh0G) →

∏

g∈G(Q)

Hk(Sh0H)

is injective for all k 6 n− 1.

One major goal of this paper is to make Venkataramana’s criterion explicit forclassical Hermitian domains. This is the main content of Clozel and Venkatara-mana’s work [CV] in the case of the holomorphic cohomology. We in particularrecover their results, note that our arguments are completely local.

Our principal result (Proposition 10) is a computation of a part of the cohomol-ogy ring structure of Sh0G, namely the action of the “trivial cohomology”. Thisis the content of Section 3. The “trivial cohomology” refers to those cohomologyclasses on Sh0G which can be represented by group-invariant differential formson XG. We use theorems of Zelevinski on certain representations in the exterioralgebra of p where g is (Cartan decomposition) the direct sum of k and p. Thismakes the complicated combinatorics somewhat more pleasent.

Returning to our original question, we prove in particular the following theo-rem.3

Theorem 2. Let K be a totally real number field and let G′ be the unitary groupof a Hermitian form over a quadratic imaginary extension of K that we assumeto be compact at every infinite place except one where it is isomorphic to U(p, q)with 1 6 p 6 q. Let G be the Q-group obtained from G′ by restriction of scalarsfrom K to Q. Then, for any nonnegative integer k < p + q − 1, the vector spaceHk(Sh0G) decomposes into a finite direct sum of subspaces such that each of thesesubspaces restricts injectively into the cohomology of a proper Shimura subvariety.

We moreover prove that the degree p+ q − 1 is optimal in general.Recall that a Q-group G with Gnc = U(p, q) may always be obtained, by re-

striction of scalars, from a group U(B) where B is a simple central algebra over atotally imaginary quadratic extension of a totally real number field. In Theorem 2,B is a matrix algebra over a quadratic imaginary extension of K; we will deducethis theorem from our main theorem (Theorem 23) which deals more generallywith any Q-group G such that Gnc = U(p, q).

Concerning the groups GSpp and O∗(2p) our method allows to recover Clozeland Venkataramana’s results but doesn’t bring much more. We will thus onlybriefly describe these cases.

Coming back to the unitary case Gnc = U(p, q), note that Lefschetz’ (1, 1)-theorem is nonempty when p = 1 and implies that any Hodge class in H2(Sh0G)

3Note that here it is not necessary to restrict to strongly primitive classes, see Theo-rem 2′.

44


and thus in H2q−2(Sh0G) is algebraic. When q > p > 1 there are no nontrivialHodge classes of degree 2, in fact we will see that if q > p+1 any nontrivial Hodgeclass is of degree > 2p. Using an idea of Venkataramana we prove some new casesof the Hodge conjecture.

Theorem 3. Let G be as in Theorem 2 with 3 6 2p+ 1 6 q. Then, every Hodgeclass in H2p(q−1)(Sh0G) is algebraic.

Finally, we prove the following vanishing theorem. Its proof rests on a theoremof Clozel [Cl] which is a particular case.

Theorem 4. Let G′ be a unitary group over a totally real number field K and letG be the Q-group obtained from G′ by restriction of scalars from K to Q. Assumethat Sh0G contains a Shimura subvariety Sh0H, with H obtained by restriction ofscalars from some group U(D) where D is a division algebra of odd prime degreeover an imaginary extension of some totally real number field and such that Hnc =U(p, b) with b < q. Then, Hk

prim(Sh0G) = 0 for every integer 1 6 k < min(bp, q).

It seems that this theorem does not follow from a purely “automorphic view-point”.

Notation. In what follows, Mm×n(C) denotes the space of matrices with m rowsand n columns and with complex entries. The element Ei,j ∈ Mm×n(C) is thematrix whose entry in the ith row and jth column is 1 and whose other entriesare zero. The group of nonsingular p× p matrices is denoted GLp. The group ofp× p unitary matrices is denoted U(p).

If E is a representation of a group, then denote by E∗ its contragredient. Ife1, e2, . . . , em is a basis of E, then its dual basis in E∗ is denoted e∗1, e

∗1, . . . , e

∗m.

The rth exterior (resp., symmetric) power is denoted∧rE (resp., symr(E)).

Acknowledgements. The results contained in this paper all rely on previousworks by Venkataramana. Reading his papers mentioned in the References ledme to try to understand the combinatorics of the virtual restriction map betweenShimura varieties. Finally, I benefited a lot from conversations with Laurent Clozel,and I heartily thank him.

Introduction

Soit G un groupe algebrique reductif, connexe et anisotrope sur Q tel que Gsoit presque simple sur Q modulo son centre. Supposons de plus que le groupeG(R) des points reels est le produit

U ×Gnc

(avec intersection finie) d’un groupe compact U et d’un groupe reel non compactGnc qui est presque simple modulo son centre que l’on suppose compact. On peutconsiderer le groupe G(A) des points adeliques de G, qui contient G(Q) commesous-groupe discret. Un sous-groupe de congruence de G(Q) est un sous-groupede la forme Γ = G(Q) ∩Kf ou Kf est un sous-groupe compact ouvert du groupeG(Af ) des points adeliques finis de G. Soit XG = G(R)/K∞ l’espace symetrique

45

N. BERGERON

associe au groupe G, ou K∞ ⊂ G(R) est un sous-groupe compact maximal. Noussupposerons que cet espace est hermitien.

Dans cet article on etudie les quotients (compacts, puisque G est anisotrope)S(Γ) = Γ\XG, ou Γ ⊂ G(Q) est un sous-groupe de congruence, et plus partic-ulierement leurs groupes de cohomologie1, H∗(Γ\XG). Ceux-ci forment un systemeinductif indexe par les sous-groupes de congruence Γ ⊂ G(Q). En passant a la lim-ite (inductive) on definit

H∗(Sh0G) = lim→Γ

H∗(Γ\XG) (1)

(La notation ci-dessus provient de ce que la variete de Shimura connexe Sh0G,limite projective des Γ\XG avec Γ de congruence, est un espace topologique donton peut considerer la cohomologie ce Cech et qu’il est demontre dans [R] que sacohomologie coıncide avec (1). Pour ce qui nous concerne, il sera suffisant deconsiderer que la denomination H∗(Sh0G) n’est qu’une notation pour la limiteinductive (1).)

Puisque XG est de type hermitien, il existe un element c appartenant au centrede K∞ tel que Ad(c) induise (sur l’espace tangent p0 de XG au point base o = eK)la multiplication par i =

√−1. Soit

g = k⊕ p+ ⊕ p− (2)

la decomposition associee de g = Lie(G(R)) ⊗ C, avec k = Lie(K∞) ⊗ C. Alorsp+ = X ∈ p : Ad(c)X = iX est l’espace tangent holomorphe a XG au pointbase o.

Soit maintenant H ⊂ G un sous-groupe reductif connexe defini sur Q et stablepar l’involution de Cartan θ de G(R) qui fixe K∞. Alors,

H(R) ∩K∞ est un sous-groupe compact maximal de H(R). (3)

La restriction de θ a H est une involution de Cartan de H(R) et on a la decomposi-tion correspondante

h = kH ⊕ pH (4)

avec pH = p ∩ h. On suppose de plus que

pH est stable sous l’action de Ad(c). (5)

Alors Ad(c) definit une structure complexe (H(R) ∩ K∞)-invariante sur p0 ∩h. L’espace XH = H(R)/(H(R) ∩ K∞) est symetrique hermitien. On a unedecomposition triangulaire

h = kH ⊕ p+H ⊕ p−H (6)

1Tous les groupes de cohomologie que nous considererons seront a coefficients com-plexes.

46


compatible avec (2). Enfin, le plongement XH → XG est holomorphe.Considerons maintenant Γ ⊂ G(Q) un sous-groupe de congruence sans torsion

de G. Notons SH(Γ) = (H(R) ∩ Γ)\XH . Puisque Γ est sans torsion, l’applicationnaturelle j : SH(Γ) → S(Kf ) est finie et non ramifiee. Il est de plus bien connu(cf. [D] ou [B]) que si l’on remplace Γ par un sous-groupe Γ′ suffisamment petit,on obtient un diagramme

SH(Γ)j′

//

j$$H

H

H

H

H

H

H

H

H

S(Γ′)

π

S(Γ),

(7)

ou π est la projection naturelle de revetement et j ′ est injective.En passant a la limite (inductive) sur les Γ, les applications j induisent l’applica-

tion de restriction

resGH : H∗(Sh0G) → H∗(Sh0H). (8)

Nous dirons que Sh0H est une sous-variete de Shimura de Sh0G, ce que nousnotons Sh0H ⊂ Sh0G.

Dans cet article nous etudions le probleme de l’injectivite de l’application derestriction (8). Poser de cette maniere la question de l’injectivite est trop naıve.On s’apercoit rapidement que pour qu’il y ait un espoir d’y repondre positivementil faut affaiblir la conclusion. Les resultats d’injectivite que nous avons en vue nesont que des resultats virtuels au sens ou nous considererons plutot l’applicationde restriction virtuelle. Expliquons ce que cela signifie. Considerons la familled’application naturelle jg : (H(R) ∩ g−1Γg)\XH → Γ\XG, g ∈ G(Q). En coho-mologie ces applications induisent l’application de restriction virtuelle

H∗(S(Γ)) →∏

g∈G(Q)

H∗(SH (g)),

ou SH(g) = (H(R) ∩ g−1Γg)\XH , et l’application de restriction est deduite de lafamille d’applications (jg). En passant a la limite (inductive) sur les Γ, l’applicationde restriction virtuelle induit l’application ResG

H :


∏

g∈G(Q)

H∗(Sh0H). (9)

Dans [V2], Venkataramana demontre un joli critere (cf. proposition 8) pour quel’image par l’application de restriction virtuelle (9) d’une classe de cohomologiefortement primitive (cf. Section 1) donnee soit non nulle. Ce critere est un condi-tion d’algebre lineaire sur les classes considerees. Pour expliciter ces conditions, ilfaut avoir recours a la theorie des representations des groupes reductifs reels, et ala (g,K)-cohomologie; il faut de plus utiliser la description des modules a (g,K)-cohomologie non triviale, due a Vogan et Zuckerman [VZ]. Nous faisons les rappelsnecessaires dans la Section 1. Notons que lorsque les classes de cohomologie con-siderees sont holomorphes, la condition de Venkataramana est en fait necessaire; on

47

N. BERGERON

retrouve alors le critere de Clozel et Venkataramana [CV]. Dans le cas des groupesU(n, 1) et O(2, n), Venkataramana explicite facilement son critere dans [V2] ce quilui permet de demontrer le theoreme suivant2 dont nous esquissons en appendiceune demonstration directe qui se generalise facilement pour demontrer le criterede Venkataramana (proposition 8) mais qui n’est pas strictement necessaire a lacomprehension de la suite du texte.

Theoreme 1 (Venkataramana). Supposons que H ⊂ G soient deux groupes alge-briques reductifs connexes et anisotropes sur Q avec Gnc = U(n, 1) (resp. Gnc =O(2, n)) et Hnc = U(n− 1, 1) (resp. Hnc = O(2, n− 1)). Alors,


∏

g∈G(Q)

Hk(Sh0H)

est injective pour tout k 6 n− 1.

Le but de ce texte est d’expliciter le critere de Venkataramana (proposition8) dans le cas des domaines hermitiens classiques. C’est exactement ce que fontClozel et Venkataramana dans [CV] dans le cas de la cohomologie holomorphe.Nous retrouverons donc leurs resultats, notons au passage que nos arguments sontpurement locaux alors que ceux de Clozel et Venkataramana font intervenir desphenomenes globaux.

Notre resultat principal (proposition 10) decrit l’action de la cohomologie triv-iale d’une variete de Shimura sur la partie fortement primitive (cf. Section 1) deson anneau de cohomologie. Ce resultat nous permet de demontrer le theoremesuivant3.

Theoreme 2. Soient K un corps de nombre totalement reel et G′ un “vrai”4

groupe unitaire anisotrope sur K compact a toutes les places infinies sauf une ou ilest isomorphe a U(p, q) avec 1 6 p 6 q. Soit G le groupe algebrique sur Q obtenu apartir de G′ par restriction des scalaires de K a Q. Alors, pour tout entier naturelk < p + q − 1, l’espace Hk(Sh0G) se decompose en une somme directe finie desous-espaces telle que chacun de ces sous-espaces se restreigne injectivement dansla cohomologie d’une sous-variete de Shimura propre.

Nous verrons de plus que le degre p+ q − 1 est optimal en general.Remarquons qu’un groupe Q-algebrique G tel que Gnc = U(p, q) est toujours

obtenu, par restriction des scalaires, a partir d’un groupe U(B) ouB est une algebresimple sur une extension quadratique totalement imaginaire d’un corps de nombrestotalement reel. Dans le cas du theoreme 2, B est une algebre de matrices sur une

2Remarquons que le cas de la cohomologie holomorphe etait deja traite dans destravaux anterieurs de Oda [O] et de Clozel et Venkataramana [CV]. Enfin, l’enoncegeneral de ce theoreme etait conjecture par Harris et Li dans [HL] ou des cas particulierssont demontres.

3Remarquons qu’il n’est pas necessaire ici de se restreindre a la cohomologie fortementprimitive, cf. theoreme 2′.

4C’est a dire associe a une forme hermitienne sur une extension quadratique totalementimaginaire de K.

48


extension quadratique totalement imaginaire de K; nous deduirons ce theoreme denotre resultat principal (theoreme 23) qui concerne plus generalement n’importequel Q-groupe G tel que Gnc = U(p, q).

Dans le cas des groupes GSpp et O∗(2p) nos methodes n’apportent pas beaucoupplus que les resultats de Clozel et Venkataramana que nous retrouvons. Nous n’enrendrons donc compte que tres brievement.

Revenons maintenant au cas des varietes de Shimura unitaires, i.e. Gnc =U(p, q). Le theoreme de Lefschetz sur les classes de Hodge de bidegre (1, 1) estnon vide lorsque p = 1 et implique que toute classe de Hodge dans H2(Sh0G) etdonc dans H2q−2(Sh0G) est algebrique. Lorsque q > p > 1, il n’y a pas de classesde Hodge de degre 2, en fait et si q > p+1 nous verrons que toute classe de Hodgenon triviale est de degre > 2p. En developpant une idee de Venkataramana, nousmontrerons le nouveau cas suivant de la conjecture de Hodge.

Theoreme 3. Soient K un corps de nombre totalement reel et G′ un “vrai”groupe unitaire anisotrope sur K compact a toutes les places infinies sauf uneou il est isomorphe a U(p, q) avec 3 6 2p+ 1 6 q. Soit G le groupe algebrique surQ obtenu a partir de G′ par restriction des scalaires de K a Q. Alors, toute classede Hodge dans H2p(q−1)(Sh0G) est algebrique.

Enfin, nous demontrerons le resultat d’annulation suivant. Celui-ci repose surun theoreme de Clozel [Cl] qui en est un cas particulier.

Theoreme 4. Supposons que Sh0G contienne une sous-variete de Shimura Sh0H,avec H obtenu par restriction des scalaires a partir d’un groupe U(D) ou D est unealgebre a division de degre premier impair sur une extension quadratique imagi-naire d’un corps de nombre totalement reel et tel que Hnc = U(p, b) avec b < q.Alors, Hk

prim(Sh0G) = 0 pour tout entier 1 6 k < min(bp, q).

Notons qu’il ne semble pas exister a lors actuel de demonstration “automorphe”directe (dans l’esprit de [Cl]) du theoreme 4.

Notations. Dans ce qui suit, Mm×n(C) designe l’espace des matrices avec m ligneset n colonnes et des coefficients complexes. Nous noterons Ei,j ∈ Mm×n(C) lamatrice dont le coefficient appartenant a la i-eme ligne et a la j-eme colonne estegal a 1 et dont tous les autres coefficients sont nuls. Le groupe des matricescarrees p× p inversibles est note GLp. Le groupe des matrices unitaires p× p estnotes U(p).

Si E est une representation d’un groupe, nous noterons E∗ sa repesentationcontragrediente. Si e1, e2, . . . , em est une base de E, alors sa base duale de E∗ estnotee e∗1, e

∗2, . . . , e

∗m. La r-ieme puissance exterieure (resp. symetrique) de E est

designee∧r E (resp. symr(E)).

Remerciements. Je ne saurais trop souligner ce que les resultats ci-dessusdoivent aux travaux de Venkataramana. La lecture de ceux de ses articles fig-urant dans la bibliographie m’a incite a vouloir comprendre la combinatoire del’application de restriction virtuelle entre varietes de Shimura. Enfin, j’ai beneficiede nombreuses conversations sur ce sujet avec Laurent Clozel, je l’en remercie.

49

N. BERGERON

1. Representations cohomologiques

Rappelons que G est un groupe algebrique reductif connexe et anisotrope sur Q.Dans ce paragraphe les facteurs compacts de G(R) ne nous interesseront pas, nousnotons g0 l’algebre de Lie de Gnc et k0 l’algebre de Lie de K. Soit g0 = k0 ⊕ p0

la decomposition de Cartan associee. Si l0 est une algebre de Lie, nous notonsl = l0 ⊗ C sa complexification. Rappelons que la multiplication par i =

√−1

induit une decompositionp = p+ ⊕ p−.

Puisque G est anisotrope sur Q, un theoreme de Borel et Harish-Chandra [BHC]affirme que si Γ est un sous-groupe de congruence de G, la variete S(Γ) est com-pacte.

Soit Γ un sous-groupe de congruence de G. Soit Ek(S(Γ)) l’espace des formesdifferentielles de degre k sur S(Γ). Puisque le fibre cotangent T ∗S(Γ) est isomorpheau fibre Γ\Gnc ×K p∗ → Γ\Gnc/K = S(Γ), qui est associe au K-fibre principalK → Γ\Gnc → Γ\Gnc/K et a la representation adjointe de K dans p∗, on a :

Ek(S(Γ)) ' (C∞(Γ\Gnc)⊗∧k

p∗) ' HomK(∧k

p, C∞(Γ\Gnc)) (k ∈ N). (10)

Notons ∆ le laplacien de Hodge–de Rham sur la variete riemannienne (locale-ment symetrique) S(Γ) (ou la metrique est deduite de la forme de Killing sur g0).L’espace des formes harmoniques de degre k est donne par

Hk(S(Γ)) := ω ∈ Ek(S(Γ)) : ∆ω = 0.

La theorie de Hodge fournit un isomorphisme naturel

H∗(S(Γ)) ' H∗(S(Γ)).

Soit (π, Vπ) un (g,K)-module irreductible. A l’aide de (10) on definit une appli-cation lineaire

Tπ :

HomK(

∧∗p, π)⊗Homg,K(π,C∞(Γ\Gnc)) → E∗(S(Γ)),

ψ ⊗ ϕ 7→ ϕ ψ. (11)

Soit Gnc l’ensemble des classes d’equivalence des (g,K)-modules irreductibles

qui sont unitarisables. Rappelons qu’Harish-Chandra a demontre que Gnc s’identi-fie naturellement au dual unitaire de Gnc. Soient U(g) l’algebre enveloppante del’algebre de Lie complexe g, Z(g) son centre et Ω ∈ Z(g) le casimir definit par la

forme de Killing sur g0. On definit le sous-ensemble Gnc0 de Gnc par

Gnc0 := π ∈ Gnc : π(Ω) = 0,

ou l’on a conserve la meme notation π pour la representation de U(g).L’action de Gnc sur XG induit la representation de U(g) sur l’espace des formes

differentielles surXG. En particulier, le casimir Ω(∈ Z(g) ⊂ U(g)) agit sur E∗(XG)

50


comme le laplacien de Hodge-de Rham, puisque la metrique riemannienne sur XG

est induite par la forme de Killing sur g0. Il decoule de tout ceci que si

Image(Tπ) ⊂ H∗(S(Γ)) ' H∗(S(Γ)) (12)

est non tiviale, alors π ∈ Gnc0 . On dit dans ce cas que le sous-espace de H∗(S(Γ))

correspondant a l’image de Tπ est la π-composante, et on ecrit H∗(π : Γ). Quelque

soit π ∈ Gnc0 , nous noterons plus generalement (qu’il soit trivial ou non)

Hk(π : Γ) := Image(Tπ) ∩Hk(S(Γ)) (k ∈ N), (13)

via l’isomorphisme (12).Un resultat du a Gel’fand, Graev et Pyatetskii-Shapiro [GGPS] affirme que

la representation reguliere droite dans L2(Γ\Gnc) admet une decomposition ensomme directe de Hilbert discrete

L2(Γ\Gnc) '∑⊕

HomG(π, L2(Γ\Gnc))⊗ π =∑⊕

nΓ(π)π,

ou π parcourt cette fois le dual unitaire de Gnc et la multiplicite

nΓ(π) := dimC HomG(π, L2(Γ\Gnc)) <∞.

Alors la formule de Matsushima est resumee dans le lemme suivant.

Lemme 5 ([BW], [Ma]). Sous les notations precedentes. On a

H∗(π : Γ) ' nΓH∗(g,K;π), (14)

H∗(S(Γ)) =⊕

π∈Gnc0

H∗(π : Γ). (15)

En passant a la limite (inductive) sur les sous-groupes de congruence Γ ⊂ G,nous parlerons de π-composante de la cohomologie H∗(Sh0G) de la variete deShimura Sh0G, ce que nous noterons H∗(π : Sh0G). La decomposition (15) setraduit alors en

H∗(Sh0G) =⊕

π∈Gnc0

H∗(π : Sh0G). (16)

D’apres Parthasarathy [P1], Kumaresan [Ku] et Vogan et Zuckerman [VZ], les(g,K)-modules unitarisables ayant des groupes de (g,K)-cohomologie non triviauxpeuvent etre decrits comme suit. Notons t0 =Lie(T ) une sous-algebre de Cartande k0. On considere les sous-algebres paraboliques θ-stable q ⊂ g: q = l⊕ u [VZ],ou l est le centralisateur d’un element X ∈ it0 et u est le sous-espace engendrepar les racines positives de X dans g. Alors q est stable sous θ; on en deduit unedecomposition u = (u ∩ k)⊕ (u ∩ p). Soit R = dim(u ∩ p).

Associe a q, se trouve un (g,K)-module irreductible bien defini Aq caracterisepar les proprietes suivantes. Supposons effectue un choix de racines positives pour

51

N. BERGERON

(k, t) de facon compatible avec u. Soit e(q) un generateur de la droite∧R

(u ∩ p).Alors e(q) est le vecteur de plus haut poids d’une representation irreductible V (q)

de K contenue dans∧R

p; et dont le plus haut poids est donc necessairement2ρ(u ∩ p). La classe d’equivalence du (g,K)-module Aq est alors uniquementcaracterisee par les deux proprietes suivantes :

Aq est unitarisable avec le meme caractere infinitesimal que larepresentation triviale,

(17)

HomK(V (q), Aq) 6= 0. (18)

Remarquons que la classe du moduleAq ne depend alors en fait que de l’intersectionu∩p, autrement dit deux sous-algebres paraboliques q = l⊕u et q′ = l′⊕u′ verifiantu ∩ p = u′ ∩ p donnent lieu a une meme classe de module cohomologique.

De plus, V (q) intervient avec multiplicie 1 dans Aq et∧R

(p), et

H i(g,K,Aq) ∼= HomL∩K(∧i−R

(l ∩ p),C). (19)

Ici L est un sous-groupe de K d’algebre de Lie l.Si Γ est un sous-groupe de congruence de G, la Aq-composante HR(Aq : Γ)

de HR(S(Γ)) sera dite fortement primitive. D’apres ce que nous avons rappeleci-dessus, la Aq-composante fortement primitive est donc la somme sur une baseϕ de Homg,K(Aq, C

∞(Γ\Gnc)) des formes differentielles ωϕ definies par

ωϕ(g.λ) = ϕ(ω(λ))(g) (λ ∈∧R

p, g ∈ Gnc),

ou ω :∧R

p → Aq est une K-application non nulle (uniquement definie a unscalaire pres) qui factorise necessairement via la composante isotypique V (q). Dememe nous parlerons de HR(Aq : Sh0G) comme de la Aq-composante fortementprimitive.

2. Groupes unitaires, diagrammes de Young

En l’absence d’une mention explicite du contraire nous supposerons dorenavantque G est un groupe algebrique reductif connexe et anisotrope sur Q tel que Gnc ∼=U(p, q), ou p et q sont des entiers strictement positifs avec p 6 q. Le rang reel deG est donc p. On a

Gnc =

g =

(A BC D

): tg

(1p 00 −1q

)g =

(1p 00 −1q

), (20)

ou A ∈Mp×p(C), B ∈Mp×q(C), C ∈Mq×p(C) et D ∈Mq×q(C). Soit

K =

g =

(A 00 D

)∈ Gnc : A ∈ U(p), D ∈ U(q)

.

Le complexifie KC de K est le groupe

KC =

g =

(A 00 D

)∈ Gnc

C : A ∈ GLp, D ∈ GLq

.

52


L’involution de Cartan θ est donnee par x 7→ −tx. Soit

T =

g ∈ KC : g =

(A 00 D

)avec A, D matrices diagonales

.

Nous noterons (x1, . . . , xp; y1, . . . , yq) les elements de T ou de son algebre de Lie.L’algebre de Lie g est bien evidemment M(p+q)×(p+q)(C), et l’on voit ses elementssous forme de blocs comme dans (20). On a alors

p+ =

(0 B0 0

)avec B ∈Mp×q(C)

et

p− =

(0 0C 0

)avec C ∈Mq×p(C)

.

Soit E = Cp (resp. F = Cq) la representation standard de U(p) (resp. U(q)).Alors, comme representation de KC, p+ = E ⊗ F ∗.

Soient (e1, . . . , ep) et (f1, . . . , fq) les bases canoniques respectives de E et F .Choisissons comme sous-algebre de Borel bK dans k l’algebre des matrices dansk, qui sont triangulaires superieures sur E et triangulaires inferieures sur F parrapport a ces bases. Alors l’ensemble des racines simples compactes positives

Φ(bK , t) = xi − xj : 1 6 i < j 6 p ∪ yj − yi : 1 6 i < j 6 q. (21)

Les racines de T apparaissant dans p+ sont les formes lineaires xi−yj avec 1 6 i 6 pet 1 6 j 6 q.

Modules cohomologiques et diagrammes de Young. Nous avons vu comment as-socier une sous-algebre parabolique θ-stable q a un element

X = (x1, . . . , xp; y1, . . . , yq) ∈ it0

(les xi, yj sont donc tous reels). Rappelons le choix fixe (21) de racines simplescompactes positives. Apres conjugaison par un element de K, on peut supposer, etnous le supposerons effectivement par la suite, que X est dominant par rapport aΦ(bK , t), i.e. que α(X) > 0 pour tout α ∈ Φ(bK , t); il satisfait alors aux inegalites

x1 > · · · > xp et yq > · · · > y1.

Nous allons maintenant associer a X un couple de diagrammes de Young (ou,suivant la litterature, diagrammes de Ferrers), qui codera completement le modulecohomologique associe. Rappelons qu’une partition est une suite decroissante λd’entiers naturels λ1 > . . . > λl > 0. Les entiers λ1, . . . , λl sont des parts. Lalongueur l(λ) designe le nombre de parts non nulles, et le poids |λ|, la somme desparts. On se soucie peu, d’ordinaire, des parts nulles : on se permet en particulier,le cas echeant, d’en rajouter ou d’en oter.

Le diagramme de Young de λ, que l’on notera egalement λ, s’obtient en su-perposant, de haut en bas, des lignes dont l’extremite gauche est sur une meme

53

N. BERGERON

colonne, et de longueurs donnees par les parts de λ. Par symetrie diagonale, onobtient le diagramme de Young de la partition conjuguee, que l’on notera λ∗.

Soient λ et µ deux partitions telles que µ contienne λ, ce que nous noteronsλ ⊂ µ. Notons µ/λ le complementaire du diagramme de λ dans celui de µ : c’estune partition gauche son diagramme est un diagramme gauche. Dans la pratique lespartitions λ que nous rencontrerons seront incluses dans la partition rectangulairep× q = (q, . . . , q︸︷︷︸

p fois

), le diagramme gauche p× q/λ est alors le diagramme de Young

d’une partition auquel on a applique une rotation d’angle π; nous noterons λ cettepartition, la partition complementaire de λ dans p× q.

Nous associons maintenant a notre element X ∈ it0 un couple (λ, µ) de parti-tions comme suit :

• La partition λ ⊂ p× q est associee au sous-diagramme de Young de p× qconstitue des cases de coordonnees (i, j) telles que xi > yj .

• La partition µ ⊂ p× q est associee au sous-diagramme de Young de p× qconstitue des cases de coordonnees (i, j) telles que xi > yj .

Le lemme suivant est absolument immediat.

Lemme 6. Le couple de partitions (λ, µ) associe a un element X ∈ it0 verifie :

(1) la suite d’inclusion λ ⊂ µ ⊂ p× q; et(2) que le diagramme gauche µ/λ est une reunion de diagrammes rectangu-

laires pi × qi, i = 1, . . . ,m, ne s’intersectant qu’en des sommets.

Reciproquement, etant donne un couple de partitions (λ, µ) verifiant (1) et (2), onpeut toujours trouver un element X ∈ it0 tel que (λ, µ) soit le couple de partitionsassocie a X.

Nous dirons d’un couple de partitions (λ, µ) qu’il est compatible (ou compatibledans p× q en cas d’ambiguite) s’il verifie les points (1) et (2) du lemme 6.

Remarquons maintenant que si X et X ′ sont deux elements de it0 de memecouple de partitions associe (λ, µ) et de sous-algebres paraboliques associees re-spectives q et q′ alors p ∩ u = p ∩ u′. On deduit donc de la remarque suiv-ant la definition des modules Aq et du lemme 6 que chaque couple compatiblede partitions (λ, µ) definit sans ambiguite une classe d’equivalence de (g,K)-modules que nous noterons A(λ, µ). Nous nous autoriserons a parler de “la” sous-algebre parabolique q(λ, µ) = l(λ, µ) ⊕ u(λ, µ) de (g,K)-module associe A(λ, µ),l’important pour nous est qu’une telle sous-algebre existe (d’apres le lemme 6).Nous supposerons de plus, ce que l’on peut toujours faire, que le groupe L(λ, µ)associe a la sous-algebre de Levi l(λ, µ) n’a pas de facteurs compacts non abelien.Il est alors facile de voir que

L(λ, µ)/(L(λ, µ) ∩K) =

m∏

i=1

U(pi, qi)/U(pi)×U(qi). (22)

Les resultats de Parthasarathy, Kumaresan et Vogan et Zuckerman mentionnesplus haut affirment alors que

GncVZ := A(λ, µ) : (λ, µ) est un couple compatible de partitions(⊂ Gnc

0 ⊂ Gnc)

54


est l’ensemble des (g,K)-modules ayant des groupes de (g,K)-cohomologie nonnuls.

Comme representation de KC, p+ = E ⊗ F ∗ et p = (E ⊗ F ∗) ⊕ (E ⊗ F ∗)∗. Ilest bien connu (cf. [F]) qu’a chaque partition λ, il correspond une representationirreductible Eλ de GL(E).

Considerons la representation de KC,

V (λ) := Eλ ⊗ (F λ∗)∗. (23)

C’est une sous-representation irreductible de∧|λ|

(E ⊗ F ∗); son vecteur de plushaut poids est

v(λ) :=

p∧

i=1

λi∧

j=1

ei ⊗ f∗j (24)

et son vecteur de plus bas poids est

w(λ) :=

p∧

i=1

λi∧

j=1

ep−i+1 ⊗ f∗q−j+1. (25)

On peut montrer, cf. [F], que la representation

∧p+ =

∧(E ⊗ F ∗) =

⊕

λ⊂p×q

V (λ), (26)

ou chaque sous-espace irreductible V (λ) apparaıt avec multiplicite 1.Soit maintenant (λ, µ) un couple compatible de partitions. Le vecteur

v(λ) ⊗ w(µ)∗ ∈∧|λ|

(E ⊗ F ∗)⊗∧|µ|

(E ⊗ F ∗)∗ =∧|λ|,|µ|

p ⊂∧|λ|+|µ|

p (27)

est un vecteur de plus haut poids 2ρ(u(λ, µ)∩ p) et engendre donc sous l’action deKC un sous-module irreductible que l’on note V (λ, µ). Ce module est isomorphea V (q(λ, µ)).

Fixons maintenant un sous-groupe de congruence Γ dans G. Soit (λ, µ) uncouple compatible de partition. Nous noterons Hλ,µ(S(Γ)) = H |λ|+|µ|(A(λ, µ) : Γ)la A(λ, µ)-composante fortement primitive de la cohomologie de S(Γ). En passanta la limite inductive on definit finalement Hλ,µ(Sh0G).

Classes de Chern et diagrammes de Young. Soit Gp,q la grassmannienne des sous-espaces complexes de dimension p dans Cp+q . Soit x0 ∈ Gp,q le point base corre-spondant au sous-espace complexe de dimension p constitue des vecteurs de Cp+q

dont les q dernieres coordonnees sont toutes nulles. Le groupe Gnc = U(p, q)agit naturellement sur Gp,q et l’orbite U(p, q) · x0 s’identifie a l’espace symetriquehermitien XG.

Cette construction se comprend plus generalement de la facon suivante. SoitGnc

C le complexifie du groupe Gnc. Soit P−C le sous-groupe parabolique de GncC

55

N. BERGERON

d’algebre de Lie p−⊕k. Alors, le dual compact XG = GncC /P

−C de XG est egalement

un espace symetrique hermitien et l’inclusion Gnc/K = Gnc/Gnc ∩ P−C ⊂ GncC /P

−C

realise XG comme un domaine borne dans XG. Dans notre cas XG s’identifie a lagrassmannienne Gp,q et on retrouve le plongement decrit au precedent paragraphe.Remarquons que si l’on introduit la sous-algebre de Lie reelle gu = k0 ⊕ ip0 de g

et Gncu le sous-groupe (compact malgre le nc) de Gnc

C d’algebre de Lie gu, alors

XG = Gncu /K.

On dispose sur la grassmannienne Gp,q d’un fibre tautologique T de rang p, dontla fibre au-dessus d’un sous-espaceW de Cp+q est W lui meme. De facon analogue,le fibre quotient Q, de rang q, a pour fibre au-dessus de W le quotient Cp+q/W .

Soit Γ un sous-groupe de congruence de G. Le groupe GL(p+ q,C) agit sur T

et Q. Par restriction, le groupe U(p, q) agit sur T |XGet sur Q|XG

. En quotientant

par l’action de Γ sur T |XGet sur Q|XG

, on obtient deux fibres sur S(Γ) que nousnoterons respectivement T et Q.

D’apres un theoreme classique de Cartan, l’espace H∗(Gp,q) peut etre identifieavec l’espace des formes differentielles U(p + q)-invariantes. Soit ω une formedifferentielle U(p+ q)-invariante sur Gp,q et soit ω une forme differentielle U(p, q)-invariante sur XG egale a ω au point x0. Puisque ω est, en particulier, Γ-invarianteelle induit une forme (necessairement fermee) sur S(Γ) qui definit donc une classede cohomologie dans H∗(S(Γ)). On a ainsi construit une application

η : H∗(Gp,q) → H∗(S(Γ)). (28)

Il est bien connu que η est injective, son image coıncide avec la composante trivialeH∗(1G : Γ) de la cohomologie. Le lemme suivant est lui aussi classique, on peuten trouver une demonstration dans [P2].

Lemme 7. Si C1, . . . , Cp (resp. C ′1, . . . , C′q) sont les classes de Chern du fibre T

(resp. Q), alors Ci := (−1)iη(Ci) (resp. C ′i := (−1)iη(C ′i)) est la i-eme classe deChern du fibre T (resp. Q).

Nous allons relier les classes de Chern Ci et C ′i a des sous-espaces K-invariantsde∧

p.Remarquons d’abord qu’en utilisant (26) et son dualise :

∧p− =

⊕

λ⊂p×q

V (λ)∗,

on peut decrire une base Cν : ν ⊂ p × q de l’espace (∧

p)K des vecteurs K-invariants de

∧p parametree par l’ensemble des partitions ν ⊂ p × q. On prend

Cν :=∑

l zl ⊗ z∗l ou zl est une base de V (ν) ⊂∧

p+ et z∗l la base duale deV (ν)∗ ⊂ ∧ p−.

Soit ν ⊂ p× q une partition. L’element Cν ∈∧

p est invariant sous l’action de

K. Or le theoreme de Cartan mentionne plus haut identifie (∧

p)K et H∗(Gp,q).On peut donc voir Cν comme une classe de cohomologie dans H∗(Gp,q). D’apresun theoreme de Kostant [K, Theorem 6.15], Cν est un multiple non nul de la classe

56


de cohomologie associee a la sous-variete de Schubert Xν associee a la partitionν ⊂ p× q.

Rappelons qu’une fois un drapeau complet fixe

0 = V0 ( · · · ( Vp+q = Cp+q ,

on associe a toute partition ν ⊂ p× q, la sous-variete de Schubert

Xν = W ∈ Gp,q : dim(W ∩ Vn+i−νi) > i, 1 6 i 6 m.

La classe de Schubert associee [Xν ] ∈ H2|ν|(Gp,q) ne depend pas du choix dudrapeau. D’apres le theoreme de Kostant cite au precedent paragraphe Cν est unmultiple non nul de [Xν ].

D’un autre cote, il est bien connu (cf. [F] ou [M]) que la k-ieme classe de Chern

Ck (resp. C ′k) du fibre T (resp. Q) sur la grassmannienne, est egale a la classe[X(1k)] (resp. [X(k)]) d’une sous-variete de Schubert associee a la partition (1k) =(1, . . . , 1︸︷︷︸

k fois

) (resp. la partition dont une seule part est non nulle egale a k).

Critere de Venkataramana. La demonstration du theoreme 1 que nous esquissonsen appendice se generalise facilement en une demonstration de la proposition suiv-ante due a Venkataramana [V2]. Soit Sh0H une sous-variete de Shimura de Sh0G.

Notons [XH ] la classe duale dans H∗(XG) associee au sous-groupe H de G. La

classe [XH ] s’envoie dans H∗(Sh0G) via l’application (28).

Proposition 8. Si s ∈ Hλ,µ(Sh0G) est une classe dont la restriction virtuelle aSh0H est triviale alors

[XH ] · V (λ, µ) = 0 dans∧

p.

3. Action de la cohomologie triviale sur l’anneau de cohomologie

Soit (λ, µ) un couple compatible de partitions. Rappelons que le diagrammegauche µ/λ est alors constitue de diagrammes rectangulaires pi × qi, i = 1, . . . ,m,ne s’intersectant qu’en des sommets.

Etant donne un diagramme gauche µ/λ, numerotons les cases de droite a gaucheet de haut en bas; nous appellerons cet etiquetage le numerotage inverse du dia-gramme gauche. Par exemple, le numerotage inverse de (5, 4, 3, 2)/(3, 3, 1) est

2 13

5 47 6

Nous appellerons sous-diagramme gauche d’un diagramme gauche µ/λ, toutdiagramme µ′/λ ou µ′ est le diagramme d’une partition verifiant λ ⊂ µ′ ⊂ µ. Onpeut alors donner les definitions suivantes qui seront fondamentales dans la suitedu texte.

57

N. BERGERON

Definition 1. Nous dirons d’une partition ν ⊂ p × q qu’elle est une image d’undiagramme gauche µ/λ s’il existe une bijection entre les cases des diagrammes νet µ/λ telle que si une case A est au-dessus (au sens large) et a gauche (au senslarge) d’une case B dans l’un des diagrammes, les cases correspondantes A′ et B′

de l’autre diagramme sont dans l’ordre du numerotage inverse.

Definition 2. Nous dirons ensuite d’une partition ν ⊂ p×q qu’elle peut s’inscriredans un diagramme gauche µ/λ si elle est une image d’un sous-diagramme gauchede µ/λ.

Nous allons maintenant tenter de donner plus de sens a ces definitions. Com-mencons par dire qu’elles sont reliees aux nombres de Littlewood et Richardsoncµλν . Nous renvoyons au livre de Fulton [F] pour un grand nombres de definitionsde ces nombres. En ce qui nous concerne, remarquons immediatement que la no-tion d’image definie ci-dessus est due a Zelevinsky [Z] qui montre notamment quecµλν est egal5 au nombre d’images entre ν et µ/λ.

Nous aurons besoin d’utiliser plusieurs caracterisations differentes des nombresde Littlewood et Richardson. Rappelons qu’un tableau de Young T est le remplis-sage des cases d’un diagramme de Young µ par des entiers > 1 de maniere :

(1) croissante (au sens large) le long des lignes (de gauche a droite); et

(2) strictement croissante de haut en bas suivant chaque colonne.

Etant donne une partition λ, nous noterons U(λ) le tableau de Young obtenu apartir du diagramme λ en remplissant toutes les cases de la i-eme ligne par des i.Nous parlerons egalement de tableaux gauches, i.e. de tableaux sur des diagrammesgauches. Nous admettrons dans cette section que le lecteur est familier avec leproduit · de deux tableaux de Young ou la rectification Rect d’un tableau gauche.Rappelons alors que le nombre de Littlewood et Richardson cµ

λν est egal :

(1) au nombre de tableaux T sur λ tels que T · U(ν) = U(µ); et

(2) au nombre de tableaux gauches S sur µ/λ tels que Rect(S) = U(ν).

Etant donne un couple compatible (λ, µ) de partitions, le diagramme gaucheµ/λ est reunion de diagrammes rectangulaires pi × qi, i = 1, . . . ,m. Si pourchaque entier i entre 1 et m on choisit un diagramme αi ⊂ pi × qi, on peutformer un sous-diagramme gauche α1 ∗ · · · ∗αm de µ/λ en placant les diagrammesαi dans le coin superieur gauche de chacun des diagrammes pi × qi. On notera(de maniere coherente avec la notation des nombre de Littlewood et Richardson)cνα1...αm

le nombres d’images entre ν et le diagramme gauche α1 ∗ · · · ∗ αm. Soitfinalement ∼µ/λ la relation d’equivalence sur l’ensemble des partitions ν ⊂ p×q quis’inscrivent dans le diagramme gauche µ/λ definit par : ν1 ∼µ/λ ν2 si et seulementsi (cν1

α1...αm6= 0 ⇔ cν2

α1...αm6= 0) pour tout sous-diagramme gauche α1 ∗ · · · ∗ αm

de µ/λ.

Nous aurons besoin du lemme suivant.

Lemme 9. Soit (λ, µ) un couple compatible de partitions tel que µ/λ =⋃m

i=1 pi×qi. Notons Pi = pi+1 + · · ·+ pm et Qi = qi+1 + · · ·+ qm. Soit ν une partition.

5Ici le couple de partitions (λ, µ) n’a pas besoin d’etre compatible.

58


(1) On a

cµλν =∑

βi ⊂ Pi × Qi

i = 1, . . . ,m − 2

m−1∏

i=1

cβi−1

pi×qiβi,

ou on a note β0 = ν et βm−1 = pm × qm.(2) Le diagramme ν s’inscrit dans µ/λ si et seulement s’il existe des dia-

grammes αi ⊂ pi × qi, pour i = 1, . . . ,m, tel que cνα1...αm6= 0. Et

cνα1...αm=

∑

βi ⊂ Pi × Qi

i = 1, . . . ,m − 2

m−1∏

i=1

cβi−1

αiβi, (29)

ou on a note β0 = ν et βm−1 = αm.

Demonstration. Fixons des diagrammes αi ⊂ pi × qi, pour i = 1, . . . ,m et βi ⊂Pi ×Qi, pour i = 1, . . . ,m− 2. Nous noterons β0 = ν et βm−1 = αm. Pour toutentier i = 1, . . . ,m− 1, notons alors E(βi) l’ensemble

Ti tableau de Young sur αi : Ti · U(βi) = U(βi−1) .

Le cardinal de Ei est donc egal a cβi−1

αiβi.

Soit T l’ensemble

U tableau sur le sous-diagramme gauche α1 ∗ · · · ∗ αm⊂µ/λ : Rect(U) = U(ν) .Alors d’apres Zelevinsky, le cardinal de T est egal a cν

α1...αm.

Considerons maintenant l’application

Φ :

⋃βi ⊂ Pi ×Qi

i = 1, . . . , m − 2

∏m−1i=1 E(βi) → T ,

(T1, . . . , Tm−1) 7→ T1 ∗ · · · ∗ Tm−1 ∗ U(αm).

L’application Φ est clairement injective. Montrons qu’elle est surjective. Il estclair qu’un tableau U dans T s’ecrit U = T1 ∗ · · · ∗ Tm−1 ∗ U(αm) ou chaque Ti,pour i = 1, . . . ,m− 1, est un tableau de Young sur le diagramme αi. Nous allonsmontrer par recurrence que si Rect(U) = U(ν), il existe une suite de diagrammesβ1, . . . , βm−2 telle que chaque Ti appartienne a E(βi).

Par definition du produit · sur les tableaux de Young, il decoule de l’identite

Rect(T1 ∗ · · · ∗ Tm−1 ∗ U(αm)) = U(ν)

que

T1 ·Rect(T2 ∗ · · · ∗ Tm−1 ∗ U(αm)) = U(ν). (30)

Rect(T2 ∗ · · · ∗ Tm−1 ∗U(αm)) est un tableau de Young sur un certain diagrammeβ1 ⊂ P1 × Q1. Il decoule alors de (30) que Rect(T2 ∗ · · · ∗ Tm−1 ∗ U(αm)) estnecessairement egal a U(β1). On conclut la construction des βi par recurrence.

La formule (29) decoule immediatement de la bijectivite de Φ, le point (2). dulemme est donc demontre. Le cas (1) du lemme s’en suit en posant αi = pi × qi.Ce qui conclut la demonstration du lemme 9.

59

N. BERGERON

Dans la suite, notons p+L l’intersection p+ ∩ l(λ, µ). On introduit alors E(Gnc,

L(λ, µ)) (ou juste E(G,L) lorsqu’il n’y aura pas d’ambiguite) le sous-espace de∧p+ engendre par les tranlates par K du sous-espace

∧p+

L .Nous pouvons maintenant enoncer et demontrer la proposition clef de cet article.

Proposition 10. Soient λ, µ et ν trois partitions incluses dans p × q telles que(λ, µ) forme un couple compatible. Notons L = L(λ, µ). Alors, les enonces suiv-ants sont equivalents:

(1) Cν · V (λ, µ) 6= 0 dans∧

p;(2) la partition ν s’inscrit dans µ/λ; et(3) V (ν) ⊂ E(G,L).

De plus, les elements Cν ·v(λ)⊗w(µ)∗, ou ν decrit un ensemble de representantspour la relation d’equivalence ∼µ/λ sur l’ensemble des partitions ⊂ p × q quis’inscrivent dans µ/λ, sont lineairement independants.

Demonstration. Pour simplier les notations, posons q = q(λ, µ), u = u(λ, µ) et l =

l(λ, µ). Rappelons que v(λ)⊗w(µ)∗ est un generateur de la droite∧|λ|+|µ|

(u∩ p).Le lemme suivant, simple exercice d’algebre lineaire, est du a Venkataramana [V,Lemma 1.3].

L’inclusion l∩p → p induit par dualite (pour la forme de Killing) une applicationp → l ∩ p que nous dirons “de restriction”.

Lemme 11. Considerons l’application de restriction B : (∧

p)T → (

∧(l ∩ p))

Tet

le cup-produit A : (∧

p)T → ∧

p donne par y 7→ y∧v(λ)⊗w(µ)∗. Alors les noyauxde A et B sont les memes.

Soit XL = Lu/(Lu∩K) le dual compact de XL = L/L∩K. L’espace symetrique

hermitien compact XL se plonge naturellement dans la grassmannienne XG =Gp,q. En cohomologie on peut donc parler de l’application de restriction :

res : H∗(XG) → H∗(XL).

Rappelons que Cν s’identifie a une classe de cohomologie dansH∗(Gp,q)'H∗(XG).Le lemme suivant est egalement du a Venkataramana [V, Lemma 1.4], on en es-quisse la demonstration pour simplifier la lecture du texte.

Lemme 12.

Cν · V (λ, µ) = 0 ⇐⇒ Cν ∈ Ker(H∗(XG)

res−−→ H∗(XL)).

Demonstration du lemme 12. Le K-module V (λ, µ) est engendre par v(λ)⊗w(µ)∗,et Cν est K-invariant, on a donc :

Cν · V (λ, µ) = 0 ⇐⇒ Cν · v(λ)⊗ w(µ) = 0.

Ce qui est equivalent au fait que Cν appartient au noyau de l’application A dulemme 11. D’apres ce dernier c’est donc equivalent au fait que Cν appartient aunoyau de l’application B. Mais B(Cν) = 0 si et seulement si Cν est dans le noyaude l’application de restriction

(∧p)K

→(∧

pL

)K∩L

.

Ce qui conclut la demonstration du lemme 12.

60


Remarquons immediatement que l’ensemble Cν · v(λ) ⊗ w(µ)∗ : ν ⊂ p ×q, Cν · V (λ, µ) 6= 0 est identique a l’ensemble B(Cν) · v(λ) ⊗ w(µ)∗ : ν ⊂p × q, Cν · V (λ, µ) 6= 0. Mais, via le plongement

∧pL ⊗ ∧(p ∩ u) → ∧

p,les elements B(Cν) · v(λ) ⊗ w(µ)∗ sont simplement les tenseurs decomposablesB(Cν) ⊗ (v(λ) ⊗ w(µ)∗) et seront donc lineairement independants des que lesres(Cν) le seront.

Continuons la demonstration de la proposition 10. D’apres le lemme 11 et (22),et en conservant les memes notations, on doit comprendre l’application naturellede restriction

H∗(Gp,q)res−−→

m⊗

i=1

H∗(Gpi,qi), (31)

ou p1 + · · ·+ pm 6 p, q1 + · · ·+ qm 6 q,∏m

i=1 Gpi,qiest naturellement plonge dans

Gp,q, i.e. via l’inclusion de L dans Gnc et ou l’on a compose l’application induiteen cohomologie par la restriction et l’isomorphisme de Kunneth.

Lemme 13. Soit ν ⊂ p × q une partition. Alors, l’image de Cν par l’applicationde restriction (31) est

res(Cν) =∑

αi ⊂ pi × qi

i = 1, . . . ,m

cνα1...αmCα1

⊗ · · · ⊗ Cαm.

Demonstration du lemme 13. Supposons tout d’abord que m = 2, p1 + p2 = p etque q1 +q2 = q. Le fibre tautologique T au-dessus de Gp,q induit via le plongementGp1,q1

× Gp2,q2⊂ Gp,q , un fibre sur le produit Gp1,q1

× Gp2,q2qui est isomorphe

au produit du fibre tautologique T1 sur Gp1,q1par le fibre tautologique T2 sur

Gp2,q2. La formule de Whitney sur les classes de Chern implique alors que, via

l’isomorphisme de Kunneth, la classe de Chern totale de ce fibre est egale auproduit tensoriel des classes de Chern c(T1) et c(T2). Par fonctorialite des classes

de Chern, on en deduit que la restriction de c(T ) au produit Gp1,q1× Gp2,q2

estdonnee par

c(T )|(Gp1,q1×Gp2,q2

) = c(T1)⊗ c(T2). (32)

Notons dorenavant, C1α (resp. C2

β) la classe de Schubert associee a une partitionα ⊂ p1×q1 (resp. β ⊂ p2×q2) dans la cohomologieH∗(Gp1,q1

) (resp. H∗(Gp2,q2)).

L’equation (32) implique alors que pour tout entier k 6 p,

(C(1k))|(Gp1,q1×Gp2,q2

) =∑

a+b=k

C1(1a) ⊗ C2

(1b). (33)

Notons Λm l’anneau des polynomes symetriques a coefficients entiers de m vari-ables. Rappelons qu’une base de Λm est fournit par les fonctions de Schur donton renvoie a [F] ou [M] pour une definition. Plus precisemment, lorsque λ decritl’ensemble des partitions de longueur m au plus, les fonctions de Schur sλ formentune base de Λm.

61

N. BERGERON

Il est alors classique (cf. [F], [M]) que l’application

ϕp,q : Λp → H∗(Gp,q),

qui a la fonction de Schur sλ associe la classe de Schubert Cλ si λ ⊂ p × q, etzero sinon, est un morphisme d’anneaux surjectif. Nous considererons de memeles morphismes d’anneaux surjectifs :

ϕp1,q1: Λp1

→ H∗(Gp1,q1),

etϕp2,q2

: Λp2→ H∗(Gp2,q2

).

Numerotons (x1, . . . , xp1, y1, . . . , yp2

) les p variables d’une fonction de Λp, alorsΛp s’identifie au produit tensoriel Λp1

⊗Λp2et d’apres [F, Section 5.2, Exercice 4],

sν(x1, . . . , xp1, y1, . . . , yp2

) =∑

α,β

cναβsα(x1, . . . , xp1)sβ(y1, . . . , yp2

). (34)

Puisque la longueur de la partition sous-jacente a un produit de tableaux de Youngest toujours inferieure a la somme des longueurs des partitions sous-jacentes a cesdeux tableaux, il decoule de l’identite (34) et des morphismes ϕp,q , ϕp1,q1

et ϕp2,q2

que l’application

R :

H∗(Gp,q) → H∗(Gp1,q1

)⊗H∗(Gp2,q2),

Cν 7→∑

α,β cναβC

1α ⊗ C2

β ,

est un morphisme d’anneaux. Remarquons que

R(C(1k)) =∑

a+b=k

C1(1a) ⊗ C2

(1b).

Puisque les classes C(1k) pour k = 0, . . . , p engendrent l’anneauH∗(Gp,q) et comptetenu des relations (33), le morphisme R est necessairement egal au morphisme derestriction

res : H∗(Gp,q) → H∗(Gp1,q1)⊗H∗(Gp2,q2

).

Finalement, lorsque m = 2, p1 + p2 = p et q1 + q2 = q, nous avons demontreque pour toute partition ν ⊂ p× q,

res(Cν) =∑

α ⊂ p1 × q1

β ⊂ p2 × q2

cναβC1α ⊗ C2

β . (35)

Par recurrence6 sur m, on en deduit que si ν ⊂ p × q est une partition, alorsl’image de Cν par l’application de restriction (31) est :

res(Cν) =∑

αi ⊂ pi × qi

i = 1, . . . ,mβj ⊂ Pj ×Qj

j = 1, . . . , m − 2

(m−1∏

i=1

cβi−1

αiβi

)Cα1

⊗ · · · ⊗ Cαm,

ou on a pose β0 = ν et βm−1 = αm. Le lemme 13 decoule alors du lemme 9.

6Quitte a rajouter des facteurs Gpi,qi que l’on “oubliera” de facon a ce que p =p1 + · · ·+ pm et q = q1 + · · ·+ qm.

62


Concluons maintenant la demonstration de la proposition 10. L’equivalenceentre les points (1) et (2) decoule des lemmes 12 et 13. L’equivalence de ces deuxpoints avec le point (3) decoule du lemme suivant du a Venkataramana [V, Lemma1.5].

Lemme 14. En conservant les notations precedentes, le noyau de l’application derestriction

res : H∗(XG) → H∗(XL)

contient la classe de Schubert Cν si et seulement si V (ν) ⊂ E(G,L)⊥, ou l’orthogo-nal est pris par rapport au produit scalaire induit par la forme de Killing.

Puisque le K-sous-espace V (ν) de∧

p+ est irreductible et de multiplicite 1, ilest necessairement inclus dans E(G,L) ou dans son orthogonal. La proposition 10decoule des lemmes 12 et 14.

La proposition 10 implique le theoreme suivant.

Theoreme 15. Soit Γ un sous-groupe de congruence dans G et soit η : H∗(Gp,q)→H∗(S(Γ)) l’application definie en (28). Fixons λ, µ et ν trois partitions inclusesdans p× q telles que le couple (λ, µ) soit compatible. Alors :

(1) pour toute classe fortement primitive s ∈ Hλ,µ(S(Γ)), η(Cν) · s = 0 si etseulement si la partition ν ne s’inscrit pas dans µ/λ; et

(2) lorsque le diagramme gauche µ/λ est rectangulaire egal a a× b avec a = pou b = q,

Hλ,µ(S(Γ)) =s ∈ H |λ|,|µ|(S(Γ)) : η(Cν) · s = 0, ∀ν 6⊂ a× b

;

(3) si s ∈ Hλ,µ(S(Γ)) est une classe non nulle, les elements

Cν · s : ν ⊂ p× q representant d’une classe d’equivalence de ∼µ/λ

sont lineairement independants.

Demonstration. Soit s une classe fortement primitive dans Hλ,µ(S(Γ)). Alorsd’apres la formule de Matsushima,

s ∈ HomK(V (λ, µ), C∞(Γ\Gnc)).

On en deduit que

η(Cν) · s = 0 ⇐⇒ Cν · V (λ, ν) = 0 dans∧

p.

Le point (1) du theoreme 15 decoule donc de la proposition 10. Le point (3) s’endeduit pareillement.

Supposons maintenant le diagramme gauche µ/λ rectangulaire egal a a × bet considerons une classe s ∈ H |λ|,|µ|(S(Γ)) telle que η(Cν) · s = 0 pour toutdiagramme ν 6⊂ a × b. D’apres la formule de Matsushima, on peut supposer ques ∈ HomK(V (α, β), C∞(Γ\Gnc)), pour un certain couple compatible de partitions(α, β) verifiant |α| = |λ| et |β| = |µ|. Alors le diagramme gauche β/α comporte ab

63

N. BERGERON

cases. S’il est constitue de plusieurs rectangles, l’une des partitions ν = (b+ 1) ouν = (1a+1) s’y inscrit necessairement et Cν ·V (α, β) 6= 0, ce qui est absurde puisqueν 6⊂ a×b et donc η(Cν)·s = 0. Le diagramme gauche β/α est donc rectangulaire etcomporte ab cases. De la meme maniere on montre que le diagramme rectangulaireβ/α est necessairement egal a a × b. Il reste a comprendre sa position dans lediagramme p × q. Mais sous l’hypothese du point (2) du theoreme 15 celle-ci estdeterminee par la connaissance de |λ| et de |µ|. Finalement, on a necessairementα = λ et β = µ. Ce qui conclut la demonstration du theoreme 15.

Le theoreme 15 implique la decomposition de Lefschetz usuelle7 et implique lecorollaire suivant du a Parthasarathy [P2, Theorems 2 et 3 et Corollary 2.24].

Corollaire 16.

(1) Le groupe H l,0(S(Γ)) est trivial si l n’est pas de la forme pq − ab pourcertains entiers a et b tels que 0 6 a 6 p et 0 6 b 6 q.

(2) Pour l 6= pq, soit Il =(a, b) ∈ N2 : 1 6 a 6 p, 1 6 b 6 q et pq − ab = l

.

Pour l = pq, soit Il = (0, 0). Soit H(a, b) =s ∈ Hpq−ab,0(S(Γ)) :

Ca+1 · s = · · · = Cp · s = 0 et C ′b+1 · s = · · · = C ′q · s = 0. Alors,

H l,0(S(Γ)) =⊕

(a,b)∈Il

H(a, b).

(3) Pour toute classe non nulle s ∈ H(a, b) et y ∈ η(H∗(Gp,q)), y · s = 0 siet seulement si y appartient a l’ideal engendre par Ca+1, . . . , Cp et C ′b+1 =· · · = C ′q.

(4) Soit s une classe non nulle dans H(a, b). Alors, les elements Ck1

1 Ck2

2 · · ·· · ·Cka

a ·s (resp. (C ′1)k1 · · · (C ′b)kb ·s) ou Ck1

1 Ck2

2 · · ·Ckaa (resp. (C ′1)

k1 · · ·· · · (C ′b)kb) parcourt l’ensemble des monomes de degre total 6 b (resp. 6 a)en C1, C2, . . . , Ca (resp. C ′1, . . . , C

′b) sont lineairements independants.

Notons enfin que le meme type de methode et la rationalite des classes Cν nouspermettent, avec Venkataramana, de montrer le theoreme suivant, cf. [BV].

Theoreme 17. Soient Γ un sous-groupe de congruence dans G et d un entiernaturel. Le sous-espace de Hd(S(Γ)) constitue des classes fortement primitives dedegre d est defini sur Q.

4. Sous-varietes de Shimura de Sh0G

Une sous-variete de Shimura de Sh0G est obtenue comme limite projective dequotients de domaines symetriques holomorphiquement plonges dans XG. Ceux-cisont associes a certains sous-groupes reels de U(p, q). Rappelons quelques sous-groupes standard :

(1) U(p1, q1)× · · · ×U(pm, qm) avec pj , qj > 1, p1 + · · ·+ pm 6 p et q1 + · · ·+qm 6 q;

7Et montre que celle-ci est optimale pour p = 1, ou l’optimalite signifie que ladecomposition en K-types induite par l’action des classes de Chern est une decompositionen irreductibles. Signalons au passage l’article precurseur de Chern [C] sur ces questions.

64


(2) GSpp lorsque p = q; et(3) O∗(2p) lorsque p = q.

Remarquons que ces sous-groupes verifient bien les conditions (3) et (5). Il existedes sous-groupes reels de U(p, q) qui ne sont conjugues a aucun des sous-groupesdecrits ci-dessus mais donnent lieu a des sous-espaces symetriques hermitiens holo-morphiquement plonges dans XG. Dans [S], Satake les classifie completement.Retenons de cette classification que lorsque p > q > 2 et que le couple (p, q) n’estpas de la forme ((

am

),

(ca

m− 1

))avec 1 6 m 6 a,

alors toute sous-variete de Shimura propre Sh0H ⊂ Sh0G est, a conjugaison pres,associee a un sous-groupe reel contenu dans l’un des trois types de sous-groupesdecrits ci-dessus.

Afin d’appliquer les resultats de la section precedente, nous aurons besoin dedeterminer la classe duale [XH ] dans H∗(XG) associee a chacun de ces types desous-variete de Shimura Sh0H de Sh0G. Ce calcul ne fait appel qu’aux groupesreels; on traite tour a tour dans trois propositions chacun des trois types de sous-groupes decrits ci-dessus.

Proposition 18. Soient pj , qj avec j = 1, . . . ,m des entiers strictement positifstels que p1 + · · ·+ pm 6 p et q1 + · · ·+ qm 6 q. Supposons que Hnc = U(p1, q1)×· · · ×U(pm, qm). Alors, a un multiple scalaire non nul pres, la classe duale

[XH ] =∑

ν⊂p×q

cνp1×q1...pm×qmCν ∈ Hpq−

∑ipiqi(Gp,q).

Demonstration. Notons C la classe duale [XH ] a la sous-variete XH = Gp1,q1×

· · · ×Gpm,qmde XG = Gp,q . Un classe Cν ∈ H∗(Gp,q) verifie

Cν · C = res(Cν) ∧ C, (36)

ou res: H∗(Gp,q) → H∗(XH) est l’application naturelle de restriction. En parti-culier, Cν · C 6= 0 si et seulement si res(Cν) 6= 0. Ce qui d’apres le lemme 12 etla proposition 10 est equivalent au fait que ν s’inscrive dans le diagramme gauche(p1 × q1) ∗ · · · ∗ (pm × qm).

Rappelons (cf. par exemple [F]) que la classe duale de Cν dans H∗(Gp,q) estegale a Cν . La classe C est donc egale a une combinaison lineaire a coefficientsnon nuls des classes Cν ou ν decrit l’ensembles des partitions images du diagrammegauche (p1 × q1) ∗ · · · ∗ (pm × qm) (on a necessairement |ν| = p1q1 + · · ·+ pmqm).

Finalement le lemme 13 implique que si |ν| = p1q1 + · · ·+ pmqm,

res(Cν) = cνp1×q1...pm×qmCp1×q1

⊗ · · · ⊗ Cpm×qm∈ H∗(XH) =

m⊗

i=1

H∗(Gpi,qi).

A l’aide de (36) on constate alors qu’a un multiple scalaire non nul pres, on doitnecessairement avoir

C =∑

ν⊂p×q


∑ipiqi(Gp,q).

Ce qui conclut la demonstration de la proposition 18.

65

N. BERGERON

Proposition 19. Supposons p = q et Hnc = GSpp. Alors, a un multiple scalairenon nul pres, la classe duale

[XH ] = Cν ∈ Hp(p−1)/2(Gp,p),

ou ν est la partition (p− 1, p− 2, . . . , 1) de diagramme de Young

p− 1 cases

Demonstration. Supposons p = q, alors Gnc = U(p, p) et Hnc = GSpp est donnepar

g =

(A BC D

)∈ U(p, p) : tg

(0 1p

−1p 0

)g =

(0 1p

−1p 0

).

Alors, le groupe K ∩Hnc = U(p) se plonge dans K par l’application

g 7→(g 00 tg−1

),

et l’action de U(p) sur p+ = Cp⊗ (Cp)∗ est isomorphe a la representation ρ⊗ρ, ouρ est la representation standard de U(p) sur Cp. Via le plongement de Hnc dansGnc, p+ ∩ h se trouve identifie avec

sym2(ρ) = sym2(Cp) ⊂ Cp ⊗ (Cp)∗.

(On identifie sym2(Cp) avec l’espace des matrices symetriques.)Fixons maintenant une partition λ de poids |λ| = p(p+ 1)/2. (Remarquons que

p(p+ 1)/2 est la dimension de p+∩h.) Notons D⊗k la representation de dimension1 de U(p) donnee par le determinant a la puissance k.

Lemme 20. L’image de V(λ) (⊂∧

p+) par l’application de restriction dans∧

(p+∩h)est nulle sauf si λ = (p, p− 1, . . . , 1) auquel cas elle est isomorphe au U(p)-moduleD⊗(p+1).

Demonstration du lemme 20. Vue comme representation de U(p) (= K∩Hnc⊂K)le module

V (λ) = (Cp)λ ⊗ (Cp)λ∗ .

Il est classique (cf. par exemple [F]) que sa decomposition en irreductibles est

V (λ) =⊕

ν

[(Cp)ν ]⊕cνλλ∗ . (37)

L’espace p+ ∩ h = sym2(Cp) s’identifie avec l’espace des matrices symetriques,il est engendre par les matrices Ei,j + Ej,i (1 6 i, j 6 p). On constate donc

66


que si ν 6⊂ p × (p + 1), la partition ν ne peut pas etre le poids d’un vecteur duU(p) (= K ∩Hnc)-module

∧(p+ ∩ h). En particulier, si ν 6⊂ p× (p+ 1), ν ne peut

pas etre le plus haut poids d’un sous-module irreductible de∧

(p+ ∩ h).Puisque dans la decomposition (37) chaque partition ν donnant lieu a un sous-

module non trivial doit avoir un poids |ν| = |λ| + |λ∗| = p(p + 1). L’image dechacun de ces sous-modules par l’application de restriction dans

∧(p+ ∩ h) est

nulle sauf eventuellement le sous-module

[(Cp)ν0 ]⊕cν0

λλ∗ ,

ou ν0 = p× (p+ 1).Il nous faut donc comprendre pour quelles partitions λ, le coefficient de Lit-

tlewood et Richardson cp×(p+1)λλ∗ est non nul. Supposons donc que la partition

λ verifie que cp×(p+1)λλ∗ 6= 0. Commencons par remarquer que λ et λ∗ sont alors

necessairement contenues dans p × (p + 1). Ensuite remarquons que le calcul deSchubert implique que si λ et µ sont deux partitions contenues dans une partitionrectangulaire a× b et de somme des poids |λ|+ |µ| = ab alors

ca×bλ,µ = δµ,λ.

(Ici δ est le symbole de Kronecker egal a un si ses deux arguments sont identiques,a zero sinon.)

Revenons maintenant au coefficient cp×(p+1)

λλ. D’apres ce que nous venons de

voir, le coefficient cp×(p+1)

λλest non nul si et seulement si c

p×(p+1)

λλ= 1 ce qui est

equivalent a ce que λ∗ = λ (ici la notation λ designe la partition complementairede λ dans le rectangle p× (p+ 1)). Ceci se traduit en

λp+1−i + maxj : λj > i = p+ 1,

pour tout entier i = 1, . . . , p. D’ou l’on deduit λi = p+ 1− i pour i = 1, . . . , p etλ = (p, p− 1, . . . , 1).

Nous avons donc demontre que l’image de V (λ) par l’application de restric-tion dans

∧(p+ ∩ h) est nulle sauf si λ = (p, p − 1, . . . , 1). Montrons maintenant

que lorsque λ = (p, p − 1, . . . , 1), l’image de V (λ) dans∧

(p+ ∩ h) est non nulle.Supposons donc λ = (p, p− 1, . . . , 1). Il est clair que le vecteur

p∧

j=1

j∧

i=1

ei ⊗ f∗j ∈ V (λ).

(Appliquer la permutation (1 2 . . . p) sur les colonnes de Mp(C) = E ⊗ F ∗, vial’action d’un element de K.) L’image de ce vecteur dans

∧(p+ ∩ h) =

∧sym2(Cp)

est un multiple non nul de∧

16i6j6p

(Ei,j +Ej,i)

qui engendre un U(p)-module isomorphe au module D⊗(p+1). Ce qui conclut lademonstration du lemme 20.

67

N. BERGERON

Continuons la demonstration de la proposition 19. Notons C la classe duale[XH ] a la sous-variete XH de XG = Gp,q. D’apres le lemme 12 (qui reste valabledans ce cas, cf. [V]) une classe Cν ∈ H∗(Gp,q) verifie Cν · C 6= 0 si et seulement si

res(Cν) 6= 0 ou res : H∗(Gp,q) → H∗(XH) est l’application naturelle de restriction.

Mais chaque classe Cν est K-invariante et donc sa restriction a XH est (K∩Hnc =U(p))-invariante. Il suffit donc de verifier res(Cν) 6= 0 au point base. Ce qui nousramene au lemme 20.

On conclut que si ν ⊂ p× p est une partition de poids |ν| = p(p+ 1)/2,

Cν · C 6= 0 ⇐⇒ ν = (p, p− 1, . . . , 1).

La classe C est donc necessairement egale a un multiple scalaire non nul de Cν .Ce qui demontre la proposition 19.

Proposition 21. Supposons p = q et Hnc = O∗(2p). Alors, a un multiple scalairenon nul pres, la classe duale

[XH ] = Cν ∈ Hp(p+1)/2(Gp,p),

ou ν est la partition (p, p− 1, . . . , 1) de diagramme de Young

p cases

Demonstration. Supposons p = q, alors Gnc = U(p, p) et Hnc = O∗(2p) est donnepar

g =

(A BC D

)∈ U(p, p) : tg

(0 1p

1p 0

)g =

(0 1p

1p 0

).

Alors, le groupe K ∩Hnc = U(p) se plonge dans K par l’application

g 7→(g 00 tg−1

),

et l’action de U(p) sur p+ = Cp⊗ (Cp)∗ est isomorphe a la representation ρ⊗ρ, ouρ est la representation standard de U(p) sur Cp. Via le plongement de Hnc dansGnc, p+ ∩ h se trouve identifie avec

∧2ρ =

∧2Cp ⊂ Cp ⊗ (Cp)∗.

(On identifie∧2

Cp avec l’espace des matrices antisymetriques.)Fixons maintenant une partition λ de poids |λ| = p(p− 1)/2. (Remarquons que

p(p− 1)/2 est la dimension de p+ ∩ h.) La demonstration du lemme 20 se traduitfacilement en une demonstration du lemme suivant.

Lemme 22. L’image de V(λ) (⊂∧

p+) par l’application de restriction dans∧(p+∩h)

est nulle sauf si λ = (p − 1, p − 2, . . . , 1) auquel cas elle est isomorphe au U(p)-module D⊗(p).

On conclut alors la demonstration de la proposition 21 en suivant mot pour motla fin de la demonstration de la proposition 19.

68


5. Restriction a une sous-variete de Shimura

Dans cette section nous demontrons des criteres d’injectivite de l’applicationde restriction virtuelle (9) aux differents types de sous-varietes de Shimura deSh0G consideres dans la section precedente. Les criteres seront independant desQ-structures des groupes algebriques en question. On considere donc la encore toura tour chacun des trois types suivants de sous-varietes de Shimura Sh0H ⊂ Sh0G :

(1) Hnc = U(p1, q1) × · · · × U(pm, qm) avec pj , qj > 1, p1 + · · · + pm 6 p etq1 + · · ·+ qm 6 q;

(2) Hnc = GSpp et p = q; et(3) Hnc = O∗(2p) et p = q.

C’est l’objet des deux theoremes qui suivent ainsi que d’une remarque finale con-cernant le cas Hnc = O∗(2p).

Theoreme 23. Soit Sh0H une sous-variete de Shimura de Sh0G avec Hnc =U(p1, q1) × · · · × U(pm, qm), pj , qj > 1, p1 + · · · + pm 6 p et q1 + · · · + qm 6 q.Soient λ et µ deux partitions incluses dans p × q telles que le couple (λ, µ) soitcompatible. Alors, l’application


∏

G(Q)

H∗(Sh0H)

de restriction virtuelle est injective en restriction a Hλ,µ(Sh0G) s’il existe unepartition ν image du diagramme gauche (p1 × q1) ∗ · · · ∗ (pm × qm) telle que νs’inscrive dans le diagramme gauche µ/λ.

Demonstration. La demonstration repose sur un theoreme de Venkataramana, surla proposition 10 et sur la proposition 18. Plus precisement, d’apres la proposition8, si s est un classe dans Hλ,µ(Sh0G) dont la restriction virtuelle ResG

H(s) a Sh0Hest triviale, alors

[XH ] · V (λ, µ) = 0 dans∧

p.

D’apres la proposition 18,

[XH ] =∑

ν⊂p×q


∑i piqi(Gp,q).

Puisque d’apres la proposition 10, Cν · V (λ, µ) 6= 0 si et seulement si ν s’inscritdans le diagramme gauche µ/λ et que :

(1) il n’existe aucune relation de dependance lineaire a coefficients positifs entreles Cν · v(λ) ⊗ w(µ)∗ (proposition 10); et

(2) les coefficients cνp1×q1...pm×qmsont positifs;

on conclut que [XH ] · V (λ, µ) 6= 0 si et seulement s’il existe une partition ν ⊂p × q image du diagramme gauche (p1 × q1) ∗ · · · ∗ (pm × qm) (autrement ditcνp1×q1...pm×qm

6= 0) telle que ν s’inscrive dans le diagramme gauche µ/λ. Ce quiconclut la demonstration du theoreme 23.

69

N. BERGERON

Rappelons que le sous-espace Hλ,µ(Sh0G) apparaıt dans la cohomologie holo-morphe si et seulement si µ = p × q. La partition λ est alors naturellementparametree par un couple d’entier (r, s) avec 0 6 r 6 p et 0 6 s 6 q tels que

λ = (q, . . . , q︸︷︷︸r fois

, s, . . . , s︸︷︷︸p−r fois

)

de diagramme de Young :

r cases

︸︷︷︸s cases

(Ici p = 4 et q = 5.)Dans ce cas (et pour souligner le fait qu’il apparaıt dans la cohomologie holomor-

phe) nous noterons H(r,s),0(Sh0G) le sous-espace Hλ,µ(Sh0G) de la cohomologieholomorphe de degre |λ| = rq + s(p− r) (remarquons que |µ| = 0).

Corollaire 24 (Clozel–Venkataramana). Soit Sh0H une sous-variete de Shimurade Sh0G avec Hnc = U(p1, q1) × · · · × U(pm, qm), pj , qj > 1, p1 + · · · + pm 6 pet q1 + · · · + qm 6 q. Soit (r, s) un couple d’entiers naturels avec r 6 p et s 6 q.Alors, l’application


∏

G(Q)

H∗(Sh0H)

de restriction virtuelle est injective en restriction a H (r,s),0(Sh0G) si et seule-ment si soit p1+ · · ·+pm = p, r = 0 et s 6 qi pour chaque i, soit q1+ · · ·+qm = q,s = 0 et r 6 pi pour chaque i.

Demonstration. Commencons par montrer que la condition est suffisante. Ici lediagramme gauche µ/λ est en fait le diagramme rectangulaire (p− r)(q − s). Unepartition α s’inscrit donc dans µ/λ si et seulement si l(α) 6 p− r et l(α∗) 6 q− s.

Quitte a reordonner les facteurs U(pi, qi) on peut supposer q1 6 · · · 6 qm. Ilest alors clair que la partition

ν0 = (qm, . . . , qm︸︷︷︸pm fois

, . . . , q1, . . . , q1︸︷︷︸p1 fois

)

est une image du diagramme gauche (p1 × q1) ∗ · · · ∗ (pm × qm). Or,

l(ν0) =

p− pm si qm = q,p sinon.

et

l(ν∗0 ) =

q si p1 + · · ·+ pm < p,q − q1 sinon.

70


Donc si p1 + · · ·+ pm = p, r = 0 et s 6 qi pour chaque i, la partition ν0 s’inscritdans µ/λ et, d’apres le theoreme 23, l’application de restriction virtuelle ResG

H estinjective en restriction a H (r,s),0(Sh0G) = Hλ,µ(Sh0G).

On demontre de meme que ResGH est injective en restriction a H (r,s),0(Sh0G)

lorsque q1 + · · ·+ qm = q, s = 0 et r 6 pi pour chaque i.Montrons maintenant que ces conditions suffisantes sont en fait necessaires. Il

nous faut pour cela d’abord comprendre plus precisemment l(ν) et l(ν∗) lorsque νest une image du diagramme gauche (p1 × q1) ∗ · · · ∗ (pm × qm). C’est l’objet dulemme suivant.

Lemme 25. Soient p1, . . . , pm, q1, . . . , qm des entiers > 1. Soit ν une partitionimage du diagramme gauche (p1 × q1) ∗ · · · ∗ (pm × qm). Alors :

(1) l(ν) 6 p1 + · · ·+ pm;(2) νp1+···+pm

6 min qi; et(3) si νp1+···+pm

6= 0 alors ν1 < q1 + · · ·+ qm.

Demonstration du lemme 25. Pour simplifier nous supposerons q1 6 · · · 6 qm. Ilsuffit alors de montrer que toute partition ν image du diagramme gauche (p1 ×q1) ∗ · · · ∗ (pm × qm) verifie :

• l(ν) 6 p1 + · · ·+ pm;• νp1+···+pm

6 q1; et• si νp1+···+pm

6= 0 alors ν1 < q1 + · · ·+ qm.

Puisque la longueur de la partition sous-jacente au produit de deux tableaux deYoung est toujours inferieure a la somme des longueurs des partitions sous-jacentesa ces deux tableaux, le premier point se demontre immediatement par recurrencesur m.

Montrons les deux derniers points egalement par recurrence sur m. Le casm = 1 est trivial. On passe facilement de m a m + 1 en remarquant que l’onpeut supposer pm+1 = 1 puisque le diagramme rectangulaire pm+1 × qm+1 estbien evidemment une image du diagramme gauche (1× qm+1) ∗ · · · ∗ (1× qm+1)︸︷︷︸

pm+1 fois

.

Il existe alors une partition α image du diagramme gauche (p1×q1)∗· · ·∗(pm×qm)telle que ν soit une image du diagramme gauche α∗(1×qm+1). Le diagramme ν estalors obtenu en ajoutant qm+1 cases au diagramme α sans jamais en mettre deuxdans la meme colonne. Or d’apres l’hypothese de recurrence, αp1+···+pm

6 q1et si αp1+···+pm

6= 0 alors α1 < q1 + · · · + qm. On ne peut donc pas rajouterplus de q1 cases a la (p1 + · · · + pm + 1)-ieme ligne (qui est vide) du diagrammeα. Donc νp1+···+pm+1 6 q1. Enfin, on montre de meme que si νp1+···+pm+1 6= 0alors ν1 < q1 + · · · + qm. Ce qui conclut la recurrence et la demonstration dulemme 25.

Continuons la demonstration du corollaire, d’apres [CV, Proposition 2.3] lecritere de Venkataramana (proposition 8) que l’on a utilise dans la demonstrationdu theoreme 23 est, dans le cas de la cohomologie holomorphe, egalement necessaireet equivalent a ce que E(G,H) ⊃ V (λ). D’apres la proposition 10 cette derniereassertion est equivalente au fait que λ s’inscrive dans le diagramme gauche (p1 ×

71

N. BERGERON

q1) ∗ · · · ∗ (pm × qm). Le lemme 25 applique tour a tour a λ et a son conjugueimplique alors que soit p1 + · · ·+pm = p, r = 0 et s 6 min qi soit q1 + · · ·+qm = q,s = 0 et r 6 min pi. Ce qui conlut la demonstration du corollaire.

Remarquons que notre demonstration du resultat de Clozel et Venkataramanaest locale alors que la demonstration de [CV, Proposition 3.A.10] utilise un argu-ment global.

Le lemme suivant est immediat. Conjugue au theoreme 23 il donne un critereplus simple a verifier pour l’injectivite de l’application de restriction virtuelle ResG

H

en restriction aux sous-espaces consideres dans le theoreme.

Lemme 26. Tout diagramme de Young obtenu en assemblant des blocs rectangu-laires pi × qi est une image du diagramme gauche (p1 × q1) ∗ · · · ∗ (pm × qm).

Remarquons neanmoins que l’on n’obtient pas toutes les images du diagrammegauche (p1× q1) ∗ · · · ∗ (pm× qm) de cette maniere. Par exemple, la partition (3, 1)est une image du diagramme gauche (1× 2) ∗ (1× 2).

La demonstration du theoreme 23 en remplacant la proposition 18 par la propo-sition 19 implique le theoreme suivant.

Theoreme 27. Soit Sh0H une sous-variete de Shimura de Sh0G avec Hnc =GSpp et p = q. Soient λ et µ deux partitions incluses dans p × p telles que lecouple (λ, µ) soit compatible. Alors, l’application


∏

G(G)

H∗(Sh0H)

de restriction virtuelle est injective en restriction a Hλ,µ(Sh0G) si la partitionν = (p− 1, p− 2, . . . , 1) de diagramme de Young

p− 1 cases

s’inscrit dans le diagramme gauche µ/λ.

Et comme au-dessus, on en deduit le corollaire suivant.

Corollaire 28 (Clozel–Venkataramana). Soit Sh0H une sous-variete de Shimurade Sh0G avec Hnc = GSpp et p = q. Soit (r, s) un couple d’entiers naturels avecr 6 p et s 6 q. Alors, l’application


∏

G(G)

H∗(Sh0H)

de restriction virtuelle est injective en restriction a H (r,s),0(Sh0G) si et seule-ment si r, s 6 1.

Remarquons enfin que d’apres le lemme 25 la partition (p, p− 1, . . . , 1) ne peutetre image d’un diagramme gauche (p1× q1) ∗ · · · ∗ (pm× qm) avec p1 + · · ·+ pm 6

72


p et q1 + · · · + qm 6 p. Dans le cas ou Hnc = O∗(2p), le critere d’injectivitede l’application de restriction virtuelle que l’on obtiendrait en suivant la mememethode serait vide, ou presque puisqu’il permet quand meme de retrouver leresultat suivant de Clozel et Venkataramana :

Soit Sh0H une sous-variete de Shimura de Sh0G avec Hnc = O∗(2p) et p = q.Alors, l’application


∏

G(Q)

H∗(Sh0H)

de restriction virtuelle est identiquement nulle en restriction a la cohomologieholomorphe de degre strictement positif.

Demontrons maintenant une reciproque partielle au theoreme 23, a savoir uncritere d’annulation de l’application de restriction.

Theoreme 29. Soient Sh0H une sous-variete de Shimura de Sh0G avec H =H1 × · · · ×Hm, Hnc

i = U(pi, qi), pi, qi > 1, p1 + · · · + pm 6 p et q1 + · · · + qm 6

q. Soient λ et µ deux partitions incluses dans p × q telles que le couple (λ, µ)soit compatible. Fixons pour chaque entier i = 1, . . . ,m, un couple compatible departitions (λi, µi) dans pi × qi. Supposons

cλλ1...λmcµµ1...µm

= 0.

(Autrement dit, supposons soit que λ n’est pas une image du diagramme gaucheλ1 ∗ · · · ∗ λm soit que µ n’est pas une image du diagramme gauche µ1 ∗ · · · ∗ µm.)

Alors, la projection de l’image de l’application de restriction

resGH : Hλ,µ(Sh0G) → H |λ|+|µ|(Sh0H)

dans la composante de Kunneth

Hλ1,µ1(Sh0H1)⊗ · · · ⊗Hλm,µm(Sh0Hm)

est nulle.

Demonstration. Remarquons que l’on peut supposer |λ1| + · · · + |λm| = |λ| et|µ1| + · · · + |µm| = |µ|. Supposons par exemple cλλ1...λm

= 0 (la demonstration

serait similaire dans le cas cµµ1...µm). D’apres la formule de Matsushima, si s est

une classe de cohomologie,

s ∈ HomK(V (λ, µ), C∞(G(Q)\G(A))),

ou, rappelons le, V (λ, µ) ⊂ ∧|λ| p+ ⊗∧|µ| p−.Notons p±H les espaces p± ∩ h.La restriction resG

H(s) de s a la sous-variete Sh0H est (representee par) uneforme differentielle fermee qui appartient a

HomK(∧|λ|

p+H ⊗

∧|µ|p−H , C

∞(H(Q)\H(A))),

73

N. BERGERON

et est obtenue par la formule

resGH(s)(ξ) = s(prV (λ,µ)(ξ)) (pour tout ξ ∈

∧|λ|p+

H ⊗∧|µ|

p−H)

ou prV (λ,µ) :∧|λ|

p+H ⊗∧|µ| p−H → V (λ, µ) est une projection K-equivariante.

La formule de Kunneth correspond a la decomposition de∧|λ|

p+H ⊗

∧|µ|p−H en :

∧|λ|p+

H⊗∧|µ|

p−H =⊕

k1 + · · ·+ km = |λ|l1 + · · ·+ lm = |µ|

(∧k1

p+H1⊗∧l1

p−H1)⊗· · ·⊗(

∧km

p+Hm

⊗∧lm

p−Hm

).

L’espace V (λ1, µ1) ⊗ · · · ⊗ V (λm, µm) est inclus dans∧|λ|

p+H ⊗ ∧|µ| p−H . Le

theoreme 29 decoulera de la demonstration de

prV (λ,µ)(V (λ1, µ1)⊗ · · · ⊗ V (λm, µm)) = 0. (38)

Mais pour chaque entier i = 1, . . . ,m, le sous-espace V (λi, µi) est inclus dans

V (λi)⊗ V (µi)∗ ⊂

∧|λi|p+

Hi⊗∧|µi|

p−Hi.

Soit F (λ1, . . . , λm) le K-module engendre par V (λ1) ⊗ · · · ⊗ V (λm) ⊂ ∧|λ|p+.

Pour demontrer (38), il nous suffit alors de demontrer que

HomK(V (λ), F (λ1, . . . , λm)) = 0. (39)

Puisque le K-module V (λ) et le KH -module V (λ1)⊗ · · · ⊗ V (λm) sont tous deuxirreductibles, (39) est equivalent a

HomKH(V (λ1)⊗ · · · ⊗ V (λm), V (λ)) = 0. (40)

Or lorsquem = 2 et d’apres [F, (20) p.122], vu comme (KH = KH1×KH2

)-module,V (λ) contient un sous-module irreductible isomorphe au module V (λ1)⊗V (λ2) siet seulement si cλλ1λ2

6= 0. On conclut alors la demonstration du theoreme 29 parrecurrence sur m et a l’aide du lemme 9.

Exemples et applications. Concluons cette section par l’etude de quelques famillesd’exemples. L’application de restriction virtuelle de la cohomologie de Sh0G versla cohomologie de ses sous-varietes de Shimura est simple a comprendre en petitdegre en raison du fait elementaire suivant.

Fait 30. Soit (λ, µ) un couple compatible de partitions incluses dans p× q. Sup-posons le diagramme gauche µ/λ = (p1×q1)∗· · ·∗(pm×qm). Supposons |λ|+ |µ| <p+ q−1. Alors l’entier m est necessairement 6 2 et on est dans l’un des cas suiv-ants :

74


• m = 0;• m = 1, p = 1 et (p1, q1) = (1, l), avec l entier strictement positif 6 q − 1;• m=1 et (p1, q1)=(p, q−l), avec l entier strictement positif 6 [p+ q − 2/p];• m = 1 et (p1, q1) = (p− 1, q);• m = 2, p = 2, (p1, q1) = (1, l) et (p2, q2) = (1, q − l), avec l entier stricte-

ment positif 6 q − 1; et• m = 2, p > 2 et, quitte a reordonner les rectangles, (p1, q1) = (p− 1, q− 1)

et (p2, q2) = (1, 1).

Montrons comment deduire des resultats precedents le theoreme 2. Rappelonsque celui-ci concerne les varietes de Shimura associees a de “vrais” groupes uni-taires. Soient donc K un corps de nombre totalement reel et G′ un groupe unitaireanisotrope sur K compact a toutes les places infinies sauf une ou il est isomorphea U(p, q) avec 1 6 p 6 q. Soit G le groupe algebrique sur Q obtenu a partir deG′ par restriction des scalaires de K a Q. La formule de Matsushima et la classi-fication de Vogan et Zuckerman impliquent que le k-ieme groupe de cohomologie,Hk(Sh0G), de Sh0G se decompose en la somme directe des espaces

Cν1⊗ · · · ⊗ Cνm

·Hλ,µ(Sh0G), (41)

ou (λ, µ) est un couple compatible de partitions ⊂ p × q, le diagramme gaucheµ/λ est reunion de diagrammes rectangulaires pi × qi, chaque νi est une partition⊂ pi × qi et k = |λ|+ |µ|+ 2(|ν1|+ · · ·+ |νm|).

On deduit facilement des theoremes 23 et 27 la demonstration du theoreme 2que nous reformulons, en conservant les notations ci-dessus, de la facon suivante.

Theoreme 2′. Supposons k < p+q−1. Il existe alors une sous-variete de Shimurapropre Sh0H ⊂ Sh0G telle que l’application de restriction virtuelle

ResGH : Hk(Sh0G) → Hk(Sh0H)

soit injective en restriction au sous-espace (41) de Hk(Sh0G).

Demonstration. Supposons d’abord k < p+ q− 1. Il s’agit de verifier le theoremedans chacun des cas du fait 30. Supposons par exemple m = 1 et (p1, q1) =(p − 1, q). Un espace du type (41) est associe a une partition ν1 ⊂ (p − 1) × qtelle que |λ| + |µ|+ 2|ν1| = k. Puisque k < p+ q − 1, la partition ν1 est de poids|ν1| < (p − 1)/2. La partition ν1 = (q, ν1) est donc contenue dans (p − 1) × q.Le lemme 13 et la demonstration du theoreme 23 impliquent alors que si Sh0Hest une sous-variete quelconque avec Hnc = U(p − 1, q), l’application ResG

H estinjective en restriction au sous-espace (41) de Hk(Sh0G).

Les autres cas du fait 30 se traite de meme, quitte a prendre Hnc = U(p, q− 1)(par exemple lorsque m = 1 et (p1, q1) = (p, q − l)).

Le resultat suivant montre qu’en un certain sens le theoreme 2 est optimal.

Proposition 31. Soient K un corps de nombre totalement reel et G′ un groupeunitaire anisotrope sur K compact a toutes les places infinies sauf une ou il estisomorphe a U(p, q) avec 2 6 p < q. Soit G le groupe algebrique sur Q obtenu

75

N. BERGERON

a partir de G′ par restriction des scalaires de K a Q. Supposons de plus que lecouple (p, q) n’est pas de la forme

((am

),

(a

m− 1

))avec 1 6 m 6 a.

Alors, il existe une classe de cohomologie (holomorphe) non triviale de degrep + q − 1 dont la restriction virtuelle a n’importe quelle sous-variete de ShimuraSh0H ⊂ Sh0G soit nulle.

Demonstration. Il suffit de considerer une classe de cohomolologie holomorphe nonnulle dans H(1,1),0(Sh0G), une telle classe existe d’apres un theoreme d’Anderson[A] (dans [L] Li generalise amplement ce theoreme8). Dans [S], Satake classifieles types possibles de sous-varietes de Shimura de Sh0G, sous les hypotheses dela proposition 31, une telle sous-variete est contenue dans l’un des types etudiesdans la section precedente, ou par Clozel et Venkataramana. D’apres les resultatsde Clozel et Venkataramana redemontres dans la section precedente, la restric-tion virtuelle de cette classe a n’importe quelle sous-variete de Shimura est doncnulle.

Remarquons maintenant qu’a partir d’une idee de Venkataramana, les theore-mes 23 et 29 permettent de demontrer le theoreme 3 dont nous rappelons l’enonceci-dessous.

Theoreme 3′. Soient K un corps de nombre totalement reel et G′ un “vrai”groupe unitaire anisotrope sur K compact a toutes les places infinies sauf une ouil est isomorphe a U(p, q) avec 3 6 2p+ 1 6 q. Soit G le groupe algebrique sur Q

obtenu a partir de G′ par restriction des scalaires de K a Q. Alors, toute classede Hodge dans H2pq−2p(Sh0G) est algebrique.

Demonstration. La dualite de Poincare pour les varietes compactes S(Γ), ou Γvarie parmi les sous-groupes de congruence, induit un accouplement non degenere〈 , 〉 entre les espaces H2p(S(Γ)) et H2(pq−p)(S(Γ)). Notons que cet accouple-ment est definit sur les classes rationnelles, c’est en fait un accouplement entreH2p(S(Γ),Q) et H2(pq−p)(S(Γ),Q). Puisque les varietes S(Γ) sont kaehleriennesla dualite de Poincare echange par ailleurs classes de bidegre (p, p) et classes debidegre (pq − p, pq − p).

Nous voulons montrer que l’ensemble Hpq−p,pq−p(S(Γ)) ∩ H2(pq−p)(S(Γ),Q)des classes de Hodge dans H2(pq−p)(S(Γ)) est engendre par l’ensemble des classes[V ] ∈ H2(pq−p)(S(Γ)), ou V est une sous-variete algebrique de dimension p dansS(Γ).

D’apres le theoreme de Lefschetz fort, la multiplication par la puissance (pq −2p)-ieme de la classe de Kaehler de S(Γ) realise un isomorphisme de Hp,p(S(Γ))vers Hpq−p,pq−p(S(Γ)); il permet de distinguer deux types de classes de coho-mologie dans Hpq−p,pq−p(S(Γ)) : les classes images de la cohomologie invariante

8Precisement, Li montre que Hλ,µ(Sh0G) est non trivial lorsque le diagramme gaucheµ/λ est rectangulaire de perimetre > p + q.

76


⊕ |ν|=pCη(Cν) (ou ν designe une partition) et les classes dans l’image de la coho-

mologie fortement primitive H (p×1),(p×(q−1))(S(Γ)). Ces deux espaces supplemen-taires sont definis sur Q comme image par la multiplication par une classe algebri-que d’espaces definis sur Q (c’est evident pour la cohomologie invariante et celadecoule du point (2) du theoreme 15 pour la partie fortement primitive).

Il est classique que la classe de Kaehler et les classes η(Cν) sont algebriques. Letheoreme est donc demontre pour les classes images de la cohomologie invariante.Il reste a le demontrer pour les classes appartenant a l’image de la cohomologiefortement primitive, les classes non invariantes.

Puisque le groupe G est un “vrai” groupe unitaire et que q > 2p, il existe unsous-groupe H ⊂ G tel que Sh0H ⊂ Sh0G avec H = H1 × · · · × Hp et chaqueHnc

i = U(1, 2). Les varietes V que nous allons considerer seront des produits decourbes C1 × · · · × Cp contenues dans des composantes irreductibles d’images deSH(Γ ∩ H) par des correspondances de Hecke, chaque Ci etant une courbe dansSHi

(Γ ∩ Hi). Nous cherchons donc a montrer que la reunion de l’ensemble desclasses de ces sous-varietes et de l’ensemble des classes invariantes η(Cν) engendrel’espace de toutes les classes de Hodge dans H2(pq−p)(S(Γ)).

Le dual de Poincare d’une classe de Hodge non invariante dans H2(pq−p)(S(Γ))etant une classe de Hodge non invariante dans H2p(S(Γ)) et l’accouplement 〈, 〉etant non degenere, il s’agit donc de montrer que si α est une classe de Hodgenon invariante (et non nulle) dans H2p(S(Γ)), il existe une sous-variete V de S(Γ)comme ci-dessus telle que 〈α, [V ]〉 6= 0.

C’est ce que nous demontrons dans la suite. Fixons donc une classe de Hodgeα ∈ H2p(S(Γ)) non invariante (et non nulle).

Commencons par remarquer que puisque q > 2p+1 le theoreme 23 (et le lemme26) implique(nt) que l’application de restriction virtuelle ResG

H est injective en

restriction a H(p×1),(p×(q−1)(Sh0G). A un niveau fini, ceci implique qu’il existeune composante irreductible de l’image de SH(Γ ∩H) par une correspondance deHecke a laquelle α se restreint en une classe de cohomologie non triviale.

Le theoreme 29 implique, par ailleurs, que la projection de l’image de α parl’application de restriction virtuelle ResG

H dans la composante de KunnethH2(Sh0H1) ⊗ · · · ⊗ H2(Sh0Hp) appartient a H1,1(Sh0H1) ⊗ · · · ⊗ H1,1(Sh0Hp).En reprenant les idees de la demonstration du theoreme 29, nous precisons ceresultat dans le lemme suivant.

Lemme 32. L’image de α par l’application de restriction virtuelle Res GH est con-

tenue dans la composante de Kunneth∏

G(Q)H1,1(Sh0H1)⊗· · ·⊗H1,1(Sh0Hp) de∏

G(Q)H2p(Sh0H).

Demonstration. Remarquons que chaque Hnci , pour i = 1, . . . , p, est isomorphe au

groupe U(2, 1). Une classe de cohomologie dans H∗(Sh0Hi) est donc de bidegre(0, 0), (1, 0), (0, 1), (2, 0), (1, 1), (0, 2), (2, 1), (1, 2) ou (2, 2). Compte tenu de laremarque precedent le lemme, il suffit de verifier que l’image de α dans une com-posante de Kunneth faisant intervenir H0,0(Sh0Hi), H

1,0(Sh0Hi), H0,1(Sh0Hi),

H2,1(Sh0Hi), H1,2(Sh0Hi) ou H2,2(Sh0Hi) est nulle.

Commencons par montrer que la projection de l’image de α dans une com-posante de Kunneth faisant intervenir H2,1(Sh0Hi) ou H2,2(Sh0Hi) est necessaire-

77

N. BERGERON

ment nulle. Remarquons pour cela que, d’apres la formule de Matsushima, la classeα appartient a l’espace

HomK(V ((p× 1), (p× (q − 1)), C∞(G(Q)\G(A)),

ou rappelons le, V ((p × 1), (p × (q − 1)) ⊂∧p

p+ ⊗∧p

p− est le sous-moduleirreductible engendre par le vecteur

v((p× 1))⊗ w((p × 1))∗ = (e1 ⊗ f∗1 ∧ · · · ∧ ep ⊗ f∗1 )⊗ (e∗p ⊗ fq ∧ · · · ∧ e∗1 ⊗ fq).

Le vecteur v((p × 1)) ∈ ∧pp+ (“composante holomorphe”) engendre lui le K-

module irreductible∧p

E ⊗ Sp(F ∗). Nous pouvons supposer le groupe H plongedans G de telle maniere que

p+Hj

= Vect(ej ⊗ f∗2j−1, ej ⊗ f∗2j) pour j = 1, . . . , p.

La droite∧2

p+Hi

est alors engendre par le vecteur ei ⊗ f∗2i−1 ∧ ei ⊗ f∗2i; celui-cin’intervient certainement pas dans

∧pE ⊗ Sp(F ∗). Puisqu’une composante de

Kunneth faisant intervenir H2,1(Sh0Hi) ou H2,2(Sh0Hi) correspond a un sous-

KH-module contenant un facteur∧2

p+Hi

, la demonstration du theoreme 29 im-plique que la projection de l’image de α dans une telle composante de Kunnethest necessairement nulle.

De la meme maniere, mais on regardant cette fois la composante anti-holomor-phe, on montre que la projection de l’image de α dans une composante de Kunnethfaisant intervenir H1,2(Sh0Hi) est necessairement nulle.

Notons enfin que puisque l’image de α appartient a Hp,p(Sh0H), sa projectiondans une composante de Kunneth faisant intervenir H0,0(Sh0Hi), H

1,0(Sh0Hi) ouH0,1(Sh0Hi) ne peut etre non nulle que si cette composante de Kunneth fait in-tervenir un H2,1(Sh0Hj), H

1,2(Sh0Hj) ou H2,2(Sh0Hj) pour un certain j; d’apresles paragraphes precedents la projection est egalement nulle dans ce cas. Et lelemme est demontre.

L’element α ∈ H2p(Sh0G) est une classe de Hodge rationnelle de type ((p ×1), (p× (q− 1))) son image dans chaque facteur H2p(Sh0H) de

∏G(Q)H

2p(Sh0H)

appartient a la composante de Kunneth H1,1(Sh0H1)⊗ · · · ⊗H1,1(Sh0Hp). Cetteimage est donc a priori un element rationnel de H2(Sh0H1) ⊗ · · · ⊗ H2(Sh0Hp)qui s’ecrit comme combinaison lineaire de produits β1 ⊗ · · · ⊗ βp de vecteurs βi ∈H1,1(Sh0Hi) (non necessairement rationnels). Mais [V4, Lemma 3.4] se generaliseimmediatement a un nombre quelconque (ici p) de facteurs en le lemme suivant.

Lemme 33. Soient E1, . . . , Ep p structures de Hodge rationnelles semi-simplepures de poids 2 et de type de Hodge positifs. Soit ξ ∈ (E1 ⊗ · · · ⊗ Ep)(Q) telque ξ soit combinaison lineaire a coefficients complexes de vecteurs de la formev1 ⊗ · · · ⊗ vp avec vi ∈ E1,1

i pour i = 1, . . . , p. Alors, ξ est combinaison lineaire

rationnelle de vecteurs de la forme v′1 ⊗ · · · ⊗ v′p avec v′i ∈ Ei(Q) ∩ E1,1i pour

i = 1, . . . , p.

Le lemme 33, applique aux Ei = H2(Sh0Hi), implique que la projection deα dans H2p(Sh0H) est en fait une combinaison lineaire rationnelle de vecteurs

78


β1 ⊗ · · · ⊗ βp avec chaque βi ∈ H1,1(Sh0Hi) rationnel. Au niveau fini S(Γ), cecisignifie qu’il existe une sous-variete algebrique, egale au produit S1×· · · ×Sp de pquotients compacts de la boule unite de C2, de S(Γ) a laquelle α se restreint en uneclasse de cohomologie non triviale combinaison rationnelle de tenseurs β1⊗· · ·⊗βp,ou chaque βi est une classe de bidegre (1, 1) dansH∗(Si). Le theoreme de Lefschetzsur les classes de bidegre (1, 1) implique alors que la restriction de α a S1×· · ·×Sp

est algebrique et donc qu’il existe un produit C1 × · · · × Cp de courbes connexesCi ⊂ Si tel que

〈α, [C1 × · · · × Cp]〉 =

∫

C1×···×Cp

α 6= 0.

Ce qui conclut la demonstration du theoreme.

Concluons cette partie en remarquant que le theoreme 23 implique immediate-ment, a l’aide des theoremes de Clozel contenus dans [Cl], de nouveaux resultatsd’annulation de la cohomologie de certaines varietes de Shimura unitaires. Letheoreme 4 annonce en introduction en est un exemple. Notons que le theoreme23 ne concerne a priori que les classes fortement primitives, neanmoins s’il existeune classe primitive non nulle en degre k, d’apres la formule de Matsushima ildoit necessairement exister une classe fortement primitive non trivial non nulle endegre 6 k.

6. Varietes de Shimura associees aux groupes GSp et O∗(2p)

Dans cette partie G est un groupe algebrique reductif connexe et anisotropesur Q avec Gnc = GSpp (resp. O∗(2p)). Les techniques des sections precedentess’etendent a ces groupes sans idees reellement nouvelles. Nous nous contentons dedecrire brievement les resultats concernant l’action de la cohomologie triviale surtout l’anneau de cohomologie dans chacun des cas Gnc = GSpp et Gnc = O∗(2p).

Nous dirons d’une partition λ qu’elle est symetrique si λ∗ = λ. Remarquonsque si (λ, µ) est un couple compatible de partitions symetriques dans p × p, lediagramme gauche µ/λ est symetrique et s’ecrit donc (a1 × b1) ∗ · · · ∗ (am × bm) ∗(p0 × p0) ∗ (bm × am) ∗ · · · ∗ (b1 × a1) pour un certain m > 1 et des entiers ai, bi etp0 > 1.

Le cas du groupe GSpp. Les couples compatibles (λ, µ) de partitions symetriques⊂ p × p parametrent l’ensemble des (g,K)-modules ayant des groupes de (g,K)-cohomologie non nuls.

Etant donne une partition symetrique λ ⊂ p × p, nous notons λ+ la partition(λ+

1 , . . . , λ+p ) ou pour i = 1, . . . , p,

λ+i = |j > i : (i, j) ∈ λ|,

= max(0, λi − i+ 1).

Si (λ, µ) est un couple compatible de partitions symetriques ⊂ p × p dont le di-agramme gauche associe µ/λ = (a1 × b1) ∗ · · · ∗ (am × bm) ∗ (p0 × p0) ∗ (bm ×am) ∗ · · · ∗ (b1 × a1), nous notons (µ/λ)+ le sous-diagramme gauche egal a (p0 ×p0) ∗ (bm × am) ∗ · · · ∗ (b1 × a1). Enfin, nous dirons qu’une partition symetrique ν

79

N. BERGERON

s’inscrit symetriquement dans un diagramme gauche symetrique µ/λ = (a1× b1) ∗· · · ∗ (am × bm) ∗ (p0 × p0) ∗ (bm × am) ∗ · · · ∗ (b1 × a1) s’il existe une image de lapartition ν+ ou de sa transposee (ν+)∗ dans le diagramme gauche (µ/λ)+ dont lesous-diagramme contenu dans p0 × p0 est egal a ν+

0 ou (ν+0 )∗ pour une certaine

partition symetrique ν0 ⊂ p0 × p0.Soit Γ un sous-groupe de congruence de G. L’analogue du theoreme 15 est le

theoreme suivant. Notons toujours

η : H∗(GSp) → H∗(S(Γ)) (42)

l’analogue de l’application (28) dans notre cadre, avec GSp le dual compact deXG egal a l’ensemble des espaces totalement isotropes (relativement a la formesymplectique z1 ∧ zp+1 + z2 ∧ zp+2 + · · ·+ zp ∧ z2p) de C2p. Il est bien connu que ηest injective. On montre par ailleurs que l’ensemble Cν : ν ⊂ p× p, ν∗ = ν estune base de la cohomologie,H∗(GSp), de GSp, ou les Cν sont obtenues comme dansla premiere partie ou, de maniere equivalente, comme image de Cν+ ∈ H∗(Gp,p)par l’application de restriction H∗(Gp,p) → H∗(GSp).

Theoreme 34. Soit Γ un sous-groupe de congruence dans G et soit η : H∗(GSp)→H∗(S(Γ)) l’application definie en (42). Fixons λ, µ et ν trois partitions symetri-ques incluses dans p× p telles que le couple (λ, µ) soit compatible. Alors :

(1) pour toute classe fortement primitive s ∈ Hλ,µ(S(Γ)), η(Cν) · s = 0 si etseulement si la partition ν ne s’inscrit pas symetriquement dans le dia-gramme gauche µ/λ; et

(2) si s ∈ Hλ,µ(S(Γ)) est une classe non nulle, les elements Cν · s, ou ν decritun ensemble de representants pour la relation ∼µ/λ restreinte a l’ensembledes partitions symetriques ⊂ p× p qui s’inscrivent symetriquement dans lediagramme gauche µ/λ, sont lineairement independants.

L’analogue du theoreme 23 n’est non vide que dans le cas de la cohomolo-gie holomorphe. Nos methodes ne permettent donc pas de demontrer de nou-veaux resultats, montrons neanmoins comment retrouver les resultats de Clozel etVenkataramana.

Le sous-espace Hλ,µ(Sh0G) apparaıt dans la cohomologie holomorphe si etseulement si µ = p × p. La partition λ est alors naturellement parametree parun entier r compris entre 0 et p tel que

λ = (p, . . . , p︸︷︷︸r fois

, r, . . . , r︸︷︷︸p−r fois

)

de diagramme de Young : r cases

︸︷︷︸r cases

(Ici p = 4.)

80


Dans ce casHλ,µ(Sh0G) = Hrp−(r(r−1)/2),0(Sh0G) et les espaces de cohomologieholomorphe sont triviaux dans tous les autres degres.

La demonstration du Corollaire 24 se traduit facilement pour obtenir le corol-laire suivant.

Corollaire 35 (Clozele et Venkataramana). Soit Sh0H une sous-variete de Shi-mura de Sh0G avec Hnc = GSpp1

×· · ·×GSppm, pj > 1 et p1 + · · ·+ pm 6 p. Soit

r un entiers naturel 6 p. Alors, l’application


∏

G(Q)

H∗(Sh0H)

de restriction virtuelle est injective en restriction a Hrp−(r(r−1)/2),0(Sh0G) si etseulement si p1 + · · ·+ pm = p et r = 1.

Le cas du groupe GOp. Etant donnee une partition symetrique λ ⊂ p × p, nousnotons λ− la partition (λ−1 , . . . , λ

−p ) ou pour i = 1, . . . , p,

λ−i = |j > i : (i, j) ∈ λ|,= max(0, λi − i).

Les couples de partitions (λ−, µ−) associes a des couples compatibles (λ, µ) departitions symetriques ⊂ p× p, parametrent l’ensemble des (g,K)-modules ayantdes groupes de (g,K)-cohomologie non nuls.

Nous dirons qu’une partition symetrique ν s’inscrit antisymetriquement dans undiagramme gauche symetrique µ/λ = (a1× b1) ∗ · · · ∗ (am × bm) ∗ (p0× p0) ∗ (bm×am)∗· · ·∗(b1×a1) s’il existe une image de la partition ν− ou de sa transposee (ν−)∗

dans le diagramme gauche (µ/λ)+ dont le sous-diagramme contenu dans p0 × p0

est egale a ν−0 ou (ν−0 )∗ pour une certaine partition symetrique ν0 ⊂ p0 × p0.Soit Γ un sous-groupe de congruence de G. L’analogue du theoreme 15 est le

theoreme suivant. Notons toujours

η : H∗(GOp) → H∗(S(Γ)), (43)

l’analogue de l’application (28) dans notre cadre, avec GOp le dual compact deXG egal a l’ensemble des espaces totalement isotropes (relativement a la formequadratique z1zp+1 + z2zp+2 + · · · + zpz2p) de C2p. Il est bien connu que η estinjective. On montre par ailleurs que l’ensemble Cν− : ν ⊂ p×p, ν∗ = ν est unebase de la cohomologie, H∗(GOp), de GSp, ou les Cν− sont obtenues comme dansla premiere partie ou, de maniere equivalente, comme image de Cν− ∈ H∗(Gp,p)par l’application de restriction H∗(Gp,p) → H∗(GOp).

Theoreme 36. Soit Γ un sous-groupe de congruence dans G et soit η :H∗(GOp)→H∗(S(Γ)) l’application definie en (43). Fixons λ, µ et ν trois partitions symetriqu-es incluses dans p× p telles que le couple (λ, µ) soit compatible. Alors :

(1) pour toute classe fortement primitive s ∈ Hλ−,µ−(S(Γ)), η(Cν−) · s = 0 siet seulement si la partition ν ne s’inscrit pas antisymetriquement dans lediagramme gauche µ/λ; et

81

N. BERGERON

(2) si s ∈ Hλ−,µ−(S(Γ)) est une classe non nulle, les elements Cν− · s, ouν decrit un ensemble de representants pour la relation ∼µ/λ restreinte al’ensemble des partitions symetriques ⊂ p× p qui s’inscrivent antisymetri-quement dans le diagramme gauche µ/λ, sont lineairement independants.

En specialisant ce theoreme au cas de la cohomologie holomorphe, on retrouveun theoreme de Parthasarathy [P2, Theorem 5.1].

Corollaire 37 (Parthasarathy). Supposons p > 4. Soient C1, C2, . . . , Cp−1 ∈H∗(S(Γ)) les classes de Chern du fibre tautologique au-dessus de S(Γ). Pourj = 3, 4, . . . , p notons

Qj = s ∈ H(p(p−1)/2)−(j(j−1)/2),0(S(Γ)) : Cj+1 · s = Cj+2 · s = · · · = 0.

Pour i = 0, 1, . . . , p− 1 notons

Q′i =s ∈ H(p(p−1)/2)−i,0(S(Γ)) : (C3 − C1 · C2) · s = 0

.

Alors,

H l,0(S(Γ)) =⊕

36j6p

Qj ⊕⊕

06i6p−1

Q′i.

Nos methodes n’apportent pas de resultats interessants concernant l’injectivite.Concluons cet article en remarquant que le sous-espace Hλ−,µ−(Sh0G) apparaıtdans la cohomologie holomorphe si et seulement si µ− = (p− 1, p− 2, . . . , 1). Ona alors deux cas possibles :

(1) La partition µ = p× p. La partition λ est alors naturellement parametreepar un entier r compris entre 0 et p tel que

λ = (p, . . . , p︸︷︷︸r fois

, r, . . . , r︸︷︷︸p−r fois

)


r cases

︸︷︷︸r cases

(Ici p = 4.)

Dans ce cas Hλ−,µ−(Sh0G) ⊂ Hrp−(r(r+1)/2),0(Sh0G).(2) La partition µ = (p, . . . , p︸︷︷︸

p−1 fois

, p − 1). La partition λ est alors naturellement

parametree par un entier s compris entre 0 et p− 1 tel que

λ = (p, . . . , p︸︷︷︸s fois

, p− 1, . . . , p− 1︸︷︷︸p−s−1 fois

, s)

82



s cases

︸︷︷︸s cases

(Ici p = 5.)

Dans ce cas Hλ−,µ−(Sh0G) ⊂ H((p−1)(p−2)/2)+s,0(Sh0G).

Toute la cohomologie holomorphe de Sh0G est obtenue ainsi et les seules redon-dances viennent du fait que :

• si r = p ou p − 1 dans le premier cas on obtient le meme sous-espace quesi s = p− 1 dans le deuxieme cas; et

• si r = p − 2 dans le premier cas on obtient le meme sous-espace que sis = p− 2 dans le deuxieme cas.

7. Appendice

Dans cet appendice nous esquissons une demonstration du theoreme 1, legere-ment differente de l’originale. Il n’est pas difficile de generaliser cette demonstrati-on de maniere a obtenir la proposition 8. Cette demonstration a en outre lapropriete d’etre quantifiable via les resultats de Clozel, Oh et Ullmo [COU] surl’equidistribution des points de Hecke.

Commencons par rappeler l’enoncer du theoreme 1.

Theoreme 1 (Venkataramana). Supposons que H ⊂ G soient deux groupesalgebriques reductifs connexes et anisotropes sur Q avec Gnc = U(n, 1) (resp.Gnc = O(2, n)) et Hnc = U(n− 1, 1) (resp. Hnc = O(2, n− 1)). Alors,


∏

g∈G(Q)

Hk(Sh0H)

est injective pour tout k 6 n− 1.

Esquisse de demonstration. Supposons par exemple Gnc = U(n, 1). Soit α ∈Hk(Sh0G) avec k 6 n − 1. Il existe alors Γ sous-groupe de congruence de G telque α ∈ Hk(S(Γ)). On veut montrer qu’il existe un element g ∈ G(Q) tel que laclasse de j∗g (α) dans Hk(SH(g)) soit non triviale. Commencons par remarquer queles images des applications jg , pour g ∈ G(Q), sont des composantes irreductiblesde translates Ta(SH) de la sous-variete SH = SH(Γ) par des operateurs de Hecke(cf. [COU]) Ta, a ∈ G(Q). Pour demontrer le theoreme 1 il suffit donc de demontrerque le cup-produit de α avec Ta([SH ]) est non nul pour un certain a ∈ G(Q), ou[SH ] designe la classe duale a SH dans H1,1(S(Γ)).

D’apres la theorie de Hodge la classe [SH ] ∈ H1,1(S(Γ)) definit un element de

HomK∞(∧1,1

p, C∞(Γ\G)).

83

N. BERGERON

Le K∞-module∧1,1

p =∧1

p+ ⊗∧1p− se decompose en la somme de deux K∞-

modules irreductibles τ0,0 et τ1,1 (voir par exemple [BW]), le module τ0,0 est lemodule trivial et le module τ1,1 correspond aux formes de bidegre (1, 1) primitives.La classe [SH ] se decompose donc en une composante primitive

[SH ]prim ∈ HomK∞(τ1,1, C

∞(Γ\G))

et un multiple par un scalaire λ non nul de la classe de Chern

c1(S(Γ)) ∈ HomK∞(τ0,0, C

∞(Γ\G)).

Si a ∈ G(Q), on a

Ta([SH ]) = Ta([SH ]prim) + λTa(c1(S(Γ)))

et l’operateur Ta agit sur HomK∞(∧1,1

p, C∞(Γ\G)) via son action naturelle surl’espace C∞(Γ\G). Le module τ0,0 etant trivial on a Ta(c1(S(Γ))) = c1(S(Γ)). Ildecoule par ailleurs de [COU] que l’on peut toujours choisir une suite (an) ⊂ G(Q)de telle maniere que les operateurs de Hecke (Tan

) s’equidistribuent lorsque n tendvers l’infini, autrement dit de telle maniere que si f ∈ C∞(Γ\G) est orthogonale al’espace des fonctions constantes (par exemple engendrant un K-type non trivial)la suite (Tan

f) tend vers 0 dans C∞(Γ\G) (pour la norme sup ou L2). On obtienten particulier que

Tan([SH ]prim) → 0

et donc queTan

([SH ]) → λc1(S(Γ))

lorsque n tend vers l’infini.Pour conclure, rappelons que le theoreme de Lefschetz fort implique que dans

une variete kaehlerienne compacte S de dimension complexe n, le cup-produit avecla classe de kaehler definit une application injective de Hk(S) vers Hk+2(S) pourtout entier k = 0, . . . , n− 1. Dans notre cas on a en particulier

c1(S(Γ)) ∧ α 6= 0 dans Hk+2(S(Γ))

et doncTan

([SH ]) ∧ α 6= 0 dans Hk+2(S(Γ))

pour n suffisamment grand; ce qui conclut la demonstration du theoreme 1.

References

[A] G. Anderson, Theta functions and holomorphic differential forms on compact

quotients of bounded symmetric domains, Duke Math. J. 50 (1983), 1137–1170.

[B] N. Bergeron, Premier nombre de Betti et spectre du laplacien de certaines

varietes hyperboliques, Enseign. Math. 46 (2000), 109–137.

[BV] N. Bergeron, T. N. Venkataramana, A note on the rational structure of the

cohomology ring of a Shimura variety, Note non publiee disponible sur http://

www.math.jussieu.fr/∼bergeron.

84


[BHC] A. Borel, Harish-Chandra, Arithmetic subgroups of algebraic groups, Ann. ofMath. (2) 75 (1962), 485–535.

[BW] A. Borel, N. Wallach, Continuous Cohomology, Discrete Subgroups, and Rep-

resentations of Reductive Groups, Princeton University Press, Princeton, NJ,1980.

[C] S. S. Chern, On a generalization of Kaehler geometry, in: Algebraic Geometry

and Topology, A symposium in honor of S. Lefschetz, Princeton University Press,Princeton, NJ, 1957, pp. 103–121.

[Cl] L. Clozel, On the cohomology of Kottwitz’s arithmetic varieties, Duke Math. J.72 (1993), 757–795.

[COU] L. Clozel, H. Oh, E. Ullmo, Hecke operators and equidistribution of Hecke points,Invent. Math. 144 (2001), 327-351.

[CV] L. Clozel, T. N. Venkataramana, Restriction of the holomorphic cohomology of a

Shimura variety to a smaller Shimura variety, Duke Math. J. 95 (1998), 51–106.

[D] P. Deligne, Travaux de Shimura, in: Seminaire Bourbaki, 23eme annee(1970/71), Lecture Notes in Mathematics, Vol. 244, Springer-Verlag, New York,1971, pp. 123–165.

[F] W. Fulton, Young Tableaux, Cambridge University Press, Cambridge, 1997.

[GGPS] I. M. Gel~fand, M. I. Graev, I. I. Ptecki-Xapiro, Teori pred-stavleni i avtomorfnye funkcii, Nauka, M., 1966. English transl.: I. M.Gelfand, M. I. Graev, I. I. Pyatetskii-Shapiro, Representation Theory and Auto-

morphic Functions, Academic Press, New York, 1969.

[HL] M. Harris, J. S. Li, A Lefschetz property for subvarieties of Shimura varieties,J. Algebraic Geom. 7 (1998), 77–122.

[HW] R. Hotta, N. R. Wallach, On Matsushima’s formula for the Betti numbers of a

locally symmetric space, Osaka J. Math. 12 (1975), 419–431.

[K] B. Kostant, Lie algebra cohomology and generalized Schubert cells, Ann. of Math.77 (1963), 72–144.

[Ku] S. Kumaresan, The canonical K-types of irreducible (g, K)-modules with nonzero

cohomology, Invent Math. 59 (1980), 1–11.

[L] J.-S. Li, Nonvanishing theorems for the cohomology of certain arithmetic quo-

tients, J. Reine Angew. Math. 428 (1992), 177–217.

[M] L. Manivel, Fonctions symetriques, polynomes de Schubert et lieux de degenere-

scence, Cours Specialises, Vol. 3, Societe Mathematique de France, Paris, 1998.

[Ma] Y. Matsushima, A formula for the Betti numbers of compact locally symmetric

Riemannian manifolds, J. Differential Geom. 1 (1967), 99–109.

[O] T. Oda, A note on the Albanese of an arithmetic quotient of the complex hyper-

ball, J. Fac. Sci. Univ. Tokyo Sect. IA Math. 28 (1981), 481–486.

[P1] R. Parthasarathy, Criteria for the unitarisability of some highest weight modules,Proc. Indian Acad. Sci. 89 (1980), 1–24.

[P2] R. Parthasarathy, Holomorphic forms in Γ\G/K and Chern classes, Topology21 (1982), 157–178.

[PR] V. Platonov, A. Rapinquk, Algebraiqeskie gruppy i teori qisel, Nauka,M., 1991. English transl.: V. Platonov, A. Rapinchuk, Algebraic Groups and

85

N. BERGERON

Number Theory, Pure and Applied Mathematics, Vol. 139, Academic Press,Boston, MA, 1994.

[R] J. Rohlfs, Projective limits of locally symmetric spaces and cohomology, J. ReineAngew. Math. 479 (1996),149–182.

[S] I. Satake, Holomorphic imbeddings of symmetric domains into Siegel space,Amer. J. Math. 87 (1965), 425–461.

[V] T. N. Venkataramana, Abelianness of Mumford–Tate groups associated to some

unitary groups, Compositio Math. 122 (2000), 223–242.

[V2] T. N. Venkataramana, Cohomology of compact locally symmetric spaces, Com-positio Math. 125 (2001), 221–253.

[V3] T. N. Venkataramana, Some remarks on cycle classes on Shimura varieties, J.Ramanujan Math. Soc. 16 (2001), 309–322.

[V4] T. N. Venkataramana, On cycles on compact locally symmetric varieties,Monatsh. Math. 135 (2002), 221–244.

[VZ] D. Vogan, G. Zuckerman, Unitary representations with cohomology, CompositioMath. 53 (1984), 51–90.

[Z] A. V. Zelevinsky, A generalization of the Littlewood–Richardson rule and the

Robinson–Schensted–Knuth correspondence, J. Algebra 69 (1981), 82–94.

86

RESTRICTION DE LA COHOMOLOGIE D'UNE VARI ET E DE SHIMURA A SES SOUS-VARI ET ES

Documents

Transcript of RESTRICTION DE LA COHOMOLOGIE D'UNE VARI ET E DE SHIMURA A SES SOUS-VARI ET ES