\documentclass[XUPS,XML,SOM,Unicode,francais,NoEqCountersInSection,ThmDefs]{cedram}
\OneNumberAllTheorems
\setcounter{tocdepth}{2}
\usepackage{../xups09}

\let\Min\min
\let\Max\max
\let\Inf\inf

\newcommand{\QQp}{\QQ_p}
\newcommand{\QQpx}{\QQp^\times}
\newcommand{\ZZp}{\ZZ_p}
\newcommand{\ZZpx}{\ZZ_p^\times}
\newcommand{\CCx}{\CC^\times}
\let\UU\bbU

\newcommand{\Fpx}{\Fp^\times}

\DeclareMathOperator{\card}{card}

\begin{document}
\frontmatter
\title{Les représentations lisses du\nobreakspace groupe\nobreakspace \texorpdfstring{$\mathrm{GL}(2,\mathbb{QQ}_p)$}{GLQp}}
\author[\initial{C}. \lastname{Blondel}]{\firstname{Corinne} \lastname{Blondel}}
\address{Institut de mathématiques de Jussieu (UMR CNRS 7586),
Université Paris-Diderot,
75205 Paris Cedex 13}
\email{corinne.blondel@imj-prg.fr}

\thanks{Journées X-UPS 2009. Les représentations linéaires et le grand théorème de Fermat. Éditions de l'École polytechnique, 2009}

\maketitle
\tableofcontents

\mainmatter

\section{Représentations lisses}

\subsection{Pourquoi lisses\texorpdfstring{?}{n}}

Plusieurs textes de ce volume ont déjà abordé la notion de représentation. Rappelons qu'une représentation d'un groupe~$G$ est une action de ce groupe sur un espace vectoriel par des morphismes d'espace vectoriel. On se limite ici aux représentations complexes: elles agissent sur des espaces vectoriels complexes. Soit donc $(\rho, V)$ une telle représentation de notre groupe $G = \GLQp$; on a un morphisme de groupes:
$$
\rho: \ G \to \GL_\CC(V).
$$
L'ajout de conditions sur l'espace $V$ ou le morphisme $\rho$ permet de définir différentes catégories de représentations du groupe, utilisées dans différents contextes. Dans un contexte d'analyse harmonique, comme dans le cas de $\GLR$ (voir le texte de Martin Andler, ce volume), on définira les représentations \emph{unitaires} de~$G$: l'espace vectoriel $V$ est alors un espace de Hilbert sur lequel~$G$ agit par des opérateurs unitaires tels que l'application $(g,v) \mapsto \rho(g)v$ de $G \times V $ dans $V$ soit continue. Dans le contexte des représentations automorphes, ce sont les représentations \emph{lisses} de~$G$ qui interviennent (voir le deuxième texte de Guy Henniart, ce volume); il s'agit d'une notion beaucoup plus algébrique, qui revient à demander que l'application $(g,v) \mapsto \rho(g)v$ de $G \times V $ dans $V$ soit continue lorsqu'on munit $V$ de la topologie \emph{discrète}.

\begin{definition*}
La représentation $(\rho, V)$ de~$G$ est lisse si pour tout $v\in V$, le fixateur $G_v = \{g \in G \mid \rho(g)(v) = v \}$ de $v$ dans~$G$ est un sous-groupe ouvert de~$G$.
\end{definition*}

Cette notion est fortement liée à celle de représentation unitaire tout en étant plus générale: on peut montrer que le sous-espace des vecteurs lisses (c'est-à-dire de fixateur ouvert) dans une représentation unitaire irréductible $(\rho, V)$ de~$G$ définit une représentation lisse irréductible de~$G$ et que ce processus induit une bijection entre classes d'isomorphisme de représentations unitaires irréductibles de~$G$ et classes d'isomorphisme de représentations lisses irréductibles préunitaires de~$G$.

\begin{exemples*}\mbox{}
\begin{enumerate}
\item\label{exem:1}
Soit $\chi $ un quasi-caractère de $\QQpx$. L'application $g \mapsto \chi(\det g)$ de~$G$ dans $\CCx$ est une représentation lisse de dimension~$1$ de~$G$.

\item\label{exem:2}
Notons $\mathcal C_c^\infty (G)$ l'espace vectoriel des fonctions localement constantes à support compact de~$G$ dans $\CC$. L'action de~$G$ par~trans\-la\-tion à droite sur cet espace est une représentation lisse, la repré\-sen\-tation régulière droite (lisse) de~$G$.
\end{enumerate}
\end{exemples*}

\subsection{Représentations lisses irréductibles} Bien entendu la notion de représentation lisse est pertinente pour tout groupe localement compact totalement discontinu; elle vaut en particulier pour les sous-groupes fermés de~$G$. On définit comme dans les textes précédents de Guy Henniart et de Martin Andler (ce volume) les notions de morphisme de représentations, d'équivalence de représentations, de sous-représentation, de représentation quotient, de représentation irréductible.

Les représentations lisses irréductibles de $\GLQp$ ne sont pas de dimension finie en général; elles sont toutefois \emph{de dimension dénombrable}. En effet, soit $(\pi, V)$ une telle représentation, soit $v$ un vecteur non nul de $V$ et~$H$ un sous-groupe ouvert compact de~$G$ fixant $v$. Le quotient $G/H$ est dénombrable (texte précédent) et l'ensemble dénombrable $\{\pi(g) v \mid g \in G/H \}$ engendre l'espace $V$. Cette propriété de dénombrabilité, jointe au fait que $\CC$ est algébriquement clos, est cruciale pour établir le lemme de Schur dans notre contexte:

\begin{enonce*}{Lemme de Schur}
Soit $(\pi, V)$ une représentation lisse irréductible de~$G$. Tout endomorphisme de $(\pi, V)$ est une homothétie.
\end{enonce*}

Ce fait fondamental permet en particulier, comme dans le cas des groupes finis, de définir le caractère central $\omega_\pi$ d'une représentation lisse irréductible $(\pi, V)$ de~$G$: c'est le quasi-caractère du centre $Z$ de~$G$, identifié à $\QQpx$, par lequel ce centre opère sur $V$: $\pi(x) (v) = \omega_\pi (x) v$ pour $v \in V$, $x \in \QQpx$.

Travailler avec des représentations de dimension infinie empêche de parler de caractères au sens des groupes finis -- d'où peut-être une différence de vocabulaire assez regrettable. Cependant une bonne notion de trace peut être définie pour les représentations \emph{admissibles} de~$G$: $(\pi, V)$ est admissible si pour tout sous-groupe ouvert compact~$H$ de~$G$, l'espace $V^H$ des vecteurs fixes par~$H$ est de dimension finie. En fait, toute représentation lisse irréductible de~$G$ est admissible; c'est un résultat profond de la théorie.

\subsection{Représentations lisses de dimension finie}

Commençons par deux remarques importantes.

\begin{enumerate}
\item
Soit~$H$ un sous-groupe ouvert de~$G$ contenant le centre $Z$ de~$G$ et tel que $H/Z$ soit compact. Toute représentation lisse irréductible $(\pi, V)$ de~$H$ est de dimension finie. (C'est la même démonstration que plus haut pour la dénombrabilité.)

On a bien sûr le même énoncé si~$H$ est un sous-groupe ouvert compact de~$G$.

\smallskip

\item
Soit~$N$ le sous-groupe unipotent supérieur de~$G$. Toute représentation lisse irréductible $(\pi, V)$ de~$N$ est de dimension~$1$.

\noindent Le lemme de Schur nous dit en effet que pour tout $n \in N$, l'endomorphisme $\pi(n): V \to V$ de la représentation $(\pi, V)$ est scalaire, donc de la forme $v \mapsto \chi(n) v $ où $\chi$ est un quasi-caractère de~$N$.
\end{enumerate}

Il n'en est certes pas de même pour~$G$; examinons cependant ses représentations de dimension finie.

\begin{proposition*}
Les représentations lisses irréductibles de dimension finie de $\GLQp$ sont de dimension~$1$ et de la forme $\chi\circ \det$ où $\chi$ est un quasi-caractère de $\QQpx $.
\end{proposition*}

\begin{proof}
Soit $(\pi, V)$ une représentation lisse irréductible de dimension finie de $\GLQp$. Montrons tout d'abord qu'\emph{il existe $v\ne\nobreak 0$ dans $ V$ tel que $\pi(N)$ fixe $v$.}

La restriction de $\pi$ à~$N$ est une représentation lisse de dimension finie de~$N$; elle contient une représentation irréductible de~$N$, c'est-à-dire une droite $\CC v$ sur laquelle~$N$ agit par $\pi(\bspm 1 & x \cr 0 & 1\espm) v = \psi(x)v$, où $\psi$ est un caractère de $\QQp$. L'action de~$N$ sur $\pi(\bspm a & 0 \cr 0 & 1\espm) v$ est alors donnée par le caractère $x \mapsto \psi(a^{-1}x)$ ($a \in \QQpx$). Si $\psi$ était non trivial on obtiendrait ainsi une infinité de caractères distincts de~$N$ dans $V$, c'est impossible.

Le vecteur $v$ est fixé par un sous-groupe ouvert~$H$ de~$G$, et par~$N$. Comme~$H$ contient un sous-groupe de la forme $\bspm 1 & 0 \cr p^i \ZZp & 1\espm$ pour $i$ assez grand, la formule du texte précédent
$$\arraycolsep4pt
\bpm 1 & 0 \cr b & 1\epm = \bpm 1 & b^{-1} \cr 0 & \! 1\epm \bpm 0 & 1 \cr 1 & 0\epm \bpm b & 0 \cr 0 & - b^{-1}\epm \bpm 1 & b^{-1} \cr 0 & \! 1\epm.
$$
montre que le fixateur de $v$ contient $\bspm 0 & - b^{-1} \cr b & 0\espm$ pour $b \in p^i\ZZp $, $b \ne 0$, donc le sous-groupe unipotent inférieur $\bspm 1 & 0 \cr \QQp & 1\espm$ (conjugué de~$N$ par un tel élément) et finalement tout le sous-groupe $\SLQp$. Finalement, le sous-espace $V^N$ des vecteurs fixés par~$N$ est aussi fixé par $\SLQp$ et il est stable par $\GLQp$: c'est $V$ entier. La représentation initiale passe donc au quotient en une représentation irréductible de $\GLQp/\SLQp $ d'où l'assertion via la suite exacte
\[
1 \to \SLQp \to \GLQp \To{\det} \QQpx \to 1. \qedhere
\]
\end{proof}

Soit $(\pi, V)$ une représentation lisse de~$G$; alors $x \mapsto \chi\circ \det (x) \pi(x)$ détermine une autre représentation de~$G$ dans $V$ que l'on notera simplement $\chi \pi$.

\subsection{Complément: la mesure de Haar}\label{Haar}

Comme tout groupe localement compact, le groupe $\GLQp$ possède une mesure de Haar à gauche (voir le texte de Martin Andler, \cite[\S3.c]{Andler}): il existe une forme linéaire positive sur l'espace $\mathcal C^\infty_c (G)$ des fonctions localement constantes à support compact de~$G$ dans $\CC$, notée $f \mapsto \int_G f(x) dx $, qui est invariante par translation à gauche:
$$
\forall f \in \mathcal C^\infty_c (G), \ \forall g \in G, \quad \int_G f(x) dx = \int_G f(g x) dx.
$$
Une telle mesure est unique à constante positive près. Elle est également invariante par translation à droite: le groupe $\GLQp$ est \emph{unimodulaire}.

Cette mesure peut être décrite explicitement. On commence par fixer une mesure de Haar $d^+$ du groupe additif $\QQp$. L'espace $\mathcal C^\infty_c (\QQp)$ étant engendré par les translatées des fonctions caractéristiques des boules $p^i \, \ZZp$, $i \in \ZZ$, il suffit de fixer le volume de $\ZZp$, soit $a > 0$: le volume de $p^i \, \ZZp$ est alors $p^{-i}a$ et, vu l'invariance par translation, cela permet d'intégrer toute fonction localement constante à support compact sur $\QQp$. Une mesure de Haar du groupe additif $M(2,\QQp)$ s'obtient par produit de quatre copies de $d^+$. Notons-la encore $d^+$. Comme dans le cas de $\RR$ traité par Martin Andler, on obtient une mesure de Haar sur~$G$ en posant, pour $f \in \mathcal C^\infty_c (G)$:
$$
\int_G f(x) dx = \int_{M(2,\QQp)} f(x) |\det x|^{-2} d^+x,
$$
où la fonction considérée dans le membre de droite est le prolongement à $M(2,\QQp)$, par $0$ hors de $ G$, de la fonction $x \mapsto f(x) |\det x|^{-2}$ sur~$G$. Cette fonction appartient à $\mathcal C^\infty_c (M(2,\QQp))$.

Le choix d'une mesure de Haar sur~$G$ permet de munir l'espace $\mathcal C^\infty_c (G)$ d'une structure d'algèbre, via le produit dit \emph{de convolution} (défini également dans le texte de Martin Andler):
$$
f, h \in \mathcal C^\infty_c (G): \qquad f*h (x) = \int_{G} f(xg) \, h(g^{-1}) dg.
$$

\`A une représentation $(\pi,V)$ de~$G$ est alors associée une représentation notée encore $\pi$ de l'algèbre $\mathcal C^\infty_c (G)$ qui opère de la manière suivante:
$$
\pi(f) (v) = \int_G f(g) \pi(g) (v) dg \quad (f \in \mathcal C^\infty_c (G),\; v \in V).
$$

Remarquons que les intégrales considérées, pour des fonctions loca\-lement constantes à support compact sur~$G$ et des représentations lisses de~$G$, se ramènent toujours à des sommes finies. Soit en effet $f \in \mathcal C^\infty_c (G)$ et soit~$H$ un sous-groupe ouvert compact de~$G$ fixant $f $ par translations à droite. Le support de $f $ est réunion d'un nombre fini de classes à droite modulo $H $ sur lesquelles $f$ est constante, de sorte que la fonction peut s'écrire $f = \sum_{u \in G/H} f(u) 1_u $, la somme n'ayant qu'un nombre fini de termes non nuls. La fonction caractéristique $1_u$ d'une classe modulo~$H$ a pour mesure le volume de~$H$ d'où
\[
\int_G f(x) dx = \Big(\int_H dx\Big) \sum_{u \in G/H} f(u).
\]
Pour calculer de cette façon $\pi(f) (v)$ ci-dessus, on choisit~$H$ contenu dans le fixateur de $v$, ce qui est loisible, et on obtient:
\[
\pi(f)(v) =\Big(\int_H dx\Big) \sum_{u \in G/H} f(u) \pi(u) v.
\]


\section{Construction de représentations lisses}

Le procédé le plus courant pour \og représenter\fg un groupe est de le faire agir par translation sur un espace de fonctions (voir la représentation régulière droite de l'exemple \eqref{exem:2} ci-dessus). Dans les deux paragraphes suivants nous allons décrire des procédés de construction de représentations lisses de~$G$ qui peuvent, sous certaines conditions, produire des représentations irréductibles; nous verrons d'ailleurs plus tard que toutes les représentations lisses irréductibles de~$G$ sont obtenues par l'un ou l'autre de ces procédés. Il s'agit de variantes du procédé d'induction déjà décrit pour les représentations des groupes finis (voir le texte de Guy Henniart \cite{Henniart}): l'induction compacte et l'induction parabolique, correspondant à des situations bien distinctes.

\subsection{Induction parabolique} La définition générale de l'induction \emph{lisse} est la suivante. On part d'un sous-groupe \emph{fermé}, donc localement compact totalement discontinu,~$H$ de~$G$ et d'une représentation lisse $(\rho, W)$ de~$H$. La représentation induite $\Ind_H^G \rho$ est la représentation de~$G$ par translations à droite dans l'espace $\Ind_H^G W$ des fonctions $ f $ de $ G$ dans $ W $ vérifiant les conditions suivantes:
\begin{itemize}
\item
il existe un sous-groupe ouvert $X_f$ de~$G$ tel que $f(gx) = f(g)$ pour tous $ g \in G$ et $ x \in X_f$;
\item
$\forall g \in G, \ \forall h \in H, \ f(hg) = \rho(h) f(g)$.
\end{itemize} La représentation de~$G$ obtenue est lisse grâce à la première condition.

\begin{enonce*}[remark]{Exemple 1}
Soit $\psi$ un caractère non trivial de $\QQp$ et notons encore $\psi$ le caractère correspondant de~$N$: $ \bspm 1 & x \cr 0 & 1\espm \mapsto \psi(x) $. La représentation $\Ind_N^G \psi$ joue un rôle très particulier: elle contient toutes les représentations lisses irréductibles de dimension infinie de~$G$ !

L'\emph{induction parabolique} est l'induction lisse à partir d'un sous-groupe parabolique de~$G$. Ici les seuls sous-groupes paraboliques de~$G$ distincts de~$G$ sont les sous-groupes de Borel, c'est-à-dire les conjugués de $B = \bspm \QQpx & \QQp \cr 0 & \QQpx\espm$; dans $\GL(n, \QQp)$ les sous-groupes de Borel sont les conjugués du sous-groupe des matrices triangulaires supérieures et les sous-groupes paraboliques sont les conjugués des sous-groupes de matrices triangulaires par blocs supérieures.
\end{enonce*}

\begin{enonce*}[remark]{Exemple 2}
Induisons le caractère trivial de~$B$; on obtient la représentation $\Ind_B^G 1$. Elle contient une droite $D$ stable par~$G$, de base la fonction constante égale à~$1$ sur~$G$, sur laquelle~$G$ opère par le caractère trivial. Cette représentation de dimension~$1$ n'a pas de supplémentaire stable dans $\Ind_B^G 1$, mais on a une suite exacte:
$$
0 \to D \to \Ind_B^G \CC \to W \to 0
$$
de représentations de~$G$, c'est-à-dire que l'action de~$G$ sur $ \Ind_B^G \CC $, qui stabilise $D$, passe au quotient en une action de~$G$ sur l'espace quotient $\Ind_B^G \CC / D = W$. On montre que la représentation de~$G$ dans~$W$ ainsi obtenue est irréductible; elle est appelée la représentation de Steinberg de~$G$ et notée $\St_G$.

La seule sous-représentation propre de $\Ind_B^G 1$ est la représentation triviale: c'est une représentation \emph{indécomposable}, c'est-à-dire qu'elle n'est pas somme directe de deux sous-représentations propres, sans être irréductible. C'est une différence essentielle avec les représentations des groupes finis dans des espaces vectoriels complexes, pour lesquelles une telle situation ne peut pas se produire.
\end{enonce*}

\subsection{Induction compacte}\label{subsec:indcomp}
L'induction compacte est la variante de l'induction lisse dans laquelle on se restreint au sous-espace de $\Ind_H^G W$ formé des fonctions dont le support est compact modulo~$H$. Elle est particulièrement intéressante lorsque le sous-groupe~$H$ est ouvert et on l'utilise la plupart du temps sous la forme ci-dessous.

Soit~$H$ un sous-groupe ouvert de~$G$ et $(\rho, W)$ une représentation lisse de dimension finie de~$H$; son noyau $\ker(\rho)$ est un sous-groupe ouvert, intersection des fixateurs des éléments d'une base. La représentation induite compacte de $\rho$ à~$G$ est la représentation $\cInd_H^G \rho$ de~$G$ par translations à droite dans l'espace $\cInd_H^G W$ des fonctions $ f $ de $ G$ dans $ W $ dont le support est compact modulo~$H$ -- ce qui signifie que $f$ est nulle en dehors d'un nombre fini de classes à gauche de~$H$ -- et qui vérifient:
$$
\forall x \in G, \ \forall h \in H, \quad f(hx) = \rho(h) f(x).
$$
C'est une représentation lisse de~$G$: le fixateur d'une fonction $f$ contient l'intersection des conjugués $x^{-1} \ker (\rho) x$ pour $x$ appartenant au support de $f$, qui est une intersection finie d'ouverts.

Ce procédé fournit \og beaucoup\fg de représentations de~$G$; on en reparlera plus loin.

\begin{exemples*}\mbox{}
\begin{enumerate}
\item
On a défini dans le texte précédent les sous-groupes
\[
K = \GLZp\quad\text{et}\quad K_1 = I + p M(2, \ZZp)
\]
de~$G$. Partons alors de la suite exacte, obtenue par réduction modulo~$p$ des coefficients:
$$
1 \to K_1 \to K \To{\mathfrak m}\GL(2, \Fp) \to 1.
$$
Soit $\rho$ une représentation de $\GL(2, \Fp)$ et $\tilde\rho$ son \emph{inflation} à~$K$, c'est-à-dire la représentation de~$K$ définie par $\tilde \rho(x)= \rho(\mathfrak m(x))$ pour $x \in K$. Soit $\xi \in \CCx$ arbitraire; on définit par $ p^i x \mapsto \xi^i \tilde\rho(x)$, $x \in K$, $i \in \ZZ$, une représentation $\rho_\xi$ de $p^\ZZ K = ZK$, sous-groupe ouvert et compact modulo $Z$. On peut montrer que la représentation $\cInd_{ZK}^G \rho_\xi$ est irréductible si et seulement si la représentation $\rho$ est irréductible et cuspidale.

\item
Partons du sous-groupe suivant de~$G$:
$$
I_1 = \{\bspm a & b \cr c & d\espm\mid a, d \in 1+p \ZZp,\, b \in \ZZp,\, c \in p \ZZp \} = \bpm 1 \! + \! p \, \ZZp & \ZZp \cr p \, \ZZp & 1 \! + \! p \, \ZZp\epm.
$$
Soit $\psi$ un caractère de $\ZZp$ trivial sur $p\, \ZZp$. On vérifie facilement que
$$
\Psi: \bspm a & b \cr c & d\espm \mto\psi(b + p^{-1} c)
$$
est un caractère, c'est-à-dire une représentation de dimension~$1$, de~$I_1$. Comme $\omega = \bspm 0 & 1 \cr p & 0\espm $ normalise $I_1$ et vérifie $\Psi(\omega^{-1} x \omega)= \Psi(x)$ pour $x \in I_1$, le produit $\omega^\ZZ I_1$ est un sous-groupe de~$G$ auquel on peut prolonger le caractère ci-dessus en choisissant arbitrairement l'image $\xi \in \CCx$ de $\omega$. Complétons avec un caractère $\chi: \mu_{p-1} \to \CCx$ arbitraire. On définit alors un caractère $\Psi_{\xi, \chi}$ du sous-groupe $ H= \omega^\ZZ \mu_{p-1} I_1 $ en posant $\Psi_{\xi, \chi} (\omega^i u x) = \xi^i \, \chi(u) \Psi(x)$ pour $x \in I_1$, $u \in \mu_{p-1}$, $i \in \ZZ$.

On peut montrer que la représentation induite compacte de ce caractère à~$G$ est irréductible si et seulement si $\psi$ est non trivial sur~$\ZZp$.
\end{enumerate}
\end{exemples*}

\subsection{Réciprocité de Frobenius}

Chacune des inductions définies ci-dessus vérifie une propriété dite de \emph{réciprocité de Frobenius}. Rappelons que cette propriété pouvait s'exprimer de deux façons distinctes pour les représentations des groupes finis. L'une des deux versions se généralise à l'induction lisse et l'autre à l'induction compacte à partir d'un sous-groupe ouvert. Soit donc $P$ un sous-groupe fermé de~$G$,~$H$ un sous-groupe ouvert de~$G$, $\rho$ une représentation lisse de $P$, $\kappa$ une représentation lisse de dimension finie de~$H$ et $\pi $ une représentation lisse de~$G$.

On a des isomorphismes canoniques:
$$
\aligned \Hom_G (\pi, \Ind^G_P \rho) &\simeq \Hom_P(\pi_{|P}, \rho), \\ \Hom_G (\cInd^G_H \kappa, \pi) &\simeq \Hom_H(\kappa, \pi_{|H}).
\endaligned
$$

\section{Classification des représentations lisses irréductibles}

\subsection{Principe de la classification}

Rappelons que les représentations irréductibles de $\GL(2,\Fp)$ ont été réparties en deux sous-ensembles: les séries principales et les cuspidales, ces dernières étant caractérisées par le fait qu'elles n'ont pas de vecteur non nul fixé par $ \bspm 1 & \Fp \cr 0 & 1\espm$. Ce principe va être adapté pour obtenir une classification comparable des représentations lisses irréductibles de~$G$; il \emph{doit} être adapté puisqu'on a vu plus haut qu'une représentation lisse irréductible de~$G$ ayant un vecteur non nul fixé par~$N$ était de dimension~$1$.

Soit donc $(\pi, V)$ une représentation lisse de~$G$. Au lieu des invariants par~$N$ examinons ses \emph{co-invariants} par~$N$: il s'agit du quotient~$V_N$ de $V$ par le sous-espace vectoriel $V(N)$ engendré par les vecteurs de la forme $\pi(n)v -v$, pour $v \in V$ et $n \in N$, autrement dit du plus grand quotient de $V$, vu comme représentation de~$N$, sur lequel~$N$ opère trivialement.

Le sous-espace $V(N)$ est stable par le normalisateur $B= TN $ de~$N$. En effet, pour $b \in B$, $n \in N$ et $v \in V$, on a:
$$\pi(b)\left(\pi(n)v -v\right) = \pi(bnb^{-1}) \pi(b)v - \pi(b)v.$$
Le quotient $V_N$ définit donc une représentation de~$B$, qui est lisse et triviale sur~$N$ puisque l'image de $ \pi(n)v -v$ y est nulle. On considérera donc $V_N$ comme une représentation de~$T$, notée $\pi_N$.

Soit $\rho$ une représentation lisse de~$T$ et notons encore $\rho$ son inflation à~$B$: c'est une représentation de~$B$ triviale sur~$N$. La loi de réciprocité de Frobenius pour les induites lisses nous dit que $ \Hom_G (\pi, \Ind^G_B \rho) $ est isomorphe à $ \Hom_B(\pi_{|B}, \rho)$. Puisque $\rho$ est triviale sur~$N$ tout homomorphisme appartenant à $\Hom_B(\pi_{|B}, \rho)$ factorise en fait en un morphisme de $V_N$ dans l'espace de $\rho$ qui le détermine entièrement, d'où
$$
\Hom_G (\pi, \Ind^G_B \rho) \simeq \Hom_T(\pi_N, \rho),$$
qui est la version pertinente de la réciprocité de Frobenius pour les induites paraboliques.

Cette propriété est l'ingrédient essentiel pour établir que, si $\pi$ est irréductible, alors $\pi_N $ est non nulle si et seulement si $\pi$ est une sous-représentation d'une induite parabolique $\Ind^G_B \rho $. On en déduit une première classification qui répartit les représentations lisses irréductibles de~$G$ en deux sous-ensembles disjoints:
\begin{enumerate}
\item
les représentations \emph{de la série principale}, dont l'espace des co-invariants par~$N$ est non nul;
\item
les représentations \emph{cuspidales}, dont l'espace des co-invariants par~$N$ est nul.
\end{enumerate}

\subsection{Série principale} Comme on vient de le voir, classifier les représentations de la série principale, à équivalence près, revient à étudier la réductibilité des induites $ \Ind^G_B \rho $ où $\rho$ est une représentation de~$B$ triviale sur~$N$ et $\rho_{|T}$ est une représentation lisse irréductible de~$T$. Comme $T = \bspm \QQpx & 0 \cr 0 & \QQpx\espm$ est isomorphe à $\QQpx \times \QQpx$, ses représentations irréductibles sont de la forme
$$
\chi_1 \otimes \chi_2 : \bspm t_1 & 0 \cr 0 & t_2\espm \mto \chi_1(t_1) \ \chi_2 (t_2), \quad t_1, t_2 \in \QQpx,
$$
où $\chi_1$ et $\chi_2$ sont des quasi-caractères de $\QQpx$. On notera dans la suite $I(\chi_1, \chi_2)= \Ind^G_B \chi_1 \otimes \chi_2$, où il faut comprendre que $\chi_1 \otimes \chi_2$ est l'inflation à~$B$ du caractère ci-dessus.

Dans les limites de cet exposé nous ne pouvons pas introduire les outils permettant d'étudier ces représentations: il faut nous contenter du résultat.

\begin{theoreme*}\mbox{}
\begin{enumerate}
\item
Les représentations $I(\chi_1, \chi_2)$ sont irréductibles, excepté si $\chi_1 = \chi_2$ ou $\chi_1 = \chi_2 |\;|_p^2$.
\item
Si $\chi_1 = \chi_2=\chi$ la représentation $I(\chi_1, \chi_2)$ s'insère dans une suite exacte
$$
0 \to \chi \circ \det \to I(\chi, \chi) \to \chi \St_G \to 0.
$$
\item
Si $\chi_1|\;|_p^{-1} = \chi_2|\;|_p= \chi$ la représentation $I(\chi_1, \chi_2)$ s'insère dans une suite exacte
$$
0 \to \chi \St_G \to I(\chi |\;|_p, \chi|\;|_p^{-1}) \to \chi \circ \det \to 0.
$$
\item
L'espace $\Hom_G(I(\chi_1, \chi_2), I(\xi_1, \xi_2))$ est de dimension~$1$ si et seulement si $(\xi_1, \xi_2) = (\chi_1, \chi_2)$ ou $(\xi_1, \xi_2) = (\chi_2 |\;|_p, \chi_1|\;|_p^{-1})$. Il est de dimension $0$ sinon.
\end{enumerate}
\end{theoreme*}

\subsection{Série principale non ramifiée} La décomposition d'Iwasawa $G = BK$ nous donne un modèle de la représentation $I(\chi_1, \chi_2)$ dans un espace de fonctions sur~$K$, par restriction à~$K$ des fonctions de $ \Ind^G_B \chi_1 \otimes \chi_2$: les fonctions lisses de $K $ dans $\CC$ vérifiant $f(bk) = \chi_1\otimes \chi_2(b) f(k)$ pour $k \in K$, $b \in B \cap K$. L'application de restriction à~$K$:
$$
I(\chi_1, \chi_2) \to \Ind_{B \cap K}^K (\chi_1\otimes \chi_2)_{|B\cap K}
$$
est un morphisme de représentations de~$K$; il est injectif puisque $G=BK$, surjectif car pour toute fonction $f \in \Ind_{B \cap K}^K (\chi_1\otimes \chi_2)_{|B\cap K} $, on définit une fonction de $I(\chi_1, \chi_2) $ par $F(bk) = \chi_1\otimes \chi_2(b) f(k)$ ($b \in B$, $k\in K$). C'est donc un isomorphisme entre $I(\chi_1, \chi_2)_{|K} $ et $\Ind_{B \cap K}^K (\chi_1\otimes\nobreak \chi_2)_{|B\cap K} $.

Nous examinons dans cette section le cas particulier des représentations de la série principale non ramifiée, c'est-à-dire attachées à des quasi-caractères {non ramifiés} de $\QQpx$ -- rappelons qu'il s'agit de quasi-caractères triviaux sur $\ZZpx$ et donc déterminés par leur valeur en~$p$, élément de $\CCx$. Elles présentent un intérêt particulier à cause du fait suivant, facile à montrer en utilisant le modèle de fonctions sur~$K$ décrit ci-dessus:

\begin{proposition*}
Soit $\pi = \Ind_B^G \chi_1\otimes \chi_2$ une représentation de la série principale et $V$ son espace. Les conditions suivantes sont équivalentes:
\begin{enumerate}
\item
le sous-espace $V^K$ des vecteurs de $V$ fixés par~$K$ est non nul;
\item
le sous-espace $V^K$ des vecteurs de $V$ fixés par~$K$ est de dimension~$1$;
\item
les quasi-caractères $\chi_1$ et $\chi_2$ sont non ramifiés.
\end{enumerate}
\end{proposition*}

\`A ce point il est important de signaler un autre fait fondamental de la théorie. Soit $I$ le sous-groupe dit d'Iwahori:
$$I = \{\bspm a&b \cr c & d\espm \in K \mid \ c \in p \ZZp \} = \bpm \ZZpx & \ZZp \cr p \ZZp & \ZZpx\epm.$$

\begin{proposition*}
Soit $(\pi, V)$ une représentation irréductible lisse de~$G$. La restriction au sous-espace $V^I$ des vecteurs fixes par $I$ de l'application canonique de passage au quotient: $V \to V_N$, est injective.
\end{proposition*}

En particulier, une représentation lisse irréductible ayant des vecteurs non nuls fixes par $I$ ne peut être supercuspidale. Puisque $I$ est contenu dans~$K$, on obtient:

\begin{corollaire*}
Les représentations irréductibles lisses de~$G$ possédant des vecteurs non nuls fixes sous~$K$ sont à équivalence près:
\begin{itemize}
\item
les représentations $\Ind_B^G \ \chi_1\otimes \chi_2$ où $\chi_1$ et $\chi_2$ sont non ramifiés et $\chi_1 \chi_2^{-1} $ n'est pas égal à~$1$ ou $ |\;|_p^2 $;
\item
les représentations de dimension~$1$ de la forme $\chi\circ \det $ où $\chi$ est un quasi-caractère {non ramifié} de $\QQpx$.
\end{itemize}
\end{corollaire*}

Ces représentations $(\pi, V)$ ayant la particularité que $\dim V^K = 1$ bénéficient d'une action supplémentaire, celle de l'algèbre $\mathcal H(G,K)$, dite \emph{algèbre de Hecke sphérique de~$G$} et définie comme suit. C'est l'algèbre des fonctions $f $ de~$G$ dans $\CC$, bi-invariantes par~$K$ et à support compact modulo~$K$, munie du produit appelé \emph{produit de convolution} donné par:
$$
f*h (x) = \sum_{g \in G/K} f(xg) \, h(g^{-1}) \quad (f, h \in \mathcal H(G,K),\, x \in G).
$$
(Il s'agit bien du produit de convolution défini au paragraphe \ref{Haar}, à une constante près, égale au volume de~$K$ pour la mesure de Haar considérée.)

Rappelons la décomposition de Cartan:~$G$ est réunion disjointe des doubles classes $K\alpha K$ des éléments de $A$, ensemble des matrices de la forme $\bspm p^a & 0 \cr 0 & p^b\espm$ avec $a, b \in \ZZ$ et $a \le b$. L'algèbre $\mathcal H = \mathcal H(G,K)$ a donc pour base l'ensemble des fonctions $f_\alpha$ pour $\alpha \in A$, définies par
$$
f_\alpha (\alpha) = 1, \quad f_\alpha(x)=0 \text{ si } x \notin K\alpha K.
$$
La fonction $f_1$, fonction caractéristique de~$K$, est l'identité de l'algèbre~$\mathcal H$ dont on montre qu'elle est commutative et engendrée par $f_\zeta$ et $f_\rho$ avec $\zeta = \bspm p & 0 \cr 0 & p\espm$ et $\rho = \bspm 1 & 0 \cr 0 & p\espm$.

Pour toute représentation lisse $(\pi, V)$ de~$G$ on définit une action de $\mathcal H$ sur le sous-espace $V^K$ par
$$
\pi(f) (v) = \sum_{g \in G/K} f(g) \pi(g) (v) \quad (f \in \mathcal H, v \in V^K).
$$
(Là encore, l'opérateur $\pi(f)$ est bien celui défini au paragraphe \ref{Haar}, pourvu que la mesure de Haar $dg$ choisie soit celle pour laquelle~$K$ est de volume~$1$.)

Lorsque $V^K$ est de dimension~$1$, cette action est forcément scalaire et elle est déterminée par deux nombres, correspondant aux actions de~$f_\zeta$ (c'est la valeur du caractère central en $\zeta$) et $f_\rho$. Ces deux scalaires caractérisent en retour la représentation $(\pi, V)$ telle que $\dim V^K = 1$, à isomorphisme près, comme on le voit en effectuant le calcul suivant.

Dans le modèle commun $\Ind_{B \cap K}^K 1$ des représentations induites paraboliques non ramifiées, l'espace $V^K$ est engendré par la fonction caractéristique de~$K$. Son image dans $I(\chi_1, \chi_2) $ est la fonction $\Phi$ telle que $\Phi(bk) = \chi_1\otimes \chi_2(b) $ ($b \in B, k\in K$). Par définition,
$$
\pi(f_\rho) (\Phi) = \sum_{g \in G/K} f_\rho(g) \pi(g) (\Phi) = \sum_{g \in K \rho K /K} f_\rho(g) \pi(g) (\Phi)
$$
et cette fonction est multiple de $\Phi$, ce multiple étant donné par sa valeur en~$1$. Par ailleurs $k \mapsto k \rho$ détermine une bijection de \hbox{$K / K\cap\rho K\rho^{-1}$} sur $ K\rho K /K$, on a $K \cap \rho K \rho^{-1} = I$, et
\[
K / I \simeq \GL(2,\Fp) /\bspm \Fpx & \Fp \cr 0 & \Fpx \espm
= 1 \cup \{ \bspm1 & x \cr 0 & 1\espm w \mid x \in \Fp\}.
\]

Il reste
$$
\aligned \pi(f_\rho) (\Phi)(1) &= \Phi(\rho) + \sum_{x \in \Fp} \Phi(\bspm 1 & x \cr 0 & 1\espm w \rho) \\ &= \chi_2(p) \Phi(1) + \sum_{x \in \Fp} \Phi(\bspm 1 & x \cr 0 & 1\espm\bspm p & 0 \cr 0 & 1\espm) \\ &= (\chi_2(p) + p \chi_1(p)) \ \Phi(1).
\endaligned
$$

\subsection{Représentations cuspidales}
\enlargethispage{\baselineskip}%
Aucune représentation cuspidale de~$G$ n'a de vecteur non nul fixe sous~$K$ ni sous $I$. Ces groupes et leurs normalisateurs dans~$G$, c'est-à-dire $N_G(K)= ZK$ et $N_G(I)= \omega^\ZZ I$, sont cependant à la base de la classification des cuspidales; c'est le résultat fondamental suivant:

\begin{theoreme*}
Toute représentation cuspidale irréductible de~$G$ est équivalente à une représentation induite compacte d'une représentation lisse irréductible ou bien de $N_G(K) $, ou bien de $N_G(I)$.
\end{theoreme*}

\medskip
Étant donné que tout sous-groupe ouvert de~$G$, contenant le centre et compact modulo le centre, est contenu dans un conjugué soit de $N_G(K)$, soit de $N_G(I)$, ce théorème peut s'exprimer sous la forme:

\begin{enonce*}{Théorème (bis)}
Toute représentation cuspidale irréductible de~$G$ est équivalente à une représentation induite compacte à partir d'un sous-groupe de~$G$ ouvert, contenant le centre et compact modulo le centre.
\end{enonce*}

\medskip
Sous cette forme c'est une conjecture très générale qui date d'une quarantaine d'années, démontrée, pour les groupes $ \GL(2)$ sur les corps~$p$-adiques, par Kutzko à la fin des années soixante-dix, puis pour $\GL(3)$ au milieu des années quatre-vingt par Henniart, pour $\GL(n)$ au début des années quatre-vingt-dix par Bushnell et Kutzko, et très récemment pour les groupes symplectiques par Stevens. D'autres cas de validité de cette conjecture ont été établis mais le cas le plus général ne l'est pas encore.

\enlargethispage{-\baselineskip}%
\begin{remarque*}
Soit~$H$ l'un des deux groupes $N_G(K) $ ou $N_G(I)$ et $\tau$ une représentation irréductible lisse de~$H$. On peut montrer que \emph{si la représentation $\cInd_H^G \tau$ est irréductible, alors elle est cuspidale.} Des deux exemples d'induction compacte donnés plus haut (paragraphe~\ref{subsec:indcomp}), le second fournit donc un exemple de représentation cuspidale. Quant au premier, où l'on induit une représentation de $ZK$ provenant d'une représentation irréductible $\rho$ de $\GL(2, \Fp)$, on obtient une \hbox{représentation} irréductible si et seulement si $\rho$ est cuspidale; si c'est le cas la représentation de~$G$ obtenue est cuspidale.

\pagebreak[2]
On dispose en fait d'une classification complète des représentations cuspidales irréductibles de~$G$:
\begin{itemize}
\item
deux représentations cuspidales irréductibles induites à partir de $N_G(K)$ et $N_G(I)$ ne sont jamais équivalentes;
\item
on sait décrire une famille de représentations lisses irréductibles de $N_G(K)$ et $N_G(I)$ dont les induites à~$G$ sont irréductibles, deux à deux non équivalentes, et représentent toutes les classes d'équivalence de représentations cuspidales irréductibles de~$G$.
\end{itemize}

Les représentations cuspidales induites de représentations de $ZK$ triviales sur $K_1$ (ou, ce qui revient au même, possédant un vecteur non nul fixe sous $K_1$) sont dites \emph{de niveau $0$}; leur classification se déduit de celle des représentations cuspidales irréductibles de $\GL(2, \Fp)$ décrite dans le premier texte de Guy Henniart \cite{Henniart}. La construction des autres, dites \emph{de niveau strictement positif}, ne peut pas être exposée ici. Disons brièvement qu'elles ont toutes des points communs avec celle de l'exemple (2) du paragraphe \ref{subsec:indcomp}, en ce sens qu'il existe toujours un sous-groupe~$R$ de~$K$ ou de $I$, de la forme
\begin{align*}
K_n&=1 + p^n M_2(\ZZp),\\
I_{2n}&=1 + \bspm p^n \ZZp&p^n \ZZp \cr p^{n+1}\ZZp & p^n \ZZp\espm,\\
\tag*{ou} I_{2n+1}&=1 + \bspm p^{n+1} \ZZp&p^n \ZZp \cr p^{n+1}\ZZp & p^{n+1} \ZZp\espm,
\end{align*}
et un élément $\beta$ de $M_2(\QQp)$, tels que la restriction de la représentation à ce sous-groupe contienne le caractère $ x \mapsto \psi \circ \tr (\beta (x-1))$ de~$R$ (où $\psi$ est un caractère non trivial de $\QQp$). Ce caractère doit vérifier certaines propriétés, qui reviennent essentiellement à dire, moyennant une torsion par un caractère du déterminant, que l'on peut choisir~$\beta$ de polynôme caractéristique \emph{irréductible}: il engendre alors une extension quadratique de $\QQp$ qui joue un rôle important.

Remarquons enfin que, même si le groupe~$G$ possède une infinité de représentations cuspidales irréductibles à équivalence près, on peut par les méthodes précédentes obtenir un procédé de comptage de ces représentations: à équivalence près, il n'existe qu'un nombre fini de représentations cuspidales irréductibles de~$G$ dont le caractère central prend une valeur fixée en~$p$ et possédant un vecteur non nul fixe sous~$K_n$ pour un entier $n$ fixé.
\end{remarque*}

\backmatter
\nocite{BH,R}
\bibliographystyle{jepalpha+eid}
\bibliography{smfjournalnames,xups09-04}
\end{document}
