Représentation linéaire

1/ " veut on dire que dans la décomposition en irréductibles de la régulière il y a $\dim(W)$ sous-représentations isomorphes à W. "
oui c'est exactement ça.

Edit : non ce n'est pas tout a fait ça. Si c'est bon, mais il faut faire attention qu'il n'y a pas seulement dim(W) sous-représentation isomorphe à $W$. mais dans chaque décomposition en irréductible il y a $\dim(W)$ copie de $W$.

2/ c'est contradictoire avec la 1/ ce que tu dis. (sauf si toutes les représentations irréductibles sont de degré $1$).

Un exemple de base est le groupe $S_3$ qu'il faut un peu décortiquer i.e mettre en action les pages 35 - 36 (et avant) de Serre. C'est un peu lourd si tu suis à la lettre mais ça fonctionne bien.

1) Cela signifie qu'il existe $d=\dim(W)$ sous-espaces $F_1,\dots,F_d$ qui sont en somme directe (tels que $F_i\cap\sum_{j\ne i}F_j=\{0\}$ pour tout $i$) qui sont stables par le groupe (de sorte que l'on peut définir des représentations $G\to\mathrm{GL}(F_i)$ sur $F_i$ ($1\le i\le d$)) et toutes isomorphe à $W$.

2) Si $G$ n'est pas abélien, il admet des représentations simples de dimension $>1$.

Peut-être peut-on prendre un exemple ? Pour $G=\mathfrak{S}_3$, le « groupe du triangle » (pourquoi ?). Voici une base de l'algèbre de groupe, avec des notations qui devraient s'expliquer toutes seules : $(e_{()},e_{(123)},e_{(132)},e_{(12)},e_{(13)},e_{(23)})$.

• Le vecteur $v_{\mathrm{triv}}=e_{()}+e_{(123)}+e_{(132)}+e_{(12)}+e_{(13)}+e_{(23)}$ est fixé par tous les éléments de $G$ (car pour $g,h\in G$, $g\cdot e_h=e_{gh}$) donc il engendre une sous-représentation isomorphe à la représentation triviale.
• Le vecteur $v_{\varepsilon}=e_{()}+e_{(123)}+e_{(132)}-e_{(12)}-e_{(13)}-e_{(23)}$ est stable par tous les éléments de $G$ ; plus précisément, pour $g\in G$, $g\cdot v_{\varepsilon}=\varepsilon(g)v_{\varepsilon}$ (vérifie !).
• L'orthogonal de $\C v_{\mathrm{triv}}\oplus\C v_{\varepsilon}$ (pour la forme hermitienne qui fait de la base $(e_g)_{g\in G}$ une base orthonormée) est stable par $G$. Il est de dimension $4$ mais peut se décomposer comme somme directe de deux sous-représentations isomorphes. Par exemple, les espaces engendrés par $v_1=e_{()}-e_{(123)}-e_{(13)}+e_{(23)}$ et $v_2=e_{()}-e_{(132)}+e_{(12)}-e_{(13)}$ d'une part, par $v'_1=e_{()}-e_{(123)}+e_{(13)}-e_{(23)}$ et $v'_2=e_{()}-e_{(132)}-e_{(12)}+e_{(13)}$ d'autre part, sont stables (sauf erreur de calcul...).

Soit $\rho : G \to \text{GL}(W)$ une représentation fini du groupe fini $G$ et $W$ est un $\C$-ev. Le premier résultat c'est qu'il y a décomposition en somme de représentations irréductibles. Disons :
$$
W = \bigoplus_{i=1}^m U_i \qquad (\star)
$$
On va regrouper les $U_i$ selon la classe d'isomorphisme de représentation irréductible (i.e suivant les caractères). Formellement, sur l'ensemble $ \text{U} := \{ U_1,\dots,U_m\}$ on introduit la relations d'équivalences $U_i \simeq U_j$ si et seulement si $\chi_{\rho_{\mid U_i}} = \chi_{\rho_{\mid U_j}}$ et on prend la partition de $\text{U}$ associée à cette relation d'équivalence : on écrit, pour tout caractère irréductible $\chi$ : $\text{U}(\chi) := \{ U \in \text{U} \mid \chi_{\rho_{\mid U}} = \chi \}$.
Finalement on a :
$$ W := \bigoplus_{\chi} V_\chi \qquad \text{où} \qquad V_\chi := \bigoplus_{U \in \text{U}(\chi)} U$$

Par les relations d'orthogonalités, on a que : $\# \text{U}(\chi) = \langle \chi \mid \chi_\rho \rangle$. Remarquons en passant que ce nombre ne dépend pas du choix de la décomposition $(\star)$, en fait l'espace $V_\chi$ ne dépend pas non plus de cette décomposition (je renvoie à Serre le théorème 8 page 34). Par contre, l'ensemble $\text{U}(\chi)$ dépend de la décomposition.

Le but est d'utiliser ça dans le cas où $\rho$ est la représentation régulière $R$.

Now, qu'est-ce que l'on peut dire du caractère de la représentation régulière que je note $\chi_R$ : soit $g \in G$, alors $\chi_R(g) =0$ si $g \ne e$ et $\chi_R(e) = n := \# G$.

Ensuite : on prend le produit scalaire :
$$
\langle \chi_R \mid \chi \rangle := \frac{1}{n} \sum_{g \in G} R(g^{-1}) \chi(g) = \frac{1}{n} n \chi(e) = \chi(e) = \text{dim}(\chi)
$$

A mon avis vaut mieux suivre ligne à ligne un cours sous peine de se mélanger les pinceaux entre ce qui est montré et ce que l'on montre. Par exemple, je n'ai pas prouvé que $\# \text{U}(\chi) = \langle \chi \mid \chi_\rho \rangle$. (mais c'est conséquence de la proposition 2 page 24 (toujours Serre)) et des relations orthogonalités.

À propos d'égalité et d'isomorphisme, une pensée tardive. Considérons les représentations du groupe trivial $G=\{e\}$. Une représentation de $G$ est alors... un espace vectoriel et rien de plus, bravo ! Dans un espace vectoriel $V$ de dimension $n$, chaque fois que l'on choisit une base $(v_1,\dots,v_n)$, on obtient une décomposition en sous-représentations $V=\bigoplus_{i=1}^nV_i$, où $V_i=\C v_i$ pour tout $i$. Ici, chaque $V_i$ est un sous-espace (stable par $G$, ce qui ne contraint pas à grand-chose) et la somme directe est une somme directe interne. Pour tout $i$, on a $V_i\simeq\C$ (la représentation triviale, quoi d'autre ?). La décomposition induit donc un isomorphisme $V\simeq\C^n$ et on peut l'expliciter : à $(x_1,\dots,x_n)\in\C^n$ on associe $x_1v_1+\cdots+x_nv_n\in V$.

Qu'est-ce qui est intrinsèque ici ? Seule la dimension $n$ (c'est-à-dire la multiplicité de la représentation triviale...) l'est, car le reste (la base, les $V_i$) dépend d'un choix.

Je suppose que la situation des espaces vectoriels ne te pose pas de problème : constate que la situation des sous-représentations et représentations irréductibles à isomorphisme près est extrêmement semblable. On choisit des vrais sous-espaces mais pour obtenir quelque chose de canonique, on travaille à isomorphisme près.

Il semble qu'il y ait une nouveauté pour les groupes non triviaux, cependant : les composantes isotypiques qui, elles, sont des sous-représentations canoniques. Ce n'est pas si nouveau. Pour trouver une analogie, prenons un groupe cyclique $G=\langle g\rangle$, disons d'ordre $d$ (car $n$ est déjà pris). Alors les composantes isotypiques correspondent aux sous-espaces propres de $g$ : peux-tu le vérifier ? Il faut développer un (petit) dictionnaire (je note $\zeta=\exp(2\mathrm{i}\pi/d)$) :

• représentation $\rho:G\to\mathrm{GL}(V)$ $\leftrightarrow$ $\phi\in\mathrm{GL}(V)$ tel que $\phi^d=\mathrm{id}$ ($\rho(g)=\phi$) ;
• sous-représentation de $V$ $\leftrightarrow$ sous-espace stable par $\phi$ ;
• $V$ irréductible $\iff$ $\dim V=1$ (à justifier) ;
• classe d'isomorphisme de représentation irréductible $V_j$ $\leftrightarrow$ racine $d$-ième de l'unité, $\zeta^j$ pour $j\in\{0,\dots,d-1\}$ ($\rho_j(g)=\zeta^j\mathrm{id}_\C$) ;
• sous-représentation de $V$ isomorphe à $V_j$ $\leftrightarrow$ droite propre de $\phi$ associée à la valeur propre $\zeta^j$ ;
• composante isotypique de type $\rho_j$ $\leftrightarrow$ sous-espace propre associé à $\zeta^j$.