Hyperplan stable par produit.

Au contraire, j'ai l'impression qu'il existe quelques droites stables. Il y a $\mathbf R I$, et puis $\mathbf R N$ si $N^2=0$ et $N\neq 0$.

D'accord avec vous.
Mais ce n'est pas ma définition de "stable par produit matriciel" !
Je pensais qu'on parlait de parties $X$ telles que $A,B\in X\Rightarrow AB\in X$.

Bonsoir,
Désolé de ma confusion... J'y réfléchirai une prochaine fois (si personne n'a répondu d'ici là).

En suivant la piste de PB, soit $D$ une droite stable par produit matriciel. Et soit $A \in D$ non-nulle.

Alors après Jordanisation de $A$, on ramène le problème aux blocs diagonaux de A dans la base de Jordan.

Soient $B_i = {\lambda}_i I + N_i$ les blocs de Jordan de $A$ avec $N_i$ nilpotentes ne contenant que des $0$ à l'exception possible de la surdiagonale où peuvent se trouver des $1$.

On a par hypothèse $A^2 = xA$ pour un réel $x$ fixé.

Si $x = 0$, A est nilpotente d'ordre 2.
Et on vérifie que si A est nilpotente d'ordre 2, alors $\R A$ est bien stable par produit matricel.

Si $x <> 0$, alors ${\lambda}_i^2 = x {\lambda}_i$ pour tout $i$

(*) Si ${\lambda}_i = 0$ pour un bloc $B_i$ alors $N_i^2 = xN_i$ et alors $N_i = 0$ (regarder par exemple les indices de nilpotences).

(*) Si ${\lambda}_i = x$ pour un bloc $B_i$ alors $(xI + N_i)^2 = x^2 I+ x N_i$ d'où en développant : $N_i^2 + N_i = (N_i + I) N_i = 0$. Comme alors $(N_i + I)$ est inversible, on en déduit $N_i = 0$.

Et on vérifie que si A est une matrice dont les blocs de Jordan sont multiples de l'identité (éventuellement différents / nuls) alors $\R A$ est bien stable par produit matricel.

On a donc deux possibilités pour une droite $\R A$ stable par produit matriciel : soit A est nilpotente d'ordre 2, soit les blocs de Jordan de A sont multiples de l'identité (éventuellement différents / nuls).

Ouf. En espérant ne pas m'être planté qqpart.

(Latex corrigé.)

Petite question psycho : la mauvaise interprétation de la stabilité est-elle due à l'emploi de "par" (ou lieu de "pour") dans "stable par produit matriciel" ?

Je crois que le début de mon raisonnement reste valable et utilisable. L'adjoint de la multiplication par $A$, c'est la multiplication par ${}^t A$. Si $H$ est un hyperplan stable par multiplication par tout élément de $H$, alors $H^{\perp}$ est stable par la multiplication par tout élément de la forme ${}^t A$ avec $A\in H$. Désignons par $H'$ l'ensemble de ces éléments (qui est aussi un hyperplan).

Soit donc une matrice $B$ qui engendre la droite vectorielle $H^\perp$. Pour tout $A$ dans $H'$, on a $A B$ colinéaire à $B$. Appelons $x_1$ une colonne non nulle de $B$. Alors pour tout $A$ dans $H'$, $Ax$ et $x$ sont liés, c'est à dire que $x_1$ serait un vecteur propre commun à toutes les matrices d'un hyperplan. Or (on utilise ici $n\ge 3$), il existe deux vecteurs $x_2$ et $x_3$ tels que $(x_1,x_2,x_3)$ soit une famille libre. Soit $C_2$ une matrice telle que $C_2x_1=x_2$ et $C_3$ telle que $C_3x_1=x_3$. Comme $H'$ est un hyperplan, il existe au moins une combinaison linéaire non nulle de $C_2$ et $C_3$ se trouvant dans l'hyperplan $H'$ (il suffit d'écrire $H'$ comme noyau d'une forme linéaire $\phi$ pour trouver une combinaison linéaire possible). Cette combinaison linéaire envoie $x_1$ sur une combinaison linéaire de $x_2$ et $x_3$, donc sur un vecteur non colinéaire à $x_1$. Ouf! C'est fini.

On peut peut-être faire plus court...

Remarquons que pour $n=2$, l'hyperplan des matrices triangulaires supérieures est bien stable par produit.

Pour la preuve de Jean, il me semble que l'on peut terminer sans bricolage
en raisonnant comme suit :

il est clair que la matrice $B$ ne peut pas être inversible
(sinon tout élément de H serait une matrice scalaire),
et donc l'image est un sous-espace vectoriel non trivial de $\mathbb{C}^n$
(mettons de dimension $p$) stabilisé par la transposée de toute matrice de $H$.
On en déduit que la dimension de $H$ est
au plus $n^2-(n-p)p$, ce qui conduit à une contradiction.