Matrices qui commutent

Si $A,B \in M_n(\R)$ et pas $M_n(\C)$, alors on peut utiliser l'inégalité de Cauchy-Schwarz appliquer au produit scalaire sur les matrices $(X,Y) \mapsto Tr(^tXY)$. Donc si $X=^t(AB)$, et $Y=AB$, on obtient $Tr(^tXY)^2 \leq Tr(^tXX)Tr(^t YY)$, c'est-à-dire $Tr(ABAB)^2 \leq Tr(AB^t(AB)) Tr(^t(AB)AB)$, donc $Tr(ABAB)^2 \leq Tr(ABBA)Tr(BAAB)$, avec égalité si et seulement si $X$ et $Y$ sont colinéaires. Donc si $Tr(ABAB)=Tr(A^2B^2)$, on a bien égalité (car $Tr(ABBA)=Tr(BAAB)=Tr(A^2B^2)$) donc $\mu X=\lambda Y$ avec $(\mu, \lambda) \in \R^2 - \{(0,0)\}$, donc $\mu BA=\lambda AB$.
Donc, en prenant la transposée, $\mu AB=\lambda BA$. Donc, en additionnant, $\alpha BA= \alpha AB$ avec $\alpha=\lambda+ \mu$. Donc $AB=BA$ ou $\lambda=-\mu$, c'est-à-dire $AB=BA$ ou $AB=-BA$.
Si $AB=-BA$, alors $Tr(^tYY)=Tr(BAAB)=-Tr(BABA)$, donc $Tr(A^2B^2)=-Tr(ABAB)=-Tr(A^2 B^2)$, donc $Tr(A^2 B^2)=0$, donc $Tr(^tYY)=0$, donc $Y=0$, donc $0=AB=-BA$, donc $BA=0$, donc $AB=BA$.

Bonjour,

On pose $C=[A,B ].$
On calcule $C^T=-C.$
On calcule $Tr(C^2)=0$ en utilisant la commutativité dans l’argument de la trace.
Puis on établit que, pour tout $n\geq 1$, $Tr(C^n)=0$ en utilisant la transposition dans l’argument de la trace.

Voilà !

Pour les puissances impaires :
$C^{2n+3}=C^{2n+2}(AB-BA)=C^{2n+2} AB- C^{2n+2}BA$
La transposée du premier terme donne $BA(-1)^{2n+2} C^{2n+2}$ dont la trace est l’opposée de celle du deuxième terme.

Pour les puissances pairs : $[C^{2 n},[A,B]]=0$...

Il y a un contre-exemple avec $A=\pmatrix{0 & 0 & 0 \\ 0 & 1 & 0 \\ 0 & 0 & 2}$ et $B=\pmatrix{0 & 1 & 0 \\ 1 & 0 & i \\ 0 & i & 0}$.

supp