Monotonie de la racine d'une matrice

Pour $\epsilon>0$ assez petit, $A+\epsilon I_n$ est définie positive. On peut trouver une base de vecteurs propres pour $A+\epsilon I_n$ et $B$, ce qui me semble-t-il permet de supposer que $A$ et $B$ sont diagonales. La question devient alors élémentaire.

Erreur ! Elle consiste à mélanger deux types de diagonalisation. On peut trouver une matrice inversible telle que ${}^tPAP$ et ${}tPBP{}$ sont diagonales mais pas une base de vecteurs propres.

Salvatore (stupido!)

Les deux démonstrations précédentes sont fausses. Celle de Math Coss ne convient pas car $A$ et $B$ ne commutent pas. Celle de P. est fausse car elle suppose que $a^n\leqslant b^n$, ce qui est faux en général.

Voici une démonstration du fait que si $A\geqslant B\geqslant 0$ alors pour tout $\alpha\in ]0,1[$ on a $A^\alpha\geqslant B^\alpha$.

1) On se ramène d'abord au cas où $A$ et $B$ sont inversibles, en remplaçant $A$ et $B$ par $A+tI$ et $B+tI$ pour $t>0$ (il suffira ensuite de faire tendre $t$ vers $0$).

2) On sait que si $P$ est inversible, alors $A\leqslant B\iff P^*AP\leqslant P^*BP$.

3) On montre que si $A$ et $B$ sont positives inversibles, alors $A\leqslant B$ si et seulement si $A^{-1}\geqslant B^{-1}$. Pour cela, on écrit $A\leqslant B\iff B^{-1/2}AB^{-1/2}\leqslant I\iff C^*C\leqslant I$ où $C=A^{1/2}B^{-1/2}$. Or, $C^*C$ et $CC^*$ ont le même spectre, donc ceci équivaut à $CC^*\leqslant I$, i.e. $A^{1/2}B^{-1}A^{1/2}\leqslant I$, ce qui équivaut à $B^{-1}\leqslant A^{-1}$.

4) Soit $k=\displaystyle \int_0^\infty \dfrac{u^{\alpha-1}}{1+u}\,du$. Pour tout $x>0$, on a $x^{\alpha}=\displaystyle\frac{1}{k}\int_0^\infty \frac{t^{\alpha-1}}{1+t/x}\,dt$ (faire le changement de variables $t=xu$), donc
$$A^\alpha=\frac{1}{k}\int_0^\infty t^{\alpha-1}(I+tA^{-1})^{-1}\,dt.$$

5) La conclusion vient en combinant 3) et 4).

N.B. Ci-dessus, j'ai désigné par $P^*$ la transposée de $P$.