Gausienne multivariée, famille exponentielle
dans Statistiques
Bonjour,
j'ai besoin d'avoir l'expression d'une densité gaussienne multivariée $\mathcal{N}(\mu, \Sigma)$ sous sa forme "famille exponentielle", c'est à dire en notant $\theta=(\mu, \Sigma)$ et $f_\theta$ sa densité, écrire
\[ f_\theta (x) = b(x)\exp(\eta(\theta)\cdot T(x)-A(\theta)). \]
Dans Wikipédia, il est proposé de prendre $\eta(\theta) = \begin{bmatrix} \Sigma^{-1}\mu \\ -\frac12\Sigma^{-1} \end{bmatrix} $
$T(x)=\begin{bmatrix} x \\ x x^\mathrm{T} \end{bmatrix}$ et $A(\theta)= \frac12 \mu^{\rm T}\Sigma^{-1} \mu + \frac12 \ln | \Sigma|$ ($b(x)$ est une constante de normalisation).
Le terme $A(\theta)$ ne me pose évidemment pas de problème, on le retrouve clairement en développant la densité d'une gaussienne non dégénérée ; par contre, il me semblait pourtant que $\eta(\theta)\cdot T(x)$ devait être un produit scalaire (entre deux vecteur donc...) ; mais sans s'arrêter là, en essayant de donner un sens à ce produit, j'écris (profitant que $\Sigma$ et $\Sigma^{-1}$ soit symétrique) :
\[ \begin{bmatrix} \Sigma^{-1}\mu \\ -\frac12\Sigma^{-1} \end{bmatrix}^{\rm T} \begin{bmatrix} x \\ x x^\mathrm{T} \end{bmatrix} = \mu^{\rm T}\Sigma^{-1} x - \frac12\Sigma^{-1}x x^\mathrm{T} \]
Mais $x x^\mathrm{T}$ est une matrice et donc $\Sigma^{-1}x x^\mathrm{T} $ aussi et on n'a pas du tout $\frac12\Sigma^{-1}x x^\mathrm{T} = \frac12x^\mathrm{T} \Sigma^{-1}x$, ce qu'il faudrait, à mon sens, pour retrouver $b(x)\exp(\eta(\theta)\cdot T(x)-A(\theta))$ égale à la densité gaussienne.
Qu'est-ce que j'ai raté? Sinon, quelle est la forme correcte ?
Merci d'avance pour vos remarques !
j'ai besoin d'avoir l'expression d'une densité gaussienne multivariée $\mathcal{N}(\mu, \Sigma)$ sous sa forme "famille exponentielle", c'est à dire en notant $\theta=(\mu, \Sigma)$ et $f_\theta$ sa densité, écrire
\[ f_\theta (x) = b(x)\exp(\eta(\theta)\cdot T(x)-A(\theta)). \]
Dans Wikipédia, il est proposé de prendre $\eta(\theta) = \begin{bmatrix} \Sigma^{-1}\mu \\ -\frac12\Sigma^{-1} \end{bmatrix} $
$T(x)=\begin{bmatrix} x \\ x x^\mathrm{T} \end{bmatrix}$ et $A(\theta)= \frac12 \mu^{\rm T}\Sigma^{-1} \mu + \frac12 \ln | \Sigma|$ ($b(x)$ est une constante de normalisation).
Le terme $A(\theta)$ ne me pose évidemment pas de problème, on le retrouve clairement en développant la densité d'une gaussienne non dégénérée ; par contre, il me semblait pourtant que $\eta(\theta)\cdot T(x)$ devait être un produit scalaire (entre deux vecteur donc...) ; mais sans s'arrêter là, en essayant de donner un sens à ce produit, j'écris (profitant que $\Sigma$ et $\Sigma^{-1}$ soit symétrique) :
\[ \begin{bmatrix} \Sigma^{-1}\mu \\ -\frac12\Sigma^{-1} \end{bmatrix}^{\rm T} \begin{bmatrix} x \\ x x^\mathrm{T} \end{bmatrix} = \mu^{\rm T}\Sigma^{-1} x - \frac12\Sigma^{-1}x x^\mathrm{T} \]
Mais $x x^\mathrm{T}$ est une matrice et donc $\Sigma^{-1}x x^\mathrm{T} $ aussi et on n'a pas du tout $\frac12\Sigma^{-1}x x^\mathrm{T} = \frac12x^\mathrm{T} \Sigma^{-1}x$, ce qu'il faudrait, à mon sens, pour retrouver $b(x)\exp(\eta(\theta)\cdot T(x)-A(\theta))$ égale à la densité gaussienne.
Qu'est-ce que j'ai raté? Sinon, quelle est la forme correcte ?
Merci d'avance pour vos remarques !
Réponses
-
Theoreme+ si $ AB$ est une matrice carree alors $\mathrm{trace }\, (AB)=\mathrm{trace }\, (BA).$ Application :
$$x^T\Sigma^{-1}x=\mathrm{trace }\, x^T\Sigma^{-1}x =\mathrm{trace }\, \Sigma^{-1}x x^T$$ -
Ok, merci P., je vois... du coup dans l'écriture $\Big(\substack{\mathrm{vecteur} \\ \mathrm{Matrice}}\Big)$, il faut le voir comme un vecteur en mettant les colonnes de la matrice bout à bout...
Connectez-vous ou Inscrivez-vous pour répondre.
Bonjour!
Catégories
- 163.1K Toutes les catégories
- 7 Collège/Lycée
- 21.8K Algèbre
- 37.1K Analyse
- 6.2K Arithmétique
- 52 Catégories et structures
- 1K Combinatoire et Graphes
- 11 Sciences des données
- 5K Concours et Examens
- 11 CultureMath
- 47 Enseignement à distance
- 2.9K Fondements et Logique
- 10.3K Géométrie
- 62 Géométrie différentielle
- 1.1K Histoire des Mathématiques
- 68 Informatique théorique
- 3.8K LaTeX
- 39K Les-mathématiques
- 3.5K Livres, articles, revues, (...)
- 2.7K Logiciels pour les mathématiques
- 24 Mathématiques et finance
- 312 Mathématiques et Physique
- 4.9K Mathématiques et Société
- 3.3K Pédagogie, enseignement, orientation
- 10K Probabilités, théorie de la mesure
- 772 Shtam
- 4.2K Statistiques
- 3.7K Topologie
- 1.4K Vie du Forum et de ses membres