Espérance conditionnelle encore et toujours
Bonjour
Dans l'extrait suivant : https://en.wikipedia.org/wiki/Expectation–maximization_algorithm#Description
que signifie $ Q({\boldsymbol {\theta }}|{\boldsymbol {\theta }}^{(t)})= {E} _{\mathbf {Z} |\mathbf {X} ,{\boldsymbol {\theta }}^{(t)}}\left[\log L({\boldsymbol {\theta }};\mathbf {X} ,\mathbf {Z} )\right] = {E} _{\mathbf {Z} |\mathbf {X} ,{\boldsymbol {\theta }}^{(t)}}\left[l({\boldsymbol {\theta }};\mathbf {X} ,\mathbf {Z} )\right]$ ? (en notant $l$ la log vraissemblance).
Car si je fais le calcul (en gardant le notations Wikipedia): $l({\boldsymbol {\theta }};\mathbf {X} ,\mathbf {Z} )=\sum_i\sum_j1_{z_i=j}(\log(f(x_i;\mu_j,\Sigma_j)\tau_j)$ je ne sais plus comment poursuivre le calcul (mis à part utiliser la linéarité de l'espérance) puisque je ne sais plus vraiment ce qui est aléatoire ou pas ni ce que représente :${E} _{\mathbf {Z} |\mathbf {X} ,{\boldsymbol {\theta }}^{(t)}}$
Dans l'extrait suivant : https://en.wikipedia.org/wiki/Expectation–maximization_algorithm#Description
que signifie $ Q({\boldsymbol {\theta }}|{\boldsymbol {\theta }}^{(t)})= {E} _{\mathbf {Z} |\mathbf {X} ,{\boldsymbol {\theta }}^{(t)}}\left[\log L({\boldsymbol {\theta }};\mathbf {X} ,\mathbf {Z} )\right] = {E} _{\mathbf {Z} |\mathbf {X} ,{\boldsymbol {\theta }}^{(t)}}\left[l({\boldsymbol {\theta }};\mathbf {X} ,\mathbf {Z} )\right]$ ? (en notant $l$ la log vraissemblance).
Car si je fais le calcul (en gardant le notations Wikipedia): $l({\boldsymbol {\theta }};\mathbf {X} ,\mathbf {Z} )=\sum_i\sum_j1_{z_i=j}(\log(f(x_i;\mu_j,\Sigma_j)\tau_j)$ je ne sais plus comment poursuivre le calcul (mis à part utiliser la linéarité de l'espérance) puisque je ne sais plus vraiment ce qui est aléatoire ou pas ni ce que représente :${E} _{\mathbf {Z} |\mathbf {X} ,{\boldsymbol {\theta }}^{(t)}}$
Réponses
-
En fait j'imagine que la seule quantité qui est aléatoire dans la log vraissemblance explicitée sous forme de double somme, est la variable aléatoire $1_{z_i(w)=j}$ puisque si l'on connait $\mathbf {X} ,{\pmb {\theta }}^{(t)}$ ça veut dire que l'on fixe (au titre de constante) $\theta= {\theta }^{(t)}$ et l'on suppose les positions des $x_i$ connues.
Donc on est ramené au calcul de ${E} _{\mathbf {Z} |\mathbf {X} ,{\boldsymbol {\theta }}^{(t)}}(1_{z_i(w)=j})$.
Est-ce juste ?
L'écriture qui suit (Wikipédia) est elle juste ? Car on ne sait plus ce qui est aléatoire où non..., dans leur écriture on dirait que $z_i$ n'est pas aléatoire alors qu'en principe il l'est. https://wikimedia.org/api/rest_v1/media/math/render/svg/09379a2ea73919245bca99e45fc8353f9d7db87f
Connectez-vous ou Inscrivez-vous pour répondre.
Bonjour!
Catégories
- 163.2K Toutes les catégories
- 9 Collège/Lycée
- 21.9K Algèbre
- 37.1K Analyse
- 6.2K Arithmétique
- 53 Catégories et structures
- 1K Combinatoire et Graphes
- 11 Sciences des données
- 5K Concours et Examens
- 11 CultureMath
- 47 Enseignement à distance
- 2.9K Fondements et Logique
- 10.3K Géométrie
- 65 Géométrie différentielle
- 1.1K Histoire des Mathématiques
- 69 Informatique théorique
- 3.8K LaTeX
- 39K Les-mathématiques
- 3.5K Livres, articles, revues, (...)
- 2.7K Logiciels pour les mathématiques
- 24 Mathématiques et finance
- 314 Mathématiques et Physique
- 4.9K Mathématiques et Société
- 3.3K Pédagogie, enseignement, orientation
- 10K Probabilités, théorie de la mesure
- 773 Shtam
- 4.2K Statistiques
- 3.7K Topologie
- 1.4K Vie du Forum et de ses membres