Bayésien "conjugate prior"
dans Statistiques
Bonjour,
En estimation bayésienne à quoi correspond "conjugate prior" ?
Merci pour le coup de main
En estimation bayésienne à quoi correspond "conjugate prior" ?
Merci pour le coup de main
Connectez-vous ou Inscrivez-vous pour répondre.
Réponses
$$
Q_{\pi}(dx)K_{\pi}(x,d\theta)=P_{\theta}(dx)\pi(d\theta)
$$ la probabilité a posteriori $K_{\pi}(x,d\theta)$ est aussi dans $F$ pour tout $\pi$ de $F$ et presque tout $x\in X$ (au sens de la probabilite $Q_{\pi}$). C'est super général puisque la famille de toutes les proba est conjuguée. Mais il y a un cas tres célèbre, celui où $P$ est une famille exponentielle sur $ \R^d$
$$
P_{\theta}(dx)=e^{\langle \theta,x\rangle -k(\theta)}\mu(dx),
$$ avec $\theta\in \Theta(\mu)$ = le plus grand ouvert convexe de $\R^d$ possible. On introduit la famille $F$ de Diaconis Ylvisaker
$$
\pi_{\alpha ,m}(d\theta)=C(\alpha,m)e^{\alpha\langle m,\theta\rangle-k(\theta)} 1_{\Theta(\mu)}(\theta)d\theta
$$ paramétrée par $\alpha>0$ et par $m$, qui decrit le domaine des moyennes $k'(\Theta)$ de $P.$ C’était tellement utilisé pour les familles exponentielles courantes (Binomiales, Gamma, Normale etc) que les statisticiens se sont habitués à appeler cette famille $F$ de proba a priori LA famille conjuguée. Donc si on parle de la famille conjuguee, il faut que le modele sont une famille exponentielle. La parametrisation de la famille $P$ peut varier dans la litterature, et cela modifie la presentation de la famille conjuguee. Ce serait un peu long de detailler les exemples classiques ici. Mais commence par Poisson ou $$\mu(dx)=\sum_{0}^{\infty}\frac{\delta_n(dx)}{n!}.$$
Dans le cas d'une famille exponentielle et de LA famille conjuguee, la probabilite a posteriori $K_{\pi}((x_1,\ldots,x_n), d\theta)$ prend une forme explicite: si $\pi=\pi_{\alpha ,m}$ alors
$$K_{\pi}((x_1,\ldots,x_n), d\theta)=\pi_{\alpha+n ,(\alpha m+s)/(\alpha+n)}(d\theta)$$ avec $s=x_1+\cdots+x_n$ (il peut y avoir une erreur vu que je cite de memoire)
Un exemple: pour le modèle binomial, la famille des lois Beta est conjuguée. C'est-à-dire que si la loi a priori est une Beta, alors la loi a posteriori est aussi une Beta.
Il y a la famille Gamma pour le modèle de Poisson.
Les autres je ne sais plus. Je pense qu'on peut trouver un catalogue des familles conjuguées sur le ouebbe.
Il y aussi les familles semi-conjuguées. Normale-Gamma pour les modèles linéaires gaussiens. Gamma-Beta' pour le modèle de deux lois de Poisson paramétrisé par un des deux taux et par le quotient des deux taux.
[Persi Diaconis (1945- ~ ) et Donald Ylvisaker méritent le respect de leur patronyme. AD]