Exemple de la vraisemblance normale
La situation conjuguée dans le cas normal
On dispose d'une série de mesures continues \(y\), dont on suppose la distribution normale.
La vraisemblance de l'échantillon, \(p(y|\mu, \sigma^2)\), est une loi de normale de paramètres \(\mu\) (moyenne) et \(\sigma^2\) (variance).
La difficulté par rapport aux cas précédents est qu'on a ici deux paramètres à estimer.
Différentes solutions existent mais nous n'en présentons qu'une seule ici: on se fixe les probabilités a priori de \(\sigma^2\) et de \(\mu|\sigma^2\).
Dans le détail de la spécification: vraisemblance et priors
la vraisemblance est une distribution normale de paramètres \(\mu\) et \(\tau = 1/\sigma^2\) (la précision est l'inverse de la variance);
on observe un échantillon de taille \(n\) sur lequel on peut calculer moyenne \(m\) et précision \(t\);
on suppose sur \(\tau\) une loi a priori gamma: \(\tau \sim \Gamma(a_0, b_0)\);
on suppose sur \(\color{blue}{\mu|\tau}\) une loi a priori normale: \(\mu|\tau \sim \mathcal{N}(\mu_0, \tau_0 = 1/\sigma_0^2)\);
Dans le détail de la spécification: posteriors
la distribution a posteriori de \(\tau\) est une loi gamma de paramètres:
\(a_n = a_0 + n/2\)
\(b_n = b_0 + BSSE/2\) où \(BSSE\) est une somme pondérée d'écarts carrés entre les données et leur moyenne, \(m\), et entre les paramètres a priori et \(m\)
la distribution a posteriori de \(\mu|\tau\) est une loi normale de paramètres:
\(\mu_n\), moyenne entre la moyenne observée \(m\) et la moyenne a priori \(\mu_0\), pondérée par les précisions. Les poids respectifs sont \(\dfrac{nt}{\tau_0 + n t}\) et \(\dfrac{\tau_0}{\tau_0 + n t}\).
\(\tau_n = \tau_0 + n t\)