Exemple de la vraisemblance de Poisson

La situation conjuguée dans le cas de la vraisemblance de Poisson

  • On a à estimer un paramètre, \(\mu\), dans une population à partir d'un nombre d'événements \(y\).

  • La vraisemblance d'un échantillon, \(p(y|\mu)\), est une loi de Poisson de paramètre \(\mu\).

  • Pour être dans la situation conjuguée, il faut choisir une loi a priori gamma sur le paramètre \(\mu\) pour que, combinée à la vraisemblance de Poisson, la loi a posteriori de \(\mu\) soit aussi une loi gamma.

  • De plus, si \(\mu \sim \mathcal{G}(a_0, b_0)\) (loi a priori) alors \(\mu|y \sim \mathcal{G}(a_0+y, b_0+1)\) (loi a posteriori).

Dans le détail de la spécification:

  1. la vraisemblance est une distribution de Poisson de paramètre \(\mu\), donc avec un nombre d'événements \(y\), on a \(\mathcal{L} = \dfrac{\mu^y \exp{(-\mu)}}{y!} \propto \mu^y \exp{(-\mu)}\) (en ne retenant que les termes aléatoires);

  2. la loi a priori sur \(\mu\) est une loi gamma de paramètres \(a_0\) et \(b_0\) donc de densité \(\dfrac{\mu^{a_0-1}b_0^{a_0} \exp{(-b_0\mu)}}{\Gamma(a_0)} \propto \mu^{a_0-1} \exp{(-b_0\mu)}\) (en ne retenant que les termes où \(\mu\) intervient);

  3. la loi a posteriori sur \(\mu\) est proportionnelle au produit de la vraisemblance et de la loi a priori et peut être écrite, après quelques ré-arrangements, en \(\mu^{a_0+y-1} \exp{\left(\mu(b_0+1)\right)}\). On reconnaît là le noyau d'une loi gamma de paramètres \(a_0+y\) et \(b_0+1\).

  • On peut calculer certaines caractéristiques de la loi gamma a posteriori:

    • moyenne: \(\dfrac{a_0+y}{b_0 + 1}\);

    • variance: \(\dfrac{a_0+y}{(b_0 + 1)^2}\);

    • mode:\(\dfrac{a_0+y-1}{b_0+1}\).

  • On sait par contre qu'on ne peut pas calculer les quantiles de la loi (mais les obtenir avec la fonction quantiles de R à partir de simulations de valeurs).

Manipulation

  • Vraisemblance de Poisson \(\rightarrow\) choisir \(n\) et \(y\)

  • Loi gamma a priori \(\rightarrow\) choisir \(a_0\) et \(b_0\)

\(\Rightarrow\) loi gamma a posteriori