Metropolis(-Hastings)

Trois caractéristiques des Metropolis(-Hastings)

  1. Deux algorithmes (et apparentés) différents : Metropolis et Metropolis-Hastings

  2. Ne requièrent pas les conditionnelles complètes

  3. Similarités avec l'algorithme accept-reject

Généralités sur les algorithmes de Metropolis(-Hastings)

  • Quand une chaîne de Markov est en \(\boldsymbol{\theta}^{(k)}\), la valeur suivante \(\tilde{\boldsymbol{\theta}}\) est échantillonnée d'une distribution \(q\) qui se situe en moyenne sur \(\boldsymbol{\theta}^{(k)}\)

  • La valeur \(\tilde{\boldsymbol{\theta}}\) peut être acceptée ou rejetée avec une certaine probabilité (comme dans l'algorithme AR)

  • Il est important de bien noter que le but n'est pas de trouver le mode de la distribution \(p(\boldsymbol{\theta})\) (auquel cas il suffirait de rejeter toute nouvelle valeur qui s'éloigne de ce mode par rapport à la valeur précédente) mais bien d'explorer l'ensemble de la distribution

  • La distribution \(q\) est la distribution de proposition de l'algorithme