Un modèle avec des paramètres de paramètres — la façon d'ajuster à la fois une population et ses membres individuels.Un modèle hiérarchique bayésien est un modèle statistique comportant plusieurs niveaux de paramètres, où les paramètres d'un niveau sont eux-mêmes modélisés par des paramètres d'un niveau supérieur. Cette structure permet de modéliser simultanément les observations individuelles et la population dont elles sont issues. Par exemple, on peut modéliser les résultats de tests d'élèves dans de nombreuses écoles, où chaque école a sa propre moyenne, mais ces moyennes sont tirées d'une distribution commune représentant toutes les écoles. Ce « partage d'information » entre les groupes améliore les estimations, en particulier pour les groupes avec peu de données.
Les modèles hiérarchiques trouvent leurs racines dans les travaux de Charles Stein dans les années 1950 sur les estimateurs de rétrécissement, et ont été formalisés dans le cadre bayésien par Lindley et Smith en 1972. Ils se sont largement répandus avec l'avènement des méthodes MCMC dans les années 1990.
Le modèle est construit en couches. Au niveau le plus bas, on a la vraisemblance pour chaque observation étant donné les paramètres individuels. Au niveau suivant, ces paramètres individuels sont supposés provenir d'une distribution commune avec des hyperparamètres. Les hyperparamètres eux-mêmes peuvent avoir des lois a priori. L'inférence se fait en calculant la loi a posteriori jointe sur tous les paramètres, souvent à l'aide de méthodes de Monte Carlo par chaînes de Markov (MCMC). La structure hiérarchique permet aux données d'informer à la fois les estimations individuelles et la distribution au niveau de la population, conduisant à un rétrécissement des estimations extrêmes vers la moyenne du groupe.
Ils sont utilisés en méta-analyse, en recherche en éducation, dans les essais cliniques multicentriques, et en écologie pour modéliser la distribution des espèces sur différents sites.
Les modèles hiérarchiques sont le fondement statistique du « rétrécissement bayésien », qui peut améliorer les prédictions en ramenant les estimations extrêmes vers la moyenne globale — un phénomène connu sous le nom de paradoxe de Stein.

















