Выборка по марковской цепи, использующая градиенты апостериорного распределения для длинных, хорошо нацеленных шагов в многомерных пространствах.Гамильтонов метод Монте-Карло (HMC) — это метод марковских цепей Монте-Карло (MCMC) для выборки из распределений вероятностей, особенно многомерных. В отличие от более простых методов случайного блуждания, HMC использует градиент целевого распределения, чтобы предлагать переходы, далёкие от текущей точки, сохраняя при этом высокую вероятность принятия. Это делает его очень эффективным для исследования многомерных пространств, где случайные блуждания, как правило, движутся медленно. HMC — краеугольный камень современного байесовского вывода, особенно в таких областях, как машинное обучение и статистическая физика.
Метод был предложен Саймоном Дуэйном, Энтони Кеннеди, Брайаном Пендлтоном и Дунканом Роуэтом в 1987 году на основе более ранних работ в калибровочной теории на решётке.
HMC интерпретирует целевое распределение как функцию потенциальной энергии и вводит вспомогательные переменные «импульса». Затем система эволюционирует согласно гамильтоновой динамике, моделируя движение шара без трения по ландшафту, форма которого определяется отрицательным логарифмом целевого распределения. После смоделированной траектории новая позиция и импульс принимаются или отклоняются с помощью шага Метрополиса, который корректирует ошибку дискретизации. Ключевой момент в том, что динамика обратима и сохраняет объём, поэтому алгоритм сходится к правильному распределению. Градиент направляет траекторию в области высокой вероятности, позволяя совершать большие прыжки.
Это алгоритм выборки по умолчанию в языках вероятностного программирования, таких как Stan и PyMC, используемый для подгонки сложных байесовских моделей в социальных науках, биологии и финансах.
«Гамильтонов» в названии относится к переформулировке классической механики Уильямом Роуэном Гамильтоном, которую алгоритм заимствует, превращая выборку в физическое моделирование.
