Байесовский вывод — это статистический метод, который обновляет вероятность гипотезы по мере поступления новых данных.Байесовский вывод — математический метод оценки вероятности гипотезы на основе новых наблюдений. Он требует трёх компонентов: априорной вероятности (изначальная степень доверия к гипотезе), функции правдоподобия (насколько вероятны данные при верной гипотезе) и нормировочной константы (общая вероятность данных при всех возможных гипотезах). Результатом является апостериорная вероятность — то, во что вы верите после учёта улик. В отличие от классической статистики, байесовский подход напрямую отвечает на вопрос «какова вероятность, что гипотеза верна при этих данных?», а не «какова вероятность получить такие данные, если гипотеза верна?».
Теорема Байеса была впервые сформулирована в посмертно опубликованной работе Томаса Байеса (1763), а затем независимо переоткрыта и распространена Пьером-Симоном Лапласом в 1774 году. Лаплас применил её к оценке массы Сатурна и к демографическим исследованиям. В XX веке интерес возродился благодаря работам Гарольда Джеффриса, который ввёл неинформативные априорные распределения, и Леонарда Сэвиджа, разработавшего аксиоматику субъективной вероятности. С появлением мощных вычислительных методов, таких как алгоритм Метрополиса-Гастингса (1970) и Гиббс-сэмплинг, байесовский вывод стал применим к сложным моделям в науках о данных.
Вывод опирается на теорему Байеса: P(H|D) = P(D|H) * P(H) / P(D), где H — гипотеза, D — данные. P(H) (априорная) отражает начальную степень доверия, P(D|H) (правдоподобие) — вероятность получить данные D, если H верна, P(D) — маргинальная вероятность данных, играющая роль нормировки. На практике прямое вычисление знаменателя, интеграла по всем гипотезам, часто невозможно, и прибегают к методам Монте-Карло по схеме марковских цепей (MCMC) для аппроксимации апостериорного распределения. Современные пакеты, такие как Stan и PyMC, автоматизируют эти вычисления.
Спам-фильтры учатся на ваших пометках, медицинские тесты уточняют диагноз по новым симптомам.
Британский код-брейкер Алан Тьюринг во время Второй мировой войны использовал байесовские методы для расшифровки «Энигмы», присваивая различным настройкам машины вероятности на основе перехваченных сообщений.
| B | переменная | байесовский фактор — фактор Байеса |
| D_k | переменная | k-я точка данных — данные |
| H_1 | переменная | альтернативная гипотеза — гипотеза |
| H_0 | переменная | нулевая гипотеза — гипотеза |
| N | переменная | число точек данных — объём выборки |
| ∏ | оператор | перемножение членов для k от 1 до N — оператор произведения |
| Z | переменная | Байесовское свидетельство (маргинальное правдоподобие) — байесовское свидетельство |
| Θ | переменная | Вектор параметров — parameter vector |
| L(Θ) | переменная | Функция правдоподобия — likelihood function |
| π(Θ) | переменная | Априорная плотность вероятности — prior probability density |
| ∫ | оператор | Интегрирование по пространству параметров — интегральный оператор |
| dΘ | оператор | Бесконечно малый элемент объёма — volume element |
| p(x) | переменная | Плотность вероятности распределения p — probability density |
| q(x) | переменная | Плотность вероятности распределения q — probability density |
| x | переменная | Переменная интегрирования (выборочное пространство) |
| ∫ | оператор | Интегрирование по выборочному пространству — интегральный оператор |
| P(A|B) | переменная | Условная вероятность A при условии B — conditional probability |
| P(B|A) | переменная | Условная вероятность B при условии A — conditional probability |
| P(A) | переменная | Маргинальная вероятность A — вероятность |
| P(B) | переменная | Маргинальная вероятность B — вероятность |















