
Статистический метод оценки параметров путём максимизации функции правдоподобия.Метод максимального правдоподобия (ММП) — краеугольный камень статистического вывода. Он даёт принципиальный способ выбора параметров распределения вероятностей, которые наилучшим образом объясняют наблюдаемые данные. Для заданного набора точек данных и кандидатной модели (например, нормального распределения с неизвестными средним и дисперсией) ММП выбирает такие значения параметров, при которых наблюдаемые данные наиболее вероятны в рамках этой модели. Эта «наибольшая вероятность» количественно выражается функцией правдоподобия, которая показывает, насколько вероятны данные как функция параметров.
Метод был введён Рональдом Фишером в 1920-х годах, опиравшимся на более ранние работы Карла Фридриха Гаусса и других. Фишер формализовал концепцию и установил её желательные свойства, такие как состоятельность и эффективность.
Функция правдоподобия L(θ | данные) строится как произведение вероятностей (или плотностей вероятности) каждой наблюдаемой точки данных при заданном векторе параметров θ. ММП находит θ, максимизирующий это произведение. На практике часто максимизируют логарифмическое правдоподобие (натуральный логарифм L), поскольку оно превращает произведение в сумму, которую легче дифференцировать и которая численно устойчива. Максимум находят, приравнивая производную логарифмического правдоподобия по θ к нулю и решая уравнение, либо используя итеративные численные алгоритмы оптимизации, когда аналитического решения не существует.
ММП повсеместно используется в науке и технике: он лежит в основе регрессионного анализа, обучения нейронных сетей (через функцию потерь кросс-энтропии) и оценки параметров в физических экспериментах — от физики частиц до космологии.
ММП не всегда несмещён: например, оценка дисперсии нормального распределения по методу максимального правдоподобия смещена вниз на множитель (n-1)/n, поэтому выборочная дисперсия использует n-1.

















