Стохастический процесс, используемый как непараметрический байесовский метод для моделирования неизвестных функций.Гауссовский процесс — это мощный статистический инструмент для моделирования неизвестных функций, который естественным образом учитывает неопределённость. Вместо того чтобы давать единственную наилучшую оценку функции, он предоставляет полное распределение вероятностей по возможным функциям, согласующимся с наблюдаемыми данными. Это делает его краеугольным камнем непараметрических байесовских методов, где сложность модели растёт с объёмом данных, а не задаётся заранее.
Концепция была формализована в 1940-х годах математиком Норбертом Винером и другими, но её современное использование в машинном обучении популяризировали Карл Эдвард Расмуссен и Кристофер К. И. Уильямс в своей книге 2006 года.
Гауссовский процесс задаёт распределение по функциям, определяя функцию среднего и ковариационную функцию (ядро). Ядро кодирует предположения о гладкости, периодичности или других свойствах функции. Когда наблюдаются точки данных, процесс обновляет распределение, давая апостериорное распределение, которое позволяет предсказывать значения в новых точках вместе с мерой неопределённости. Эта неопределённость ключевая: она уменьшается вблизи наблюдаемых данных и растёт в неизученных областях, что позволяет принимать обоснованные решения.
Гауссовские процессы используются в байесовской оптимизации для настройки гиперпараметров, в геостатистике для интерполяции пространственных данных (кригинг) и в робототехнике для обучения политик управления на основе данных.
Гауссовские процессы можно рассматривать как бесконечномерное обобщение многомерного нормального распределения, где любое конечное множество точек следует совместному гауссовскому распределению.











