Un processus stochastique utilisé comme méthode bayésienne non paramétrique pour modéliser des fonctions inconnues.Un processus gaussien est un outil statistique puissant utilisé pour modéliser des fonctions inconnues en gérant naturellement l'incertitude. Au lieu de fournir une seule meilleure estimation d'une fonction, il propose une distribution de probabilité complète sur les fonctions possibles qui correspondent aux données observées. Cela en fait une pierre angulaire des méthodes bayésiennes non paramétriques, où la complexité du modèle croît avec la quantité de données, plutôt que d'être fixée à l'avance.
Le concept a été formalisé dans les années 1940 par le mathématicien Norbert Wiener et d'autres, mais son usage moderne en apprentissage automatique a été popularisé par Carl Edward Rasmussen et Christopher K. I. Williams dans leur livre de 2006.
Un processus gaussien définit une distribution sur les fonctions en spécifiant une fonction moyenne et une fonction de covariance (noyau). Le noyau encode des hypothèses sur la régularité, la périodicité ou d'autres propriétés de la fonction. Lorsque des points de données sont observés, le processus met à jour la distribution, produisant une distribution a posteriori qui peut prédire des valeurs en de nouveaux points ainsi qu'une mesure de l'incertitude. Cette incertitude est essentielle : elle se réduit près des données observées et augmente dans les régions inexplorées, permettant une prise de décision fondée sur des principes.
Les processus gaussiens sont utilisés en optimisation bayésienne pour le réglage des hyperparamètres, en géostatistique pour l'interpolation de données spatiales (krigeage), et en robotique pour apprendre des politiques de contrôle à partir de données.
Les processus gaussiens peuvent être vus comme une généralisation en dimension infinie de la distribution normale multivariée, où tout ensemble fini de points suit une distribution gaussienne jointe.










