Une classe de modèles génératifs qui transforment une distribution simple en une distribution complexe via des transformations inversibles.Les flots normalisants sont une classe de modèles génératifs qui transforment une distribution de probabilité simple, comme une gaussienne, en une distribution complexe via une séquence de transformations inversibles. Ils sont utilisés en apprentissage automatique pour modéliser et échantillonner des distributions de données de grande dimension, telles que des images, de l'audio ou des structures moléculaires. La propriété clé est que les transformations sont inversibles et différentiables, ce qui permet un calcul exact de la vraisemblance.
Le concept a été introduit en 2015 par Danilo Rezende et Shakir Mohamed, qui se sont appuyés sur des travaux antérieurs en analyse en composantes indépendantes non linéaire et en estimation de densité. Il a gagné en popularité avec le développement d'architectures efficaces comme RealNVP (2016) et Glow (2018).
Un flot normalisant commence avec une distribution de base simple (par exemple, une gaussienne multivariée) et applique une série de fonctions inversibles, chacune avec un déterminant jacobien calculable. Grâce à la formule du changement de variables, la densité de probabilité des données transformées peut être calculée exactement. L'entraînement consiste à ajuster les paramètres de ces transformations pour maximiser la vraisemblance des données observées. L'échantillonnage se fait en tirant des échantillons de la distribution de base et en les faisant passer à travers le flot.
Les flots normalisants sont utilisés pour l'estimation de densité, la détection d'anomalies et la modélisation générative, notamment pour générer des images réalistes, la synthèse audio et la conception de nouvelles molécules dans la découverte de médicaments.
Les flots normalisants peuvent être utilisés pour calculer la vraisemblance exacte d'un ensemble de données, ce qui est rare parmi les modèles génératifs—la plupart des autres, comme les GAN, ne fournissent que des distributions implicites.












