Класс генеративных моделей, которые преобразуют простое распределение в сложное с помощью обратимых отображений.Нормализующие потоки — это класс генеративных моделей, которые преобразуют простое распределение вероятностей, например гауссово, в сложное с помощью последовательности обратимых отображений. Они используются в машинном обучении для моделирования и выборки из многомерных распределений данных, таких как изображения, аудио или молекулярные структуры. Ключевое свойство состоит в том, что преобразования обратимы и дифференцируемы, что позволяет точно вычислять правдоподобие.
Концепция была введена в 2015 году Данило Резенде и Шакиром Мохамедом, которые опирались на более ранние работы по нелинейному анализу независимых компонент и оценке плотности. Она приобрела популярность с развитием эффективных архитектур, таких как RealNVP (2016) и Glow (2018).
Нормализующий поток начинается с простого базового распределения (например, многомерного гауссова) и применяет серию обратимых функций, каждая из которых имеет вычислимый определитель Якоби. С помощью формулы замены переменных плотность вероятности преобразованных данных может быть вычислена точно. Обучение включает настройку параметров этих преобразований для максимизации правдоподобия наблюдаемых данных. Выборка осуществляется путем извлечения из базового распределения и пропускания через поток.
Нормализующие потоки используются для оценки плотности, обнаружения аномалий и генеративного моделирования, включая создание реалистичных изображений, синтез аудио и проектирование новых молекул в открытии лекарств.
Нормализующие потоки могут использоваться для точного вычисления правдоподобия набора данных, что редко встречается среди генеративных моделей — большинство других, таких как GAN, предоставляют только неявные распределения.












