метод

нормирующие потоки

Класс генеративных моделей, которые преобразуют простое распределение в сложное с помощью обратимых отображений.
28 статей

Описание

Нормализующие потоки — это класс генеративных моделей, которые преобразуют простое распределение вероятностей, например гауссово, в сложное с помощью последовательности обратимых отображений. Они используются в машинном обучении для моделирования и выборки из многомерных распределений данных, таких как изображения, аудио или молекулярные структуры. Ключевое свойство состоит в том, что преобразования обратимы и дифференцируемы, что позволяет точно вычислять правдоподобие.

История

Концепция была введена в 2015 году Данило Резенде и Шакиром Мохамедом, которые опирались на более ранние работы по нелинейному анализу независимых компонент и оценке плотности. Она приобрела популярность с развитием эффективных архитектур, таких как RealNVP (2016) и Glow (2018).

Как это работает

Нормализующий поток начинается с простого базового распределения (например, многомерного гауссова) и применяет серию обратимых функций, каждая из которых имеет вычислимый определитель Якоби. С помощью формулы замены переменных плотность вероятности преобразованных данных может быть вычислена точно. Обучение включает настройку параметров этих преобразований для максимизации правдоподобия наблюдаемых данных. Выборка осуществляется путем извлечения из базового распределения и пропускания через поток.

Где применяется

Нормализующие потоки используются для оценки плотности, обнаружения аномалий и генеративного моделирования, включая создание реалистичных изображений, синтез аудио и проектирование новых молекул в открытии лекарств.

Любопытный факт

Нормализующие потоки могут использоваться для точного вычисления правдоподобия набора данных, что редко встречается среди генеративных моделей — большинство других, таких как GAN, предоставляют только неявные распределения.

Граф понятий →

Статьи по теме · 28

Как услышать форму невидимого роя
Переводчик учит язык не по словарю, а по живым разговорам: он слышит обрывки фраз, шум улицы, разные акценты. Из этого хаоса он собирает правила, которые не записаны ни в одной книге. Так и здесь: вместо того чтобы втискивать массы чёрных дыр в заранее готовую форму, нейросеть слушает сами сигналы и сама выводит, как эти массы распределены.
Деление, сохраняющее непрерывность памяти
Удержать в голове точное положение ручки, пока её медленно двигают, — для мозга рядовая задача. Для искусственных нейросетей она почти невыполнима. Обычные рекуррентные сети, такие как GRU (Gated Recurrent Unit) и LSTM (Long Short-Term Memory), склонны разбивать непрерывное движение на жёсткие ступеньки: ручка не ползёт плавно, а перескакивает из точки в точку.
Геофизика2026-07-232 минarXiv:2607.21854экспресс
Сейсмическое эхо рассказывает о невидимых потоках
Бассейн с мокрым песком. Вы нажимаете в одном углу — и вода начинает двигаться. Но как именно? Вместо ровного круга она может растекаться языками, надолго задерживаться в одних местах и стремительно проскакивать другие. Под землёй происходит то же самое: нефть, вода или газ мигрируют сквозь породы не по учебнику, а подчиняясь хаосу трещин и неоднородностей.
Читая космический палимпсест: redshift-томография неразрешённых галактик
Оптический фон неба — это космический палимпсест, где свет миллиардов неразрешённых галактик накладывается слоями, соответствующими разным эпохам. До сих пор мы различали только самые яркие «буквы» — отдельные звёзды и близкие галактики.
Популяции и эволюция2026-07-161 минarXiv:2607.14653экспресс
Почему гены нарушают родословное древо
Представьте кулинарную книгу, которая переписывается от поколения к поколению. Однажды рецепт борща получает секретный ингредиент от кондитера — и с этого момента вкус помнит не только предков, но и соседа. В стандартной модели эволюции гены ведут себя так же. Гены — это инструкции для организма, своего рода молекулярные рецепты.
Машинное обучение2026-07-151 минarXiv:2607.13436экспресс
Алгоритм-имитатор с «чёрными дырами» отталкивания обходит зоны неопределённости
Когда беспилотный летательный аппарат обучается у опытного пилота, он запоминает не отдельные манёвры, а целые безопасные коридоры — траектории, по которым двигался человек-наставник. Такой подход называется имитационным обучением (imitation learning): машина подражает демонстрациям эксперта.
Машинное обучение2026-07-142 минarXiv:2607.12382экспресс
gradCSCG: как алгоритм строит карту помещения, подражая ребёнку и нейронам мозга
Ребёнок, осваивая незнакомую квартиру, ползает от предмета к предмету и запоминает, что видно из каждого угла. Так мозг строит мысленную карту — внутреннюю модель пространства. Алгоритм gradCSCG действует по тому же принципу: он получает видеопоток с камеры и самостоятельно рисует схему помещения, опираясь лишь на смену картинок.
Почему разные системы ведут себя одинаково
Снежинка растёт, нефтяное пятно растекается, толпа движется — уравнения для каждого случая свои. Но финал часто один и тот же: форма, скорость, узор подчиняются простой, повторяющей себя на разных масштабах схеме. Это и есть универсальность — когда за деталями прячется общий закон.
Цифровой шлифовщик: как нейросеть раскрывает тайны двойных гравитационных линз
Гравитационное микролинзирование — удивительный космический эффект, предсказанный Эйнштейном и развитый Цвикки. Массивное тело, проходя между нами и далёкой звездой, искривляет её свет подобно линзе, создавая характерные усиления и искажения.
Симфония белых карликов: как нейросеть учится слышать гравитационную музыку LISA
Вселенная не молчит: она наполнена непрерывным гравитационно-волновым гулом. Через десятилетие космическая обсерватория LISA настроит свои «уши» на миллигерцовый диапазон, и самым богатым источником окажется наша Галактика — десятки тысяч пар белых карликов, кружащихся в стремительном танце.
Нейросеть обучается видеть невидимую поляризацию в гексагональных детекторах
Рентгеновские детекторы устроены подобно пчелиным сотам: в шестиугольных ячейках то здесь, то там регистрируются вспышки — следы попадания отдельных фотонов. Традиционные алгоритмы вынуждены растягивать эту естественную гексагональную структуру на прямоугольную сетку, что порождает артефакты — ложные призраки поляризации, искажающие реальную картину.
Световой конденсат учится рисовать цифры
Генеративные нейросети, создающие изображения, обычно полагаются на цифровую случайность. Но группа исследователей построила систему, где случайность рождается не в коде, а в крошечной оптической полости с органическим красителем.
Как найти порядок в хаосе, не зная правил игры
Горсть песка падает на стол — и каждая песчинка скатывается вниз, пока не замрёт в углублении. Так работает потенциал: поверхность стола подсказывает частицам, куда двигаться. Но в реке с водоворотами нет одной-единственной впадины, куда всё стремится. Вода кружится, возвращается, петляет. Для таких систем обычная карта «ям и холмов» не годится.
Как нейросеть подслушала шум жизни
Рост популяции со стороны похож на разгоняющийся поезд: сначала еле ползёт, потом набирает ход. Но стоит вглядеться в данные — и картинка расплывается. В одном замере десяток особей, в другом сразу сотня. Классические модели смахивают этот разброс как досадную грязь с объектива. Они считают, что шум везде одинаковый, и просто не обращают на него внимания.
Как собрать галактику за один шаг
Художник пишет портрет мазок за мазком, а потом ему предлагают фотоаппарат со вспышкой — один щелчок, и готово. Примерно так выглядит переход от многошаговых моделей к одношаговым в создании изображений галактик. Обычные нейросети для синтеза картинок работают как художник-акварелист: наносят слой, размывают, добавляют детали.
Сеть, где связи дружат тройками
На вечеринке гости не просто болтают парами, а собираются в кружки по интересам: трое обсуждают кино, четверо — спорт. Обычная схема знакомств, как список контактов в телефоне, такое не ухватит — она видит только связи «один на один». А ведь жизнь состоит из групповых взаимодействий: нейроны в мозгу срабатывают ансамблями, виды в экосистеме влияют друг на друга целыми сообществами.
Как Вселенная рождается из квантовой пустоты
Квантовое ничто — вакуум, пронизанный непрерывными флуктуациями полей, — напоминает воду в кастрюле перед закипанием. Время от времени в нём спонтанно вспухает пузырёк: только не пара, а целой вселенной. Такой пузырёк, вместо того чтобы схлопнуться, раздувается в пространство-время, запуская собственный Большой взрыв.
Гидродинамика2026-03-291 минarXiv:2603.27496экспресс
Как нейросеть учится видеть потоки
Вода в реке обтекает камни, воздух огибает крыло самолёта — эти движения описываются уравнениями, которые сложно решить даже на мощном компьютере. Нейросети умеют аппроксимировать такие решения, но часто ошибаются, когда данные собраны лишь в нескольких точках или зашумлены.
Почему нейроны не могут дружить со всеми подряд
Нейрон в мозге похож на человека, который раздаёт свои визитки на многолюдной конференции. Сначала он легко знакомится, но по мере заполнения записной книжки каждый новый контакт требует всё больше усилий — свободного места остаётся мало. Это правило «скученности» авторы положили в основу модели: чем больше входящих связей уже есть у нейрона, тем труднее сформировать ещё одну.
Нити, которые сами выбирают форму
Щупальце осьминога изгибается, хватает и тянется — и всё это без единой кости. Секрет в том, что внутри него чередуются участки, которые сокращаются, и участки, которые остаются пассивными. Учёные давно пытаются повторить этот трюк в искусственных материалах, но до сих пор не могли точно задать, как именно материал будет менять форму.
Химическая физика2026-02-281 минarXiv:2603.00614экспресс
Химическое пространство как конструктор
Раньше генеративные модели для поиска лекарств работали как художник, который рисует, не выбирая холст. Они учились на существующих молекулах и просто выдавали похожие, не задумываясь о том, как устроено само пространство возможных соединений. SpaceGFN меняет подход: теперь химическое пространство — это конструктор, где пользователь задаёт детали и правила сборки.
Как увидеть невидимое: протон без формул
Протон — не гладкий шарик, а клубок из кварков и глюонов, которые постоянно движутся и обмениваются энергией. Узнать, как именно распределены внутри него энергия, давление и спин, напрямую нельзя: измерения дают лишь редкие и зашумлённые точки. Это как пытаться угадать форму лица по нескольким размытым фотографиям с разных ракурсов.
Мезоскопика2026-01-192 минarXiv:2601.13229экспресс
Магнитные диски вместо микросхем
На столе лежит горсть круглых магнитиков. Пока их не трогают, они лежат как попало. Но стоит пустить через них короткий импульс тока — и каждый диск перещёлкивается: северный полюс меняется местами с южным. Соседние диски при этом толкают друг друга своими полями, как люди в тесной очереди, и вся горсть выстраивается в узор, который зависит от того, с какой стороны дул магнитный ветер и насколько тепло вокруг.
Гидродинамика2026-01-171 минarXiv:2601.11946экспресс
Секрет прозрачности: как нейросеть учится у воды
Вода в ручье огибает камни, но математика этого движения прячется в чёрном ящике — так работают обычные нейросети. Они дают ответ, но не говорят почему. Инженеры не могут доверять предсказанию, если не видят его хода. Гидродинамика получила прозрачную модель.
Линза, которая видит перекос: нелинейные модели климата
Очки с ровными стёклами показывают мир симметричным: подъём и спуск, тепло и холод выглядят одинаково. Климатологи десятилетиями смотрели на Эль-Ниньо через такие очки — линейные обратные модели. Они ловили ритм колебаний, но не видели, что тёплая фаза Эль-Ниньо обычно резче и сильнее холодной Ла-Нинья. Перекос оставался за гранью видимого.
Переводчик, который выучил диалект хаоса
Переводчик на конференции слышит шум зала, но продолжает переводить. Он не повторяет каждое слово, а находит промежуточный язык, где сложные фразы становятся простыми, но смысл не теряется. Так работает условная гауссова сеть Купмана: она учит нейросеть переводить хаотическую систему в форму, где прогноз и усвоение данных становятся быстрыми и точными.
Резервуар с поправкой: как предсказать шумный хаос
Переводчик, который научился исправлять собственные оговорки, работает точнее. В мире прогнозирования шумных процессов эту роль берёт на себя новый метод: резервуарный компьютер, который на каждом шаге добавляет к своему прогнозу случайную поправку. Раньше такие системы быстро сбивались, потому что шум копил ошибки, как переводчик, который не замечает своих оговорок, и к концу речи смысл терялся.
Как заставить свою модель платить за ошибки
Переводчик, который отвлекается на каждый шорох в зале, к концу совещания начинает путаться в словах. Его уверенность в собственной правоте растёт, а точность падает. Примерно так ведут себя плохо откалиброванные вероятностные прогнозы: модель заявляет высокую вероятность события, но реальность с ней не согласна.