Как найти переломы в случайном потоке данных ✎

Оригинал: "Multiple Change Point Analysis: Fast Implementation And Strong Consistency"
arXiv:1605.00346 · 2016-05-02 · arXiv non-exclusive · собственный разбор · 2 мин
Математики научились быстро и надёжно определять моменты, когда поведение временного ряда меняется.

Контекст

Обнаружение структурных изменений во временных рядах важно для сетевой безопасности, финансов и климатологии. Классические подходы либо предполагают независимость наблюдений, либо требуют больших вычислительных затрат для зависимых данных. Работа стоит особняком от соседних исследований, которые изучают квантовые аналоги, случайность в эволюции или выбор моделей: здесь фокус на быстром алгоритме для авторегрессионных процессов и строгом доказательстве состоятельности критерия выбора числа сегментов.

Методы

Авторы моделируют данные как кусочно-авторегрессионный процесс: каждый сегмент описывается своей линейной авторегрессией. Чтобы справиться с зависимостью, они разбивают ряд на окна, оценивают коэффициенты авторегрессии в каждом окне и получают последовательность почти независимых многомерных точек. Затем применяют алгоритм с несколькими размерами окон, который объединяет результаты и выдаёт узкие интервалы, содержащие точки смены. Для выбора числа точек используется штрафной критерий: сумма квадратичных потерь внутри сегментов плюс штраф за каждую точку.

Результаты

Для независимых данных доказано, что штраф порядка логарифма от логарифма размера выборки гарантирует сильную состоятельность, то есть почти наверняка выбирает истинное число точек смены. Критерий типа AIC с постоянным штрафом всегда даёт ненулевую вероятность переобучения. Для субгауссовских данных штраф порядка логарифма размера выборки обеспечивает сильную состоятельность и точность локализации точек смены с ошибкой не более чем порядка логарифма. На синтетических данных метод точнее и быстрее бинарной сегментации. На температуре востока США за 1895–2015 годы найдены точки смены в 1901, 1929, 1944, 2009 и 2012 годах, совпадающие с фазами Атлантической мультидекадной осцилляции. В индексе Эль-Ниньо за 1854–2015 годы обнаружен сдвиг около 1979 года, связанный с Тихоокеанской декадной осцилляцией.

Значение

Работа отличается от соседних исследований строгим доказательством сильной состоятельности для задачи выбора числа точек смены в зависимых временных рядах. Ранее такие гарантии были известны лишь для частных случаев, а здесь они получены при мягких условиях. Это даёт теоретическую основу для применения штрафных критериев в практических задачах анализа временных рядов.

Развитие

Метод можно распространить на другие функции потерь и более сложные структуры данных, например, на многомерные ряды с корреляцией между компонентами. Возможно ускорение за счёт параллельных вычислений для массивных наборов данных. Открытым остаётся вопрос о минимальном штрафе, гарантирующем сильную состоятельность в общем случае.

Влияние

Результаты применимы в климатологии, финансах, сетевой безопасности и нейронауках, где важно быстро находить моменты смены режима в длинных временных рядах.

Следующие шаги

Проверить метод на других реальных данных, например, в анализе электроэнцефалограмм или сетевого трафика. Исследовать адаптивный выбор размеров окон для улучшения точности.

Ключевые проблемы

В статистике временных рядов остаётся открытым вопрос о выборе числа точек смены для сильно зависимых данных без параметрических предположений. Работа вносит вклад в теорию штрафных критериев, но не решает проблему полностью для нестационарных процессов с медленно меняющимися параметрами.

Температура востока США за последние 120 лет меняла свой режим всего пять раз, и эти смены совпадают с фазами Атлантической мультидекадной осцилляции, которая длится по 20–40 лет.

\hat{M} = \arg\min_{k=0,\ldots,M} (\hat{e}_k + k f(N))
Число точек смены выбирается так, чтобы минимизировать сумму потерь внутри сегментов и штрафа за каждую точку.
\mathrm{Loss}_q(x_{\ell_{j-1}+1},\ldots,x_{\ell_j}) = \sum_{n=\ell_{j-1}+1}^{\ell_j} |x_n - \bar{x}|^2
Потери равны сумме квадратов отклонений точек сегмента от их среднего.

Ключевые числа

  • Число точек смены в температуре востока США: 5
  • Год смены режима в индексе Эль-Ниньо: 1979
  • Длина ряда температуры востока США: 121 год
  • Длина ряда Эль-Ниньо: 162 года
  • Порядок штрафа для сильной состоятельности: логарифм от логарифма размера выборки
Понятия
информационный критерий линейная регрессия случайный лес авторегрессионная модель реанализ IRI динамические системы стохастические процессы анализ главных компонент сезонный цикл анализ независимых компонент статистический метод точность предсказаний эталон линейная инверсная модель ретроспективный прогноз вероятностный прогноз перекрёстная проверка климат стохастическое моделирование