Калибровка прогнозов: как выигрывать пари у собственной модели ✎

Оригинал: "Probabilistic Recalibration of Forecasts"
arXiv:1904.02855 · 2019-04-05 · arXiv non-exclusive · собственный разбор · 2 мин
Новый метод превращает плохо откалиброванные вероятностные прогнозы в честные, позволяя стабильно выигрывать пари у исходной системы.

Контекст

Работа стоит на отшибе: ближайшие соседи занимаются машинным обучением для крупномасштабной структуры Вселенной и гравитационных карт, тогда как здесь речь о калибровке вероятностных прогнозов. Вокруг уже умеют строить карты с честной неопределённостью и повышать точность предсказаний, но задача перекалибровки через пари и информационную теорию остаётся редкостью. Плохая калибровка — давняя головная боль прогнозирования: модель уверенно предсказывает дождь с вероятностью 80%, а дождь идёт лишь в половине таких случаев. Классические методы требуют независимых и одинаково распределённых данных, что редко выполняется на практике.

Методы

Авторы строят гауссовский процесс (GP) для оценки плотности вероятности PIT-значений скалярной прогнозируемой величины. PIT — это преобразование, которое переводит прогноз в равномерное распределение, если модель идеально откалибрована. GP-оценка плотности даёт замкнутую форму для энтропии распределения, а через неё — предсказание выигрыша в пари против исходной системы. Ключевая особенность: метод не требует i.i.d. предположения, что делает его применимым к временным рядам с зависимостями. Схема проверяется на двух кейсах: лабораторный нелинейный контур и сезонные прогнозы интенсивности Эль-Ниньо.

Результаты

Перекалиброванная система демонстрирует равномерное ожидаемое распределение PIT, что является признаком идеальной калибровки. В пари против исходной системы новая система стабильно выигрывает, причём выигрыш предсказуем через энтропийные меры. В лабораторном эксперименте с нелинейным контуром удалось добиться значительного улучшения калибровки по сравнению с базовой моделью. Для сезонных прогнозов Эль-Ниньо метод также показал превосходство, несмотря на сильную автокорреляцию в данных. Численные результаты подтверждают теоретические выкладки.

Значение

В отличие от соседних работ, которые фокусируются на точности предсказаний или честных картах неопределённости, эта работа вводит явный механизм пари как критерий качества прогноза. Это связывает калибровку с информационной теорией и теорией игр, открывая путь к новым методам оценки прогностических систем. Практическая значимость в том, что метод применим к широкому классу задач, включая климатические прогнозы и инженерные системы, где данные не являются i.i.d.

Развитие

Тема может развиваться в сторону адаптивных схем перекалибровки, которые обновляются в реальном времени по мере поступления новых данных. Возможно обобщение на многомерные прогнозы и на случаи, когда PIT-значения имеют сложную структуру зависимости. Интеграция с глубинными нейросетевыми моделями для оценки плотности также представляет интерес.

Влияние

Метод повлияет на метеорологию, климатологию, финансовое прогнозирование и любые области, где используются вероятностные прогнозы. Он также может изменить практику оценки моделей, сделав пари стандартным инструментом проверки.

Следующие шаги

Следующим шагом будет применение метода к более широкому кругу реальных прогностических систем, включая ансамблевые прогнозы погоды. Также стоит исследовать робастность к выбору ядра гауссовского процесса и к выбросам в данных.

Ключевые проблемы

В области вероятностного прогнозирования остаётся открытой проблема калибровки для зависимых данных. Данная работа напрямую решает эту проблему, предлагая метод, не требующий i.i.d. предположения. Это связывает её с фундаментальными вопросами оценки неопределённости в динамических системах.

Идея использования пари для проверки прогнозов восходит к работам Бруно де Финетти, который считал, что вероятность можно измерять через справедливые ставки. В данной работе этот принцип доведён до практической схемы перекалибровки.

Ключевые числа

  • количество кейсов: 2
  • ближайший сосед по архиву: 0.54
Понятия
вероятностный прогноз ансамблевый прогноз гауссовский процесс вероятностная модель апостериорное распределение нормирующие потоки предсказание бутстрэп складной нож (джекнайф) распределение Гаусса гиббсовская выборка авторегрессионная модель ошибка предсказания прогноз теория вероятностей регуляризация стохастическое моделирование перестановочный тест критерий отношения правдоподобия байесовский вывод