Карта причин без вмешательства ✎

Оригинал: "A Framework for Causal Discovery in non-intervenable systems"
arXiv:2010.02247 · 2020-10-05 · arXiv non-exclusive · собственный разбор · 3 мин
Новый метод раскладывает причинно-следственные связи в сложных системах на прямые и совместные вклады, даже когда эксперименты невозможны.

Контекст

Задача выявления причин и следствий в сложных системах, таких как климат или мозг, долго упиралась в ограничение: большинство методов требовали либо вмешательства в систему, либо представления связей в виде простых графов. Однако многие природные системы не допускают вмешательств, а их взаимодействия слишком богаты для графов, где связи только парные. Рядом с этой работой в архиве стоят исследования квантовых карт-детективов и невидимых связей в генных сетях, но они касаются других объектов. Данная статья заполняет пробел, предлагая единый каркас для невмешательных систем с полиадическими взаимодействиями, когда несколько причин действуют совместно.

Методы

Авторы строят каркас на основе теории информации, но вместо энтропии вводят «уверенность» (certainty) — неотрицательную меру того, насколько мы знаем процесс, относительно широкого эталонного распределения. Полная взаимная информация между целью и всеми драйверами раскладывается на прямые вклады каждого драйвера (1link) и совместные вклады пар, троек и так далее, с вычитанием вкладов низших порядков для избежания двойного счёта. Вклады нормируются на условную уверенность, что даёт причинную силу в процентах и позволяет сравнивать разные исследования. Для оценки информационных мер используется алгоритм k ближайших соседей, а эталонным распределением выбрано распределение Коши с шириной, согласованной с энтропией гауссова распределения данных.

Результаты

На простых линейных и нелинейных моделях каркас корректно выявил прямые и опосредованные связи, а также вклады неизвестных процессов. Например, в модели с вентилем (y → z → x) метод показал, что y влияет на x только через z, а в модели с общим драйвером (y ← z → x) причинная сила y оказалась нулевой. На хаотической системе Лоренца 1963 года метод обнаружил, что совместные вклады (2links) намного сильнее прямых: знание x и y вместе даёт в 9 раз больше информации о будущем x, чем знание только x. Применение к данным Эль-Ниньо (индексы Niño3.4, U850, U200, HEAT за 1979–2019) показало, что наибольший вклад в температуру поверхности океана вносит теплосодержание верхних 300 метров (25% причинной силы), а совместные взаимодействия усиливают вклад каждого фактора примерно вдвое по сравнению с прямыми связями.

Значение

В отличие от соседних работ, которые либо ограничены направленными ациклическими графами, либо не дают полной декомпозиции, этот каркас впервые позволяет разложить причинное влияние на все порядки взаимодействий и оценить вклад неизвестных процессов без дополнительных данных. Это шаг от бинарных связей к полиадическим, что важно для физики атмосферы, океана и других систем с сильными обратными связями. Метод также показывает, что игнорирование совместных вкладов может изменить порядок важности драйверов.

Развитие

Каркас может быть расширен на нестационарные временные ряды, например для изучения изменений климата или финансовых режимов. Авторы планируют добавить байесовскую оценку неопределённости, чтобы проверять гипотезы о нулевой причинной силе. Также перспективно объединение с методами символического переноса энтропии для нестационарных данных.

Влияние

Метод применим в науках о Земле (климат, океан), астрофизике, нейробиологии и других областях, где доступны только временные ряды наблюдений и вмешательства невозможны.

Следующие шаги

Ближайшие шаги включают разработку байесовской версии для оценки неопределённостей и адаптацию к нестационарным рядам, а также более глубокое изучение физического смысла совместных вкладов на реальных данных.

Ключевые проблемы

В статистике и машинном обучении остаётся открытым вопрос о том, как определять причинность в системах с непрерывным множеством признаков и без вмешательств. Данная работа напрямую связана с проблемой идентифицируемости причинных структур по наблюдательным данным и с ограничениями графических моделей.

На модели Лоренца 1963 года метод показал, что знание координаты x и y вместе даёт в 9 раз больше информации о будущем x, чем знание только x, хотя в уравнении для x переменная y отсутствует.

Ключевые числа

  • причинная сила теплосодержания океана для Эль-Ниньо: 25%
  • усиление вклада драйверов за счёт совместных взаимодействий: примерно в 2 раза
  • рост информации о будущем x при знании x и y вместо только x: в 9 раз
  • количество вычисляемых взаимных информаций для N драйверов: 2^N
  • длина временного ряда для анализа Эль-Ниньо: 492 месяца
Понятия
причинность вероятностная модель сложные системы гауссовский процесс открытие лекарств теория причинных множеств теория вероятностей распознавание образов научные открытия с помощью нейронных сетей проверка нулевой гипотезы вероятностный прогноз диагноз классификация кластеризация дизайн лекарств сеть нелинейный спектральный анализ Лапласиана причинность по Грейнджеру байесовское свидетельство эпидемическая модель