Причи́нно-сле́дственный ана́лиз (, ) — процесс выяснения действительных причин тех или иных явлений или наблюдений. Основные вопросы причинно-следственного анализа — почему что-то происходит и что можно сделать, чтобы изменить результат.
Ассоциация и причинность Стандартный статистический анализ выводит ассоциативные зависимости между переменными. Вместе с тем, совместное распределение двух переменных, таких как наличие симптомов и наличие болезни, не позволяет утверждать, что изменение одной переменной (лечение симптомов) позволит изменить другую (вылечить болезнь). Это выражается известной формулой «корреляция не означает причинно-следственной связи». На практике ассоциация двух величин может быть вызвана другими причинами, например, третьими величинами. Это делает причинно-следственный анализ особенно важным, так как он позволяет отличать между собой простые корреляции от действительных причинно-следственных связей.
Фундаментальной проблемой анализа причинно-следственных связей является невозможность наблюдать одновременно наличие и отсутствие воздействия на исследуемый объект. Из-за этого нельзя определить индивидуальный эффект воздействия, так как мы можем наблюдать только один из возможных исходов.
Пусть — наличие воздействия (лечения, вмешательства) на объект , — значение результирующей переменной при наличии воздействия на объект, — значение результирующей переменной при отсутствии воздействия. Тогда определяется средний эффект воздействия (, ):
Более простой для оценки величиной является средний эффект воздействия для тех, кто подвергся воздействию (, ):
На первый взгляд, ATE можно оценить, сравнив средние значения для объектов, подвергшихся и не подвергшихся воздействию. Однако, это является ошибкой. Значение выражает ассоциацию. Прибавим и вычтем значение — контрафактический результат:
Первое слагаемое соответствует ATT, а последующие дают смещение. Оно обусловлено различиями между двумя группами объектов в ситуации отсутствия воздействия. Отсюда можно сделать вывод, что ассоциация является причинно-следственной связью, если — то есть, до начала воздействия обе группы одинаковы.
Методы
Графовые модели
Своеобразным языком причинности выступают графовые модели. Каждая вершина соответствует случайной величине, а рёбра выражают причинно-следственные связи между ними.
Основные структуры, выделяемые в графовой модели:
Цепочка является причиной , является причиной Вилка Одна и та же переменная является причиной двух других переменных Коллайдер Переменная, на которую влияют две переменные
Одним из важнейших предположений, необходимых для корректности причинно-следственного вывода, является условная независимость переменных. Условную независимость переменных можно определить по графу, воспользовавшись понятием d-отделимости. Набор вершин называется блокирующим путь , если верно одно из условий:
содержит вершину из , из которой исходят дуги; содержит коллайдер вне , у которого нет потомков из .
Если блокирует все пути из в , то оно называется d-отделяющим и , и в таком случае .
Графовые модели позволяют выяснить природу смещения и определить средства, необходимые для его корректировки.
Смещение из-за спутывающих факторов Спутывающий (искажающий) фактор возникает, когда воздействие и результат имеют общую причину. Смещение из-за отбора Смещение из-за отбора возникает, когда мы учитываем больше переменных, чем следовало бы. Проблемными оказываются условия, являющиеся общими следствиями или медиаторами.
Вмешательства и структурный подход
В идеале мы хотим узнать, что бы произошло, если бы мы применили одно воздействие, а что бы произошло, если бы мы применили другое воздействие. В таких случаях мы производим вмешательство в систему, фиксируя значения «лечения». В таком сценарии поведение системы меняется. Распределение вероятностей в этом случае обозначается как , где обозначает факт вмешательства. В графе в таком случае все дуги, указывающие на , удаляются.
Другой способ записать вмешательства предоставляет структурный подход. Его центральной идеей является запись общих характеристик зависимости без конкретной функциональной формы. Так, можно записать:
Здесь обозначают совместно независимые переменные с произвольным распределением. Они представляют неизвестные факторы. Вмешательство показывается заменой функциональной зависимости на присвоенное значение (например, ).
Понятие вмешательства позволяет записать формулу корректировки для переменной , определяющей группу, к которой принадлежит объект:
Мера склонности Формула корректировки работает, только если верно предположение о положительности: . Оно эквивалентно утверждению, что для каждого объекта можно найти объект с похожими характеристиками, воздействие на который было противоположным. Эти соответствия можно определить при помощи меры склонности (или оценки склонности, ). Формально, она отражает вероятность, что любой объект с теми же характеристиками получит определённое воздействие.
Для достижения независимости результатов воздействия достаточно поставить условием именно оценку склонности: , где — оценка склонности. Также мера склонности используется для взвешивания тестовой и контрольной групп в эксперименте.
Мера склонности предоставляет визуальный способ оценить соблюдение предположения о положительности: выяснить, где перекрываются носители распределений мер склонности для групп:
Если носители не пересекаются, то вычисление ATE невозможно; Если имеется полное перекрытие носителей, то можно безопасно продолжать вычисление ATE; Если пересечение наблюдается для подмножества объектов, то можно продолжить исследование именно на этом подмножестве.
Также с помощью меры склонности можно переписать формулу корректировки (здесь — вектор искажающих факторов, а — мера склонности):
Инструментальные переменные
Использование формулы корректировки в случаях, когда искажающие факторы не наблюдаются, может привести к неверным выводам. В таких случаях может оказаться полезным метод инструментальных переменных (IV). Для его применения необходимо наличие инструмента — переменной, которая влияет на переменную воздействия и коррелирует с переменной результата только через неё.
Формально, пусть — инструмент, — переменная воздействия, — исход, — ненаблюдаемые искажающие факторы. Ключевыми предположениями, необходимыми для применения IV, являются:
Релевантность оказывает влияние на Экзогенность На не влияют никакие факторы из Исключительность Всё влияние на оказывается через
Тогда можно оценить эффект по , масштабировать его по эффекту на и получить эффект .
Метод разности разностей В ряде задач имеются периоды до и после вмешательства, и требуется отделить его влияние от общего тренда. Пусть — потенциальный результат воздействия в момент времени . Если бы была возможность наблюдать контрафактический результат, то мы бы оценили эффект интервенции как . Поскольку его измерить нельзя, можно сравнить результаты до и после интервенции: .
Однако, в случае наличия тренда у результирующей переменной вывод получится неверным. Тогда можно сравнить тестовую и контрольную группы после интервенции: . Но этот подход будет верным, если тестовая и контрольная группы сопоставимы.
Метод разности разностей учитывает обе возможные проблемы:
Метод получил название за счёт того, что в нём из разницы средних значений в тестовой группе до и после интервенции вычитается разница в контрольной группе.
Синтетический контроль Метод разности разностей даёт смещённый результат, если тренд в тестовой группе отличается от тренда в контрольной. В таком случае одним из решений оказывается синтетический контроль.
Синтетический контроль определяется как средневзвешенное значение для объектов в контрольной группе. Пусть мы подействовали на объект из объектов. Определим как потенциальный результат без вмешательства, а — как потенциальный результат с вмешательством. Тогда оценку можно получить, задав веса , как:
Веса в синтетическом контроле можно оценить с помощью линейной регрессии на значениях до вмешательства.
Синтетический контроль основывается на ряде предположений, которые обязательно должны выполняться для его хорошей работы. Пусть — временной ряд результатов, в момент времени происходит событие, чей причинный эффект мы оценивает, а — другой временной ряд, выступающий в роли контрольного. Тогда должно быть верно:
можно использовать для создания модели, прогнозирующей на данных до ; событие в момент не влияет на контрольный ряд; никакие события, кроме исследуемого, не искажают связь между и .
Связь с машинным обучением И машинное обучение, и причинно-следственный анализ моделируют связи между переменными. Однако, они делают это принципиально разными методами с принципиально разными целями. Тем не менее, они могут дополнять друг друга. Например, методы машинного обучения могут быть полезными при наличии большого количества искажающих факторов, которые нужно учесть.
Причинно-следственный анализ влияет на ряд областей машинного обучения.
Обучение с подкреплением Обучение с подкреплением выбирает поведение, оптимизирующее целевую функцию, в то время как причинно-следственный анализ выясняет, что было бы в других условиях. Тем самым, они охватывают разные стороны одного и того же: контрафактических связей. Справедливость Применение моделей машинного обучения в таких областях, как медицина, поддержание правопорядка, образование и финансы, сталкивается с вопросами справедливости, когда на исторические данные оказывали влияние раса, пол, сексуальная ориентация и другие признаки. Причинно-следственный анализ позволяет выявить такие отклонения и избежать тем самым дискриминации. Ложные корреляции Модели могут основывать свои прогнозы на ложных корреляциях. Причинно-следственный анализ позволяет влияние таких корреляций уменьшить, тем самым позволяя обобщение на область вне обучающих данных. Обработка естественного языка Исследование причинности в обработке естественного языка представляет из себя малоизученную, но активно развивающуюся область. Текст может представлять из себя воздействие, исход или искажающий фактор, и тем самым представлять объект изучения причинно-следственного анализа. Методы NLP, в особенности большие языковые модели, могут быть полезными при решении задач причинно-следственного анализа. Объяснимость Причинно-следственный анализ может быть полезен для интерпретации результатов работы модели и понимания, почему она работает именно так.
Причинно-следственный анализ в науке
Эпидемиология С XIX века для определения причинно-следственной связи между микроорганизмом и болезнью использовались постулаты Коха. В 1965 году были сформулированы критерии Брэдфорда Хилла для выявления причинно-следственных связей в эпидемиологических данных.
Причинно-следственный анализ также применяется для определения эффективности лечения. Если положительный эффект не гарантирован, решение о назначении лечения принимается на основе экспертных знаний о причинно-следственных связях, которых может не быть для новых болезней. В таких случаях для построения причинно-следственной модели может быть полезно машинное обучение.
Общественные науки В общественных науках наблюдается тенденция к учёту количественных показателей при определении причинности, что позволяет улучшить качество выводов. В публикации «» авторы настаивали на необходимости внедрения статистических методов в исследования. Учёные разработали инструменты, позволяющие осуществлять причинно-следственный анализ с использованием и качественных, и количественных подходов .
В экономике и политологии причинно-следственный анализ оказывается особенно трудным из-за сложности политических и экономических явлений и невозможности воссоздать многие из них в экспериментах. Вместе с тем, методология и строгость причинно-следственных выводов постепенно улучшаются за счёт развития технологий, увеличения количества исследователей и улучшения методов.