МЕТОДЫ ИЗВЛЕЧЕНИЯ ПРИЧИННОСТИ ИЗ ДАННЫХ НАБЛЮДЕНИЙ В ПРАКТИКЕ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА
Аннотация
Обсуждается значимость извлечения причинно-следственных связей в машинном обучении для принятия решений и оценки воздействия на реальный мир. Отмечается, что большинство текущих успехов в машинном обучении основаны на огрубленном распознава- нии образов и корреляционном анализе, но для более сложных задач необходимо извлекать причинно-следственные связи. Декларируется что проблемы объяснимости прогнозов и причинно-следственного понимания, даже с применением передовых методик машинного обучения LIME, SHAP, TreeSHAP, DeepSHAP, Shapley Flow, являются фундаментальными препятствиями в развитии искусственного интеллекта. В статье кратко раскрываются основные философские математические концепции и определения причинности, включая понятия контрфактуалов, байесовских сетей, направленных ациклических графов и при- чинно-следственного формального вывода. Делается вывод о том, что практическая зна- чимость базирующегося на данных причинно-следственного анализа, состоит в ответах на априори сформулированные вопросы, которые могут отражать гипотетическую связь между событием (причиной) и вторым событием (следствием), где второе событие явля- ется прямым следствием первого. Далее производится сравнительный анализ способов и основных сценариев использования фреймворков ausal Discovery и ausal Inference, на базе которых возникает возможность сделать предположения о расположенной в основе ис- следуемого набора данных причинно-следственной структуре и задействовать статисти- ческие методы для оценки силы и направления таких связей. В статье также обсуждают- ся методы и алгоритмы причинно-следственного анализа и их применение в реальных зада- чах. Упоминаются репрезентативные методы, такие как модели на основе ограничений, модели на основе оценок и функциональные каузальные модели, тесты (условные) на неза- висимость, оценочные функции, всё то что может быть задействовано для решения про- блемы извлечения причинно-следственных связей из обсервационных данных, большинство которых реализовано в open-source фреймворки, таких как Microsoft DoWhy, Uber CausalML, causal-learn, Econ-ml и многие другие, которые реализуют большинство упомя- нутых методов причинно-следственного анализа.
