A Causal Argumentation Method for Explainability of Machine Learning Models

Explainable AI (XAI) methods identify which features are relevant to a model's predictions but often fail to clarify why certain decisions are made. In this work, we present a novel method that integrates causality with argument-based reasoning to explain why models may be making predictions. Our approach first identifies causal relationships among variables using causal discovery methods and then translates these into a Bipolar Argumentation Framework (BAF) to represent supportive and opposing interactions among features. By using semi-stable semantics, we find extensions of features that explain why certain outcomes may have been chosen. We demonstrate our method on two benchmark datasets and compare its results against standard post-hoc explainability approaches.

📋 한 줄 요약

**[XAI / Causal Argumentation]** Causal discovery로 변수 인과관계 추출 후 Bipolar Argumentation Framework(BAF)로 번역·semi-stable semantics로 extension 도출, 왜 특정 결정이 내려지는지 설명 — 두 벤치마크에서 표준 post-hoc XAI 대비 평가.

🎯 핵심 기여도

Explainable AI(XAI) 방법이 어떤 feature가 예측에 관련 있는지 식별하지만 왜 특정 결정이 내려지는지 명료히 하지 못함을 지적.
Causality와 argument-based reasoning을 통합해 모델 예측의 이유를 설명하는 새 방법 제안.
접근법이 먼저 causal discovery로 변수 간 인과관계 식별, 이를 Bipolar Argumentation Framework(BAF)로 번역해 feature 간 supportive·opposing 상호작용 표현.
Semi-stable semantics 사용으로 특정 결과가 선택된 이유를 설명하는 feature extension 도출. 두 벤치마크 데이터셋에서 시연·표준 post-hoc explainability 접근법과 비교.

💡 핵심 아이디어

XAI의 "왜?" 설명은 feature relevance를 넘어 변수 간 인과 구조와 argumentation framework의 결합으로 도달 가능 — causal discovery 결과를 Bipolar Argumentation Framework로 번역한 뒤 semi-stable semantics로 supportive·opposing feature extension을 추출하면 결정의 이유를 형식적으로 설명할 수 있다.

🔬 기술적 접근법

**방법론**: Causal discovery + Bipolar Argumentation Framework + semi-stable semantics.
**핵심 기법**: (1) Causal discovery 기법으로 변수 간 인과관계 식별, (2) 인과관계를 Bipolar Argumentation Framework(BAF)로 번역, (3) BAF에 supportive·opposing feature 상호작용 표현, (4) Semi-stable semantics로 feature extension 계산, (5) Extension을 결정 설명으로 해석·post-hoc XAI baseline과 비교.

📊 주요 결과

두 벤치마크 데이터셋에서 시연.
표준 post-hoc explainability 접근법과 비교 평가.
Feature 간 supportive·opposing 상호작용을 명시적으로 설명.

💭 의의 및 한계

**의의**: XAI의 "왜?" 격차에 대한 원리적 답변 시도, causal·argumentation 통합의 새 패러다임, 형식 의미론 기반 설명으로 audit 가능성 향상. **한계**: Causal discovery 정확도에 강한 의존, 큰 feature 차원의 BAF 확장성, semi-stable semantics 계산 복잡도, 두 벤치마크로 일반화 추가 필요.

🚀 실용적 활용

규제·의료·금융 등 설명 책임 큰 AI.
Causal·argumentation 결합 XAI 일반.
모델 audit·debugging 도구.