Causally-Guided Automated Feature Engineering with Multi-Agent Reinforcement Learning

1. 문제 정의 (Problem Statement)

배경 및 한계:

• **자동화된 특징 공학 (AFE)**은 원시 표본 데이터에서 고유틸리티의 표현을 자동으로 구축하여 AI 시스템의 성능을 향상시키는 기술입니다.
• 그러나 기존 AFE 방법론들은 주로 **통계적 상관관계 (Statistical Correlations)**에 의존합니다.
• 핵심 문제: 상관관계 기반의 특징은 분포 변화 (Distribution Shift) 가 발생하거나 데이터 생성 메커니즘이 변할 때 취약해집니다. 예를 들어, 화학 공정이나 의료 분야에서 환경이 변하면 상관관계는 무의미해지지만, 인과 관계는 유지됩니다. 기존 방법론들은 이러한 **인과성 (Causality)**을 고려하지 않아, 분포 이동 하에서 모델의 성능이 급격히 저하되고 해석 가능성이 떨어지는 문제가 있습니다.

목표:

• 분포 변화 (Covariate Shift) 하에서도 견고한 (Robust) 예측 성능을 유지하며, 해석 가능한 특징을 자동으로 생성하는 새로운 AFE 프레임워크 개발.

---

2. 방법론 (Methodology)

저자들은 CAFE라는 두 단계 프레임워크를 제안하며, 인과적 발견 (Causal Discovery) 과 다중 에이전트 강화학습 (Multi-Agent RL) 을 결합합니다.

Phase I: 인과적 지도 사전 학습 (Causal Inductive Prior Construction)

• 목표: 특징 공간에 대한 인과적 구조를 학습하여 특징을 그룹화하고, 이를 RL 에이전트의 '소프트 인덕티브 바이어스 (Soft Inductive Bias)'로 활용합니다.
• 프로세스:
  1. 인과 그래프 학습: NOTEARS-Lasso 알고리즘을 사용하여 특징 ($F$) 과 타겟 ($y$) 간의 방향성 비순환 그래프 (DAG) 를 학습합니다.
  2. 인과적 역할 할당: 학습된 그래프를 기반으로 특징을 세 가지 그룹으로 분류합니다.
     • 직접 원인 (Direct): 타겟으로 직접 연결된 노드.
     • 간접 원인 (Indirect): 다중 홉 (Multi-hop) 경로를 통해 타겟에 영향을 미치는 노드.
     • 기타 (Other): 인과적 관계가 없는 노드.
  3. 소프트 프라이어 (Soft Prior): 이 그룹화는 특징 변환을 위한 탐색 공간을 제한하는 '경직된 제약'이 아니라, RL 에이전트가 탐색 방향을 설정하는 '유연한 가이드'로 작용합니다.

Phase II: 인과적 안내 다중 에이전트 강화학습 (Causally-Guided Multi-Agent RL)

• 목표: 지수적으로 큰 특징 변환 공간을 효율적으로 탐색하여 최적의 특징 집합을 생성합니다.
• 아키텍처: 3 개의 특수화된 DQN 에이전트가 연쇄적으로 작동합니다.
  1. Primary Group Agent: 인과적 그룹 (Direct, Indirect, Other) 중 하나를 선택합니다.
  2. Operator Agent: 변환 연산자 (산술, 상호작용 등) 를 선택합니다.
  3. Secondary Group Agent: 이항 연산 (Binary Operation) 을 위해 두 번째 특징 그룹을 선택합니다.
• 핵심 전략:
  • 계층적 보상 설계 (Hierarchical Reward Shaping): 예측 성능뿐만 아니라 인과적 일관성 (Causal Consistency) 과 변환 다양성을 고려한 보상 함수를 사용합니다.
    • $R_t = R_{perf} \cdot (1 + \alpha \cdot \Psi_{causal}) + \lambda_{div} H(\pi) - \lambda_{comp} C(F_g)$
    • 인과적으로 중요한 특징 (Direct) 에 더 높은 가중치를 부여하여 인과적으로 타당한 변환을 장려합니다.
  • 적응형 탐색 전략: 인과적 계층 구조, 상호 정보 (Mutual Information) 순위, 다양성 샘플링을 동적으로 조합하여 탐색 효율을 높입니다.
  • 안전 장치: 나눗셈, 로그, 제곱근 연산 시 수치적 안정성을 위한 보호 장치 (Guarded operations) 를 적용합니다.

---

3. 주요 기여 (Key Contributions)

1. 인과성 기반 AFE 프레임워크: 상관관계 기반 휴리스틱을 넘어, 안정적인 인과 메커니즘을 활용하는 AFE 를 순차적 의사결정 과정으로 공식화했습니다.
2. 세 가지 핵심 원리 도입:
   • 소프트 인덕티브 바이어스: 인과 구조를 경직된 제약이 아닌 유연한 가이드로 활용.
   • 인과 인식 탐색: 특징을 인과적 역할 (직접/간접/기타) 로 클러스터링하여 탐색 복잡도 감소.
   • 인과적 보상 설계: 예측 성능과 인과적 일관성을 균형 있게 최적화하는 보상 함수 개발.
3. CAFE 시스템 구현: 인과 그래프 발견과 연쇄형 다중 에이전트 RL 을 결합한 2 단계 프레임워크 구축.
4. 광범위한 실험적 검증: 15 개의 공개 벤치마크 데이터셋에서 기존 방법론 대비 우수한 성능과 견고성을 입증했습니다.

---

4. 실험 결과 (Experimental Results)

15 개의 데이터셋 (분류 및 회귀) 에서 다양한 베이스라인 (AutoFeat, NFS, GRFG, LLM 기반 방법 등) 과 비교 평가되었습니다.

• 예측 성능 (Predictive Utility):

  • CAFE 는 15 개 데이터셋 중 13 개에서 가장 높은 성능을 기록했습니다.
  • 기존 최강 베이스라인 대비 최대 7% 까지 예측 성능 (Macro-F1, 1-RAE) 을 향상시켰습니다.
  • 수렴에 필요한 에피소드 수 (Episodes-to-convergence) 를 크게 줄여 학습 효율성을 높였습니다.

• 분포 이동에 대한 견고성 (Distributional Robustness):

  • 통제된 공변량 이동 (Covariate Shift) 실험에서, 비인과성 다중 에이전트 베이스라인 (GRFG) 대비 성능 저하가 약 4 배 감소했습니다 (평균 7.1% vs 28.1% 저하).
  • 이는 인과적 특징이 분포 변화 하에서도 예측 관계를 유지함을 의미합니다.

• 해석 가능성 및 안정성 (Interpretability):

  • SHAP 값의 변동성 (Variance) 을 측정했을 때, CAFE 는 노이즈가 추가된 상황에서도 설명 안정성이 평균 58.6% 향상되었습니다.
  • 생성된 특징 집합이 더 컴팩트하고, 사후 분석 (Post-hoc attribution) 이 더 안정적입니다.

• 컴퓨팅 효율성:

  • 인과성 분석을 위한 초기 오버헤드가 있지만, 더 빠른 수렴으로 인해 전체 최적화 시간 (Time-to-target) 은 경쟁력 있게 유지됩니다.

---

5. 의의 및 결론 (Significance & Conclusion)

• 패러다임 전환: 자동화된 특징 공학이 단순한 통계적 상관관계 탐색을 넘어, 인과적 구조를 인덕티브 바이어스로 활용하는 새로운 패러다임을 제시했습니다.
• 실무 적용 가능성: 화학 공정, 제조, 의료 등 고위험 (High-stakes) 분야에서 데이터 분포가 변하는 환경 (Distribution Shift) 에서도 신뢰할 수 있는 AI 모델을 구축하는 데 필수적입니다.
• 한계 및 향후 과제:
  • 인과성 발견의 정확도에 의존하며, 잠재적 교란 변수 (Unobserved Confounders) 가 존재할 경우 성능이 저하될 수 있습니다.
  • 현재는 정적 (Static) 인 인과 그래프를 가정하므로, 시간적 동역학이나 피드백 루프가 있는 시스템에는 적용이 제한적입니다.
  • 향후 비선형 인과 발견, 스트리밍 환경 적응, 인간-루프 피드백 통합 등을 통해 발전할 예정입니다.

결론적으로, CAFE 는 인과적 추론과 강화학습을 융합하여 더 견고하고, 해석 가능하며, 효율적인 자동화된 특징 공학 시스템을 실현한 획기적인 연구입니다.