기술 요약: 설명 가능한 모델 예측 제어를 위한 계층적 인과 역추론

1. 문제 정의

모델 예측 제어 (MPC) 는 미래 시간 구간 동안 제약 조건을 준수하면서 제어 동작을 최적화할 수 있는 능력으로 인해 화학 공장, HVAC 시스템, 온실 등 안전이 중요한 인프라 운영의 표준으로 자리 잡았습니다. 그러나 MPC 의 예측적 특성은 상당한 설명 가능성 격차를 초래합니다. 현재 상태에 반응하는 반응형 제어기와 달리, MPC 의사결정은 종종 시간적 인과성에 의해 주도됩니다. 즉, 예측을 바탕으로 예상되는 미래의 제약 위반을 방지하기 위해 오늘 행동을 취하는 것입니다.

LIME 과 SHAP 과 같은 표준 설명 가능한 AI(XAI) 방법은 정적이며 순간적인 특징 할당을 위해 설계되었습니다. 이들은 MPC 고유의 시간적 추론과 반사실적 논리 ("우리가 행동하지 않았다면 어떻게 되었을까?") 를 포착하지 못합니다. 결과적으로 인간 운영자는 MPC 제어 동작을 불투명하게 여겨 신뢰를 훼손하고 중요 분야에서 배포를 방해합니다. 기존 접근법은 제어기를 블랙박스처럼 취급하여 최적화 논리를 무시하거나, 운영자가 물리적으로 해석하기 어려운 수학적 도구 (KKT 승수 등) 에 의존합니다.

2. 방법론: 계층적 인과 역추론 (HCA)

본 논문은 비선형 MPC 의사결정에 대한 충실하고 인간이 해석 가능한 설명을 생성하기 위해 세 가지 서로 다른 증거 소스를 통합하는 계층적 인과 역추론 (HCA) 프레임워크를 제안합니다. HCA 는 최적화 문제와 제약 조건에 접근할 수 있다는 전제하에 작동합니다.

2.1. 세 가지 증거 소스

1. 물리 기반 추론 (지식 그래프):

   • 도메인별 지식 그래프 ($G_{KG}$) 는 시스템 변수 (상태, 작동기, 외란) 와 제약 조건 간의 물리적 관계를 인코딩합니다.
   • 간선은 영향 방향을 나타내는 부호 ($+$ 또는 $-$) 로 레이블링됩니다 (예: 일사량 증가$\rightarrow$ 온도 증가).
   • HCA 는 이 그래프를 양방향으로 탐색하여 물리적으로 타당한 인과 체인을 구성하며, 활성화된 제약 조건을 근본 원인 (외란) 으로 거슬러 올라가거나 예측된 결과로 연결합니다.

2. 최적화 기반 분석 (KKT 승수):

   • HCA 는 NLP 솔버가 반환하는 카루시 - 쿤 - 터커 (KKT) 승수 ($\lambda_i$) 를 활용합니다.
   • 0 이 아닌 승수는 활성화된 제약 조건을 나타냅니다. $\lambda_i$의 크기는 최적 비용이 제약 조건 경계에 얼마나 민감한지를 반영합니다.
   • 하드 제약 시스템의 경우, 임계값이 활성화된 제약 조건을 식별합니다. 소프트 제약 시스템 (하드 경계 대신 페널티를 사용하는 경우) 의 경우, HCA 는 반사실적 분석을 사용합니다. 즉, 제약 조건을 제거하여 위반이 발생할지 시뮬레이션함으로써 인과적 필연성을 확인합니다.

3. 시간적 인과 발견 (PCMCI):

   • PCMCI 알고리즘은 과거 시계열 데이터를 분석하여 외란과 제어 동작 간의 지연된 비선형 인과 종속성을 발견합니다.
   • 이는 현재 행동이 학습된 시간적 패턴 (예: 외부 온도 강하와 난방 활성화 사이의 2 시간 지연) 과 일치하는지 데이터 기반 검증 기능을 제공합니다.

2.2. 가설 순위 매기기 및 통합

HCA 는 MPC 의 의사결정 구조에 기반하여 후보 설명을 우선순위화하는 계층적 순위 매기기 메커니즘을 사용합니다:

1. 안전: 제약 조건이 활성화되었는가? (최우선)
2. 최적화: 더 저렴한 대안이 불가능한가?
3. 예측: 해당 행동이 미래 위반을 방지하는가?
4. 경제성: 해당 행동이 이익을 극대화하는가?
5. 역사: 해당 행동이 과거 인과 패턴과 일치하는가?

프레임워크는 이 순서대로 가설을 평가합니다. 증거 (KKT, 반사실적 분석, 또는 PCMCI 를 통해) 로 지지된 첫 번째 가설이 주요 설명이 됩니다. 마지막으로 대규모 언어 모델 (LLM) 은 구조화된 증거 (승수, 그래프 탐색, 인과 패턴) 를 자연어로 통합합니다. LLM 은 인과 추론자가 아닌 내러티브 생성기로 작동하며, 인과 논리는 구조화된 증거에서 엄격히 도출됩니다.

3. 주요 기여

1. 통합 프레임워크: 최적화 수식이 접근 가능한 예측 제어 시스템을 위해 물리 기반 추론, 최적화 엄밀성 (KKT), 시간적 인과 발견을 통합한 최초의 프레임워크인 HCA 의 도입.
2. 실증적 검증: 세 가지 다양한 도메인에서의 검증:
   • 온실 기후 제어 (생물학적/환경적 역학).
   • 건물 HVAC (시간대별 요금제 하의 경제적 최적화).
   • 테네시 이스트만 공정 (TEP) (안전이 중요한 화학 공학).
3. 절제 연구: 세 가지 증거 소스 모두 필수적임을 입증. 단일 구성 요소를 제거하면 설명 정확도가 32~37% 저하됨.
4. 도메인 간 일반화: 단일 하이퍼파라미터 세트를 사용하여 도메인 간 높은 성능 달성. 임계값 조정을 위해 최소한의 도메인별 보정 (2~3 일) 만 필요.

4. 실험 결과

본 연구는 LIME, SHAP, 역최적제어 (IOC), 규칙 기반 시스템, 신경망 기반 (LSTM+Attention, RETAIN) 등을 포함하는 기준선 대비 HCA 를 평가했습니다.

• 정확도 (답변 정확도 - AC): HCA 는 온실 데이터셋에서 0.478의 AC 를 달성하여 LIME(0.311) 대비 53% 개선을 보였으며, 다른 기준선보다 우수한 성과를 거두었습니다.
• 도메인 간 성능: 온실 데이터로 보정된 매개변수를 사용하여 HCA 는 도메인별 재조정 없이 건물 HVAC 에서 0.394, TEP 에서 0.406의 AC 점수를 달성했습니다.
• 보정 영향: 도메인 간 성능은 견고하지만, 2~3 일 동안 KKT 임계값에 대한 도메인별 보정을 수행하면 정확도가 약 0.88까지 추가로 향상되어 고위험 배포를 위한 프레임워크의 잠재력을 입증했습니다.
• 충실도 vs 정확도: 논문은 의도적인 트레이드오프를 지적합니다. HCA 는 순간적 관측치를 재현하는 충실도보다 실제 인과 메커니즘 (미래 상태 포함) 을 식별하는 답변 정확도를 우선시합니다. 따라서 HCA 는 현재 센서 읽기가 아닌 예측된 미래 위반에 기반하여 행동을 설명하므로, 템플릿 기반 방법보다 충실도 점수가 낮게 나타날 수 있습니다.
• 견고성: 시스템은 지식 그래프에서 최대 30% 의 간선 제거와 중간 정도의 매개변수 변동을 허용하며 최소한의 성능 저하 (<12.5% AC 저하) 만 보입니다.

5. 중요성과 주장

본 논문은 HCA 를 제어 이론과 인간 해석 가능성 간의 격차를 해소하는 설명 가능한 MPC 를 위한 기초 프레임워크로 위치시킵니다.

• 아키텍처 건전성: 결과는 물리 + 최적화 + 인과성의 3 모달 통합이 아키텍처적으로 건전함을 시사합니다. 도메인 간 성능 (AC $\approx$ 0.48) 과 보정된 성능 (AC $\approx$ 0.88) 간의 격차는 근본적인 설계 결함이 아닌 임계값 일반화 문제로 귀결됩니다.
• 실용적 배포 가능성: 이 프레임워크는 시스템이 초기에는 전이 가능한 매개변수로 의사결정 지원에 운영된 후, 고위험 응용 분야를 위해 신속한 보정을 거치는 배포 경로를 가능하게 합니다.
• 블랙박스 근사 이상: 제어기를 블랙박스로 취급하는 방법과 달리, HCA 는 내부 수학적 구조 (KKT 조건) 와 도메인 물리를 활용하여 감사 가능하고 투명한 설명을 제공합니다.
• 한계점: 저자들은 HCA 가 최적화 문제와 제약 조건에 접근해야 하므로, 모델 없는 강화 학습이나 블랙박스 학습 제어기의 즉각적인 적용에는 제한이 있음을 인정합니다. 또한, 지식 그래프 구축에는 현재 도메인당 1~2 주 동안 전문가의 큐레이션이 필요하지만, 반자동 추출이 유망한 것으로 나타납니다.

결론적으로, 본 논문은 블랙박스 근사가 아닌 수학적 구조, 도메인 물리, 시간적 인과 발견의 원칙적 통합을 통해 최적화 기반 제어기의 설명 가능성을 달성할 수 있다고 주장합니다.