🤖 AI

DeepSWIP: Quotient-WMC Counterfactuals for Neural Probabilistic Logic Programs

이 논문은 신경 기호적 프레임워크인 DeepSWIP를 소개하며, 이는 신경 술어를 효율적인 가중 모델 카운팅을 위한 확률적 선택으로 변환함으로써 DeepProbLog 프로그램에 대한 정확한 단일 세계 반사실적 추론을 가능하게 하여, 인과 추정치의 추론 속도를 크게 향면시키고 캘리브레이션 편향을 교정한다.

원저자: Saimun Habib, Vaishak Belle, Fengxiang He

게시일 2026-06-19

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Saimun Habib, Vaishak Belle, Fengxiang He

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신에게 아주 똑똑한 로봇 탐정이 있다고 상상해 보세요. 이 탐정은 함께 작동하는 두 개의 뇌를 가지고 있습니다:

"눈" (신경망): 흐릿한 사진이나 센서 데이터를 보고 무엇이 일어나고 있는지 추측합니다 (예: "저것은 빨간색 자동차처럼 보인다", 또는 "교통량이 많다").
"논리 뇌" (확률적 논리): 그 추측을 바탕으로 엄격한 규칙을 사용하여 결과를 도출합니다 (예: "만약 빨간색 자동차가 있고 비가 내린다면, 도로는 미끄러울 것이다").

보통 이 로봇은 "내가 보는 것을 바탕으로 할 때, 어떤 일이 일어날 가능성이 높은가?"와 같은 질문에는 대답을 아주 잘합니다. 하지만 이 로봇은 **"만약 내가 다르게 행동했다면 어떤 일이 일어났을까?"**라는 질문에는 어려움을 겪습니다. 이것을 **반사실적 추론(counterfactual reasoning)**이라고 부릅니다.

이 논문은 로봇이 이러한 "만약에?"라는 질문에 정확하고 빠르게 답할 수 있도록 돕는 DeepSWIP라는 새로운 방법을 소개합니다. 이해를 돕기 위해 쉬운 비유를 들어 설명하겠습니다.

1. 문제점: "쌍둥이"의 함정 (The "Twin" Trap)

"만약에?"라는 질문에 답하기 위해, 전통적인 방법들은 **"쌍둥이 네트워크(Twin Network)"**라는 기술을 사용합니다. 로봇이 똑같이 생긴 쌍둥이를 하나 만든다고 상상해 보세요.

세계 A (실제): 로봇은 빨간색 자동차를 보고 비가 내리는 것을 봅니다.
세계 B (쌍둥이/반사실적 세계): 로봇은 "만약 내가 자동차를 파란색으로 강제했다면 어땠을까?"라고 묻습니다.

문제는 "쌍둥이" 방식이 로봇에게 두 개의 전체 세계를 동시에 구축하고 논리 엔진을 두 곳 모두에서 실행하도록 강요한다는 점입니다. 만약 로봇이 자동차 색상을 추측하기 위해 복잡한 이미지를 살펴봐야 한다면, 로봇은 실제 세계와 쌍둥이 세계를 위해 "눈" 뇌를 두 번 실행해야 합니다. 이는 느리고 낭비적이며, 로봇의 시각적 추측 자체를 (마법처럼 바꿀 수 있는) "개입 가능한 것"으로 취급하기 때문에 논리적으로 맞지 않습니다.

2. 해결책: DeepSWIP ("얼리고 바꾸기" 방법)

DeepSWIP는 다음과 같이 게임의 규칙을 바꿉니다: "두 개의 세계를 만들지 마라. 대신 한 세계의 사실들을 고정하라."

단계별 과정은 다음과 같습니다:

1단계: "스냅샷" (신경질적 실체화 - Neural Materialization)
질문을 던질 때마다 "눈" 뇌를 실행하는 대신, DeepSWIP는 로봇이 지금 보고 있는 것을 스냅샷으로 찍습니다. 현재의 이미지와 로봇의 추측을 고정하는 것입니다.
- 비유: 로봇이 사진을 보고 "저것은 70%의 확률로 빨간색 자동차다"라고 말한다고 가정해 봅시다. DeepSWIP는 그 70%의 추측을 종이에 적어 고정된 사실으로 만듭니다. 복잡하고 흐릿한 "눈" 뇌를 단순하고 정적인 동전 던지기(앞면 70%, 뒷면 30%)로 변환하는 것입니다.
2단계: "수술" (단일 세계 개입 - Single-World Intervention)
이제 로봇은 작동할 단 하나의 세계만을 가집니다. 만약 우리가 "만약 자동차가 파란색이었다면?"이라고 묻고 싶다면, DeepSWiP는 논리 규칙에 아주 작은 수술을 가합니다.
- "사진 때문에 자동차가 빨간색이다"라고 말하는 규칙을 잘라냅니다.
- 그 자리에 "자동차는 (우리가 강제했으므로) 파란색이다"라는 새로운 규칙을 스테이플러로 찍어 붙입니다.
- 결정적으로, 나머지 세상은 똑같이 유지합니다. 비는 여전히 내리고 있고, 도로도 여전히 젖어 있습니다. 전체 세계를 복제하는 것이 아니라, 우리가 궁금해하는 특정 부분만 편집하는 것입니다.
3단계: "수학적 마법" (가중 모델 카운팅 - Weighted Model Counting)
마지막으로, 로봇은 이 편집된 단일 세계에 대해 논리 엔진을 실행합니다. 로봇은 새로운 규칙에 부합하는 모든 가능한 시나리오를 세고 확률을 계산합니다.
- '몫(Quotient)'의 기술: 논문은 이 계산이 분수(몫)와 같다고 설명합니다. 분자는 결과가 발생하는 시나리오를 세고, 분모는 증거가 존재하는 시나리오를 셉니다. 이 수학적 계산은 중요한 사실을 밝혀줍니다: 만약 우리가 변화를 강제한다면, 해당 특정 부분에 대한 로봇의 원래 시각적 추측은 더 이상 중요하지 않게 됩니다. "수술"이 기존의 추측을 방정식에서 제거하기 때문에, 로봇의 시각적 오류가 그 특정 부분에 대한 "만약에?"의 답을 망치지 않습니다.

3. 이것이 왜 중요한가 (결과)

논문은 이를 두 가지 주요 측면에서 테스트했습니다:

속도: DeepSWIP는 "쌍둥이" 세계를 구축하지 않기 때문에 기존 방식보다 2.14배 더 빠릅니다. 이는 문서를 두 권 출력하여 각각 편집한 뒤 비교하는 대신, 하나의 문서만 편집하는 것과 같습니다.
정확도 및 보정 (Accuracy & Calibration): 논문은 로봇이 올바르게 작동하기 위해서는 단순히 "정확"한 것(자주 맞는 색을 맞히는 것)뿐만 아니라, **"보정"**되어 있어야 함(자신의 확신도를 정확히 아는 것)을 발견했습니다.
- 비유: 만약 로봇이 "비가 올 확률이 90%라고 확신한다"라고 말하지만, 실제로는 비가 오는 경우가 50%뿐이라면, "만약에?"의 수학적 계산은 깨지게 됩니다. 특히 증거가 희귀할 때 더욱 그렇습니다. DeepSWIP는 이러한 오류가 어디서 발생하는지 정확히 보여줌으로써 우리가 이를 수정할 수 있게 해줍니다.
실제 교통 테스트: 교통 시뮬레이션에서, 로봇의 시각이 불안정할 때(센서 노이즈 등으로 인해) 단순한 추측은 매우 틀리기 쉽다는 것을 보여주었습니다. 그러나 개별 자동차의 경로를 추측하는 대신 전체 교통 흐름에 집중하는 특수한 통계 도구(AIPW)를 사용함으로써, 편향을 수정하고 도시 전체에 대한 신뢰할 수 있는 답을 얻을 수 있었습니다.

요약

DeepSWIP는 AI가 "만약에?"라는 질문에 답할 수 있게 해주는 새로운 방법입니다. 혼란스러운 중복 우주(쌍둥이 방식)를 만드는 대신, 로봇의 현재 지각을 스냅샷으로 찍어 고정하고, 특정 "만약에" 부분을 수술하듯 편집한 뒤, 그 깨끗한 단일 버전에 대해 수학적 계산을 수행합니다. 이 방식은 과정을 더 빠르게 만들고, 더 정밀하게 만들며, 로봇의 시각적 실수가 논리적 결론에 어떤 영향을 미치는지 이해하도록 도와줍니다.

기술 요약: DeepSWIP – 신경 확률 논리 프로그램을 위한 Quotient-WMC 반사실적 추론

1. 문제 정의

DeepProbLog과 같은 신경-기호(neurosymbolic) 시스템은 지각적 불확실성을 처리하기 위해 신경 인지와 확률 논리를 효과적으로 결합합니다. 그러나 표준 추론은 인과적(causal)이라기보다 연관적(associational)입니다(즉, $P(Y|X=x)$ 를 계산함). 이러한 시스템은 개입($do(X=x) $)을 위한 인과적 의미론을 필요로 하는 반개사적 쿼리(예: "증거$ E=e $가 주어졌을 때, 만약$ X $가$ x$였다면 어떤 일이 일어났을 것인가?")에 본래적으로 답할 수 없습니다.

반개사적 추론에 대한 기존 접근 방식은 종종 외생적 선택(exogenous choices)을 공유하면서 사실적(factual) 복사본과 반개사적(counterfactual) 복사본으로 프로그램 구조를 복제하는 트윈 네트워크(Twin Networks)에 의존합니다. 이는 의미론적으로는 편리하지만, 관계형 프로그램(relational programs)에서는 계산 비용이 많이 들고 신경 술어(neural predicates)의 경우 다루기가 까다롭습니다. 구체적으로, 신경 술어(예: 합성곱 신경망)를 두 번(각 세계당 한 번씩) 평가해야 하는지, 아니면 외생적 불확실성으로서 공유되어야 하는지가 불분명합니다. 또한, 구조의 복제는 개입의 단일 세계 의미론(single-world semantics)을 모호하게 만들어 불필요한 독립성 가정을 생성합니다.

2. 방법론: DeepSWIP

본 논문은 SWIP 방법론(Habib et al., 2026)을 DeepProbLog으로 확장한 DeepSWIP(Deep Single World Intervention Programs) 프레임워크를 소개합니다. 핵심 아이디어는 신경 술어를 개입 전의 고정된 확률적 선택으로 취급함으로써 신경 인지와 기호적 반개사적 추론을 분리하는 것입니다.

2.1 신경 실체화 (Neural Materialization)

고정된 신경 파라미터 $\eta$ 와 입력 컨텍스트 $c$ 에 대해, 신경 술어 $nn(m, x, y) $는 한 번만 평가됩니다.$ x$에 대한 출력 분포는 논리 프로그램 내에서 일반적인 확률적 사실(annotated disjunctions)로 "실체화"됩니다.

변환: 신경망은 동결되며, 그 출력 확률 $p_{k,j}$ 는 신경 술어를 다음과 같은 범주형 선택으로 대체합니다: $p_{k,1} :: a_k(y_{k,1}); \dots; p_{k,r_k} :: a_k(y_{k,r_k})$ .
결과: DeepProbLog 프로그램은 모든 불확실성이 독립적인 확률적 사실에 의해 표현되는 일반적인 ProbLog 프로그램( $P_{mat}$ )으로 변환됩니다.

2.2 단일 세계 개입 수술 (Single-World Intervention Surgery)

실체화된 후, 프로그램은 개입 $do(X=x)$를 처리하기 위해 SWIP 변환을 거칩니다:

삭제 (Deletion): 개입된 원자 $X$ 를 정의하는 모든 규칙이 제거됩니다.
재지정 (Redirection): 이전에 $X$ 에 의존했던 하위 규칙들이 고정된 원자 $X_{fix}(x)$ 에 의존하도록 재작성됩니다.
단언 (Assertion): 결정론적 사실 $X_{fix}(x)$ 가 추가됩니다.
이 과정은 구조를 복제하지 않고 반개사적 세계를 나타내는 단일 변환 프로그램 $\Delta_x$ 를 생성합니다.

2.3 Quotient-WMC 의미론

반개사적 확률은 변환된 단일 프로그램에 대한 **가중 모델 카운팅(Weighted Model Counting, WMC)**을 사용하여 계산됩니다. 반개사적 조건부(counterfactual conditional)는 두 WMC 다항식의 몫(quotient)으로 정의됩니다:
$Q(p) = P(Y_x = y \mid E = e) = \frac{\Phi^x_{Y,E}(p)}{\Phi^x_E(p)}$
여기서:

$\Phi^x_{Y,E}(p) = \text{WMC}(\Delta_x \land Y=y \land E=e; p)$
$\Phi^x_E(p) = \text{WMC}(\Delta_x \land E=e; p)$
$p$ 는 실체화된 신경 확률을 나타냅니다.

이 대수적 표현은 추론 작업을 통합하여, 학습된 실체화된 기능적 인과 모델(FCM)에 대해 정확한 계산을 가능하게 합니다.

3. 주요 기여

본 논문은 네 가지 주요 기여를 합니다:

신경 실체화: 고정된 컨텍스트의 DeepProbLog 프로그램을 일반 ProbLog 프로그램으로 변환하는 방법으로, 표준 인과적 프로그램 변환을 가능하게 합니다.
정확성 정리: 프로그램이 유일한 지지 모델(unique supported models)을 갖는다면, DeepSWIP가 학습된 실체화된 FCM에 대해 정확하다는 것을 증명합니다.
Quotient-WMC 분석: 다음을 밝히는 이론적 분석을 제공합니다:
- 개입 클리닝 (Intervention Cleaning): 개입된 메커니즘과 관련된 신경 확률은 반개사적 쿼리에서 미분값이 0입니다(이는 외과적으로 제거됩니다).
- 교정 민감도 (Calibration Sensitivity): 반개사적 추론의 오차는 단순한 분류 정확도가 아닌 신경 확률의 교정(calibration) 상태에 따라 달라집니다.
- 희소 증거 불안정성 (Rare-Evidence Instability): 반개사적 추정치의 민감도는 증거의 확률( $1/P(E=e)$ )에 반비례하여 증가하며, 이는 희귀한 증거 상황에서 잠재적인 불안정성을 초래합니다.
실험적 검증: MPI3D 및 SUMO 교통 시뮬레이션 실험을 통해 프레임워크의 정확성, 속도 및 통계적 특성을 입증합니다.

4. 실험 결과

4.1 MPI3D 시각적 반개사적 추론

설정: 형태, 크기, 색상에 대한 신경 술어와 물리적 안정성을 위한 기호적 규칙이 결합된 시각적 추론 작업.
정확성: DeepSWIP는 12,000개의 쿼리에 대해 DeepTwin 구성과 100% 일치하여 변환의 유효성을 검증했습니다.
효율성: DeepSWIP는 트윈 네트워크에서 요구되는 내생적 복제를 피함으로써 2.14배의 속도 향상(쿼리당 3.57 ms vs 7.65 ms)을 달お성했습니다.
오차 전파: 개입에 의해 결정되는 쿼리에 대해서는 평균 제곱근 오차(RMSE)가 0이었으며(개입 클리닝 입증), 개입되지 않은 술어에 의존하는 쿼리에 대해서는 작은 오차를 보였습니다.
가지치기 (Pruning): SWIP 변환은 관련 없는 절(clause)을 효과적으로 제거했습니다(예: 특정 쿼리에 대해 문장 수를 18개에서 5개로 감소).

4.2 SUMO HOV 교통 실험

설정: 신경 교정과 이중 머신러닝(DML) 수정을 테스트하는 교통 시뮬레이션.
결과:
- 센서 노이즈가 증가함에 따라 신경 교정이 저하되었고, 이는 나이브한 플러그인(plug-in) 반개사적 추정치에서 상당한 편향을 초래했습니다.
- AIPW/DML: 알려진 무작위 정책을 사용하는 AIPW(Augmented Inverse Propensity Weighted) 추정기는, 신경 교정이 저하된 상황에서도 모집단 평균 및 평균 처치 효과(ATE) 추정치에 대한 1차 편향을 대부분 성공적으로 제거했습니다.
- 이는 기호적 추론이 실체화된 확률에 대해서는 정확할지라도, 해당 확률을 추정하는 통계적 과정은 여전히 오차의 원인이 될 수 있음을 강조합니다.

5. 의의 및 주장

본 논문은 DeepSWIP를 보편적인 인과 발견 방법이 아니라, 명시적인 인과 구조와 학습된 확률적 메커니즘을 가진 신경-기호 프로그램을 위한 정밀한 반개사적 추론 계층으로 포지셔닝합니다.

이론적 통찰: Quotient-WMC 관점은 왜 개입 클리닝이 작동하는지, 왜 반개사적 추론에서 정확도보다 교정이 더 중요한지, 그리고 왜 희귀한 증거가 불안정성을 유발하는지에 대한 통합된 설명을 제공합니다.
실질적 영향: 반개사적 추론을 단일 세계 WMC 문제로 축소함으로써, DeepSWIP는 특히 신경 술어가 포함된 프로그램에서 트윈 네트워크의 효율적인 대안을 제공합니다.
한계점: 저자들은 DeepSWIP의 정확성이 학습된 실체화된 FCM에 상대적이라는 점을 명시합니다. 만약 신경 술어가 잘못 교정되어 있다면, 기호적 반개사적 추론은 실제 데이터 생성 과정에 대해 "정확하게 틀릴" 수 있습니다. 이 프레임워크는 정확한 기호적 추론과 신경 확률을 추정하는 통계적 오차를 분리합니다.

결론적으로, DeepSWIP는 신경 인지와 단일 세계 인과 추론 사이의 간극을 성공적으로 메워, 신경-기호 AI를 위한 견고한 반개사적 분석의 토대를 제공합니다.