기술 요약: 관계적 구조적 인과 모델 (Relational Structural Causal Models)

문제 정의

인공지능 시스템은 인과적(중재와 반사실적 추론을 지원하는)이면서도 조합적(보이지 않은 객체 조합으로의 일반화를 지원하는)인 세계 모델을 필요로 한다. 구조적 인과 모델(SCM)은 인과 추론을 위한 정식화(formalism)를 제공하지만, 일반적으로 고정된 변수 집합과 고정된 인과 그래프를 가정한다. 이러한 한계는 자율 주행, 로봇 공학, 생물학적 시스템과 같이 객체의 수와 그 관계적 구조가 동적으로 변하는 도메인에서의 적용을 저해한다.

기존의 관계적 머신러닝 방법들은 조합적 일반화에는 뛰어나지만, 종종 중재(intervention) 시 깨지는 불안정한 상관관계를 이용하기 때문에 인과적 보장을 제공하지 못하는 경우가 많다. 반대로, 인과 추론 방법들은 고정된 변수 가정을 따르거나 객체가 독립 동일 분포(i.i.d.)라고 가정하기 때문에, 서로 다른 관계적 골격(예: 자동차와 신호등의 수가 다른 교통 장면)을 가로질러 일반화하는 데 어려움을 겪는다.

본 논문이 다루는 핵심 문제는 다음과 같다: 데이터가 특정 관찰된 관계적 골격에서만 가용할 때, 어떻게 다양한 객체 및 관계의 조합에 걸쳐 인과 추론(중재 및 반사실적 쿼리 포함)을 공식적으로 학습하고 수행할 것인가?

방법론

저자들은 **관계적 구조적 인과 모델(RSCM)**과 **관계적 신경 인과 모델(RNCM)**을 중심으로 한 프레임워크를 제안한다.

1. 관계적 구조적 인과 모델 (RSCMs)

본 논문은 표준 SCM을 객체-관계 설정으로 확장한다. RSCM은 튜플 $\langle S, V, U, F, P(U) \rangle$로 정의된다:

• 스키마 ($S$): 엔티티 유형(예: 자동차, 신호등), 관계 유형(예: Ctrl, Path), 그리고 속성을 정의한다.
• 메커니즘 ($F$): 표준 SCM의 메커니즘이 고정된 크기의 입력을 받는 것과 달리, RSCM 메커니즘은 멀티셋(multisets) 형태의 관계적 부모를 수용한다. 예를 들어, 자동차의 제동 메커니즘은 자신을 제어하는 모든 신호와 경로에 있는 모든 보행자의 집합에 의존한다. 이러한 메커니즘은 관계적 제약 조건(1차 논리 술어)을 사용하여 어떤 객체가 관련이 있는지 결정하고, 애그리게이터(예: $\lor, \land$, 합, 최댓값)를 사용하여 그 값들을 결합한다.
• 그라운딩 (Grounding): RSCM은 템플릿 역할을 한다. 특정 관계적 골격(구체적인 객체 및 관계의 집합)에 인스턴스화될 때, 이는 고정된 변수 집합을 가진 그라운드(ground) SCM을 생성한다.

2. 불가능성 결과 (Impossibility Results)

저자들은 추가적인 가정 없이 학습할 때의 이론적 한계를 먼저 확립한다:

• 정리 3.3 (교차 골격 관찰 추론): 추가적인 가정 없이는 관찰된 소스 골격으로부터 관찰되지 않은 타겟 골격의 관찰 분포를 식별할 수 없다. 두 개의 RSCM이 모든 관찰된 소스 골격에 대해 일치하더라도, 타겟 골격이 소스에 존재하지 않는 관계적 구성(예: 두 개의 신호에 의해 제어되는 자동차)을 포함하고 있다면 타겟 골격에 대해서는 서로 다를 수 있다.
• 정리 3.4 (골격 내 인과 추론): 단일 골격 내에서도, 엔티티가 여러 속성을 가지고 있다면, 인과 구조에 대한 가정 없이는 관찰 데이터만으로 중재 분포를 식별하는 것이 불가능하다.

3. 그래프 기준를 통한 관계적 식별

이러한 불가능성 결과를 극복하기 위해, 본 논문은 **관계적 인과 그래프(RCGs)**를 도입한다. 이 그래프는 다음을 포함하여 데이터를 생성하는 과정에 대한 가정을 인코딩한다:

• 비관계적 엣지: 동일한 객체의 속성 간 의존성.
• 관계적 노드: 관련된 객체들의 집합된 값 (예: "자동차 $c$를 제어하는 모든 신호").
• 제약 조건: 의존성이 성립하는 관계적 조건을 명시하는 엣지의 주석.

이 그래프들을 사용하여 저자들은 심볼릭 식별 기준을 도출한다:

• 관찰적 식별 (정리 4.3): 타겟 골격의 조건부 분포는, 소스 인스턴스가 비혼란 변수(unconfounded variable)를 가지고 있고 부모 도메인이 타겟의 부모 도메인의 상위 집합인 경우 식별 가능하다.
• 인과적 식별 (명제 4.4): 만약 쿼리가 마진화된 그라운드 그래프 상에서 ctf-calculus(반사실적 계산법)를 통해 식별 가능하다면, 이는 관계적으로 식별 가능하다.
• 비식별성 (명제 4.5): 만약 단일 인스턴스 내의 쿼리가 (예: bow-structure로 인해) 표준적인 의미에서 식별 불가능하다면, 관계적 설정에서도 여전히 식별 불가능하다.

4. 관계적 신경 인과 모델 (RNCMs)

실제 구현을 위해 저자들은 **G-제약 관계적 신경 인과 모델(G-RNCMs)**을 제안한다.

• 아키텍처: 각 속성 유형에 대해 신경망이 정의된다 (예: Car.B를 위한 하나의 네트워크). 이 네트워크는 모든 골격 내의 해당 유형의 모든 인스턴스에 대해 재사용(파라미터 공유)된다.
• 입력: 네트워크는 비관계적 부모와 집계된 관계적 부모(예: 관련 객체 상태의 카운트 또는 히스토그램)를 입력으로 받는다.
• 알고리즘 (RelationalNeuralID): 모델은 타겟 쿼리를 최소화하거나 최대화하면서 소스 분포(관찰 또는 중재)에 적합하도록 훈련된다. 만약 쿼리의 최솟값과 최댓값이 일치하면 쿼리는 식별된 것이며, 그렇지 않으면 식별 불가능한 것이다. 정리 5.2는 RNCM이 주어진 그래프와 일치하는 모든 RSCM을 표현할 수 있을 만큼 충분히 표현력이 있음을 증명한다.

주요 기여

1. RSCM의 정식화: 객체-관계 도메인을 위해 가변적인 수의 객체와 관계를 지원하며 SCM 프레임워크를 확장하는 엄밀한 관계적 구조적 인가 모델의 정의.
2. 식별 이론: 가정 없이는 교차 골격 추론이 불가능하다는 증명과 더불어, 골격 간 및 골격 내 식별을 가능하게 하는 관계적 인과 그래프(Relational Causal Graphs)의 개발.
3. 신경 구현: 파라미터 공유와 집계를 활용하여 조합적 일반화를 처리하는, 관계적 식별을 위한 건전하고 완전한 신경적 접근 방식인 RNCM 제안.
4. 실험적 검증: 시뮬레이션된 교통 장면 실험을 통해 RNCM이 비관계적 인과 모델(NCM) 및 관계적 비인과적 베이스라인보다 우수함을 입증하였으며, 특히 관찰되지 않은 객체 조합으로의 일반화 성능을 보여줌.

실험 결과

저자들은 다양한 수의 신호등, 보행자, 자동차가 포함된 시뮬레이션된 교통 장면을 사용하여 접근 방식을 평가했다.

• 추정 정확도: RNCM은 식별 가능한 설정에서 플랫(flat) Neural Causal Models (NCMs) 및 관계적 비인과적 베이스라인 (REL-MLP)보다 일관되게 약 100배 높은 성능을 보였다. 특히, 소스 골격(예: 슬립 레인)에서 훈련된 RNCM이 특정 자동차에 대한 인과 효과를 추정할 때 타겟 골격(예: T-junction)에서 직접 훈련된 베이스라인보다 우수한 성능을 보였는데, 이는 관계적 구조의 가치를 강조한다.
• 일반화: RNCM은 더 작거나 일치하는 관계적 이웃(neighborhood)으로 성공적으로 일반화되었다. 성능 저하는 비식별 설정(예: 소스에 하나뿐인 신호에 의해 제어되는 자동차로 일반화하는 경우)에서만 나타났다.
• 식별 정확도: 알고리즘은 식별 가능한 쿼리와 식별 불가능한 쿼리를 성공적으로 구분했다. 식별 가능한 교차 자동차 쿼리의 경우, 최소화된 추정치와 최대화된 추정치 사이의 차이가 0으로 수렴했으나, 식별 불가능한 단일 자동차 내 쿼리의 경우 그 차이가 크게 유지되었다.
• 확장성: 최대 75개의 객체를 포함하는 실험에서도 정확도가 안정적으로 유지되었으며, 실행 시간은 완만하게 증가하여 파라미터 공유의 확장성을 입증했다.

의의 및 주장

본 논문은 객체-관계 설정에서의 인과 추론을 위한 방법론적 토대를 제공한다고 주장한다. 관계적 학습(조합적 일반화를 위함)과 인과적 추론(중재에 대한 강건성을 위함)을 통합함으로써, 본 연구는 AI 세계 모델의 중요한 공백을 메운다.

저자들은 이 프레임워크가 객체가 i.i.d.라고 가정하지 않으며 관계적 구조가 고정되어 있다고 가정하지도 않는다는 점을 강조한다. 대신, 인과 메커니즘이 관계적 제약 조건에 어떻게 의존하는지를 명시적으로 모델링한다. 이 연구의 의의는 객체의 수와 배치가 변하는 역동적인 환경(예: 자율 주행)에서 "만약 ~한다면 어떻게 될까"라는 시나리오를 추론할 수 있게 하는 데 있다. 단, 이때 근저에 있는 인과 메커니즘이 이러한 변화 속에서도 일관되어야 한다는 전제가 필요하다. 본 연구는 이러한 도메인에서의 성공적인 일반화가 관계적 구조에 대한 명시적인 가정에 달려 있으며, 이는 관계적 인과 그래프를 통해 인코딩되고 RNCM을 통해 학습될 수 있음을 시사한다.