OrthoFormer: Instrumental Variable Estimation in Transformer Hidden States via Neural Control Functions

이 논문은 잠재 교란변수로 인한 상관관계 학습의 한계를 극복하기 위해 신경 제어 함수를 통해 도구변수 추정을 트랜스포머의 은닉 상태에 직접 통합한 'OrthoFormer'를 제안하여, 분포 변화 하에서도 견고한 인과적 시퀀스 모델링을 가능하게 한다고 요약할 수 있습니다.

핵심

🎬 1. 문제: AI 가 '우연'을 '원인'으로 착각하다

우리가 흔히 쓰는 AI(예: 챗봇, 추천 시스템) 는 방대한 데이터를 보고 패턴을 찾아냅니다. 하지만 이 AI 들은 진짜 원인을 찾는 게 아니라, 단순한 우연의 일치를 배우는 데서 그칩니다.

비유: "우산과 비"의 오해

• 상황: 비가 오면 사람들이 우산을 씁니다.
• AI 의 잘못된 학습: "사람이 우산을 쓰면 곧 비가 온다!"라고 생각합니다.
• 진짜 원인: 비가 오기 때문에 우산을 씁니다.
• 문제: 만약 AI 가 "우산을 쓰면 비가 그친다"고 착각하고 우산을 치우라고 명령하면, 실제로는 비가 더 많이 오게 됩니다.

논문에서는 이 문제를 "잠재된 혼란 요인 (Latent Confounders)" 때문이라고 말합니다.

• 정적인 배경 (Static Background): 사람의 성격, 로봇의 기계적 특성, 글의 고유한 스타일 등 변하지 않는 요소들이 있습니다.
• 동적인 흐름 (Dynamic Flow): 시간에 따라 변하는 실제 상황의 변화입니다.

기존 AI 는 이 '변하지 않는 배경' 때문에 생긴 가짜 상관관계를 진짜 법칙인 줄 알고 배워버립니다. 그래서 평소에는 잘 작동하다가, 새로운 상황 (예: 성격이 다른 사람, 다른 환경) 에 가면 완전히 망가집니다.

---

🛠️ 2. 해결책: OrthoFormer (오르토포머)

저자는 이 문제를 해결하기 위해 경제학에서 쓰이는 '도구 변수 (Instrumental Variable)' 개념을 AI 의 뇌 (Hidden State) 안에 직접 심었습니다. 이를 OrthoFormer라고 부릅니다.

핵심 아이디어: "과거의 기록을 거울로 쓰다"

• AI 가 미래를 예측할 때, 현재의 데이터만 보면 '가짜 원인 (배경)'에 속아넘어갑니다.
• 대신, **과거의 데이터 (특히 조금 더 오래된 데이터)**를 '거울'처럼 사용하여, 진짜 원인과 가짜 원인을 분리해냅니다.

이를 위해 OrthoFormer 는 4 가지 기둥을 세웠습니다:

1. 시간의 화살 (Structural Directionality):
   • 미래를 알 수 없듯이, AI 가 미래를 보고 과거를 추측하지 못하게 막습니다. 오직 과거가 미래를 결정하도록 설계했습니다.
2. 수직 분리 (Representation Orthogonality):
   • '변하지 않는 배경 (성격 등)'과 '변하는 흐름 (상황)'을 물리적으로 분리합니다. 마치 소금과 물을 섞지 않고 따로 담는 것처럼요.
3. 인과적 희소성 (Causal Sparsity):
   • 모든 과거 데이터를 다 보는 게 아니라, 진짜 영향을 미친 과거 데이터만 집중해서 봅니다. (불필요한 잡음 제거)
4. 단계적 분리 (End-to-End Consistency):
   • 가장 중요한 부분입니다. AI 가 두 단계를 거치는데, 두 단계를 한 번에 다 최적화하면 안 됩니다.
   • 비유: 요리사가 "맛을 내기 위해" 소금을 넣는 게 아니라, "소금의 양을 재는 도구"로 소금을 쓴 뒤, 그 결과를 바탕으로 요리를 해야 합니다. 두 과정을 섞으면 AI 는 "소금 양을 재는 도구"를 요리 맛에 맞춰 조작해버립니다. OrthoFormer 는 이 두 과정을 강제로 끊어서 (Gradient Detachment) 서로 간섭하지 못하게 합니다.

---

🧪 3. 실험 결과: 이론이 현실이 되다

저자는 이 방법이 실제로 효과가 있는지 증명했습니다.

• 편향 감소: 기존 AI(OLS) 가 가진 큰 오차가 OrthoFormer 에서는 기하급수적으로 줄어듭니다.
• 트라이들 (Trilemma) 의 발견:
  • **편향 (Bias), 분산 (Variance), 외생성 (Exogeneity)**이라는 세 가지 요소는 서로 상충합니다.
  • 과거를 너무 멀리 보면 (과거 데이터 사용) 가짜 원인은 사라지지만, 데이터가 너무 희미해져서 예측이 불안정해집니다.
  • 너무 가까이 보면 데이터는 선명하지만 가짜 원인이 섞여 있습니다.
  • OrthoFormer 는 이 최적의 균형점을 찾아냅니다.
• 금지된 회귀 (Neural Forbidden Regression):
  • 만약 두 단계를 끊지 않고 한 번에 학습하게 하면, AI 는 예측 오차 (Loss) 는 줄이지만, 진짜 인과관계는 망가뜨립니다.
  • 마치 "시험 점수를 높이기 위해 문제를 외우는 것"은 좋지만, "진짜 지식을 배우는 것"은 아니라는 것과 같습니다. AI 는 점수만 잘 나오면 된다고 속아넘어갈 수 있다는 경고입니다.

---

💡 4. 결론: 왜 이것이 중요한가?

OrthoFormer 는 AI 가 단순히 **"데이터를 맞추는 것"**을 넘어, **"세상이 어떻게 돌아가는지 (인과관계)"**를 이해하도록 돕습니다.

• 강건함 (Robustness): 새로운 상황 (예: 다른 나라 사람, 다른 기후) 에서도 잘 작동합니다.
• 신뢰성: AI 가 왜 그런 결정을 내렸는지 설명할 수 있고, 잘못된 추론을 하지 않습니다.
• 미래: 이 기술은 의료, 금융, 자율주행처럼 실수하면 큰일 나는 분야에서 AI 를 안전하게 만드는 핵심 열쇠가 될 것입니다.

한 줄 요약:

"기존 AI 는 과거의 패턴을 무작정 믿어 '가짜 원인'에 속아넘어갔다면, OrthoFormer는 과거의 데이터를 '진짜 도구'로 써서 진짜 원인을 찾아내어, 어떤 상황에서도 흔들리지 않는 똑똑한 AI 를 만듭니다."

기술 요약

1. 문제 정의 (Problem Definition)

• 핵심 문제: 기존 Transformer 아키텍처는 시퀀스 모델링에서 탁월한 성능을 보이지만, 본질적으로 상관관계 학습 (Correlational Learning) 에 의존합니다. 이는 잠재적 교란 변수 (Latent Confounders) 로 인해 발생하는 허위 연관성 (Spurious Associations) 을 포착하여, 불변적인 인과 메커니즘 (Invariant Causal Mechanisms) 을 학습하지 못하게 합니다.
• 인지적 난제 (Epistemological Challenge):
  • Transformer 는 정적 배경 요인 (내재적 정체성, 스타일, 컨텍스트) 과 동적 인과 흐름 (상태 진화, 메커니즘) 을 혼동합니다.
  • 예를 들어, 특정 정적 특성을 가진 시스템이 특정 시퀀스 패턴을 보인다는 "상관관계"를 학습하여, 실제 상태가 다음 상태로 어떻게 진화하는지에 대한 "인과법칙"을 놓치게 됩니다.
• 결과: 이러한 접근법은 분포 외 (Out-of-Distribution, OOD) 데이터나 반사실적 개입 (Counterfactual Interventions) 상황에서 치명적인 일반화 실패를 초래합니다.
• 수학적 배경: 자기회귀 모델 $h_t = f(h_{t-1}) + \epsilon_t$ 에서 구조적 오차 $\epsilon_t$ 가 시계열 상관관계를 가진 누락된 변수 $U_t$ 를 포함할 경우, $Cov(h_{t-1}, \epsilon_t) \neq 0$ 이 되어 최소제곱법 (OLS) 추정이 일관성 (Consistency) 을 잃게 됩니다.

2. 방법론: OrthoFormer (Methodology)

저자들은 인과 추론의 원칙을 Transformer 아키텍처의 유전자에 직접 주입하여 OrthoFormer를 제안합니다. 이 모델은 신경 제어 함수 (Neural Control Functions) 를 통해 도구 변수 (Instrumental Variable, IV) 추정을 Transformer 블록 내부에 내장합니다.

4 가지 이론적 기둥 (Four Theoretical Pillars)

1. 구조적 방향성 (Structural Directionality): 시간 화살을 활용하여 미래의 누출을 차단하고, 도구가 결과보다 앞서도록 보장합니다.
2. 표현 직교성 (Representation Orthogonality): 잠재적 표현과 노이즈/정적 배경 간의 직교성을 강제하여 순수한 동적 신호를 분리합니다.
3. 인과적 희소성 (Causal Sparsity): 마르코프 덮개 (Markov Blanket) 근사화로서, 유효한 도구 변수 지연 (Lags) 에만 어텐션을 제한하고 불필요한 중간 단계를 무시합니다.
4. 종단 간 일관성 (End-to-End Consistency): 오차 누적을 방지하기 위해 그래디언트 분리 (Gradient Detachment) 를 통해 단계별 최적화를 보장합니다.

주요 구성 요소

• 도구 변수 어텐션 마스크 (Instrumental Attention Mask): 표준 causal mask 를 수정하여, 위치 $t$ 의 쿼리가 $t-k$ 이전의 키 (Key) 만 어텐션 하도록 제한합니다. 이를 통해 $Z_t = h_{t-k}$ 를 도구 변수로 구조적으로 강제합니다.
• 신경 제어 함수 모듈 (Neural Control Function Module): 2 단계 신경망 구조를 구현합니다.
  • 1 단계: 도구 변수 컨텍스트 (지연된 어텐션 출력) 로부터 내생적 성분을 예측합니다.
  • 잔차 계산 및 그래디언트 분리: 예측치와 실제 값의 잔차 $R_t$ 를 계산하고, detach() 연산을 적용하여 2 단계의 그래디언트가 1 단계로 역전파되는 것을 차단합니다.
  • 2 단계: 1 단계 예측치, 분리된 잔차, 도구 변수를 입력받아 타겟을 예측합니다.
• 손실 함수: 1 단계 예측 정확도와 2 단계 인과 예측 정확도의 가중 합입니다.

3. 주요 기여 (Key Contributions)

1. 아키텍처 혁신: 지연된 숨겨진 상태 (Lagged Hidden States) 를 도구 변수로 활용하는 Instrumental Attention Mask와 그래디언트 분리를 통한 2 단계 신경망 (Neural 2SLS) 을 Transformer 블록에 통합했습니다.
2. 이론적 증명:
   • 근사적 식별성 (Approximate Identification): 지연된 숨겨진 상태를 도구 변수로 사용할 때, 잔여 편향이 $O(\rho^k)$ (기하급수적으로 감소) 로 수렴함을 증명했습니다. 이는 유효한 도구 변수 $k \ge 2$ 에 대해 OLS 편향보다 항상 작습니다.
   • 4 항 MSE 분해: 추정 오차를 (i) 비가역적 도구 변수 내생성 편향, (ii) 유한 표본 분산, (iii-iv) 신경망 근사 오차로 분해했습니다. 도구 변수의 내생성 편향은 표본 크기가 커도 사라지지 않음을 보였습니다.
   • 편향 - 분산 - 외생성 트릴레마 (Bias-Variance-Exogeneity Trilemma): 지연 (Lag) 을 늘리면 외생성은 향상되지만 (편향 감소), 도구 변수의 관련성은 약화되어 분산이 증가한다는 근본적인 상충 관계를 규명했습니다.
3. 신경 금지 회귀 (Neural Forbidden Regression) 발견:
   • 2 단계와 1 단계의 그래디언트 분리를 제거하면 (즉, 종단 간 최적화), 예측 손실은 줄어들지만 인과적 유효성이 파괴되는 현상을 발견했습니다. 이는 계량경제학의 오류가 딥러닝에서도 동일하게 발생함을 시사하며, 낮은 손실이 항상 더 나은 인과 추정을 의미하지 않음을 보여줍니다.

4. 실험 결과 (Experimental Results)

• 데이터 생성 과정 (DGP): 잠재적 AR(1) 교란 변수를 가진 합성 AR(1) 데이터를 사용했습니다.
• 이론적 예측 검증:
  • 지연 (Lag) $k$ 가 증가함에 따라 IV 편향이 기하급수적으로 감소하고, OLS 대비 편향 감소율이 증가함을 확인했습니다.
  • 잔차에 대한 AR(2) 검정 ($p > 0.1$) 을 통해 도구 변수의 근사적 외생성 조건이 충족됨을 입증했습니다.
• 분포 외 (OOD) 일반화: 교란 변수의 지속성 ($\rho$) 이 훈련 데이터와 다른 테스트 데이터에서 OrthoFormer 는 OLS 대비 훨씬 강력한 강건성을 보였습니다.
• 효율성 - 일관성 트레이드오프: 내생성이 없는 상황에서는 OrthoFormer 가 OLS 보다 예측 오차가 약간 크지만, 내생성이 있는 상황에서는 편향 없는 추정을 위해 이를 감수하는 것이 타당함을 확인했습니다.
• Ablation Study: 제어 함수 모듈 제거 시 가장 큰 성능 저하가 발생했으며, 지연 마스크 제거 ($k=1$) 시에도 성능이 저하되어 각 구성 요소의 필요성을 입증했습니다.

5. 의의 및 결론 (Significance & Conclusion)

• 패러다임 전환: 상관관계 기반의 시퀀스 모델링에서 인과적 기반 (Causal Grounding) 모델링으로의 전환을 제시합니다.
• 강건성과 해석 가능성: 분포 이동 (Distribution Shift) 하에서도 신뢰할 수 있는 의사결정과 해석 가능한 인과 구조 학습을 가능하게 합니다.
• 한계 및 향후 과제: 현재 연구는 단순한 선형 AR(1) 동역학에 기반하고 있으며, 복잡한 비선형 동역학이나 밀집된 전이 행렬을 가진 실제 데이터로의 확장, 그리고 부분 식별 (Partial Identification) 경계 설정 등이 향후 과제로 남았습니다.

결론적으로, OrthoFormer 는 Transformer 의 내생성 문제를 해결하기 위해 계량경제학의 도구 변수 추론을 딥러닝 아키텍처에 성공적으로 통합한 최초의 시도 중 하나로, 인과적 표현 학습 (Causal Representation Learning) 의 새로운 지평을 열었습니다.