기술 요약: 신뢰할 수 있는 AI 는 불변성 충돌로 고통받으며 인과관계가 그 해결책이다

1. 문제 제기

인공지능 (AI) 과 기반 모델 (FMs) 이 고위험 도메인에 배포됨에 따라, 공정성, 견고성, 개인정보 보호, 설명 가능성 등을 포괄하는 신뢰성 확보가 핵심 과제가 되었습니다. 주요 장애물은 이러한 목표들이 거의 독립적이지 않다는 점입니다. 즉, 한 목표를 개선하면 다른 목표가 저해되거나 모델의 성능 (유틸리티) 이 훼손되는 경우가 많습니다. 예를 들어, 개인정보 보호를 위한 노이즈를 추가하면 정확도가 떨어지고, 공정성을 강제하면 예측 능력이 희생되며, 복잡한 심층 모델은 설명 가능성을 희생하는 대가로 높은 정확도를 달성합니다.

본 논문은 이러한 트레이드오프가 단순한 우연한 경험적 부작용이 아니라 근본적으로 양립할 수 없는 불변성 요구사항에서 비롯된다고 주장합니다. 각 신뢰할 수 있는 AI 목표는 데이터 생성 과정의 특정 유형 변화 하에서 모델의 행동이 안정적으로 유지되기를 요구합니다.

• 공정성: 보호 속성 (예: 인종, 성별) 이 변경될 때 불변성을 요구합니다.
• 개인정보 보호: 개별 데이터 포인트가 추가되거나 제거될 때 불변성을 요구합니다.
• 견고성: 서로 다른 환경이나 분포 변화 하에서 불변성을 요구합니다.
• 설명 가능성: 실현 가능한 개입 하에서 예측에 대한 안정적인 귀속을 요구합니다.

이러한 목표들이 서로 다르고 잠재적으로 충돌하는 변화 집합 하에서 안정성을 요구할 때, 트레이드오프는 불가피해집니다. 순수한 통계적 (연관성 기반) 접근법은 훈련 분포에서 우연히 성립하는 허위 상관관계와 안정적인 인과 메커니즘을 구분하지 못하므로 이러한 충돌을 해결하지 못합니다.

2. 방법론 및 이론적 프레임워크

본 논문은 이러한 트레이드오프를 이해하고 완화하거나 해결하기 위한 통합 프레임워크로 인과관계를 제안합니다. 이 방법론은 개입과 반사실적 추론을 가능하게 하는 퍼들 (Pearl) 의 구조적 인과 모델 (SCM) 프레임워크에 기반하여 관찰적 상관관계뿐만 아니라 추론을 가능하게 합니다.

핵심 개념: 선택적 불변성

핵심 방법론적 통찰은 인과관계가 선택적 불변성을 가능하게 한다는 점입니다. 민감 속성과의 모든 상관관계를 제거하는 것과 같은 통계적 방법들이 종종 균일한 불변성을 강제하는 것과 달리, 인과 모델은 다음을 구분할 수 있습니다.

1. 허위 경로: 규범적으로 용납할 수 없거나 불안정한 의존성 (예: 직접 차별, 대리 차별, 또는 환경 특이적 아티팩트).
2. 인과 경로: 예측을 정당화하는 안정적이고 인과적으로 의미 있는 신호.

데이터 생성 과정을 명시적으로 모델링함으로써, 이 프레임워크는 제약 조건을 선택적으로 부과할 수 있게 합니다. 이는 불공정하거나 불안정한 효과를 억제하면서 정당한 인과 신호는 보존하여 신뢰 목표와 성능 사이의 긴장 관계를 해결합니다.

통합 전략

본 논문은 학습 시스템에 인과관계를 통합하기 위한 두 가지 주요 모드를 제시합니다.

1. 명시적 통합: 구조적 인과 모델 (SCM), 인과 그래프, 또는 경로별 제약을 통해 인과 구조를 직접 표현합니다. 이는 인과적 가정을 모델 클래스나 훈련 목적 함수에 내장할 수 있는 고전적 머신러닝에서 일반적입니다.
2. 암시적 통합: 명시적인 인과 그래프 인코딩 없이 유추적 편향, 데이터 다양성, 희소성, 또는 반사실적 데이터 증강을 통해 인과적 행동을 장려합니다. 이는 글로벌 명시적 명세가 실용적이지 않은 대규모 기반 모델 (FMs) 에 있어 지배적인 접근법입니다.

본 논문은 이러한 전략들을 AI 수명 주기에 걸쳐 매핑합니다.

• 사전 학습: 생성 요인을 분리하기 위해 반사실적 데이터 생성이나 인과 표현 학습을 통해 인과적 사전 지식을 도입합니다.
• 사후 학습/정렬: 미세 조정 또는 정규화를 통해 모델 출력에 제약 (예: 반사실적 교란에 대한 불변성) 을 부과합니다.
• 감사: 개입 기반 프로빙과 메커니즘적 해석 가능성을 사용하여 사후적으로 인과적 영향을 평가하고 실패 모드를 진단합니다.

3. 주요 기여

본 논문은 다음과 같은 구체적인 기여를 합니다.

1. 트레이드오프의 재해석: 신뢰할 수 있는 AI 의 주요 트레이드오프 (공정성 - 정확성, 개인정보 보호 - 유틸리티, 견고성 - 정확성, 설명 가능성 - 성능) 를 서로 다른 목표가 부과하는 양립할 수 없는 불변성 요구사항 간의 충돌로 재정의합니다.
2. 인과적 해결 메커니즘: 여러 불변성이 동시에 성립해야 할 때 인과적 추론이 필요한 경우를 공식화하고, 선택적 불변성을 통해 이러한 트레이드오프를 해결하거나 완화하는 방법을 보여줍니다.
   • 공정성: 직접/대리 경로와 같은 불공정한 인과 경로를 차단하면서 정당한 인과 효과는 보존합니다.
   • 개인정보 보호: 기억화로 이어지는 허위 상관관계에 대한 의존도를 줄여 유틸리티 저하가 적으면서도 더 강력한 개인정보 보호 보장을 가능하게 합니다.
   • 견고성: 관찰적 정확도에서 개입적 정확도로 최적화 목표를 전환하여 대상의 인과적 부모인 특징을 우선시합니다.
   • 설명 가능성: 반사실적 추론을 통해 복잡한 생성 과정을 인간이 이해할 수 있는 추상화로 전환하는 원칙적인 방법을 제공합니다.
3. *확장성 분석: 고전적 머신러닝과 대규모 기반 모델 (FMs) 에 모두 적용되는 이러한 인과적 원칙들을 논의하며, FMs 은 암시적 통합에 크게 의존하지만 표적화된 명시적 제약 (예: SCM 기반 개체 개입을 통한) 이 실현 가능하고 효과적임을 지적합니다.

4. 결과 및 증거

본 논문은 새로운 경험적 벤치마크를 제시하지는 않지만, 입장을 뒷받침하기 위해 기존 문헌과 이론적 결과를 종합합니다.

• 이론적 지지: 특정 조건 하에서 견고성이 인과성을 함의한다는 이론적 결과와, 인과 모델이 더 작은 개인정보 보호 예산으로도 멤버십 추론 공격에 대해 더 강력한 방어를 제공한다는 사실을 인용합니다.
• 문헌 종합: 인과적 방법이 불공정성을 감사하고 완화하며, 분포 변화 하에서 견고성을 향상시키고, 개입을 통해 설명 가능성과 정렬될 수 있음을 보여주는 연구들을 검토합니다.
• 예시: 병원 재입원 모델을 동기를 부여하는 예시로 제시합니다. 이 예시는 인과 모델이 어떻게 동시에 공정성 (보험을 통한 연령에서 재입원으로 가는 경로 차단), 견고성 (허위 환경 아티팩트 무시), 개인정보 보호 (특정 환자 기록에 대한 과적합 방지), 그리고 설명 가능성 (예측을 명시적 인과 경로에 매핑) 을 달성할 수 있는지를 보여줍니다.

5. 중요성 및 주장

본 논문은 인과관계를 모든 트레이드오프를 제거하는 만능 해결책이 아니라 투명하고 원칙적인 설계를 위한 필수 프레임워크로 위치시킵니다. 그 중요성은 다음과 같습니다.

• 논의의 전환: 트레이드오프의 구조적 기원을 명시화함으로써 공학적 휴리스틱에서 투명한 규범적 선택으로 논의를 이동시킵니다.
• 통합 프레임워크: 다양한 신뢰할 수 있는 AI 목표를 이해하기 위한 단일 렌즈 (개입 하의 불변성) 를 제공합니다.
• 실용적 가이드: 명시적 및 암시적 접근법 사이를 구분하고 모델 수명 주기 (사전 학습, 정렬, 감사) 의 레버리지 지점을 식별하여 현대 AI 시스템에 인과관계를 통합하기 위한 로드맵을 제공합니다.

저자들은 일부 긴장 관계 (예: 개인정보 보호와 유틸리티 사이) 는 구조적으로 불가피할 수 있지만, 인과적 접근법이 그 존재 이유를 명확히 하고 이러한 트레이드오프를 선택적으로 탐색하여 성능이 우수하고 윤리적으로 건전한 AI 시스템을 구축할 수 있다고 결론지었습니다. 본 논문은 이 분야를 발전시키기 위해 다목적 평가 프레임워크, 확장 가능한 인과적 데이터 통합 방법, 고품질 인과 데이터셋의 개발을 촉구합니다.