Conflict-Aware Fusion: Mitigating Logic Inertia in Large Language Models via Structured Cognitive Priors

1. 문제 정의 (Problem Definition)

대형 언어 모델 (LLM) 은 다양한 자연어 처리 작업에서 탁월한 성능을 보이지만, 규칙 기반 시스템의 구조적 교란 (structural perturbations) 하에서는 추론 신뢰도가 매우 취약한 것으로 드러났습니다.

• 논리적 관성 (Logic Inertia): 기존 LLM 들은 학습된 추론 경로를 무조건적으로 따라가는 경향이 있습니다. 전제 (premise) 가 모순되거나 필수 규칙이 누락되었을 때, 모델은 사실적 현실을 검증하기보다 학습된 추론 흐름 (deductive momentum) 을 유지하며 잘못된 결론을 도출합니다.
• 기존 평가의 한계: 기존 벤치마크는 언어 능력과 논리적 견고성을 혼동하는 경향이 있어, 규칙의 삭제, 모순 주입, 논리 보존 재작성 등 구조적 무결성이 의도적으로 훼손된 상황에서의 모델 행동을 진단하는 데 한계가 있었습니다.
• 발견된 실패 패턴: BERT, Qwen2, TinyLlama 등 대표 모델들은 기본 작업에서는 100% 정확도를 보이지만, 명시적인 모순 (Contradiction) 이 주입되면 정확도가 0.0000으로 완전히 붕괴되는 '비대칭적 견고성 (Asymmetry of Robustness)' 현상을 보입니다.

2. 방법론 (Methodology)

저자들은 인지 구조 가설 (Cognitive Structure Hypothesis) 에 기반하여, 추론 과정에서 '전제 검증'과 '추론 실행'을 명시적으로 분리하는 Conflict-Aware Fusion (Fusion-Conflict) 프레임워크를 제안합니다.

2.1 구조적 견고성 벤치마크 (Structural Robustness Benchmark)

통제된 환경에서 추론 신뢰도를 평가하기 위해 4 가지 스트레스 테스트를 포함한 벤치마크를 구축했습니다. 모든 데이터는 단일 규칙 기반 템플릿에서 유래하며, 의미와 어휘는 유지하되 구조만 변경합니다.

1. 규칙 삭제 (Rule Deletion): 중복 규칙 vs 필수 규칙 삭제 시 결론의 변화 감지.
2. 모순 주입 (Contradictory Evidence Injection): 전제 간 논리적 모순이 존재할 때 이를 감지하고 추론을 중단하는지 평가.
3. 논리 보존 재작성 (Logic-preserving Rewrites): 동치 변환에 대한 불변성 평가.
4. 다중 법칙 중첩 (Multi-law Equivalence Stacking): 복잡한 규칙 상호작용 하에서의 구성적 견고성 평가.

2.2 이중 프로세스 아키텍처 (Dual-Process Architecture)

Chain-of-Thought (CoT) 생성 경로에 구조적 인덕티브 바이어스를 부과합니다.

• 시스템 2 (검증 단계): 추론을 시작하기 전에 명시적으로 "모순 감지 (Contradiction Detection)" 및 전제 완전성 검사를 수행합니다.
• 시스템 1 (추론 단계): 검증이 통과된 경우에만 추론 규칙을 적용합니다. 모순이 발견되면 추론을 즉시 중단 (Halt) 합니다.

2.3 구조 정렬 최적화 파이프라인 (Structure-Aligned Optimization Pipeline)

모델이 위 구조를 학습하도록 2 단계 최적화 과정을 거칩니다.

1. 구조적 SFT (Supervised Fine-Tuning): 11,200 개의 데이터 (정규, 변형, 모순 포함) 로 학습하며, 모든 샘플에 "Step 1: 사실 검증" 을 의무화하는 프롬프트 구조를 적용합니다. 이는 추론을 위한 전제 조건으로 검증 단계를 강제합니다.
2. DPO (Direct Preference Optimization) 를 통한 논리 정렬:
   • 선호 데이터 (Preferred): 모순을 감지하고 추론을 중단한 경로.
   • 거부 데이터 (Rejected): 모순에도 불구하고 추론을 계속한 경로.
   • DPO 를 통해 모델이 모순 상황에서 추론을 중단하도록 '선호'를 학습시켜, 할루시네이션 (Hallucination) 을 억제하고 논리적 엄격성을 강화합니다.

3. 주요 기여 (Key Contributions)

1. 진단용 벤치마크 구축: 규칙 기반 추론에서 구조적 견고성을 정밀하게 측정할 수 있는 프레임워크를 제시하여, 중복성, 불완전성, 모순의 영향을 분리해냈습니다.
2. 논리적 관성 (Logic Inertia) 의 규명: 현재 LLM 들이 학습된 추론 경로를 고수하며 모순을 무시하는 구조적 한계를 발견하고 이를 공식화했습니다. 이는 기존 벤치마크에서는 보이지 않던 치명적 결함입니다.
3. Conflict-Aware Fusion (Fusion-Conflict) 프레임워크 제안: 전제 검증 메커니즘을 명시적으로 통합함으로써, 모순 상황에서도 100% 정확도를 달성하고 필수 규칙 삭제에 대한 견고성을 크게 향상시켰습니다.

4. 실험 결과 (Results)

• 기초 모델의 붕괴: BERT, Qwen2, TinyLlama 는 기본 작업에서 1.0000 정확도를 보였으나, 모순 주입 (Variant 3) 시 정확도가 0.0000으로 떨어졌습니다.
• Fusion-Conflict 의 성능:
  • 모순 처리 (Variant 3): 정확도 1.0000 달성 (기존 최상위 방법론 대비 획기적 개선).
  • 기본 작업 (Base): 정확도 1.0000 유지.
  • 필수 규칙 삭제 (Variant 2): 정확도 0.735 달성 (기존 모델들의 0.25 수준 대비 현저히 향상).
• DPO 의 필수성: SFT 만으로는 '얕은 정렬 (shallow alignment)'로 인해 모순 감지 시에도 추론을 계속하는 경우가 발생했으나, DPO 를 적용한 Fusion-Conflict 는 이를 완전히 해결하여 논리적 타당성을 확보했습니다.
• 외부 검증 (Generalization): 합성 벤치마크가 아닌 LogicNLI 및 MNLI (실제 자연어 추론 데이터) 에서도 Fusion-Conflict 는 각각 98.2%, 89.4% 의 높은 정확도를 보여주어, 제안된 구조적 접근법이 도메인 외 (Out-of-Distribution) 상황에서도 유효함을 입증했습니다.

5. 의의 및 결론 (Significance & Conclusion)

• 데이터 규모 vs 구조적 검증: LLM 의 추론 신뢰성 향상이 단순히 데이터나 모델 크기 확장에만 의존하는 것이 아니라, 추론 과정의 구조적 검증 메커니즘이 필수적임을 입증했습니다.
• 안전한 AI 배포: 법적 분석, 과학적 발견 등 고위험 분야에서 모델이 모순을 인식하고 추론을 중단할 수 있는 능력은 안전성 확보의 전제 조건입니다.
• 새로운 패러다임: 제안된 방법은 프롬프트 엔지니어링에 그치지 않고, 학습 단계 (SFT + DPO) 에서 검증 단계를 구조적 제약으로 내재화하여, 검증 가능한 논리적 엄격성을 갖춘 AI 시스템 구축을 위한 청사진을 제시합니다.

이 연구는 LLM 이 단순히 패턴을 완성하는 것을 넘어, 논리적 일관성을 검증하는 능력을 갖추기 위해서는 명시적인 인지 구조 (Structural Inductive Bias) 가 필요하다는 것을 강력하게 시사합니다.