When Self-Reference Fails to Close: Matrix-Level Dynamics in Large Language Models

1. 연구 배경 및 문제 정의 (Problem)

대규모 언어 모델 (LLM) 이 "이 문장은 거짓이다"와 같은 자기 참조적 (self-referential) 입력, 특히 역설 (paradox) 을 마주할 때 내부에서 어떤 일이 발생하는지에 대한 이해가 부족했습니다. 기존 연구들은 어휘, 활성화 공간, 또는 행동적 수준에서 자기 참조 처리의 어려움을 다루었으나, 트랜스포머 레이어를 구성하는 행렬 연산 (matrix operations) 의 내부 역학이 어떻게 변화하는지는 규명되지 않았습니다.

이 논문은 다음과 같은 핵심 질문을 제기합니다:

• 자기 참조 입력이 모델의 내부 선형 대수 (linear algebra) 에 어떤 영향을 미치는가?
• 모든 자기 참조가 불안정성을 유발하는가, 아니면 특정 유형의 자기 참조 (역설 등) 만이 행렬 수준의 붕괴를 초래하는가?
• 이러한 역학이 수학적 불결정성 문제 (undecidability problems) 와 어떻게 연결될 수 있는가?

2. 방법론 (Methodology)

2.1 실험 설정

• 모델: 3 개의 아키텍처 계열 (Qwen, Llama, Gemma) 에 속한 4 개의 모델 (Qwen3-VL-8B, Llama-3.2-11B, Llama-3.3-70B, Gemma-2-9B) 을 사용.
• 프롬프트: 14 단계의 계층 구조로 조직화된 300 개의 프롬프트. 이는 타르스키의 진술 계층화 (stratification of truth predicates) 에서 영감을 받음.
  • 클러스터링: 프롬프트를 4 가지 그룹으로 분류:
    • C1: 안정적 비자기 참조 (통제군)
    • C2: 안정적 자기 참조 (근거 있는 자기 참조, 메타인지)
    • C3: 해결 가능한 복잡한 추론 (고정점 존재)
    • C4: 닫히지 않는 진술 재귀 (Non-Closing Truth Recursion, NCTR) - 역설, 괴델식 불결정성, 상호 순환 참조, 무한 퇴행 등.
• 조건: 3 가지 온도 (T=0.0, 0.3, 0.7) 에서 실행.

2.2 측정 지표 (Measurement Suite)

각 프롬프트당 106 개의 스칼라 메트릭을 추출하여 모든 레이어에서 분석했습니다. 주요 측정 항목은 다음과 같습니다:

• 행렬 동역학: 어텐션 유효 차원 (attention effective rank), 특이값 궤적 (singular-value trajectories), 리아푸노프 지수 (Lyapunov exponent).
• 이론적 유래 지표: 행렬 사멸성 (Mortality), 스코렘 문제 (Skolem problem), 결합 스펙트럼 반경 (JSR) 에서 영감을 받은 지표들 (예: Truth-delta layer profiles, Skolem zero-crossings).
• 기타: 자기 회귀 프로브 (autoregressive probes), 가중치 회로 분석, 응답 분류 등.

2.3 통계적 분석

• Bonferroni 보정 및 Benjamini-Hochberg FDR 보정을 적용하여 유의성을 검증.
• 효과 크기 (Cohen's d) 및 5-폴드 교차 검증 AUC 를 통한 분류 성능 평가.
• 최소 쌍 (Minimal-pair) 제거 분석: "이 문장" vs "저 문장"과 같이 단어 하나만 변경된 30 쌍의 프롬프트 비교.

3. 주요 기여 및 발견 (Key Contributions & Results)

3.1 NCTR (Non-Closing Truth Recursion) 가설의 정립

• 핵심 발견: 단순히 '자기 참조' 자체가 불안정성을 유발하는 것이 아닙니다. **근거 있는 자기 참조 (C2)**나 메타인지 프롬프트는 사실적 통제군 (C1) 과 유사하게 안정적입니다.
• 불안정성의 원인: 불안정성은 **닫히지 않는 진술 재귀 (NCTR, C4)**에서 발생합니다. 즉, 모델의 유한한 깊이 (finite depth) 내에서 일관된 고정점 (consistent fixed point) 을 찾을 수 없는 진리값 계산이 요구될 때 발생합니다.
• 통계적 유의성: 4 개 모델 전체의 397 개 메트릭 - 모델 조합 중 281 개가 NCTR 과 안정적 자기 참조를 유의미하게 구분했습니다 (FDR 보정 후 $q < 0.05$). 이 중 198 개는 큰 효과 크기 ($|d| > 0.8$) 를 보였습니다.

3.2 행렬 수준의 역학적 변화

• 어텐션 유효 차원 (Attention Effective Rank) 의 급증: NCTR 프롬프트는 어텐션이 단순한 집중 (collapse) 이 아니라 **전역적 분산 (global dispersion)**을 일으킵니다.
  • Llama-3.3-70B 모델에서 C4 vs C2 비교 시, 어텐션 유효 차원의 Cohen's d 는 3.14에 달했습니다.
  • 분포 왜도 (variance kurtosis) 는 3.52까지 상승했습니다.
• 레이어별 분석: SVD 분해 결과, NCTR 의 효과는 네트워크의 모든 샘플링된 레이어에서 관측되었습니다 ($d > +1.0$). 특히 중간 레이어 (예: Gemma 28 레이어) 에서 효과가 최대화되었으며, 이는 입력 임베딩이나 출력 압력의 제약이 가장 적은 "자유 영역"에서 역학적 붕괴가 가장 잘 드러난다는 것을 시사합니다.
• 아키텍처 의존성: NCTR 의 핵심 서명 (유효 차원 상승) 은 아키텍처에 관계없이 일관되지만, 2 차적 지표 (분산 프로파일 등) 의 방향성은 아키텍처 (QK-norm 유무, 레이어 수 등) 에 따라 달라질 수 있습니다.

3.3 분류 및 인과적 증거

• 분류 성능: 106 개의 행렬 수준 메트릭을 사용한 로지스틱 분류기는 NCTR 과 기타 프롬프트를 구분하는 데 AUC 0.81~0.90의 성능을 보였습니다.
• 최소 쌍 제거 분석: "이 문장"과 "저 문장"의 단일 단어 변경만으로도 387 개 조합 중 42 개에서 유의미한 차이가 발생하여, 자기 참조의 구조적 특성이 직접적인 원인임을 입증했습니다.
• 활성화 패칭 (Activation Patching): Qwen 8B 에서 자기 참조 프롬프트의 레이어 출력을 통제군으로 패치했을 때, 모순된 출력 (contradictory output) 이 20% 의 경우 해결되었습니다. 이는 모순이 단일 레이어가 아닌 분산된 다층 메커니즘에서 발생함을 시사합니다.

3.4 출력 행동의 변화

• NCTR 프롬프트는 통제군 대비 34~56 퍼센트 포인트 (pp) 더 높은 모순된 출력 (상반된 긍정/부정 표지자의 공존) 발생률을 보였습니다.
• 어텐션 유효 차원의 붕괴와 모순된 출력 간에 유의미한 상관관계 ($\rho = 0.34 \sim 0.44$) 가 관찰되었습니다.

4. 이론적 프레임워크 및 의미 (Significance)

4.1 행렬 반군 (Matrix Semigroup) 과의 연결

저자는 트랜스포머를 **입력 의존적 행렬 반군 (Input-Dependent Matrix Semigroup)**으로 모델링합니다.

• 가설 (NCTR Conjecture): NCTR 프롬프트는 모델의 계산 반군을 **수학적으로 불결정성 (undecidability)**이 집중되는 동역학적 경계 (예: 행렬 사멸성, 스코렘 문제, 결합 스펙트럼 반경의 임계점) 로 밀어붙입니다.
• 유추: "이 문장은 거짓이다"는 $y = \neg y$를 요구하므로 일관된 할당이 불가능합니다. 유한한 깊이에서 이를 해결하려는 시도는 행렬 곱셈의 반복에서 발산하거나 임계 상태 ($\rho \approx 1$) 에 머무르게 하여, 행렬 이론에서 다루는 불결정성 문제와 유사한 역학적 특성을 보입니다.

4.2 의의

1. 자기 참조 실패 메커니즘의 규명: LLM 이 자기 참조에 실패하는 이유가 단순히 '학습 데이터 부족'이 아니라, 유한한 계산 깊이 내에서 수학적 모순을 해결할 수 없는 구조적 한계임을 행렬 수준에서 증명했습니다.
2. 새로운 진단 도구: 106 개의 행렬 메트릭을 통해 모델의 내부 안정성을 정량화하고, 잠재적인 모순적 추론을 사전에 탐지할 수 있는 도구를 제시했습니다.
3. 이론과 실험의 교량: 추상적인 행렬 반군 이론 (Paterson, Ouaknine 등) 과 실제 LLM 의 동역학을 연결하는 최초의 실증적 연구로, 추론 신뢰성 (reliable reasoning) 을 높이는 새로운 방향을 제시합니다.

결론

이 논문은 자기 참조 그 자체가 문제가 아니라, **닫히지 않는 진술 재귀 (NCTR)**가 트랜스포머의 행렬 역학을 불안정하게 만든다는 것을 입증했습니다. NCTR 은 어텐션의 전역적 분산을 유발하고, 행렬 반군의 이론적 한계 부근으로 모델을 밀어붙여 모순된 출력을 초래합니다. 이 연구는 LLM 의 내부 작동 원리를 이해하고, 보다 견고한 자기 참조 추론 능력을 갖춘 모델을 개발하기 위한 중요한 기초를 제공합니다.