Do Language Models Know What Not to Say? Causal Evidence for Statistical Preemption in LLMs

기술적 요약: LLM 에서의 통계적 선점 (Statistical Preemption) 에 대한 인과적 증거

문제 제기
본 논문은 언어 습득의 근본적인 난제인 "베이커의 역설 (Baker's Paradox)"을 다룹니다: 학습자들은 특정 문장이 틀렸다는 것을 명시적으로 알려주는 경우 (부정적 증거) 가 없으면서도, 무엇을 받아들이지 못하는지에 대한 지식을 어떻게 습득하는가? 구성 문법 (Construction Grammar) 의 맥락에서 이 "과일반화 (overgeneralization) 로부터의 후퇴"를 설명하려는 두 가지 경쟁 가설이 존재합니다:

1. 통계적 선점 (Statistical Preemption): 학습자들은 특정 관습적인 경쟁 형태의 빈도를 추적함으로써 부정적 지식을 습득합니다 (예: "donated the books to the library"를 자주 듣는 것은 "*donated the library the books"와 같은 검증되지 않은 형태를 선점합니다).
2. 고착화 (Entrenchment): 학습자들은 동사가 어떤 구성에서든 자주 접하기 때문에 새로운 구성을 단순히 거부하며, 새로운 프레임에서 이를 사용할 의사가 줄어듭니다.

행동 연구들은 이러한 메커니즘에 대해 논쟁을 벌여 왔으나, 본 논문은 명시적인 문법 교육 없이 분포적 통계만으로 훈련된 대규모 언어 모델 (LLM) 이 분포 학습만으로도 이러한 부정적 지식을 습득할 수 있는지 테스트할 수 있는 통제된 환경을 제공한다고 주장합니다.

방법론
저자들은 120 개의 영어 동사 - 구성 쌍을 대상으로 3 가지 교대 유형 (여격, 사역, 위치) 에 걸쳐 4 개의 실험을 수행했습니다. 124M 에서 70B 개의 파라미터에 이르는 4 개 계열 (GPT-2, Pythia, LLaMA-2, OLMo) 의 14 개 모델을 평가했습니다.

• 연결 가설: 본 연구는 단어 수준의 놀라움 (surprisal)($S(w_t) = -\log_2 P(w_t | w_{<t})$) 을 인간의 수용성 지표로 사용합니다. 주요 지표는 "비관습적 (선점된)" 형태와 "관습적" 형태 사이의 놀라움 차이 ($\Delta S$) 입니다.
• 실험 1 (상관관계): LLM 의 $\Delta S$ 패턴이 세 가지 독립 데이터셋 (DAIS, Robenalt & Goldberg, Tachihara & Goldberg) 의 인간 수용성 판단과 상관관계가 있는지 테스트했습니다.
• 실험 2 (분리): 선점 (preemption) 과 고착화 (entrenchment) 를 분리하기 위해 +Competing/−Competing 설계 (Winkler 등, 2015 에서 차용) 를 사용했습니다. 동사들은 전체 빈도는 일치하지만 특정 경쟁 관습적 형태의 존재 여부에서 차이가 있었습니다. 본 연구는 공유된 코퍼스 통계의 산물이 아님을 보장하기 위해 인간 데이터에 대한 비순환적 부분 상관관계를 사용했습니다.
• 실험 3 (스케일링): Pythia 모델의 크기 (160M 에서 12B 파라미터) 에 따른 선점 민감도를 분석하여 효과가 멱법칙 (power law) 으로 스케일링되는지 확인했습니다.
• 실험 4 (인과적 개입): 조작된 빈도로 GPT-2 124M 을 대상으로 통제된 파인튜닝을 수행했습니다. 세 가지 조건을 테스트했습니다:
  • 증폭 (Amplified): 관습적 형태의 빈도 증가.
  • 감쇠 (Attenuated): 두 형태의 빈도 동일화.
  • 역전 (Reverse): 비관습적 형태의 빈도 증가 (단순 빈도 민감도를 배제하기 위한 통제).
  • 실험은 5 개의 무작위 시드로 반복되었습니다.

주요 결과

1. 인간 -LLM 정렬: LLM 의 놀라움 패턴은 인간 수용성 판단과 강력하게 상관관계가 있습니다 (DAIS 벤치마크에 대한 LLaMA-2 7B 의 경우 $r = 0.79$). 이는 세 가지 독립 행동 데이터셋에서 검증되었습니다.
2. 선점 대 고착화: 관찰된 효과는 전체 동사 빈도가 아닌 경쟁 형태의 빈도에 의해 주도됩니다. +Competing/−Competing 설계에서 경쟁 관습적 형태가 있는 동사들은 그러한 경쟁자가 없는 빈도 일치 동사들보다 유의미하게 높은 $\Delta S$를 보였습니다. 부분 상관관계는 고착화는 아닌 반면 선점이 인간 데이터의 분산을 설명한다는 것을 확인했습니다 ($r_{partial} = 0.58$).
3. 스케일링: 선점 민감도는 모델 크기에 따라 멱법칙으로 스케일링됩니다 ($r(N) = a \cdot N^b + c$), 지수 $b \approx 0.092$로 감소하는 수확 체감을 나타내지만 갑작스러운 위상 전이는 없습니다.
4. 인과적 증거: 파인튜닝 개입은 인과적으로 선점 행동을 변화시켰습니다. 관습적 형태의 빈도를 증가시키면 선점이 강화되었습니다 ($\Delta \Delta S = +0.73$), 반면 비관습적 형태의 빈도를 증가시키면 효과가 유의미하게 약했습니다 ($\Delta \Delta S = -0.29$). 이 비대칭성은 선점이 단순한 빈도 민감도가 아니라 확립된 대안들의 억제력을 통해 작동한다는 이론을 지지합니다.

의의 및 주장
본 논문은 LLM 을 사용하여 단일 수렴 설계 내에서 통계적 선점과 고착화를 직접 분리한 최초의 계산 연구임을 주장합니다. 주요 기여점은 다음과 같습니다:

• 메커니즘 검증: 신경 언어 모델이 분포적 경쟁을 통해 부정적 언어 지식을 습득함을 보여줌으로써 구성 문법의 핵심 메커니즘을 지지합니다.
• 인과적 증명: 통제된 파인튜닝과 역방향 통제를 통해 경쟁 형태 빈도의 조작이 선점 이론이 예측하는 방향으로 모델 행동을 변화시킨다는 인과적 증거를 제시합니다.
• 방법론적 엄밀성: 인간 데이터에 대한 비순환적 부분 상관관계 사용과 순환적 빈도 민감도 설명을 배제하기 위한 역방향 통제 설계를 통해 기존 연구의 순환성 우려를 해결합니다.
• 일반화 가능성: 발견된 사실은 여러 구성 유형 (여격, 사역, 위치) 과 모델 아키텍처 전반에 걸쳐 유효합니다.

저자들은 자신의 작업을 기존 인과 연구 (예: Yao 등, 2025; Misra 와 Mahowald, 2024) 의 보완으로 위치시키며, "인과적" 증거에 대한 독점적 우선권을 주장하지는 않지만, 선점 - 고착화 분리, 비순환적 검증, 역방향 비대칭성 통제의 특정 조합이 강력하고 수렴하는 증거 라인을 제공한다고 명시합니다. 본 연구는 영어의 경우 베이커의 역설에 분포 학습이 해답이 있음을 결론지으며, 모델들은 관습적 경쟁자의 빈도에 의해 형성된 선점 민감도를 개발하여 인간 습득을 모방한다고 밝힙니다.