기술 요약: 형식 언어 과업의 학습 가능성에 대한 인과적 평가

문제 정의

언어 모델(LM)은 단일 훈련 코퍼스에서 다양한 능력을 습득하는 다중 과업 학습자(multi-task learners)로 기능한다. LM의 역량을 이해하는 데 있어 근본적인 질문은 특정 과업을 학습하는 데 얼마나 많은 과업 특화 데이터가 필요한가 하는 점이다. 자연어 환경에서 이러한 탐구는 특정 과업을 구분하기 어렵다는 점과 과업 간 유사성이 혼란 변수(confounder)를 유발한다는 점 때문에 난항을 겪는다. 데이터셋 내 속성의 빈도와 모델 성능을 상관시키는 표준적인 상관적 평가 관행은 종종 결함이 있는 결론을 도출하는데, 이는 속성 빈도가 데이터 분포의 다른 구조적 특징(예: 문자열 길이, 전반적인 복잡도)과 얽혀 있기 때문이다.

본 논문은 데이터 빈도와 학습 가능성 사이의 관계를 엄밀하게 조사하기 위해서는 이러한 혼란 변수를 격리해야 한다고 주장한다. 자연어 코퍼스를 이 목적으로 사용하는 것은 데이터 생성에 대한 통제권이 없기 때문에 실행 불가능하다. 따라서 저자들은 확률적 유한 오토마타(PFA)로부터 유도된 형식 언어를 사용하는 통제된 환경을 방법론적 테스트베드로 제안한다.

방법론

인과적 프레임워크

저자들은 실험 파이프라인을 네 가지 확률 변수를 포함하는 그래픽 인과 모델(GCM)로 정식화한다:

1. A (PFA): 생성 프로세스 (오토마타).
2. D (데이터셋): $A$로부터 샘플링된 코퍼스.
3. L (학습된 모델): $D$로 훈련된 결과인 신경망 파라미터.
4. M (성능): $A$에 대한 $L$의 충실도.

핵심적인 차이는 **조건화(conditioning)**와 개입(intervening) 사이에 있다:

• 상관적 (조건화): $P(M | D \in P)$를 평가한다. 여기서 $P$는 속성(예: "데이터셋에 특정 심볼이 $N$번 등장함")이다. 이는 $A$와 $D$ 사이의 의존성을 도입하는데, 특정 속성을 갖기 쉬운 PFA가 과잉 대표되기 때문이다.
• 인과적 (개입): $P(M | \text{do}(D \in P))$를 평가한다. 이는 데이터 생성 프로세스를 수정하여 $A$의 원래 주변 분포를 보존하면서 동시에 $P$를 만족하도록 하는 것이다. 이를 통해 타겟 속성을 나머지 코퍼스의 구조적 특징으로부터 분리한다.

비닝 세미링 (The Binning Semiring)

이러한 인과적 개입을 효율적으로 구현하기 위해, 본 논문은 샘플링 중 타겟 속성 횟수를 제어할 수 있게 해주는 대수적 구조인 비닝 세미링을 도입한다.

• 정의: 기저 세미링 $K$와 임계값 $R$에 대하여, $R$차 비닝 세미링은 $(R+1)$개의 튜플 $v = (v_0, v_1, \dots, v_R)$로 구성된다.
• 연산: 덧셈은 원소별로 수행된다. 곱셈은 오버플로를 누적하는 컨볼루션(convolution)이다. 곱의 $n$번째 원소는 정확히 $n$번의 타겟 발생을 갖는 경로의 가중치를 나타내며 ($n < R$인 경우), $R$번째 원소는 $R$ 이상의 모든 카운트를 합산한다.
• 적용: PFA는 이 세미링 상의 가중 유한 오토마타(WFA)로 "리프팅(lifted)"된다. 이 리프팅된 오토마타에서 역방향 가중치(backward weights)를 계산함으로써, 저자들은 특정 타겟 전이(transition) 횟수를 갖는 코퍼스의 조건부 분포를 도출한다. 이를 통해 특정 속성(예: 특정 상태를 떠나는 전이)이 정확히 $N$번 발생하는 데이터셋을 추출하는 **제약된 샘플링(constrained sampling)**이 가능해진다. 이는 해당 속성을 자연스럽게 생성하는 PFA의 고유한 편향과 무관하게 수행된다.

실험 파이프라인

1. 샘플링: PFA 생성 (고정된 토폴로지에 가중치만 재샘플링하거나, 무작로 토폴로지 생성).
2. 개입: 비닝 세미링 알고리즘을 사용하여 특정 속성의 정확한 횟수를 갖는 코퍼스 샘플링.
3. 훈련: 이러한 코퍼스로 LSTM 및 Transformer 훈련.
4. 평가: **분해된 쿨백-라이블러(KL) 발산(decomposed KL divergence)**을 사용하여 성능 측정. 모든 상태에 대해 평균을 내는 표준 KL과 달리, 이 지표는 특정 전이나 상태의 오차 기여도를 격리하여 국소적인 학습 가능성 평가를 가능하게 한다.

주요 기여

1. 비닝 세미링: PFA로부터 샘플링된 코퍼스 내 특정 특징의 빈도를 정확하게 제어할 수 있게 하여, 기존의 거절 샘플링(rejection sampling)보다 계산적으로 효율적인 인과적 개입을 가능케 하는 새로운 대수적 도구.
2. 인과적 평가 프레임워크: LM 학습 가능성 연구를 인과 추론 문제로 정식화하여, 상관적 관찰과 데이터 빈도의 인과적 효과를 구분함.
3. 분해된 KL 지표: 형식 언어 설정 내에서 특정 하위 과업(상태, 전이 또는 심볼)에 성능 지표를 국소화하는 방법.
4. 혼란 효과의 실증적 증거: 표준적인 상관적 평가가 통제되지 않은 혼란 변수로 인해 잘못된 결론을 도출할 수 있음을 입증함.

결과

저자들은 세 가지 설정에서 실험을 수행했다:

1. PARITY + Star-Free Automaton: 배우기 쉬운 star-free 언어($aa^*$)와 배우기 어려운 PARITY 언어를 결합한 통제된 설정.
   • 결과: 상관적 분석에서는 PARITY 문자열의 낮은 빈도가 높은 에러와 연관되었으나, 이는 문자열 길이 분포에 의해 혼란을 일으키는 비단조적 경향을 보였다. 인과적 개입은 PARITY 횟수가 증가함에 따라 학습 가능성이 일관되로 개선되는 단조적 관계를 드러냈으며, 이를 통해 Transformer와 LSTM의 실제 난이도를 폭로했다.
2. 무작위 토폴로지 (50개 상태): 952개의 무작위 PFA 샘플링.
   • 결과: 상관적 경향이 종종 인과적 경향과 반대로 나타났다. 예를 들어, 타겟 발생 횟수가 적을 때 상관적 KL 발산은 낮게 나타났는데(학습이 쉬운 것으로 시사), 이는 타겟 인스턴스를 적게 생성하는 오토마타들이 구조적으로 더 단순했기 때문이다. 인과적 샘플링은 이러한 편향을 제거하여, 빈도가 높아질수록 학습 가능성이 실제로 향상됨을 보여주었다.
3. 고정 토폴로지, 가중치 변화: 400개의 가중치 구성이 있는 단일 40상태 토폴로지.
   • 결과: 혼란 효과는 동일한 토폴로지 내에서도 상당한 차이를 보였다. 특정 상태에서는 빈도가 증가함에 따라 인과적 곡선이 급격히 하강한 반면, 상관적 곡선은 평탄하거나 상승했다. 이는 상관적 연구에서 관찰된 "어려움"이 과업 자체가 아니라 특정 가중치 구성의 산물임을 나타낸다.

모든 설정에서 인과적 곡선(실선)은 상관적 곡선(점선)과 크게 달랐다. 어떤 경우에는 상관적 경향이 특정 속성이 배우기 쉽다고 시사했지만 실제로는 어려웠고, 그 반대의 경우도 있었다.

의의 및 주장

본 논문은 형식 언어 학습 가능성을 평가하는 표준적인 상관적 방법론이 과업 간의 혼란 변수를 통제하지 못하기 때문에 본질적으로 결함이 있다고 주장한다. 데이터 빈도와 모델 성능 사이에서 관찰되는 관계는 흔히 타겟 속성과 공변하는 오토마타의 구조적 특성 및 샘플링 절차를 반영하는 것이지, 과업의 고유한 학습 가능성을 반영하는 것이 아니다.

비닝 세미링을 통한 인과적 개입을 도입함으로써, 저자들은 이러한 효과를 분리할 수 있는 도구를 제공한다. 저자들은 이 접근 방식이 다음과 같은 데 필요하다고 주장한다:

• 서로 다른 아키텍처(예: Transformer vs. RNN)의 귀납적 편향을 정확하게 비교하기 위해.
• 혼란을 주는 구조적 특징의 노이즈 없이 스케일링 동작을 특징짓기 위해.
• 특정 구조적 특징에 의한 어려움을 데이터 분포의 산물이 아닌 실제 특징으로 귀속시키기 위해.

저자들은 이 연구를 분야의 방법론적 교정(methodological correction)으로 위치시키며, 형식 과업에 대한 신경 언어 모델의 "블랙박스" 평가에 대한 엄격한 대안을 제시한다. 이들은 본 연구가 PFA에 집중하고 있지만, 이 프레임워크가 더 풍부한 오토마타(예: 푸시다운 오토마타)로 자연스럽게 확장될 수 있음을 언급하며, 데이터 빈도가 언어 속성에 미치는 영향에 관한 기존의 상관적 발견들을 재검토할 필요가 있음을 시사한다.