기술 요약: 관용구 분해 가능성 가설(Idiomaticity Decomposability Hypothesis)에 대한 재고

문제 제기

본 논문은 관용적 표현의 본질을 둘러싼 오랜 논쟁, 즉 **관용구 분해 가능성 가설(IDH)**과 사용 기반 이론(usage-based accounts) 사이의 긴장 관계를 다룬다. IDH는 관용구가 의미론적 분해 가능성(구성 요소의 의미가 비유적 전체에 기여하는 정도)의 정도에 따라 다양하며, 이 속성이 통사적 유연성(예: 수동태화 또는 수식 가능성)을 예측한다고 가정한다. 반면, 사용 기반 이론은 관용구의 행동이 내부적인 의미 구조보다는 빈도, 예측 가능성, 친숙도와 같은 분포적 경험에서 비롯된다고 주장한다.

이 논쟁을 해결하는 데 있어 결정적인 한계는 인간의 분해 가능성 평가에 의존한다는 점이다. 이러한 판단은 점진적(gradient)이고, 과업 의존적이며, 화자 간 변동성에 취약한 것으로 알려져 있어, 관용구의 행동이 순수하게 의미 구조에서 기인하는지 아니면 단순히 분포적 노출에서 기인하는지를 분리해 내기 어렵게 만든다. 저자들은 이를 조사하기 위해 통제된 분포 학습기로서 **문맥화된 언어 모델(contextualised language models)**을 사용할 것을 제안한다. 명시적인 의미 역할 구조나 수용성 판단에 대한 접근 없이 대규모 텍스트 코퍼스로 모델을 학습시킴으로써, 본 연구는 분포적 노출만으로 관용구 행동의 어떤 측면이 학습될 수 있는지 규명하고자 한다.

방법론

1. 분해 가능성의 조작적 정의

저자들은 세 가지 이론적 규정(의미론적 정렬, 분산된 의미, 속성의 점진적 성격)에 근거하여 모델 내부의 분해 가능성 척도를 제안한다.

• 의미론적 정렬(Semantic Alignment): 저자들은 분해 가능성을 문맥 내 관용구와 그 비유적 글로스(의도된 의미를 나타내는 바꾸어 쓰기) 사이의 의미론적 정렬 정도로 정의한다.
• 토큰 수준의 기여도: 양방향 트랜스포머 인코더(예: BERT-base/large)를 사용하여, 문맥 내 관용구의 문장 단위 표현 $e(s)$와 글로스된 문장의 표현 $e(s_g)$를 계산한다.
• 섭동 분석(Perturbation Analysis): 개별 구성 요소의 기여도를 추정하기 위해 "하나를 제외한(leave-one-out)" 마스킹 전략을 사용한다. 관용구 내 각 토큰 $j$에 대해, 해당 토큰을 마스킹하여 $s_{(-j)}$를 생성하고, 마스킹된 표현과 글로스 표현 사이의 유사도를 계산한다.
• 점수 산출: 토큰 $j$의 기여도($\Delta_j$)는 마스킹 시 발생하는 유사도의 절대적 변화량으로 정의된다: $\Delta_j = |S_{fig} - S^{(j)}_{mask}|$.
• 집계: 평균, 최댓값, 지니 분산(Gini dispersion) 또는 엔트로피를 사용하여 토큰 수준의 기여도를 집계함으로써 표현 단위의 분해 가능성 점수를 도출한다.

2. 통사적 유연성의 조작적 정의

통사적 유연성은 관용구가 다양한 구문 유형(기본형, 부사 삽입, 형용사 삽입, 수동태화, 동작 명사화)에 걸쳐 나타나는 분포의 섀넌 엔트로피(Shannon entropy)로 정량화된다. 엔트로피가 높을수록 유연성이 큼을 의미한다.

3. 실험 설정

• 모델: 문맥의 양방향 정보를 모두 인코딩하기 위해 양방향 트랜스포머 모델(BERT-base/large, ModernBERT, OLMo-2/3)을 활용한다.
• 데이터셋: 비유적 문장과 글로스된 바꾸어 쓰기가 쌍을 이루는 IMPLI 데이터셋과 Bulkes 및 Tanner 데이터셋(인간의 분해 가능성 평정 포함)을 사용한다.
• 학습 역학(Training Dynamics): 학습 과정을 분석하기 위해, OLMo-2 및 OLMo-3(7B 모델)의 사전 학습 과정 중 100개의 체크포인트를 따라 표현의 변화를 추적한다. 이를 통해 학습 단계와 관용구의 속성(빈도, 놀람도(surprisal), 분해 가능성) 사이의 상호작용을 조사한다.

주요 결과

1. 인간의 판단과의 일치성

모델 유래 분해 가능성 점수는 인간의 분해 가능성 평정과 약한 양의 상관관계만을 보인다 (예: BERT-large의 경우 $r \approx 0.24$). 통계적으로는 유의미하지만, 효과 크기는 모델이 인간의 직관과 부분적인 중첩만을 공유함을 시사하며, 이는 두 조작적 정의가 서로 다른 속성을 반영하고 있음을 나타낸다.

2. 분해 가능성 대 통사적 유연성

IDH의 예상과 달리, 본 연구는 모델 유의 분해 가능성과 통사적 유연성 사이에 체계적인 양의 관계가 없음을 발견했다.

• 모든 모델과 레이어에 걸쳐 상관관계는 일관되게 작으며, 자주 음의 상관관계를 보인다 (최대 $r \approx -0.16$).
• 이러한 음의 관계는 전치사구(PP) 관용구에서 가장 두드러지는데, 여기서 높은 분해 가능성은 낮은 유연성과 상관관계가 있다. 이는 의미적 요인이 아닌 전치사구 구조의 형태통사적 경직성 때문인 것으로 분석된다.
• 결정적으로, 동사구(VP) 관용구—IDH가 성립할 것으로 기대되는 주요 영역—에서는 유의미한 관계가 발견되지 않았다.

3. 사용 기반 요인

• 빈도(Frequency): 빈도와 분해 가능성 사이에는 견고한 음의 관계가 존재한다. 더 빈번한 관용구는 인간에 의해(그리고 모델에 의해) 덜 분해 가능한 것으로 판단되며, 이는 고빈도 관용구가 하나의 전체적인 단위로 저장된다는 견해를 뒷받침한다.
• 예측 가능성(Predictability): 놀람도(surprisal, 예측 가능성)와 빈도는 모두 사전 학습 과정에서 관용적 표현의 안정화를 촉진하는 데 기여한다.

4. 학습 역학

사전 학습 체크포인트 분석 결과, 관용적 표현의 출현과 안정화는 빈도만이 아니라 놀람도와 분해 가능성에 의해 주도된다.

• 학습 단계와 관용구 속성 사이의 상호작용 효과를 보면, 학습이 진행됨에 따라 분해 가능성, 놀람도, 빈도의 영향력이 감소한다.
• 분해 가능성은 가장 강력한 학습 의존적 효과를 보이는데, 이는 빈도나 놀람도에 비해 학습 초기 단계에서 표현을 형성하는 데 중요한 역할을 한다는 것을 나타낸다.

의의 및 주장

본 논문은 분해 가능성이 통사적 유연성을 설명하는 신뢰할 만한 기제 중립적 설명이 아님을 입증함으로써 IDH에 대한 "명확한 도전"을 제기한다고 주장한다. 가장 관련성이 높은 영역인 VP 관용구에서도 분해 가능성과 유연성 사이의 양의 연결이 부재하다는 점은, 통사적 행동이 내부의 의미 구조만으로는 설명될 수 없음을 시사한다.

대신 저자들은 **분포적 예측 가능성(놀람도)**과 빈도가 지배적인 역할을 한다고 주장한다. 본 연구는 다음을 강조한다:

1. 빈도만으로는 관용적 표현의 출현을 설명하기에 불충분하며, 안정화 역학을 설명하기 위해서는 놀람도와 분해 가능성이 필요하다.
2. 모델 내부의 척도는 인간의 판단에서 혼재되어 나타나는 요인들을 분리하여, 분포적 노출만으로 무엇이 학습되는지를 격리해 내는 원칙적인 방법을 제공한다.
3. 빈도와 분해 가능성 사이의 음의 상관관계는 빈번한 관용구가 전체론적이고 비분해적인 단위로 취급된다는 사용 기반 이론을 지지한다.

저자들은 내부 표현을 조사하는 것이 의미 구조에 내재된 속성과 분포적 학습으로부터 자연스럽게 발생하는 속성을 구분할 수 있게 함으로써, 혼재된 요인들을 해결하는 데 도움이 된다고 결론짓는다.

한계점

저자들은 다음과 같은 몇 가지 한계를 인정한다:

• 제안된 분해 가능성 지표는 가능한 여러 조작적 정의 중 하나일 뿐이다.
• 사전 학습 분석은 OLMo의 역학을 예측하기 위해 BERT에서 도출된 분해 가능성 점수에 의존하고 있으며, 이는 아키텍처 특유의 편향을 도입할 수 있다.
• 본 연구는 영어 관용구에 국한되어 있으며 다른 언어로 일반화되지 않을 수 있다.