Multidimensional processing profiles reveal the relational geometry of areal typological features in L2 reading

기술 요약: 다차원 처리 프로파일을 통한 L2 독해에서의 영역적 유형론적 특징의 관계적 기하학 규명

문제 제기
제2언어(L2) 독해 연구는 전통적으로 개별적인 언어 구조가 단일 안구 추적 지표에 미치는 영향을 조사하는 등, 분절된 분석 단위에 의존해 왔다. 이러한 접근 방식은 언어 구조의 처리가 학습자의 구조적 체계 내 상대적 위치에 따라 결정되는, 즉 언어 지식의 본질적인 네트워크적 특성을 포착하지 못한다. 또한, 유형론 연구는 언어들이 공생(co-occurrence)과 공변(covariance)을 통해 상호 연결된 체계를 형성한다는 점을 보여주지만(영역 유형론), 이러한 관계적 구조가 실시간 L2 처리 과정에서 정량화 가능한 흔적을 남기는지는 여전히 불분명하다. 아울러, 인간의 처리 과정과 사전 학습된 언어 모델(PLM) 간의 기존 비교 연구들은 모델이 데이터를 적합시키거나 특징을 해독할 수 있는지에 초점을 맞출 뿐, 인간에게서 관찰되는 특정 '관계적 기하학'(특징 관계의 2차 구조)을 재구성할 수 있는지에 대해서는 주목하지 않는다.

연구 방법론
본 연구는 동남아시아 언어 지역(Southeast Asian linguistic area)을 대상으로 한 자연 실험을 활용하였다. 이 지역의 언어들은 서로 다른 어족(베트남어, 태국어, 라오스어, 미얀마어, 크메르어, 인도네시아어)에 속함에도 불구하고 장기간의 접촉을 통해 유형론적으로 수렴해 왔다.

• 참가자 및 데이터: 본 연구는 440명의 참가자(원어민 중국어 화자 72명, 6개 동남아시아 국가 출신 L2 학습자 368명)의 안구 추적 데이터를 분석하였다. 참가자들은 75개의 중국어 텍스트를 읽었다.
• 특징 주석(Feature Annotation): WALS와 Grambank를 기반으로 28개의 영역 유형론적 특징(예: 수사 분류사, 연속 동사 구문, 어순 구성)을 사례 수준(instance level)에서 주석 처리하였다.
• 다차원 처리 프로파일: 단일 지표를 분석하는 대신, 각 특징 사례에 대해 7가지 안구 추적 지표를 통합한 7차원 처리 프로파일을 구축하였다:
  1. 시선 지속 시간 (Gaze Duration, GD)
  2. 회귀 경로 지속 시간 (Regression Path Duration, RPD)
  3. 총 독해 시간 (Total Reading Time, TRT)
  4. 재독 시간 (Re-reading Time, RRT)
  5. 회귀 확률 (Regression-in Probability, RI)
  6. 회귀 탈출 확률 (Regression-out Probability, RO)
  7. 건너뛰기 비율 (Skipping Rate, SKIP)
• 표상 유사도 분석 (Representational Similarity Analysis, RSA): 28개 특징 프로파일 간의 교차 검증된 마할라노비스 거리(Mahalanobis distances)를 사용하여 집단 수준의 표상 비유사도 행렬(RDMs)을 구축하였다. 이를 통해 특징 간의 인지적 거리를 나타내는 '관계적 기하학'을 생성하였다.
• 모델 비교: 7개의 사전 학습된 언어 모델(BERT-base-Chinese, RoBERTa, MacBERT, XLM-R, GPT2-Chinese 포함)을 동일한 텍스트로 처리하였다. 모델 RDMs는 층별 문맥 임베딩(layer-wise contextual embeddings)으로부터 구축되었다.
• 분석: 인간-인간 RDM과 인간-모델 RDM을 부분 스피어먼 상관계수(partial Spearman correlations, 글자 길이와 단어 빈도 통제)를 사용하여 비교하였다. 또한, 특징 정체성(feature identity)의 해독 가능성과 관계적 기하학(relational geometry)의 재구성 능력을 평가하기 위해 선형 프로빙(linear probing)을 수행하였다.

주요 결과

1. 관계적 기하학의 신뢰성: 7차원 처리 프로파일은 모든 7개 독해 그룹에서 안정적인 특징 관계 기하학을 안정적으로 재구성하였으며, 이는 높은 노이즈 천장(noise ceiling, 하한값 0.826–0.864)을 통해 입증되었다.
2. L2 그룹의 수렴: 서로 다른 어족에 속함에도 불구하고, 6개 L2 학습자 그룹은 매우 수렴된 관계적 기하학을 보였다(평균 상관계수 $M = 0.953$). 이는 원어민 중국어 그룹과의 상관계수($M = 0.879$)보다 유의미하게 높았다.
   • L2 그룹들은 단일 공통 차원을 따라 원어민 그룹으로부터 벗어났으며, 이 차원이 편차 분산의 89.9%를 설명하였다.
   • 이는 영역 유형론적 수렴이 계통학적 거리(phylogenetic distance)를 초월하여 공유된 처리 조직을 형성함을 시사한다.
3. 특징 수준의 단계성: 그룹 간 일관성은 안정적인 경사(gradient)를 보였다. L2 그룹 내 일관성이 낮은 특징들(예: 화법 조동사, 지시사 어순)은 원어민 그룹으로부터 더 큰 편차를 보였으나, 일관성이 높은 특징들(예: 사동 구문)은 안정성을 유지하였다.
4. 모델-인간 정렬: 사전 학습된 언어 모델은 인간의 처리 기하학을 부분적으로 재구성하였으며, 신뢰할 수 있는 인간의 기하학을 평균적으로 약 62% 포착하였다.
   • 정렬도는 원어민 그룹보다 L2 그룹에서 일반적으로 더 높게 나타났다.
   • 다국어 사전 학습(예: XLM-R)이 단일 언어 모델에 비해 영역적 기하학을 재구성하는 데 있어 안정적인 우위를 제공하지는 못했다.
5. 해독 가능성과 기하학의 해리: 연구의 핵심 발견은 특징 해독 가능성과 관계적 조직 사이의 해리(dissociation)였다. 선형 프로브가 중간 층에서 특징 정체성을 잘 해독할 수 있었던 반면, RSA 정렬(인간과 유사한 기하학)이 가장 높았던 층은 종종 프로브의 피크 층보다 더 깊은 층이었다. 이는 특징을 분류하는 능력과 특징들을 인간과 유사한 관계적 공간 내에 조직하는 능력이 서로 다른 표상적 속성임을 나타낸다.

의의 및 주장
본 논문은 L2 처리 연구의 분석 단위를 고립된 구조에서 '특징-관계 체계(feature-relational systems)'로 재정의한다고 주장한다. 주요 기여는 다음과 같다:

• 영역 유형론에 대한 인지적 증거: 본 연구는 동남아시아 언어 지역의 접촉 유도적 구조 수렴이 계통학적 상속이 아닌, 정량화 가능하고 공유된 처리 기하학을 생성한다는 직접적인 행동적 증거를 제공한다.
• 관계적 인터페이스: 언어 접촉, L2 처리, 그리고 계산 모델링 사이의 표상적 인터페이스를 확립한다. 연구 결과는 교차 언어적 영향이 단순히 국소적 대응 관계를 매핑하는 것이 아니라, 여러 구조의 상대적 위치를 공동의 처리 공간 내에서 재형성함으로써 작동함을 시사한다.
• 현재 PLM의 한라도: PLM이 교차 특징 관계를 추출할 수는 있지만, 해독 가능한 특징 정보를 보유하는 것만으로는 인간과 유사한 관계적 조직을 보장하기에 충분하지 않음을 보여준다. 다국어 사전 학습이 영역적 정렬을 보장하지 못한다는 결과는 현재의 모델들이 영역 유형론적 구조를 모델링하는 데 필요한 특정한 관계적 제약 조건을 결여하고 있음을 시사한다.
• 방법론적 발전: 다차원 처리 프로파일과 RSA를 활용함으로써, 본 연구는 "특정 구조가 어려운가?"라는 질문에서 "구조들이 서로를 기준으로 어떻게 조직되어 있는가?"라는 질문으로 분야를 진전시켰다.

저자들은 L2 처리 연구와 언어 모델 평가 모두 정보가 '존재하는가'를 넘어, 정보가 인지 및 계산 시스템 내에서 '어떻게 조직되는가'로 초점을 전환해야 한다고 결론짓는다.