기술 요약: 비유적 언어 생성을 위한 교차 언어적 스티어링(Cross-Lingual Steering)

문제 정의

다국어 대규모 언어 모델(LLM)은 다양한 언어에 걸쳐 비유적 언어(예: 은유, 관용구, 아이러니)를 생성하는 능력을 보여준다. 그러나 이러한 행동을 구동하는 내부 신경 신호가 엄격하게 특정 언어에 국한된 것인지, 아니면 재사용 가능한 교차 언어적 구성 요소를 포함하고 있는지에 대해서는 여전히 불분명하다. 이러한 가능성을 구분하는 것은 표면적인 어휘 및 구문을 넘어 다국어 모델의 공유된 의미 표현이 어느 정도까지 확장되는지 이해하는 데 매우 중요하다. 특히, 본 논문은 한 언어에서 유도된 비유적-직설적 활성화 차이로부터 얻은 스티어링 방향이 재학습이나 미세 조정 없이 다른 타겟 언어에서 유사한 비유적 생성을 효과적으로 유도할 수 있는지 조사한다.

방법론

저자들은 비유적 언어 표현의 이식 가능성을 테스트하기 위한 개입 기반 프로브(intervention-based probe)로서 **활성화 스티어링(activation steering)**을 사용한다. 실험 파이프라인은 세 가지 주요 단계로 구성된다:

1. 벡터 구축:

   • 대조적 활성화 가산(Contrastive Activation Addition, CAA): 소스 언어 $g$와 특정 비유 범주 $c$에 대해, 저자들은 특정 트랜스포머 레이어 $l$에서 비유적 예시($D^+_{g,c}$)와 직설적 예시($D^-_g$)의 평균 은닉 상태 활성화 간의 정규화된 차이를 계산하여 스티어링 벡터 $\hat{v}^{(l)}_{g,c}$를 구축한다.
   • 데이터: 연구는 언어-범주 설정당 최대 500개의 균형 잡힌 비유적 예시와 500개의 단일 언어 직설적 캡션(예: COCO 캡션)을 활용한다.
   • 언어 및 범주: 실험은 6개 언어(영어, 중국어, 벵골어, 스페인어, 이탈리아어, 독일어)와 5개 비유 범주(관용구, 은유, 직유, 아이러니, 풍자)를 다룬다.

2. 개입(Intervention):

   • 생성 프리필(prefill) 단계 동안, 선택된 레이어의 각 프롬프트 토큰 위치에 스티어링 벡터를 더한다: $h^{(l)'}_t = h^{(l)}_t + \alpha \hat{v}^{(l)}_{g,c}$.
   • 개입 강도 $\alpha$는 1.0으로 고정된다.
   • 단일 언어 스티어링: 벡터는 추출된 언어와 동일한 언어의 프롬프트에 적용된다.
   • 제로샷 교차 언어 전이(Zero-Shot Cross-Lingual Transfer): 소스 언어(예: 중국어)에서 유도된 벡터를 다른 타겟 언어(예: 영어)의 프롬프트에 적용하여 전이 가능성을 테스트한다.

3. 기하학적 개입:

   • 언어 평균 집계(Language Mean Aggregation): 저자들은 여러 소스 언어(타겟 언어를 포함하거나 제외한 Leave-Target-Out(LTO) 방식 모두 포함)의 정규화된 벡터를 평균하여 중심적인 교차 언어적 방향을 합성한다.
   • 잔차 제거(Residual Ablation): 공유된 기하학적 핵심이 행동을 구동하는지 테스트하기 위해, 타겟 언어의 고유 벡터 중 교차 언어적 집계와 정렬되는 성분을 수학적으로 제거(투영하여 제거)한다. 이후 이 잔차 벡터의 성능을 평가한다.

4. 평가:

   • 타겟 범주율(Target Category Rate, TCR): 생성된 연속 문장이 타겟 비유 현상을 나타내는 비율을 DeepSeek-v4-flash를 LLM-as-a-judge로 사용하여 평가한다.
   • 일관성(Coherence): 맥락적 관련성 및 논리적 일관성에 대해 0–4 척도로 평가한다.
   • 통계 분석: 쌍체 백분율 포인트 차이를 95% 부트스트랩 신뢰 구간과 함께 보고하며, 조정된 McNemar $q$-값을 사용한다.

주요 기여

본 논문은 세 가지 주요 기여를 제시한다:

1. 효과적인 단일 언어 스티어링: 단일 언어 설정에서, 스티어링 벡터는 스티어링되지 않은 베이스라인 및 무작위 벡터 대조군에 비해 TCR을 일관되게 증가시킨다. 이 효과는 96개 설정 중 74개에서 관찰되었으며, 은유나 직유와 같은 구조적 비유 표현에서 가장 높은 견고함을 보였다.
2. 제로샷 교차 언어 전이 가능성: 소스 언어 벡터는 416개의 제로샷 설정 중 369개에서 타겟 언어 생성을 성공적으로 스티어링했다. 주목할 점은, 몇몇 경우에서 다른 언어로부터 유도된 벡터가 타겟 언어에서 직접 유도된 벡터와 일치하거나 심지어 그 성능을 능가하기도 했다는 것이다. 독일어는 특히 수용성이 높은 타겟 언어로 식별되었으며, 벵골어는 강력한 소스 능력은 보였으나 수용성은 약한 것으로 나타났다.
3. 전이를 위한 공유된 기하학적 기초:
   • 집계: 합성된 교차 언어적 집계(특히 LTO 평균)는 타겟 언어의 고유 벡터와 대등하거나 이를 능가한다.
   • 제거: 고유 벡터에서 공유된 교차 언어적 성분을 제거(잔차 제거)하면 비유적 생성 능력이 급격히 감소한다. 이는 전이 가능한 스티어링이 언어 특이적인 아티팩트가 아니라, 공통되고 재사용 가능한 표현 구성 요소에 의존함을 나타낸다.

결과

• 범주 의존성: 스티어링 신호의 전이 가능성은 범주에 따라 크게 달라진다. 은유와 직유는 가장 강력한 교차 언어 전이를 보였으며, 은유는 경로 전반에 걸쳐 평균 +17.2 퍼센트 포인트의 이득을 보였다. 반면, 맥락적 뉘앙스와 문화적 미묘함에 크게 의존하는 풍자와 아이러니는 전이 가능성이 더 낮고 교차 언어적 스티어링에 더 저항적이다.
• 비대칭성: 교차 언어 전이는 비대칭적이다. 독일어와 같이 외부 스티어링 신호에 매우 수용적인 언어가 있는 반면, 벵골어와 같이 강력한 소스임에도 불구하고 수용성은 낮은 언어도 있다. 이는 비유적 신호를 받아들이는 능력이 타겟 언어의 생성적 사전 확률(generative priors)에 의해 병목 현상을 겪음을 시사한다.
• 기하학 vs. 고유 성능: 타겟 언어의 데이터 없이 완전히 구축된 "Leave-Target-Out"(LTO) 집계 벡터는 대다수의 시나리오(85%–98%의 테스트 설정)에서 고유 벡터와 기능적으로 대등한 TCR을 달성했다.
• 일관성: 공유된 교차 언어적 기하학을 사용하는 것은 고유 스티어링과 비교했을 때 추가적인 일관성 페널티를 발생시키지 않는다. 그러나 공유된 신호를 제거하면 모델이 매우 일관된 스티어링되지 않은 기본 상태로 회귀하는데, 이는 비유적 생성의 손실이 불일치성 때문이 아니라 특정 스티어링 신호의 제거 때문임을 확인시켜 준다.

의의 및 주장

본 논문은 다국어 LLM이 재사용 가능하지만 타겟 의존적인 교차 언어적 신호를 통해 복잡한 비유적 의도를 조직한다는 직접적인 증거를 제공한다고 주장한다.

• 공유된 표현: 연구 결과는 특정 유형의 비유적 언어(특히 은유와 같은 구조적 비유)를 생성하는 내부 메커니즘이 특정 언어에 고립되어 있지 않고, 모델의 표현 공간 내에서 공유된 언어 불가지론적(language-agnostic) 기하학적 핵심에 근거하고 있음을 시사한다.
• 행동적 의존성: 본 연구는 신호 자체는 재사용 가능하지만, 이를 적용하는 효과는 타겟 언어의 생성 능력에 엄격하게 의존한다는 점을 확립한다. 모델은 개념적으로 언어를 가로질러 비유적 의도를 조직할 수 있지만, 이 의도를 성공적으로 투영하는 것은 타겟 언어의 학습된 사전 확률에 의해 제약을 받는다.
• 제어에 대한 시사점: 이러한 결과는 교차 언어적 스티어링이 다국어 모델에서 미세한 행동을 제어하기 위한 실행 가능한 메커할임을 입증하며, 개별 언어 경계를 초월하는 정렬 및 제어를 위한 구조적 토대를 제공한다.

저자들은 현재의 데이터 가용성 하에서 관찰 가능한 행동 패턴을 반영하고 있으며, 범주별 표현과 구성 변이(construction variance)를 완전히 분리하는 것이 중요한 향 \후 과제임을 언급하며 신중한 입장을 유지한다. 또한 특정 범주(예: 직유)에 대한 병렬 데이터셋의 부족과 문장 완성 설정에서 풍자와 같은 화용론적 범주를 평가하는 데 따르는 어려움을 강조한다.