기술 요약: 컬처 퍼널(The Culture Funnel): 데이터에 존재하지 않는 것은 정렬할 수 없다

문제 정의

현재의 대규모 언어 모델(LLM) 문화적 정렬(cultural alignment) 접근 방식은 주로 프롬프팅 전략, 정렬 튜닝, 또는 벤치마킹을 통해 문화적으로 위치한 행동을 이끌어내는 '추론 시점(inference-time)'의 문제로 취급한다. 이러한 방법들은 모델이 이미 파라미터 내에 충분한 문화적 지식을 보유하고 있으며, 단지 적절한 "도출(elicitation)" 메커니즘이 필요할 뿐이라는 가정을 전제로 한다.

저자들은 이 가정이 결함이 있다고 주장한다. 그들은 현대의 LLM 파이프라인이 사후 학습(post-training) 단계에서 문화적 신호가 체계적으로 압축되는 "컬처 퍼널(culture funnel)" 현상을 겪고 있다고 단언한다. 프리트레이닝(사전 학습) 코퍼스에는 다양한 언어 데이터가 포함되어 있지만, 사후 학습 절차(특히 지도 미세 조정, 정렬, 추론)는 수학, 코딩, 논리와 같은 기술적 도메인을 점점 더 우선시한다. 결과적으로, 이러한 단계들은 모델의 행동을 지배적인 문화 규범(주로 서구 중심)으로 균질화하며, 명시적인 문화적 근거(cultural grounding)의 밀도를 감소시킨다. 또한, 저자들은 다국어 능력이 반드시 문화적 다양성을 보장하는 것은 아니라고 지적한다. 웹 규모의 데이터는 여전히 서구 및 영어 사용 인구에 불균형적으로 편중되어 있으며, 단순히 언어를 추가하는 것만으로는 소스가 다양해지지 않는 한 문화적으로 근거가 있는 콘텐츠의 비율을 높이는 데 실패한다는 점을 언급한다.

방법론

이 "컬처 퍼널"을 정량화하기 위해, 저자들은 LLM 학습 생애 주기 전체(프리트레이닝, 지시 미세 조정, 정렬, 추론, 실제 사용자 대화)를 아우르는 10개의 다양한 데이터셋에 걸친 560만 개의 데이터 포인트에 적용되는 다차원 태깅 프레임워크를 개발했다.

1. 데이터셋 선택 및 태깅

연구는 CulturaX(프리트레이닝), Dolci Instruct SFT, UltraFeedback(정렬), OpenThoughts(추론), Aya Dataset, PRISM, ShareLM을 포함하는 데이터셋을 분석했다. 저자들은 인간의 주석(annotation)을 통해 검증된 Command-A 모델을 사용하여 자동 태깅 파이프라인을 채택했다.

태깅 분류 체계는 다섯 가지 차원을 다룬다:

• 문화적 차원(Cultural Dimension): AlKhamissi et al. (2026)에 기반하여, 문화를 지식(사실, 전통), 역동성(사회적 상호작용, 규범), 선호(가치, 의견), 편향(고정관념), 일반 문화(엔티티, 번역 맥락), 또는 문화 없음으로 분류한다.
• 도메인(Domain): 예: 인문학, 과학, 코드, 수학, 법률.
• 과업 의도(Task Intent): 예: 창의적 글쓰기, 번역, 추론, 코딩.
• 지리적 위치(Geolocation): 콘텐츠에 내포된 지리적 맥락.
• 언어(Language): FastText를 통해 감지됨.

2. 실험적 평가

명시적인 문화적 신호가 포함된 학습 데이터가 다운스트림 역량을 개선하는지 테스트하기 위해, 저자들은 Dolci Instruct SFT 데이터셋(66개 언어로 번역된 MDolci)을 사용하여 다국어 Tiny Aya Global 모델(3.35B 파라미터)에 대한 통제된 미세 조정 실험을 수행했다.

그들은 세 가지 전략을 비교했다:

1. 문화적 SFT (Cultural SFT): "문화적"이라고 태깅된 데이터의 하위 집합만을 사용하여 미세 조정(비문화적 데이터는 필터링).
2. 마커 증강 미세 조정 (Marker-Augmented Fine-tuning): 전체 MDolci 데이터셋을 사용하되, "보물 표시(treasure marking)" 방식에서 영감을 받아 프롬프트와 완성문에 명시적인 문화적 마커(메타데이터 태그)를 추가하여 미세 조정.
3. 베이스라인 (Baseline): 문화적 필터링이나 마커 없이 수행하는 표준 미세 조정.

모델은 문화적 벤치마크(BLEnD, NormAd, BBQ)와 일반 다국어 벤치마크(MGSM, GlobalMMLU-Lite)를 통해 문화적 정렬과 일반적 과업 성능 간의 트레이드오프를 평가했다.

주요 결과

1. 컬처 퍼널은 존재한다

분석 결과, 모델이 프리트레이닝에서 사후 학습으로 이동함에 따라 명시적으로 문화적 근거를 가진 콘텐츠가 일관되게 감소함이 드러났다:

• 프리트레이닝 (CulturaX): 가장 높은 비율의 문화적 마커(약 65%)를 포함하며, 특히 인문학, 사회과학, 일반 도메인에서 두드러진다.
• 지시 미세 조정 (Dolci): 문화적 콘텐츠가 급격히 감소한다(약 12%).
• 정렬 (UltraFeedback) 및 추론 (OpenThoughts): 문화적 콘텐츠가 미미하다(각각 약 17% 및 1% 미만).
• 도메인 변화: 사후 학습 데이터는 기술적 도메인(수학, 코드, 과학)이 지배적이며, 이러한 도메인은 본질적으로 인문학이나 사회과학에 비해 명시적인 문화적 근거를 적게 포함한다.

2. 다국어 능력 $\neq$ 문화적 다양성

데이터셋에 포함된 언어의 수를 늘리는 것이 문화적 콘텐츠의 비율을 선형적으로 증가시키지는 않는다. 언어를 추가하면 지리적 다양성(더 많은 고유한 지리적 위치를 커버함)은 증가하지만, 균형 잡힌 표현을 보장하지는 않는다. 저자들은 소수의 지역(예: 인도, 미국, 중국)이 문화적 샘플을 독점하고, 다른 많은 지역은 다국어 데이터셋에서도 여전히 과소 대표되는 "롱테일(long-tail)" 분포를 관찰했다.

3. 과업 의도와 문화적 요구

학습 데이터에서 가장 많은 문화를 담고 있는 과업과 사용자가 문화적 인식을 필요로 한다고 보고한 과업 사이에 불일치가 존재한다.

• 학습 데이터: 번역과 지역 정보 검색이 가장 높은 문화적 존재감을 보인다.
• 사용자 니즈: 81명의 참가자를 대상으로 한 설문 조사에서 창의적 글쓰기, 번역, 이메일/메시지 작성에서 문화적 인식을 향한 높은 수요가 나타났다.
• 격차: 기술적 과업(코딩, 수학)과 의료 질문은 학습 데이터에서 문화적 존재감이 가장 낮지만, 저자들은 이러한 도메인에서도 문화적 근거가 유익하다고 언급한다.

4. 실험 결과

• 문화적 SFT (필터링): 문화적 데이터만을 필터링하여 미세 조정한 결과는 실망스러웠다. 이는 NormAd를 0.2%만 개선했을 뿐만 아니라 지식 중심 및 수학 벤치마크 성능을 저하시켰는데, 이는 문화적 데이터만을 분리하는 것이 일반적 역량의 파괴적 망각(catastrophic forgetting)을 초래함을 시사한다.
• 마커 증강 미세 조정: 이 접근 방식이 더 우수했다. 전체 데이터 분포를 유지하면서 명시적인 문화적 마커를 추가함으로써, 모델은 다음과 같은 성과를 달了:
  • NormAd(선호/역동성으로서의 문화)에서 +8.0% 개선.
  • BBQ(편향으로서의 문화)에서 +6.0% 개선.
  • 일반 벤치마크(MGSM, GlobalMMLU)에서 성능을 유지하거나 향상시켜, 베이스라인에 비해 문화적 성능과 과업별 성능 사이의 더 나은 균형을 입증했다.

의의 및 주장

본 논문은 문화적 정렬을 단순히 추론 시점의 문제로 취급해서는 안 된다고 주장한다. 왜냐하면 필요한 신호들이 학습 파이프라인 과정에서 누락되거나 압축되기 때문이다. 저자들의 주장은 다음과 같다:

1. 데이터 파이프라인은 정렬 메커니즘이다: 특히 사후 학습에서 기술적 도메인으로의 전환을 유발하는 학습 데이터의 구성이 문화적 균질화의 주요 동인으로 작용한다.
2. 명시적 표기(Explicit Marking)가 효과적이다: 데이터를 필터링하는 것(이는 과적합과 망각의 위험을 초래함) 대신, 학습 데이터에 문화적 차원을 명시적으로 표기함으로써 모델이 일반적인 과업 성능을 희생하지 않고도 롱테일 문화적 특성을 학습하고 유지할 수 있다.
3. 의도적인 큐레이션이 필요하다: 규모(scale)에 의한 다국어 능력만으로는 부족하며, 언어, 지리적 위치, 도메인, 과업 의도 전반에 걸친 의도적인 큐레이션이 달성되어야 글로벌하게 대표성 있는 AI를 구현할 수 있다.

저자들은 LLM의 문화는 규모로부터 자동으로 나타나는 것이 아니라, 문화의 다차원적 측면을 가시적이고, 대표적이며, 학습 가능하도록 만드는 의도적인 학습 파이프라인 설계를 필요로 한다고 결론짓는다. 저자들은 향후 이 방향의 연구를 촉진하기 위해 560만 개의 태깅된 데이터셋을 공개한다.