Mind the Gap: Pitfalls of LLM Alignment with Asian Public Opinion

이 논문은 다국어·다문화 환경에서 배포되는 대형 언어 모델 (LLM) 이 영어 중심 데이터로 인해 아시아 지역의 종교적 소수자 의견과 문화적 가치에 부합하지 못하고 편향을 강화하는 문제를 다국어 감사와 내부 표현 분석을 통해 규명하고, 지역 기반의 체계적 감사가 필요함을 강조합니다.

핵심

🌍 핵심 비유: "서양식 레시피로 만든 아시아 음식"

생각해 보세요. 전 세계적으로 유명한 초대형 AI 요리사가 있다고 가정해 봅시다. 이 요리사는 주로 **미국과 유럽의 레시피 (데이터)**로만 훈련을 받았습니다. 그런데 이제 이 요리사가 한국, 인도, 태국 등 아시아 각국의 손님들에게 "우리 나라 사람들이 가장 좋아하는 음식은 뭐야?"라고 물어보고 그 답을 요리해서 내준다고 칩시다.

이 연구는 바로 **"그 요리사가 아시아 손님의 진짜 입맛을 제대로 알아맞혔을까?"**를 검증한 것입니다.

🔍 연구가 발견한 3 가지 놀라운 사실

1. "일반적인 질문엔 잘 맞지만, 종교 질문엔 엉망이다"

• 상황: AI 에게 "오늘 날씨가 어때?"나 "정치적으로 어떤 정책이 좋을까?" 같은 일반적인 질문을 하면, AI 는 아시아 사람들의 의견과 90% 이상 일치하는 답을 잘 냅니다. 마치 요리를 잘하는 요리사처럼 보입니다.
• 문제: 하지만 **"종교"**나 **"신앙"**에 관한 질문을 하면 상황이 달라집니다. AI 는 소수 종교 (예: 시아파 무슬림, 자인교 등) 에 대해 사람들이 실제로 어떻게 생각하는지 모르고, 오히려 **서구권이나 인터넷에 떠도는 부정적인 편견 (악성 스테레오타입)**을 그대로 반복합니다.
• 비유: 요리사가 "한국 사람들은 김치를 좋아해?"라고 물으면 정답을 말해주지만, "한국 사람들이 특정 종교를 어떻게 생각할까?"라고 물으면 "아마도 그 종교는 위험할 거야"라고 엉뚱하고 편향된 소문을 퍼뜨리는 것과 같습니다.

2. "한국말을 하면 나아질까? (아직도 부족함)"

• 시도: 연구진은 AI 에게 영어 대신 한국어, 힌디어, 태국어 등 현지 언어로 질문을 했습니다. "우리 언어로 말하면 더 잘 알아듣겠지?"라고 생각했기 때문입니다.
• 결과: 조금은 나아졌습니다. 하지만 완벽해지지는 않았습니다. 여전히 AI 는 그 언어를 유창하게 구사하더라도, 그 언어를 쓰는 사람들의 **진짜 마음 (문화적 가치)**을 완전히 이해하지는 못했습니다.
• 비유: 외국인이 한국말을 아주 유창하게 말한다고 해서, 한국인의 정서나 가족 간의 미묘한 감정까지 완벽하게 이해하는 것은 아닙니다. AI 도 마찬가지입니다. 언어만 바꾼다고 해서 '서구 중심의 사고방식'이 바로 '아시아 중심의 사고방식'으로 바뀌지는 않는다는 뜻입니다.

3. "소수자의 목소리가 들리지 않는다"

• 현상: AI 는 다수 종교 (예: 힌두교, 불교 등) 에 대해서는 비교적 잘 반응하지만, 소수 종교나 특정 신자 집단에 대해서는 부정적인 편견을 더 자주 보여줍니다.
• 비유: 큰 파티에서 인기 있는 사람 (다수) 에 대한 이야기는 잘 하지만, 구석에 앉아 있는 소수의 사람 (소수자) 에 대해서는 "저 사람들은 이상해"라는 편견을 가진 사람이 옆에서 계속 떠드는 것과 같습니다. AI 가 그 '편견 있는 옆사람' 역할을 하고 있는 것입니다.

💡 왜 이런 일이 일어날까요? (원인)

1. 학습 데이터의 불균형: AI 가 배운 책과 인터넷 글의 90% 이상이 영어로 되어 있고, 서구권 문화에 치우쳐 있습니다. 아시아의 다양한 종교적 신념은 그 데이터에 충분히 담겨 있지 않습니다.
2. 안전 장치의 부작용: AI 가 혐오 발언을 하지 않도록 만든 '안전 장치'가 오히려 특정 종교 집단에 대한 편견을 강화할 때, 그걸 고치지 못합니다.
3. 검증의 부재: AI 개발자들이 주로 미국이나 유럽의 데이터로만 테스트를 하기 때문에, 아시아의 문화적 차이를 놓치고 배포해 버립니다.

🚀 결론 및 제언: "우리가 무엇을 해야 할까?"

이 연구는 **"AI 가 전 세계에 퍼지기 전에, 각 나라의 문화와 종교를 제대로 이해했는지 꼼꼼히 점검해야 한다"**고 경고합니다.

• 단순한 번역이 답이 아니다: AI 에게 현지 언어를 가르치는 것만으로는 부족합니다.
• 현지 데이터가 필요하다: 아시아의 신문, 지역 사회의 이야기, 소수자의 목소리가 담긴 데이터로 AI 를 다시 훈련시켜야 합니다.
• 지속적인 감시: AI 가 배포된 후에도 계속 "이 답변이 우리 문화에 맞나요?"라고 질문하고 검증하는 과정이 필요합니다.

한 줄 요약:

"AI 가 전 세계를 위해 일하려면, 단순히 여러 언어를 말하는 '통역사'가 아니라, 각 나라의 문화와 마음을 진심으로 이해하는 '현지 전문가'로 거듭나야 합니다."

기술 요약

1. 문제 제기 (Problem Statement)

대형 언어 모델 (LLM) 이 전 세계적으로 다국어, 다문화 환경에 배포되고 있지만, 이들 모델의 훈련 데이터가 주로 영어 중심 (English-centric) 이라는 점에 큰 문제가 있습니다. 이로 인해 서구 중심의 문화적 가치관이 반영되어 아시아의 다양한 사회, 특히 종교와 같은 민감한 영역에서 현지 공중 의견 (Public Opinion) 과의 정렬 (Alignment) 이 실패할 위험이 있습니다.

기존 연구들은 주로 미국 시민을 대상으로 영어로 수행되었으며, 아시아의 다국어 사용자들과 종교적 정체성이 사회·정치적으로 중요한 역할을 하는 맥락을 간과하고 있습니다. 이러한 불일치는 소수 종교 집단에 대한 편견을 강화하거나 해로운 고정관념을 확산시킬 수 있으며, 이는 교육, 연구, 콘텐츠 생성 등 일상적인 업무에 통합되는 LLM 의 광범위한 채택 시 심각한 사회적 결과를 초래할 수 있습니다.

2. 연구 방법론 (Methodology)

이 연구는 인도, 동아시아, 동남아시아의 12 개 국가/지역을 대상으로 한 다국어 감사 (Multilingual Audit) 를 수행했습니다.

• 데이터 소스 (Ground Truth):
  • 피어 연구 센터 (Pew Research Center) 의 대규모 국가 대표성 설문 조사 데이터 (인도, 동아시아, 동남아시아의 종교 및 사회적 태도) 를 'Ground Truth'로 사용했습니다.
  • 설문 문항을 현지 언어 (힌디어, 태국어, 한국어, 일본어, 스리랑카어 등) 로 고충실도 (High-fidelity) 크라우드소싱 수동 번역을 통해 재구성하여 문화적 맥락을 보존했습니다.
• 평가 모델:
  • GPT-4o-Mini, Gemini-2.5-Flash, Llama 3.2, Mistral, Gemma 3 등 최신 상용 및 오픈 소스 모델 평가.
• 정량적 지표 (Metrics):
  • 모델 의견 분포 ($D_M$): 모델이 각 답변 옵션에 할당하는 확률 (Log-probs/Logits) 을 추출.
  • 인간 의견 분포 ($D_O$): 설문 조사의 인구통계학적 가중치를 적용하여 집계된 실제 응답 분포.
  • 정렬 측정: 두 분포 간의 차이를 측정하기 위해 Jensen-Shannon Divergence (JSD), Hellinger Distance (HD), Wasserstein Distance (WD) 를 사용하여 '대표성 (Representativeness)' 점수 ($R_M$) 를 계산.
• 편향 벤치마크:
  • 하위 작업에서의 구체적 해를 평가하기 위해 CrowS-Pairs(일반적 편향), IndiBias(인도 정체성), ThaiCLI(태국 문화), KoBBQ(한국어 QA 편향) 등 지역별 문화적 편향 벤치마크를 활용.
• 실험 설계:
  • 언어 비교: 영어 프롬프트 vs. 현지 언어 프롬프트 비교.
  • 프롬프트 조작: 인구통계학적 맥락 (예: "당신은 OO 국 시민입니다") 을 프롬프트에 추가하는 'Demographic Priming' 효과 분석.

3. 주요 기여 (Key Contributions)

1. 아시아 종교 영역에 대한 최초의 포괄적 다국어 감사: 서구 중심의 평가를 넘어, 아시아 12 개 국가의 종교적 의견에 대한 LLM 의 정렬 상태를 체계적으로 분석했습니다.
2. 다국어 프롬프트의 한계와 가능성 규명: 현지 언어 프롬프트가 일부 편향을 완화할 수 있음을 보였으나, 근본적인 분포 차이를 완전히 해소하지는 못함을 입증했습니다.
3. 구체적인 편향 메커니즘 규명: 모델이 종교적 소수 집단에 대해 부정적 고정관념을 강화하는 경향이 있으며, 이는 단순한 번역 오류가 아닌 훈련 데이터와 정렬 과정의 구조적 문제임을 밝혔습니다.
4. 오픈 소스 리소스 제공: 연구에 사용된 번역된 설문 데이터, 코드베이스, 평가 도구를 GitHub 을 통해 공개하여 향후 연구를 촉진했습니다.

4. 주요 결과 (Key Results)

• 종교 영역에서의 정렬 실패:
  • 모델들은 일반 사회 문제 (거버넌스, 정치 등) 에서는 높은 대표성 (94% 이상) 을 보였으나, 종교 관련 질문에서는 대표성 점수가 유의미하게 하락했습니다 (약 89~90%).
  • 특히 소수 종교 집단 (시아파, 수니파 무슬림, 자인교, 파르시교 등) 에 대한 부정적 서술이 긍정적 서술보다 더 '타당하다'고 판단하는 경향이 강하게 나타났습니다 (IndiBias 결과).
• 다국어 프롬프트의 효과:
  • 영어 프롬프트보다 현지 언어 프롬프트를 사용할 경우 JSD(분산) 가 감소하여 정렬이 개선되는 경향이 있었습니다 (예: 스리랑카의 싱할라어 프롬프트에서 JSD 약 31% 감소).
  • 그러나 Hellinger Distance는 언어 변경에 크게 반응하지 않아, 모델의 근본적인 확률 분포가 여전히 왜곡되어 있음을 시사합니다.
• 편향 벤치마크 평가:
  • CrowS-Pairs: GPT-4o-Mini 는 종교적 고정관념에 대해 강건했으나, Gemini-2.5-Flash 는 편향률이 높고 유효하지 않은 응답이 많았습니다.
  • KoBBQ: 프롬프트의 모호성을 제거 (Disambiguation) 할 경우 모델의 정확도가 급격히 상승하고 편향이 감소하여, 프롬프트의 명확성이 편향 완화에 중요함을 보였습니다.
• 모델 간 차이:
  • 일부 오픈 소스 모델 (Llama 3.2 등) 은 프롬프트 언어와 관계없이 특정 지역 (대만 등) 의 여론을 전혀 반영하지 못하는 심각한 실패를 보였습니다.

5. 의의 및 시사점 (Significance)

• 글로벌 배포의 위험 경고: LLM 이 다국어 능력을 갖추었다고 해서 문화적 대표성을 보장하는 것이 아님을 강조합니다. 특히 종교와 정체성이 중요한 아시아 사회에서 모델의 편향은 사회적 갈등을 심화시킬 수 있습니다.
• 기술적 한계와 해결 방향: 단순한 프롬프트 엔지니어링 (프롬프트 조작) 만으로는 근본적인 문화적 정렬 문제를 해결할 수 없습니다. 현지화된 데이터 (Native-authored narratives, 지역 언론 등) 를 통한 파인튜닝과 훈련 데이터의 다양성 확보가 필수적입니다.
• 정책 및 연구 방향: LLM 의 전 세계 배포 전에는 지역 기반의 체계적인 감사 (Audit) 가 필수적이며, 문화적 맥락을 고려한 새로운 평가 지표와 벤치마크 개발이 시급함을 주장합니다.

이 논문은 AI 모델이 단순히 언어를 번역하는 것을 넘어, 각 지역의 문화적·종교적 맥락을 얼마나 정확하게 이해하고 반영하는지에 대한 중대한 도전을 제기하며, 공정한 AI 생태계 구축을 위한 구체적인 방향성을 제시합니다.