Analysing LLM Persona Generation and Fairness Interpretation in Polarised Geopolitical Contexts

논문 개요: 극단적으로 분열된 지정학적 맥락에서의 LLM 페르소나 생성 및 공정성 해석 분석

이 논문은 대규모 언어 모델 (LLM) 이 사회적 시뮬레이션 및 페르소나 생성에 활용됨에 따라, 모델이 지정학적 정체성 (특히 팔레스타인과 이스라엘) 을 어떻게 표현하고 '공정성 (fairness)'을 해석하는지 분석합니다. 저자들은 ongoing 전쟁 (가자 지구 전쟁) 과 같은 고도로 분열된 맥락에서 모델이 편향을 어떻게 학습하고 반영하는지, 그리고 안전성 프롬프트 (safety prompts) 가 이러한 표현에 어떤 영향을 미치는지 실증적으로 조사했습니다.

1. 연구 문제 (Problem)

• 맥락: LLM 은 점점 더 정치학, 사회 언어학, 페르소나 시뮬레이션 등 고위험 (high-stakes) 분야에 적용되고 있습니다.
• 문제점: 기존 연구는 주로 서구 중심의 광범위한 인구통계학적 범주에 집중되어 있습니다. 그러나 팔레스타인과 이스라엘과 같이 역사적으로 깊고 대립적인 지정학적 갈등 상황에서 LLM 이 정체성을 어떻게 구성하는지는 명확하지 않습니다.
• 핵심 질문:
  1. 모델은 전쟁 (War) 과 비전쟁 (No-war) 맥락에서 팔레스타인과 이스라엘 인물의 프로필을 어떻게 다르게 생성하는가?
  2. 해로운 편견을 피하라는 명시적 지시 (Safety prompts) 가 생성된 페르소나의 분포를 어떻게 변화시키는가?
  3. 모델의 추론 과정 (Reasoning traces) 에서 '공정성'은 어떻게 해석되며, 이것이 최종 생성 결과와 어떻게 다른가?

2. 방법론 (Methodology)

• 사용 모델: 5 개의 주요 LLM (Gemma 3 27B, Qwen3 32B, Llama 3.3 70B, Gemini 2.5 Pro, GPT-4.1) 을 사용했습니다.
• 실험 설계:
  • 총 640 가지 실험 조건: 5 가지 역할 (UN 평화유지군, 기자, 여행자, 현지 거주자, 세계 지도자) × 2 가지 맥락 (전쟁/비전쟁) × 2 가지 인종 (팔레스타인/이스라엘) × 5 개 모델.
  • 데이터: 총 3,200 개의 응답을 수집했습니다.
  • 속성: 성별, 연령, 사회경제적 지위 (SES), 거주지, 직업, 외모 등을 포함하여 프로필을 생성하도록 프롬프팅했습니다.
  • 변수: '해로운 편견을 피하라'는 지시 (Debiasing hint) 유무에 따른 비교 실험을 수행했습니다.
• 분석 도구:
  • 분포 분석: 생성된 속성 (성별, SES, 직업 등) 의 통계적 분포를 분석했습니다.
  • 해석 가능성 (Interpretability): Sparse Autoencoder (SAE) 를 사용하여 모델의 추론 과정 (Rationales) 에서 '공정성' 및 '편향' 관련 특징을 추출했습니다. (Llama 3.1 8B 기반 SAE 사용)

3. 주요 결과 (Key Results)

A. 생성된 프로필의 분포적 편향 (Distributional Patterns)

• 사회경제적 지위 (SES) 의 비대칭:
  • 팔레스타인: 전쟁 맥락에서 저소득층 (lower-class) 과 생존 중심의 역할 (수집가, 물 나르는 사람 등) 로 강력하게 연결되었습니다.
  • 이스라엘: 전쟁 맥락에서도 중산층 (middle-class) 과 전문직 (소프트웨어 엔지니어, 변호사 등) 이 유지되거나 오히려 증가했습니다.
  • 결론: 모델은 전쟁을 팔레스타인에게는 '경제적 몰락'으로, 이스라엘에게는 '방어적 유지'로 해석하는 경향이 있습니다.
• 성별 편향:
  • 모델마다 편향이 다릅니다 (예: GPT 는 남성 위주, Gemma 는 여성 위주).
  • Llama의 경우, 전쟁 맥락에서 팔레스타인은 여성 (민간인 취약성), 이스라엘은 남성 (전투원 역할) 으로 극명하게 구분하는 경향을 보였습니다.
• 외모 묘사:
  • 전쟁 맥락에서 팔레스타인 인물은 피로, 부상, 비참함 (fatigue, injury, dusty) 을 강조하는 부정적 형용사로 묘사되는 반면, 이스라엘 인물은 전문성과 결의 (resolve) 를 강조하는 긍정적/중립적 묘사를 받았습니다.

B. 안전성 프롬프트 (Debiasing Hint) 의 영향

• 성별 변화: 편향 제거 지시를 받으면 모델들은 남성 비율을 줄이고 여성 또는 비이분법적 성별 (non-binary) 비율을 급격히 높였습니다. 이는 오히려 성별 분포를 왜곡시킬 수 있음을 시사합니다.
• 직업 변화:
  • 팔레스타인: 생존 관련 직업이 완전히 사라지지 않았습니다. 대신 '학생 (student)'이라는 중립적이고 안전한 직종으로 수렴하는 경향이 강했습니다.
  • 이스라엘: 여전히 고소득 전문직이 유지되었습니다.
  • 결론: 안전 지시는 직업적 다양성을 회복시키기보다, '위험하지 않은' 범주로 수렴시키는 효과가 있었습니다.
• 외모 변화: 팔레스타인 인물의 경우 부정적 묘사가 감소하고 긍정적 묘사가 증가했으나, 이스라엘 인물의 경우 변화가 미미했습니다.

C. 추론 과정과 생성 결과의 괴리 (Dissociation)

• SAE 분석 결과: 모델들이 생성된 프로필에 대한 이유 (Rationale) 를 설명할 때, '공정성', '편향', '해로움'과 관련된 단어와 특징 (features) 을 일관되게 많이 언급했습니다.
• 모순: 추론 과정에서는 공정성을 강조하는 논리를 펼치지만, 최종 생성된 프로필은 여전히 기존의 분포적 편향 (팔레스타인=빈곤, 이스라엘=중산층) 을 따랐습니다.
• 의미: 모델은 '공정성'이라는 개념을 추론 단계에서 인식하지만, 이를 실제 생성 결과로 일관되게 반영하지 못하거나, 공정성을 '특정 속성 (예: 성별 다양성)'으로만 해석하여 다른 영역 (SES 등) 의 편향을 방치하는 것으로 보입니다.

4. 주요 기여 (Key Contributions)

1. 지정학적 편향의 실증적 규명: 기존 연구가 간과했던 극단적인 지정학적 갈등 맥락 (팔레스타인/이스라엘) 에서 LLM 이 어떻게 편향을 재생산하는지 체계적으로 분석했습니다.
2. 안전성 지시의 한계 발견: "편향을 피하라"는 단순한 프롬프트가 모델의 행동을 일관되게 교정하지 못하며, 오히려 새로운 형태의 편향 (예: 성별 왜곡, 직업의 단순화) 을 초래할 수 있음을 보였습니다.
3. 추론과 생성의 불일치 발견: 모델이 공정성을 논리적으로 이해하고 설명할 수 있음에도 불구하고, 실제 생성물은 데이터의 통계적 편향을 따르는 '이중성 (Dissociation)'을 발견했습니다. 이는 모델의 내부 메커니즘과 외부 출력 간의 괴리를 시사합니다.
4. SAE 를 활용한 해석 가능성 연구: SAE 를 사용하여 모델의 추론 과정에서 '공정성' 관련 특징이 어떻게 활성화되는지 정량화했습니다.

5. 의의 및 시사점 (Significance)

• 사회적 시뮬레이션의 위험성: LLM 을 갈등 지역의 시뮬레이션이나 콘텐츠 생성에 사용할 경우, 모델이 학습한 편향을 자동화하여 인간 비하적 (dehumanising) 이나 극단적인 서사를 재생산할 위험이 있음을 경고합니다.
• 공정성 정의의 복잡성: '공정성'이 모델 내에서 어떻게 정의되고 처리되는지에 대한 명확한 프레임워크가 부재함을 지적했습니다. 단순히 안전 지시를 주는 것만으로는 해결되지 않으며, 더 깊은 메커니즘 이해가 필요합니다.
• 향후 연구 방향: 다양한 지정학적 맥락으로 연구 범위를 확장하고, 모델이 '공정성'을 스스로 어떻게 해석하는지 (Self-perception) 를 탐구하며, 다국어 (아랍어, 히브리어) 환경에서의 편향을 분석할 것을 제안합니다.

결론적으로, 이 논문은 LLM 이 복잡한 지정학적 갈등 상황에서 편향을 어떻게 처리하는지, 그리고 현재의 안전성 조치가 실제 표현의 공정성으로 이어지지 않을 수 있음을 경고하는 중요한 연구입니다. 모델은 공정성을 '이론'으로는 이해하지만, '실제 출력'에서는 데이터의 편향을 그대로 반영하는 모순적인 행동을 보인다는 점이 핵심 통찰입니다.