기술 요약: 성별 대명사와 사회 집단을 활용한 중국어 LLM 의 사회적 정체성 편향 탐지

문제 제기

대형 언어 모델 (LLM) 이 사용자 중심 애플리케이션에 점점 더 많이 배포되면서, 기존 사회적 편향을 반영하고 증폭시킬 수 있다는 우려가 제기되고 있습니다. 기존 연구는 CrowS-Pairs 나 임베딩 기반 분석과 같은 벤치마크를 사용하여 영어 중심 LLM 에서 성별, 인종 등 범주별 편향을 광범위하게 문서화해 왔으나, 중국어 언어적 맥락 내 사회적 정체성 편향을 이해하는 데에는 상당한 공백이 존재합니다. 사회적 정체성 이론은 개인이 자신의 '내집단 (ingroup)'에 대해서는 호의적인 태도를 보이고 '외집단 (outgroup)'에 대해서는 부정적인 태도를 보인다고 주장합니다. 그러나 중국어 LLM 이 이러한 역학을 재현하는지, 그리고 특히 혼합 성별이나 특정되지 않은 집단을 지칭하는 기본 복수 대명사 **그들 (他们, tāmen)**과 명시적으로 여성을 지칭하는 복수 대명사 그녀들 (她们, tāmen) 사이의 구별과 같은 만다린어의 특정 언어적 특징이 이러한 편향을 어떻게 조절하는지는 여전히 불분명합니다. 현재의 평가 전략은 종종 집단 간 감정의 관계적 메커니즘과 중국어 고유의 형태론적 구조를 간과하고 있습니다.

방법론

본 연구는 알리바바, 바이두, 텐센트, 딥시크 (DeepSeek) 등 주요 개발사의 기반 (사전 훈련) 모델과 지시 미세 조정 (instruction-tuned) 변형을 모두 포함하는 10 개의 대표적인 중국어 LLM을 대상으로 통제된 생성 프레임워크를 적용했습니다.

1. 프롬프트 설계 및 데이터 수집

• 프레임 조건: 저자들은 두 가지 주요 프레임 방식을 사용하여 문장 완성 프롬프트를 구성했습니다.
  • 내집단: 1 인칭 복수 ("우리", "We").
  • 외집단: 3 인칭 복수이며, 이는 다음과 같이 세분화됩니다.
    • 기본 복수: "그들" (표시 없음/혼합 성별).
    • 여성 복수: "그녀들" (명시적으로 여성 표시).
• 사회 집단: 프롬프트는 중국어 맥락에서 중요한 240 개의 사회 집단(연령, 장애, 국적, 교육 수준 등) 을 " [집단] 으로서, 우리/그들은..."이라는 형식으로 구체화하여 작성되었습니다.
• 거부 반응 완화: 지시 미세 조정 모델로부터 안정적인 생성을 보장하기 위해, 중국어 웹 텍스트 (ChineseWebText) 코퍼스에서 고품질 중립 문장을 프롬프트 앞에 추가하는 중립적 맥락 비계 (scaffolding) 전략을 사용했습니다.
• 데이터셋: 본 연구는 10 개 모델로부터 297,600 개의 응답을 생성했습니다. 또한, 실세계 타당성을 평가하기 위해 WildChat 코퍼스에서 4,079 개의 사용자 - 어시스턴트 상호작용에 대한 추가 탐색적 분석을 수행했습니다.

2. 측정 프레임워크

감정과 독성을 모두 평가하기 위해 2 단계 측정 프레임워크를 채택했습니다.

• 감정 분석: 응답을 긍정, 부정, 중립으로 라벨링하기 위해 알리윤 (Aliyun), 바이두 NLP, 딥시크-V3(DeepSeek-V3) 의 세 가지 분류기를 사용했습니다. 다수결을 통해 합의 라벨을 도출했으며, 200 문장 하위 집단에 대한 수동 검증 결과 83.5% 의 일치율을 보였습니다.
• 독성 분석: 감정 분석만으로는 놓칠 수 있는 안전 관련 신호 (무례함, 불경함, 비합리적인 논평) 를 포착하기 위해 Perspective API 를 사용하여 연속적인 독성 점수 (0~1) 를 생성했습니다.
• 통계 모델링: 문장 길이와 어휘 다양성 (Type-Token Ratio) 을 통제하면서 내집단 연대와 외집단 적대성을 검증하기 위해 회귀 모델 (이항 감정을 위한 로지스틱, 독성을 위한 선형) 을 추정했습니다.

주요 결과

1. 체계적인 내집단 - 외집단 비대칭성

거의 모든 모델에서 체계적인 비대칭성이 발견되었습니다.

• 내집단 연대: "우리" 프레임 하의 응답은 일반적으로 "그들" 프레임 하의 응답보다 더 긍정적이었습니다.
• 외집단 적대성: "그들" 프레임 하의 응답은 더 높은 부정적 감정과 독성을 나타냈습니다.
• 모델 변동성: 사전 훈련 모델은 특히 강력한 외집단 적대성을 보였습니다. 지시 미세 조정 모델은 더 균형 잡힌 패턴을 보였으며, 감정 비대칭성은 종종 약화되었지만 독성 격차는 더 지속적으로 남았습니다.

2. 성별 언어 표지의 영향

**그들 (他们)**과 그녀들 (她们) 사이의 구별은 특정 편향 패턴을 드러냈습니다.

• 여성 연관 독성: 여러 모델에서 명시적으로 여성을 지칭하는 복수형 (그녀들) 은 기본 복수형 (그들) 에 비해 더 높은 독성 점수와 연관되었습니다. 감정 비대칭성이 미미할지라도 그랬습니다.
• 지시 미세 조정 효과: 지시 미세 조정은 감정 격차를 줄였지만, 여성 표지 형태와 관련된 독성 격차는 일부 시스템에서 여전히 관찰되었습니다. 이는 안전 정렬 (safety alignment) 이 성별 편향을 완전히 제거하지는 못함을 시사합니다.

3. 사회 범주 간 변이

편향 표현은 240 개의 사회 집단 전반에 걸쳐 균일하지 않았습니다.

• 높은 민감도: 성별, 국적, 인종과 관련된 집단은 가장 뚜렷한 내집단 - 외집단 비대칭성 (오즈비 > 1.4) 을 보였습니다.
• 감쇠된 효과: 민족성과 교육 수준과 같은 범주는 감쇠되거나 역전된 효과를 보였으며, 이는 특정 민감 범주에 대해서는 부정적 출력을 조절하는 반면 다른 범주는 취약하게 만드는 선택적 안전 정렬 메커니즘을 시사합니다.

4. 실세계 대화 증거

WildChat 대화에 대한 추가 분석은 자연스러운 상호작용에서도 유사한 내집단 - 외집단 패턴이 존재한다는 탐색적 증거를 제공했습니다. 다만 저자들은 WildChat 코퍼스가 영어 중심 모델을 사용했고 정체성 표지가 불균형하다는 점을 고려할 때, 이러한 발견이 통제 실험과 직접 비교할 수는 없다고 경고했습니다.

주요 기여

1. 언어 인식 평가 프레임워크: 본 연구는 영어 전용 환경에서는 직접 관찰할 수 없는 차원인 기본 복수 대명사와 여성 복수 대명사 사이의 형태론적 구별을 활용하여 편향을 탐지하는 중국어 LLM 전용 방법론을 제시합니다.
2. 중국어 맥락의 실증적 증거: 영어에서 문서화되었던 사회적 정체성 편향 (내집단 편애 및 외집단 적대) 이 240 개의 광범위한 사회 집단에 걸쳐 중국어 LLM 에서도 나타남을 확인했습니다.
3. 이중 지표 통찰: 감정 분석과 독성 분석을 결합함으로써, 지시 미세 조정은 긍정/부정 감정 비대칭성을 줄일 수 있지만 특히 성별 언어 표지와 관련된 독성 격차는 제거하지 못하는 경우가 많음을 밝혔습니다.
4. 보조 실세계 분석: 이러한 합성 벤치마크 결과가 배포와 유사한 환경으로 확장될 수 있음을 보여주는 초기 증거를 제공하며, 문화적 맥락에 기반한 정렬 전략의 필요성을 강조합니다.

중요성과 주장

본 논문은 중국어 LLM 의 사회적 정체성 편향이 특정 범주를 넘어 "우리"와 "그들" 사이의 일반적인 관계적 역학으로 확장되는 체계적 문제라고 주장합니다. 특히 만다린어 특유의 언어적 구조(성별 대명사 등) 가 영어 중심 평가에서는 보이지 않는 편향 패턴을 드러낼 수 있다고 강력히 주장합니다.

저자들은 지시 미세 조정이 이러한 편향을 부분적으로 완화할 수는 있지만, 독성과 성별 프레임과 관련하여 이를 완전히 제거하지는 못한다고 주장합니다. 이는 현재 정렬 전략이 상호작용형 사용자 중심 애플리케이션의 공정성을 보장하기에 충분하지 않을 수 있음을 시사합니다. 본 연구는 고위험 영역에서의 LLM 행동에 대한 체계적 모니터링과 중국어의 문화적 맥락 및 특정 언어적 특성에 민감한 완화 전략 개발을 요구합니다.

저자들은 주장에 대해 겸손한 태도를 유지하며, 계산 자원 제약으로 인한 일부 모델 제외, 완전한 인간 골드 스탠다드 대신 자동화된 감정 프록시에 의존함, 그리고 실세계 대화 분석의 탐색적 성격과 같은 한계를 인정합니다. 또한 연구 결과가 모델의 행동을 문서화한 것이지 저자들의 견해나 관련 사회 집단의 정확한 대표성을 반영하는 것은 아님을 강조합니다.