Digital Skin, Digital Bias: Uncovering Tone-Based Biases in LLMs and Emoji Embeddings

1. 연구 배경 및 문제 제기 (Problem)

• 배경: 이모지는 온라인 커뮤니케이션에서 중요한 역할을 하며, 2015 년 유니코드 8.0 과 함께 5 가지 피부색 변형기 (Fitzpatrick Scale 기반) 가 도입되어 사용자의 정체성을 표현하는 데 필수적이 되었습니다. 현재 사용 가능한 이모지의 약 51% 가 피부색 변형기를 포함하고 있습니다.
• 문제: AI 모델, 특히 대규모 언어 모델 (LLM) 이 웹 상호작용을 중재함에 따라, 이러한 시스템이 피부색 이모지를 어떻게 표현하고 해석하는지가 사회적 편향을 재생산할 수 있다는 우려가 제기됩니다.
  • 기존 정적 임베딩 모델의 한계: 많은 기존 모델은 피부색 변형기를 지원하지 않거나 제한적으로만 지원합니다.
  • LLM 의 잠재적 편향: LLM 은 동적 토크나이저를 통해 모든 이모지를 지원하지만, 토큰화 과정에서 특정 피부색 (예: 어두운 피부색) 에 더 많은 토큰을 할당하거나, 의미론적 공간 (Semantic Space) 에서 특정 피부색이 부정적인 감정이나 편향된 사회적 개념과 연관될 수 있습니다.
• 핵심 질문: 피부색 변형기가 적용된 이모지들이 표현과 하위 작업 (downstream tasks) 에서 공정하고 일관된 대우를 받고 있는가?

2. 연구 방법론 (Methodology)

저자들은 정적 임베딩 모델과 현대적 LLM 을 비교 분석하기 위해 3 단계에 걸친 체계적인 연구를 수행했습니다.

2.1 데이터 및 모델 선정

• 모델: 9 개의 정적 임베딩 모델 (emoji2vec, emoji-sw2v, FastText, GloVe, BERT 등) 과 4 개의 최신 LLM (Llama, Gemma, Qwen, Mistral) 을 대상으로 합니다.
• 데이터: 유니코드 표준에 기반한 2,735 개의 피부색 이모지 및 고빈도 이모지 (Hand gestures, Person roles 등) 를 사용합니다.

2.2 분석 기법

1. 커버리지 및 토큰화 분석:
   • 모델별 피부색 이모지 지원 여부 확인.
   • 토큰화 비대칭성 분석: 피부색 변형기를 표현하는 데 필요한 토큰 수를 측정하여 계산적 비용 (Latency, API 비용) 의 불평등을 확인합니다.
2. 의미론적 일관성 (Semantic Consistency) 평가:
   • 이모지 - 텍스트 정렬: 이모지와 해당 텍스트 설명 간의 코사인 거리 (Cosine Distance) 와 단어 이동 거리 (Word Mover's Distance, WMD) 를 측정하여 피부색에 따른 의미 왜곡을 확인합니다.
   • 클러스터링 분석: t-SNE 를 사용하여 다양한 피부색 변형체가 의미론적 공간에서 어떻게 군집화되는지 시각화합니다.
3. 편향 측정 (Bias Measurement):
   • RND (Relative Norm Distance): 중립 단어 집합을 기준으로 특정 피부색 그룹이 더 가깝게 위치하는지 측정합니다.
   • WEAT (Word Embedding Association Test): 피부색 그룹이 '좋은 (Good)' 대 '나쁜 (Bad)' 속성 집합과 어떻게 연관되는지 통계적 유의성을 검증합니다.
   • RNSB (Relative Negative Sentiment Bias): 직업 관련 이모지 변형체 간 부정적 감정의 불균형 분포를 KL 발산 (KL Divergence) 으로 측정합니다.

3. 주요 기여 (Key Contributions)

1. 최초의 대규모 비교 벤치마크: 9 개의 정적 모델과 4 개의 LLM 을 아우르는 피부색 이모지 지원 및 편향 분석을 최초로 수행했습니다.
2. 토큰화 수준의 편향 발견: LLM 에서 특정 피부색 (특히 어두운 피부색) 을 표현할 때 더 많은 토큰이 소모되는 '계산적 편향 (Computational Bias)'을 발견했습니다.
3. 의미론적 이동 (Semantic Drift) 규명: 현대 LLM 에서조차 피부색 변형기가 일관된 의미론적 변화를 유발하며, 특정 피부색이 텍스트 설명이나 다른 변형체와 의미적으로 더 멀어지는 현상을 정량화했습니다.
4. 다면적 편향 측정 프레임워크: RND, WEAT, RNSB 를 이모지 컨텍스트에 적용하여 정서적 및 연관성 편향을 통계적으로 입증했습니다.

4. 주요 결과 (Results)

4.1 모델 커버리지 및 토큰화

• 정적 모델: 대부분의 정적 모델 (FastText, GloVe, BERT 등) 은 피부색 변형기를 거의 지원하지 않거나 (0~5 개), 매우 제한적으로만 지원합니다. 반면, emoji2vec 와 emoji-sw2v 는 상대적으로 좋은 커버리지를 보입니다.
• LLM 토큰화 편향:
  • Gemma 와 Qwen 은 모든 피부색 변형기를 1 개의 토큰으로 일관되게 처리합니다.
  • Llama 는 3 개의 토큰을 사용합니다.
  • Mistral 의 편향: 대부분의 변형기는 2 개의 토큰을 사용하지만, 어두운 피부색 (Dark skin tone) 변형기만 유독 5 개의 토큰을 요구합니다. 이는 어두운 피부색 표현에 불필요한 계산 오버헤드를 부과하는 구조적 불평등입니다.

4.2 의미론적 일관성

• 이모지 - 텍스트 정렬: 모델 크기가 클수록 정렬이 개선되지만, 모델마다 편향이 다릅니다. Gemma 는 어두운 피부색에서 텍스트와의 정렬이 약해지는 경향이 있고, Qwen 은 어두운 피부색일수록 정렬이 개선되는 경향을 보입니다.
• 클러스터링:
  • Gemma 는 의미론적 군집화가 가장 공정하게 이루어져 모든 피부색이 기본 이모지 주위에 밀집됩니다.
  • Llama, Qwen, Mistral 은 어두운 피부색 변형체가 기본 이모지나 밝은 피부색 변형체와 의미론적 공간에서 더 멀리 떨어지는 (Separation) 경향을 보입니다.

4.3 편향 측정 (RND, WEAT, RNSB)

• RND (중립 단어 기준): Gemma 와 Mistral 에서 어두운 피부색이 중립 단어와 상대적으로 더 멀리 위치하거나 편향된 패턴을 보입니다.
• WEAT (연관성 편향):
  • Llama 와 Qwen 은 밝은 피부색을 '좋은 (Good)' 속성과 더 강하게 연관시키는 경향이 있습니다.
  • Mistral 은 반대로 밝은 피부색을 '나쁜 (Bad)' 속성과 연관시키는 역설적인 편향을 보입니다.
• RNSB (부정적 감정 편향):
  • Qwen 은 부정적 감정이 변형체 간에 가장 불균형하게 분포되어 있으며 (높은 KL 발산), 기본형과 어두운 피부색 변형체가 중간 톤보다 부정적 감정을 더 많이 떠안는 경향이 있습니다.
  • Gemma 는 상대적으로 가장 균형 잡힌 분포를 보입니다.

5. 의의 및 결론 (Significance & Conclusion)

• 기술적 함의: LLM 이 피부색 이모지를 '지원'한다고 해서 '공정하게' 처리하는 것은 아닙니다. 토큰화 비용의 불평등과 의미론적 공간 내의 편향은 여전히 존재합니다.
• 사회적 영향: 이러한 표현적 해악 (Representational Harms) 은 웹 기반 AI 가 사회적 불평등을 전 세계적으로 재생산하고 강화할 위험이 있음을 시사합니다.
• 제안: 개발자와 플랫폼은 단순한 기능 지원을 넘어, **토큰화 정규화 (Tokenizer Normalization)**와 **반사실적 데이터 증강 (Counterfactual Data Augmentation)**을 통해 이러한 편향을 적극적으로 완화해야 합니다.

이 연구는 디지털 환경에서 인종적 정체성을 나타내는 기호들이 AI 시스템 내에서 어떻게 처리되어야 하는지에 대한 중요한 통찰을 제공하며, 공정한 웹 생태계 구축을 위한 필수적인 기준을 제시합니다.