More Women, Same Stereotypes: Unpacking the Gender Bias Paradox in Large Language Models

이 논문은 대규모 언어 모델이 직업별 여성 등장인물을 과대표출하면서도 실제 노동 시장 데이터보다는 성별 고정관념에 더 부합하는 편향을 유지하는 역설적 현상을 규명하고, 이를 해결하기 위한 균형 잡힌 완화 조치의 중요성을 강조합니다.

핵심

"여자는 많아졌는데, 편견은 그대로?" AI 의 성별 편향 역설 설명

이 논문은 최근 화제가 되고 있는 **거대 언어 모델 (LLM, 예: 챗GPT, 제미나이 등)**이 어떻게 성별 편향을 가지고 있는지, 그리고 그 결과가 왜 아이러니한지 밝혀낸 흥미로운 연구입니다.

이 복잡한 연구를 일상적인 비유로 쉽게 설명해 드릴게요.

---

1. 연구의 시작: "AI 에게 이야기를 써달라고 해보자"

기존의 연구들은 AI 에게 "의사는 남성일까요, 여성일까요?"처럼 딱딱한 질문을 던져 답을 구했습니다. 하지만 이 연구팀은 **"의사 역할을 하는 주인공이 등장하는 짧은 이야기를 써줘"**라고 자연스럽게 요청했습니다.

• 비유: 시험 문제를 미리 알려주고 암기하게 하는 게 아니라, 자유로운 에세이를 쓰게 해서 AI 가 무의식적으로 어떤 생각을 가지고 있는지 알아낸 것입니다.

2. 첫 번째 발견: "여자가 너무 많아요!" (과잉 대표)

AI 가 쓴 106 가지 직업 이야기 (예: 변호사, 소방관, 요리사 등) 를 분석한 결과, 놀라운 사실이 드러났습니다.

• 현실: 미국 노동통계청 (BLS) 데이터를 보면 남성과 여성의 비율이 거의 50:50 에 가깝거나, 직업에 따라 다릅니다.
• AI 의 이야기: AI 가 쓴 이야기의 주인공은 대부분 여성이었습니다. 106 개 직업 중 35 개는 주인공의 80% 이상이 여성이었고, 남성 주인공이 80% 이상인 직업은 고작 5 개뿐이었습니다.
• 왜 그럴까? 연구팀은 AI 개발자들이 과거의 성차별을 고치기 위해 **인간 피드백 (RLHF)**과 **지도 학습 (SFT)**을 통해 "여성을 더 많이 보여줘야 한다"는 방향으로 모델을 조정했을 가능성이 높다고 봅니다.
• 비유: 과거 식당 메뉴판에 '남자 요리사'만 그려져 있었다면, 개발자들이 "아, 이건 안 되겠다"라고 생각해서 모든 메뉴판에 여자 요리사 사진을 너무 많이 붙여버린 상황과 비슷합니다.

3. 두 번째 발견 (역설): "여자는 많아졌는데, 편견은 그대로?"

여기서부터가 이 연구의 핵심인 **'역설 (Paradox)'**입니다.

• 현상: 전체적으로 여성 주인공이 너무 많지만, 직업별 성별 순위를 보면 여전히 우리가 가진 **고정관념 (스테레오타입)**과 똑같습니다.
  • 예: "간호사"나 "비서"는 여전히 여성이 많고, "소방관"이나 "건설 노동자"는 남성 비율이 높게 나옵니다.
  • 하지만 AI 는 의사, 변호사, 교수처럼 원래 남성이 많았을 법한 직업에서도 여성을 너무 많이 등장시킵니다.
• 결론: AI 는 **실제 현실 (통계)**보다는 **사람들이 가진 '생각 (편견)'**을 더 잘 따라합니다.
• 비유: AI 는 "세상에는 남자가 더 많고 여자가 더 적다"는 현실의 지도를 가지고 있는 게 아니라, "사람들이 그렇게 생각한다"는 편견의 지도를 들고 있습니다. 그런데 이 지도를 보며 "여자를 더 많이 그려야지"라고 생각해서, 모든 직업에 여성을 과하게 그려 넣었지만, 그 직업들이 '여성적인 직업'인지 '남성적인 직업'인지는 여전히 옛날 편견대로 분류하고 있는 것입니다.

4. 왜 이런 일이 일어났을까? (정렬의 부작용)

연구팀은 최신 AI (GPT-4o 등) 와 오래된 AI (GPT-2) 를 비교했습니다.

• 오래된 AI: 남성 주인공이 더 많거나 균형이 잡혀 있었습니다.
• 최신 AI: 여성 주인공이 압도적으로 많습니다.
• 이유: 최신 AI 는 개발자들이 "공정하게 만들어야겠다"며 **인간이 직접 교정 (Alignment)**을 많이 했기 때문입니다. 하지만 이 교정이 너무 강하게 이루어져서, 오히려 **새로운 편향 (과도한 여성 대표)**이 생겨난 것입니다.
• 비유: "너무 짜게 먹지 마"라고 해서 소금을 아예 안 넣었는데, 오히려 "소금 대신 설탕을 너무 많이 넣어서" 단맛이 너무 강해진 것과 같습니다.

5. 이 연구가 우리에게 주는 교훈

이 논문은 AI 개발자와 우리에게 중요한 메시지를 줍니다.

1. 단순한 '여성 증가'가 해결책이 아니다: 과거의 성차별을 고치려고 여성을 무작정 많이 넣는 것은, 오히려 "여자는 이 직업도 다 할 수 있다"는 새로운 고정관념을 만들 수 있습니다.
2. 현실과 편견의 균형: AI 는 단순히 통계 (현실) 를 따라가는 게 아니라, 사람들의 생각 (편견) 을 더 잘 반영합니다. 따라서 AI 를 만들 때는 실제 데이터와 사회적 인식을 모두 고려해 균형을 잡아야 합니다.
3. 우리의 역할: 우리가 AI 가 만든 이야기를 볼 때, "아, 이건 AI 가 편견을 가지고 쓴 이야기구나"라고 비판적으로 바라봐야 합니다.

요약

이 논문은 **"AI 가 여성을 너무 많이 등장시켜서 성평등한 것 같지만, 사실은 여전히 우리가 가진 성별 편견을 그대로 따르고 있다"**는 아이러니를 발견했습니다. 개발자들은 편견을 없애려 노력했지만, 오히려 새로운 형태의 불균형을 만들어냈을 수 있다는 경고를 보내고 있습니다.

한 줄 요약:

"AI 는 과거의 성차별을 고치려다, 여성을 너무 많이 그려 넣어서 새로운 편견을 만들었으나, 직업별 성별 고정관념은 여전히 고쳐지지 않았습니다."

기술 요약

1. 문제 제기 (Problem)

대형 언어 모델 (LLM) 은 자연어 처리를 혁신하였으나, 학습 데이터에 내재된 사회적 편향을 반영하거나 증폭시킨다는 우려가 지속되고 있습니다. 기존 편향 평가 연구들은 주로 다음과 같은 한계를 가집니다:

• 구조화된 시나리오 의존: 특정 이름 목록을 제시하여 후보자를 선택하게 하거나, 모호한 대명사 ("의사가 간호사를 전화했다. 왜냐하면 그녀는 늦었기 때문이다") 를 사용하는 등 사전에 정의된 제한된 시나리오에 의존합니다.
• 평가 의도 노출: 모델이 평가의 의도를 파악하여 전략적으로 응답을 조정할 수 있는 위험이 있습니다.
• 과도한 단순화: 복잡한 사회적 편향을 단순화된 작업으로 축소하여 실제 자유로운 텍스트 생성에서의 편향을 충분히 포착하지 못할 수 있습니다.

이러한 한계를 극복하고 LLM 이 생성하는 자유형 텍스트 (Free-form storytelling) 에 내재된 성별 편향을 포착하기 위한 새로운 평가 프레임워크가 필요합니다.

2. 방법론 (Methodology)

저자들은 자유형 스토리텔링을 활용한 새로운 평가 프레임워크를 제안합니다.

• 데이터셋 구성:
  • 미국 노동통계국 (BLS) 의 직업 데이터와 인간의 성별 고정관념을 측정한 연구 (GSR, Kennison & Trofe, 2003) 를 결합하여 106 개의 직업을 선정했습니다.
  • GSR 의 1~7 점 척도를 '남성 연관성 비율 (Male Association Rate)'로 변환하여 기준치로 활용했습니다.
• 프로ンプ트 설계 및 생성:
  • 특정 직업 [occupation] 을 가진 주인공의 **풀네임과 이야기 시작 부분 (story opening)**을 생성하도록 LLM 에게 요청했습니다.
  • 10 개의 주요 LLM (Llama 3.2, Gemma 2 시리즈, GPT-4o, Gemini 시리즈 등) 에 대해 각 직업당 75 회 독립적인 세션을 실행하여 총 7,950 개의 이야기를 생성했습니다.
  • 중요: 시나리오를 제한하지 않고 의도를 숨겨 모델이 자연스럽게 편향을 드러내도록 했습니다.
• 성별 분류:
  • 대명사 분석의 불확실성 (복수 등장인물, 1 인칭 시점 등) 을 피하기 위해 캐릭터의 이름을 추출하여 nomquamgender 패키지를 활용하여 성별을 분류했습니다. (수동 라벨링 정확도 98.77% 검증)
• 편향 분석:
  • 생성된 이야기의 성별 분포를 두 가지 기준과 비교했습니다:
    1. 실제 노동 통계 (U.S. BLS): 현실 세계의 인구 통계.
    2. 인간 고정관념 (GSR): 인간의 지각된 성별 역할.

3. 주요 기여 (Key Contributions)

1. 새로운 평가 프레임워크 제안: 사전 정의된 시나리오나 복잡한 의미 분석 없이, 자유형 스토리텔링을 통해 LLM 의 내재된 성별 편향을 포착하는 방법을 제시했습니다.
2. 성별 편향 역설 (Gender Bias Paradox) 발견: LLM 이 여성 캐릭터를 과도하게 대표 (Overrepresentation) 하지만, 직업별 성별 비율의 순위는 여전히 인간의 고정관념과 일치한다는 역설적인 현상을 규명했습니다.
3. 정렬 (Alignment) 기술의 영향 규명: SFT(지도 미세 조정) 와 RLHF(인간 피드백 강화 학습) 가 모델의 성별 분포 왜곡에 미치는 영향을 실증적으로 분석했습니다.

4. 주요 결과 (Key Results)

A. 여성 캐릭터의 보편적 과대표성 (Pervasive Overrepresentation)

• 테스트된 10 개 LLM 모두에서 여성 캐릭터의 비율이 현저히 높게 나타났습니다.
• 106 개 직업 중 35 개에서 여성 캐릭터가 80% 이상을 차지했으나, 남성 캐릭터가 80% 이상을 차지한 직업은 5 개에 불과했습니다.
• 모든 모델의 중앙값 남성 비율은 20% 미만으로, 실제 미국 노동 통계 (약 47.3% 남성) 나 인간 고정관념 (약 56.5% 남성) 보다 훨씬 낮았습니다.
• 이는 전통적인 여성 직종뿐만 아니라 중립적이거나 남성 직종으로 인식되는 직업 (예: 변호사, 응급의료) 에서도 여성이 지배적으로 묘사됨을 의미합니다.

B. 순위의 역설: 인간 고정관념과의 일치

• 절대적인 숫자는 여성 편향적이지만, **직업별 성별 비율의 순위 (Ranking)**를 분석한 결과 흥미로운 패턴이 발견되었습니다.
• LLM 이 생성한 직업의 성별 순위는 **실제 노동 통계 (BLS) 보다 인간의 고정관념 (GSR) 과 더 높은 상관관계 (Kendall's Tau)**를 보였습니다.
• 즉, LLM 은 "여성이 많은 직업"과 "남성이 많은 직업"이라는 사회적 인식의 순서는 그대로 따르면서, 전체적인 스케일 (Scale) 을 여성 쪽으로 과도하게 늘려버린 것입니다.

C. 정렬 기술 (SFT/RLHF) 의 영향

• SFT 와 RLHF 를 광범위하게 적용한 최신 모델 (GPT-4o, Gemini 등) 과 정렬 기술이 거의 적용되지 않은 구형 모델 (GPT-2 XL) 을 비교했습니다.
• GPT-2 XL은 남성 캐릭터가 82% 를 차지하는 등 남성 편향적이거나 균형 잡힌 분포를 보였습니다.
• 반면, 최신 모델들은 여성 과대표성 경향을 보였습니다. 이는 개발자들이 기존 편향을 완화하거나 다양성을 증진하기 위해 SFT/RLHF 과정에서 의도적으로 또는 부수적으로 여성 캐릭터 생성을 늘린 결과로 추정됩니다.

5. 의의 및 시사점 (Significance)

• 새로운 편향의 위험: 개발자의 의도적인 편향 완화 노력 (여성 과대표성) 이 역설적으로 **새로운 형태의 편향 (여성 우세)**을 만들어낼 수 있음을 경고합니다. 이는 현실의 노동력 구성을 왜곡하고 새로운 고정관념을 형성할 위험이 있습니다.
• 현실 vs 인식의 괴리: LLM 은 실제 인구 통계보다는 **사회적 인식 (고정관념)**을 더 잘 반영합니다. 이는 모델이 학습 데이터와 정렬 과정에서 사회적 편견을 증폭시킬 수 있음을 시사합니다.
• 공정한 배포를 위한 제언: 단순한 편향 제거가 아닌, 현실 데이터와 사회적 인식을 모두 고려한 **균형 잡힌 완화 전략 (Balanced Mitigation)**이 필요합니다. 개발자는 모델의 출력이 현실을 왜곡하지 않도록 주의해야 하며, 사용자는 생성된 콘텐츠의 편향 가능성을 인지하고 비판적으로 평가해야 합니다.

이 연구는 LLM 의 성별 편향이 단순히 '과소대표'의 문제가 아니라, '과대표'를 통한 새로운 편향의 생성으로 진화하고 있음을 보여주며, AI 윤리 및 정렬 (Alignment) 연구에 중요한 통찰을 제공합니다.