Fairness Testing of Large Language Models in Role-Playing

1. 문제 정의 (Problem)

대규모 언어 모델 (LLM) 은 금융, 의료, 법률 등 다양한 분야에서 핵심 기술로 자리 잡았으며, 특히 **역할극 (Role-Playing)**을 통해 특정 역할을 부여받음으로써 실제 응용 시나리오에서의 성능을 극대화합니다. 그러나 기존 연구는 LLM 의 일반적 출력에 존재하는 사회적 편향 (Social Bias) 에 집중해 왔을 뿐, 역할극 상황에서 편향이 어떻게 발현되는지는 명확히 규명되지 않았습니다.

• 핵심 문제: LLM 은 방대한 인간 생성 데이터로 학습되어 내재된 편향을 가지고 있으며, 특정 역할 (예: "당신은 건축가입니다") 을 부여받으면 이 편향이 활성화되어 특정 집단 (인종, 성별, 문화 등) 에 대한 차별적 반응을 보일 수 있습니다.
• 기존 연구의 한계: 기존 공정성 테스트 프레임워크 (예: BiasAsker) 는 역할극 시나리오를 고려하지 않아, 역할 부여로 인해 발생하는 새로운 형태의 편향 (Fairness Bugs) 을 탐지하지 못합니다.

2. 방법론 (Methodology)

저자들은 BiasLens라는 자동화된 공정성 테스트 프레임워크를 개발하여 역할극 시나리오에서의 LLM 편향을 체계적으로 탐지했습니다. 이 프레임워크는 크게 두 단계로 구성됩니다.

가. 테스트 입력 생성 (Test Input Generation)

• 역할 생성 (Role Generation): 11 가지 인구통계학적 속성 (능력, 연령, 신체, 성격, 문화, 성별, 직업, 인종, 종교, 사회적 지위, 피해자) 을 기반으로 LLM 을 사용하여 550 개의 사회적 역할을 생성했습니다.
• 질문 생성 (Question Generation): 생성된 각 역할에 대해 3 가지 유형의 질문 (Yes/No, 선택형, 서술형) 을 생성하여 편향을 유발할 수 있는 상황을 조성했습니다.
  • 총 33,000 개의 질문 (각 역할당 60 개) 이 생성되었으며, 이는 다양한 편향 유형을 포괄하도록 설계되었습니다.

나. 테스트 오라클 생성 (Test Oracle Generation)

생성된 질문에 대한 LLM 의 응답이 편향되었는지 판단하는 오라클을 구축했습니다.

• Yes/No 및 선택형 질문: 규칙 기반 (Rule-based) 오라클 사용. (예: 편향되지 않은 정답이 '아니오'인 경우, LLM 이 '예'를 답하면 편향으로 간주)
• 서술형 (Why) 질문: 기존 규칙 기반 접근법 (특정 접속사 탐지) 의 한계를 극복하기 위해 **LLM 기반 판정자 (LLM-based Judges)**를 도입했습니다. 3 개의 LLM 판정자가 응답을 평가하고 다수결 원칙을 적용하여 편향을 판단했습니다.
• 검증: 모든 자동화 과정은 인간 평가자 (Human Evaluators) 를 통한 엄격한 검증을 거쳤으며, 평가자 간 일치도 (Cohen's Kappa) 가 매우 높음을 확인했습니다.

다. 실험 설정

• 대상 모델: OpenAI, Meta, Google, Alibaba 등 주요 벤더의 10 개 최첨단 LLM (GPT-4o-mini, Llama-3, Qwen, Mistral 등) 을 평가했습니다.
• 실험 프로토콜: 각 질문을 모델당 3 번씩 입력하여 비결정성 (Non-determinism) 을 고려하고, 3 번 중 2 번 이상 편향된 응답이 나올 경우 최종적으로 편향으로 판정했습니다.

3. 주요 결과 (Key Results)

10 개 LLM 에 대한 광범위한 평가를 통해 다음과 같은 결과를 도출했습니다.

• 편향의 광범위한 존재: 총 107,580 개의 편향된 응답이 발견되었습니다. 개별 모델당 편향된 응답 수는 7,579 개에서 16,963 개 사이로 분포했습니다.
• 역할극의 영향: 역할극을 제거한 일반 프롬프트 테스트와 비교했을 때, 모든 모델에서 편향된 응답이 평균 23.8% 감소했습니다. 이는 역할극이 LLM 의 사회적 편향을 추가로 유발하거나 증폭시킨다는 것을 의미합니다.
• 모델 성능과 편향의 비연관성: 모델의 능력 (Chatbot Arena 랭킹 등) 과 편향 수준 사이에 명확한 상관관계가 발견되지 않았습니다. 오히려 상위권 모델보다 하위권 모델 (예: Llama-3-8B) 이 역할극 시나리오에서 더 많은 편향을 보인 경우가 있었습니다.
• 가장 민감한 속성:
  • 인종 (Race) 과 문화 (Culture) 관련 역할에서 가장 높은 편향 수준이 관찰되었습니다. 특히 아시아계 정체성과 관련된 역할에서 편향이 집중되었습니다.
  • 질문 유형: 서술형 (Why) 과 선택형 (Choice) 질문이 Yes/No 질문보다 더 많은 편향을 유발했습니다.
• 비결정성의 영향: LLM 의 비결정성으로 인해 동일한 질문에도 응답이 달라질 수 있으나, 3 회 시도 중 2 회 이상 편향이 발생한다는 엄격한 기준 하에서도 편향은 일관되게 발견되었습니다.

4. 주요 기여 (Key Contributions)

1. 새로운 테스트 프레임워크 (BiasLens): 역할극 시나리오에 특화된 자동화된 공정성 테스트 프레임워크를 최초로 제안했습니다.
2. 대규모 데이터셋 공개: 11 가지 인구통계학적 속성을 기반으로 한 550 개의 역할과 33,000 개의 편향 유발 질문, 그리고 10 개 LLM 의 응답 데이터를 공개하여 재현과 후속 연구를 지원했습니다.
3. 실증적 발견: 역할극이 LLM 의 편향을 증폭시키는 핵심 요인임을 실증적으로 증명하고, 기존 성능 - 공정성 트레이드오프 가설이 역할극 맥락에서는 성립하지 않을 수 있음을 보였습니다.

5. 의의 및 시사점 (Significance)

• 연구자 및 실무자에게: 역할극은 단순한 프롬프트 기법이 아니라, 편향을 유발하는 설계 결정 (Design Decision) 으로 간주되어야 합니다. 따라서 LLM 배포 전 역할 기반 공정성 감사 (Role-aware Fairness Auditing) 가 필수적입니다.
• 편향 완화: 기존 편향 완화 기법은 역할극을 고려하지 않아 효과가 제한적일 수 있으므로, 역할을 편향 증폭 요인으로 간주하는 새로운 완화 전략이 필요합니다.
• 사회적 영향: LLM 이 역할극을 통해 특정 인종이나 문화 집단에 대한 고정관념을 강화할 위험이 크므로, 다문화 환경에서의 LLM 적용 시 각별한 주의와 지속적인 모니터링이 요구됩니다.

이 논문은 LLM 이 실제 응용 분야에서 역할을 수행할 때 발생할 수 있는 숨겨진 공정성 위험을 체계적으로 드러냈으며, 향후 더 안전하고 공정한 AI 시스템 구축을 위한 중요한 기초를 마련했습니다.