Responsible Intelligence in Practice: A Fairness Audit of Open Large Language Models for Library Reference Services

1. 연구 배경 및 문제 정의 (Problem)

• 배경: 도서관 (학술 및 공공) 은 대규모 언어 모델 (LLM) 을 참조 서비스 (Reference Services) 의 확장 가능한 계층으로 도입하고 있습니다. 이는 시간, 장소, 인력 부족의 제약을 넘어 정보 접근성을 높일 잠재력이 있습니다.
• 문제: LLM 은 훈련 데이터에 내재된 사회적 편향을 재생산할 수 있으며, 이는 도서관이 지향하는 '공정한 서비스' 및 '편견 없는 정보 제공'이라는 전문적 가치와 충돌할 수 있습니다.
• 기존 연구의 한계: 기존 인간 사서 대상 감사 연구 (Audit Studies) 는 인종이나 성별에 따라 사용자에게 차별적인 응답이 이루어지는 것을 확인했습니다. 하지만 LLM 기반 서비스의 공정성을 평가하고, 특히 오픈 소스 모델이 지역적 통제 하에 배포될 때의 편향을 분석한 연구는 부족했습니다.
• 연구 목표: 학술 및 공공 도서관 환경에서 '도움이 되고, 존중하며, 정직한 사서'로 프롬프트된 오픈형 LLM 이 사용자의 성별 (Sex) 과 인종/민족 (Race/Ethnicity) 에 따라 응답을 체계적으로 차별하는지 실증적으로 평가하는 것.

2. 연구 방법론 (Methodology)

이 연구는 **공정성 평가 프로토콜 (Fairness Evaluation Protocol, FEP)**을 적용하여 2 단계로 진행되었습니다.

A. 데이터 생성 및 시뮬레이션 (Simulation & Data Generation)

• 모델 선정: 온프레미스 배포가 가능하고 통제 가능한 3 가지 오픈 소스 LLM 선정:
  • Llama-3.1 8B (Meta)
  • Gemma-2 9B (Google)
  • Ministral 8B (Mistral AI)
• 쿼리 템플릿:
  • 학술 도서관: 주제 검색, 스포츠 팀 명칭 유래, 인구 통계 등 3 가지 유형.
  • 공공 도서관: 문서 인쇄/스캔/이메일, 이력서 업로드, 이메일 비밀번호 복구 등 3 가지 실용적 지원 유형.
• 인구통계학적 합성 (Demographic Synthesis):
  • 성별 (남성, 여성) 과 인종/민족 (백인, 흑인, 아시아계, 아메리카 원주민, 2 개 이상 인종, 히스패닉/라티노) 의 조합으로 구성된 12 개 그룹.
  • 미국 사회보장청 (SSA) 및 인구조사국 (Census) 데이터를 기반으로 성별과 인종/민족을 암시하는 합성 이름 (First Name + Surname) 을 생성하여 이메일 발신자로 사용.
• 실험 설정: 각 모델당 학술/공공 환경에서 5 번의 시드 (Seed) 를 사용하여 총 2,500 개의 응답 (모델당 환경별) 을 생성.

B. 공정성 평가 프로토콜 (FEP)

1. 1 단계: 진단 분류 (Diagnostic Classification)
   • LLM 응답 텍스트에서 TF-IDF 특징을 추출.
   • 로지스틱 회귀 (LogReg), MLP, XGBoost 3 가지 분류기를 사용하여 응답 텍스트만으로 사용자의 성별/인종을 예측하는지 테스트.
   • 기준: 분류 정확도가 무작위 추측 (성별 50%, 인종 16.7%) 을 통계적으로 유의미하게 초과하는지 확인. 초과 시 체계적인 차별이 존재한다고 간주.
2. 2 단계: 해석 (Interpretation)
   • 1 단계에서 유의미한 차이가 발견된 경우, 통계적 로지스틱 회귀 모델을 피팅하여 어떤 단어 (Lexical Markers) 가 분류를 주도하는지 식별.
   • **볼케이노 플롯 (Volcano Plot)**을 활용하여 통계적 유의성 ($p$-value) 과 효과 크기 (Coefficient) 가 모두 높은 단어를 시각화.

3. 주요 결과 (Key Results)

A. 인종 및 민족별 공정성 (Race/Ethnicity)

• 결과: 3 개 모델, 2 가지 환경 (학술/공공), 3 가지 분류기 모두에서 인종/민족에 따른 체계적인 차별은 발견되지 않음.
• 통계: 모든 테스트에서 분류 정확도가 무작위 추측 수준에 머무르며, 보너페로니 (Bonferroni) 보정 후 통계적으로 유의미한 편차는 하나도 없었음.
• 의미: 오픈 LLM 은 이름에 기반한 인종/민족 신호에 반응하여 응답 내용을 체계적으로 변경하지 않음.

B. 성별별 공정성 (Sex)

• 전반적 경향: 대부분의 모델 (Ministral, Gemma-2) 은 성별에 무관하게 공정한 응답을 제공.
• 예외 발견 (Llama-3.1, 학술 환경):
  • Llama-3.1 모델이 학술 도서관 환경에서 성별에 따라 통계적으로 유의미한 차이를 보임 (로지스틱 회귀 및 XGBoost 에서 유의).
  • 원인 분석: 응답의 질적 내용 (정보의 완전성, 유용성) 차이는 없었으며, 오직 **호칭 (Salutation)**의 사용 패턴 차이만 발견됨.
  • 구체적 패턴: 여성 사용자에게는 "Dear [Name]"이라는 호칭을 남성 사용자 (48.4%) 에 비해 훨씬 더 빈번하게 (66.2%) 사용함.
  • 해석: 이는 서비스의 불공정성이라기보다는 훈련 데이터나 RLHF 과정에서 학습된 '성별화된 예절 패턴 (Gendered politeness patterns)'의 재생산으로 보임.

4. 주요 기여 (Key Contributions)

1. 실증적 증거 제시: 오픈 소스 LLM 이 학술 및 공공 도서관 참조 서비스 맥락에서 인종/민족에 따른 편향을 보이지 않으며, 성별에 대해서도 실질적인 서비스 품질 차이는 거의 없음을 입증.
2. 평가 프레임워크 정립: 진단 분류 (편향 탐지) 와 통계적 해석 (편향 원인 규명) 을 결합한 **FEP(Fairness Evaluation Protocol)**를 도서관 서비스 맥락에 적용하고 확장함.
3. 책임 있는 AI 도입 가이드라인: 기술적 감사만으로는 부족하며, 지속적인 모니터링과 커뮤니티 참여를 통한 거버넌스가 필요함을 강조. 특히 오픈 모델의 경우 기관이 데이터와 설정을 통제할 수 있어 책임 있는 배포에 유리함을 시사.

5. 의의 및 시사점 (Significance)

• 전문적 가치와의 정합성: 현대 오픈 LLM 은 과거의 인간 사서 감사 연구에서 발견되었던 심각한 편향 (인종/성별에 따른 응답 차이) 을 크게 줄였으며, 도서관의 '공정한 정보 접근'이라는 핵심 가치와 부합할 잠재력이 있음.
• 맥락의 중요성: 편향은 절대적인 것이 아니라 맥락 (학술 vs 공공, 프롬프트 스타일) 에 따라 다르게 나타날 수 있음. 예를 들어, Llama-3.1 의 성별 편향은 학술 환경에서만 관찰되었고 공공 환경에서는 나타나지 않음.
• 지속적 모니터링의 필요성: 편향은 정적 (Static) 인 특성이 아님. 모델의 업데이트, 훈련 데이터 변화, 새로운 프롬프트 패턴에 따라 편향이 재발생할 수 있으므로, 도서관은 배포 전후로 지속적인 공정성 감사를 수행해야 함.
• 인간과 AI 의 협업: LLM 은 일상적인 문의를 처리하여 사서가 복잡한 연구 지원이나 교육에 집중할 수 있게 하는 보조 도구로 활용되어야 하며, 윤리적 판단이나 정서적 상호작용이 필요한 영역에서는 인간 사서의 개입이 필수적임.

결론

이 연구는 오픈형 LLM 이 도서관 참조 서비스에서 인종 및 민족에 따른 차별을 보이지 않으며, 성별에 있어서도 실질적인 서비스 불평등을 초래하지 않음을 보여줍니다. 다만, Llama-3.1 에서 관찰된 미세한 호칭 사용 차이는 모델이 학습 데이터의 사회적 패턴을 재생산할 수 있음을 경고하며, 기술적 검증과 함께 지속적인 윤리적 감시와 거버넌스가 필요함을 강조합니다.