An Investigation of Linguistic Biases in LLM-Based Recommendations

"An Investigation of Linguistic Biases in LLM-Based Recommendations" 논문에 대한 상세한 기술적 요약입니다.

1. 문제 제기

본 논문은 대규모 언어 모델 (LLM) 기반 추천 시스템 내의 언어적 편향을 조사합니다. 구체적으로, 사용자 쿼리의 의미적 의도가 동일하게 유지되더라도 방언적 변이(표면적 구문 및 형태적 차이) 에 따라 LLM 이 추천을 변경하는지 여부를 검토합니다.

저자들은 추천 시스템이 명시적인 사용자 선호도보다는 잠재적 언어적 단서 (예: 방언) 에 기반하여 사전 결정된 결과로 사용자 행동을 유도함으로써 기술적 자율성을 침해할 수 있다고 주장합니다. 성별, 인종, 연령과 관련된 편향은 잘 연구되어 왔으나, 추천 맥락에서 방언(예: 미국 남부 영어 vs. 인도 영어) 및 코드 스위칭(힌디어 - 영어 혼용) 으로 인해 발생하는 편향은 아직 충분히 탐구되지 않았습니다.

2. 방법론

실험 설계

본 연구는 사용자 상호작용 데이터에 대한 미세 조정 없이 제로샷 프롬프팅을 수행하는 콜드 스타트 설정을 사용하여 모델 내재적 편향을 분리해 냅니다.

• 작업: 레스토랑 추천 및 제품 추천.
• 테스트된 방언:
  1. 미국 남부 영어 (AE): 미국 내 가장 큰 지역 악센트 그룹으로 선정됨.
  2. 인도 영어 (IE): 표준화된 인도 영어.
  3. 코드 스위칭 힌디어 - 영어 (CS): 힌디어와 영어의 혼합 (예: "Arre yaar, I'm dying of hunger...").
• 데이터셋:
  • 레스토랑: Yelp 오픈 데이터셋 (2023). "미국식" 및 "인도식" 요리 레스토랑 하위 집합이 균형 있게 구성됨.
  • 제품: Walmart 제품 리뷰 데이터셋 (2020). 스포츠, 건강, 개인 관리, 의류, 가정, 미용, 운동 카테고리가 포함됨.
• 프롬프팅 전략:
  • LLM 에게 100 개 항목의 균형 잡힌 목록(미국식/인도식 레스토랑 각각 50 개 또는 카테고리당 제품 100 개) 이 제공됨.
  • LLM 에게 이 목록에서 상위 20 개 추천을 선택하도록 요청됨.
  • 프롬프트는 방언에 의해서만 변형됨 (예: "Where's a good place to eat?" vs. "Where can I get a good place to eat?" vs. "Kahan milta hai tasty food?").
  • 일반화: 견고성을 보장하기 위해, 각 쿼리/방언 조합마다 고유한 균형 잡힌 목록을 생성하기 위해 20 개의 서로 다른 무작위 시드를 사용하여 작업당 600 개의 목록을 생성함.

평가된 모델

파라미터 크기의 영향을 분석하기 위해 두 가지 크기 변형으로 세 가지 모델 계열을 테스트함:

1. Llama-3.1: 8B 및 70B 파라미터.
2. GPT-OSS: 20B 및 120B 파라미터.
3. Mistral: 7B-instruct 및 mistral-small-3.1 (24B).

통계 분석

• 종속 변수: 요리 유형별 (레스토랑의 경우) 또는 제품 카테고리별 (제품의 경우) 추천 항목의 집계 수.
• 독립 변수: 방언 유형 (AE, IE, CS), 모델 크기, 그리고 이들의 상호작용.
• 모델: 선형 혼합 효과 회귀 (R 의 lmerTest 사용).
  • 고정 효과: 방언, 모델 크기, 그리고 상호작용.
  • 무작위 효과: 질문 ID 및 시드 ID.
• 검정: 고정 효과에 대한 우도비 검정을 수행한 후, 추정된 주변 평균의 사후 쌍별 비교 (Bonferroni 보정) 를 실시함.

3. 주요 기여

• 편향 감지의 신규성: 인구통계학적 또는 콘텐츠 기반 편향과 구별되는 LLM 추천 시스템 내 방언 및 코드 스위칭 편향을 구체적으로 분리해 낸 최초의 연구 중 하나입니다.
• 콜드 스타트 분석: 미세 조정을 피함으로써, 어떤 보완적 훈련이나 맥락 제공 조치도 적용되기 전에 사전 훈련된 기반 모델에 존재하는 내재적 편향을 드러냅니다.
• 세부 통계적 증거: 20 개의 시드를 통한 혼합 효과 모델의 사용은 표면적 언어적 변이가 추천 분포를 유의미하게 변경한다는 통계적으로 유의미한 증거를 제공합니다.

4. 주요 결과

레스토랑 추천

• 방언 민감도: 테스트된 모든 모델이 통계적으로 유의미한 방언 민감도를 보였습니다.
  • Llama-3.1: 가장 높은 민감도를 보였습니다. 70B 모델은 미국 영어 (AE) 프롬프트에 비해 코드 스위칭 (CS) 및 인도 영어 (IE) 프롬프트로 요청했을 때 훨씬 더 많은 인도 레스토랑을 추천했습니다.
  • Mistral: mistral-small-3.1 (24B) 모델이 민감도를 보였으며, AE 프롬프트에 비해 IE 프롬프트로 더 많은 인도 레스토랑을 추천했습니다.
  • GPT-OSS: 표면적 변이에도 불구하고 의미적 의도를 도출할 수 있는 우수한 추론 능력으로 인해 가장 낮은 민감도를 보였습니다.
• 모델 크기 경향: 더 큰 모델이 항상 더 편향되거나 덜 편향된다는 보편적 경향은 발견되지 않았습니다. 그러나 Mistral 과 Llama 계열의 더 큰 모델들은 작은 모델들에 비해 AE 프롬프트로 인도 레스토랑을 덜 추천하는 반면, CS/IE 프롬프트로는 더 많이 추천하는 경향이 있었습니다.

제품 추천

• 카테고리 변화: 방언이 추천된 제품 카테고리의 유형에 영향을 미쳤습니다.
  • 미용 및 가정: 더 큰 모델 (Llama-3.1-70B, Mistral-small-3.1) 은 IE 프롬프트로 더 많은 미용 제품을 추천했습니다. 더 작은 모델 (Llama-3.1-8B, Mistral-7B) 은 CS 프롬프트로 더 많은 가정 제품을 추천했습니다.
  • 코드 스위칭 영향: Llama-3.1-70B 모델은 CS 프롬프트에 특히 민감하여 AE/IE 프롬프트에 비해 7 개 카테고리 중 4 개(스포츠, 가정, 의류, 운동) 에서 더 많은 제품을 추천했습니다.
• 모델 계열 차이:
  • Llama-3.1: 모든 카테고리에서 방언 기반 및 모델 크기 기반 차이가 가장 두드러지게 나타났습니다.
  • GPT-OSS: 차이가 가장 적었으며, 이는 더 나은 추론 능력이 표면적 언어적 편향을 완화한다는 가설을 뒷받침합니다.

5. 중요성 및 함의

• 윤리적 우려 (기술적 자율성): 연구 결과에 따르면 LLM 은 순수하게 언어적 형태 (방언) 에 기반하여 사용자 정체성과 선호도를 추론할 수 있으며, 이는 사용자의 동의 없이 고정관념을 강화하고 사용자에게 제시되는 선택의 다양성을 축소할 수 있습니다.
• 시스템 설계: 본 연구는 모델 크기 확대만으로는 편향이 제거된다는 가정에 도전합니다. 실제로 더 큰 모델 (예: Llama-3.1-70B) 은 특정 맥락에서 더 강한 방언 의존적 편향을 보일 수 있습니다.
• 추천 공정성: 추천 시스템이 방언만으로 출력을 적응시킨다면, 사용자는 제한적이거나 고정관념에 기반한 제안을 받게 될 수 있습니다. 이는 AI 시스템에서 방언 불변적 행동에 대한 시급한 필요성을 강조합니다.
• 향후 방향: 저자들은 추천이 언어적 산물이 아닌 사용자 의도에 의해 주도되도록 보장하기 위해 프롬프트 정규화, 방언 인식 훈련, 또는 공정성 제약 디코딩과 같은 완화 전략을 제안합니다.

결론

본 논문은 방언 자체가 LLM 기반 추천 결과에 중요한 요인임을 입증합니다. 의미적 의도가 동일하더라도 인도 영어나 코드 스위칭 힌디어 - 영어로 작성된 프롬프트는 미국 영어에 비해 체계적으로 다른 추천 분포를 산출합니다. 이러한 편향은 Llama-3.1 계열에서 가장 두드러지며 제품 카테고리에 따라 달라지는데, 이는 현재 LLM 이 언어적 형태와 문화적/인구통계학적 선호도 사이의 잠재적 연관성을 인코딩하고 있으며, 이에 대한 능동적 완화 조치가 필요함을 시사합니다.