1. 문제 정의 (Problem)

• 문화적 편향의 다양성: 언어에 반영된 사회적 편향은 문화적 규범에 의해 형성되며, 지역마다 그 양상이 크게 다릅니다.
• 기존 벤치마크의 한계: 비영어권 (특히 일본어) LLM 의 사회적 편향을 평가하는 기존 연구들은 주로 영어 벤치마크를 번역하거나 서구 중심의 편향 기준을 적용합니다.
  • 이로 인해 일본의 위계적 관계, 지역 방언, 전통적 성 역할 등 일본 특유의 문화적 맥락에서 발생하는 편향을 포착하지 못합니다.
  • 또한, 기존 평가는 모델이 편향을 숨기고 있을 때 (Adversarial setting이 아닐 때) 는 편향을 드러내지 못하는 경우가 많습니다.

2. 방법론 (Methodology)

저자들은 일본 문화적 맥락에 최적화된 적대적 벤치마크 JUBAKU (Japanese cUlture adversarial BiAs benchmarK Under handcrafted creation) 를 구축했습니다.

• 데이터 구성:
  • 10 가지 문화 카테고리: Adilazuarda et al. (2024) 의 연구를 기반으로 성별, 종교, 인종, 교육, 지역, 감정/가치, 음식, 기본 행동, 이름 등 10 가지 카테고리를 정의했습니다.
  • 수동 제작 (Handcrafted): 6 명의 원어민 일본어 어노테이터가 각 카테고리에 맞춰 대화 시나리오와 두 가지 응답 (편향된 응답 vs 편향되지 않은 응답) 을 직접 작성했습니다. LLM 이 생성한 응답은 포함되지 않았습니다.
  • 적대적 구성 (Adversarial Construction):
    1. 어노테이터가 초기 대화와 응답 쌍을 작성합니다.
    2. 고도의 안전 정렬이 된 GPT-4o에게 두 응답 중 하나를 선택하도록 프롬프트를 전송합니다.
    3. GPT-4o 가 편향된 응답을 선택하도록 문맥을 반복적으로 수정 (Iterative prompting) 합니다.
    4. GPT-4o 가 편향된 선택을 할 때까지 수정을 반복하여, 모델이 편향을 드러내도록 유도하는 '적대적 인스턴스'를 완성합니다.
• 데이터 규모:
  • 기본 인스턴스 152 개를 기반으로, 작업 지시문과 퓨샷 (few-shot) 예시를 변경하여 증강된 4 가지 변형을 생성했습니다.
  • 위치 편향을 완화하기 위해 정답 순서를 뒤바꾼 경우를 포함하여 총 1,216 개 (152 × 4 × 2) 의 테스트 세트를 구성했습니다.
• 평가 지표: 이진 분류 태스크 (편향된 응답 vs 편향되지 않은 응답 중 선택) 에서 편향되지 않은 응답을 선택하는 정확도를 측정합니다. 낮은 정확도는 높은 사회적 편향을 의미합니다.

3. 주요 기여 (Key Contributions)

1. 문화적 맥락 기반 최초의 일본어 적대적 편향 벤치마크: 서구 중심의 번역 데이터가 아닌, 일본 문화적 규범 (간접적 의사소통, 'Wa' 조화 등) 을 반영한 독자적인 데이터셋을 제시했습니다.
2. 수동 기반의 고품질 적대적 데이터 생성: LLM 이 생성한 데이터의 순환성 (Circularity) 과 문화적 부재 문제를 해결하기 위해, 원어민 어노테이터가 주도하고 GPT-4o 를 적대적 공격 도구로 활용하는 하이브리드 방식을 도입했습니다.
3. 잠재적 편향의 효과적 노출: 기존 벤치마크에서는 편향이 드러나지 않던 모델들도 JUBAKU 를 통해 심각한 편향을 보임을 입증했습니다.

4. 실험 결과 (Results)

• 평가 대상: Sarashina2, Qwen2.5, Swallow, calm3 등 9 개의 일본어 LLM 과 기존 영어 기반 벤치마크를 적용한 3 개 모델.
• 성능 비교:
  • JUBAKU: 모든 9 개 모델이 무작위 추측 (50%) 보다 낮은 평균 정확도 (23%, 범위 13~33%) 를 기록했습니다. 이는 모델들이 일본 문화적 맥락에서 편향된 응답을 선호함을 의미합니다.
  • 기존 벤치마크 (JBNLI, JBBQ, SSQA-JA): 동일한 모델들이 기존 벤치마크에서는 50~80% 이상의 높은 정확도를 보였습니다. 이는 기존 벤치마크가 일본 특유의 편향을 포착하지 못했음을 시사합니다.
• 적대적 수정의 효과: GPT-4o 를 통해 적대적으로 수정된 인스턴스는 다른 모델들에서도 정확도를 일관되게 하락시켰으며, 이는 생성된 적대적 데이터가 다양한 모델에 걸쳐 편향을 효과적으로 드러낸다는 것을 증명합니다.
• 카테고리별 분석: '종교'나 '인종' 카테고리는 GPT-4o 의 안전 정렬로 인해 수정 (편집) 이 많이 필요했으나, '지역'이나 '민족' 카테고리는 적은 수정으로도 편향이 쉽게 드러났습니다.
• 인간 평가: 5 명의 독립적인 어노테이터가 편향되지 않은 정답을 선택하는 정확도가 91% 로, 데이터셋의 명확성과 신뢰성을 입증했습니다.

5. 의의 및 결론 (Significance)

• 안전성 평가의 패러다임 전환: LLM 의 안전성 평가는 단순한 번역이나 서구 기준 적용을 넘어, 해당 지역의 문화적 규범과 적대적 입력 (Adversarial inputs) 을 고려해야 함을 강조합니다.
• 잠재적 편향 발견: 기존 평가에서는 '안전해 보이는' 모델조차도 문화적으로 민감한 상황에서는 편향된 행동을 보일 수 있음을 보여주었습니다.
• 향후 연구 방향: JUBAKU 는 일본어 LLM 의 문화적 편향을 시각화하고 완화하는 데 필수적인 도구로 작용할 것이며, 향후 연령, 직업, 성적 지향 등 더 넓은 문화적 범주로 확장될 수 있습니다.

이 연구는 JUBAKU를 통해 일본어 LLM 이 가진 문화적 편향을 효과적으로 진단할 수 있는 새로운 기준을 제시함으로써, 보다 안전하고 문화적으로 적합한 AI 개발에 기여합니다.