Cultural Targets, Structural Frames, Binding Morals: A Cross-Lingual Audit of Online Hate in Multicultural Singapore

기술 요약: 문화적 대상, 구조적 프레임, 결속적 도덕성

문제 제기
온라인 혐오 연구는 전통적으로 단일 언어, 단일 플랫폼 맥락에 집중해 왔으며, 주로 발신자의 관점에서의 탐지를 다루어 왔다. 두 가지 중요한 질문이 여전히 미개척 상태로 남아 있다: (1) 혐오의 구조적 구성 요소(대상, 위협 프레임, 도덕적 토대)가 단일 사회 내에 공존하는 공동 언어 공론장 간에 공유되는가, 아니면 문화적으로 특이적인가? (2) 한 공동체가 생산하는 혐오는 그 청중이 증폭시키는 혐오와 동일한가? 또한, 이 분야는 방법론적 과제에 직면해 있다. 주석가(annotator)로 사용되는 대규모 언어 모델(LLM)은 절대적인 혐오 유병률(prevalence)에 대해 서로 불일치하는 경향이 있어, 원시 비율(raw rates)을 통한 교차 언어 비교는 신뢰하기 어렵다.

방법론
본 연구는 2025년 싱가포르 중심의 코퍼스를 활용하며, 이는 Facebook, Reddit, YouTube에 걸친 3,100만 개의 항목으로 구성된다. 데이터셋에는 11개의 싱가포르 주요 외집단(예: 중국인, 이주 노동자, 종교 집단, LGBTQ)을 언급하는 영어, 단순화된 중국어, 말레이어 176만 개의 댓글이 포함된다.

• 주석 파이프라인: 저자들은 2단계 분류 프로세스를 채택한다. 1단계에서는 높은 재현율(recall)을 가진 어휘 및 프로토타입 필터를 사용한다. 2단계에서는 LLM을 이용한 고립된 이진 혐오 결정을 사용하며, 유병률 부풀리기를 방지하기 위해 명시적인 귀무 가설(예: 중립적 언급, 정책 비판)을 설정한다. 확정에는 두 개의 독립적으로 작성된 프롬프트 간의 합의가 필요하다.
• 모델 벤치마킹: 8개의 오픈 소스 LLM을 211개의 항목으로 구성된 인간 판정 "하드(hard)" 골드 세트와 벤치마킹하였다. 합의 천장(agreement ceilings)이 낮게($\kappa \approx 0.42$) 나타났는데, 이는 주석가 수준에서 절대적 유병률이 잘 정의되지 않음을 의미한다. 결과적으로, 본 연구는 독립적인 수동 점검에서 우수한 정확도(0.95), 코헨의 카파($\kappa = 0.91$), 재현율(1.00)의 균형을 보인 Phi-4(14B 파라미터)를 주요 레이블러로 채택한다. 모든 결과는 견고성을 보장하기 위해 두 번째 독립 모델(Qwen2.5)을 사용하여 재현된다.
• 분석: 분석은 절대적 비율보다는 상대적 구조 비교에 집중한다. 대상 돌출도(Target Salience), 위협 프레임(Threat Frame), 도덕적 토대(Moral Foundation), 감정(Emotion)의 네 가지 축을 기준으로 크라머의 V(Cramér's $V$)와 총 변동 거리(Total Variation distance)를 사용하여 교차 언어적 이질성을 측정한다. 통계적 유의성은 Benjamini–Hochberg FDR 제어를 사용하는 $\chi^2$ 검정을 통해 테스트된다. 공명(증폭)은 Facebook의 스레드 내 쌍체 비교를 통해 모델링되며, 스레드, 길이, 시간을 통제한다.

주요 기여

1. 계층적 문화적 의존성: 본 논문은 온라인 혐오가 문화적 의존성에 의해 구조화된다는 검증 가능한 가설을 제안한다. 연구는 무엇을 미워하는가(대상)에서 어떻게 프레임을 짜는가(위협)를 거쳐 왜 미워하는가(도덕적 토대)로 이동함에 따라 교차 언어적 이질성이 단조롭게 감소함을 입증한다.
2. 생산-공명 해리: 본 연구는 혐오의 수용 측면을 조명하며, 청중의 증폭은 선택적으로 자국민 중심적(nativist)이며 생산량과 선형적으로 추적하지 않음을 보여준다.
3. 측정 타당성: 논쟁적인 개념인 혐오에 대해, LLM 주석가 간에 절대적 유병률은 잘 정의되지 않음($\kappa \approx 0.42$에서 천장 형성)을 확립한다. 본 논문은 상대적 구조를 기본 분석 단위로 보고하고, 절대적 비율은 보정된 범위로만 취급할 것을 주장한다.

결과

• 대상 (문화적 특수성): 대상 돌출도는 언어별로 유의미하게 차이가 난다($V=0.25$). 영어 담론은 광범위하며(이슬람, 중국인, LGBTQ에 집중), 중국어 담론은 현지 화교/중국인 축에 집중되며, 말레이어 담론은 종교와 LGBTQ에 집중된다.
• 위협 프레임 (구조적): 대상은 다르지만, 대상과 위협 프레임 사이의 매핑은 견고하다. 종교 집단은 종교적 위협으로 프레임화되고, 이주민/외국인은 경제적, 안전 또는 대체 위협으로, 현지 화교는 정치적 권력 위협으로 프레임화된다. 반(反)이슬람 적대감은 가장 높은 교차 언어적 불변성을 보인다.
• 도덕적 토대 (준보편적): 혐오의 도덕적 문법은 언어 간에 매우 잘 공유된다($V=0.08$). 혐오는 개별화된 토대(공정성)보다는 결속적(binding) 도덕적 토대(성결/55–75%, 충성심, 권위)에 의해 주로 동력을 얻는다.
• 표현: 혐오는 경멸에 의해 주도되며(모든 언어에서 94–96%), 분노를 동반하고, 탈인간화(21–35%)가 빈번하게 나타난다. 이는 체제 반대보다는 외집단 불만(반이민)의 성격을 띠며, 반이민 및 반체제 입장은 음(-)의 상관관계를 갖는다.
• 공명: 혐오적인 댓글은 일반적으로 중립적인 언급보다 덜 증폭된다. 그러나 증폭은 선택적으로 자국민 중심적이다: 반-CECA, 반-중국인, 반-이주 노동자 혐오는 우선적으로 증폭되는 반면, 종교 및 LGBTQ 집단에 대한 혐오는 억제된다.
• 이벤트 반응성: 혐호 볼륨은 주요 2025년 싱가포르 이벤트(예: 선거, 인종 사건) 전후로 유의미하게 급증하지 않으며, 이는 이벤트에 의한 변동성보다는 일정한 기저 수준(baseline)이 존재함을 시사한다.

의의 및 주장
본 논문은 "온라인 혐오"를 단일한 단일적 유병률으로 취급하는 것이 계층적 구조를 가린다고 주장한다. 핵심 발견은 대상은 지역적으로 선택되고 문화적으로 가변적이지만, 혐오의 문법(위협 프레임과 결속적 도덕적 토대)은 교차 언어적으로 공유된다는 것이다.

이는 교차 언어적 콘텐츠 모더레이션(content moderation)에 직접적인 시사점을 준다:

• 정책 전이: 특정 대상에 초점을 맞춘 탐지기나 정책보다 위협 프레임에 초점을 맞춘 정책이 언어 간 전이될 가능성이 높다.
• 모더레이션 목표: 혐오의 생산을 줄이는 것은 그것의 도달 범위를 줄이는 것과 구별된다. 증폭은 선택적으로 자국민 중심적이므로, 모더레이션 전략은 청중이 혐오를 생산된 방식과 다르게 필터링한다는 점을 고려해야 한다.
• 방법론적 엄밀성: 본 연구는 LLM의 절대적 혐호 유병률 지표에만 의존하는 것을 경계하며, 상대적 구조 분석과 인간에 의한 보정(calibration)을 옹호한다.

저자들은 자신들의 연구가 싱가포르 맥락(단일 사회, 단일 연도)에 국한되며, 코퍼스가 행위자 부재(댓글을 분석하며 사용자를 분석하는 것이 아님)라는 점을 명시하며 신중한 범위를 유지한다. 그들은 자신들의 이론적 렌즈가 인과적이지 않고 기술적(descriptive)으로 사용되었음을 강조한다.