Aligning Implied Statements for Implicit Hate Speech Generalizability with Context-Bounded Semi-hard Negative Mining

기술 요약: 문맥 경계형 세미-하드 네거티브 마이닝을 통한 암시적 혐오 표현의 함축적 진술 정렬

문제 정의
암시적 혐오 표현(implicit hate speech)을 분류하는 것은 여전히 큰 과제인데, 이는 혐오 의도가 직접적인 비속어보다는 암시, 풍자, 완곡어법, 또는 수사적 질문 등을 통해 은폐되는 경우가 많기 때문이다. 결과적으로, 표면적인 텍text 특징만으로는 탐지가 불충분하다. 또 다른 과제는 의미적 중첩(semantic overlap)이다. 동일한 인구 통계 집단을 대상으로 하는 게시물들은 레이블(혐오 vs 비혐오)이 다르더라도 주제적 내용(topical content)을 공유하는 경우가 많아 결정 경계를 모호하게 만든다.

IMPCON 및 SHAREDCON과 같은 기존의 지도 대조 학습(supervised contrastive learning, SCL) 방식은 게시물을 인간이 주석을 단 암시적 진술이나 공유된 의미 클러스터로 끌어당기려 시도한다. 그러나 표준 SCL은 배치 내의 다른 대부분의 예시를 네거티브(negative)로 취급한다. 암시적 혐오 데이터셋에서 많은 근접 이웃(near-neighbors)들은 의도만 미세하게 다를 뿐이다. 이러한 "거짓 네거티브(false negatives)"를 밀어내는 것은 국소적 이웃 구조를 왜곡하고, 데이터셋 특유의 지름길(shortcuts)에 과적합을 유도하며, 도메인 간 일반화 능력을 저해할 수 있다.

방법론
저자들은 모든 비양성(non-positive) 사례를 밀어내는 대신 "근접 혼동 사례(near confusions)"에 학습을 집중함으로써 일반화 성능을 높이기 위해 설계된 트리플릿 기반 프레임워크인 IMPSH(Implicit Hate with Semi-hard mining)를 제안한다. 이 방법은 표준 교차 엔트로피 손실($L_{CE}$)과 트리플릿 손실($L_{triplet}$)을 공동으로 최적화한다.

1. 양성 쌍(Positive Pair) 구축:

   • IMPSH: 혐오 게시물의 경우, 양성 쌍은 게시물과 그에 대응하는 인간 주석 기반의 암시적 진술로 형성된다. 비혐오 게시물의 경우, 데이터 증강(유의어 치환)을 사용하여 양성 쌍을 생성한다.
   • AUGSH: 모든 인스턴스(혐오 및 비혐오 모두)에 대해 증강 기반 양성을 사용하는 절제 연구(ablation) 변형 모델로, 암시적 진술 주석이 제공하는 기여도를 분리하기 위함이다.

2. 문맥 경계형 세미-하드 네거티브 마이닝(Context-Bounded Semi-Hard Negative Mining):
   배치 내의 모든 반대 레이블 예시를 네거티브로 취급하는 대신, 프레임워크는 **세미-하드 네거티브(semi-hard negative)**를 선택한다. 이 네거티브는 다음 조건을 충족해야 한다:

   • 반대 레이블에 속해야 함.
   • 양성 쌍보다 앵커(anchor)로부터 더 멀리 떨어져 있어야 함 ($d_{pos} < d_{neg}$).
   • 여전히 특정 마진 범위 내에 있어야 함 ($d_{neg} < d_{pos} + \alpha$).

   이는 모델이 주제는 공유하지만 의도가 다른, 광범위하게 유사한 콘텐츠를 과도하게 밀어내지 않으면서도, 현실적이고 혼동하기 쉬운 사례(near-misses)에 업데이트를 집중하도록 보장한다.

3. 학습 목적 함수:
   최종 손실 함수는 $L = L_{CE} + \lambda L_{triplet}$이며, 여기서 트리플릿 손실은 위에서 설명한 마진 기반 선택을 활용한다.

주요 기여

• 세미-하드 마이닝을 적용한 트리플릿 프레임워크: 저자들은 모든 비양성을 밀어내는 "repel-all" 전략을 피하고, 문맥 경계형 세미-하드 네거티브 마이닝을 사용하여 의미적으로 가깝지만 레이블이 상반되는 인스턴스를 분리하는 프레임워크를 도입했다.
• IMPSH 및 AUGSH 변형 모델: 두 가지 구체적인 목적을 포함한다: IMPSH(사용 가능한 경우 암시적 진술을 활용)와 AUGSH(증강에만 의존). 이러한 설계는 암시적 주석이 더하는 구체적인 신호를 분석할 수 있게 한다.
• 포괄적 평가: 제안된 방법들은 BERT 및 HATEBERT 백본을 사용하여 세 가지 데이터셋(IHC, SBIC, DYNAHATE)에서 평가되었으며, 인도메인(in-domain) 성능, 교차 데이터셋 전이, 그리고 표현 기하학(정렬 및 균일성)에 대한 분석을 포함한다.

결과
논문은 다양한 훈련 및 테스트 구성(예: IHC에서 훈련하고 SBIC 또는 DYNAHATE에서 테스트)에 대한 결과를 보고한다:

• 교차 데이터셋 전이: IMPSH는 전이 시나리오에서 강력한 성능을 보여준다. HATEBERT를 사용하여 IHC에서 훈련할 때, IMPSH는 두 전이 대상(SBIC 및 DYNAHATE) 모두에서 최상의 결과를 달성한다. SBIC에서 훈련할 때, IMPSH는 여러 전이 설정, 특히 DYNAHATE에 대해 강력한 베이스라인(예: SHAREDCON 및 IMPCON)과 대등하거나 이를 능가한다.
• 인도메인 성능: 인도 도메인 평가에서는 결과가 더 엇갈린다. 일부 설정(예: BERT를 사용한 IHC)에서 IMPSH는 가장 강력한 베이스라인(SHAREDCON)을 능가하지 못한다. 저자들은 소스 데이터셋을 가장 잘 분리하는 목적 함수와 교차 데이터셋 변화 하에서 의미를 가장 잘 보존하는 목적 함수가 서로 다를 수 있다는 긴장 관계를 언급한다.
• 표현 분석:
  • 정렬(Alignment): IMPSH는 6개 중 4개의 훈련-테스트 설정에서 최고의 정렬(더 조밀한 양성 쌍)을 달utes하여, 의미적으로 관련된 쌍의 효과적인 클러스터링을 나타낸다.
  • 균일성(Uniformity): IMPSH는 경쟁력 있는 글로벌 확산을 유지하며, DYNAHATE로의 두 가지 전이를 포함하여 6개 중 3개 설정에서 최고의 균일성을 달성한다.
  • 시각화: t-SNE 투영 결과, IMPCON과 같은 베이스라인은 클래스 경계를 타겟 중심의 클러스터로 파편화하는 반면, IMPSH는 도메인 전반에 걸쳐 "혐오"와 "비혐오" 클래스 간의 더 명확한 글로벌 분리를 유지함을 보여준다.
• 사례 연구: 최근접 이웃(nearest-neighbor) 분석은 IMPSH가 일관된 혐오 테마(예: 여성 혐오적 또는 동성애 혐오적 맥락)를 성공적으로 그룹화하지만, 주제 편향(주제가 태도를 압도하는 경우)이나 얕은 어휘적 연결로 인해 여전히 실패할 수 있음을 밝힌다.

의의 및 주장
본 논문은 IMPSH가 전통적인 클러스터링 기반 표현 학습에 비해 게시물과 그 기저의 암시 사이의 더 안정적인 전단사(bijective-like) 매핑을 제공한다고 주장한다. 문맥 경계형 마이닝을 통해 상반된 레이블을 가진 의미적으로 가까운 인스턴스를 명시적으로 분리함으로써, 이 방법은 비지도 클러스터링의 휘발성을 완화하고 데이터셋 특유의 지름길에 대한 의존도를 줄인다.

저자들은 IMPSH를 모든 선행 연구를 대체하는 지배적인 모델이 아니라, 교차 데이터 시나리오에서 우수한 분리 능력을 제공하는 보완적인 목적 함수로 규정한다. 저자들은 마진 하이퍼파라미터에 대한 민감도, 암시적 진술 주석에 대한 의존성, 특정 인도 도메인 설정에서의 완만한 개선 등 한계점도 인정한다. 본 연구는 해당 방법이 일반화 성능을 향 향상시키기는 하지만, 주석 노이즈 및 화용론적 단서의 복잡성과 같은 암시적 혐오 탐지의 근본적인 어려움을 제거하지는 못한다는 점을 강조한다.