Counterfactual Probing for the Influence of Affect and Specificity on Intergroup Bias

논문 요약: 정서 (Affect) 와 구체성 (Specificity) 이 집단 간 편향에 미치는 영향에 대한 반사실적 탐지

1. 연구 배경 및 문제 정의 (Problem)

• 기존 연구의 한계: 자연어 처리 (NLP) 분야의 편향 연구는 주로 부정적이거나 모욕적인 언어 사용에 초점을 맞추고 있습니다. 또한, 기존 연구들은 특정 인구통계학적 차원이나 화자의 의도를 식별하는 데 의존하며, 언어 생성 자체를 기본적으로 '편향 없음 (unbiased)'으로 가정하는 경향이 있습니다.
• 새로운 관점: 사회심리학 연구에 기반하여, 저자들은 모든 언어 사용이 화자와 대상 간의 사회적 관계 (집단 간 관계, IGR) 에 따라 편향된 형태를 띤다고 주장합니다. Govindarajan et al. (2023) 은 이를 '집단 간 관계 (In-group vs. Out-group)'를 모델링하는 새로운 편향 프레임워크로 제시했습니다.
• 연구 질문: 서로 다른 집단 간 맥락에서 어떤 언어적 특징이 체계적으로 변하는가? 특히, **구체성 (Specificity)**과 **정서 (Affect)**라는 두 가지 실용적 (pragmatic) 특징이 집단 간 편향과 어떻게 연관되는지, 그리고 신경망 모델이 이 특징들을 분류 의사결정에 어떻게 활용하는지 규명하는 것이 목표입니다.
• 가설: 언어 집단 간 편향 (LIB) 이론을 확장하여, 긍정적 정서의 내집단 (In-group) 발언과 부정적 정서의 외집단 (Out-group) 발언은 **낮은 구체성 (더 추상적)**으로 인코딩될 것이라고 가정했습니다.

2. 방법론 (Methodology)

• 데이터셋: 미국 의회 의원들의 트윗 데이터 (Govindarajan et al., 2023) 를 사용했습니다. 이 데이터는 같은 당 의원 (@-mention) 을 대상으로 한 경우 '내집단', 다른 당을 대상으로 한 경우 '외집단'으로 레이블이 지정되어 있습니다.
• 특징 추출 및 주석:
  • 정서 (Affect): 화자가 대상에 대해 느끼는 감정 (따뜻함/냉랭함) 과 행동에 대한 평가 (승인/부정) 를 기계적 터크 (Mechanical Turk) 를 통해 주석화하여 이진 (긍정/부정) 레이블로 변환했습니다.
  • 구체성 (Specificity): Gao et al. (2019) 의 도구를 사용하여 문장의 세부 사항 수준 (1~5 점) 을 계산했습니다.
• 모델: BERTweet (8 억 개의 영어 트윗으로 사전 학습됨) 을 사용하며, IGR 예측 태스크로 파인튜닝된 모델을 기반으로 실험을 수행했습니다.
• 실험 기법: AlterRep (반사실적 탐지)
  • 기법: INLP (Iterative Nullspace Projection) 를 기반으로 한 AlterRep 방법을 적용했습니다. 이는 모델의 내부 표현 (embeddings) 에서 특정 특징 (정서 또는 구체성) 의 정보를 제거하거나, 반대로 특정 방향으로 조작 (intervention) 하는 기법입니다.
  • 절차:
    1. 모델의 11 번째 레이어 표현에 대해 INLP 분류기를 학습하여 특정 특징 (정서 또는 구체성) 을 식별합니다.
    2. 학습된 분류기의 결정 경계를 활용하여 임베딩을 '더 긍정적/부정적 정서' 또는 '더 높음/낮음 구체성' 방향으로 조작합니다.
    3. 조작된 임베딩을 사용하여 모델이 해당 트윗을 '내집단'으로 예측하는 비율이 어떻게 변하는지 관찰합니다.

3. 주요 결과 (Results)

• 상관관계 분석:
  • 정서 (Affect): 정서와 IGR 레이블 사이에 약한 양의 상관관계 (r=0.2) 가 확인되었습니다.
  • 구체성 (Specificity): 전체 데이터셋에서는 구체성과 IGR 간의 유의미한 상관관계가 발견되지 않았습니다 (r=-0.07). 다만, 매우 높거나 낮은 구체성 점수를 가진 하위 집합에서는 약한 음의 상관관계가 관찰되었습니다.
• 반사실적 탐지 (Counterfactual Probing) 결과:
  • 정서 조작: 모델의 표현을 '긍정적 정서' 방향으로 조작하면, INLP 반복 횟수가 증가함에 따라 거의 모든 트윗이 '내집단'으로 분류되었습니다. 반대로 '부정적 정서' 방향으로 조작하면 '외집단'으로 분류되는 경향이 나타났습니다. 이는 모델이 정서를 IGR 예측의 인과적 특징으로 명확히 사용함을 시사합니다.
  • 구체성 조작:
    • 높은 구체성 (High Specificity): 모델의 표현을 더 구체적으로 조작해도 모델의 행동 변화는 관찰되지 않았습니다 (통제군과 유사).
    • 낮은 구체성 (Low Specificity): 표현을 덜 구체적으로 (더 추상적으로) 조작할 때만, 48 회 반복 후 모든 데이터가 '내집단'으로 예측되는 뚜렷한 효과가 나타났습니다.
  • 상호작용: 정서와 구체성 간의 상호작용은 발견되지 않았습니다. 정서 조작은 구체성 수준과 무관하게 일관된 효과를 보였습니다.

4. 분석 및 한계 (Analysis & Limitations)

• 모델 성능 저하: 파인튜닝된 모델은 원래의 언어 모델 (LM) 능력을 잃어, 조작 과정에서 의미 없는 토큰 (예: 'sworn', 'opport__') 을 생성하는 등 언어적 타당성이 떨어지는 현상이 관찰되었습니다. 이는 구체성 조작 결과가 모호하게 나온 이유 중 하나로 추정됩니다.
• 데이터 편향: 학습 데이터의 75.2% 가 긍정적 정서를 띠고 있어, 부정적 정서로 조작할 때 더 강한 힘이 필요했음을 시사합니다.
• 선형성 제한: INLP 기법은 선형적으로 추출 가능한 정보만 조작할 수 있어, 비선형적으로 인코딩된 복잡한 특징은 탐지하지 못했을 가능성이 있습니다.

5. 기여 및 의의 (Contributions & Significance)

• 새로운 편향 프레임워크의 검증: 기존 LIB 이론을 넘어, 전체 문장에 적용 가능한 구체성과 정서라는 계산 가능한 실용적 특징을 통해 집단 간 편향을 분석하는 새로운 접근법을 제시했습니다.
• 인과적 탐구: 단순한 상관관계를 넘어, 신경망 모델이 특정 언어 특징을 **인과적 (causal)**으로 활용하여 편향된 결정을 내리는지 반사실적 탐지 (Counterfactual Probing) 를 통해 실증했습니다.
• 모델 해석 가능성: 모델이 IGR 예측 시 정서에는 민감하게 반응하지만, 구체성에는 예측과 다르게 반응하거나 특정 방향 (낮은 구체성) 에만 반응한다는 사실을 발견하여, 모델의 내부 작동 원리에 대한 통찰을 제공했습니다.
• 오픈 소스: 코드와 데이터 (트윗 ID 및 사용자명) 를 공개하여 재현성 있는 연구를 장려했습니다.

6. 결론

이 연구는 자연어 생성에서 발생하는 편향이 단순히 부정적 어휘의 사용이 아니라, 사회적 관계에 따른 정서와 구체성의 체계적인 변화로 나타날 수 있음을 보여주었습니다. 특히, 신경망 모델이 이러한 사회적 맥락 (정서) 을 학습하여 분류 결정에 활용하고 있음을 인과적으로 입증했으나, 구체성 (Specificity) 의 역할은 예상과 다르게 복잡하게 작용하거나 모델의 언어 능력 저하로 인해 명확히 규명되지 않았음을 지적했습니다. 이는 향후 더 정교한 탐지 기법과 다양한 도메인에서의 연구가 필요함을 시사합니다.