Application of integrated gradients explainability to sociopsychological semantic markers

기술 요약: 사회심리학적 의미 표지(Sociopsychological Semantic Markers)에 대한 통합 그래디언트(Integrated Gradients) 설명 가능성 적용

문제 제기
Transformer 아키텍처 기반의 대규모 언어 모델(LLM, 예: BERT, RoBERTa)과 같은 딥러닝 모델은 감성 및 사회심리학적 표지를 분류하는 데 있어 최첨단 성능을 달est 성취했지만, 이들은 "블랙박스"로서 작동한다. 기존의 접근 방식은 일반적으로 문장 또는 문서 수준에서 분류 결과를 제공하며, 이러한 예측을 유도하는 구체적인 단어들을 모호하게 만든다. 이러한 세밀함의 결여는 연구자들이 사회심리학적 구성 개념 뒤에 숨겨진 언어적 메커니즘을 이해하는 데 필요한 해석 가능성을 제한한다. 또한, 속성(attribution) 방법론들이 존재하기는 하나, "에이전시(agency, 목표 지향성 및 성취)"와 같은 미묘한 표지의 단어 수준 분석에 대한 적합성이, 특히 계산 복잡도와 속성 신뢰도 사이의 트레이드오프 측면에서 체계적으로 평가된 바 없다. 더불어, 사회심리학 연구의 공통된 과제는 특정 구성 개념에 대한 대규모 레이블링 데이터셋의 부족이며, 이는 제한된 데이터로부터 의미 있는 의미 패턴을 추출할 수 있는 방법론을 필요로 한다.

방법론
본 논문은 사회심리학적 표지에 적용된 통합 그래디언트(Integrated Gradients, IG)를 활용한 단어 수준의 설명 가능성 프레임워크를 제안한다. 방법론은 세 가지 주요 단계로 나뉜다:

1. 속성 방법 선택 및 최적화:

   • 저자들은 표준 IG, Sequential IG, Discretized IG, DeepLift, 그리고 GradientSHAP을 포함한 여러 최첨단 속성 방법들을 평가하였다.
   • 성능은 충실도(faithfulness) 지표인 포괄성(Comprehensiveness) (상위 점수 단어들을 제거했을 때 모델 출력이 얼마나 감소하는가)과 충족성(Sufficiency) (상위 점수 단어들만 유지했을 때 모델 출력이 얼마나 보존되는가), 그리고 **근사 오차(Approximation Error)**를 사용하여 평가되었다.
   • 실험은 네 가지 다양한 데이터셋(#covid19, IMDB, slurs, snippets)을 대상으로, "에이전시"를 분류하는 타겟 분류기로 사전 학습된 BERTAgent 모델(RoBERTa 기반)을 사용하여 수행되었다.
   • 주요 IG 파라미터인 적분 단계 수($N$)와 베이스라인 입력($x_0$)을 최적화하였다. 연구에서는 zero, mask, padding, mean embeddings를 포함한 베이스라인들을 테스트하였다.

2. 검증 및 렌더링:

   • 가공되지 않은 IG 출력은 토큰화 문제(예: 서브워드 분리)와 의미적 일관성(예: 부정어 처리 및 구문 의존성 그룹화)을 해결하기 위해 SpaCy를 사용하여 처리되었다.
   • 최적화된 IG 접근법의 신뢰성은 세 명의 심리학 전문가가 "골든 스탠다드(golden standard)" 데이터셋에 대해 "적중(hits, 에이전시 단어의 올바른 식별)"과 "가짜 알람(false alarms, 환각)"을 평가함으로써 검증되었다.

3. 소규모 데이터셋에 대한 적용 (과적합 전략):

   • 레이블링된 데이터가 제한적인 시나리오를 해결하기 위해, 저자들은 모델이 100% 훈련 정확도에 도달할 때까지 의도적으로 **과적합(overfit)**되도록 유도하는 새로운 훈련 절차를 제안하였다.
   • 그 근거는 소규모 데이터셋 시나리오에서 과적합이 모델로 하여금 각 클래스의 구체적이고 뚜렷한 통계적 특징(statistical signatures)을 포착하도록 강제한다는 것이다. 그 후, 이 과적합된 모델에 IG를 적용하여 클래스를 차별화하는 핵심 단어들을 식별함으로써, 타겟 표지에 대한 의미론적 사전(semantic dictionary)을 효과적으로 생성한다.

주요 기여

• 최적의 방법으로서 IG 식별: 엄격한 비교를 통해, 본 논문은 통합 그래디언트(IG)가 Sequential IG, DeepLift, GradientSHAP과 비교하여 성능(충실도)과 계산 복잡도 사이에서 우수한 균형을 제공하는 가장 효과적인 접근법임을 밝혀냈다.
• 파라미터 최적화: 본 연구는 zero baseline과 300 적분 단계($N=300$)가 RoBERTa 기반 모델에 대해 가장 신뢰할 수 있는 속성을 제공하며, 근사 오차를 최소화하면서 높은 포괄성과 충족성을 유지함을 입증하였다.
• 단어 수준 에이전시 탐지의 검증: 본 논문은 IG가 "에이전시" 점수에 기여하는 단어들을 신뢰성 있게 식별할 수 있음을 보여주며, 검증 결과 알고리즘의 하이라이트와 전문가의 인간 판단 사이에 높은 일치도를 보였다. 이는 특히 에이전시 수준이 높고 텍text 길이가 짧은 텍스트에서 두드러졌다.
• 소규모 데이터 기반 사전 구축: 저자들은 과적합과 IG를 결요하여 소규모 레이블 데이터셋으로부터 클래스 특이적 키워드를 추출하는 방법을 도입하였다. 이를 통해 대규모 사전 학습 모델이나 사전(dictionary)이 아직 존재하지 않는 복잡한 구성 개념(예: 대상화, 수치심, 공포)에 대한 사전을 구축하거나 확장할 수 있다.

결과

• 방법론 비교: Zero baseline과 $N=300$을 적용한 IG는 모든 데이터셋에서 포괄성과 충족도 측면에서 다른 방법들을 지속적으로 능가하거나 대등한 성능을 보였다. Sequential IG는 매우 짧은 텍스트에서만 미미한 개선을 보였으나 10배의 계산 비용이 발생했다. DeepLift와 GradientSHAP은 가장 낮은 성능을 보였다.
• 검증: 전문가 검증 결과, IG는 대부분의 경우에서 에이전틱(agentic)한 콘텐츠를 정확하게 식별하였다. 알고리즘의 신뢰도는 에이전시 점의 크기와 양의 상관관계를 가지며, 텍text 길이와는 음의 상관관계를 가졌다. 가짜 알람(환각)은 약 20%의 샘플에서 발생하였으며, 저자들은 이를 작업의 내재적 복잡성과 전문가 간의 자연스러운 코더 간 불일치(inter-coder disagreement) 때문으로 분석하였다.
• 적용 1 (텍스트 하이라이트): 집단 행동을 결집하기 위해 작성된 텍스트 데이터셋에 적용했을 때, IG는 전문가가 강조한 섹션이 무작위 선택에 비해 유의미하게 높은 농도의 에이전틱 단어를 포함하고 있음(최대 가능한 에이전틱 콘텐츠의 40% 이상을 포착)을 드러냈다. 이는 에이전시 개념과 동원(mobilization) 언어를 경험적으로 연결한다.
• 적용 2 (레이블로부터의 사전 구축): "slurs" 데이터셋에 적용했을 때, 과적합+IG 접근법은 다양한 레이블에 대한 의미론적으로 일관된 키워드를 성공적으로 식별하였다. 예를 들어, 성별 표지(예: "man", "boy" vs "woman", "sister"), 관계 유형(예: "boss" vs "husband"), 그리고 정서적 상태(예: 높은 수치심을 위한 "mortify", "insecurity"; 높은 대상화를 위한 "blowjob", "skirt")를 구분해 냈다. 이 결과는 대상화 및 공격성에 대한 정서적 반응과 관련된 사회심리학적 이론들과 일치하였다.

의의
본 논문은 자신의 접근 방식이 사회심리학 연구를 위한 강력하고 설명 가능한 AI(XAI) 도구를 제공한다고 주장한다. 문장 수준에서 단어 수준의 속성 부여로 전환함으로써, 연구자들에게 분류 결과를 유도하는 구체적인 언어적 특징이 무엇인지 이해할 수 있는 "읽을 수 있는" 메커니즘을 제공한다. 그 의의는 두 가지 영역에 있다:

1. 이론적 통찰: 집단 행동 의도와 에이전틱 언어 사이의 연결 고리를 검증함으로써, 동원에 관한 사회심리학적 이론에 대한 경험적 근거를 제공한다.
2. 데이터 희소 도메인에 대한 실용적 유용성: 소규모 데이터셋을 위해 제안된 방법은 복잡하고 이론적으로 미성숙한 구성 개념(대상화 또는 양극화 등)에 대한 사전을 구축하거나 정교화할 수 있는 경로를 제시한다. 이는 특정 클래스를 특징짓는 핵심적인 의미론적 콘텐츠를 식별할 수 있게 하여, 더욱 타겟팅되고 이론적으로 근거 있는 NLP 도구의 생성을 용이하게 한다.