Learning Human-Aligned Explanations: AMeta-Model Approach to Combining XAIMethods for Arabic Sentiment Analysis

문제 정의

설명 가능한 인공지능(XAI)은 트랜스포머(Transformer)와 같은 복잡한 "블랙박스" 모델을 투명하게 만드는 것을 목표로 한다. 그러나 기존의 사후(post-hoc) XAI 방법들(예: LIME, SHAP, Integrated Gradients, DeepLIFT)은 서로 다른 측면의 모델 동작을 포착하기 때문에 일관되지 않은 결과를 내놓는 경우가 많다. 저자들의 이전 연구를 포함한 기존의 앙상블 접근 방식은 고정된 집계 전략(예: 단순 평균 또는 가중 평균)을 사용하여 이러한 방법들을 결합하려고 시도했다. 이러한 고정된 전략은 두 가지 주요 한계를 갖는다:

1. 인간의 선호도를 반영하지 못하는 수동으로 정의된 가중치에 의존한다.
2. 서로 다른 XAI 방법 간의 비선형적 상호작용을 포착하지 못한다.

나아가, 형태론적 복잡성과 방언의 변이로 인해 독특한 과제를 안고 있는 아랍어에 특화된 XAI 집합(aggregation) 연구는 부족한 실정이다. 본 연구가 다루는 핵심 문제는, 모델의 일관성(faithfulness)과 인간의 판단과의 정렬(plability, 타당성) 사이의 내재된 트레이드오프를 인정하면서도, 인간의 판단과 정렬을 극대화하기 위해 XAI 출력을 결합하는 방법을 학습하는 동적이고 데이터 기반적인 메커니즘이 부재하다는 점이다.

방법론

저자들은 아랍어 감성 분석을 위해 인간과 정렬된 토큰 수준의 설명을 학습하도록 설계된 지도 학습 기반 메타 모델 프레임워크를 제안한다. 파이프라인은 네 단계로 구성된다:

1. 데이터 준비 및 주석 달기:

   • 데이터셋: 303개의 아랍어 TripAdvisor 호텔 리뷰(긍정 160, 부정 102, 중립 41)의 하위 집합을 토큰 수준에서 수동으로 주석 처리하였다.
   • 그라운드 트루스(Ground Truth): 인간 주석가들은 XS2A 플랫폼을 사용하여 감성에 영향을 미친다고 판단되는 토큰에 이진 레이블(1 = 중요, 0 = 중요하지 않음)을 부여하였다. 이를 통해 16,925개의 토큰 수준 인스턴스가 생성되었다.

2. 특징 구축(Feature Construction):
   메타 모델은 각 토큰에 대해 다음을 통합한 풍부한 특징 벡터를 입력받는다:

   • XAI 점수: LIME, SHAP, Integrated Gradients(IG), DeepLIFT, 그리고 이전의 Ensemble XAI 베이스라인으로부터 추출한 원시 중요도 점수 및 이진 근거(상위 25% 토큰).
   • 트랜스포머 내부 상태: 어텐션 가중치(모든 레이어/헤드에 걸쳐 평균을 낸 값 및 최종 레이어의 [CLS] 토큰에서 추출한 값)와 베이스 모델(CAMeLBERT-MSA)의 문맥 임베딩. 임베딩은 PCA와 UMAP을 사용하여 768차원에서 10차원으로 축소되었다.
   • 언어적 및 구조적 특징: 품사(POS) 태그, 토큰 빈도, 토큰 위치, 토큰 길이, 서브워드(subword) 여부, 구두점, 그리고 코멘트 수준의 특징(감성 극성, 모델 확신도).

3. 메타 모델 학습:
   위의 특징들을 바탕으로 이진 인간 중요도 레이블을 예측하기 위해 세 가지 지도 학습 머신러닝 모델이 학습되었다:

   • 로지스틱 회귀(Logistic Regression): 선형 베이스라인.
   • XGBoost: 비선형 상호작용을 포착할 수 있는 그래디언트 부스팅 결정 트리.
   • CatBoost: 범주형 특징에 최적화되어 있고 과적합에 강한 알고리즘.
     데이터 누수를 방기하기 위해 리뷰 단위로 90/10 분할을 수행하였으며, 하이퍼파라미터 튜닝을 위해 5-겹 교차 검증(5-fold cross-validation)을 사용하였다.

4. 평가:
   성능은 두 가지 차원에서 측정되었다:

   • 타당성(Plausibility, 인간 정렬): 인간 주석에 대한 정밀도(Precision), 재현율(Recall), F1-score 및 Jaccard 지수.
   • 일관성(Faithfulness, 모델 일관성): 포괄성(Comprehensiveness), 충분성(Sufficiency), Leave-One-Out(LOO)과의 상관관계, 삽입/삭제 AUC, 그리고 이전에 제안된 결합된 일관성(Combined Faithfulness) 지표.

주요 기여

• 아랍어 분야 최초의 인간 지도 기반 XAI 집합: 본 연구는 아랍어 NLP에 특화하여 여러 사후 XAI 방법을 결합함으로써 인간과 정렬된 토큰 수준의 설명을 학습하는 최초의 지도 학습 기반 메타 모델 프레임워크 조사를 제시한다.
• 새로운 메타 모델 아키텍처: 고정된 휴리스틱을 사용하는 기존의 앙상블 방법과 달리, 이 접근 방식은 XAI 점수, 어텐션 가중치, 임베딩 및 언어적 특징의 최적의 조합을 동적으로 학습하도록 지도 학습 모델을 훈련한다.
• 트레이드오프의 경험적 특성화: 본 연구는 타당성(plausibility)과 일관성(faithfulness) 사이의 긴장을 원칙적으로 경험적으로 분석하여, 인간 정렬을 얻기 위해 치러야 하는 비용 대비 이득을 정량화한다.

실험 결과

타당성 (인간 정렬):
메타 모델들은 개별 XAI 방법 및 이전의 가중치 기반 앙상블 접근 방식보다 성능이 크게 향상되었다.

• CatBoost와 XGBoost가 가장 높은 성능을 보였으며, F1-score 0.84와 Jaccard 지수 0.74를 달려 달성하였다.
• 이는 개별 방법들(LIME, SHAP, IG, DeepLIFT)이 0.64에서 0.70 사이의 F1-score를 기록한 것에 비해 상당한 개선이다.
• 특징 분석: 절제 실험(Ablation studies) 결과, 문맥 임베딩(UMAP으로 축소됨)이 인간의 근거를 예측하는 데 있어 가장 강력한 개별 신호를 제공함을 밝혔다. 그러나 최상의 결과는 임베딩을 XAI 점수, 어텐션 가중치 및 언어적 특징과 융합했을 때 달성되었다.

일관성 (모델 일관성):
타당성이 향상되는 동안 일관성은 감소하였으며, 이는 근본적인 트레이드오프를 확인시켜 준다.

• 메타 모델의 **결합된 일관성 지표(Combined Faithfulness metric)**는 0.54에서 0.61 사이였다 (CatBoost: 0.60, XGBoost: 0.61).
• 반면, **앙상블 XAI (가중치 적용)**와 LIME은 0.76의 더 높은 일관성 점수를 달성하였다.
• 질적 분석에 따르면, 메타 모델은 감성 함축 단어(예: "beautiful", "bad")를 성공적으로 식별했지만, 때때로 기초가 되는 CAMeLBERT 분류기가 가장 중요하게 의존하는 특정 토큰(예: 부정어)과는 괴리를 보여 더 낮은 일관성 점수를 기록하였다.

의의 및 주장

본 논문은 아랍어 영역에서 인간 지도 기반 XAI 집합에 대한 첫 번째 조사를 제공한다고 주장한다. 주요 의의는 인간의 감독 하에 XAI 방법들을 결합하여 학습하는 것이 정적 앙상블이나 개별 방법보다 인간에게 훨씬 더 타당한(plausible) 설명을 생성한다는 점을 입증한 데 있다.

그러나 저자들은 이러한 타당성의 이득이 측정 가능한 일관성의 비용을 수반한다는 점을 겸허히 결론짓는다. 그들은 이러한 트레이드오프가 이론적으로 일관된다고 주장한다: 인간 주석가는 의미론적으로 돌출되고 화용론적으로 해석 가능한 용어를 우선시하는 반면, 트랜스포머 분류기는 복잡하고 종종 직관적이지 않은 통계적 패턴에 의존하기 때문이다. 본 연구는 인간 정렬과 모델 충실도 사이의 긴장을 해결했다고 주장하는 것이 아니라, 이를 탐색하기 위한 새로운 방법론을 제공하고 근본적인 과제에 대한 원칙적인 이해를 제공하는 데 목적이 있다.

인정된 한계점:

• 확장성: 메타 모델은 CAMeLBERT 모델, TripAdvisor 데이터셋, 그리고 감성 분석 작업에 특화되어 있어, 다른 모델이나 도메인에 적용하려면 재학습이 필요하다.
• 토큰 독립성: 현재 설계는 토큰을 독립적인 인스턴스로 취급하므로, 토큰 간의 의존성(예: 부정 범위 또는 "but"과 같은 담화 연결어)을 포착하지 못한다.
• 계산 오버헤드: 파이프라인은 여러 XAI 방법을 실행한 후 모든 토큰에 대해 메타 모델 추론을 수행해야 하므로 속도가 느리다.
• 데이터 제약: 주석 작업이 두 명의 주석가에 의해 작성된 303개의 리뷰로 제한되어 있어, 통계적 유의성과 희귀 방언에 대한 일반화 가능성이 제한적이다.