TabSHAP

1. 연구 배경 및 문제 정의 (Problem)

• 배경: 대규모 언어 모델 (LLM) 을 시리얼화된 테이블 데이터에 파인튜닝하여 전통적인 트리 기반 모델 (XGBoost, Random Forest 등) 을 대체하려는 시도가 증가하고 있습니다. 특히 이질적이거나 맥락이 풍부한 데이터셋에서 뛰어난 성능을 보입니다.
• 문제점:
  • 해석 가능성 부족: 의료, 금융 등 고위험 (High-stakes) 분야에서 LLM 기반 모델의 배포를 방해하는 가장 큰 장벽은 '충실한 (Faithful) 해석 가능성'의 부재입니다.
  • 기존 방법의 한계:
    • 글로벌 선형 프록시: 로지스틱 회귀 등을 모델 예측에 피팅하는 방식은 인스턴스별 비선형 결정 논리를 포착하지 못합니다.
    • 토큰 수준의 왜곡: 자연어 처리용 토큰 단위 속성 (Attribution) 방법은 테이블 데이터의 의미 단위 (예: "Age: 50"은 여러 토큰으로 구성됨) 를 무시하여, 개별 토큰을 삭제할 때 프롬프트 문법을 손상시키거나 모델의 환각 (Hallucination) 을 유발할 수 있습니다.
    • 확률 분포 무시: 기존 방법은 예측 라벨의 변경 여부 (스칼라 확률 변화) 만을 측정하여 모델의 전체적인 확률적 불확실성 (Distributional Uncertainty) 을 반영하지 못합니다.

2. 제안 방법론: TABSHAP (Methodology)

저자들은 LLM 기반 테이블 분류기의 로컬 쿼리 결정 논리를 직접 귀속 (Attribute) 하기 위해 TabSHAP이라는 모델-중립적 (Model-agnostic) 프레임워크를 제안합니다.

핵심 구성 요소

1. 원자적 (Atomic) 피처 마스킹:

   • 시리얼화된 테이블 프롬프트에서 개별 서브워드 토큰이 아닌, 키:값 (Key:Value) 쌍 전체를 하나의 원자 단위로 취급합니다.
   • 예: "Age: 50"을 구성하는 토큰들을 하나씩 지우는 대신, 전체 "Age: 50" 문자열을 입력에서 제거하여 문법적 무결성을 유지하고 의미 있는 피처 제거를 보장합니다.

2. 버벌라이저 스타일 클래스 집계 (Verbalizer-Style Class Aggregation):

   • 생성형 LLM 은 동일한 클래스 (예: "Yes") 를 나타내는 다양한 토큰 ("Yes", " yes", "ye"+"s" 등) 에 확률을 분산시킬 수 있습니다.
   • 이를 해결하기 위해, 고정된 라벨 - 토큰 매핑을 기반으로 **Top-K 다음 토큰 로짓 (Logits)**을 집계하여 각 클래스의 확률 질량을 계산합니다. 이는 증류 (Distilled) 또는 양자화 (Quantized) 모델에서도 안정적인 점수를 제공합니다.

3. 분산 기반 귀속 (Distributional Attribution via JSD):

   • 피처의 중요도를 측정할 때 단순한 예측 라벨 변경이 아닌, 전체 입력과 피처가 마스킹된 입력 간의 클래스 확률 분포 차이를 측정합니다.
   • **Jensen-Shannon Divergence (JSD)**를 사용하여 분포 간의 거리를 계산하고, 이를 [0, 1] 범위의 유사도 점수로 변환합니다. 이는 모델의 신뢰도 (Confidence) 변화를 포괄적으로 반영합니다.
   • 참고: KL 발산 (KL Divergence) 및 L1 거리도 비교 실험을 위해 사용되었습니다.

4. 샘플링된 연합 추정 (Sampled-Coalition Estimator):

   • 모든 피처 조합 (2^M) 을 계산하는 것은 불가능하므로, TokenSHAP 에서 영감을 받아 몬테카를로 샘플링 방식을 적용합니다.
   • 모든 피처를 제외하는 'Leave-one-out' 연합을 포함하고, 나머지 무작위 연합을 샘플링하여 각 피처의 기여도 (Shapley 값 유사) 를 추정합니다.

3. 주요 기여 (Key Contributions)

1. JSD 기반 분산 귀속: 예측 라벨의 변경이 아닌, 모델의 전체 확률 분포 변화 (신뢰도 이동) 를 측정하여 피처 중요도를 정량화합니다.
2. 테이블 의미론에 부합하는 마스킹: 토큰 단위가 아닌 키:값 (Key:Value) 필드 단위의 원자적 삭제를 통해 프롬프트 문법 오류를 방지하고 의미론적 무결성을 유지합니다.
3. 안정적인 클래스 집계: 생성형 LLM 의 토큰화 민감성을 해결하기 위해 Top-K 로짓 기반의 클래스 확률 집계 방식을 도입했습니다.
4. 실험적 검증: Adult Income 및 Heart Disease 벤치마크를 통해 기존 랜덤 베이스라인 및 XGBoost 프록시보다 훨씬 높은 충실도 (Faithfulness) 를 입증했습니다.

4. 실험 결과 (Results)

• 데이터셋: Adult Income (이진 분류, 14 개 피처) 및 Heart Disease (의료 진단, 13 개 피처).
• 모델: DeepSeek-R1-Distill-Llama-8B 를 QLoRA 로 파인튜닝하여 사용.
• 충실도 평가 (Deletion Curve):
  • TabSHAP 이 순위 매긴 피처들을 순차적으로 제거했을 때, 모델의 예측 확률이 랜덤 제거나 XGBoost 기반 제거보다 훨씬 급격하게 감소했습니다. 이는 TabSHAP 이 모델의 실제 결정에 중요한 피처를 정확히 식별함을 의미합니다.
• 거리 지표 비교 (Ablation Study):
  • JSD, KL, L1 거리를 사용한 TabSHAP 을 비교한 결과, JSD 기반 순위가 일반적으로 가장 우수한 충실도를 보였습니다.
• LLM vs. XGBoost 비교:
  • 두 모델 간 스피어만 순위 상관관계는 약 0.65 로 moderate 했습니다.
  • 차이점: XGBoost 는 정밀한 수치 분할 (예: 주당 근무 시간) 을 중시하는 반면, LLM 은 **의미론적이고 텍스트가 풍부한 피처 (예: 직업, 교육 수준)**에 더 큰 가중치를 두는 경향이 있었습니다. 이는 LLM 이 테이블 데이터를 처리할 때 언어적 사전 지식 (Semantic Priors) 을 활용함을 보여줍니다.

5. 의의 및 결론 (Significance)

• 신뢰할 수 있는 LLM 배포: TabSHAP 은 고위험 분야에서 LLM 기반 테이블 분류기의 '블랙박스' 문제를 해결하고, 의사결정 과정에 대한 신뢰를 구축할 수 있는 도구를 제공합니다.
• 새로운 해석 패러다임: 기존 선형 프록시나 토큰 단위 해석의 한계를 넘어, 생성형 LLM 의 분산적 특성과 테이블 데이터의 구조적 특성을 동시에 고려한 새로운 해석 프레임워크를 제시했습니다.
• 향후 과제: 고차원 테이블 데이터 (피처 수 M 이 큰 경우) 로의 확장, 피처 간 상호작용 (Interaction) 모델링, 다양한 백본 모델에 대한 검증 등이 필요합니다.

이 논문은 LLM 이 테이블 데이터 분석에 성공적으로 적용되기 위해서는 단순한 성능 향상을 넘어, 모델이 '왜' 그렇게 판단했는지에 대한 충실하고 의미 있는 설명이 필수적임을 강조하며, 이를 위한 구체적인 기술적 해결책을 제시했습니다.