Shapley in Context: Explaining Financial Language with Domain Expertise

기술 요약: 맥락 속의 샤플리(Shapley): 도메인 전문 지식을 통한 금융 언어 설명

문제 정의
대규모 언어 모델(LLM)은 감성 분석부터 리스크 관리까지 다양한 금융 애플리케이션에 점점 더 많이 채택되고 있습니다. 그러나 금융 도메인은 이해관계가 높고 엄격한 규제 요구 사항을 특징으로 하며, 이는 모델의 설명 가능성을 선택이 아닌 필수 요소로 만듭니다. 블랙박스 모델을 설명하기 위한 수많은 기여도 산출 방법이 존재하지만, 대부분은 범용적인 작업용으로 설계되었으며 도메인 특화 지식과의 통합이 부족합니다. 본 연구에서 다루는 핵심 문제는 샤플리 값(Shapley value) 기반의 기여도가 금융 텍스트에 적용된 LLM에 대해 확립된 금융 도메인 지식 및 추론과 일관된 설명을 제공할 수 있는지 여부입니다.

방법론
저자들은 샤플리 값, 구체적으로는 베이스라인 샤플리 값(Baseline Shapley value, BShap)의 관점을 통해 금융 텍스트 데이터에 대한 LLM의 설명 가능성을 평가하는 프레임워크를 제안합니다. 이 방법론은 세 가지 주요 구성 요소로 이루어집니다:

1. 이론적 프레임워크 및 공리: 저자들은 금융 텍스트의 구조와 LLM의 동작에 맞게 조정된, 도메인 지식에서 영감을 얻은 일련의 공리들을 도입합니다. 이 공리들은 충실한 설명을 위한 공식적인 기준 역할을 합니다:

   • 1차 효과: 평균 개별 단조성(Average Individual Monotonicity) (특정 피처가 출력을 지속적으로 증가시킨다면, 그 기여도는 양수여야 함) 및 수요 개별 단조성(Demand Individual Monotonicity) (피처가 긍정적인 방향으로 "강해지면", 그 기여도 또한 증가해야 함).
   • 2차 효과: 피처의 변화가 다른 피처의 존재 여부에 따라 영향이 달라지는 비선형적 상호작용을 포착하는 한계 효용 체감(Diminishing) 및 한계 효용 증가(Increasing Marginal Effect) 공리.
   • 교차 피처 및 교차 모델 비교: 쌍별 단조성(Pairwise Monotonicity) (모델 내 서로 다른 피처 간의 상대적 중요도 비교) 및 1차 단조 지배성(First-order Monotonic Dominance) (서로 다른 모델 간에 동일한 피처의 중요도 비교). 저자들은 샤플리 프레임워크 하에서 서로 다른 모델 간에 서로 다른 피처를 비교하는 것은 일반적으로 유효하지 않음을 증명합니다.

2. 이론적 분석: 논문은 베이스라인 샤플리 값이 제안된 모든 도메인 지식 기반 공리를 만족함을 보여주는 엄밀한 수학적 증명을 제공합니다. 이는 BShap이 이 맥락에서 신뢰할 수 있는 피처 기여도를 생성하는 이론적으로 건전한 방법임을 입증합니다.

3. 경험적 평가:

   • 소규모 사례: 저자들은 FinBERT와 BART-Large-MNLI를 사용하여 감성 분석 및 섹터 분류 작업(예: "강한(strong)" 수익과 "안정적인(stable)" 수익의 구분, 또는 핀테크 기업 식별)에서 BShap 기여도가 금융적 직관과 어떻게 일치하는지 보여줍니다.
   • 대규모 리스크 기여도 분석: 중요한 실험으로 실리콘밸리 은행(SVB), 웰스 파고(Wells Fargo & Company, WFC), 크록스(Crocs, Inc.)의 10-K 보고서 내 "리스크 요인(Risk Factors)" 섹션(Item 1A)을 분석합니다. GPT-5.2 모델을 사용하여 리스크 점수(0–10)를 매긴 후, 저자들은 서로 다른 리스크 헤딩(heading)에 대한 BShap 기여도를 계산합니다.
   • 검증: 연구는 기여도의 일관성(여러 실행 간의 피처 순위 안정성)과 충실도(기여도가 높은 피처를 제거했을 때 모델 출력이 얼마나 크게 변하는지)를 평가합니다.

주요 결과

• 이론적 타당성: 베이스라인 샤플리 값은 제안된 공리들을 만족함이 증명되었으며, 이를 통해 기여도가 단조성 및 한계 효과와 같은 금융 원칙을 준수함을 보장합니다.
• 감성 및 분류에서의 해석 가능성: 예시 실험에서 BShap은 "strong"이 "stable"보다 더 높은 양의 기여도를 가진다는 점과, "AI"가 기술 섹터 분류를 주도하고 "lamenting(대출/금융 관련 맥락)"이 금융 분류를 주도한다는 점을 정확히 식별했습니다. 또한, "인공지능(artificial intelligence)"이라는 문구에 과도하게 의존하여 헤지펀드를 기술 기업으로 오분류한 모델의 오류를 성공적으로 진단했습니다.
• 리스크 기여도 통찰: 대규모 실험에서 BShap은 리스크 점수를 효과적으로 분해했습니다:
  • SVB의 경우, 신용 리스크(Credit Risks)와 시장/유동성 리스크(Market/Liquidity Risks)에 가장 높은 기여도를 할당하여, 2023년 뱅크런을 초래한 요인들을 정확히 반영했습니다.
  • 웰스 파고의 경우, 역사적인 가짜 계좌 스캔들과 그에 따른 동의 명령(consent orders)에 대한 노출을 반영하여 규제 및 법적 리스크(Regulatory and Legal Risks)를 강조했습니다.
  • 크록스의 경우, HEYDUDE 인수로 인한 금융 및 회계 리스크의 증가와 팬데미 관련 우려 완화에 따른 경제적 리스크의 감소 등 2020년과 2021년 사이의 상대적인 리스크 프로필 변화를 포착했습니다.
• 일관성 및 충실도: 실험 결과, 실행 간 높은 순위 일관성과 높은 충실도를 보였습니다. 즉, 기여도가 높은 피처를 제거했을 때가 낮은 피처를 제거했을 때보다 모델 예측값이 훨씬 더 크게 하락했습니다.

의의 및 주장
본 논문은 베이스라인 샤플리 값이 금융 도메인 지식에서 유도된 공리들을 보존하기 때문에 금융 텍스트 애플리케이션에서 LLM 출력을 해석하는 신뢰할 수 있는 도구라고 주장합니다. 이 연구의 의의는 일반적인 설명 가능한 AI(XAI) 방법론과 금융 부문의 특정 고위험 요구 사항 사이의 간극을 메우는 데 있습니다.

저자들은 이 접근 방식이 다음과 같은 두 가지 방식으로 리스크 관리를 지원한다고 주장합니다:

1. 모델 리스크 관리: 불투명한 LLM 동작을 이해하기 위한 원칙적이고 해석 가능한 방법을 제공하여, 예측 결과를 규제 기관과 이해관계자에게 명확하게 설명할 수 있도록 합니다.
2. 리스크 분해: LLM으로부터 도출된 총체적인 리스크 척도를 구체적인 원천(예: 10-K의 특정 리스크 헤딩)으로 분해할 수 있게 하여, 보다 표적화된 리스크 완화 전략을 수립할 수 있게 합니다.

저자들은 샤플리 값의 계산 복잡성(대규모 피처 세트의 경우)을 언급하며 향후 연구에서 계층적 설명이나 금융 텍스트의 더 풍부한 구조적 패턴을 탐구할 수 있음을 시사하며 겸허한 태도를 유지했습니다. 그들은 리스크 측정 자체의 정확도를 최적화하는 것이 아니라, 기여 과정의 해석 가능성과 타당성에 초점을 맞추었습니다.