💬 NLP

Trust Oriented Explainable AI for Fake News Detection

이 논문은 SHAP, LIME, 통합 기울기 등의 설명 가능한 AI(XAI) 기법을 적용하여 NLP 기반 가짜 뉴스 탐지 모델의 투명성과 신뢰성을 유지하면서 높은 정확도를 달성할 수 있음을 실증적으로 보여줍니다.

원저자: Krzysztof Siwek, Daniel Stankowski, Maciej Stodolski

게시일 2026-03-13

📖 3 분 읽기☕ 가벼운 읽기

원저자: Krzysztof Siwek, Daniel Stankowski, Maciej Stodolski

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

이 논문은 **"거짓 뉴스 (Fake News) 를 찾아내는 인공지능 (AI) 이 왜 그렇게 판단했는지, 우리가 그 이유를 알 수 있게 해주는 방법"**에 대한 연구입니다.

쉽게 말해, AI 가 "이 뉴스는 가짜야!"라고 외칠 때, **"어떤 단어를 보고 그렇게 생각했는지"**를 설명해 주는 기술을 비교한 연구입니다. 마치 수사관이 범인을 잡았을 때, "왜 그 사람이 범인이라고 생각했는지"에 대한 명확한 증거를 제시하는 것과 같습니다.

이 복잡한 연구를 일상적인 비유로 설명해 드릴게요.

1. 문제 상황: "검은 상자"의 AI

지금까지 거짓 뉴스를 찾는 AI 는 **'검은 상자 (Black Box)'**처럼 작동했습니다.

상황: AI 가 뉴스 기사를 보고 "이건 가짜야!"라고 말합니다.
문제: 하지만 우리는 **"왜?"**라는 질문에 답을 받을 수 없습니다. AI 는 "내 머릿속에서 계산했으니까"라고만 할 뿐, 어떤 단어가 의심스러웠는지 알려주지 않습니다.
비유: 마치 미스터리 소설의 결말만 알려주고, 범인이 어떻게 범행을 저질렀는지 설명해주지 않는 것과 같습니다. 사람들은 AI 를 믿기 어렵습니다.

2. 해결책: "설명 가능한 AI (XAI)"의 등장

이 논문은 AI 의 결정을 투명하게 보여주는 세 가지 도구 (기술) 를 시험해 보았습니다.

SHAP: 정교한 탐정. 각 단어가 최종 판결에 얼마나 기여했는지 수학적으로 아주 정확하게 계산해 줍니다. (조금 느리지만 정확함)
LIME: 간단한 요약자. 복잡한 AI 대신, 그 뉴스 한 줄만 보고 "이 단어 때문에 가짜라고 생각했어"라고 쉽게 설명해 줍니다. (빠르고 직관적)
Integrated Gradients (IG): 효율적인 분석가. 특히 CNN 이라는 종류의 AI 에게 아주 잘 맞습니다. (가장 빠름)

3. 실험 과정: 두 가지 AI 모델과의 대결

연구자들은 거짓 뉴스를 판별하는 두 가지 다른 AI 모델 (LSTM 과 CNN) 을 만들었습니다.

LSTM 모델: 글을 한 줄씩, 시간 순서대로 읽으며 문맥을 파악하는 '장기 기억력'이 좋은 AI. (책을 한 장 한 장 넘겨 읽는 사람)
CNN 모델: 글에서 **중요한 문장 조각 (구절)**을 찾아내는 '패턴 인식'에 특화된 AI. (사진에서 특정 물체를 빠르게 찾는 사람)

이 두 AI 에게 세 가지 설명 도구 (SHAP, LIME, IG) 를 적용해 보았습니다.

4. 실험 결과: "모델에 맞는 도구가 따로 있다"

결과가 매우 재미있습니다. 모든 도구가 다 잘하는 것은 아니었습니다.

LSTM (시간 순서 읽는 AI) 에서는?
- SHAP이 가장 잘했습니다.
- 이유: LSTM 은 글 전체의 흐름을 이해하므로, SHAP 의 정교한 계산이 "어떤 단어가 문맥을 바꿨는지"를 잘 보여줍니다.
- 비유: 긴 소설을 읽을 때는 **정밀한 줄거리 분석가 (SHAP)**가 가장 유용합니다.
CNN (패턴 찾는 AI) 에서는?
- **Integrated Gradients (IG)**가 압도적으로 좋았습니다.
- 이유: CNN 은 특정 키워드나 문구 패턴에 반응하므로, IG 가 그 패턴을 아주 빠르고 정확하게 찾아냅니다.
- 비유: 사진에서 범인을 찾을 때는 **빠른 스캐너 (IG)**가 가장 효율적입니다.
공통점:
- 세 가지 도구 모두 AI 가 "왜 가짜라고 생각했는지"를 잘 설명해 주었습니다.
- 하지만 어떤 도구를 쓸지는 AI 의 종류에 따라 달라야 합니다.

5. 중요한 교훈: "완벽한 해답은 없다"

이 연구는 우리에게 중요한 메시지를 줍니다.

하나의 만능 열쇠는 없다: 어떤 설명 도구가 무조건 최고인 것은 아닙니다. AI 가 어떤 방식으로 작동하느냐에 따라 가장 좋은 설명 도구가 달라집니다.
신뢰의 핵심: AI 가 "가짜 뉴스"라고 판단할 때, 그 이유를 보여줄 수 있어야 사람들은 그 AI 를 믿고 사용할 수 있습니다.
주의할 점: 설명 도구도 완벽하지는 않습니다. 때로는 AI 가 잘못된 이유를 그럴듯하게 설명할 수도 있으니, 설명을 맹신하기보다는 AI 의 판단을 보조하는 도구로 여겨야 합니다.

요약

이 논문은 **"거짓 뉴스를 잡는 AI 에게 '왜?'라고 물어보면, 상황에 따라 SHAP, LIME, IG 중 가장 적합한 설명자가 답을 줄 수 있다"**는 것을 증명했습니다.

이제 우리는 AI 가 내린 결론을 단순히 받아들이는 것이 아니라, **"아, 이 단어가 의심스러워서 가짜라고 판단했구나"**라고 이해하며 AI 를 더 신뢰할 수 있게 되었습니다. 이는 AI 가 우리 사회의 '사기꾼'을 잡아내는 데 더 투명하고 신뢰할 수 있는 도구가 될 수 있음을 보여줍니다.

1. 문제 정의 (Problem Statement)

배경: 디지털 시대에 가짜 뉴스 (허위 정보) 의 확산은 사회적, 정치적, 공중보건 측면에서 심각한 위협이 되고 있습니다.
현황: 딥러닝 (Transformers, GNN 등) 기반의 가짜 뉴스 탐지 모델은 높은 정확도를 보이지만, '블랙박스 (Black-box)' 특성으로 인해 의사결정 근거를 설명하지 못합니다.
핵심 문제: 금융이나 공중보건과 같은 고위험 분야에서 모델의 투명성 부족은 오류 감사 (Error Auditing) 를 어렵게 하고, 인간 팩트체크어에게 필요한 증거를 제공하지 못합니다. 또한, 통계적 중요도와 인간의 이해도 사이의 괴리가 존재합니다.
목표: 가짜 뉴스 탐지 모델의 정확도를 유지하면서, 설명 가능 인공지능 (XAI) 기술을 도입하여 모델의 투명성, 신뢰성 및 해석 가능성을 높이는 것입니다.

2. 방법론 (Methodology)

연구진은 가짜 뉴스 탐지를 위한 완전한 파이프라인을 구축하고, 세 가지 주요 XAI 기법을 비교 평가했습니다.

A. 데이터 및 전처리

데이터셋: Kaggle 의 ISOT Fake News Dataset 사용 (실제 뉴스 21,417 건, 가짜 뉴스 23,481 건).
전처리: 텍스트를 토큰화하고, 어휘 크기 20,000 으로 제한한 후, 최대 길이 750 토큰으로 패딩/자르기를 수행하여 수치 벡터로 변환했습니다.

B. 신경망 아키텍처

두 가지 다른 구조의 모델을 구현하여 비교했습니다.

LSTM (순환 신경망): 시퀀스 데이터의 장기 의존성을 포착하기 위해 Embedding(128 차원) + LSTM(128 유닛) + Dropout 구조를 사용.
CNN (합성곱 신경망): 국소적인 텍스트 패턴 (n-gram) 을 포착하기 위해 Embedding + 1D Convolution(커널 크기 5) + GlobalAveragePooling 구조를 사용.

C. 적용된 XAI 기법

SHAP (Shapley Additive Explanations): 게임 이론 기반의 Shapley 값을 사용하여 각 토큰이 예측에 기여한 정도를 계산. (모델 불변적, 국소적 설명)
LIME (Local Interpretable Model-agnostic Explanations): 복잡한 모델의 국소적 행동을 간단한 대용량 모델 (Surrogate model) 로 근사화하여 설명. (모델 불변적, 직관적)
Integrated Gradients (IG): 입력을 기준점 (Baseline, 예: 패딩) 에서 실제 입력까지 연속적으로 변화시키며 기울기를 적분하여 기여도를 계산. (CNN 등 합성곱 모델에 특화)

D. 평가 지표

설명의 신뢰성을 정량화하기 위해 다음 지표를 사용했습니다.

Completeness ( $\Delta_{comp}$ ): 설명이 지목한 토큰을 제거했을 때 모델의 확신이 얼마나 감소하는가?
Sufficiency ( $\Delta_{suff}$ ): 설명된 토큰만 남겼을 때 모델이 원래 결정을 유지하는가?
AOPC (Area Over the Perturbation Curve): 중요도 순서대로 토큰을 제거하며 모델 신뢰도가 떨어지는 곡선의 면적.
Flip@k: 예측 라벨을 반전시키는 데 필요한 최소 토큰 수.
계산 비용: 설명 생성에 소요된 시간.

3. 주요 기여 및 결과 (Key Contributions & Results)

A. 아키텍처별 최적 XAI 기법의 발견

모델의 구조에 따라 가장 효과적인 XAI 기법이 달라지는 것을 확인했습니다.

LSTM 모델: SHAP이 가장 우수한 성능을 보였습니다.
- 가장 높은 Completeness (0.086) 와 AOPC (0.472) 를 기록하여, LSTM 이 문맥을 어떻게 집계하는지 가장 정확하게 반영했습니다.
- IG 는 계산 비용이 매우 높고 성능이 낮았습니다.
CNN 모델: **Integrated Gradients (IG)**가 가장 우수했습니다.
- 가장 높은 Completeness (0.286) 와 AOPC (0.649) 를 기록했으며, **가장 빠른 처리 속도 (0.15 초)**를 보였습니다.
- CNN 의 국소적 특징 (n-gram) 을 IG 가 효율적으로 포착함을 입증했습니다.

B. XAI 기법별 특징 비교

SHAP: 모델 아키텍처의 특성을 가장 충실히 반영하며, 상세한 국소적 할당 (Local Attribution) 을 제공합니다. 하지만 계산 비용이 다소 높을 수 있습니다.
LIME: 직관적이고 간단한 설명을 제공하며, 다양한 모델에 적용 가능하지만 내부 동역학을 덜 정밀하게 포착합니다.
Integrated Gradients: CNN 과 같은 합성곱 모델에서 높은 효율성과 정밀도를 동시에 제공하며, 계산 비용이 낮습니다.

C. 시각화 및 해석

CNN: SHAP 시각화에서 설명이 국소적인 패치 (n-gram 필터 활성화) 로 군집화되는 것을 확인했습니다.
LSTM: 설명이 텍스트 전체에 더 넓게 분산되어 나타나며, 이는 LSTM 의 게이트 메커니즘이 장거리 의존성을 누적하는 특성과 일치합니다.

4. 한계점 (Limitations)

계산 비용: SHAP 과 같은 방법은 계산 오버헤드가 큽니다.
파라미터 민감도: XAI 방법의 결과는 하이퍼파라미터 설정에 민감할 수 있습니다.
입력 조작의 인위성: 평가 지표 (Completeness 등) 를 위해 토큰을 'PAD'로 대체하는 방식은 자연어 문맥을 왜곡할 수 있으며, 특히 LSTM 과 같은 순차 모델의 동작을 비정상적으로 만들 수 있습니다.
국소적 설명의 한계: 현재 연구는 개별 예측에 대한 국소적 (Local) 설명에 국한되어 있으며, 모델의 전역적 (Global) 성능을 완전히 대표하지는 못합니다.

5. 의의 및 결론 (Significance & Conclusion)

신뢰성 향상: XAI 를 NLP 기반 가짜 뉴스 탐지 시스템에 통합하면, 단순한 정확도 (Accuracy) 를 넘어 시스템의 **신뢰성 (Trustworthiness)**과 검증 가능성을 크게 향상시킬 수 있습니다.
모델 의존성: "어떤 XAI 기법이 무조건 최선이다"라는 결론은 성립하지 않으며, 사용된 신경망 아키텍처 (LSTM vs CNN) 에 따라 최적의 XAI 기법이 달라집니다.
실용적 가치: 각 XAI 기법은 고유한 가치를 지니며 (SHAP 의 정밀함, LIME 의 접근성, IG 의 효율성), 연구 목적과 계산 자원 제약에 따라 선택해야 합니다.
향후 방향: 트랜스포머 (Transformer) 기반 아키텍처, 규칙 기반 설명, 그리고 최종 사용자를 대상으로 한 연구로 확장할 필요가 있음을 시사합니다.

이 논문은 가짜 뉴스 탐지 시스템이 단순히 "무엇"이 거짓인지뿐만 아니라 "왜" 거짓인지에 대한 명확하고 신뢰할 수 있는 근거를 제공함으로써, 사회적 신뢰를 구축하는 데 기여할 수 있음을 실증적으로 증명했습니다.