A Bibliometric Review of Explainable AI in Diabetes Risk Prediction: Trends, Gaps, and Knowledge Graph Opportunities

본 논문은 당뇨병 위험 예측 분야에서 머신러닝과 설명 가능한 AI(XAI) 의 활용 현황을 분석하고, 현재 임상적 해석 가능성의 공백을 해소하기 위해 지식 그래프 (KG) 를 통합한 새로운 개념적 프레임워크를 제안합니다.

핵심

🍳 1. 배경: 왜 이 연구가 필요한가요?

당뇨병은 전 세계적으로 매우 큰 문제입니다. 이제 우리는 **AI(기계 학습)**를 이용해 "이 사람이 당뇨병에 걸릴 확률이 얼마나 될까?"를 아주 정확하게 예측할 수 있게 되었습니다.

하지만 여기서 문제가 생깁니다. AI 는 마치 신비로운 마법 요리사처럼 작동합니다.

• 결과: "이 환자는 당뇨병 위험이 80% 입니다!"라고 정확히 알려줍니다.
• 문제: "왜 그런가요?"라고 물으면, **"비밀입니다. 제가 계산했으니까요"**라고만 답합니다.

의사들은 환자에게 "왜 위험한지" 설명해 주어야 합니다. "체중이 너무 많아서요", "혈당이 높아서요" 같은 이유를 말해줘야 환자가 믿고 치료받기 때문입니다. 그래서 **AI 가 자신의 '생각 과정'을 설명해 주는 기술 (XAI)**이 등장했습니다.

🔍 2. 연구의 핵심 발견: "설명"은 잘하지만, "이유"는 부족하다

저자는 전 세계 논문 2,048 편을 분석해서 이 분야의 현황을 파악했습니다. 마치 레스토랑 리뷰를 모아서 분석하는 것처럼요.

• 현재 상황: AI 가 예측한 결과에 대해 "어떤 재료 (혈당, 체중 등) 가 가장 큰 영향을 줬는지" 설명하는 기술 (SHAP, LIME 같은 것들) 은 매우 활발하게 연구되고 있습니다.
• 발견된 큰 구멍 (Gap): 하지만 "왜 그 재료가 위험한지"에 대한 의학적인 연결고리를 설명하는 기술은 거의 없습니다.
  • 비유: AI 는 "이 요리에 마늘이 많이 들어갔어요"라고 말해줍니다 (설명). 하지만 "마늘이 왜 이 환자에게 나쁜지, 마늘이 몸속에서 어떻게 혈당을 높이는지"에 대한 **의학적인 이야기 (지식)**는 전혀 들려주지 않습니다.

저자는 이 차이를 53 대 1이라는 압도적인 격차로 발견했습니다. 즉, "무엇이 중요한지"는 잘 말해주지만, "왜 중요한지"에 대한 **의학 지식 (Knowledge Graph)**을 연결하는 연구는 거의 없다는 뜻입니다.

🧩 3. 제안된 해결책: 3 단계 요리법

이 논문은 이 문제를 해결하기 위해 **새로운 3 단계 요리법 (프레임워크)**을 제안합니다.

1. 1 단계 (예측): AI 가 데이터를 보고 "당뇨병 위험 80%"라고 예측합니다. (마치 요리사가 요리를 완성하는 단계)
2. 2 단계 (설명): AI 가 "체중이 30%, 혈당이 20% 영향을 줬어요"라고 숫자로 설명합니다. (마치 요리사가 "마늘을 많이 썼어요"라고 말하는 단계)
3. 3 단계 (지식 - 새로운 제안!): **의학 지식 데이터베이스 (지식 그래프)**를 연결합니다.
   • "체중이 많으면 -> 인슐린 저항성이 생기고 -> 혈당이 오르고 -> 당뇨병이 됩니다."
   • 이렇게 의사가 이해할 수 있는 의학적인 이야기로 설명해 주는 단계입니다.

이제 AI 는 단순히 "위험합니다"라고 말하는 것을 넘어, **"체중이 많아서 인슐린이 제 기능을 못 하므로 당뇨병 위험이 높습니다"**라고 이유까지 설명해 줄 수 있게 됩니다.

🌍 4. 다른 중요한 발견들

• 지역 불균형: 이 연구는 주로 중국, 미국, 인도에서 많이 이루어졌습니다. 당뇨병 환자가 급증하고 있는 동남아시아나 아프리카 등 개발도상국의 연구는 거의 없습니다. 마치 부자 나라만 고급 요리를 연구하고, 가난한 나라의 식탁은 무시하는 상황과 같습니다.
• 데이터의 한계: 많은 연구가 1988 년에 수집된 아주 작은 데이터 (768 명) 를 사용합니다. 현대의 거대한 인구 데이터를 제대로 활용하지 못하고 있어, 실제 병원이나 사회에 적용하기엔 아직 부족합니다.

💡 5. 결론: 앞으로 어떻게 해야 할까요?

이 논문은 **"AI 가 당뇨병을 예측하는 기술은 이미 훌륭하지만, 의사들이 이해하고 환자에게 설명할 수 있도록 '의학적인 이유'를 덧붙이는 기술이 필요하다"**고 말합니다.

앞으로는 AI 가 단순한 계산기를 넘어, 의학 지식을 갖춘 훌륭한 상담사가 되어야 합니다. 그래야만 환자들이 AI 의 판단을 믿고, 더 나은 건강 관리를 할 수 있을 것입니다.

---

한 줄 요약:

"AI 는 당뇨병 위험을 잘 예측하지만, '왜' 위험한지에 대한 의학적인 이유를 설명하지 못합니다. 이제 AI 에게 의학 지식을 가르쳐서, 의사처럼 '이유'까지 설명해 주는 친구로 만들어야 합니다!"

기술 요약

논문 개요

이 논문은 2 型 당뇨병 (T2DM) 위험 예측 분야에서 **설명 가능한 인공지능 (XAI)**의 현재 동향, 방법론적 한계, 그리고 지식 그래프 (KG) 와의 통합 부재라는 연구 공백을 정량적으로 분석한 체계적인 문헌고찰 (Systematic Bibliometric Review) 입니다. 저자는 기계 학습 (ML) 모델의 예측력과 XAI 의 해석 가능성을 결합한 연구는 급성장하고 있으나, 임상적 맥락을 반영한 구조화된 지식 (지식 그래프) 을 통합한 연구는 극히 드물다는 핵심 문제를 제기합니다.

1. 연구 배경 및 문제 제기 (Problem Statement)

• 배경: T2DM 은 전 세계적으로 심각한 공중보건 위협이며, 대규모 인구 건강 데이터 (예: BRFSS) 를 활용한 ML 기반 위험 예측 모델이 활발히 개발되고 있습니다.
• 문제: 복잡한 ML 모델 (XGBoost, Random Forest 등) 은 "블랙박스"로 작동하여 임상 현장에서의 신뢰와 배포를 저해합니다. 이를 해결하기 위해 SHAP, LIME 과 같은 XAI 기법이 도입되었으나, 다음과 같은 한계가 존재합니다.
  • 통계적 설명의 한계: 기존 XAI 는 "어떤 특징 (Feature) 이 중요한가 (What)"에 대한 통계적 기여도만 제공할 뿐, "왜 (Why)" 그리고 "어떻게 (How)" 병리생리학적 기전이 작동하는지에 대한 임상적 추론을 제공하지 못합니다.
  • 지식 통합 부재: 현재 연구들은 ML 예측, XAI 설명, 그리고 의학적 지식 (지식 그래프) 을 동시에 통합한 파이프라인을 거의 구축하지 못하고 있습니다.

2. 연구 방법론 (Methodology)

• 데이터 소스: Scopus 와 PubMed/MEDLINE 두 개의 독립적인 데이터베이스를 활용하여 2015 년부터 2026 년 4 월까지의 문헌을 수집했습니다.
• 검색 전략:
  • 포함: 당뇨병 (T2DM) 과 관련된 용어 + XAI/해석 가능한 ML 용어 (SHAP, LIME, explainability 등).
  • 제외: 당뇨망막병증 (이미지 분석 기반) 및 당뇨발/상처 치료 등 위험 예측과 무관한 하위 분야.
• 처리 과정:
  • 전체 코퍼스: 2,048 건의 문헌 (중복 제거 후) 을 대상으로 정량적 문헌 분석 수행.
  • 심층 검토: 가장 많이 인용된 15 편의 논문을 선정하여 정성적 검토 (Selective Review) 를 실시.
  • 분석 도구: Python(pandas, matplotlib) 을 사용하여 키워드 빈도, 주제 클러스터링, 연도별 추이, 지리적 분포 등을 분석. VOSviewer 등 자동 클러스터링 도구는 사용하지 않고 규칙 기반 (Rule-based) 분류를 적용하여 재현성을 확보했습니다.

3. 주요 결과 (Key Results)

• 급격한 성장: XAI 를 활용한 T2DM 연구는 2020 년 36 건에서 2025 년 866 건으로 5 년 만에 24 배 이상 급성장했습니다.
• 우세한 방법론:
  • XAI 기법: SHAP(152 회) 이 LIME 및 기타 기법을 압도적으로 우세하게 사용 중입니다.
  • ML 모델: XGBoost 와 Random Forest 가 주류를 이룹니다.
• 지리적 편향: 중국 (2,287 건), 미국 (793 건), 인도 (578 건) 가 주도하며, 동남아시아 및 아프리카 등 T2DM 부담이 큰 저소득 국가의 연구 기여도는 현저히 낮습니다.
• 핵심 발견: 지식 그래프 (KG) 의 극심한 부재 (The KG/GNN Gap)
  • 전체 2,048 건의 논문 중 KG 또는 GNN(그래프 신경망) 관련 키워드가 등장한 논문은 단 **17 건 (~0.83%)**에 불과했습니다.
  • XAI 관련 키워드 (906 건) 대비 53.3:1 의 불균형을 보였습니다.
  • 15 편의 고인용 논문 심층 검토 결과: 15 편의 논문 중 단 한 편도 ML, XAI, KG 를 모두 통합한 연구가 없었습니다.
  • 이 격차는 두 데이터베이스 간의 33.2% 중복률을 고려하더라도 통계적으로 유의미한 구조적 결함으로 확인되었습니다.

4. 주요 기여 및 제안 (Key Contributions)

• 정량적 공백 규명: XAI 와 T2DM 연구 분야에서 지식 그래프 통합이 얼마나 부재하는지를 처음으로 정량화 (0.83%) 하고, 이를 두 데이터베이스를 통해 검증했습니다.
• 3 층 개념적 프레임워크 제안 (Three-Layer Conceptual Framework):
  기존 통계적 설명의 한계를 극복하기 위해 다음과 같은 3 단계 통합 프레임워크를 제안합니다.
  1. 예측 계층 (Predictive Layer): XGBoost, Random Forest 등을 활용한 T2DM 위험 예측.
  2. 해석 계층 (Explainability Layer): SHAP 등을 통해 각 특징의 기여도 분석 ("무엇이 중요한가").
  3. 지식 계층 (Knowledge Layer): **지식 그래프 (KG)**를 활용하여 의학적 엔티티 (비만, 인슐린 저항성 등) 와 인과 관계를 구조화. 이를 통해 "왜" 그리고 "어떻게" 병리가 발생하는지에 대한 임상적 추론 경로를 제공합니다.
• 임상적 의의: 이 프레임워크는 단순한 통계 점수를 넘어, 임상 의사결정 지원 시스템 (CDSS) 이 임상적 오해 (Pathophysiological pathway) 를 기반으로 한 설명을 생성할 수 있게 하여, 의료진의 인지 부하를 줄이고 신뢰도를 높일 수 있음을 시사합니다.

5. 의의 및 향후 방향 (Significance & Future Directions)

• 연구 방향 전환: 현재 XAI 연구가 "통계적 상관관계"에 머무르고 있음을 지적하며, "구조화된 의학적 지식"을 기반으로 한 설명으로의 전환을 촉구합니다.
• 기술적 장벽: KG 통합이 부재한 이유는 데이터의 표 형식 (Tabular) 구조와 KG 구축의 기술적 난이도, 평가 기준 부재 등임을 분석했습니다.
• 향후 과제:
  • 대규모 현대 인구 건강 데이터 (BRFSS, UK Biobank 등) 를 활용한 검증.
  • 다양한 XAI 기법 간의 일관성 (Agreement) 평가.
  • 소외된 지역 (동남아, 아프리카 등) 의 데이터에 대한 모델 일반화 연구.
  • 제안된 3 층 프레임워크의 실제 임상 환경에서의 실험적 검증.

결론

이 연구는 T2DM 위험 예측 분야에서 ML 과 XAI 의 결합은 성숙단계에 이르렀으나, 임상적 맥락을 이해할 수 있는 지식 그래프 (KG) 의 통합이 결여되어 있음을 명확히 증명했습니다. 저자는 통계적 설명을 넘어 의학적 지식과 연결된 구조화된 설명을 가능하게 하는 새로운 프레임워크를 제안함으로써, 향후 의료 AI 연구가 나아가야 할 방향을 제시했습니다.