📄 medicine

Enhancing Explainability in AI Models for Blood Glucose Prediction in Diabetes Patients

본 연구는 머신러닝 모델, 특히 서포트 벡터 회귀(Support Vector Regression)와 트리 기반 앙상블이 SHAP 및 LIME 기술을 활용하여 임상적 의사결정을 지원하는 투명하고 해석 가능한 통찰력을 제공하는 동시에, 제1형 및 제2형 당뇨병 환자 모두를 위해 단기 혈당 수치를 정확하게 예측할 수 있음을 입증한다.

원저자: Lam Nhi Nguyen, Kwong-Cheong Wong

게시일 2026-07-06

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Lam Nhi Nguyen, Kwong-Cheong Wong

원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신이 향후 30분 동안의 날씨를 예측하려고 한다고 상상해 보세요. 당신에게는 현재 기온, 풍속, 구름 양을 살펴보고 비가 올지 추측하는 아주 똑똑한 컴퓨터가 있습니다. 하지만 문제는 이 컴퓨터가 "블랙박스"라는 점입니다. 컴퓨터는 답은 주지만, 왜 비가 올 것이라고 생각하는지는 알려주지 않습니다. 만약 당신이 조종사나 농부라면, 그 이유를 이해할 수 없기 때문에 그 답을 신뢰하지 않을 수도 있습니다.

이 논문은 이와 유사한 "날씨 예보"를 당뇨병 환자를 위해 구축하는 것에 관한 것입니다. 비 대신, 컴퓨터는 혈당 수치를 30분 후의 미래를 예측합니다. 목표는 이 예측이 정확할 뿐만 아니라, 설명 가능하게(explainable) 만들어 의사와 환자들이 이를 신뢰할 수 있도록 하는 것입니다.

연구진이 수행한 작업과 발견한 내용은 다음과 같이 간단히 요약할 수 있습니다.

1. 목표: 신뢰할 수 있는 수정구슬

연구진은 머신러닝 모델(일종의 컴퓨터 프로그램)을 구축하여, 환자의 최근 혈당 이력을 보고 30분 후의 혈당 수치를 추측하고자 했습니다.

문제점: 똑똑한 컴퓨터 모델은 많이 존재하지만, 그것들은 마치 마술사가 모자에서 토끼를 꺼내는 것과 같습니다. 당신은 토끼(예측값)를 보게 되지만, 그 마술이 어떻게 행해졌는지는 알 수 없습니다. 의사들은 이해할 수 없는 도구를 사용하는 것을 주저합니다.
해결책: 그들은 **설명 가능한 AI (XAI)**라고 불리는 특별한 "번역가" 층을 추가했습니다. 이 층은 가이드 역할을 하며, 컴퓨터가 예측을 하기 위해 어떤 단서들을 사용했는지 정확하게 설명해 줍니다.

2. 재료: 두 가지 유형의 환자

이 연구는 두 가지 서로 다른 유형의 정원과 같은 두 그룹의 사람들을 살펴보았습니다.

제1형 당뇨병: 규모가 작은 그룹(12명)입니다. 이들의 혈당은 매우 민감한 스프링클러 시스템이 있는 정원과 같습니다. 즉, 매우 빠르게 급격히 오르내릴 수 있습니다.
제2형 당뇨병: 규모가 큰 그룹(100명)입니다. 이들의 혈당은 더 꾸준한 강물과 같지만, 흐름에 영향을 주는 바위나 잔해들(나이, 체중, 신장 기능 등)이 더 많습니다.

연구진은 연속 혈당 측정기(CGM) 데이터를 사용했습니다. 이는 마치 혈당의 "온도"를 15분마다, 하루 24시간 내내 측정하는 작은 센서와 같습니다.

3. 경주: 다섯 가지 서로 다른 예측 모델

연구진은 어떤 모델이 가장 좋은지 확인하기 위해 다섯 가지 서로 다른 "예보관"을 구축했습니다.

선형 회귀 (Linear Regression): 단순하고 직선적인 추측 모델입니다.
랜덤 포레스트 (Random Forest): 정답에 대해 투표하는 결정 트리들의 위원회입니다.
XGBoost: 초강력 성능을 가진 빠른 학습 트리 위원회입니다.
서포트 벡터 회귀 (SVR): 데이터에 가장 잘 맞는 곡선을 찾아내는 영리한 모델입니다.
LSTM: 긴 이야기를 암기하려는 사람처럼 긴 시퀀스를 기억하도록 설계된 딥러닝 모델입니다.

결과: "단순한" 모델과 "위원회" 모델(SVR, 랜덤 포레스트, XGBoost)이 경주에서 승리했습니다. 이들이 가장 정확했습니다. "딥러닝" 모델(LSTM)은 실제로 가장 성적이 좋지 않았습니다.

이유는 무엇일까요? LSTM을 마치 복잡한 언어를 배우기 위해 도서관 전체를 읽으려 하지만, 정작 공부할 텍스트는 단 한 페이지뿐인 학생이라고 생각해 보세요. 데이터가 너무 적었기 때문에, 복잡한 모델은 혼란을 느끼고 과하게 생각하게 되었습니다. 단순한 모델들은 가장 최근의 단서들을 살펴보았고, 그것으로 아주 훌륭하게 해냈습니다.

4. 번역기: SHAP vs. LIME

가장 좋은 예보 모델을 선정한 후, 연구진은 그것들이 어떻게 작동하는지 설명해야 했습니다. 그들은 두 가지 서로 다른 "번역기"를 사용했습니다.

SHAP (상세한 탐정): 이 방법은 마치 포렌식 회계사와 같습니다. 모든 개별 단서를 살펴보고, 각 단서가 최종 답변에 얼마나 기여했는지 정확히 계산하여 수학적으로 완벽한 보고서를 제공합니다. 이 방법은 매우 안정적이고 정확하며, 혈당이 격렬하게 변동할 때도 그렇습니다.
- 비유: 모든 거리, 골목, 건물을 보여주는 고해상도 지도와 같습니다. 정밀하지만 읽는 데 시간이 좀 걸립니다.
LIME (빠른 스케치 화가): 이 방법은 특정 예측 하나에만 집중하여 단순한 스케치를 그려 설명을 제공합니다. 한눈에 이해하기 매우 쉽지만, 상황이 복잡할 경우 세부 사항을 틀릴 수도 있습니다.
- 비유: 빠른 메모지에 그린 낙서와 같습니다. 핵심 아이디어는 즉시 전달하지만, 자세히 들여다보면 선이 흔들리거나 과장될 수 있습니다.

비교:

SHAP은 정확도와 안정성 면에서 승리했습니다. 상황이 혼란스러울 때도 컴퓨터가 생각하는 바를 진실되게 말해주었습니다.
LIME은 빠르고 단순한 설명을 제공하는 데는 좋았지만, 특히 혈당이 빠르게 변할 때 "단서"를 실제보다 더 크거나 중요하게 보이게 만드는 경우가 있었습니다.

5. 무엇을 배웠는가?

가장 중요한 단서: 두 유형의 당뇨병 모두에서, 컴퓨터가 본 가장 중요한 단서는 불과 몇 분 전의 혈당 상태였습니다.
- 만약 15분 전에 혈당이 상승 중이었다면, 컴퓨터는 그것이 계속 상승할 것이라고 예측합니다.
- 나이, 체중 또는 약물과 같은 다른 요인들도 중요했지만, 이는 즉각적인 추세에 비하면 배경 소음에 불과했습니다.
차이점: 제1형 당뇨병 환자의 경우, 혈당 변화가 매우 빠르기 때문에 컴퓨터는 거의 오로지 최근의 혈당 수치에만 의존했습니다. 제2형 당뇨병 환자의 경우, 컴퓨터는 신장 기능과 같은 다른 건강 요인에도 약간의 주의를 기울였지만, 여데도 최근의 혈당 추세가 여전히 대장이었습니다.

결론

이 논문은 우리가 "블랙박스"가 될 필요 없이 매우 정확하게 혈당을 예측하는 컴퓨터 모델을 구축할 수 있다는 결론을 내립니다. SHAP과 같은 도구를 사용하면 컴퓨터가 왜 그런 예측을 했는지 정확히 알 수 있습니다.

의사들에게: 이는 의사들이 AI의 논리를 볼 수 있기 때문에 AI를 신뢰할 수 있음을 의미합니다.
미래를 위해: 연구진은 이 모델들을 더욱 개선하기 위해서 더 많은 데이터(특히 제1형 당뇨병 환자를 위한)가 필요하며, 이번 연구에는 완전히 포함되지 않았던 환자가 먹은 음식이나 운동량 같은 더 많은 "실제 생활" 단서들을 포함해야 한다고 제안합니다.

요약하자면: 단순한 모델이 가장 잘 작동하며, 최근의 이력이 가장 중요하고, 기계를 이해하는 데는 SHAP이 최고의 번역기입니다.

기술 요약: 당뇨병 환자의 혈당 예측을 위한 AI 모델의 설명 가능성 향상

문제 정의
정확한 단기 혈당 예측은 당뇨병 관리 및 유해한 혈당 사건 예방을 위해 매우 중요하다. 머신러닝(ML) 모델이 혈당 수치를 예측하는 데 있어 유망한 성능을 보여주었으나, 이들의 '블랙박스' 특성은 임상 도입을 저해하는 장벽이 되고 있다. 복잡한 모델의 불투명성은 특히 생명과 직결된 시나리오에서 신뢰와 안전에 대한 문제를 야기한다. 또한, 기존 연구들은 주로 제1형 당뇨병(T1DM)에 집중되어 있어, 높은 유병률에도 불구하고 제2형 당뇨병(T2DM)에 대한 탐구가 부족한 실정이다. 따라서 ML 모델의 예측 정확도뿐만 아니라, 임상적 생존 가능성을 보장하기 위해 다양한 당뇨병 인구 집단에 걸친 해석 가능성을 평가할 필요가 있다.

연구 방법론
본 연구는 ShanghaiT1DM(12명) 및 ShanghaiT2DM(100명) 데이터셋을 활용하여 예측 모델링(Predictive Modelling)과 모델 설명 가능성(Model Explainability)이라는 2단계 프레임워크를 채택하였다. 이 데이터셋들은 연속 혈당 측정(CGM) 시계열 데이터(15분 간격)와 정적 임상 특징(인구통계학적 특성, 생화학적 측정치, 약물)을 포함한다.

예측 모델링:
- 데이터 전처리: 결측치는 보간법을 통해 처리하였으며(결측률이 30%를 초과하는 변수는 제외), 범주형 데이터는 이진화하였다.
- 특징 선택: 초기 93개의 변수로부터 2단계 선택 과정(분산 임계값 및 상호 정보 기반의 SelectKBest)을 거쳐 가장 관련성이 높은 20개의 예측 변수를 추출하였다.
- 모델 개발: 30분 후의 혈당 수치(두 개의 15분 간격)를 예측하기 위해 다섯 가지의 서로 다른 ML 모델을 학습시켰다.
  - 선형 회귀 (Linear Regression, 베이스라인)
  - 랜덤 포레스트 (Random Forest, 앙상블)
  - XGBoost (그래디언트 부스팅)
  - 서포트 벡터 회귀 (SVR, 커널 기반)
  - LSTM (Long Short-Term Memory, 딥러닝 시퀀스 모델)
- 평가: 성능은 60/20/20 훈련-검증-테스트 분할을 통해 RMSE(제곱평균제곱근오차)와 결정 계수( $R^2$ )를 사용하여 평가되었다.
모델 설명 가능성 (XAI):
- 기법: 본 연구는 SHAP(Shapley Additive Explanations)과 LIME(Local Interpretable Model-Agnostic Explanations)을 적용하였다.
- 전역 분석 (Global Analysis): SHAP를 사용하여 전체 데이터셋에 대한 특징 중요도를 집계하여 지배적인 예측 요인을 식별하였다.
- 지역 분석 (Local Analysis): T1DM 및 T2DM 모두에 대해 오차가 적은(안정적인) 사례와 오차가 큰(변동성이 높은) 사례를 대표하는 특정 테스트 인스턴스에 SHAP와 LIME을 적용하였다.
- 비교 기준: 설명 가능성 방법론은 충실도(fidelity), 해석 가능성(interpretability), 완결성(completeness), 안정성(stability), 임상적 유용성(clinical usability)의 다섯 가지 차원에서 평가되었다.

주요 기여

비교 성능 분석: T1DM 및 T2DM 코호트 모두에서 30분 혈당 예측을 위한 선형, 앙상블, 커널 기반 및 딥러닝 모델을 직접 비교하였다.
이중 인구 집단 통찰: T2DM 연구의 공백을 메우기 위해 T2DM 환자에 특화된 모델 동작 및 특징 중요도를 분석하고, 이를 T1DM의 역동성과 대조하였다.
체계적인 XAI 평가: 단순히 XAI 도구를 적용하는 것에 그치지 않고, 전역 및 지역적 맥락에서 SHAP와 LIME을 체계적으로 비교하여 혈당 예측 영역에서의 각각의 강점과 약점을 규명하였다.
생리학적 타당성 검증: ML 모델이 임상적으로 타당한 특징(예: 최근 CGM 추세 vs. 정적 임상 변수)에 의존하는지 검증하고, 모델의 추론 방식에 나타나는 인구 집단별 차이를 식별하였다.

결과

예측 성능:
- T1DM: SVR과 선형 회귀가 가장 우수한 성능을 보였다 (RMSE ~20.7–20.8 mg/dL, $R^2$ ~0.90). LSTM 모델은 코호트 규모가 작아 딥러닝 학습에 한계가 있었던 탓인지 현저히 낮은 성능을 보였다 (RMSE 26.57 mg/dL).
- T2DM: 랜덤 포레스트가 가장 우수한 성능을 보였으며 (RMSE 22.92 mg/dL, $R^2$ 0.73), XGBoost와 SVR이 그 뒤를 바짝 쫓았다. LSTM은 역시 저조한 성능을 기록했다 (RMSE 33.25 mg/dL).
- 일반적 경향: 더 단순한 모델(SVR, 랜덤 포레스트)이 딥러닝 접근법보다 우수한 성능을 보였는데, 이는 단기 예측 범위와 제한된 데이터 환경에서는 복잡한 시간적 구조(temporal architectures)가 반드시 필요하거나 효과적이지 않을 수 있음을 시사한다.
해석 가능성 결과:
- 특징 중요도: T1DM과 T2DM 모두에서 최근 CGM 측정값(특히 $t-1$ 에서 $t-4$ )이 지배적인 예측 변수였으며, 예측 영향력의 대부분을 차지했다. 정적 임상 변수는 T1DM에서는 기여도가 미미했으나, T2DM에서는 다소 구조화된 이차적 기여를 보였다.
- 모델 동작: T1DM 예측은 높은 변동성과 즉각적인 혈당 이력에 대한 의존성을 특징으로 했다. 반면 T2DM 예측은 임상 변수(예: HbA1c, 크레아티닌)의 영향력이 약간 더 높게 나타나며 더 매끄러운 궤적을 보였다.
- SHAP vs. LIME:
  - 충실도 및 안정성: SHAP는 높은 충실도와 안정성을 입증하였으며, 오차가 크고 변동성이 높은 시나리오에서도 일관된 설명을 제공하였다. LIME은 수치적 변동성을 보였으며, 비선형 영역에서 특징의 크기를 과장하거나 부호를 반대로 바꾸는 경우가 빈번했다.
  - 완결성: SHAP는 특징 기여도에 대한 포괄적인 뷰를 제공한 반면, LIME은 관련은 있지만 약한 특징들을 누락시키는 등 희소한(sparse) 설명을 생성했다.
  - 해석 가능성: LIME은 빠른 사례 검토에 적합한 단순하고 접근하기 쉬운 시각화(막대 그래프)를 제공하였으나, SHAP는 더 높은 숙련도를 요구하는 대신 심층적인 통찰력을 제공하였다.

의의 및 주장
본 논문은 ML과 XAI의 통합을 통해 정확한 단기 혈당 예측과 의미 있는 투명성을 동시에 달성할 수 있다고 주장한다. 연구 결과는 다음을 입증함으로써 신뢰할 수 있는 당뇨병 관리용 AI 시스템 개발을 뒷받침한다:

모델 선택: 데이터셋 규모가 제한적인 경우, SVR과 트리 기반 앙상블 모델이 30분 혈당 예측을 위한 견고한 선택지이다.
임상적 타당성: ML 모델은 주로 최근 혈당 이력에 의존하며, 이는 임상적으로 타당한 메커니즘이다. 다만 T2DM 모델은 추가적인 임상적 맥락을 포함한다.
상호 보완적 XAI: SHAP와 LIME은 상호 보완적인 역할을 수행한다. SH-AP는 모델의 신뢰성과 전역적 동작을 검증하는 데 탁월하며, LIME은 개별 사례 수준의 빠른 추론에 효과적이다.
미래 방향: 본 연구는 설명 가능성이 의료 분야의 AI 배포 시 선택 사항이 아닌 핵심 요소임을 강조하며, 이를 통해 임상의의 신뢰를 확보하고 안전한 통합을 촉진해야 한다고 제언한다.

저자들은 작은 T1DM 코호트 규모, 시간 의존적 맥락 변수(식사, 인슐린, 활동)의 제외, 그리고 사후 설명 가능성(post-hoc explainability) 방법론의 내재적 한계 등을 연구의 제한점으로 언급하였다. 향후 연구는 더 크고 다양한 코호트를 대상으로 하며, 동적인 맥락 데이터를 통합하는 데 집중해야 한다고 제언하였다.