기술 요약: NEURON – 임상적 근거 기반 설명을 위한 신경 - 심볼릭 시스템

1. 문제 제기

임상 환경에서 인공지능 (AI) 의 도입은 고성능 머신러닝 (ML) 모델의 '블랙박스' 성격으로 인해 방해받고 있습니다. 이러한 모델들은 치료 우선순위 설정과 개입에 필수적인 정확한 위험 추정을 제공하지만, 그 추론 과정은 다양한 전문성을 가진 임상가들에게는 불투명하게 남아 있습니다. 기존 설명 가능한 AI(XAI) 기법인 SHAP(SHapley Additive exPlanations) 와 같은 방법들은 정적 특징 할당 시각화를 제공하지만, 존재론적 근거와 서사적 투명성이 부족합니다. 이러한 방법들은 종종 확립된 임상 지식을 반영하지 못하거나 상호작용적 인과 추론을 지원하지 않아, 전문 수준의 의미 형성과 신뢰 구축에 대한 유용성이 제한됩니다. furthermore, 현재 접근 방식들은 종종 존재론 기반의 검색 증강 생성 (RAG) 과 신경 - 심볼릭 모델링을 통합된 프레임워크 없이 분리하여 다루며, 이는 예측 성능 향상과 임상적 근거가 있는 자연어 설명 생성을 동시에 달성하지 못하게 합니다.

2. 방법론: NEURON 프레임워크

저자들은 원시 데이터, 의학 명칭, 그리고 인간과 정렬된 설명 사이의 간극을 해소하도록 설계된 통합 신경 - 심볼릭 프레임워크인 NEURON(Retrieval Oriented Narration 을 통한 신경 - 심볼릭 이해) 을 제안합니다. 이 시스템은 세 가지 주요 구성 요소를 통해 작동합니다:

A. 신경 - 심볼릭 예측 모델링

NEURON 은 SNOMED CT(Systematized Nomenclature of Medicine Clinical Terms) 존재론 기반의 구조적 표현을 표준 비심볼릭 ML 모델과 통합합니다.

• 데이터 소스: 이 프레임워크는 MIMIC-IV 데이터셋을 통해 검증되었으며, 특히 **급성 심부전 **(AHF)의 입원 중 사망률 예측에 중점을 두었습니다.
• 특징 공학:
  • 표준 표형 데이터 베이스: LASSO 회귀를 통해 선택된 18 가지 임상 특징 (예: 생체 징후, 검사실 결과).
  • 존재론 통합: SNOMED 코드를 원-핫 (one-hot) 특징으로 취급하는 대신, 시스템은 'is-a' 지식 그래프를 구성합니다. SNOMED 개념에 대해 Node2Vec 임베딩을 생성하고 TF-IDF 가중 풀링을 사용하여 집계함으로써 입원당 고정 길이 벡터를 생성합니다.
  • 존재론 계수: 각 입원에 대해 존재론 카테고리 (1 단계 및 2 단계) 의 명시적 계수가 도출됩니다.
• 모델 아키텍처: 이 프레임워크는 네 가지 다른 ML 아키텍처인 **XGBoost, 다층 퍼셉트론 **(MLP)에서 테스트되었습니다. 이러한 모델들은 세 가지 구성으로 훈련되었습니다: (1) 표형 데이터만, (2) 표형 데이터 + SNOMED 임베딩, (3) 전체 신경 - 심볼릭 (표형 데이터 + 임베딩 + 존재론 계수).

B. RAG 기반 설명 생성

모델 출력을 임상가 친화적 서사로 변환하기 위해 NEURON 은 대규모 언어 모델 (LLM) 을 기반으로 한 **검색 증강 생성 **(RAG) 계층을 사용합니다.

• 입력 소스: RAG 계층은 네 가지 다른 정보 스트림을 통합합니다:
  1. SHAP 드라이버: 예측 모델의 특징 할당 점수.
  2. 존재론 표현: SNOMED 지식 그래프의 구조적 매핑.
  3. 임상 기록: 메타데이터 필터링을 통해 검색된 비정형 환자별 중환자실 (ICU) 기록.
  4. 선별된 임상 지식: 18 가지 예측 인자에 대한 임계값, 참조 범위 및 해석 지침이 포함된 수동으로 선별된 지식 베이스.
• 생성 과정: 시스템은 엄격한 구조 (예: 모델 드라이버, 표형 특징, 존재론 증거 분리) 를 강제하기 위해 제한된 프롬프트 템플릿을 사용합니다. 환각을 최소화하기 위해 검색된 증거에 근거한 출력을 보장하는 로컬 LLM(qwen2.5:14b-instruct) 을 사용하여 자연어 설명을 생성합니다.

C. 평가 지표

이 연구는 이중 평가 전략을 사용합니다:

• 예측 성능: AUC, 정확도, 민감도, 정밀도, F1 점수 및 특이도를 통해 측정됩니다.
• 설명 품질:
  • SHAP 을 위한 계산 지표: 완전성, 가법성 간격, 부정확성, 최대 민감도 및 강건성.
  • 서사를 위한 인간 정렬 지표: LLM-as-a-judge 접근 방식 (gpt-oss:20b 사용) 을 사용하여 충실도, 타당성, 유용성, 의미 형성 및 일관성을 평가합니다. 서사 완전성은 특징 이름, 값 및 방향의 'Explingo 기반' 커버리지로 측정됩니다.

3. 주요 기여

1. 통합 신경 - 심볼릭 프레임워크: NEURON 은 동일한 임상 코호트에서 비심볼릭 및 신경 - 심볼릭 파이프라인의 통제된 비교를 제시한 최초의 연구로, 존재론 통합이 여러 모델 계열에서 예측 성능을 향상시킨다는 것을 입증합니다.
2. 통합 설명 파이프라인: 이 시스템은 SHAP 할당을 RAG 기반 LLM 과 직접 결합하여 구조화된 존재론 표현, 비정형 임상 기록 및 선별된 지식을 통합하여 전체적인 서사를 생성합니다.
3. 종합 평가: 이 논문은 계산적 할당 지표와 인간 정렬 기준 (충실도, 의미 형성) 을 모두 사용하여 정적 SHAP 시각화와 동적 서사 설명 간의 엄격한 비교를 제공합니다.
4. 존재론 인식 임베딩 전략: 저자들은 단순한 원-핫 인코딩 대신 Node2Vec 임베딩과 TF-IDF 풀링을 활용하여 임상 관계를 더 잘 포착하는 SNOMED CT 통합을 위한 비자명한 방법을 소개합니다.

4. 결과

예측 성능

존재론에서 파생된 특징의 통합은 네 가지 ML 모델 전반에 걸쳐 예측 성능을 일관되게 향상시켰습니다.

• AUC 향상: 전체 신경 - 심볼릭 구성 하에서 가장 성능이 우수한 모델 (XGBoost 및 RBF-SVM) 은 AUC 0.88(95% CI: 0.86–0.89)을 달성하여 표형 데이터만 기반의 기준선 (0.74–0.77) 에서 유의미한 증가를 보였습니다.
• 민감도 및 F1: 신경 - 심볼릭 구성은 민감도 (예: XGBoost 는 0.21 에서 0.37 로 증가) 와 F1 점수 (XGBoost 는 0.31 에서 0.49 로 증가) 에서 가장 강력한 개선을 보여주어 고위험 사례의 감지 능력을 향상시켰음을 나타냅니다.

설명 품질

• SHAP 성능: SHAP 설명은 높은 **완전성 **(0.932)과 낮은 가법성 간격을 보여주어 규제 추적 가능성에 적합했습니다. 그러나 인간 정렬 지표에서는 낮은 점수를 기록하여 전체 점수 0.504, 의미 형성 점수 0.307을 기록했으며, 이는 임상가들이 정적 시각화를 해석하는 데 어려움을 겪고 있음을 나타냅니다.
• **NEURON **(RAG) NEURON 이 생성한 서사 설명은 훨씬 더 높은 인간 정렬 점수를 달성했습니다 (전체: 0.849; 의미 형성: 0.827).
• 커버리지: LLM 서사는 상위-K SHAP 할당 질량의 **76.3%**를 성공적으로 커버하여 자연어 출력이 모델의 드라이버를 효과적으로 통합했음을 입증했습니다.
• 안정성: 서사 생성은 실행 간 높은 안정성 (코사인 유사도 0.999) 을 보인 반면, SHAP 할당은 중간 수준의 안정성 (0.777) 을 보였습니다.

5. 중요성 및 주장

저자들은 NEURON 이 신뢰할 수 있고 인간 중심의 연결된 건강 애플리케이션을 배포하기 위한 견고하고 확장 가능한 엔지니어링 솔루션을 제공한다고 주장합니다. 이 연구의 중요성은 다음과 같은 능력에 있습니다:

• 예측 신뢰성 향상: ML 모델을 임상 존재론에 근거시킴으로써, 시스템은 비심볼릭 학습의 유연성을 희생하지 않고 위험 계층화 정확도를 향상시킵니다.
• 임상적 의미 형성 촉진: 이 시스템은 정적 특징 할당을 넘어 임상 워크플로우 및 지식과 정렬된 일관된 자연어 서사를 제공합니다.
• 간극 해소: 이 시스템은 원시 데이터와 의학 명칭 사이의 간극을 성공적으로 해소하여, 표준 XAI 에서 현재 결여되어 있는 상호작용적이고 서사적인 추론 메커니즘을 제공합니다.

저자들은 데이터셋 내 수준별 중첩 가능성, 서사 품질이 사용된 특정 LLM 에 의존한다는 점 (작은 모델은 환각을 보임), 그리고 지지되지 않는 임상 주장을 방지하기 위한 신중한 프롬프트 엔지니어링의 필요성 등 한계를 인정합니다. 그들은 NEURON 의 서사가 인간 정렬 지표에서 SHAP 을 능가하지만, 여전히 기본 모델의 충실도에 의존하므로 기존 XAI 기법을 완전히 대체하기보다는 보완적으로 간주되어야 한다고 결론지었습니다.