Scientific Explanations in Health Sciences: Causality, Trust, and Epistemic Adequacy

기술 요약: 보건 과학에서의 과학적 설명: 인과관계, 신뢰, 그리고 인식론적 적절성

문제 제기
의료 인공지능(AI)은 임상 실무를 변화시킬 잠재력을 지니고 있으나, 많은 머신러닝(ML) 모델의 불투명성("블랙박스")은 생사가 걸린 고위험 의료 상황에서 상당한 도전 과제를 제기한다. 설명 가능한 AI(XAI)가 모델의 예측을 명확히 하기 위한 해결책으로 제시되어 왔지만, 이 분야는 무엇이 "적절한" 의료적 설명인지에 대한 개념적 명확성이 부족한 상태로 표류하고 있다. 현재의 XAI 연구는 종종 엄격한 철학적 토대 없이 수행되며, 이로 인해 설명이 과학적 인과 표준을 우선시해야 하는지 아니면 성능 중심의 기준을 우선시해야 하는지에 대한 논쟁을 야기한다. 또한, 기존의 XAI 프레임워크는 설명을 기술적 산물로서 지표나 사용자 타당성으로 평가하는 경향이 있어, 임상적 신뢰와 의사결정에 필수적인 인식론적 및 관계적 요구사항을 간과할 위험이 있다.

방법론
본 논문은 과학 철학과 XAI의 접점에 위치한 비판적 검토 방법론을 채택한다. 저자들은 새로운 알고리즘을 제안하거나 경험적 실험을 수행하는 대신, 의료적 설명에 관한 확립된 철학적 문헌과 현재의 의료 AI 발전을 종합한다. 분석은 철학적 탐구에서 도출된 세 가지 핵심 주제 축에 집중한다:

1. 인과관계(Causality): 상관관계와 인과관계 사이의 긴장, 그리고 의료적 추론에서 다양한 인과 모델(기제적, 확률적, 관계적 모델)의 필요성을 검토한다.
2. 신뢰(Trust): 임상 환경에서의 신뢰의 인식론적 및 관계적 차원을 분석하며, 수탁자적(fiduciary) 의사-환자 관계 내에서의 의존(reliance), 특수 신뢰(specific trust), 일반 신뢰(general trust)를 구분한다.
3. 설명적 적절성(Explanatory Adequacy): 다양한 이해관계자(임상의, 환자, 규제 기관)의 실용적 요구를 고려하여 "진정한(bona fide)" 의료적 설명을 정의한다.

주요 기여
본 논문은 의료 XAI 담론에 세 가지 뚜가적인 기여를 한다:

1. 비판적 격차 분석: 설명에 대한 철학적 설명이 설정한 기대치와 현재 의료용 AI 설명의 역량 사이의 개념적 비대칭성을 식별한다. 저자들은 XAI 연구가 설명 가능성을 정립하는 데 필요한 기초적인 철학적 문헌을 대체로 간과해 왔다고 주장한다.
2. 핵심 분석 축의 식별: 논문은 XAI에 결정적인 세 가지 중심 영역을 철학적 문헌으로부터 도출한다:
   • 인과관계: 단순한 "당구공(billiard-ball)" 식의 기제적 모델을 넘어, 질병의 복잡성을 반영하는 "인과관계의 망(web of causation)"과 확률적 인과관계를 수용한다.
   • 신뢰: 신뢰를 단순히 사용자 만족도나 정확도가 아니라, 수탁자적 의무와 취약성에 뿌리를 둔 독특한(sui generis) 개념으로 프레임화하며, 단순한 성능 이상의 정당화를 요구한다.
   • 적절성: "좋은" 설명은 맥락 의존적이며, 서로 다른 이해관계자(임상의, 환자, 규제 기관)를 위해 서로 다른 기능(예측, 개입, 서사)을 수행한다는 점을 확립한다.
3. 철학에 기반한 설계 원칙: 저자들은 의료 XAI 시스템 개발을 가이드할 일련의 설계 원칙(표 1에 요약)을 제안한다:
   • P1: 설명은 개입을 지원해야 한다. 설명은 단순한 연관성을 넘어 실제적인 개입적 의존성을 추적하여, 임상의가 실행 가능한 변화를 결정할 수 있도록 해야 한다.
   • P2: 설명은 이해관계자별로 특화되어야 한다. XAI 프레임워크는 임상의, 환자, 또는 규제 기관의 특정 인식론적 요구에 맞춰 인과적, 통계적, 혹은 서사적 콘텐츠를 제시할 수 있도록 적응형이어야 한다.
   • P3: 신뢰는 명시적으로 평가되어야 한다. 평가 프로토콜은 타당성(plausibility)과 충실성(faithfulness)을 구분하여, 설명이 잘못된 확신이 아닌 정당화된 의존을 강화하도록 보장해야 한다.

결과 및 예시적 분석
본 논문은 실험적 결과를 제시하는 대신, 기존 XAI 방법을 평가하기 위한 개념적 프레임워크를 제공한다. 저자들은 그림 1을 사용하여 이 프레임워크가 서로 다른 기술들의 "인식론적 헌신(epistemic commitment)"을 어떻게 평가할 수 있는지 보여준다:

• 살리언시 맵 (예: Grad-CAM++): 분석에 따르면 이러한 방법들은 인과적 개입과 이해관계자 특이성 측면에서 낮은 점수를 받는 경우가 많다. 이들은 효과적으로 보일 수 있으나, 인과적 통찰을 제공하거나 임상 실무에 필요한 수탁자적 신뢰를 뒷받침하지 못하는 상관적 정보만을 제공한다. 이는 의사결정의 질을 개선하지 못한 채 사용자의 확신만을 높일 위험이 있다.
• 역사실적/생성적 방법 (예: GANterfactual): 반면, 역사실적 시나리오(예: 진단을 바꾸기 위해 흉부 X선 사진이 어떻게 변해야 하는지를 보여주는 것)를 생성하는 방법은 프레임워크 상에서 더 높은 위치에 놓인다. 이들은 명시적인 인과적 통찰을 제공하고, 개입적 추론을 지원하며, 다양한 이해관계자에게 맞춤화될 수 있어 인식론적 적절성 기준을 더 잘 충족한다.

의의 및 주장
본 논문은 XAI가 임상적 추론과 책임 있는 의료 실무의 정당한 구성 요소가 되기 위해서는 설명에 대한 도구적 관점을 넘어서야 한다고 주장한다. 본 연구의 의의는 다음과 같다:

• 논쟁의 재구성: 논의를 정확도와 해석 가능성 사이의 절충(trade-off) 문제에서, 인식론적으로 견고하고 임상적 의사결정의 실질적 요구에 부합하는 설명에 대한 요구로 전환시킨다.
• 학제 간 연결: 의료적 설명의 풍부한 철학적 전통(AI 연구에서 종종 간과되는)을 현대적 XAI 논쟁에 통합하며, 의학이 이미 인과관계와 신뢰라는 복잡한 문제를 다루어 왔고 XAI가 이를 반드시 해결해야 함을 주장한다.
• 기준 확립: XAI 접근 방식이 보건 과학의 인식론적, 정당화적, 실용적 요구사항을 충족하는지 평가하기 위한 필수적인 개념적 토대를 제공한다.

저자들은 본 연구가 개념적, 철학적 프레임워크를 제공하지만, 모든 기존 방법론을 이 기준에 따라 체계적으로 평가하지는 않았음을 겸허히 밝히며, 이를 향후 연구에서 현재의 의료 XAI 접근 방식이 이러한 철학적 차원을 어떻게 포함하고 있는지에 대한 체계적 분석을 통해 해결해야 할 과제로 식별한다.