Measuring Cross-Jurisdictional Transfer of Medical Device Risk Concepts with Explainable AI

1. 연구 배경 및 문제 제기 (Problem)

• 배경: 미국 (FDA), 중국 (NMPA), 유럽 (EU MDR) 의 주요 의료기기 규제 기관들은 모두 '위험 (Risk)'이라는 용어를 사용하지만, 기기를 분류하는 구조적 메커니즘은 근본적으로 다릅니다.
  • EU MDR: 장치의 특성 (침습성, 사용 기간 등) 에 기반한 명시적인 규칙 (Annex VIII, 22 개 규칙) 을 사용합니다.
  • FDA: 기존 시판 제품과의 실질적 동등성 (Substantial Equivalence) 에 기반한 선례 (Predicate) 시스템입니다.
  • NMPA: 제품 설명과 용도에 따라 분류 카탈로그에 매칭하는 카탈로그 기반 시스템입니다.
• 문제: 서로 다른 규제 체계에서 공유되는 것처럼 보이는 '위험 개념' (예: 침습성, 이식성) 이 실제로는 다른 관할권에서도 동일한 분류 신호 (Classificatory Signal) 를 전달할 수 있는지에 대한 실증적 증거가 부족합니다. 기존 연구는 질적 비교에 그쳤으며, AI 기반 규제 지원 시스템이 이러한 개념의 '이동성 (Portability)'을 가정하고 구축되고 있으나, 그 타당성은 검증되지 않았습니다.
• 목표: 설명 가능한 AI (XAI) 를 실증적 탐침 (Empirical Probe) 으로 활용하여, 한 관할권에서 추출된 위험 개념이 다른 관할권의 분류 성능에 얼마나 기여하는지 정량화하고, 규제 구조 간의 겹침 (Overlap) 을 측정하는 것입니다.

2. 연구 방법론 (Methodology)

• 데이터셋: 총 141,942 개의 의료기기 기록 (FDA: 53,745 개, NMPA: 65,703 개, EU MDR: 22,494 개) 을 사용했습니다.
• 규제 위험 요소 (Risk Factors) 추출: EU MDR Annex VIII 의 22 개 규칙에서 7 가지 구조화된 위험 요소를 도출했습니다.
  • 요소: 이식성 (Implantability), 침습성 (Invasiveness), 사용 기간 (Duration of use), 활성 장치 (Active device), 멸균 (Sterile), 측정 기능 (Measuring function), 재사용 (Reusable).
• 실험 설계:
  1. 제어된 요소 제거 연구 (Factor Ablation Study): 각 관할권별로 Random Forest 분류기를 학습시켜 다음 세 가지 조건을 비교했습니다.
     • 텍스트 특징 + 규제 요소
     • 텍스트 특징만
     • 규제 요소만
     • 성능 지표: 요소 추가에 따른 F1 점수 변화량 ($\Delta F1$) 을 측정하여 요소의 기여도를 평가했습니다.
  2. 대조군 설정:
     • 대칭적 추출 파이프라인 (Symmetric Pipeline): 모든 관할권에서 동일한 키워드 매칭 방식을 사용하여 추출 편향을 제거한 '청정 (Clean)' 신호 측정.
     • 관할권별 파이프라인 (Jurisdiction-specific Pipeline): 각 관할권의 고유한 데이터 구조 (예: NMPA 의 코드 접두사, EU MDR 의 규칙 매핑) 를 활용한 최적 조건 측정.
  3. Zero-shot Transfer: FDA 와 NMPA 데이터로 학습한 모델을 EU MDR 데이터에 적용하여 (학습 데이터 없음) 성능을 평가했습니다.
  4. 재분류 탐색 (Perturbation-based Reclassification Search): 모델의 결정 경계를 분석하기 위해 요소 값을 변경하여 클래스가 바뀌는지 확인했습니다.

3. 주요 결과 (Key Results)

• 대칭적 파이프라인 결과 (가장 엄격한 조건):
  • 모든 관할권에서 규제 요소의 기여도 ($\Delta F1$) 가 거의 0 에 가까웠습니다 (모든 $\Delta F1 < 0.01$).
  • 이는 추출 방법의 편향을 제거했을 때, 관할권 간에 이동 가능한 순수한 분류 신호는 미미하거나 존재하지 않음을 시사합니다.
• 관할권별 파이프라인 결과:
  • NMPA: EU MDR 요소가 NMPA 분류에 약간의 이득을 주었습니다 ($\Delta F1 = +0.024$). 이는 통계적으로 유의미하지만, 그 크기는 작으며 추출 방법의 비대칭성 (Pipeline Asymmetry) 에 기인한 부분이 큽니다.
  • FDA: 기여도가 미미했습니다 ($\Delta F1 = +0.006$). FDA 의 선례 기반 분류는 텍스트 특징에 이미 인코딩되어 있어 추가 요소의 효과가 적습니다.
  • EU MDR: 높은 성능을 보였으나, 이는 요소가 분류 규칙 자체에서 유래하여 순환적 (Circular) 인 구조이기 때문에 다른 관할권과 비교할 수 없는 '상한선 (Ceiling)' 결과로 해석됩니다.
• 비대칭성과 방향성:
  • Reverse-direction Probe: NMPA 나 FDA 에서 추출한 요소를 다른 관할권에 적용하면 유의미한 신호를 전달하지 못했습니다. 전이는 EU MDR $\rightarrow$ NMPA 방향으로만 제한적으로 발생했습니다.
• Zero-shot Transfer 실패 (Class I 붕괴):
  • FDA 와 NMPA 로 학습한 모델이 EU MDR 데이터 (특히 Class I) 에 적용될 때, Class I 의 F1 점수가 0.001로 급락했습니다.
  • 원인: EU MDR 의 Class I 은 '위험 요소가 없는 경우 (Residual)'로 정의되는 반면, FDA/NMPA 의 Class I 은 '특정 제품 코드에 위치적으로 할당된 경우 (Positional)'로 정의되는 구조적 불일치 때문입니다. 텍스트 특징의 언어 장벽 (중국어 vs 영어/유럽어) 도 실패를 심화시켰습니다.

4. 주요 기여 (Key Contributions)

1. 규제 개념 이동성의 실증적 측정: 공유된 규제 어휘 (Risk Vocabulary) 가 반드시 공유된 분류 논리 (Classificatory Logic) 를 의미하지는 않음을 데이터로 증명했습니다.
2. 설명 가능한 AI (XAI) 의 새로운 활용: XAI 를 단순히 모델 해석을 위한 도구가 아닌, 규제 구조 간의 구조적 거리 (Structural Distance) 를 측정하는 실증적 탐침으로 활용하는 방법론을 제시했습니다.
3. 방법론적 엄격성: 추출 파이프라인의 비대칭성과 텍스트 인코딩의 한계를 통제하기 위해 대칭적 추출, 다국어 임베딩, 장치 유형 제어 등 다양한 민감도 분석을 수행하여 결과의 신뢰성을 높였습니다.
4. 규제 AI 의 함의: 관할권 간 AI 모델 구축 시, 표면적인 용어의 유사성에 의존하지 않고 구체적인 실증적 검증을 통해 개념의 이동성을 확인해야 함을 강조했습니다.

5. 의의 및 결론 (Significance & Conclusion)

• 규제 조화의 한계: EU MDR, FDA, NMPA 간의 위험 개념은 표면적으로 유사해 보이지만, 실제 분류 로직과 구조적 맥락이 너무 달라서 AI 모델을 통한 자동화된 분류나 규제 지원 시스템의 교차 적용이 매우 어렵다는 것을 보여줍니다.
• 방향성 있는 전이: 전이는 대칭적이지 않으며, 규칙 기반 시스템 (EU MDR) 에서 카탈로그 기반 시스템 (NMPA) 으로만 제한적으로 전이될 수 있습니다. 선례 기반 시스템 (FDA) 은 다른 시스템과 구조적으로 단절되어 있습니다.
• 실무적 시사점: 의료기기 규제 AI 를 개발할 때는 "공통된 위험 개념"을 가정하기보다, 각 관할권의 고유한 데이터 구조와 분류 메커니즘을 고려한 맞춤형 접근이 필요하며, 교차 관할권 모델은 명시적인 실증적 검증을 거쳐야 합니다.

이 연구는 의료기기 규제 AI 분야에서 "공통된 언어 = 공통된 논리"라는 일반적인 가정을 깨뜨리고, 설명 가능한 AI 를 통해 규제 구조의 차이를 정량적으로 측정할 수 있는 새로운 프레임워크를 제시했다는 점에서 중요한 의의를 가집니다.