기술 요약: 음성 장애 탐지를 위한 개념 기반 접근 방식

문제 정의

음성 장애는 인구의 상당 부분에 영향을 미치지만, 현재의 진단 방법은 종종 침습적인 임상 절차에 의존합니다. 최근 딥 뉴럴 네트워크(DNN), 특히 트랜스포머 아키텍처를 기반으로 한 모델들은 비침습적 오디오 분석을 통해 병리적 음성과 정상 음성을 분류하는 데 유망한 성능을 보여주었으나, '불투명성'이라는 결정적인 한계가 있습니다. 이러한 모델들은 의사 결정 과정을 설명하지 못한 채 결과만을 제공하는 "블랙박스"로 작동합니다. 의료라는 민감한 맥로에서 이러한 해석 가능성의 결여는 윤리적 및 법적 문제를 야기하며, AI 기반 진단의 신뢰도와 임상 도입을 저해합니다. 본 논문은 높은 예측 성능을 유지하면서도 투명하고 해석 가능한 의사 결정 프레임워크를 제공하는 진단 도구의 필요성을 다룹니다.

방법론

저자들은 설명 가능한 AI(XAI), 특히 **개념 병목 모델(Concept Bottleneck Models, CBM)**과 **개념 임베딩 모델(Concept Embedding Models, CEM)**에 초점을 맞춘 개념 기반 접근 방식을 제안합니다. 방법론은 다음과 같은 2단계 과정으로 구성됩니다.

1. 대규모 언어 모델(LLM)을 통한 개념 주석 생성

대상 데이터셋(Italian Pathological Voice - IPV)은 사전 라벨링된 개념이 아닌 비정형 텍스트 형태의 병력(anamnesis)을 포함하고 있으므로, 저자들은 이 텍스트로부터 14개의 후보 개념을 추출하는 파이프라인을 개발했습니다.

• 추출: 저자들은 텍스트를 파싱하여 개념 값을 포함하는 구조화된 JSON 객체를 출력하기 위해 LLM(Mistral 7B와의 비교 테스트 후 선택된 Gemini-pro)을 활용했습니다.
• 개념 정의: 초기 세트에는 14개의 개념(예: 흡연, 직업적 음성 사용, 발성 장애 심각도, 불규칙한 점막 파동, 거칠기, 기성 등)이 포함되었습니다.
• 정제: 의료 전문가와의 협의를 통해 세트를 정제했습니다. 침습적인 물리적 검사가 필요한 개념(예: 특정 점막 색상)은 제외되었습니다. 다른 개념들은 병합되었습니다(예: "경도-중등도 발성 장애"를 "중등도"와 병합). 최종 세트는 9개의 예측 가능한 개념(오디오/병력을 통해 도출됨)과 5개의 환자 제공 개념(예: 성별, 흡연 여부)으로 구성됩니다. 예측 가능한 개념들은 주로 GRBAS 척도(Grade, Roughness, Asthenia, Strain)와 일치합니다.
• 인코딩: 다중 클래스 개념(예: 발성 장애 심각도)은 원-핫 인코딩(one-hot encoding)되었으며, 최종 선택 전 총 20개의 개념 차원을 생성했습니다.

2. 모델 아키텍처

제안된 프레임워크는 오디오 임베딩을 생성하기 위해 사전 학습된 오디오 트랜스포머인 HuBERT를 특징 추출기로 사용합니다. 두 가지 아키텍처가 구현되었습니다.

• 개념 병목 모델 (CBM): 오디오 임베딩이 분류 헤드를 통과하여 9개 개념의 이진 값을 예측합니다(이것이 "병목"입니다). 예측된 개념은 5개의 환자 제공 개념과 결합됩니다. 그 다음 분류기는 이 결합된 개념 벡터를 최종 이진 진단(병리적 vs 정상)으로 매핑합니다. 결정적으로, 최종 분류기는 원시 오디오 신호에 접근할 수 없으며 오직 개념에만 의존합니다.
• 개념 임베딩 모델 (CEM): CBM과 유사하지만, 병목 레이어에서 이진 로짓을 예측하는 대신 각 개념에 대해 두 개의 별도 임베딩(활성 상태 및 비활성 상태)을 학습합니다. 최종 예측은 개념이 활성화될 확률에 기반한 이 임베딩들의 가중 결합입니다.

3. 학습 전략

모델은 개념 손실(중간 개념의 정확도)과 태스크 손실(최종 진단의 정확도)을 모두 최소화하는 공동 손실 함수를 사용하여 학습됩니다. 하이퍼파라미터 $\lambda$가 이 손실들의 균형을 맞춥니다. 저자들은 첫 2 에포크 동안 태스크 손실을 고정하여, 최종 분류를 최적화하기 전에 견고한 개념 표현을 우선적으로 학습하도록 웜업(warm-up) 전략을 채택했습니다.

주요 기여

1. 음성 장애에 대한 개념 기반 XAI 적용: CBM 및 CEM 아키텍처를 음성 질환 탐지에 구체적으로 적용한 최초의 연구로, 표준적인 엔드-투-엔드 블랙박스 접근 방식을 넘어섰습니다.
2. 자동화된 개념 추출 파이프라인: 비정형 임상 텍스트(병력)에서 개념 기반 모델의 그라운드 트루스(ground truth)로 사용할 고수준의 의료 개념을 추출하기 위해 LLM을 사용하는 새로운 워크플로우를 입증했습니다.
3. 성능 저하 없는 해석 가능성: 개념 기반 모델이 표준 엔드-투-엔드 트랜스포머와 대등한 성능을 달-성하면서도, 임상적으로 유의미한 특징(예: "발성 장애", "거칠기")을 통해 명시적인 근거를 제공할 수 있음을 검증했습니다.

결과

실험은 513명의 환자(정상 170명, 병리적 340명)를 포함하는 Italian Pathological Voice (IPV) 데이터셋을 대상으로 수행되었으며, 이 중 385건은 서술된 병력을 포함하고 있습니다. 연구에는 10-겹 교차 검증(10-fold cross-validation)이 사용되었습니다.

• 개념 주석: Gemini-pro 모델은 수동으로 주석을 달린 검증 세트에서 **98.65%**의 개념 정확도와 **98.10%**의 매크로 F1 스코어를 달성하여 Mistral 7B보다 우수한 성능을 보였습니다.
• 음성 장애 탐지:
  • 베이스라인: 2개 층의 분류 헤드를 가진 표준 엔드-투-엔드 HuBERT 모델은 **91.33%**의 태스크 정확도와 0.9085의 F1 스코어를 달성했습니다.
  • 개념 기반 모델:
    • CBM: **87.76%**의 태스크 정확도와 0.8566의 F1 스코어를 달성했으며, 개념 정확도는 **84.43%**였습니다.
    • CEM: **87.30%**의 태스크 정확도와 0.8599의 F1 스코어를 달성했으며, 개념 정확도는 **84.50%**였습니다.
  • 이상적 CBM (Ideal CBM): 그라운드 트루스 개념 라벨이 제공되었을 때(완벽한 개념 추출을 시뮬레이션), CBM은 **90.52%**의 정확도를 기록하여 엔드-투-엔드 베이스라인에 거의 근접했습니다.

결과는 실제 개념 기반 모델의 성능 저하가 아키텍처의 근본적인 한계보다는 LLM이 생성한 개념 주석의 불완전한 특성(약 84.5%의 정확도)에서 기인함을 나타냅니다. 모델은 "발성 장애", "기성", "거칠기"와 같은 개념을 사용하여 최종 진단을 정당화하는 법을 성공적으로 학습했습니다.

의의 및 주장

본 논문은 개념 기반 모델이 의료 분야의 AI를 투명하고 신뢰할 수 있게 만드는 데 있어 중요한 진전이라고 주장합니다. 최종 진단을 인간이 이해할 수 있는 중간 개념(GRBAS 척도 파라미터 등)에 명시적으로 연결함으로써, 이러한 모델은 임상의가 예측의 근거를 검증할 수 있게 합니다. 저자들은 엔드-투-엔드 방식이 약간 더 정확하긴 하지만, 개념 기반 방식이 해석 가능성이라는 뚜렷한 장점을 가진 "경쟁력 있는" 성능 수준을 제공하며, 이를 통해 인간 전문가가 개입하거나 반사실적 예측(counterfactual predictions)을 도출할 수 있다고 주장합니다. 저자들은 현재의 성능 격차가 주로 자동화된 개념 주석의 품질에 기인한다는 점을 인정하며, 향후 지속적인 모음(sustained vowels) 통합 및 생성형 보고 도구 등을 통해 시스템을 더욱 향상시킬 수 있다는 점에서 겸허한 태도를 유지하고 있습니다.