기술 요약: 갈등적 다중 뷰 의사결정을 위한 신뢰할 수 있고 설명 가능한 집단 학습

1. 문제 정의

본 논문은 서로 다른 데이터 소스(뷰) 또는 전문가들이 상충하는 의견을 제공하는 다중 뷰 의사결정(multi-view decision-making) 문제를 다룹니 다. 다학제적 의료 상담과 같은 실제 시나리오에서, 서로 다른 뷰들은 종종 고유한 통찰력을 보유하며 이로 인해 의견 불일치가 발생합니다. 기존 방법들은 일반적으로 갈등을 부정적인 요소로 취급하여, 이를 제거하거나 최소화하기 위해 부정 연산(예: 뷰 간 정렬 또는 상충하는 인스턴스 폐기)을 수행합니다. 그러나 이러한 접근 방식은 뷰 간의 차이를 드러내고 결정의 신뢰성을 평가하는 데 있어 갈등이 갖는 가치를 간과하는 경우가 많습니다.

또한, 현재의 다중 뷰 학습 방법들은 크게 두 가지 주요 한계점을 가집니다:

1. 신뢰성 모델링의 부재: 개별 뷰의 결정과 최종 집단 의견 모두에 대한 불확실성과 신뢰성을 정량화하지 못하며, 특히 갈등이 발생할 때 더욱 그러합니다.
2. 설명 가능성의 부족: 일부 해석 가능한 모델(예: Concept Bottleneck Models)이 존재하지만, 이들은 주로 최종 결정에 집중할 뿐, 개별 뷰의 특징 수준 추론이나 뷰 간 갈등의 근본 원인을 설명하지 못합니다.

본 연구의 목표는 갈등을 억제하는 대신 능동적으로 모델링함으로써, 개별 뷰의 출력과 최종 합의를 정확하게 예측하는 동시에 집단 결정의 **신뢰성(trustworthiness)**과 **해석 가능성(interpretability)**을 높이는 방법론을 개발하는 것입니다.

2. 방법론: 신뢰할 수 있고 설명 가능한 집합 학습 (TECL)

저자들은 갈등이 있는 다중 뷰 데이터를 처리하기 위해 설계된 프레임워크인 TECL(및 그 변형인 TrustCL)을 제안합니다. 이 프레임워크는 세 가지 핵심 모듈로 구성됩니다.

A. 이중 개념 학습 모듈 (Dual-Concepts Learning Module)

이 모듈은 해석 가능성을 높이기 위해 **특징 수준(feature level)**과 결정 수준(decision level) 모두에서 개념을 포착하는 것을 목표로 합니다.

• 특징 개념 (Feature Concepts): 입력 특징($x_v$)에 어텐션 메커니즘을 적용하여 특정 뷰가 샘플 특징에 기울이는 주의 정도를 나타내는 특징 개념($a_v$)을 생성합니다.
• 결정 개념 (Decision Concepts): 특징 개념에 의해 유도된 강화된 인스턴스($\hat{x}_v$)는 태도 포착 네트워크(attitude capture network)와 증거 기반 딥 뉴럴 네트워크(evidential DNN)로 전달됩니다. 이를 통해 다음이 생성됩니다:
  • 개별 결정 (Individual Decisions): 해당 뷰의 예측 카테고리.
  • 지지 태도 (Supporting Attitudes): 해당 뷰가 최종 집단 결정을 지지하는지 여부를 나타내는 이진 지표 (0 또는 1).
• 합의 판단 (Consensus Judgment): 모든 뷰가 일치하는 경우(갈등이 없는 경우), 매우 신뢰할 수 있는 집단 결정이 즉시 생성됩니다. 만약 갈등이 존재한다면, 프로세스는 다음 모듈로 넘어갑니다.

B. 뷰별 증거 학습 모듈 (View-Specific Evidence Learning Module)

이 모듈은 **증거 기반 딥 러닝(Evidential Deep Learning, EDL)**을 활용하여 각 뷰의 의견에 대한 신뢰성을 정량화합니다.

• 증거 획득 (Evidence Acquisition): 표준 분류 대신, 모델은 각 뷰에 대한 증거 벡터($e_v$)를 출력합니다.
• 신뢰성 계산 (Reliability Calculation): **주관적 논리(Subjective Logic)**와 **디리클레 분포(Dirichlet distribution)**를 사용하여, 모델은 증거를 다항 의견(multinomial opinion) $w_v = \{b_v, u_v\}$로 변환합니다. 여기서 $b_v$는 믿음 질량(belief masses)을, $u_v$는 불확실성(uncertainty)을 나타냅니다.
• 핵심 혁신: 모델은 단순히 집단적 진실(collective truth)만이 아니라 개별 뷰의 실제 정답($y_v$)을 지도 신호로 사용합니다. 이는 뷰 간의 내재된 갈등과 차이를 보존하여, DNN이 각 관점과 그에 따른 불확실성에 대한 구체적인 지식을 학습할 수 있도록 합니다.

C. 신뢰성 지향 집단 학습 모듈 (Reliability-Oriented Collective Learning Module)

이 모듈은 각 뷰에 대한 **동적 우선순위(dynamic priority)**를 계산하여 상충하는 의견을 융합합니다.

• 우선순위 정의: 뷰의 우선순위 $c_v$는 두 가지 요인에 의해 결정됩니다:
  1. 내재적 중요도 ($\mu$): 뷰의 역사적 지위나 역할(예: 전문 심장 전문의 vs 일반의)에 기반한 정적 사전 정보.
  2. 동적 인지 ($\sigma$): 특정 데이터 인스턴스와의 관련성(예: 골절 부상에 대한 정형외과 의사의 높은 관련성)에서 도출된 인스턴스별 중요도.
• 융합 메커니즘: 우선순위는 디리클레 분포를 통해 샘플링된 정규 분포를 사용하여 모델링됩니다. 최종 집단 의견은 이러한 우선순위를 가중치로 사용하여 뷰별 의견($w_v$)을 융합함으로써 생성됩니다.
  • 융합 규칙(식 8)은 믿음과 불확실성을 수학적으로 결합합니다. 뷰들이 충돌하면 집단 의견의 불확실성이 증가하여 합의의 신뢰성 저하를 반영합니다.
  • 뷰들이 일치하면 믿음이 강화됩니다.

D. 손실 함수 (Loss Function)

학습 목표는 세 가지 구성 요소의 결합으로 이루어집니다:

1. 증거 기반 교차 엔트로피 ($L_{ace}$): 2차 불확실성을 포착하기 위해 디리클레 분포를 사용하여 올바른 라벨 예측을 보장합니다.
2. KL 발산 ($L_{KL}$): 예측된 디리클레 분포와 균등 분포 사이의 차이를 최소화하여, 잘못된 라벨에 대한 오도하는 증거가 억제되도록 합니다.
3. 이진 교차 엔트로피 ($L_{bce}$): 모델이 뷰의 결정이 집단 의견과 일치하는지 예측하도록 학습시킵니다.
   전체 손실은 개별 뷰의 오류와 집단 예측 오류를 모두 처벌하며, 갈등을 제거해야 할 오류가 아닌 학습을 위한 동기로 취급합니다.

3. 주요 기여

1. 능동적 갈등 모델링: 본 논문은 TrustCL과 TECL을 제안하며, 이는 갈등을 억제하는 대신 갈등을 능동적으로 모델링하여 뷰 간의 차이를 강조하고 결정의 신뢰성을 드러냅니다.
2. 이중 수준의 해석 가능성: TECL은 특징 수준(뷰가 어떤 특징에 집중하는가)과 결정 수준(왜 특정 결과에 대해 뷰가 지지하는가) 모두에서 개념을 모델링하여, 개별 및 집단 결정에 대한 설명을 제공합니다.
3. 동적 우선순위 및 신뢰성 융합: 이 방법은 내재적 지위와 인스턴스별 기여도를 모두 바탕으로 뷰의 우선순위를 동적으로 결정합니다. 또한 이러한 우선순위를 뷰별 증거와 결합하여 최종 집단 의견과 그 신뢰도 점수를 생성합니다.
4. 실증적 검증: 이 접근 방식은 실제 다학제적 의료 상담 데이터셋(BCDB)에서 검증되었으며, 정확도, 재현율(Recall), 평균 역수 순위(MRR) 측면에서 베이스라인 모델보다 우수한 성능을 입증했습니다.

4. 실험 결과

저자들은 BCDB (Breast Cancer Database) 데이터셋(6명의 의사가 참여하는 9,015개의 다학제적 의료 권고 사례 포함)에서 TECL과 TrustCL을 평가했습니다.

• 성능: TECL은 단일 뷰 예측(개별 의사 정확도)과 집단 예측(최종 합의 정확도) 모두에서 최신 베이스라인(TMC, ECML, MLP 변형 포함)을 능가했습니다.
  • 집단 정확도 (CA): TECL은 **78.5%**를 달성하였으며, 이는 차순위 모델인 ECMLboth의 77.9%보다 높습니다.
  • 개별 정확도 (IA): TECL은 **74.5%**를 달성하여 ECML(73.5%)과 TMC(70.6%)를 앞질렀습니다.
• 절제 연구 (Ablation Studies): 동적 인지($\sigma$) 구성 요소를 제거하거나 내재적 중요도($\mu$)에만 의존할 경우 성능이 크게 저하되었으며, 이는 특정 인스턴스에 따라 뷰의 중요도를 동적으로 조정하는 것의 필요성을 확인시켜 줍니다.
• 해석 가능성 분석: 시각화를 통해 모델이 (일반의보다 낮은 '직함'을 가졌더라도) 특정 이슈(예: 뼈 문제에 대한 정형외과 의사)에 대해 언제 더 높은 우선순위를 가져야 하는지를 정확히 식별함을 보여주었습니다. 또한 뷰들이 강력하게 대립할 때 집단 신뢰도가 감소한다는 점을 성공적으로 정량화하여, 결정 확신에 대한 투명한 척도를 제공했습니다.

5. 의의 및 주장

본 논문은 TECL이 신뢰할 수 있고 설명 가능한 다중 뷰 학습의 새로운 분파를 대표한다고 주장합니다. 이 연구의 주요 의의는 갈등 감소에서 갈등 활용으로 패러다임을 전환했다는 점에 있습니다. 갈등하는 의견을 신뢰성 모델링을 위한 가치 있는 정보로 취급함으로써, 이 방법은 다음과 같은 효과를 거둡니다:

• 불확실성을 명시적으로 모델링함으로써 집단 결정의 신뢰도를 높입니다.
• 왜 결정이 내려졌는지, 그리고 왜 갈등이 발생했는지에 대한 설명 가능성을 제공하며, 이는 의료 진단과 같은 안전이 중요한 응용 분야에서 매우 중요합니다.
• 증거가 뒷받s는다면, 소수의 목소리(예: 특정 분야에 집중하는 전문가)가 다수나 정적인 계층 구조에 의해 묻히지 않도록 보장합니다.

저자들은 이 방법이 복잡한 다학제적 환경에서 정확한 집단 결정의 필요성과 그 결정의 근거 및 신뢰성을 이해해야 하는 필요성 사이의 균형을 효과적으로 맞춘다고 결론짓습니다. 향-후 연구로는 대규모 의미론적 문맥을 위해 거대 언어 모델(LLM)을 통합하는 방안이 제시되었습니다.