A High-Resolution Landscape Dataset for Concept-Based XAI With Application to Species Distribution Models

1. 연구 배경 및 문제 제기 (Problem)

• 종 분포 모델 (SDM) 의 이중적 목표: 종 분포 모델은 보전 정책 및 침입종 관리에 필수적인 도구로, 높은 예측 성능과 **생태학적 통찰력 (구동 요인 해석)**을 동시에 달성해야 합니다.
• 딥러닝의 해석 가능성 문제: 전통적인 머신러닝 (예: Random Forest) 은 특징 중요도를 직접 평가할 수 있지만, 딥러닝 기반 SDM 은 수백만 개의 파라미터에서 추상적인 특징을 학습하여 '블랙박스'화되었습니다. 이로 인해 모델이 어떤 요인에 기반하여 예측을 내리는지 생태학자가 이해하기 어려워졌습니다.
• 기존 XAI 방법의 한계: LIME, SHAP 와 같은 기존 설명 가능 AI (XAI) 기법은 픽셀 단위 해석에 치중하여 비전문가에게 직관적이지 않으며, 생태학자가 필요로 하는 고수준의 전역적 설명 (Global, higher-level explanations) 을 제공하지 못합니다.
• 데이터 부재: 개념 기반 XAI (Concept-based XAI) 는 인간이 이해하는 고수준 개념 (예: '울타리', '습지') 을 통해 모델을 설명할 수 있으나, SDM 분야에 적용할 수 있는 전용 개념 데이터셋이 존재하지 않았습니다.

2. 제안된 방법론 (Methodology)

이 연구는 예측 성능과 해석 가능성을 조화시키기 위해 다음과 같은 방법론을 제시합니다.

가. 고해상도 풍경 개념 데이터셋 구축

• 데이터 수집: 프랑스 내 5 개 연구 지역에서 드론 (Trinity F90+) 을 활용하여 2024 년 4 월 고해상도 데이터를 수집했습니다.
  • 센서: 5 개 대역의 다중분광 센서 (MicaSense Dual MX) 와 LiDAR 센서 (Qube240).
  • 해상도: 공간 해상도 8cm/픽셀 (다중분광), 10cm/픽셀 (LiDAR).
• 개념 정의 및 패치 생성: 생태학적 프로세스 이해에 중요한 15 가지 풍경 개념 (울타리, 고립된 나무, 숲, 수계, 습지, 도로, 건물, 다양한 작물 등) 을 정의하고, 이를 기반으로 653 개의 개념 패치와 1,450 개의 무작위 참조 패치를 생성했습니다.
  • 각 패치는 512x512 픽셀 크기로, 5 개 다중분광 밴드와 2 개 고도 모델 (지형/수관) 을 합쳐 총 7 채널로 구성되었습니다.

나. 모델 아키텍처 및 학습

• 대상 종: 수생 곤충인 **Plecoptera (날도래목)**와 Trichoptera (날다래목).
• 학습 모델: 두 종의 존재/부재 (Presence/Absence) 를 분류하기 위해 세 가지 딥러닝 모델을 훈련시켰습니다.
  1. CerberusCNN: 다중 스케일 공간 특징을 포착하기 위해 설계된 커스텀 CNN (3 개의 병렬 브랜치).
  2. Adapted ResNet-50 (ARN-50): 생태학 분야에서 널리 쓰이는 ResNet-50 을 7 채널 입력에 맞게 수정.
  3. PicoViT: 비전 트랜스포머 (Vision Transformer) 아키텍처를 데이터셋 규모에 맞게 경량화.
• 학습 전략: 공간적 데이터 누출 (Data Leakage) 을 방지하기 위해 드론 이미지를 동서 방향으로 분할하여 학습/검증/테스트 세트를 구성했습니다.

다. Robust TCAV 적용 (개념 기반 XAI)

• 기법: **Robust TCAV (Testing with Concept Activation Vectors)**를 SDM 에 최초로 적용했습니다.
• 작동 원리:
  1. 학습된 모델의 특정 레이어에서 개념 패치와 무작위 패치의 평균 활성화 값을 계산합니다.
  2. 두 값의 차이로 **개념 활성화 벡터 (CAV)**를 생성합니다.
  3. 모델 예측이 특정 개념 방향과 얼마나 일치하는지 **민감도 점수 (Sensitivity Score)**를 계산하여 TCAV 점수 (0~1) 를 도출합니다.
  4. 점수가 0.5 이상이면 해당 개념이 클래스 예측에 긍정적 영향을, 0.5 미만이면 부정적 영향을 미친다고 해석합니다.

3. 주요 기여 (Key Contributions)

1. 새로운 오픈 액세스 데이터셋: 15 가지 풍경 개념과 1,450 개의 무작위 패치를 포함한 고해상도 다중모달 (다중분광 + LiDAR) 드론 데이터셋을 공개했습니다.
2. 최초의 개념 기반 XAI SDM 구현: Robust TCAV 를 SDM 에 적용하여 모델의 예측 논리를 생태학적 개념과 연결하는 프레임워크를 제시했습니다.
3. 새로운 SDM 모델 개발: Plecoptera 와 Trichoptera 를 대상으로 CNN 과 Vision Transformer 기반의 3 가지 새로운 모델을 제안하고 성능을 검증했습니다.

4. 실험 결과 (Results)

가. 예측 성능

• CerberusCNN이 두 종 모두에서 가장 안정적인 성능을 보였습니다 (Plecoptera AUC: 0.88, Trichoptera AUC: 0.79).
• Pretrained ARN-50은 Plecoptera 예측에서 가장 높은 성능 (AUC 0.90) 을 기록했습니다.
• PicoViT는 Plecoptera 에서는 신뢰할 만한 성능을 보였으나 (AUC 0.72), Trichoptera 에서는 성능이 낮아 (AUC 0.66) 신뢰할 수 없었습니다. 이는 트랜스포머의 장기 의존성 학습이 수생 곤충의 국소적 서식지 특징을 포착하는 데 CNN 보다 덜 효과적일 수 있음을 시사합니다.

나. Robust TCAV 해석 결과

• 생태학적 타당성:
  • 자연 요소 (숲, 습지, 고립된 나무, 영구 초지 등) 는 두 종의 **존재 (Presence)**에 강한 긍정적 영향을 미쳤습니다 (TCAV 점수 > 0.85).
  • 인공 요소 (건물, 도로, 작물) 는 **부재 (Absence)**와 강하게 연관되거나 존재에 부정적 영향을 미쳤습니다.
  • 유기농 vs 관행농: 유기농 작물이 관행농 작물보다 종 존재에 덜 부정적인 영향을 미쳐, 유기농이 생물다양성에 더 친화적임을 확인했습니다.
• 모델 간 일관성: CNN 기반 모델 (CerberusCNN, ARN-50) 은 일관된 해석을 보였으나, PicoViT 는 Trichoptera 에서 대부분의 개념에 대해 0 점에 가까운 결과를 보여, 예측 성능이 낮은 모델은 의미 있는 생태학적 통찰을 제공하지 못함을 입증했습니다.
• 새로운 가설 발견: Trichoptera 의 경우, 일부 모델에서 '도로'와 '건물'이 존재에 긍정적 영향을 미친 것으로 나타났는데, 이는 기존 문헌과 상반되거나 불명확한 부분으로, 추가 연구가 필요한 새로운 생태학적 가설을 제시했습니다.

5. 의의 및 결론 (Significance)

• 예측과 해석의 통합: 딥러닝 기반 SDM 의 높은 예측 성능과 생태학적 해석 가능성을 동시에 달성할 수 있는 프레임워크를 입증했습니다.
• 정책 및 관리 지원: 모델이 어떤 풍경 개념에 기반하여 종의 분포를 예측하는지 명확히 설명함으로써, 정책 입안자와 토지 관리자가 더 나은 의사결정을 내릴 수 있도록 지원합니다.
• 미래 연구의 촉매제: 공개된 고해상도 개념 데이터셋은 향후 다양한 종과 생태계 연구에 활용될 수 있으며, 개념 기반 XAI 가 생태학 분야에서 표준화되는 데 기여할 것으로 기대됩니다.

이 연구는 **"모델이 무엇을 보고 예측하는지"**를 인간이 이해하는 언어 (개념) 로 번역하여, AI 와 생태학의 간극을 해소하는 중요한 걸음을 내디뎠습니다.