기술 요약: FRInGe – 피셔 - 라오 기하학을 활용한 분포 공간 통합 기울기

1. 문제 제기

통합 기울기 (Integrated Gradients, IG) 와 같은 기울기 기반 귀속 (attribution) 방법은 모델 충실도와 확장성으로 인해 딥 신경망 예측 설명에 널리 사용됩니다. 그러나 표준 IG 는 설명의 안정성과 해석 가능성에 영향을 미치는 몇 가지 실용적 한계를 겪고 있습니다:

• 기준점 민감성: 입력 공간의 기준점 (예: 제로 이미지 또는 노이즈) 선택은 휴리스틱하며, 질적으로 다른 설명을 초래할 수 있습니다.
• 경로 인공물: 입력 공간의 표준 직선 보간은 종종 기울기가 조건이 나쁘거나, 인공물이 지배적이거나, 포화된 영역을 통과합니다.
• 포화: 표준 경로를 따라 모델 출력은 초기에 급격히 변한 후 평탄해져, 유익한 기울기를 좁은 구간으로 집중시키고 후기 단계에서는 노이즈를 기여합니다.
• 이산화 오차: 유한 리만 합으로 경로 적분을 근사할 때 기울기가 급격히 변하면 상당한 오차가 발생할 수 있습니다.

이러한 문제들을 해결하려는 기존 시도들은 종종 입력 공간에서 직접 궤적을 설계하거나 데이터 매니폴드를 정의하기 위해 명시적 생성 모델에 의존하는데, 이는 귀속의 품질을 생성 모델의 품질과 혼동하게 만들 수 있습니다.

2. 방법론: FRInGe

저자들은 **FRInGe(Fisher–Rao Integrated Gradients)**를 제안합니다. 이 방법은 입력 공간이 아닌 예측 분포 공간 내에서 기준점과 보간 일정을 재정의합니다. 이 방법은 세 가지 핵심 구성 요소로 이루어집니다:

A. 예측 분포 기준점

휴리스틱한 입력 기준점 대신, FRInGe 는 예측 분포 공간에서 기준을 정의합니다. 이는 클래스에 대한 균일 분포를 나타내는 **최대 엔트로피 기준 ($q^\star = \frac{1}{C}\mathbf{1}$)**을 채택합니다. 이는 모델 출력 수준에서 직접 "정보 없음"을 구현하여 데이터 유형별 기준점 설계에 대한 의존성을 제거합니다.

B. 피셔 - 라오 측지선 일정

모델의 예측 분포 $p(x)$와 최대 엔트로피 기준 $q^\star$ 사이의 보간은 확률 심플렉스 상의 피셔 - 라오 측지선으로 정의됩니다.

• 제곱근 임베딩 $\psi(p) = \sqrt{p}$를 사용하여 심플렉스를 단위 구의 양의 사분면으로 매핑합니다.
• 측지선은 이 임베딩 공간에서 구형 선형 보간 (slerp) 을 통해 계산되어, 경로가 예측 분포의 고유 기하학을 따르도록 보장합니다.

C. 풀백 메트릭을 통한 입력 공간 궤적

이 분포 공간 궤적을 입력 공간에서 실현하기 위해 FRInGe 는 풀백 피셔 메트릭을 사용합니다.

• 기하 인식 단계: 이 방법은 현재 예측과 측지선상의 다음 웨이포인트 사이의 구형 정렬 손실을 최소화합니다. 하강 방향은 풀백 피셔 메트릭 $G(x) = J_F(x)^\top S(x) J_F(x)$를 사용하여 계산되며, 여기서 $J_F$는 로그이트의 야코비안이고 $S(x)$는 소프트맥스 분포의 피셔 정보 행렬입니다.
• 신뢰 영역 안정화: 수치적 안정성을 보장하고 비지각적 입력 변위를 방지하기 위해, 이 방법은 이중 신뢰 영역 규칙을 사용합니다:
  1. KL 제어: 국소 KL 발산 (피셔 노름으로 근사) 에 기반하여 단계 크기를 제한하여 예측 공간에서의 일정한 진행을 보장합니다.
  2. 유클리드 캡: 예측 기하학이 평탄한 영역에서의 불안정성을 방지하기 위해 최대 유클리드 단계 크기를 부과합니다.
• 공간 정규화: 적대적 고주파 변동을 억제하기 위해, 업데이트 방향을 구하는 선형 시스템에 공간 평활 연산자 (예: 이산 라플라시안) 가 추가됩니다.

D. 귀속 계산

특성 귀속은 실현된 입력 공간 궤적을 따라 입력 기울기를 적분하여 얻습니다. 궤적이 입력에서 기준점으로 이동하므로, 누적 적분은 표준 기준점 - 입력 방향을 복원하기 위해 부호가 반전됩니다. 이 방법은 궤적의 실현된 종점에 대해 완전성을 만족합니다.

3. 주요 기여

1. 분포 공간 정의: FRInGe 는 최대 엔트로피 기준을 사용하여 예측 분포 공간 내에서 IG 기준과 보간 일정을 모두 정의한 최초의 귀속 방법입니다.
2. 고유 기하학: 입력 공간의 임의 유클리드 직선을 피하고 피셔 - 라오 측지선으로 적분 일정을 구성합니다.
3. 풀백 실현: 명시적 생성 모델 없이 데이터 매니폴드를 모델 인식 방향장으로 유도하기 위해 풀백 피셔 메트릭을 통해 해당 입력 공간 궤적을 유도합니다.
4. 안정화 메커니즘: KL 기반 신뢰 영역과 유클리드 캡의 통합은 경로의 안정적인 수치적 실현을 보장하여 포화 및 이산화 오차 문제를 해결합니다.

4. 실험 결과

저자들은 6 가지 아키텍처 (Inception-v3, ResNet-18/50/101/152, VGG-19) 에 걸쳐 1,000 개의 ImageNet 검증 이미지를 사용하여 FRInGe 를 평가했습니다.

• 보정 지표 (MAS): FRInGe 는 크기 정렬 점수 (Magnitude Aligned Scoring, MAS) 지표 (삽입 및 삭제 모두) 에서 가장 큰 개선을 보여줍니다. 이는 FRInGe 귀속이 모델의 신뢰도 역학에 더 잘 보정되어 있음을 의미하며, 누적된 귀속 질량은 모델 신뢰도의 실제 변화를 밀접하게 추적합니다.
• 변동 지표: FRInGe 는 표준 변동 기반 AUC(삽입/삭제) 및 불신실도 (Infidelity) 지표에서 경쟁력을 유지하지만, 모든 기준을 균일하게 압도하지는 않습니다 (예: SmoothGrad 는 때때로 삭제 AUC 에서 더 나은 성능을 보입니다).
• 기하학적 기준점과의 비교: FRInGe 는 MAS 및 불신실도 측면에서 GGIG 및 GeoIG 와 같은 다른 기하 인식 방법들을 능가하며, 이는 그 이득이 경로 설계뿐만 아니라 예측 공간 스케줄링과 풀백 기하학의 결합에서 비롯됨을 시사합니다.
• 절차 연구: 풀백 기하학 (유클리드 추적) 이나 공간 정규화를 제거하면 더 노이즈가 많고 고주파인 궤적과 낮은 보정 점수로 이어져, 최적의 성능을 위해 세 가지 구성 요소 (예측 기준, 피셔 기하학, 정규화) 가 모두 필요함을 확인시켜 줍니다.
• 계산 비용: FRInGe 는 각 단계에서 켤레 기울기 해를 필요로 하므로 표준 IG 보다 계산적으로 더 비싸며, 아키텍처에 따라 실행 시간이 4 배에서 22 배까지 느립니다. 그러나 저자들은 오프라인 분석 및 감사에는 이것이 허용 가능하다고 지적합니다.

5. 중요성 및 주장

이 논문은 FRInGe 가 "진행"의 정의를 픽셀 공간 거리에서 모델의 예측 상태 변화로 전환함으로써 유클리드 통합 기울기에 대한 원칙적인 대안을 제공한다고 주장합니다.

• 모델 역학과의 정렬: 주요 이점은 귀속 크기를 모델의 내부 신뢰도 역학과 정렬시키는 것입니다. 피셔 - 라오 측지선을 따름으로써, 이 방법은 직선 경로에서 흔히 발생하는 포화 및 인공물을 피하여 모델이 실제로 정보를 처리하는 방식에 더 충실한 설명을 생성합니다.
• 모달리티 독립성: 분포 공간 (최대 엔트로피) 에서 기준을 정의함으로써, 수동으로 설계된 데이터 모달리티별 기준점의 필요성을 줄입니다.
• 한계: 저자들은 계산 오버헤드를 주요 실용적 한계로 인정합니다. 향후 연구는 이 방법을 가속화하기 위해 역 풀백 메트릭의 더 저렴한 구조적 근사 또는 상계 예측기에 초점을 맞출 수 있다고 제안합니다.

이 논문은 FRInGe 가 피셔 - 라오 기하학을 통해 모델의 자체 예측 역학을 따르는 설명이 임의 유클리드 경로를 따르는 설명보다 더 높은 품질의 더 잘 보정된 귀속을 산출함을 성공적으로 입증했다고 결론지었습니다.