💻 computer science

XSPLAIN: XAI-enabling Splat-based Prototype Learning for Attribute-aware INterpretability

XSPLAIN은 3D 가우시안 스플래팅(3DGS) 분류 모델의 해석력을 높이기 위해, 분류 성능 저하 없이 특징 채널을 분리하고 대표 사례를 통해 직관적인 설명을 제공하는 최초의 프로토타입 기반 해석 가능 프레임워크입니다.

원저자: Dominik Galus, Julia Farganus, Tymoteusz Zapala, Mikołaj Czachorowski, Piotr Borycki, Przemysław Spurek, Piotr Syga

게시일 2026-02-12

📖 2 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Dominik Galus, Julia Farganus, Tymoteusz Zapala, Mikołaj Czachorowski, Piotr Borycki, Przemysław Spurek, Piotr Syga

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

1. 배경: "말 못 하는 천재 AI"의 문제점

요즘 AI는 3D 공간을 아주 정밀하게 표현하는 **'3D 가우시안 스플래팅(3DGS)'**이라는 기술을 사용합니다. 마치 수만 개의 아주 작은 반짝이는 점(스플랫)들을 뿌려서 물체를 만드는 것과 같죠.

문제는 이 AI가 너무 똑똑해서 물체를 기가 막히게 맞히긴 하는데, **"왜 이게 자동차라고 생각했어?"**라고 물으면 입을 꾹 다물고 있다는 점입니다. 기존의 설명 방식들은 "이 부분 근처가 중요해!"라며 그냥 뿌연 안개(히트맵)처럼 보여주기만 해서, 정작 사람이 보기엔 "그래서 정확히 어디가 왜 중요한데?"라는 의문이 남았습니다.

2. XSPLAIN의 핵심 원리: "이건 저거랑 닮았어!" (프로토타입 학습)

XSPLAIN은 마치 숙련된 감정사처럼 행동합니다. 감정사가 보석을 보고 "이건 결의 모양이 저번에 본 최고급 다이아몬드와 똑같으니 진짜입니다"라고 말하는 것과 비슷합니다.

이 논문의 핵심 전략은 세 단계입니다.

① 1단계: 꼼꼼한 관찰자 만들기 (Voxel Aggregation)

AI에게 물체를 그냥 던져주는 게 아니라, 공간을 격자(Voxel)로 나누어 정리하게 합니다. 마치 레고 블록을 조립할 때 부품들을 구역별로 나누어 정리하는 것과 같습니다. 이렇게 하면 AI가 물체의 '어느 위치'를 보고 있는지 파악하기 쉬워집니다.

② 2단계: 특징별로 분류하기 (Feature Disentanglement)

이게 이 논문의 가장 똑똑한 부분입니다! AI가 가진 복잡한 정보들을 '특징별로 따로따로' 분리합니다.

비유하자면: 요리사가 재료를 한데 섞어놓은 게 아니라, '짠맛 담당', '단맛 담당', '매운맛 담당'으로 각각의 양념통에 따로 담아두는 것과 같습니다. 이렇게 하면 "아, 지금 이 맛은 '매운맛 담당' 양념통 때문에 나는 거구나!"라고 바로 알 수 있죠.

③ 3단계: "이건 저거랑 닮았어"라고 말하기 (Prototype-based)

이제 AI가 판단을 내릴 때, 분리된 양념통(특징)을 꺼내서 이렇게 말합니다.

"지금 이 물체의 '바퀴 부분' 특징이, 내가 예전에 공부했던 '진짜 자동차 바퀴' 샘플과 아주 똑같이 생겼어. 그래서 자동차라고 판단했어!"

단순히 "여기가 중요해"라고 점을 찍어주는 게 아니라, 실제 학습했던 데이터 중 닮은꼴 조각을 직접 보여주며 설명하는 것입니다.

3. 이 기술이 왜 대단한가요? (결과)

정확도는 그대로, 설명은 덤: 보통 AI에게 "설명하기 쉽게 만들어!"라고 하면 AI가 바보가 되어 정답률이 떨어지곤 합니다. 하지만 XSPLAIN은 정답률을 거의 떨어뜨리지 않으면서도 설명 능력만 쏙 올렸습니다.
사람이 훨씬 좋아함: 실제 사람 51명을 대상으로 테스트했더니, 기존 방식보다 XSPLAIN의 설명이 훨씬 직관적이고 믿음직스럽다는 결과가 나왔습니다. (사람들의 선택을 압도적으로 받았습니다!)
정확한 부위 지목: 자동차를 보고 "이건 세단이야"라고 할 때, 단순히 차 전체를 가리키는 게 아니라 "이 차의 낮은 지붕 라인이 세단의 특징이야"라고 정확한 부위를 짚어냅니다.

요약하자면!

XSPLAIN은 3D AI가 물체를 분류할 때, **"이 부분의 모양이 내가 배운 저 물체의 이 부분과 똑같이 생겼기 때문이야!"**라고 **닮은꼴 사진을 보여주며 친절하게 설명해주는 '설명 잘하는 3D 전문가'**를 만드는 기술입니다.

[기술 요약] XSPLAIN: 속성 인지적 해석력을 위한 스플랫 기반 프로토타입 학습

1. 문제 정의 (Problem Statement)

최근 **3D Gaussian Splatting (3DGS)**은 고정밀 3D 재구성 분야에서 표준으로 자리 잡고 있으나, 이를 활용한 분류(Classification) 모델의 해석 가능성(Interpretability) 문제는 여전히 미해결 과제로 남아 있습니다.

기존 방식의 한계: 기존의 3D 해석 방법(예: Point Cloud 대상)은 주로 'Saliency Map(돌출도 지도)'에 의존합니다. 하지만 이러한 방식은 노이즈가 많고, 가우시안 프리미티브(Gaussian primitives)가 가진 부피적 일관성(Volumetric coherence)을 제대로 포착하지 못하며, "왜 이 물체가 이 클래스로 분류되었는가"에 대한 직관적인 근거를 제공하지 못합니다.
목표: 3DGS의 기하학적 구조를 보존하면서, 모델의 결정 과정을 "이 부분은 학습 데이터의 저 부분과 닮았다"라는 식의 프로토타입 기반(Prototype-based) 논리로 설명할 수 있는 프레임워크를 구축하는 것입니다.

2. 핵심 방법론 (Methodology)

XSPLAIN은 모델 설계 단계부터 해석 가능성을 고려한 Ante-hoc(사전 설계형) 접근 방식을 취하며, 크게 세 가지 구성 요소로 이루어집니다.

① Backbone: Voxel-aggregated PointNet

구조: PointNet 구조를 기반으로 하되, 기존의 Global Max-pooling 대신 Voxel Aggregation Module을 도입했습니다.
공간 구조 보존: 입력 공간을 격자(Grid) 형태의 복셀(Voxel)로 나누어 특징을 집계함으로써, 모델이 객체의 국소적(Local) 공간 구조를 유지하면서 특징을 추출하도록 합니다.
밀도 기반 정규화 (Density-aware Regularization): 모델이 노이즈나 고립된 점(Outlier)에 집중하지 않고, 기하학적으로 의미 있는 밀집 영역(Surface 등)에 집중하도록 KL-divergence를 이용한 정규화 항을 추가했습니다.

② Stage-wise Training & Feature Disentanglement (특징 분리)

모델은 두 단계로 나누어 학습됩니다:

1단계 (Backbone Training): 분류 정확도를 극대화하도록 백본 네트워크를 학습시킵니다.
2단계 (Disentanglement Training): 백본은 고정(Freeze)한 상태에서, 학습 가능한 **직교 변환 행렬(Invertible Orthogonal Transformation, $U$ )**을 최적화합니다. 이 과정은 분류 성능(Decision Boundary)을 전혀 해치지 않으면서, 각 특징 채널(Feature Channel)이 서로 다른 의미적 속성(Semantic attributes)을 독립적으로 담도록 '회전'시키는 역할을 합니다.

③ Prototype-based Explanation (프로토타입 기반 설명)

프로토타입 추출: 각 특징 채널에서 가장 높은 활성도를 보이는 학습 데이터 샘플들을 '프로토타입'으로 선정합니다.
설명 생성: 테스트 데이터의 특정 복셀이 활성화되면, 해당 채널의 프로토타입과 비교하여 "이 영역은 학습 데이터의 어떤 부분과 유사하다"라는 시각적 근거를 제시합니다.

3. 주요 기여 (Key Contributions)

최초의 3DGS 전용 해석 프레임워크: 3D Gaussian Splatting 분류 모델을 위해 설계된 최초의 Ante-hoc 프로토타입 기반 XAI 방법론을 제안했습니다.
성능 저하 없는 해석력: 직교 변환(Orthogonal transformation)과 분류기 보상(Classifier compensation) 기법을 통해, 모델의 분류 정확도를 유지하면서도 특징 공간을 해석 가능하게 재구성했습니다.
공간적/의미적 일관성: 복셀 집계와 특징 분리 전략을 통해, 노이즈 섞인 점 단위의 설명이 아닌 객체의 부품(Part) 단위의 깨끗하고 의미 있는 설명을 제공합니다.

4. 실험 결과 (Results)

분류 성능: ShapeSplat, Toys, 3D Real Car 등 다양한 데이터셋에서 기존 PointNet 계열 모델들과 대등한 높은 정확도를 유지했습니다.
사용자 연구 (User Study, N=51): LIME, PointSHAP과 같은 기존 Post-hoc 방식과 비교했을 때, 사용자의 48.4%가 XSPLAIN을 가장 우수한 설명 방식으로 선택했습니다. 이는 통계적으로 매우 유의미한 결과( $p < 0.001$ )입니다.
충실도 (Faithfulness): 모델이 중요하다고 지목한 복셀을 제거했을 때 분류 정확도가 유의미하게 하락(최대 6.82%)함을 확인하여, 설명이 모델의 실제 결정 근거와 일치함을 입증했습니다.
일반화 능력: 3DGS뿐만 아니라 일반적인 Point Cloud 데이터(ShapeNet Core)에서도 객체의 부품(예: 헤드폰의 이어컵, 비행기 날개 등)을 정확히 식별해내는 능력을 보였습니다.

5. 의의 (Significance)

XSPLAIN은 3D AI 모델이 단순히 "무엇"인지 맞추는 것을 넘어, "왜" 그렇게 판단했는지를 인간이 이해할 수 있는 기하학적 근거와 유사 사례(Prototype)를 통해 제시합니다. 이는 자율 주행, 의료 영상 분석, 로봇 공학 등 신뢰성과 투명성이 필수적인 안전 중심(Safety-critical) 도메인에서 3DGS 기술이 채택되는 데 중요한 교두보 역할을 할 것으로 기대됩니다.