🤖 machine learning

Multistage Defer Trees for Hybrid Interpretability: If at First You Can't Succeed, Tree Again

이 논문은 대부분의 샘플을 투명하게 분류하기 위해 희소 결정 트리(sparse decision trees)를 연결하고, 어려운 사례는 후속 트리나 블랙박스 모델로 유예함으로써 해석 가능성을 희생하지 않으면서도 최첨단 정확도를 달나하는 하이브리드 해석 가능성 프레임워크인 다단계 유예 트리(Multistage Defer Trees)를 소개한다.

원저자: Zakk Heile, Hayden McTavish, Margo Seltzer, Cynthia Rudin

게시일 2026-07-01

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Zakk Heile, Hayden McTavish, Margo Seltzer, Cynthia Rudin

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

거대한 문제: "블랙박스" vs "단순한 지도"

당신이 도시를 탐색하려고 한다고 상상해 보세요.

블랙박스: 이것은 모든 지름길, 교통 체증, 공사 구간을 알고 있는 매우 똑똑한 GPS와 같습니다. 목적지까지 매번 완벽하게 데려다주지만(높은 정확도), 왜 그 경로를 선택했는지는 알려주지 않습니다. 그저 "여기서 회전하세요"라고 말할 뿐입니다. 당신은 그 논리를 이해할 수 없습니다.
단순한 트리: 이것은 몇 가지 명확한 규칙이 담긴 기본적인 종이 지도와 같습니다: "빨간 불이 보이면 왼쪽으로 도세요. 공원이 보이면 직진하세요." 이해하기 쉽지만(해석 가능성), 복잡한 교통 상황에서는 길을 잃기 쉽습니다(낮은 정확도).

오랫동안 데이터 과학자들은 선택을 해야 했습니다: 이해할 수 없는 완벽한 경로를 원하는가, 아니면 실패할 수도 있는 단순한 경로를 원하는가?

새로운 솔루션: "전문가 팀" (다단계 이월 트리 - Multistage Defer Trees)

저자들은 이 두 가지의 장점을 모두 취할 수 있는 새로운 운전 방식을 제안합니다. 한 명의 운전자가 모든 결정을 내리는 대신, 그들은 전문가들의 릴레이 팀을 만듭니다.

이것은 마치 병원의 트리아제(응급 환자 분류) 시스템이나 고객 서비스의 상담원 연결 단계와 같습니다:

1단계 (제너럴리스트/일반의): 첫 번째 "의사"(단순한 결정 트리)가 환자(데이터)를 살펴봅니다.
- 사례가 단순하다면(예: 골절), 의사는 즉시 치료하고 환자를 집으로 돌려보냅니다. 이는 규칙이 단순하기 때문에 해석 가능합니다: "골절 = 깁스."
- 사례가 이상하거나 복잡하다면(예: 드물고 혼란스러운 증상 세트), 의사는 이렇게 말합니다. "잘 모르겠군요. 이 건을 다음 전문가에게 **이월(defer)**하겠습니다."
2단계 (스페셜리스트/전문의): 두 번째 의사는 첫 번째 의사가 처리할 수 없었던 어려운 사례들만 받습니다. 이들은 어려운 사례들만 다루기 때문에 약간 더 복잡할 수 있지만, 여전히 단순한 트리입니다.
- 이들은 대부분의 사례를 해결합니다.
- 만약 사례가 여전히 너무 이상해서 이들에게도 어렵다면, 다음 단계로 이월합니다.
최종 단계 (블랙박스): 만약 사례가 너무나도 복잡해서 두 번째 전문가조차 당황할 정도라면, 마침내 이 건은 "블랙박스"(매우 똑똑한 GPS나 AI)로 전달됩니다.

이것이 왜 중요한 일인가

이 논문은 이 방법이 세 가지 주요 문제를 해결한다고 주장합니다.

1. 대부분의 사람들은 단순한 설명을 얻습니다.
이 시스템에서 90%(또는 그 이상)의 데이터는 첫 번째 또는 두 번째 단순 트리에 의해 처리됩니다. 당신은 거의 모든 결정에 대해 명확하고 인간이 읽을 수 있는 규칙을 얻게 됩니다. "블랙박스"는 단순히 설명하는 것이 진정으로 불가능한 아주 적은 양의 데이터만을 위해 사용됩니다.

2. "블랙박스"가 더 작고 단순해집니다.
보통 블랙박스는 모든 것을 처리하기 위해 거대해야 합니다. 하지만 여기서는 단순한 트리들이 해결하지 못한 아주 작고 특정한 그룹만을 처리하면 됩니다.

비유: 도서관을 상상해 보세요. 보통은 어떤 책을 찾든 거대하고 혼란스러운 도서관이 필요합니다. 하지만 단순한 카드 목록이 99%의 책을 "소설"과 "비소설"으로 분류해 준다면, "특별 구역"은 오직 1%의 생소하고 이상한 책들만 보관하면 됩니다. 그 특별 구역은 훨씬 더 작고 관리하기 쉬울 것입니다.

3. 진행하면서 학습합니다.
논문은 이 팀이 함께 학습하는 과정을 설명합니다.

먼저, 블랙박스를 훈련시킵니다.
그다음, 쉬운 것을 잡아내고 나머지를 블랙박스로 넘기는 첫 번째 단순 트리를 훈련시킵니다.
그다음, 첫 번째 트리가 놓친 것을 잡아내는 다음 단순 트리를 훈련시키는 식으로 계속됩니다.
결정적으로, 그들은 "거리(distance)" 기법을 사용합니다. 어떤 데이터 포인트가 "어려운 사례"에 가까워지면, 시스템은 훈련 중에 그 데이터에 더 많은 주의를 기울입니다. 이를 통해 단순한 트리가 "경계선"에 있는 사례들을 정말 잘 처리하여 블랙박스로 넘기지 않도록 보장합니다.

결과

저자들은 다양한 데이터셋(자전거 대여 예측, 신용카드 사기 탐지, 와인 품질 등)을 통해 이를 테스트했습니다. 그 결과는 다음과 같습니다:

이 "트리 팀"은 거대하고 복잡한 블랙박스 모델만큼이나 정확했습니다.
그러나 대부분의 예측에서 시스템은 단 1개 또는 2개의 단순 트리만을 사용했습니다.
즉, 당신은 거의 모든 사람에게 정확도와 투명성을 동시에 제공할 수 있습니다.

요약 비유

법률 사무소를 상상해 보세요:

기존 방식: 당신은 우주의 모든 법을 아는 한 명의 "슈퍼 변호사"를 고용합니다. 그는 모든 사건에서 승리하지만, 당신은 그가 어떻게 논리를 펼쳤는지 알 수 없습니다.
새로운 방식 (MDT): 당신은 주니어 어쏘시에이트(Junior Associates)(단순 트리) 팀을 고용합니다.
- 그들은 명확하고 표준적인 규칙을 사용하여 95%의 사건을 처리합니다.
- 사건이 너무 이상하면, 그들은 시니어 파트너(Senior Partner)(다음 트리)에게 넘깁니다.
- 그래도 여전히 너무 이상하면, 그들은 유명한 전문가(Famous Expert)(블랙박스)에게 넘깁니다.
결과: 당신은 95%의 사건에 대해 명확한 설명을 얻습니다. 유명한 전문가는 정말로 불가능한 5%의 사건에만 집중해야 하며, 그 5%의 사례만 다루기 때문에, 그들의 작업은 모든 것을 다뤄야 할 때보다 훨씬 더 단순해지고 이해하기 쉬워질 수 있습니다.

논문은 우리가 똑똑함과 이해 가능성 사이에서 하나를 선택할 필요가 없다고 결론짓습니다. 단순한 모델이 힘든 일을 도맡게 하고, 복잡한 "마법"은 정말 어려운 문제들을 위해서만 남겨둠으로써 우리는 둘 다 가질 수 있습니다.

기술 요약: 하이브리드 해석 가능성을 위한 다단계 유예 트리 (Multistage Defer Trees)

문제 정의

해석 가능한 머신러닝의 핵심 과제는 최첨단 예측 성능을 유지하면서도 투명성을 유지하는 모델을 구축하는 것이다. 최적화된 희소 결정 트리(sparse decision trees)는 노이즈가 많은 도메인에서 우수한 성능을 보일 수 있지만, 많은 설정에서 상당한 정확도-해석 가능성 간극(accuracy-interpretability gap)이 존재한다. 이러한 경우, 높은 정확도를 위해 복잡한 앙상블(예: Random Forest, XGBoost)이 필요하지만, 이들은 해석 가능성이 결여되어 있다. 기존의 하이브리드 접근 방식은 대부분의 데이터에 대해서는 단순한 모델로 예측하고, 어려운 샘플은 블랙박스 모델로 유예(defer)하는 방식을 사용한다. 그러나 현재의 방법들은 대다수의 샘플을 유예하지 않고도 블랙박스의 정확도를 유지하는 데 어려움을 겪거나, 유예된 서브셋에 대한 해석 가능성을 회복하는 데 실패하는 경우가 많다.

방법론

저자들은 입력값을 일련의 희소 결정 트리로 라우팅한 후 잠재적으로 블랙박스로 유예하도록 하여 복잡도를 적응적으로 할당하는 모델 클래스인 **다단계 유예 트리(Multistage Defer Trees, MDT)**를 소개한다.

핵심 정의

유예 트리 (Defer Tree): 리프 노드가 클래스 예측 또는 defer(유예) 동작으로 라벨링된 이진 트리. 만약 리프가 유예를 수행하면, 예측은 폴백(fallback) 모델 $B$ 로 전달된다.
다단계 유예 트리 (Multistage Defer Tree, MDT): 순서가 정해진 유예 트리들의 시퀀스 $(T_1, \dots, T_K)$ . 입력 $x$ 는 $T_1$ 에 의해 평가된다. 만약 $T_1$ 이 예측하면 프로세스가 종료된다. 만약 $T_1$ 이 유예하면, $x$ 는 $T_2$ 로 전달되며, 이 과정은 계속된다. 모든 트리가 유예할 경우, 최종 폴백 모델 $B$ (블랙박스 또는 희소 모델일 수 있음)가 예측을 수행한다.

학습 알고로리즘

학습 절차는 반복적인 탑다운 교대 최적화(top-down alternating optimization) 전략을 채택한다:

초기화: 전체 데이터셋으로 학습된 폴백 모델 $B$ 로 시작한다.
반복적 단계 학습: 단계 $j$ 를 위해, 이전 단계들에 의해 유예된 데이터의 서브셋에 대해 유예 트리 $T_j$ 를 학습시킨다. 목적 함수는 오분류, 트리 복잡도(분할 횟수), 그리고 현재 폴백 모델로의 유예에 대해 페널티를 부여한다.
폴백 업데이트: $T_j$ $T_{j}$ 를 학습시킨 후, 유예된 세트가 업데이트된다. 폴백 모델 $B$ $B$ 는 **거리 기반 가중치(distance-based weights)**를 사용하여 전체 데이터셋에 대해 재학습된다.
- 유예된 지점은 전체 가중치를 받는다.
- 유예되지 않은 지점은 유예 영역과의 거리(분위수 공간에서 측정됨)에 따라 가중치가 낮아진다. 이를 통해 폴백 모델이 인접한 지점들로부터 "힘을 빌려올(borrow strength)" 수 있게 하여, 유예된 영역에서의 일반화 성능을 높이고 특정 유예 샘플에 대한 과적합을 방지한다.
가용 영역 추적 (Feasible Region Tracking): 알고리즘은 유예 영역(축 정렬 하이퍼직사각형)의 기하학적 교집합을 추적하여, 현재 유예된 영역과 무관한 분할을 걸러냄으로써 효율성을 개선한다.
종료: 유예된 세트가 비게 되거나, 더 이상 줄어들지 않거나, 복잡도 예산(예: 총 리프 수 또는 확장된 단일 트리 크기)을 초 exceed할 때 프로세스가 중단된다.

압축 및 표현

이 논문의 주요 이론적 기여는 MDT의 **규칙 리스트 표현(Rule-List Representation)**이다. 정리 1은 $K$ 단계를 가진 MDT가 각 단계의 비유예 리프가 정확히 하나의 전건(antecedent)을 기여하는 규칙 리스트로 표현될 수 있음을 입증한다. 이는 표준 앙상블(예: Random Forest)에서 유래한 규칙 리스트보다 훨씬 작은 크기의 조밀한 표현을 결과로 가져온다. (표준 앙상블에서는 전건의 수가 모든 트리의 깊이 합에 따라 증가할 수 있다.)

또한 저자들은 MDT를 단일 유예 트리로 압축하는 알고리즘을 제공하며, 여기에는 유예 리프를 재귀적으로 확장하고 특정 유예 데이터 내에서 동일하게 평가될 것이 확실한 분할을 가지치기(pruning)하는 과정이 포함된다.

주요 기여

모델 클래스: 특징 공간의 서로 다른 난이도에 따라 복잡도를 적응적으로 할당하는 다단계 유예 트리(MDT) 도입.
학습 알고리즘: 거리 기반 재가중치를 사용하여 폴백 모델의 일반화 성능을 개선하면서 유예 영역을 점진적으로 좁혀가는 반복적 알고리즘 개발.
압축 기술: MDT를 희소 단일 트리 또는 규칙 리스트 표현으로 압축하는 알고리즘, 그리고 폴백 모델이 트리 앙상블인 경우 유예된 서브셋에 특화하여 압축하는 방법 제공.
이론적 보장: 규칙 리스트 표현 크기에 관한 증명 및 학습 중 목적 함수의 단조 개선(monotonic improvement)에 관한 증명.

실험 결과

저자들은 24개의 데이터셋에 대해 MDT를 최첨단 트리 앙상블(XGBoost, Random Forest), 희소 가법 모델(FIGS), 그리고 기존의 하이브리드 베이스라인(HyRS, CORELS 변형)과 비교 평가하였다.

정확도 대 유예 (Accuracy vs. Deferral): MDT는 복잡한 블랙박스 앙상블(XGBoost)의 성능을 일관되게 따라잡으면서도 매우 적은 비율의 샘플(예: $\le 25\%$ )만을 유예하였다. 많은 데이터셋에서 MDT는 경쟁력 있는 하이브리드 모델보다 현저히 낮은 유예율을 보이면서도, 최상의 블랙박스 방법의 95% 신뢰 구간 내의 정확도를 달성하였다.
해석 가능성: MDT의 해석 가능한 구성 요소(트리 시퀀스)는 블랙박스에 근접한 성능에 도달하기 위해 샘플당 매우 적은 수의 분할 결정(종종 평균 $\le 5.5$ 회 분할)만을 필요로 했다.
압축: 폴백 모델이 트리 앙상블일 때, 유예된 영역에 대해 폴백을 특화하여 압축하는 것이 해당 영역의 정확도를 희생하지 않으면서도 필요한 분할 및 리프의 수를 크게 줄인다는 것을 입여하였다.
베이스라인과의 비교: MDT는 단일 비유예 트리 및 기존 하이브리드 방법(HyRS, FLMM 등)보다 정확도-유예 트레이드오프 측면에서, 특히 단일 트리가 불충분한 영역에서 더 우수한 성능을 보였다.

의의 및 주장

본 논문은 MDT가 **정확도-해석 가능성 경계(accuracy–interpretability frontier)**를 확장한다고 주장한다. 저자들은 최첨단 정확도를 달성하기 위해 복잡한 모델이 필요하더라도, 그 모델이 완전히 불투명할 필요는 없다고 논한다. 대다수의 데이터를 소수의 희소 트리를 통해 라우팅하고, 복잡한 모델에 대한 의존을 특징 공간의 매우 좁게 제한된 영역으로 국한함으로써, MDT는 실무자가 높은 정확도를 유지하면서도 대부분의 결정에 대해 해석 가능성을 확보할 수 있게 한다. 이 방법은 정확도와 해석 가능성 사이의 트레이드오프가 반드시 전역적(global)일 필요는 없음을 보여준다. 즉, 단순한 모델이 명백히 실패하는 곳에만 복잡도를 할당함으로써 로컬하게 관리될 수 있음을 입증한다.