🤖 machine learning

Steering Neural Network Training through Interpretable Constraints Based on Partial Dependence

이 논문은 부분 의존성 제약 조건을 사용하여 신경망 훈련을 유도함으로써 모델의 동작을 도메인 지식과 일치시키는 설명 가이드 학습 접근 방식을 소개하며, 이를 통해 회귀 작업에서 제약이 없는 모델에 비해 향상된 성능, 데이터 효율성 및 해석 가능성을 입증한다.

원저자: Yann Claes, Pierre Geurts, Vân Anh Huynh-Thu

게시일 2026-07-10

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Yann Claes, Pierre Geurts, Vân Anh Huynh-Thu

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신이 아주 똑똑하지만 약간은 장난기 넘치는 로봇에게 날씨를 예측하는 법을 가르치고 있다고 상상해 보세요. 당신은 로봇에게 엄청난 양의 데이터를 주고, 로봇은 온도를 맞히는 법을 배웁니다. 하지만 여기 함정이 있습니다. 로봇은 '블랙박스'입니다. 정답은 맞히지만, 때로는 틀린 이유로 정답을 맞히기도 합니다. 예를 들어, 로봇이 "구름이 끼면 비가 온다"라고 배웠을 수도 있는데, 실제로는 '습도'가 중요한 것이었죠. 단지 구름과 비가 함께 나타나는 것을 아주 많이 보았을 뿐입니다.

이것이 바로 저자인 Yann Claes와 그의 팀이 해결하고자 하는 문제입니다. 그들은 로봇이 단순히 추측하는 것을 멈추고, 인간이 이미 알고 있는 지식을 바탕으로 '이해'에서 시작하도록 만들고 싶어 합니다.

"부분 의존성(Partial Dependence)" 나침반

저자들은 **부분 의존성(PD)**이라는 것을 사용하여 이러한 신경망(로봇)을 조종하는 새로운 방법을 소개합니다. PD를 '한계 효과(marginal effect)' 지도라고 생각하세요. 만약 당신이 "다른 모든 것을 무시했을 때, 오직 습도 때문에 온도가 어떻게 변하는가?"라고 묻는다면, PD 지도는 그 특정 관계를 보여줍니다.

보통 우리는 로봇이 학습을 마친 후에, 제대로 학습했는지 확인하기 위해 이 지도를 살펴봅니다. 하지만 이 논문은 다른 접근 방식을 제안합니다: 설명 유도 학습(Explanation-Guided Learning). 로봇이 학습을 시작한 후에 결과를 보는 대신, 학습을 시작하기 전에 로봇에게 나침반을 쥐여주는 것입니다. 당신은 이렇게 말합니다. "이봐 로봇, 우리는 습도와 온도가 특정한 관계(예: 곡선이나 직선)를 가지고 있다는 걸 알아. 네 내부 지도가 반드시 이 모양이어야 해."

"린스페이스(Linspace)" vs "인-디스트리뷰션(In-Distribution)"의 대결

팀은 로봇에게 이 나침반을 주는 두 가지 방법을 테스트했습니다:

인-디스트리뷰션 제약(In-Distribution Constraints): 이것은 로봇에게 "우리가 데이터를 가진 영역에서만 지도가 올바르게 보이도록 해"라고 말하는 것과 같습니다. 만약 여름 날씨 데이터만 있다면, 로봇은 여름의 관계만을 제대로 지키겠다고 약속하는 것입니다.
린스페이스 제약(Linspace Constraints): 이것은 이 논문의 주인공입니다. 여기서 당신은 로봇에게 "데이터가 없는 곳을 포함하여, 전체적으로 균일하게 간격이 떨어진 격자 전체에 걸쳐 지도가 올바르게 보이도록 해"라고 말합니다. 이것은 마치 핀을 꽂은 지점뿐만 아니라, 전체 지도 위에 매끄럽고 완벽한 곡선을 그리는 것과 같습니다.

주요 발견:
콘크리트 강도, 수질 화학, 심지어 감쇠 진자의 흔들림을 포함한 실험에서, 린스페이스 방식이 압도적인 승자였습니다.

로봇에게 매우 적은 데이터(때로는 단 25개 또는 50개의 샘양)로 학습을 시켰을 때, "인-디스트리뷰션" 로봇은 혼란에 빠져 데이터가 있는 범위를 벗어나면 규칙을 잊어버렸습니다. 하지만 린스페이스 로봇은 어땠을까요? 데이터가 전혀 없는 상황에서도 관계의 형태를 유지했습니다.

예를 들어, 콘크리트 강도 실험에서 그들은 콘크리트가 오래될수록 강도가 특정 로그(logarithmic) 방식으로 성장한다는 것을 알고 있었습니다.

제약이 없는(Unconstrained) 로봇(나침반 없음)과 인-디스트리뷰션 로봇(제한된 나침반)은 모두 학습 범위 밖의 아주 오래된 콘크리트의 강도를 예측할 때 실패했습니다. 그들은 곡선의 형태를 잊어버렸습니다.
반면, 린스페이스 로봇은 그 형태를 기억했습니다. 훈련 중에 본 적 없는 아주 오래된 콘크리트의 강도를 훨씬 더 잘 예측했습니다. 학습할 때는 젊은 콘크리트만 보았음에도 불구하고 말이죠.

그들이 명시적으로 제외하는 것들

저자들은 자신들의 방법이 무엇이 아닌지를 주의 깊게 설명합니다.

전통적인 의미의 "물리 정보 기반(Physics-Informed)"이 아닙니다: 그들은 물리 방정식을 코드에 직접 섞으려는(예: 로봇의 뇌에 물리 공식을 추가하는 것) 다른 기술들과 비교했습니다. 그들은 세상이 복잡하고 결코 단순하게 더해지는 구조가 아닐 때(즉, 각 부분이 단순히 합쳐지는 것이 아닐 때), 이러한 물리 혼합 방식이 실패할 수 있다는 것을 발견했습니다. 그들의 방식은 더 유연합니다. 모델 전체를 단순한 부분들의 합으로 강요하는 것이 아니라, 관계의 '형태'를 올바르게 하도록 강요하기 때문입니다.
마법이 아닙니다: 만약 당신이 잘못된 방향(잘못 지정된 지식)을 가진 나침반을 로봇에게 준다면, 완벽하게 작동하지 않을 것입니다. 하지만 그들은 모호하거나 약간 틀린 나침반(예: 로그 관계 대신 제곱근 관계를 추측하는 경우)이라 할데도, 데이터가 부족할 때는 나침반이 아예 없는 것보다 훨씬 더 낫다는 것을 발견했습니다.

얼마나 확신하는가?

저자들은 자신들의 결과에 매우 확신하고 있지만, 그 확신의 근거는 명확합니다.

그들은 실세계 데이터셋(콘크리트 강도, 수질 pH 등)을 통해 이를 측정했고, 합성 문제(유명한 프리드먼 문제 및 진자 운동)를 통해 이를 시뮬레이션했습니다.
단순히 "좋아 보인다"라고 말하는 데 그치지 않았습니다. 그들은 숫자를 반복해서 계산했습니다(합성 문제에 대해 10번의 훈련 시작, 실제 데이터에 대해 20번의 분할). 그리고 린스페이스 방식이 다른 방식들보다 일관되게 낮은 오차와 더 나은 "지도"(PD 추정치)를 보여준다는 것을 입증했습니다.
그들은 이 방법이 약간 더 많은 계산 시간(로봇이 격자에 대해 끊임없이 지도를 확인해야 하므로)을 소요한다는 점을 명시하면서도, 특히 데이터가 적을 때 정확도를 위해 그만한 가치가 있다고 밝혔습니다.

호기심 많은 십 대를 위한 요약

당신이 산을 그리는 법을 배우고 있다고 상상해 보세요.

제약 없는 로봇은 몇 장의 산 사진을 보고 그 형태를 추측하려고 합니다. 만약 눈 덮인 봉우리를 본 적이 없다면, 평평한 언덕을 그릴 수도 있습니다.
인-디스트리뷰션 로봇은 자신이 가진 사진에 나타난 모습 그대로 산을 그리겠다고 약속합니다. 하지만 본 적 없는 산을 그려달라고 하면, 로봇은 얼어붙거나 이상한 것을 그립니다.
린스페이스 로봇은 다음과 같은 규칙을 부여받습니다: "산은 항상 부드러운 곡선을 그리며 올라갔다가 내려간다." 설령 사진에서 산의 아랫부분만 보았더라도, 이 규칙을 사용하여 정상의 모양을 올바르게 그려냅니다.

이 논문은 우리가 AI에게 (데이터가 있는 곳뿐만 아니라 전체 지도에 걸쳐) 이러한 "부드러운 곡선" 규칙(부분 의존성 제약)을 따르도록 강제함으로써, 데이터가 부족하거나 상황이 변하더라도 길을 잃지 않는 더 똑똑하고 신뢰할 수 있는 모델을 구축할 수 있다고 제안합니다. 이는 로봇이 탐험을 시작하기도 전에 "땅의 법칙"을 존중하도록 가르치는 방법입니다.

기술 요약: 부분 의존성(Partial Dependence)에 기반한 해석 가능한 제약을 통한 신경망 학습 조향

문제 정의

설명 가능한 인공지능(XAI) 분야는 모델의 결정을 해석하기 위한 기술 개발에서 상당한 성장을 이루었습니다. 그러나 설명의 품질을 평가하고, 더 나아가 모델의 설명이 사전 도메인 지식과 일치하도록 모델을 조정하는 데에는 여전히 중요한 격차가 존재합니다. 기존의 "설명 유도 학습(explanation-guided learning, EGL)" 접근 방식은 주로 분류 작업(이미지나 텍스트 포함)에 초점을 맞추고 있으며, 일반적으로 특징 중요도(feature importance)나 특정 입력 영역에 대한 지식을 가정합니다. 또한, 제약을 포함하는 많은 방법론들은 함수의 구조적 특성(예: 볼록성, 단조성)에 집중하며, 설명 그 자체를 제어하는 데에는 미치지 못합니다.

본 연구는 회귀 문제(특히 동역학계 예측 포함)를 위해 신경 네트워크 학습을 조향하여, 특정 특징에 대한 모델의 평균 응답(즉, 부분 의존성)이 특정 함수적 도메인 지식과 일치하도록 하는 문제를 다룹니다. 목표는 데이터 효율성이 높고 분포 외(out-of-distribution, OOD) 변화에 강건하며, 제공된 사전 지식에 충실한 설명을 생성하는 모델을 만드는 것입니다.

방법론

제약으로서의 부분 의존성(Partial Dependence)

저자들은 문제를 $h_\theta(x)$ 라는 미분 가능한 모델을 학습시키되, 특정 특징 $x_k$ 에 대한 이 모델의 부분 의존성(PD)이 알려진 함수 형태와 일치하도록 하는 것으로 정의합니다. 함수 $f$ 의 $x_k$ 에 대한 PD는 나머지 특징들 $x_{-k}$ 의 주변 분포(marginal distribution)에 대한 함수의 기댓값으로 정의됩니다:
$PD_\infty(f, x_k) = \mathbb{E}_{x_{-k}}[f(x_k, x_{-k})]$

저자들은 실제 PD가 파라미터 $\phi$ 로 매개변수화된 대수적 형태 $h^\phi_k(x_k)$ 를 따른다고 가정합니다. 이 형태는 스케일링 및 바이어스 상수를 제외하면 알려진 물리적 관계(예: 로그, 사인 함수)를 나타낼 수 있습니다.

학습 알고리즘

학습 목적 함수는 예측 정확도와 PD 제약 준수 사이의 균형을 맞추는 결합 손실 함수 $L_\lambda$ 를 최소화합니다:
$L_\lambda(h_\theta, h^\phi_k, f; LS) = (1 - \lambda)L_{tot}(h_\theta, f; LS) + \lambda L_{PD}(h_\theta, h^\phi_k; LS)$
여기서:

$L_{tot}$ 는 훈련 세트에 대한 표준 평균 제곱 오차(MSE)입니다.
$L_{PD}$ 는 추정된 모델의 PD와 특정 점 $x_k$ 에서 평가된 타겟 함수 $h^\phi_k$ 사이의 제곱 차이를 측정합니다.
$\lambda \in [0, 1]$ 은 트레이드오프를 조절합니다.

최적화 전략:
저자들은 교대 최적화 절차(Algorithm 1)를 제안합니다:

초기화: $\phi$ 를 초기화하기 위해 정해진 수의 에포크 동안 원시 출력값에 $h^\phi_k$ 를 적합(fit)시킵니다.
교대 단계: 모델 파라미터 $\theta$ 와 사전 파라미터 $\phi$ 를 교대 블록 단위로 업데이트합니다. 매 $S$ 에포크마다, 현재 $\theta$ 에 대해 PD 손실을 최소화하도록 $\phi$ 를 업데이트한 다음, 결합 손실을 최소화하도록 $\theta$ 를 업데이트합니다.
데이터셋 구축: 제약 항을 위한 별도의 데이터셋 $LS_{PD}$ $L S_{P D}$ 를 구축하는 것이 핵심적인 구성 요소입니다. 이 데이터셋은 다음 중 하나가 될 수 있습니다:
- 내부 분포(In-distribution, ID): 훈련 분포 $p(x_k)$ 에서 추출된 샘플들.
- 선형 간격(Linspace, L): 입력 도메인을 덮는 균일하게 간격이 떨어진 값들의 집합(잠재적으로 훈련 분포를 넘어 확장될 수 있음). 저자들은 균일하게 간격이 떨어진 점들에 대해 제약을 가하는 것이 모델이 데이터가 희소한 영역이나 OOD 데이터에 대해서도 일반화하는 데 도움이 된다고 주장합니다.

주요 기여

회귀를 위한 새로운 EGL 프레임워크: 특징 중요성에 초점을 맞춘 분류 중심의 기존 EGL 연구와 달리, 이 방식은 회귀 작업(동역학계 포함)에서 부분 의존성의 함수적 형태를 제약합니다.
Linspace 제약 구성: "linspace 제약"(전체 도메인에 걸쳐 균일하게 간격이 떨어진 점들에 대해 PD를 제약하는 것)을 내부 분포 제약보다 우수한 대안으로 도입하고 경험적으로 검증했습니다. 이 구성은 모델이 훈련 데이터가 희소한 영역에서도 올바른 함수 형태를 학습하도록 강제합니다.
데이터 부족 및 OOD 변화에 대한 강건성: 이 방법은 저데이터 환경(low-data regimes)과 테스트 시점의 데이터가 훈련 분포를 벗어나는 상황에서 특히 효과적임이 입в 증명되었습니다.
물리 기반 ML과의 비교: 저자들은 이 단일 모델 제약 접근 방식을 물리 기반 하이브리드 모델(예: APHYNITY, PD-hybrid)과 비교했습니다. 이들은 본 방법론이 하이브리드 모델이 요구하는 엄격한 가산성(additivity) 가정을 충족하지 못하는 문제에서도 종종 더 나은 예측 성능과 더 충실한 PD 추정치를 제공함을 보여줍니다.

실험 결과

저자들은 합성 문제(Friedman, Product), 실제 데이터셋(Concrete Compressive Strength, PHALK), 그리고 동역학계(Damped Pendulum)를 통해 방법을 평가했습니다.

예측 성능: PD 제약으로 학습된 모델은 제약이 없는 모델보다 일관되게 높은 성능을 보였으며, 특히 훈련 샘플 크기가 작아질수록(예: 50개 샘플) 그 차이가 두드러졌습니다. 많은 경우, 50개의 샘플로 학습된 제약 모델이 300개의 샘플로 학습된 비제약 모델과 대등한 성능을 달est했습니다.
설명 품질: 제약된 모델의 PD 추정치는 비제약 모델보다 사전 지식(그라운드 트루스 또는 근사치)과 훨씬 더 잘 일치했습니다.
Linspace vs. 내부 분포: 모든 실험에서 linspace 제약(균일하게 간격이 떨어진 점들에 대한 제약)이 내부 분포 제약보다 일반적으로 더 우수한 성능을 보였습니다. 이는 특히 테스트 데이터가 훈련 범위를 벗어나는 외삽(extrapolation) 시나리오에서 명확하게 나타났습니다. Linspace 제약은 도메인 변화의 영향을 완화하는 데 도움을 준 반면, 내부 분포 제약은 훈련 범위를 넘어 일반화하는 데 실패하는 경우가 많았습니다.
잘못 지정된 지식에 대한 강건성: 사전 지식이 불완전하더라도(예: 로그 관계 대신 제곱근 관계를 가정하거나, 잘못된 주파수를 가진 푸리에 급수를 사용하는 경우), linspace 제약 모델은 강건함을 유지했습니다. 이 모델들은 비제약 모델보다 우수한 성능을 보이는 경우가 많았으며, 외삽 설정에서 내부 분포 제약 모델보다 실제 밑바닥 함수에 더 가까운 PD 형태를 생성했습니다.
동역학계: 이 방법은 뉴럴 ODE(Neural ODEs)를 이용한 동역학계 예측으로 성공적으로 확장되었으며, 특히 초기 상태가 분포 외(OOD)인 경우 궤적 예측과 PD 일치도가 향상됨을 보여주었습니다.

의의 및 주장

본 논문은 부분 의존성 제약을 통해 신경망을 조향하는 것이 회귀를 위한 강력한 설명 유도 학습(explanation-guided learning) 메커니즘이라고 주장합니다. 주요 의의는 다음과 같습니다:

데이터 효율성 개선: 기능적 사전 지식을 활용함으로써 매우 적은 수의 훈련 샘플로도 높은 예측 정확도를 달성합니다.
일반화 능력 향욱: 데이터가 밀집된 영역뿐만 아니라 전체 입력 도메인에 걸쳐 올바른 함수 형태를 강제함으로써 OOD 데이터에 더 잘 일반화되는 모델을 생성합니다.
충실한 설명 보장: 모델의 해석 가능성(PD 플롯을 통해)이 도메인 전문가의 지식과 일치하도록 보장하여, 모델이 "틀린 이유"로 "맞는" 예측을 학습하는 것을 방지합니다.

저자들은 부분 의산성을 추정하기 위해 여러 특징 조합에 대한 모델 평가가 필요하므로 계산 비용이 더 발생하지만, 일반화와 해석 가능성이 중요한 저데이터 환경에서는 충분히 감수할 만한 트레이드오프라고 언급했습니다. 결론적으로, 이 접근 방식은 명시적인 가산적 분해(additive decomposition)를 요구하지 않으므로 물리 기반 하이브리드 모델에 대한 보다 일반적인 대안을 제공합니다.