📊 statistics

The Mirrored Influence Hypothesis: Efficient Data Influence Estimation by Harnessing Forward Passes

이 논문은 훈련 데이터의 영향력 추정을 특정 테스트 샘플로 훈련했을 때 테스트 예측이 어떻게 변할지를 평가하는 역문제(inverse problem)로 재정의함으로써, 훈련 데이터에는 순전파(forward pass)를, 테스트 데이터에는 그래디언트(gradient)를 활용하여 현저히 더 효율적인 방법을 가능하게 하는 미러드 인플루언스 가설(Mirrored Influence Hypothesis)을 소개한다.

원저자: Myeongseob Ko, Feiyang Kang, Weiyan Shi, Ming Jin, Zhou Yu, Ruoxi Jia

게시일 2026-06-09

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Myeongseob Ko, Feiyang Kang, Weiyan Shi, Ming Jin, Zhou Yu, Ruoxi Jia

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신은 수백만 장의 사진을 학습한 거대한 블랙박스 머신러닝 모델(매우 똑똑한 AI 같은 것)을 가지고 있다고 상상해 보세요. 당신은 이 모델이 생성한 특정 사진을 보고 다음과 같은 의문을 갖게 됩니다. "이 모델이 이 특정 예측을 하기 위해 실제로 공부했던 수백만 장의 사진 중 구체적으로 어떤 사진들이 영향을 미쳤는가?"

이것이 바로 **데이터 영향력(Data Influence)**의 문제입니다. 이 논문은 이 퍼즐을 해결하는 훨씬 더 빠른 새로운 방법을 소개합니다.

기존 방식: "되감기 및 재학습"의 문제

전통적으로, 특정 학습 사진이 얼마나 중요한지 알아내기 위해 연구자들은 매우 비용이 많이 드는 작업을 수행해야 했습니다:

모델을 가져온다.
학습 데이터 세트에서 그 특정 사진 하나를 제거한다.
그 사진 없이 전체 모델을 처음부터 다시 학습시킨다.
새로운 결과와 이전 결과를 비교한다.

만약 학습 사진이 100만 장 있다면, 모든 사진을 확인하기 위해 모델을 100만 번 다시 학습시켜야 합니다. 이것은 마치 케이크에서 달걀 하나를 뺄 때마다 새로운 케이크를 통째로 다시 구워보는 것과 같습니다. 이는 느리고, 비용이 많이 들며, 거대 모델의 경우에는 아예 불가능할 수도 있습니다.

또 다른 방법은 "그래디언트(gradient, 모델을 미세하게 조정하는 방향을 보여주는 수학적 화살표)"를 사용하는 것이었습니다. 하지만 모든 사진에 대해 이 화살표를 계산하는 것은 마라톤 선수의 모든 발걸음을 역추적하여 지도로 만드는 것과 같아서, 엄청난 양의 메모리와 시간이 소요됩니다.

새로운 아이디어: "거울형 영향력 가설(Mirrored Influence Hypothesis)"

이 논문의 저자들은 하나의 가설을 바탕으로 영리한 트릭을 고안해 냈습니다. 영향력은 거울과 같다는 것입니다.

그들은 "학습 사진을 제거하면 테스트 결과가 어떻게 변하는가?"(어려운 질문)라고 묻는 대신, 그 반대의 질문인 "특정 테스트 사진을 학습 세트에 추가하면 모델이 학습 사진들을 바라보는 관점이 어떻게 변하는가?"(쉬운 질문)라고 물을 수 있다는 점을 깨달았습니다.

비유:
당신이 1,000개의 학생 에세이(학습 데이터)를 채점한 교사(모델)라고 상상해 보세요. 이때 한 명의 새로운 학생(테스트 데이터)이 아주 훌륭한 에세이를 들고 들어옵니다.

기존 방식: 이 새로운 학생의 에세이가 얼마나 중요한지 알기 위해, 당신은 새로운 학생의 영향력이 없는 상태에서 1,000개의 에세이를 다시 채점하고, 다시 학생의 영향력을 포함하여 채점해야 합니다.
새로운 방식 (거울형 가설): 저자들은 1,000개의 에세이가 새로운 학생의 성적에 미치는 '중요도'는, 새로운 학생의 에세이가 1,000개의 에세이에 미치는 '중요도'와 같다고 제안합니다.

새로운 방법의 작동 원리: "Forward-INF"

이 "거울" 효과 덕분에, 저자들은 시간을 절약하기 위해 스토리를 뒤집는 Forward-INF라는 방법을 만들었습니다. 작동 방식은 다음과 같습니다:

설정: 당신에게는 거대한 학습 데이터 더미(수백만 개의 항목)와 아주 작은 테스트 데이터 더미(궁금한 점이 있는 한 개 또는 몇 개의 항목)가 있습니다.
트릭: 수백만 개의 학습 항목에 대해 무거운 수학 연산(역전파, backward passes)을 수행하는 대신, 작은 테스트 세트에 대해 무거운 수학 연산을 수행합니다.
- 작은 테스트 데이터를 모델에게 몇 초 동안 "가르칩니다" (모델을 업데이트합니다).
- 그런 다음, 단순히 앞으로 나아가며(forward) 수백만 개의 학습 항목들의 점수가 어떻게 변했는지 살펴봅니다.
빠른 이유:
- 역전파(Backward passes) (힘든 작업)는 오직 작은 테스트 세트에 대해서만 수행됩니다.
- 순전파(Forward passes) (가벼운 작업, 데이터를 단순히 훑어보는 것)는 거대한 학습 세트에 대해 수행됩니다.

메타포:
당신이 100만 권의 책이 있는 도서관에서 방금 새로 산 책 한 권과 가장 유사한 책을 찾으려는 사서라고 상상해 보세요.

기존 방식: 100만 권의 책을 하나하나 가져와서 새 책과 비교하고, 각 책에 대한 상세한 보고서를 작성합니다.
새로운 방식: 단 한 권의 새 책을 집중적으로 읽은 다음, 100만 권의 책의 책등(spine)을 빠르게 훑어보며 어떤 책들이 방금 배운 "분위기"와 일치하는지 찾아냅니다. 힘든 일은 한 권의 책에 집중하고, 나머지 100만 권의 책은 가볍게 처리하는 것입니다.

무엇을 테스트했는가?

이 논문은 단순히 이론만 설명하는 것이 아니라, 이 "거울" 방식을 실제 문제에 적용했습니다:

확산 모델(Diffusion Models): 데이터 세트의 어떤 이미지가 특정 새로운 이미지를 생성하는 데 원인이 되었는지 파악합니다 (저작권 문제 해결에 유용).
데이터 누수(Data Leakage): 테스트 이미지가 실수로 학습 세트에 포함되었는지 잡아냅니다 (마치 학생이 숙제에 시험 답안을 넣어두어 부정행위를 하는 경우를 잡는 것과 같습니다).
암기(Memorization): AI가 일반적인 규칙을 학습한 것인지, 아니면 특정 학습 사례를 단순히 "암기"한 것인지 확인합니다.
잘못된 레이블 데이터(Mislabeled Data): 모델을 가장 혼란스럽게 만드는 사진을 찾아냄으로써, 잘못된 레이블(예: 고양이를 개라고 레이블링함)을 식별합니다.
언어 모델(Language Models): 챗봇이 특정 사실을 어디에서 가져왔는지 추적합니다.

결과

논문에 따르면, 이 새로운 방식은 이전 방식보다 현저히 빠르며(때로는 30~40배 더 빠름), 동일한 정확도를 보이거나 심지어 데이터 누수를 잡아내는 등의 경우에서 더 높은 정확도를 보입니다.

요약하자면, 그들은 하나의 재료를 찾기 위해 "케이크 전체를 다시 굽는" 일을 멈추는 방법을 찾아냈습니다. 대신, 새로운 재료를 맛보고 그것이 전체 케이크의 풍미를 어떻게 바꾸는지 확인함으로써, 작은 재료에는 집중적인 맛을 보고 큰 케이크에는 가벼운 맛을 보는 방식을 구현했습니다.

기술 요약: 미러드 인플루언스 가설 (The Mirrored Influence Hypothesis)

문제 정의

대규모 블랙박스 머신러랑 모델이 보편화되었으나, 개별 학습 데이터 포인트가 모델 예측에 미치는 영향력을 이해하는 것은 신뢰성을 확보하기 위한 중요한 과제로 남아 있다. 데이터 영향력을 추정하는 기존 방법들은 일반적으로 다음 두 가지 범주로 나뉜다:

재학습 기반 (Re-training based): 학습 소스를 제거하고 모델을 다시 학습시켜 예측 변화를 측정한다. 이는 계산 오버헤드가 매우 크고 알고리즘의 확률적 성질로 인해 신호 대 잡음비(signal-to-noise ratio)가 낮다는 단점이 있다.
그래디언트 기반 (Gradient-based): 최종 모델이나 체크포인트의 그래디언트(예: Influence Functions, TracIn)를 통해 영향력을 추정한다. 재학습을 피할 수는 있지만, 이 방법들은 모든 학습 포인트에 대해 역전파(backward pass, 그래디언트 계산)를 수행해야 한다. 이는 특히 Vision Transformer와 같은 대규모 모델에서 추론(forward pass)보다 10배 이상 오래 걸리고 5배 더 많은 메모리를 사용하는 등, 추론에 비해 계산 비용이 많이 들고 메모리 집약적이다.

기존 방법들의 핵심 문제는, 일반적으로 작은 테스트 세트에 대한 영향력을 평가하기 위해 거대한 학습 세트에 대해 비용이 많이 드는 역전파를 수행해야 한다는 효율성 문제에 있다.

방법론: 미러드 인플루언스 가설 (The Mirrored Influence Hypothesis)

본 논문은 미러드 인플루언스 가설을 도입하며, 이는 "학습-테스트(train-to-test)" 영향력과 "테스트-학습(test-to-train)" 영향력 사이의 상호 관계를 상정한다.

가설: 학습 소스 $D_i$ 가 테스트 세트 $D_{test}$ 에 미치는 영향력 (문제 P1)은, 만약 모델이 $D_{test}$ 로 학습되었다면 테스트 세트 $D_{test}$ 가 학습 소스 $D_i$ 의 예측에 미치는 영향력 (문제 P2)과 높은 상관관계를 갖는다.
- P1 (표준): $D_i$ 를 제거하면 $D_{test}$ 에 대한 예측이 어떻게 변하는가?
- P2 (미러드): $D_{test}$ 를 학습 세트에 추가하면 $D_i$ 에 대한 예측이 어떻게 변하는가?
이론적 검증: 저자들은 표준적인 가정(두 번 미분 가능하고 엄격하게 볼록한 손실 함수) 하에서, 기존의 영향력 근사치인 Influence Functions (IF)와 TracIn이 P1과 P2 모두에 대해 자연스럽게 대칭적인 결과를 도출함을 입증한다. 구체적으로, 두 방향에 대한 수학적 정식화는 동일한 헤시안 역행렬(Hessian-inverse)과 그래디언트 항을 포함하며, 곱셈의 순서만 다를 뿐이며, 이는 스칼라 또는 대칭 행렬에 대해 교환 법칙이 성립한다.
경험적 검증: MNIST, FMNIST, CIFAR-10에 대한 로지스틱 회귀(노이즈가 거의 없는 환경) 및 CNN(노이즈가 있고 확률적인 환경) 실험을 통해 두 영향력 방향 사이의 높은 피어슨(Pearson) 및 스피어먼(Spearman) 상관관계를 보여준다. 노이즈가 있는 환경에서는 데이터를 그룹화하는 것(group-to-group influence)이 신호를 증폭시켜 상관관계를 더욱 강화한다.

Forward-INF 알고리즘

가설을 활용하여, 저자들은 계산 부담을 거대한 학습 세트에서 작은 테스트 세트로 전환하는 알고리즘인 Forward-INF를 제안한다.

개념: 모든 학습 포인트에 대한 그래디언트를 계산하여 테스트 세트에 미치는 효과를 추정하는 대신, Forward-INF는 테스트 세트가 학습 포인트에 미치는 효과를 계산한다.
절차:
- 학습 세트 $D_{trn}$ 으로 사전 학습된 모델 $\hat{\theta}$ 에서 시작한다.
- 연속 학습(continual learning)을 통해(구체적으로, 테스트 손실에 대한 그래디언트 상승법을 사용하여 $\tilde{\theta}_{+D_{test}}$ 생성) $\hat{\theta}$ 를 $D_{test}$ 로 업데이트한다. 이 단계는 작은 테스트 세트에 대해서만 역전파를 수행한다.
- 각 학습 포인트 $D_i$ 에 대해, 원래 모델 $\hat{\theta}$ 와 업데이트된 모델 $\tilde{\theta}_{+D_{test}}$ 를 사용하여 **순전파(forward pass)**를 수행한다.
- 영향력 점수를 손실 차이로 계산한다: $L(\tilde{\theta}_{+D_{test}}, D_i) - L(\hat{\theta}, D_i)$ .
효율성 이득: 테스트 샘플의 수( $|D_{test}|$ )는 일반적으로 학습 세트의 수( $|D_{trn}|$ )보다 훨씬 작기 때문에( $|D_{test}| \ll |D_{trn}|$ ), 이 접근 방식은 $N$ 번의 역전파(여기서 $N$ 은 학습 세트 크기)를 $N$ 번의 순전파로 대체한다. 순전파는 훨씬 빠르고 메모리 효율적이다.

주요 결과 및 응용

본 논문은 다섯 가지 시나리오에서 Forward-INF를 평가하여 효능과 상당한 속도 향상을 입증했다:

확산 모델(Diffusion Models)의 데이터 귀속: Stable Diffusion 파인튜닝에서, Forward-INF는 합성된 이미지에 대해 가장 영향력 있는 지점으로 파인튜닝 예시들을 성공적으로 식별해냈으며, 정답(ground-truth) 영향력 포인트를 랭킹하는 데 있어 베이스라인보다 우수한 성능을 보였다.
데이터 누출 탐지 (Data Leakage Detection): CIFAR-10 및 CIFAR-100에서, Forward-INF는 유출된(중복된) 학습 샘플을 탐지하는 데 100%의 top-1 정확도를 달s달성했다. 반면, Influence Functions (IF)와 TracIn은 0~~30%의 정확도를 보였다. Forward-INF는 IF 및 TracIn보다 **30~~40배 더 빨랐다**.
암기 분석 (Memorization Analysis): 이 방법은 재학습 기반 방법에서 발견된 "영향력 있는 쌍(influential pairs, 모델이 학습 포인트를 암기하는 학습-테스트 쌍)"을 재학습의 계산 비용 없이 성공적으로 식별했다.
오라벨링 데이터 탐지 (Mislabeled Data Detection): Forward-INF는 상위 300개 랭킹 포인트 내에서 오라벨링된 샘플의 80% 이상을 탐지했다. 그래디언트 기반 방법(IF, TracIn)은 오라벨링된 포인트의 경우 방향이 틀리더라도 그래디언트 크기가 작을 수 있기 때문에 어려움을 겪었다. Forward-INF는 손실 차이에 의존하며, 이는 오라벨링된 포인트에 대해 더 큰 값을 가진다. 또한 IF(1725초)에 비해 현저히 빨랐다(63초).
언어 모델 행동 추적 (Language Model Behavior Tracing): MT5에서의 사실적 주장(factual assertions) 추적에서, Forward-INF는 MRR(Mean Reciprocal Rank)과 정밀도(Precision) 모두에서 TracIn보다 우수한 성능을 보였다. 결정적으로, Forward-INF는 **4.2배 더 많은 쿼리(per minute)**를 처리했다(1306 vs 307).

의의 및 주장

본 논문은 Forward-INF가 학습 세트와 테스트 세트 크기의 비대칭성을 활용함으로써 기존의 최첨단 방법들에 비해 효율성 측면에서 상당한 개선을 제공한다고 주장한다. 영향력 추정 문제를 "학습-테스트"에서 "테스트-학습"으로 재구성함으로써, 이 방법은 순전파가 역전파보다 계산상 유리하다는 점을 활용한다.

저자들은 이 접근 방식이 데이터 귀속, 누출 탐지, 암기 분석, 행동 추적 등 다양한 작업을 아우르는 통합적이고 효율적인 프레임워크를 제공하며, **애플리케이션에 독립적(application-agnostic)**임을 강조한다. 비록 일반적인 조건 하에서의 가설에 대한 공식적인 이론적 프레임워크 구축은 향후 연구 과제로 남아있음을 인정하지만, 제공된 경험적 및 이론적 증거는 이 가설이 볼록(convex) 및 비볼록(non-convex) 모델, 그리고 결정론적(deterministic) 및 확률적(stochastic) 학습 환경 모두에서 견고하게 유지됨을 시사한다.