🤖 machine learning

Stop Replacing Noise with Noise: Two-Source Reliability Assessment for Label Correction and Sample Reweighting in Label-Noise Learning

이 논문은 관찰된 레이블과 의사 타겟(pseudo-targets)의 평가를 서로 다른 신뢰도 지표를 사용하여 분리함으로써, 하나의 신뢰할 수 없는 신호를 교정하는 것이 다른 신호의 증폭을 의도치 않게 유발하는 노이즈 레이블 학습에서의 흔한 함정을 방지하는 프레임워크인 TRACE를 소개한다.

원저자: Wenxiao Fan, Kan Li

게시일 2026-08-05

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Wenxiao Fan, Kan Li

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

로봇에게 수천 장의 사진을 보여주며 동물을 인식하는 법을 가르치고 있다고 상상해 보세요. 하지만 여기 함정이 있습니다. 심술궂은 그렘린이 일부 라벨에 엉뚱한 이름을 적어 놓았습니다. 고양이 사진에 "개"라고 적혀 있거나, 개 사진에 "고양이"라고 적혀 있을 수도 있습니다. 이것이 바로 컴퓨터 과학의 까다로운 영역인 "노이즈 라벨 학습(noisy-label learning)"의 세계입니다. 기계가 스승이 거짓말을 할 때조차 진실을 배우려고 노력하는 곳이죠.

이를 해결하기 위해 과학자들은 "리퍼비시먼트(refurbishment, 재정비)"라고 불리는 영리한 전략을 개발했습니다. 이것은 마치 시험을 치르는 학생과 같습니다. 만약 학생이 답에 확신이 서지 않는다면, 그냥 추측하는 것이 아니라 자신의 노트(모델의 현재 지식)를 살펴보고 그것이 정답이라고 생각하는지 확인합니다. 기존 방식은 교사의 라벨과 학생의 추측 모두에 대해 단 하나의 "신뢰도 측정기"를 사용했습니다. 만약 측정기가 "교사를 믿지 마라"라고 말하면, 시스템은 자동으로 "좋아, 대신 학생의 추측을 믿자!"라고 결정했습니다. 이는 한쪽 출처가 나쁘면 다른 쪽은 반드시 좋을 것이라고 가정하는 것이었습니다. 하지만 만약 학생의 노트도 틀렸다면 어떻게 될까요? 로봇이 처음에 교사로부터 잘못된 답을 배웠고, 이제는 그 실수를 자신 있게 반복하고 있다면 어떨까요? 이것이 바로 이 논문이 탐구하는 위험성입니다.

이 연구의 저자인 베이징 공과대학교의 셴샤오 판(Wenxiao Fan)과 칸 리(Kan Li)는 이러한 "전부 아니면 전무(all-or-nothing)" 식의 신뢰 전환이 위험하다는 것을 발견했습니다. 그들은 이 문제를 "노이즈를 노이즈로 교체하기(replacing noise with noise)"라고 부릅니다. 거짓말을 하는 목격자를 깨달은 형사가, 곧바로 그 거짓말쟁이 옆에 서서 똑같은 거짓말을 들었던 두 번째 목격자를 믿기로 결정하는 상황을 상상해 보세요. 두 번째 목격자가 반드시 진실을 말하는 것은 아닙니다. 그저 첫 번째 목격자의 말을 그대로 따라 하고 있을 수도 있기 때문입니다.

이 논문은 딥러닝에서 모델이 노이즈가 섞인 라벨 때문에 혼란을 겪을 때, 그 모델의 "더 깊은(deeper)" 층(복잡한 추론을 담당하는 부분)이 뒤섞여 잘못된 것을 믿기 시작한다고 보여줍니다. 그러나 "얕은(shallower)" 층(기본적인 모양과 가장자리를 보는 부분)은 비교적 차분하고 안정적인 상태를 유지합니다. 기존 방식들은 라벨을 수정하기 위해 뒤섞여 버린 깊은 층을 맹목적으로 신뢰했는데, 이는 종종 오류를 더 악화시키곤 했습니다.

이를 해결하기 위해 저자들은 TRACE라는 새로운 프레임워크를 제안합니다. 모든 것에 하나의 신뢰도 측정기를 사용하는 대신, TRACE는 두 개의 분리되고 독립적인 검사 과정을 사용합니다.

교사 검증: 모델이 데이터에 얼마나 잘 부합하는지, 기본 형태(얕은 층)가 얼마나 안정적인지, 그리고 두 개의 서로 다른 "학생" 모델이 정답에 대해 얼마나 일치하는지라는 세 가지 단서를 사용하여 원래의 라벨을 살펴봅니다.
학생의 추측 검증: 모델 자신의 추측을 살펴볼 때는 완전히 다른 단서, 즉 모델이 해당 특정 추측에 대해 얼마나 확신을 가지고 있는지를 사용합니다.

TRACE의 마법은 교사가 틀렸다고 해서 학생이 반드시 옳다고 가정하지 않는다는 점에 있습니다. TRACE는 "교사가 틀렸는가?" 그리고 "학생이 실제로 옳은가?"를 동시에 묻습니다. 만약 교사가 틀렸지만 학생 또한 갈팡질팡하고 있다면, TRACE는 "잠깐, 지금은 둘 다 믿지 말자"라고 말합니다. TRACE는 학생의 추측이 진정으로 확신이 있고 신뢰할 수 있을 때만 그 추측을 사용하여 라벨을 수정합니다.

연구팀은 합성 노이즈(의도적으로 라벨을 망가뜨린 경우)와 인터넷의 사진 같은 실제 세상의 지저ki한 데이터 등 다양한 지저분한 데이터셋을 통해 이 아이디어를 테스트했습니다. 그 결과 TRACE가 기존 방식들을 지속적으로 능가한다는 것을 발견했습니다. 예를 들어, 라벨의 50%가 잘못된 CIFAR-100 데이터셋에서 TRACE는 기존 최선책의 정확도를 약 1.16 퍼센트 포인트 향상시켰습니다. 더 중요한 것은, TRace가 "높은 확신을 가진 오류(high-confidence errors)"—즉, 로봇이 자신이 옳다고 매우 확신하지만 실제로는 틀린 순간들—의 횟수를 줄였다는 점입니다.

요약하자면, 이 논문은 지저분한 데이터로부터 학습할 때 단순히 신뢰할 수 없는 한 소스를 다른 소스로 바꾸어서는 안 된다고 제안합니다. 우리는 각 소스를 독립적으로 확인해야 합니다. 원래의 라벨에 대한 신뢰와 모델 자신의 수정 사항에 대한 신뢰를 분리함으로써, TRACE는 로봇이 자신의 실수에 속지 않고 진실을 배울 수 있도록 돕습니다. 이는 AI의 세계에서, 때로는 거짓을 바로잡는 가장 좋은 방법이 다음 추측이 자동으로 진실일 것이라고 가정하지 않는 것임을 상기시켜 줍니다.

기술 요약: TRACE – 레이블 교정 및 샘플 재가중치를 위한 이원 소스 신뢰도 평가

문제 정의

현재의 노이즈 레이블 학습 방법들, 특히 레이블 리퍼비시먼트(label refurbishment)(예: DivideMix, SELFIE, RoLR)에 기반한 방법들은 "일률적인(one-size-fits-all)" 제어 메커니즘에 의존합니다. 이러한 방법들은 일반적으로 관찰된 레이블과 모델 유도 의사 타겟(pseudo target) 사이를 단일한 샘플별 청결도 점수(cleanliness score)를 사용하여 보간(interpolate)합니다. 이는 **숨겨된 결합(hidden coupling)**을 생성합니다. 즉, 관찰된 레이벨에 대한 신뢰도를 낮추면 자동으로 의사 타겟의 가중치가 높아지게 됩니다.

저자들은 이러한 결합이 "노이즈를 노이즈로 대체하는(replacing noise with noise)" 위험을 초래한다고 주장합니다. 의사 타겟은 동일하게 오염된 감독(supervision)을 통해 학습된 모델에 의해 생성되므로, 모델의 노이즈 섞인 편향을 그대로 물려받을 수 있기 때문입니다. 결과적으로, 관찰된 레이블이 신뢰할 수 없다고 판단될 때, 시스템은 동일하거나 혹은 더 오류가 많은 의사 타겟을 맹목적으로 신뢰하게 될 수 있습니다. CIFAR-100N에 대한 경험적 분석에 따르면, "높은 청결도(high-clean)" 빈에서도 의사 타겟은 99.7%의 확률로 노이즈가 섞인 관찰된 레이블을 따르면서도, 실제로는 74.7%의 샘플에 대해서만 올바른 상태이며 종종 높은 확신도를 보이는 것으로 나타났습니다.

방법론: TRACE 프레임워크

본 논문은 두 가지 감독 소스인 **관찰된 레이블(observed label)**과 **의사 타겟(pseudo target)**의 신뢰도 평가를 분리하는 TRACE(Two-Source Reliability Assessment) 프레임워크를 제안합니다. 단일 스칼라로 두 브랜치를 모두 제어하는 대신, TRACE는 각 브랜치의 가중치를 결정하기 위해 독립적인 점수( $s^{obs}_i$ 및 $s^{pseudo}_i$ )를 계산합니다.

1. 예비 분석 및 동기
저자들은 두 소스를 분리해야 하는 정당성을 부여하기 위해 표현 수준(representation-level)의 진단을 제공합니다:

깊이 의존적 편향(Depth-Dependent Bias): 노이즈가 섞인 감독은 얕은 층보다 심층 네트워크 층을 더 강하게 교란합니다. 그래디언트 민감도와 프로토타입 뒤집힘(mislabeled 샘플이 잘못된 클래스 앵커와 정렬되는 현상)은 노이즈 비율이 높아짐에 따라 심층 층에서 크게 증가합니다.
얕은 층의 안정성(Shallow Stability): 얕은 층의 관계는 노이즈 하에서도 상대적으로 안정적으로 유지되며, 이는 손실 기반 메트릭이 놓치는 관찰된 레이블의 정확성에 대한 정보를 제공합니다.
결론: 관찰된 레이블을 거부하는 것이 곧 딥(deep)하고 노이즈로 오염된 표현으로부터 유도된 의사 타겟을 신뢰해야 함을 의미하지는 않습니다. 반대로, 얕은 구조적 안정성은 의사 타겟을 인증하지 않으면서도 관찰된 레이블의 신뢰도를 정교하게 다듬을 수 있습니다.

2. TRACE 알고리즘
TRACE는 표준 리퍼비시먼트 손실 $y^{rec}_i = \lambda_i \hat{y}_i + (1-\lambda_i)q_i$ 를 다음과 같이 소스별 가중치를 도입하여 수정합니다:
$a_i = s^{obs}_i, \quad b_i = (1 - s^{obs}_i) s^{pseudo}_i$
최종 교정된 타겟은 $\tilde{y}_i = \frac{a_i \hat{y}_i + b_i q_i}{a_i + b_i + \epsilon}$ 가 됩니다.

관찰된 레이블 신뢰도 ( $s^{obs}_i$ ):
이 점수는 관찰된 레이블 $\hat{y}_i$ 를 평가하기 위해 세 가지 신호를 결합합니다:
- 손실 적합도 ( $c^{loss}_i$ ): 표준적인 작은 손실 우선순위(small-loss prior, 클린할 확률).
- 얕은 관계 안정성 ( $c^{str}_i$ ): 네트워크 깊이에 따른 얕은 층의 국소적 관계 안정성을 측정합니다. 높은 안정성은 샘플의 표현이 클린 프로토타입과 일치함을 나타내며, 이는 손실 기반 메트릭이 놓칠 수 있는 부분입니다.
- 예측 일치도 ( $g^{agr}_i$ ): 두 네트워크 간의 일치도를 기반으로 한 일치성 게이트(consistency gate)입니다.
  이들은 가중치 점수로 결합되어 손실 후험 확률(loss posterior)을 정교화합니다.
의사 타겟 신뢰도 ( $s^{pseudo}_i$ ):
이 점수는 의사 타겟 $q_i$ 를 독립적으로 평가합니다. 이는 오직 모델 확신도(의사 타겟의 최대 확률)로부터 유도되며, 낮은 확신도의 예측을 억제하기 위해 거듭제곱 $\rho$ 로 높여집니다. 결정적으로, 낮은 관찰된 레이블 점수( $s^{obs}_i$ )는 교정의 필요성을 만들지만, 의사 브랜치는 $s^{pseudo}_i$ 또한 높을 때만 활성화됩니다.

3. 학습 과정
프레임워크는 브랜치 가중치의 합( $a_i + b_i$ )을 기준으로 각 샘플에 대한 감독 강도 $w_i$ 를 조정합니다. 두 소스 모두 신뢰할 수 없는 샘플은 낮은 가중치를 받으며, 신뢰할 수 있는 관찰된 레이블은 지배적인 위치를 유지합니다.

주요 기여

"노이즈를 노이즈로 대체하는" 위험 식별: 본 논문은 단일 청결도 점수를 사용하여 관찰된 레이블과 의사 타겟을 모두 제어하는 것이 노이즈 전파를 초래한다는 점을 공식적으로 식별하고 입증했습니다. 이는 의사 타겟이 외부의 오라클(oracle)이 아니라 동일한 오염된 학습 과정의 산물이기 때문입니다.
TRACE 프레임워크: 관찰된 레이블과 의사 타겟의 평가를 분리하는 플러그인 방식의 이원 소스 신뢰도 평가 메커니즘을 제안합니다. 이는 관찰된 레이블을 위해 얕은 구조적 안정성을 활용하고, 의사 타겟을 위해 독립적인 확신도 게이팅을 활용합니다.
경험적 검증: 합성 노이즈, 인간 주석 노이즈(CIFAR-N), 대규모 실세계 노이즈(WebVision, Food-101N, Clothing1M) 환경에서 TRACE가 기존의 대표적인 리퍼비시먼트 베이스라인들을 개선함을 광범위한 실험을 통해 보여줍니다.

실험 결과

합성 노이즈 (CIFAR-10/100): TRACE는 대칭(symmetric), 쌍(pair), 인스턴스 의존적(instance-dependent) 노이즈 설정 전반에서 여러 최첨단 베이스라인(DivideMix, RoLR, DISC, ANNE)의 성능을 향상시킵니다. 예를 들어, 40% Pair 노이즈가 있는 CIFAR-100에서 ANNE+TRACE는 ANNE 단독 사용 시 78.4%인 것에 비해 79.3%의 정확도를 달성했습니다.
실세계 노이즈: CIFAR-10N 및 CIFAR-100N에서 TRACE는 일관되게 최고 보고된 결과와 일치하거나 이를 능가합니다. Clothing1M에서 DivideMix+TRACE는 77.6%의 정확도에 도달하여, 베이스라인인 DivideMix(74.8%) 및 다른 플러그인 방식들을 앞질렀습니다.
의사 타겟 품질: 분석 결과, TRACE는 교정에 사용되는 의사 타겟의 정확도를 특히 "낮은 청결도 + 노이즈" 샘플에서 유의미하게 개선합니다. 이는 높은 확신도를 가진 오류(예: CIFAR-100에서 8.93%에서 6.16%로 감소)를 줄이고 캘리브레이션 에러를 낮추어, 선택된 의사 타겟이 단순히 빈도가 높은 것이 아니라 더 신뢰할 수 있음을 보여줍니다.
절제 연구 (Ablation Studies): 분리(decoupling)를 제거하거나(단일 점수로 회귀) 의사 타겟 확신도 게이트( $s^{pseudo}_i$ )를 제거하면 측정 가능한 성능 저하가 발생하며, 이는 독립적 평가의 필요성을 확인시켜 줍니다.

의의 및 주장

본 논문은 TRACE가 현재의 리퍼비시먼트 방법들이 가진 근본적인 불일치를 해결함으로써 노이즈 레이블 학습을 위한 더 안전한 인터페이스를 제공한다고 주장합니다. 관찰된 레이블을 평가하는 증거와 의사 타겟을 평가하는 증거를 분리함으로써, TRACE는 시스템이 하나의 신뢰할 수 없는 신호를 다른 신뢰할 수 없는 신호로 맹목적으로 교체하는 것을 방지합니다. 저자들은 이 접근 방식이 새로운 학습 목적 함수나 새로운 의사 타겟 생성기를 요구하는 것이 아니라, 기존의 리퍼비시먼트 파이프라인을 강화하는 모듈형 신뢰도 필터 역할을 한다는 점을 강조합니다. 이러한 결과는 소스별 신뢰도 평가가 노이즈가 존재하는 환경에서 강건한 학습을 위해 필수적이라는 견해를 뒷받침합니다.