Unmasking Removal-Budget Confounding: A Matched Operating-Point Evaluation Framework for Adaptive Data Cleaning

당신이 가짜 다이아몬드가 몇 개 섞여 있는 거대한 진짜 다이아몬드 자루 속에서 그 가짜들을 찾아내려는 탐정이라고 상상해 보세요. 당신의 임무는 이 자루를 분류하여 진짜 보석은 남기고 가짜는 버리는 것입니다. 하지만 까다로운 점이 있습니다. 자루가 엉망이라는 것이죠. 어떤 진짜 다이아몬드는 약간 탁해 보이고, 어떤 가짜는 놀라울 정도로 반짝거립니다. 당신을 돕기 위해, 특별한 스캐너가 모든 돌에 대해 "위험 점수"를 제공합니다. 점수가 높으면 돌을 버리고, 점수가 낮으면 보관합니다.

AI(인공지지능)의 세계에서도 이것은 정확히 **데이터 클리닝(data cleaning)**에서 일어나는 일입니다. AI 모델은 방대한 데이터(수백만 장의 사진 같은 것)를 읽으며 학습합니다. 하지만 때때로 데이터가 "오염"될 수 있습니다. 예를 들어, 고양이 사진이 실수로 강아지로 라벨링되었거나 이미지가 흐릿할 수 있습니다. 만약 AI가 이러한 실수로부터 배운다면, AI는 혼란에 빠지고 신뢰할 수 없게 됩니다. 이를 해결하기 위해 과학자들은 **적응형 데이터 클리닝(adaptive data cleaning)**을 사용합니다. "50% 이상 흐릿한 것은 버려라"와 같은 경직된 규칙을 사용하는 대신, 이 스마트한 시스템은 스캐너를 사용하여 각 데이터의 위험 점수를 계산하고, 그 위험도에 따라 **파티션(partition)**을 기준으로 결정합니다. 파티션을 여러 개의 빈(bin, 통)이라고 생각하면, 당신은 돌이 얼마나 위험해 보이는지에 따라 "보관" 빈과 "버리기" 빈으로 분류하게 됩니다. 이 빈의 개수를 **그래뉴러리티(granularity, 입도/세밀도)**라고 부릅니다.

과학자들이 던져온 핵심적인 질문은 이것입니다: "어떤 클리닝 방법이 가장 좋은가?" 보통 사람들은 결과만 보고 "와, 방법 A가 방법 B보다 가짜 돌을 더 적게 버렸네!"라고 말하곤 합니다. 하지만 이 논문은 그것이 함정일 수 있다고 지적합니다. 알고 보면, 빈의 개수(그래뉴러리티)를 바꾸는 것은 단순히 가짜를 찾는 능력을 바꾸는 것뿐만 아니라, 당신이 총 몇 개의 돌을 버리기로 결정하는 방식 또한 바꾼다는 것입니다. 만약 당신이 전체적으로 더 적은 돌을 버린다면, 당신은 실수로 가짜를 놓치는 일이 자연스럽게 줄어들겠지만, 동시에 실제로는 가짜를 찾아내는 능력이 더 뛰어나서 그런 것이 아닐 수도 있습니다. 즉, 당신의 스캐너가 가짜를 더 잘 찾아내서가 아니라, 단지 제거하는 돌의 "예산(budget)"이 달라진 것일 수도 있다는 뜻입니다. 이 논문은 우리가 이 "제거 예산"에 의해 속고 있는 것인지, 아니면 정말로 나쁜 데이터를 찾아내는 더 나은 방법을 찾은 것인지 조사합니다.

---

위대한 분류의 함정: "더 낫다"는 것이 사실 "더 적다"는 의미일 수도 있는 이유

이 연구에서 Wei-Hsiang Chen과 동료들이 이끄는 연구진은 매우 구체적인 마술을 가지고 탐정 놀이를 하기로 했습니다. 그들은 사람들이 데이터 클리닝에서 보고 있는 "개선"이 실제인지, 아니면 제거되는 항목의 수로 인한 환상인지 확인하고 싶었습니다.

당신이 돌 자루를 분류하는 두 가지 다른 방법이 있다고 상상해 보세요.

• 방법 A는 단순한 규칙을 사용합니다: "조금이라도 의심스러워 보이면 버려라." 이것은 조밀하지 않은 파티션(coarse partition)(적은 수의 빈)입니다. 이 방법은 많은 돌을 버리기 때문에 거의 모든 가짜를 잡아내지만, 실수로 진짜 다이아몬드도 함께 버리기도 합니다.
• 방법 B는 정교하고 상세한 규칙을 사용합니다: "매우 의심스러운 돌만 버려라." 이것은 세밀한 파티션(fine partition)(많은 수의 빈)입니다. 이 방법은 전체적으로 더 적은 돌을 버립니다. 버리는 것이 적기 때문에, 실수로 진짜를 버리는 일도 자연스럽게 줄어듭니다.

문제는 단순히 최종 점수만 본다면, 방법 B가 훨씬 똑똑해 보인다는 점입니다. 왜냐하면 방법 B는 "오보"(진짜 다이아몬드를 버리는 일)가 적기 때문입니다. 하지만 연구진은 방법 B가 실제로 가짜를 더 잘 찾아내는 것이 아니라, 단지 자신이 버리는 돌의 양에 대해 더 보수적인 것이라고 의심했습니다. 그들은 이 문제를 **제거 예산 혼동(removal-budget confounding)**이라고 부릅니다. 이것은 마치 보안 요원이 건물에서 나가는 사람의 90%를 검사하지 않고 그냥 내보내기로 결정했다는 이유만으로, 도둑을 더 잘 잡는다고 말하는 것과 같습니다. 당연히 무고한 사람을 덜 잡았겠지만, 도둑도 훨씬 많이 놓쳤을 것입니다!

실험: 규칙 맞추기

이 미스터리를 풀기 위해 연구팀은 이러한 클리닝 방법들을 테스트할 새로운 방법을 만들었습니다. 각 방법이 자신만의 "예산"(자신만의 빈 개수와 버릴 양에 대한 규칙)을 사용하게 두는 대신, 그들이 동일한 규칙을 따르도록 강제했습니다. 그들은 매치드 버젯(Matched-Budget) 테스트를 만들었습니다.

작동 방식은 다음과 같습니다:

1. 보통 100개의 돌을 버리는 방법 하나를 가져옵니다.
2. 보통 50개의 돌을 버리는 방법 하나를 가져옵니다.
3. 두 방법 모두에게 정확히 50개의 돌을 버리도록 강제합니다.
4. 그런 다음 질문합니다: "그 특정 50개의 그룹 중에서 누가 더 많은 가짜를 찾아냈는가?"

또한 그들은 매치드 리콜(Matched-Recall) 테스트도 실시했습니다. 여기서는 두 방법이 정확히 같은 수의 가짜를 잡도록 강제한 다음, "그 가짜들을 잡기 위해 누가 더 적은 진짜 다이아몬드를 버렸는가?"라고 물었습니다.

큰 놀라움: 대부분의 "개선"은 사라졌다

연구진이 이 두 가지 테스트를 두 개의 유명한 이미지 데이터셋(CIFAR-10 및 ImageNet-100)에 적용했을 때, 결과는 다소 충격적이었습니다.

연구진은 자신들이 설계한 새로운, 화려한 클리닝 시스템을 테스트했습니다. 이 시스템은 AI가 학습하기 어려운 정도와 같은 추가적인 단서들을 사용하며, "깨끗하지만 어려운" 사진들(약간 탁해 보이는 진짜 다이아몬드들)을 분리해내려고 시도했습니다. 기존의 "네이티브(native)" 방식(각 방법이 자신의 예산을 사용하게 두는 방식)으로 결과를 보았을 때, 이 새로운 시스템은 놀라워 보였습니다. 훨씬 더 많은 가짜를 찾아내고 실수도 훨씬 적게 하는 것처럼 보였습니다.

하지만 새로운 "매치드 버젯(Matched-Budget)" 테스트로 전환했을 때 어떻게 되었을까요? 마법은 사라졌습니다.

새로운 시스템이 기존의 단순한 시스템과 동일한 수의 돌을 버리도록 강제하자, 거대한 성능 차이가 사라졌습니다. 그 "개선"은 거의 전적으로 새로운 시스템이 가짜를 더 잘 찾아내서가 아니라, 단지 버리는 돌의 양에 대해 더 조심스러웠기 때문에 발생한 것이었습니다. 연구진은 오염 수준이 낮거나 중간 정도(데이터의 5%에서 20%가 불량인 경우)일 때, 2개의 빈, 3개의 빈, 또는 4개의 빈을 사용하는 것 사이의 차이는 거의 전적으로 이 "예산" 효과 때문이라는 것을 발견했습니다.

그래뉴러리티(Granularity)가 실제로 중요한 때는 언제인가?

그렇다면 빈의 개수가 전혀 중요하지 않은 걸까요? 논문은 매우 특정한 극단적인 상황에서만 그렇다고 제안합니다.

데이터가 심하게 오염되었을 때(이미지의 40%가 불량인 경우), 이야기는 달라집니다. 이 혼란스러운 환경에서는 단순한 2-빈(2-bin) 방식이 어려움을 겪기 시작했습니다. 이 방식은 너무 많은 진짜 다이아몬드를 버리지 않고서는 가짜를 찾아낼 수 없었습니다. 더 복잡한 방법들(3개 또는 4개의 빈을 사용하는 방법)은 실질적인 우위를 보여주었습니다. 이 방법들은 많은 실수를 저지르지 않으면서도 높은 재현율 구간(거의 모든 나쁜 데이터를 잡아내는 구간)에서 가짜를 찾아낼 수 있었습니다.

연구진은 또한 "깨끗하지만 어려운" 샘플들, 즉 약간 탁해 보이는 진짜 다이아몬드들에 대해서도 살펴보았습니다. 그들은 오염률이 낮을 때 이러한 까다로운 샘플들이 실수의 주된 원인임을 발견했습니다. 하지만 오염이 심해질수록 이러한 샘플들의 중요성은 줄어들었습니다. 데이터의 "난이도"가 주요 문제가 아니라, 나쁜 데이터의 엄청난 양 자체가 문제였습니다.

결론

이 논문의 핵심 교훈은 AI 시스템을 구축하는 모든 이들에게 주는 경고입니다: 최종 점수만 보지 마십시오.

새로운 데이터 클리닝 방법이 더 낫다고 주장한다면, 그것이 단지 더 적은 항목을 버리고 있는 것은 아닌지 확인하십시오. 연구진은 우리가 "네이티브" 평가(모든 방법이 각자의 방식대로 하는 방식)에 의존하는 것을 멈추고, 매치드 오퍼레이팅 포인트(matched operating points)(모두가 동일한 규칙을 따르는 방식)를 사용하기 시작해야 한다고 제안합니다.

그들은 대부분의 일상적인 상황에서 화려한 새로운 방법들이 반드시 더 똑똑한 것은 아니며, 단지 더 보수적일 뿐이라는 것을 증명했습니다. 추가적인 복잡성이 진정으로 빛을 발하는 유일한 때는 데이터가 엉망진창인 상황(높은 오염도)이며, 그 경우에도 그 이득은 마지막 몇 개의 나쁜 데이터를 잡아내는 것에 국한됩니다.

요약하자면, 이 논문은 우리가 적응형 클리닝을 사용하지 말라고 말하는 것이 아닙니다. 대신, 우리가 그것을 판단하는 방식이 더 똑똑해져야 한다고 말합니다. 우리는 단순히 쓰레기 봉투를 아껴 쓰는 데 대해 찬사를 보내는 것이 아니라, 실제로 더 뛰어난 탐정이 되어 있는지 확인해야 합니다.