A Principled Approach for Defining and Comparing Variable Importance Measures

현대 데이터의 세계에서 기계는 질병 진단부터 날씨 예측에 이르기까지 우리 삶에 영향을 미치는 예측을 수행하는 과업을 점점 더 많이 맡고 있습니다. 이를 위해 이 기계들은 방대한 양의 정보로부터 학습하며, 입력값과 결과 사이를 연결하는 패턴을 찾기 위해 수많은 세부 사항을 샅샅이 뒤집니다. 종종 이 작업에 사용되는 가장 강력한 도구는 '블랙박스'와 같은 복잡한 알고리즘입니다. 이들은 정확한 결과를 만들어내지만, 그 내부 논리가 너무나 정교하여 창조자들조차 특정 결론에 어떻게 도달했는지 쉽게 설명할 수 없습니다. 이는 단순히 답을 아는 것을 넘어 그 이유를 이해해야 하는 과학자와 의사들에게 딜레마를 안겨줍니다. 그들은 어떤 구체적인 정보가 실제로 결정을 이끌어냈는지, 그리고 어떤 것이 단순한 방해 요소였는지를 알아야 합니다. 각 데이터 조각의 기여도를 측정하려는 이 탐구는 '변수 중요도(variable importance)'를 찾는 것으로 알려져 있습니다.

수년 동안 연구자들은 영리한 지름길이나 경험칙에 의존하여 이 중요도를 측정하는 다양한 방법들을 개발해 왔습니다. 그러나 Statistical Science에 발표된 새로운 연구는 이러한 지름길들이 혼란을 야기하고, 경우에 따라 잘못된 발견을 초래했다고 주장합니다. 연구자인 앙젤 레예로 로보(Angel Reyero Lobo), 피에르 네뷔알(Pierre Neuvial), 베르트랑 티리옹(Bertrand Thirion)은 데이터의 한 조각이 중요하다고 간주되기 위한 의미를 정의하는 새롭고 엄격한 방법을 제안합니다. 그들은 어떤 정보가 중요하다고 간주되려면, 다른 곳에서 찾을 수 없는 고유한 가치를 제공해야 한다고 제 propose합니다. 만약 어떤 데이터가 중복된다면—즉, 그 정보가 이미 다른 데이터 포인트에 의해 커버되고 있다면—그것은 핵심 동력으로 계산되어서는 안 됩니다. 이러한 명확하고 최소한의 규칙을 설정함으로써, 저자들은 단순히 특징(feature)의 순위를 매기는 것과 과학적으로 특징을 선택하는 것 사이의 간극을 메우며, 우리의 데이터 기반 모델로부터 더 신뢰할 수 있고 정직한 통찰을 얻을 수 있는 길을 제시합니다.

문제의 핵심은 우리가 현재 중요도를 판단하는 방식에 있습니다. 기계 학습 모델이 집값을 예측하려고 한다고 상상해 보십시오. 모델은 방의 개수와 총 전용 면적을 살펴볼 수 있습니다. 이 두 사실은 종종 매우 높은 상관관계를 가집니다. 방이 많은 집은 대개 공간도 넓기 때문입니다. 기존의 많은 방식에서는 방의 개수와 전용 면적 모두에 높은 중요도 점수를 부여할 수 있는데, 이는 모델이 좋은 예측을 하기 위해 둘 중 하나만 있어도 충분함에도 불구하고 말입니다. 기계는 첫 번째 변수와 연결되어 있다는 이유만으로 두 번째 변수에 공로를 돌릴 수 있으며, 이는 두 번째 변수가 새로운 지식을 더해주기 때문이 아닙니다. 이는 과학자들이 어떤 요인이 결정적이라고 믿게 만들지만, 실제로는 그것이 단지 다른 것의 그림자에 불과한 경우, 즉 '가짜 양성(false positives)'을 초래할 수 있습니다. 이 연구의 저자들은 게임 이론에 기반한 널리 사용되는 기법인 샤플리 값(Shapley values)을 포함한 인기 있는 방법들이 종종 이 함정에 빠진다고 지적합니다. 그들의 시뮬레이션에서, 이러한 방법들은 실제 변수와 상관관계가 있는 무관한 변수들에게도 상당한 중요성을 할당하여, 연구자들이 무엇이 정말 중요한지에 대해 오해하도록 만들었습니다.

이를 해결하기 위해 저자들은 단순하지만 강력한 원칙을 도입합니다. 즉, 어떤 변수는 다른 모든 정보가 여전히 사용 가능할 때조차 그 변수를 제거했을 때 모델의 예측 능력을 해치게 될 경우에만 중요도가 할당되어야 한다는 것입니다. 이는 이전의 접근 방식보다 더 엄격한 기준입니다. 이것은 구체적인 질문을 던집니다: 이 데이터 조각이 다른 어떤 데이터도 제공할 수 없는 고유한 것을 제공하는가? 만약 대답이 '아니오'라면, 중요도 점수는 0이어야 합니다. 이 접근 방식은 '중요성'의 개념을 이미 강력한 규칙을 가지고 거짓 발견을 피하는 분야인 '변수 선택(variable selection)'의 엄격한 통계적 방법론과 일치시킵니다. 이 규칙을 채택함으로써, 연구자들은 단순히 특징의 순위를 매기는 것이 아니라, 현상의 진정한 독립적 동인을 식별하는 프레임워크를 구축합니다.

논문은 기존 방법들이 이 규칙을 따르는지 아니면 따르지 않는지를 확인하기 위해 기존 방법론의 지형을 깊이 있게 조사합니다. 그들은 표준 샤플리 값과 일부 순열 중요도(permutation importance) 버전을 포함한 많은 인기 기술들이 이 테스트를 통과하지 못한다는 것을 발견했습니다. 이러한 방법들은 종 가운데서도 무관한 변수에 0이 아닌 중요도를 할당하여, 신호와 소음을 구분하기 어렵게 만듭니다. 그러나 연구는 어떤 방법들이 올바르게 이해될 경우 이 원칙을 충족한다는 사실 또한 밝혀냈습니다. 예를 들어, 변수 간의 관계를 신중하게 고려하는 조건부 특징 중요도(Conditional Feature Importance)라는 기술은 중복된 정보를 자연스럽게 걸러냅니다. 저자들은 방법의 계산 단계가 아니라 그 방법의 이론적 목표에 집중함으로써, 어떤 접근 방식은 실제로 변수의 고유한 기여를 찾도록 설계되었고, 어떤 것은 그렇지 않다는 것을 알 수 있다고 보여줍니다.

연구의 상당 부분은 이러한 방법들이 어떻게 계산되는지에 대한 혼란을 푸는 데 할애되었습니다. 과거에 연구자들은 이 도구들을 특정 변수 없이 모델을 다시 학습시키는 '재적합(refit)' 방식인지, 혹은 데이터를 흔드는 '섭동(perturb)' 방식인지에 따라 분류해 왔습니다. 저자들은 서로 다른 계산 방식이 실제로는 동일한 이론적 목표를 지향할 수 있기 때문에 이러한 구분이 오해의 소지가 있다고 주장합니다. 그들은 몇몇 겉보기에 달라 보이는 접근 방식들이, 마치 두 도시 사이의 거리를 자동차로, 비행기로, 혹은 걸어서 측정하는 것처럼, 동일한 근본적 양을 추정하는 서로 다른 방법일 뿐임을 입증합니다. 핵심은 무엇을 측정하려는 것인지(변수의 고유한 예측력)를 먼저 정의한 다음, 그 측정을 위한 최선의 도구를 선택하는 것이지, 도구가 무엇을 측정할지를 결정하게 두는 것이 아닙니다.

자신의 주장을 증명하기 위해 연구자들은 시뮬레이션 데이터와 자전거 대여 기록과 같은 실제 데이터 세트를 사용하여 광범 \한 실험을 수행했습니다. 시뮬레이션에서 그들은 어떤 변수가 중요하고 어떤 것이 노이즈인지 정확히 알고 있는 시나리오를 만들었습니다. 그들은 새로운 원칙을 준수하는 방법들이 노이즈 변수에 정확히 0의 중요성을 할당하는 반면, 결함이 있는 기존 방법들은 노이즈에 높은 점수를 계속해서 부여한다는 것을 발견했습니다. 이 방법들을 실제 자전거 데이터에 적용했을 때도 결과는 일관되었습니다. 예를 들어, 대여 '연도(year)'와 같은 변수는 모델에서 수요를 예측하는 데 실제로 도움이 되지 않았음에도 불구하고, 새로운 규칙을 따르는 방법들에 의해 정확히 0의 중요도 점수를 받았습니다. 반면, 규칙을 위반한 방법들은 '연도' 변수에 오해의 소지가 있는 높은 점수를 부여하여, 그것이 중요하지 않음에도 불구하고 중요하다고 암시했습니다.

연구는 모델을 다루는 모든 이들을 위한 명확한 파이프라인을 제공하며 마무리됩니다. 인기 있는 도구를 맹목적으로 적용하는 대신, 실무자들은 먼저 자신이 정확히 무엇을 알고 싶은지를 정의해야 합니다. 만약 목표가 현상 뒤에 숨겨진 진정한 독립적 원인을 찾는 과학적 발견이라면, 고유한 기여라는 최소한의 규칙을 충족하는 방법을 사용해야 합니다. 저자들은 이 접근 방식이 거짓 발견을 방지할 뿐만 아니라, 연구자들이 자신의 발견에 통계적 보증을 부여할 수 있게 하여 결론의 견고함을 보장한다는 것을 보여줍니다. 복잡한 휴리스틱에서 원칙적인 중요성 정의로 초점을 전환함으로써, 이 연구는 인공지능의 불투명한 블랙박스를 진정한 과학적 이해를 위한 투명한 도구로 바꾸는 로드맵을 제공합니다. 메시지는 명확합니다. 데이터에서 진실을 찾으려면, 우리는 그림자에 공로를 돌리는 것을 멈추고 오직 길을 밝히는 빛만을 측정해야 합니다.