Assessing Feature Selection Strategies in INLA: TraditionalStepwise Regression versus Machine Learning

당신이 광활하고 안개가 자욱한 나라의 모든 집마다 몇 명의 사람이 살고 있는지 추측하려는 탐정이라고 상상해 보십시오. 모든 집을 직접 방문할 수는 없으므로, 도로의 형태, 건물의 유형, 집 사이의 거리와 같은 단서들을 바탕으로 영리하게 추측해야 합니다. 이것이 바로 **공간 통계학(spatial statistics)**의 세계입니다. 공간 통계학은 측정하지 못한 장소에 대해 예측하는 동시에, 우리가 얼마나 불확실한지에 대해 정직하게 밝히는 데 전념하는 과학의 한 분야입니다.

까다로운 점은 세상이 매우 복잡하다는 것입니다. 인접한 집들은 종종 서로 유사한 모습(이를 **공간적 자기상관(spatial autocorrelation)**이라고 합니다)을 보이지만, 단서와 인구수 사이를 연결하는 규칙은 마을마다 다를 수 있습니다(이를 **공간적 이질성(spatial heterogeneity)**이라고 합니다). 이를 해결하기 위해 과학자들은 **베이지안 모델(Bayesian models)**을 사용하는데, 이는 마치 매우 체계적인 탐정의 수첩과 같습니다. 이 모델은 단 하나의 추측만을 내놓는 것이 아니라, 가능한 답변의 범위와 각 답변에 대한 신뢰 점수를 함께 제공합니다. 하지만 좋은 답을 얻으려면 반드시 올바른 단서를 선택해야 합니다. 만약 잘못된 단서를 선택한다면, 당신의 수첩이 아무리 훌륭하더라도 당신의 지도는 틀리게 될 것입니다. 수십 년 동안 탐정들은 단서를 선택하기 위해 전통적인 단계별 방식을 사용해 왔지만, 이제는 기존 방식이 놓칠 수 있는 숨겨진 패턴을 찾아내겠다고 약속하는 새로운 세대의 머신러닝(Machine Learning) 도구들이 등장했습니다. 중요한 질문은 이것입니다. 인구 예측이라는 고도의 승부처에서, 구식 탐정이 여전히 승리할 것인가, 아니면 새로운 AI 기반의 탐정이 주도권을 잡을 것인가?

---

위대한 단서 찾기: 구식 방식 vs. 새로운 AI

이 연구에서 연구자 Xiangyue Huo와 Chibuzor Christopher Nnanatu는 두 가지 서로 다른 단서 탐색 전략을 테스트하기로 했습니다. 그들은 수천 개의 작은 구역(조사 구역이라 불림)이 있는 카메룬에서 대규모 실험을 설정했습니다. 그곳에는 인구수를 추정해야 하는 곳이었으며, 건물 수부터 정착지 유형까지 건물 수 등 43가지의 다양한 변수에 이르는 방대한 잠재적 단서 더미가 있었습니다. 하지만 그들은 이 모든 것을 다 사용할 수는 없다는 것을 알고 있었습니다. 너무 많은 단서를 사용하는 것은 마치 맞지 않는 100개의 조각을 추가하여 퍼즐을 풀려는 것과 같으며, 이는 혼란만 가중시킬 뿐입니다.

연구팀은 최적의 단서를 선택하는 두 가지 방법을 비교했습니다:

1. 전통적인 단계적 회귀(Stepwise Regression): 이것은 "믿을 만한 구식" 방법입니다. 이는 엄격하고 선형적인 체크리스트에 따라 단서를 하나씩 확인하고 추가하거나 제거하는 탐정과 같습니다. 단순하고 이해하기 쉽지만, 때로는 복잡한 연결 고리를 놓치거나 두 단서가 너무 비슷할 경우 혼란을 겪을 수 있습니다.
2. 머신러닝(ML) 접근법: 이것은 "AI 탐정"입니다. 그들은 두 가지 강력한 도구를 사용했습니다. BART(Bayesian Additive Regression Trees)는 의사 결정 나무들의 팀과 같아서 복잡하고 비선형적인 패턴을 포착할 수 있으며, SVR(Support Vector Regression)은 고차원 데이터에서 최적의 경계를 찾는 데 탁면합니다. 이 도구들은 관계가 복잡하거나 곡선 형태일 때도 가장 중요한 단서를 찾아내도록 설계되었습니다.

연구진은 이렇게 선택된 단서들을 INLA-SPDE라고 불리는 정교한 수학적 엔진에 입력했습니다. INLA-SPDE를 고속의 초정밀 계산기라고 생각하십시오. 이 엔진은 인구의 3D 지도를 구축하여, 방문한 집들 사이의 빈 공간을 채우고, 지도의 모든 지점에 대해 "신뢰 구간"(불확실성의 척도)을 제공합니다.

결과: AI 탐정이 사건을 해결하다

결과는 명확하고 놀라울 정도로 결정적이었습니다. 연구진이 실제 인구수와 모델의 예측치를 테스트했을 때, 머신러닝으로 선택된 단서로 구축된 모델이 전통적인 단계적 모델을 압도했습니다.

수치가 보여준 결과는 다음과 같습니다:

• 정확도: ML 기반 모델은 **평균 절대 오차(MAE)**를 **13%에서 32%**까지 줄였습니다. 이는 그들의 추측이 실제 숫자와 훨씬 더 가까웠음을 의미합니다.
• 정밀도: 그들은 **평균 제곱근 오차(RMSE)**를 **8%에서 34%**까지 줄였으며, 이는 거대한 실수가 훨씬 적었음을 나타냅니다.
• 편향(Bias): 가장 인상적인 점은, 그들이 **절대 편향(Absolute Bias)**을 **61%에서 87%**까지 줄였다는 것입니다. 편향이란 탐정이 항상 "너무 높게" 혹은 "너무 낮게" 추측하는 것과 같은 체계적인 오류를 말합니다. ML 모델은 훨씬 더 공정하고 균형 잡혀 있었습니다.

연구는 또한 모델이 자신의 답에 대해 얼마나 "확신"하는지도 살펴보았습니다. 연구진은 ML 기반 모델이 단순히 더 잘 맞히는 것뿐만 아니라, 불확실성에 대해서도 더 명확하고 신뢰할 수 있는 지도를 제공한다는 것을 발견했습니다. 어떤 경우에는 전통적인 단계적 방식이 확신에 차 있지만 틀린 지도를 만들어낸 반면, ML 방식은 데이터가 희박한 곳에 대해 더 정직하게 반응했습니다.

왜 구식 방법이 패배했는가?

"그 방법이 그렇게 간단하다면, 왜 실패했을까?"라는 의문이 들 수 있습니다. 논문에 따르면 전통적인 단계적 방식은 다소 경직되어 있습니다. 이 방식은 직선적인 관계를 찾으며, 단서들이 서로 상관관계가 있을 때(두 단서가 같은 것을 말하고 있을 때) 쉽게 혼란을 겪습니다. 또한, 복잡한 패턴을 포착하는 데 필수적임에도 불구하고 중복된다고 판단하여 단서를 버려버릴 수도 있습니다.

반면, 머신러닝 도구(BART 및 SVR)는 전체 그림을 볼 줄 아는 탐정과 같습니다. 이들은 서로 얽혀 있는 단서들을 처리할 수 있으며, 관계가 직선이 아닌 곡선이라는 점도 포착할 수 있습니다. 연구진이 이 "스마트한" 단서들을 전통적인 선형 수학 엔진(INла)에 다시 입력했음에도 불구하고, 핵심은 바로 '올바른 단서'를 골라냈다는 사실이 모든 차이를 만들었습니다. 이는 마치 표준 계산기에 케이크를 만들기 위한 완벽한 재료를 넣어주는 것과 같습니다. 계산기가 기본적이더라도 재료가 완벽하기 때문에 케이크는 맛있게 완성되는 것과 같습니다.

결론

이 연구는 단순히 "AI가 멋지다"라고 말하는 것이 아닙니다. 데이터가 제한적인 상황에서 소지역 인구를 추정할 때, 머신러닝을 통한 단서 선택과 베이지안 공간 모델링을 결합하는 것이 더 우수한 결과를 만든다는 것을 입증합니다.

연구진은 이 새로운 워크플로우가 데이터가 희박한(즉, 시작할 때 실제 측정값이 매우 적은) 상황에서도 작동한다는 것을 발견했습니다. 전통적인 단계적 방식이 그 단순함 덕분에 여전히 유용하긴 하지만, 본 연구는 가장 정확하고 신뢰할 수 있는 인구 추정을 위해서는 머신러닝이 단서를 선택하는 무거운 짐을 맡도록 해야 한다고 제안합니다. 그 결과물인 지도는 더 정확할 뿐만 아니라, 우리가 어디에서 추측하고 있고 어디에서 확신하고 있는지에 대해 훨씬 더 나은 이해를 제공합니다.

결국, 이 논문은 이 "ML-INLA-SPDE" 파이프라인이 견고하고 실용적인 도구이며, 다른 장소나 문제에도 적용될 수 있어 과학자와 계획가들이 더 적은 데이터로 더 높은 확신을 가지고 더 나은 결정을 내릴 수 있도록 도울 수 있다고 결론짓습니다.