Two-Stage Estimation of Population Abundance with Robust Inference under Interacting Survey Protocols

당신은 숲속에 사는 보이지 않는 생명체들의 비밀스러운 개체 수를 세려는 탐정이라고 상상해 보세요. 당신은 그들을 한 번에 다 볼 수 없기 때문에, 그들을 찾아내기 위해 특별한 도구들을 사용해야 합니다. 때로는 모든 것을 볼 수 있는 고성능 드론처럼 매우 비싸고 정밀한 도구를 사용하기도 합니다. 다른 때는 몇몇 생명체를 놓칠 수도 있는 손전등처럼 더 저렴하고 단순한 도구를 사용하기도 하죠. 생태학(생물이 세상과 어떻게 상호작용하는지를 연구하는 학문)에서의 큰 문제는 이러한 도구들이 완벽하지 않다는 점입니다. 이 도구들은 종종 동물을 놓치거나, 심지어 당신이 관찰하는 동안 그들을 겁주어 쫓아버리거나 해를 끼치기도 합니다. 만약 당신이 저렴한 도구를 먼저 사용한 다음 화려한 도구를 사용한다면, 저렴한 도구가 이미 증거를 훼손해 놓았기 때문에 화려한 도구의 결과가 이상하게 보일 수 있습니다. 과학자들에게는 이러한 불완전하고 엉망인 단서들을 결합하여, 도구 자체에 속지 않고 진정한 개체 수를 파악할 수 있는 방법이 필요합니다.

이 논문은 까다로운 퍼즐을 다룹니다: 당신의 조사 방법들이 서로 간섭할 때 어떤 일이 벌어지는가? 일본 대학 연구진들로 구성된 저자들은 "저비용" 방식(예: 다람쥐의 털을 빗질하는 것) 다음에 "고비용" 방식(예: 털을 미는 것)이 이어지는 특정 시나리오를 조사했습니다. 그들은 첫 번째 방식이 단순히 기생충을 놓치는 것뿐만 아니라, 두 번째 방식이 관찰할 기회를 갖기도 전에 실제로 일부를 손상시키거나 제거한다는 사실을 발견했습니다. 이는 놓친 탐지와 손실된 샘플이라는 이중의 오류를 만들어냅니다: 이를 해결하기 위해 그들은 새로운 "2단계" 수학 레시피를 발명했습니다. 문제를 한꺼번에 추측하는 대신, 문제를 두 단계로 나누었습니다. 첫째, 빗질에 의해 얼마나 많은 기생충이 파괴되었을 가능성이 높은지 계산합니다. 둘째, 이 숫자를 사용하여 빗질 방식의 탐지율을 수정합니다. 그들은 컴퓨터 시뮬레이션과 침입종 다람쥐의 실제 데이터를 통해 이 아이디어를 테스트했으며, 그들의 새로운 방식이 (결과가 왜곡될 수 있는) 기존의 인기 있는 "일괄(all-in-one)" 모델보다 훨씬 더 정직한 불확실성의 모습을 보여준다는 것을 발견했습니다.

탐정의 딜레마: 도구들이 서로 싸울 때

야생 동물의 수를 세는 것은 어렵습니다. 연못에 있는 모든 물고기를 쫓아내거나 수풀 아래 숨은 물고치를 놓치지 않고 세려고 노력한다고 상상해 보세요. 생태학자들은 종종 **N-혼합 모델(N-mixture models)**을 사용하는데, 이는 당신이 실제로 본 숫자를 바탕으로 실제 동물 수(N)를 추측하려는 정교한 통계 도구입니다. 이 모델들은 만약 당신이 동물을 놓쳤다면, 그것은 단지 운이 나빴기 때문이지 동물이 숨어 있거나 당신의 도구가 고장 났기 때문이 아니라고 가정합니다.

하지만 만약 당신의 도구들이 서로 싸우고 있다면 어떨까요?

이 논문의 저자들은 현실 세계에서 발생하는 이상한 문제를 목격했습니다. 그들은 팔라스 다람쥐(일본 일부 지역을 침입한 종류)와 그곳에 사는 작은 기생충들을 연구하고 있었습니다. 기생충을 세기 위해 그들은 두 가지 방법을 사용했습니다:

1. 빗질: 몇 분 동안 다람쥐의 털을 빗으로 빗는 것입니다. 이것은 저렴하고 쉽지만, 완벽하지는 않습니다.
2. 제모: 다람쥐의 털을 완전히 밀어버린 후 털 사이를 들여다보는 것입니다. 이것은 비용이 많이 들고 시간이 오래 걸리지만, 이론적으로는 모든 것을 잡아낼 수 있어야 합니다.

계획은 간단했습니다: 빗질을 먼저 사용하여 빠른 숫자를 얻은 다음, 털을 밀어서 빗질이 놓친 것을 확인하는 것이었습니다. 두 방법을 비교함으로써 빗질이 얼마나 효과적이었는지 알아낼 수 있었습니다. 하지만 반전이 있었습니다: 빗질이 증거를 파괴하고 있었던 것입니다.

다람쥐를 빗질할 때, 그들은 단순히 기생충을 놓친 것이 아니라, 실제로 일부를 떨어뜨리거나 너무 심하게 손상시켜서 나중에 제모 방식으로는 찾을 수 없게 만들었습니다. 그것은 마치 빗자루로 유리 조각을 쓸어 담으며 숫자를 세려고 하는데, 알고 보니 빗자루가 숫자를 세기도 전에 유리 조각 절반을 깨뜨려 버린 것과 같습니다. 만약 당신이 단순히 "빗질 횟수"를 "제모 횟수"와 비교한다면, 잘못된 답을 얻게 됩니다. 왜냐하면 "제모 횟수"가 이미 너무 낮아졌기 때문입니다. 수학은 혼란에 빠지고, 최종적인 개체 수 추정치는 엉망이 됩니다.

2단계 솔루션: 끊어진 사슬을 고치기

저자들은 기존의 수학 방식( "결합 계층 모델"이라 불리는)이 퍼즐 전체를 한 번에 풀려고 한다는 점을 깨달았습니다. 그것은 마치 빗자루를 고치고, 바닥을 쓸고, 유리 조각을 세는 일을 하나의 거대하고 엉킨 매듭처럼 한꺼번에 해결하려는 것과 같았습니다. 그 결과는 어땠을까요? 수학은 혼란에 빠졌고, 숫자는 편향되었으며(skewed), 과학자들은 틀린 답에 대해 지나치게 확신을 가졌습니다.

그래서 저자들은 2단계 추정(Two-Stage Estimation) 프레임워크를 제안했습니다. 이것은 모두가 원을 그리며 달리는 것이 아니라, 바통을 신중하게 전달하는 이어달리기와 같습니다.

1단계: "만약에" 예측
먼저, 그들은 오직 제모만 한 다람쥐들(대조군)과 빗질 후에 제모를 한 다람쥐들(처치군)을 살펴보았습니다. 그들은 이 데이터를 사용하여 다음과 같은 구체적인 질문에 답했습니다: "빗질 과정이 얼마나 많은 기생충을 파괴했는가?"
그들은 "반사실적(counterfactual)" 예측을 만들었습니다. 이것은 "만약 빗질이 아무것도 손상시키지 않았다면, 기생충이 원래 얼마나 있었어야 했는가?"라는 질문에 답하는 세련된 방식입니다. 이 단계는 조사 방법 자체에 의한 손상을 분리해 냅니다.

2단계: 교정
빗질에 의해 얼마나 많은 기생충이 손실되었는지 알게 된 후, 그들은 그 숫자를 사용하여 두 번째 단계의 수학을 수정했습니다. 그들은 실제 관찰된 "손상된" 숫자가 아니라, 이 "손상되지 않은" 숫자를 바탕으로 빗질 방식의 탐지 확률을 계산했습니다.

자신들을 속이지 않기 위해, 그들은 특별한 종류의 오차 범위( **강건한 분산 추정치(robust variance estimator)**라고 불리는 것)를 발명했습니다. 보통 1단계에서 얻은 숫자를 2단계에서 사용할 때, 사람들은 1단계 자체에 실수가 있었다는 사실을 잊곤 합니다. 이 새로운 수학 도구는 그 실수들이 계속 이어지도록 하여, 최종 답변이 지나치게 확신에 차지 않도록 만듭니다. 이것은 마치 "우리는 답이 X라고 생각하지만, 첫 번째 추측이 완벽하지 않았기 때문에 답은 그보다 높거나 낮을 수 있습니다"라고 말하며 계산에 안전 마진을 추가하는 것과 같습니다.

숫자가 말해주는 것: 시뮬레이션과 실제 다람쥐

팀은 단순히 추측만 한 것이 아니라, 두 가지 방식으로 아이디어를 테스트했습니다.

1. 컴퓨터 시뮬레이션
그들은 기생충의 정확한 숫자를 알고 있는 가상의 세계를 컴퓨터 속에 만들었습니다. 그들은 다양한 설정을 사용하여 시뮬레이션을 1,000번 실행했습니다.

• 기존 방식 (베이지안 결합 모델): 컴퓨터가 정답을 알고 있음에도 불구하고, 기존 모델은 계속 틀린 답을 냈습니다. 모델은 편향되어 있었는데, 즉 숫자를 지속적으로 과대평가하거나 과소평가했습니다. 더 심각한 것은, 모델의 "신뢰 구간(confidence intervals, 답이 존재할 것이라고 믿는 범위)"이 너무 좁았다는 점입니다. 그것은 마치 탐정이 "도둑은 이 작은 옷장에 있을 확률이 95%입니다"라고 말하는데, 실제로는 도둑이 집 전체에 있는 것과 같았습니다. 많은 경우, 실제 정답은 모델이 95% 확신한다고 주장한 범위 안에 들어있지도 않았습니다.
• 새로운 방식 (2단계 방식): 저자들의 방법은 평균적으로 정답을 맞혔습니다. 더 중요한 것은, 그들의 신뢰 구간이 정직했다는 점입니다. 그들이 95% 확신한다고 말했을 때, 실제 정답은 실제로 그 범위 안에 95%의 확률로 들어있었습니다. 심지어 데이터를 의도적으로 "엉망(messy/over-dispersed)"으로 만들었을 때도, 새로운 방식은 신뢰할 수 있었던 반면 기존 방식은 무너졌습니다.

2. 실제 다람쥐 데이터
그들은 일본의 다람쥐 180마리(대조군 60마리, 처치군 120마리)로부터 얻은 실제 데이터에 이 방법을 적용했습니다.

• 손상 정도: 그들은 빗질 방식이 기생충의 약 **30%**를 파괴한다는 것을 발견했습니다. 빗질 후 기생충의 "생존 확률"은 약 0.7이었습니다 (즉, 70%는 생존하고 30%는 손실됨).
• 비교: 그들은 새로운 방식을 기존의 "일괄(all-in-one)" 모델과 비교했습니다. 기존 모델은 빗질이 얼마나 잘 작동하는지에 대해 약간 지나치게 낙관적이었습니다. 하지만 가장 큰 차이점은 불확실성에 있었습니다. 새로운 방식의 오차 범위는 기존 모델보다 약 50% 더 넓었습니다. 이것은 나쁘게 들릴 수 있지만, 사실 좋은 것입니다! 이는 새로운 방식이 "우리는 100% 확신할 수 없으며, 가능한 범위는 이 정도입니다"라고 정직하게 인정하고 있다는 뜻입니다. 반면 기존 모델은 실제보다 더 확신하는 척을 했습니다.

이것이 왜 중요한가

이 논문은 서로 간섭하고 영향을 주는 서로 다른 조사 방법들을 사용할 때, 모든 것을 한꺼번에 해결하려고 하지 말아야 한다고 제안합니다. 단계를 분리함으로써—먼저 손상을 파악하고, 그다음 탐지율을 수정함으로써—우리는 자연에 대해 훨씬 더 명확하고 정직한 그림을 얻을 수 있습니다.

저자들은 자신들의 방법이 세상의 모든 문제에 적용되는 마법 지팡이는 아니라는 점을 인정합니다. 예를 들어, 데이터에 시간적 또는 공간적 패턴(예: 무리를 지어 이동하는 다람쥐)이 복잡하게 얽혀 있다면, 수학적 조정이 더 필요할 수 있습니다. 하지만 현재로서는, 이 2단계 접근 방식은 우리 자신의 도구에 속지 않고 개체 수를 셀 수 있는 견고하고 신뢰할 수 있는 방법을 제공합니다. 이는 때때로 올바른 답을 얻기 위해서, 전체를 세기 전에 먼저 부서진 조각들을 먼저 고쳐야 한다는 것을 우리에게 가르쳐 줍니다.