mnorm: An R Package for Calculation and Differentiation of Conditional Multivariate Normal Densities and Probabilities

당신이 단순히 비나 햇빛만을 예측하는 것이 아니라, 온도, 습도, 풍속, 기압, 심지어 지역 다람쥐의 기분까지 포함하여 12가지의 서로 다른 변수들을 동시에 저글링하며 날씨를 예측하려 한다고 상상해 보세요. 통계학의 세계에서 이 혼란스러운 저글링 행위는 **다변량 정규 분포(multivariate normal distribution)**라고 불립니다. 이것은 여러 가지 요소가 어떻게 함께 움직이는지를 설명하는 수학적 방법입니다. 때로는 이들은 바람과 비처럼 조화롭게 움직이고, 때로는 그렇지 않기도 합니다.

이제 밖을 내다보니 바람이 시속 20마일로 불고 있다고 가정해 봅시다. 갑자기 당신의 다람쥐 기분에 대한 예측이 바뀌고, 습도에 대한 추측도 변합니다. 이것을 **조건부 확률(conditional probability)**이라고 합니다. 즉, 시스템의 한 부분을 이미 알고 있을 때 나머지 부분들이 어떻게 움직이는지 알아내는 것입니다.

왜 사람들이 이런 것에 관심을 가질까요? 현실 세계는 이러한 얽히고설킨 그물로 가득 차 있기 때문입니다. 경제학자들은 금리의 변화가 주식 시장에 어떤 파급 효과를 미칠지, 혹은 한 학생의 수학 성적이 역사 성적을 어떻게 예측할지를 이해하기 위해 이를 사용합니다. 이러한 예측을 정확하게 만들기 위해 과학자들은 **미분(differentiation)**이라는 작업을 수행해야 합니다. 이것을 언덕의 "경사(slope)"를 찾는 것이라고 생각해 보세요. 만약 당신이 캠프를 설치할 가장 좋은 지점(최대 가능도, maximum likelihood)을 찾으려 한다면, 어느 방향이 "위"인지, 그리고 경사가 얼마나 가파른지 알아야 합니다. 만약 경사를 완벽하게 계산할 수 있다면, 당신은 곧장 정상으로 직행할 수 있습니다. 하지만 만약 추측에 의존해야 한다면, 당신은 한참 동안 주변을 뱅뱅 돌며 헤맬 수도 있습니다.

여기서 mnorm이라는 새로운 도구가 등장합니다. 이는 R 프로그래밍 언어를 위한 소프트웨어 패키지로, 이러한 통계적 언덕들을 위한 궁극적인 GPS 역할을 하도록 설계되었습니다.

---

mnorm 패키지: 통계적 산맥을 위한 속도 가이드

이 논문은 복잡한 통계적 산맥을 위한 고속 멀티툴 계산기 역할을 하는 새로운 소프트웨어 패키지인 mnorm을 소개합니다. mnorm이 나오기 전에는 연구자들이 속도가 느리거나, "조건부" 상황(이미 알고 있는 사실이 있는 경우)을 처리하지 못하거나, 최적의 답을 빠르게 찾기 위해 필요한 "경사(gradient)"를 계산하지 못하는 다른 도구들을 사용해야 했습니다.

확률을 계산하는 것을 이상하게 생긴 보이지 않는 구름의 부피를 측정하는 것이라고 생각해 보세요. 구름이 2차원 또는 3차원이라면 그것은 풍선 하나를 측정하는 것과 같지만, 만약 10차원이나 100차원이라면 그것은 추가적인 차원이 존재하는 우주에 존재하는 구름을 측정하는 것과 같습니다. mnorm 패키지는 특별합니다. 왜냐하면 단순히 구름을 측정하는 데 그치지 않고, 바람이나 온도, 혹은 시작 지점을 미세하게 조정했을 때 구름의 모양이 어떻게 변하는지도 정확히 알려줄 수 있기 때문입니다.

강점: 해석적 경사(Analytical Gradients)
mnorm의 가장 큰 비결은 **해석적 경사(analytical gradients)**를 계산할 수 있는 능력입니다. 쉬운 말로 풀이하자면, 이는 숫자를 아주 조금씩 움직여 보며 결과를 확인하는 '추측' 방식이 아니라, 정확한 수학 공식을 사용하여 확률 곡선의 "경사"를 찾아낼 수 있음을 의미합니다.

저자들은 이를 테스트하기 위해 시뮬레이션을 실행했습니다. 그 결과, 이 정확한 공식을 사용하는 것이 추측하는 방식보다 훨씬 빠르다는 것을 발견했습니다.

• 단순 밀도 계산(구름의 부피 측정)의 경우, mnorm은 빨랐습니다.
• 경사(gradient)를 계산하는 경우, 그 차이는 엄청났습니다. 5차원 테스트에서 해석적 방식으로 경사를 계산하는 데 약 0.09초가 걸린 반면, "추측" 방식(수치 미분)은 최소한의 추측 횟수를 수행하는 데만 0.54초가 걸렸습니다.
• 10차원과 같은 고차원에서는 해석적 방식이 경사 계산에 3.47초가 걸린 반면, 추측 방식은 최소 4.51초가 필요했습니다.

이 논문은 이러한 속도 향상이 이 모델을 구축하기 위해 계산을 수백만 번 실행해야 하는 경제학자들에게 게임 체인저가 될 것이라고 제안합니다. 이것은 산을 걸어서 올라가는 것과 헬리콥터를 타고 가는 것의 차이와 같습니다.

"주어진" 부분의 처리
가장 유용한 기능 중 중 하나는 mnorm이 조건부(conditional) 데이터를 처리하는 방식입니다. 예를 들어, 학생의 기말 성적을 예측하려고 한다고 가정해 봅시다. 만약 중간고사 점수를 모른다면 당신은 추측해야 합니다. 하지만 만약 중간고사 점수(즉, "주어진" 부분)를 알고 있다면, 예측은 달라집니다.

mnorm은 특정 중간고사 점수가 주어졌을 때의 확률과 경사를 계산할 수 있습니다. 논문에 따르면, "주어진" 부분에 대한 수학은 다른 부분에 대한 수학을 단순히 재배열하는 것과 같기 때문에 이러한 경사를 계산하는 것은 매우 빠릅니다. 5개의 변수 중 2개가 "주어진" 상태에서 경사를 계산하는 테스트에서, mnorm은 거의 즉시 경사를 계산해 냈으며, 추측 방식은 훨씬 더 느렸습니다.

작은 규모와 큰 규모 모두에서의 탁월함
이 패키지는 두 가지 특정 영역에서도 빛을 발합니다.

1. 작은 구름 (2차원 및 3차원): 이 경우 mnorm은 Gauss-Legendre quadrature라는 영리한 수학적 기법을 사용합니다. 저자들은 이를 다른 인기 있는 도구들과 비교했으며, mnorm이 훨씬 더 빠르다는 것을 발견했습니다. 예를 들어, 2차원 구름에 대한 확률을 계산할 때 morm은 100만 번의 계산에 0.57초가 걸린 반면, 경쟁 도구는 0.75초가 걸렸습니다. 더욱 놀라운 점은 "멀티 코어" 기능(8개의 컴퓨터 뇌를 동시에 사용)을 켰을 때, mnorm은 0.16초로 단축된 반면 경쟁 도구는 여전히 1.11초에 머물렀다는 것입니다.
2. 거대한 구름 (고차원): 16, 64, 심지어 512차원의 구름에 대해서도 mnorm은 현존하는 최고의 도구들과 경쟁합니다. 512차원 테스트에서 mnorm은 확률을 2.54초 만에 계산해 냈으며, 이는 다른 최상위 도구들과 대등한 수준으로, mnorm이 작은 문제뿐만 아니라 거대한 문제에서도 잘 작동함을 입증했습니다.

비정규 분포와의 관계
현실 세계는 항상 완벽하게 정규 분포를 따르지는 않습니다. 데이터가 한쪽으로 치우쳐 있거나 특이한 꼬리를 가질 수도 있습니다. mnorm은 **가우시안 코풀라(Gaussian copula)**라는 것을 사용하여 이를 처리할 수 있습니다. 이것을 '번역기'라고 생각하면 됩니다. 이는 이상한 형태의 비정규 데이터(예: 다람쥐가 먹이통을 방문하는 횟수)를 가져와서 수학적 계산이 가능하도록 정규 분포의 언어로 번역해 줍니다. 또한 이 패키지는 이러한 특이한 분포들의 매개변수에 대한 경사까지 계산할 수 있는데, 이는 다른 많은 도구가 갖지 못한 기능입니다.

결론
이 논문은 우주의 새로운 법칙을 발견했다고 주장하는 것이 아닙니다. 대신, 실용적이고 매우 효율적인 도구를 제공합니다. 저자들은 mnorm을 사용함으로써 연구자들이 더 나은, 더 빠른 경제 모델을 구축할 수 있다고 제안합니다. 그들은 시뮬레이션을 통해 자신들의 방법이 대안들보다 빠르다는 것을 증명했으며, 누구나 검증할 수 있도록 정확한 수학적 공식(그 "비법")을 제공했습니다.

요약하자면, mnorm은 통계학자에게 자동차의 터보 엔진을 달아주는 것과 같습니다. 목적지를 바꾸지는 않지만, 지형에 대한 명확한 지도와 함께 훨씬 더 빠른 시간 안에 목적지에 도달하게 해줍니다. 단순한 2변수 문제부터 거대한 512차원의 퍼즐에 이르기까지, 이 패키지는 정답에 도달하는 가장 빠른 길임을 시사합니다.