On the Hyper-Parameters and the Scoring Functions of PCTABU and PCHC Bayesian Network Algorithms

수천 개의 변수가 종종 눈에 보이지 않는 방식으로 상호작용하는 광활한 데이터의 풍경 속에서, 과학자들은 인과관계의 보이지 않는 실타래를 지도화할 방법을 오랫동안 찾아왔습니다. 복잡한 기계를 최종 결과물만을 보고 이해하려고 노력한다고 상상해 보십시오. 당신은 어떤 손잡이를 돌리면 불이 깜빡이는 것을 볼 수는 있겠지만, 그 손잡이가 직접 불을 켠 것인지, 아니면 다른 부품들을 거쳐 연쇄 반응을 일으킨 것인지는 알 수 없을 것입니다. 이를 해결하기 위해 연구자들은 베이지안 네트워크(Bayesian network)라고 불리는 도구를 사용합니다. 이것을 도시의 지도라고 생각하되, 여기서 거리는 단순한 도로가 아니라 직접적인 영향력의 선입니다. 이 지도 위에서 모든 지점은 온도 측정값이나 주가와 같은 하나의 변수를 나타내며, 이들을 연결하는 화살표는 어떤 변수가 다른 변수에 직접적으로 영향을 미치는지를 보여줍니다. 이러한 지도들은 단순히 정적인 그림이 아닙니다. 이들은 금융에서 의학에 이르기까지 분야를 가리지 않고 세상이 작동하는 진정한 구조를 밝혀내기 위해 사용되는, 예측과 이해를 위한 강력한 엔진입니다. 그러나 가공되지 않은 데이터로부터 정확한 지도를 만드는 것은 어려운 퍼즐입니다. 데이터 자체는 어떤 연결이 실제이고 어떤 것이 우연한 것인지 알려주지 않으므로, 연구자들은 어떤 화살표를 그리고 어떤 화살표를 지울지 결정하기 위해 수학적 규칙에 의존해야 합니다.

두 명의 연구자, 볼칸 세빈치(Volkan Sevinç)와 미카일 차그리스(Michail Tsagris)는 이러한 지도를 그리는 과정을 개선하기 위해 나섰습니다. 그들은 컴퓨터가 데이터로부터 네트워크의 구조를 학습하기 위해 따르는 일련의 지침인 특정 유형의 알고리즘에 집중했습니다. 기존의 방법들도 이미 유망한 가능성을 보여주었지만, 연구자들은 최적의 지도를 찾기 위한 탐색을 수행하는 데 사용되는 구체적인 도구들이 개선될 수 있는지 궁금해했습니다. 그들은 초기 네트워크의 윤곽을 그리는 표준적인 방식과 타부 탐색(Tabu search)이라는 더 정교한 탐색 기법을 결합한 PCTABU라는 새로운 방법을 도입했습니다. 그런 다음 이 새로운 방법을 힐 클라이밍(hill-climbing)이라 알려진 더 단순하고 직접적인 탐색 기법을 사용하는 기존의 잘 알려진 방법인 PCHC와 정면으로 맞붙였습니다. 공정한 테스트를 보장하기 위해, 그들은 단지 이론에만 의존하지 않고 방대한 양의 데이터를 사용하여 두 방법을 시험했습니다. 그들은 과학계에서 수년간 벤치마크로 사용되어 온 8개의 실제 세계 네트워크와, 다양한 복잡도 수준을 모방하기 위해 생성된 수천 개의 시뮬레이션 네트워크를 대상으로 테스트를 진행했습니다. 모든 테스트에서 그들은 또한 지도가 얼마나 좋은지를 판단하는 수학적 규칙을 달리하여, 세 가지 서로 다른 점수 산정 시스템을 비교함으로써 어떤 것이 알고리즘이 진실을 찾는 데 도움이 되는지 확인했습니다.

이 광범위한 비교 결과는 연구 대상이 되는 네트워크의 성격에 따라 크게 달라지는 명확한 패턴을 드러냈습니다. 연구자들이 변수들이 사방으로 향하는 많은 화살표와 함께 밀접하게 상호 연결된 밀집된(dense) 네트워크에서 알고리즘을 테스트했을 때, 새로운 PCTABู 알고리즘과 기존의 PCHC 방법은 거의 동일하게 작동했습니다. 둘 다 올바른 구조를 찾는 데 똑같이 뛰어났습니다. 하지만 변수들이 더 적은 연결을 가지고 지도가 더 개방된 형태인 희소한(sparse) 네트워크를 살펴보았을 때 이야기는 달라졌습니다. 이러한 덜 붐비는 네트워크에서 새로운 PCTABU 알고리즘은 기존의 알고리즘보다 일관되게 우수한 성능을 보였습니다. 연구자들은 변수당 평균 연결 수가 낮을 때 그 이점이 가장 두드러진다는 것을 발견했습니다. 이러한 성공의 이유는 두 탐색 기법이 작동하는 방식에 있습니다. 기존의 힐 클라이밍 방식은 마치 산을 오를 때 즉시 더 높은 곳으로 이어지는 길일 때만 발을 내딛는 등산객과 같습니다. 만약 길이 평탄해지거나 꼭대기처럼 보이는 작은 봉우리에 도달하면 등산객은 멈춥니다. 반면, 새로운 타부 방식은 방금 지나온 경로를 머릿속에 기록해 두고 즉시 다시 걷지 않는 등산객과 같습니다. 이를 통해 새로운 방식은 작은 봉우리를 벗어나 훨씬 더 높은 산봉우리를 찾기 위해 옆으로 이동하거나 심지어 약간 낮은 곳으로 내려갈 수도 있습니다. 이러한 넓은 탐색 능력은 더 단순하고 희소한 네트워크를 풀어내는 데 결정적인 역할을 했습니다.

탐색 방법의 선택 외에도, 이 연구는 지도의 품질을 판단하는 규칙에 대한 논쟁을 종결시켰습니다. 연구자들은 컴퓨터에게 제안된 네트워크가 좋은지 나쁜지를 알려주는 수학적 공식인 세 가지 서로 다른 점수 함수를 테스트했습니다. 로그 가능도(log-likelihood) 점수로 알려진 이 중 하나는 일관되게 가장 좋지 않은 결과를 냈습니다. 연구자들은 이 방법이 데이터에 너무 영합한다고 설명했습니다. 즉, 더 밀집된 지도가 기존의 데이터 포인트들을 항상 완벽하게 맞출 수 있기 때문에 더 많은 화살표를 추가하는 것에 보상을 준다는 것입니다. 이는 모델이 불필요한 연결들로 너무 복잡해져서 새로운 것을 예측하지 못하게 되는 과적합(overfitting)을 초�히합니다. 반면, 베이지안 디리클레 동등(Bayesian Dirichlet equivalent)과 베이지안 정보 기준(Bayesian information criterion)으로 알려진 나머지 두 방법은 화살표를 너무 많이 추가하는 것에 대해 페널티를 포함했습니다. 이 방법들은 필터 역할을 하여 알고리즘이 진정으로 필요하지 않은 화살표를 그리는 것을 억제했습니다. 연구 결과, 이 두 방법은 거의 대등하게 우수한 성능을 보였으며 로그 가능도 점수보다 훨씬 뛰어난 것으로 나타났습니다. 이는 데이터로부터 네트워크의 구조를 배우려는 누구에게나, 단순함을 가치 있게 여기고 불필요한 복잡성에 페널티를 주는 점수 체계를 사용하는 것이 훨씬 더 낫다는 것을 시사합니다.

연구자들은 또한 이 방법들이 실행되는 데 걸리는 시간을 조사했으며, 새로운 PCTABU 알고리즘이 더 복잡한 탐색을 수행함에도 불구하고 기존의 PCHC 방법보다 실행 시간이 크게 더 길지 않다는 것을 발견했습니다. 이는 더 높은 정확도가 컴퓨팅 능력의 큰 희생 없이도 희소한 네트워크에서 구현된다는 것을 의미합니다. 새로운 방법이 무작위로 생성된 네트워크를 사용하는 시뮬레이션 테스트에서는 뚜렷한 우위를 보이지 않았지만, 실제 세계의 네트워크 테스트는 결정적이었습니다. 불규적이고 독특한 구조를 가진 경우가 많은 실제 세계의 네트워크는, 새로운 방법의 '지역적 함정(local traps)을 탈출하는 능력'이 차이를 만들어낼 수 있는 환경을 제공했습니다. 연구는 매우 밀집된 네트워크에는 여전히 기존의 방법이 강력한 선택지이지만, 변수들이 빽빽하게 모여 있지 않은 많은 실제 세계의 문제들에 대해서는 새로운 PCTABU 알고리즘이 뚜렷한 이점을 제공한다고 결론짓습니다. 견고한 초기 스케치와 더 모험적인 탐색 전략을 결합하고, 과도한 복잡성의 함정을 피하는 점수 체계를 사용함으로써, 연구자들은 이제 우리 세상을 지배하는 인과관계의 더 정확한 지도를 구축할 수 있게 되었습니다.