How null-model constraints affect statistical validation in projected bipartite networks

당신이 북적이는 방 안에서 미스터리를 풀려는 탐정이라고 상상해 보십시오. 당신은 알렉스와 조던이라는 두 사람이 아주 가까이 서서 속삭이고 있는 것을 봅니다. 이것은 비밀스러운 음모일까요, 아니면 그저 우연히 같은 파티에 참석한 두 사람일 뿐일까요? 이를 파악하기 위해서는, 아무런 이유 없이 무작위의 두 사람이 옆에 서게 될 확률이 얼마나 되는지 알아야 합니다. 만약 방이 꽉 차 있고 사람들이 사방으로 움직이고 있다면, 그들이 가까이 있는 것은 그리 놀라운 일이 아닐 수도 있습니다. 하지만 방이 비어 있는데도 여전히 서로 뭉쳐 있다면, 그것은 진짜 단서가 됩니다.

과학의 세계에서 이 "북적이는 방"은 종종 **이분 네트워크(bipartite network)**라고 불립니다. 이것은 두 종류의 서로 다른 대상들을 연결하는 거대한 웹과 같습니다. 예를 들어, 국가(그룹 A)와 그들이 판매하는 제품(그룹 B)을 연결하는 웹, 또는 재료(그룹 A)와 레시피(그룹 B)를 연결하는 웹을 생각해 보십시오. 두 국가가 동일한 제품을 판매하거나, 두 재료가 동일한 레시피에 등장할 때, 그들은 웹 속에서 서로 "연결"됩니다. 과학자들은 종 often 이 양방향 웹을 국가 간의 연결이나 재료 간의 연결만을 보여주는 단방향 지도로 압축하고자 합니다. 이를 **투영(projection)**이라고 합니다.

까다로운 점은, 크고 분주한 네트워크에서는 단순히 상황적인 수학 때문에 발생하는 연결들이 있다는 것입니다. 어떤 국가가 1,000개의 제품을 판매한다면, 다른 국가들과 우연히 많은 제품을 공유하게 될 것입니다. 진짜 비밀을 찾아내기 위해, 과학자들은 **통계적 검증(statistical validation)**을 사용합니다. 그들은 "공백 모델(null model)", 즉 완전히 무작위적인 버전의 네트워크를 시뮬레이션으로 구축합니다. 그들은 다음과 같이 묻습니다: "만약 카드를 완전히 무작위로 섞었다면, 알렉스와 조던이 저렇게 자주 속삭였을까?" 만약 실제의 알렉스와 조던이 무작위 버전보다 훨씬 더 자주 속삭인다면, 우리는 진짜 발견을 한 것입니다. 하지만 여기에는 함정이 있습니다. 카드를 섞는 방법(서로 다른 공백 모델들)은 매우 다양하며, 그 방법들에 따라 전혀 다른 답을 내놓을 수 있습니다.

---

거대한 셔플 대결: 당신의 무작위 추측이 중요한 이유

이 논문에서 물리학자 알레산드로 카탈라노(Alessandro Catalano)와 로사리오 만테냐(Rosario Mantegna)는 네 가지 서로 다른 "셔플링(shuffling)" 방법을 테스트하기로 했습니다. 그들은 어떤 방식이 실제 연결과 우연한 연결을 구별하는 데 진실을 말해주는지 확인하고 싶었습니다. 그들은 단순히 "진짜" 연결의 최종 목록만을 본 것이 아니라, 왜 서로 다른 방법들이 서로 다른 답을 내놓는지 그 내부를 들여다보았습니다.

이를 위해 그들은 세 가지 매우 다른 실제 네트워크를 테스트 대상으로 사용했습니다:

1. 유전자 방: 66개의 생물체와 4,873개의 유전자 가족(COG 데이터베이스)으로 이루어진 네트워크.
2. 글로벌 마켓: 226개국과 1,348개의 거래 품목(2023년 세계 무역 웹 데이터)으로 이루어진 네트워크.
3. 주방: 508개의 재료와 4,454개의 레시피(CulinaryDB)로 이루어진 네트워크.

이 세 시스템은 마치 세 종류의 서로 다른 파티와 같습니다. 하나는 혼란스럽고 북적이는 유전자 파티이고, 하나는 바쁜 무역 시장이며, 하나는 한적하고 조용한 요리 교실입니다. 이러한 다양성은 저자들이 자신들의 발견이 모든 곳에서 통용되는지, 아니면 특정 상황에서만 나타나는지를 확인하는 데 도움을 주었습니다.

네 가지 셔플러 (The Four Shufflers)

저자들은 무작위 네트워크를 만드는 네 가지 방법을 비교하여, 규칙을 완화했을 때 어떤 일이 일어나는지 살펴보았습니다.

1. 엄격한 셔플러 (Curveball/Microcanonical): 이것은 골드 스탠다드(표준)입니다. 방 안에 있는 모든 사람의 연결 수를 정확하게 유지합니다. 만약 어떤 국가가 50개의 제품을 가지고 있었다면, 무작위 버전에서도 반드시 50개의 제품을 가져야 합니다. 이는 계산량이 매우 많지만(모래알 하나하나를 세는 것과 같습니다) 매우 정밀합니다. 저자들은 이를 자신들이 맞추고자 하는 "진실"인 벤치마크로 사용했습니다.
2. 평균적 셔플러 (BiCM): 이 방식은 "평균적으로 국가들은 50개의 제품을 가져야 하지만, 개별 무작위 버전에서는 어떤 국가는 48개, 다른 국가는 52개를 가져도 괜찮다"라고 말합니다. 더 빠르지만 규칙이 느슨합니다.
3. 절반의 엄격함을 가진 셔플러 (BiPCM): 이것은 훨씬 더 느슨합니다. 국가들(그룹 A)에 대한 규칙은 유지하지만, 제품들(그룹 B)은 모두 동일한 복제본인 것처럼 취급합니다. 즉, 어떤 제품은 매우 인기가 많고 어떤 제품은 드물다는 사실을 무시합니다.
4. 단순한 셔플러 (Hypergeometric): 가장 단순한 방법입니다. 모든 사람이 서로를 만날 확률이 동일하다고 가정하며, 인기 차이 등을 모두 무시합니다. 이것은 "빠르고 투박한" 추측입니다.

거대한 발견: 곡선의 모양이 핵심이다

저자들은 단순히 셔플러가 따르는 규칙을 보는 것만으로는 그 모델이 좋은지 알 수 없다는 것을 발견했습니다. 대신 그 모델이 만들어내는 확률 곡선의 모양을 보아야 합니다.

"무작위 기대치"가 그래프 위의 종 모양 곡선(벨 커브)이라고 상상해 보십시오.

• **평균(Mean)**은 종의 중심이 어디인지를 알려줍니다.
• **퍼짐(Variance, 분산)**은 종이 얼마나 넓은지를 알려줍니다.

여기서 그들이 발견한 점은 다음과 같습니다:

• "엄격함" vs "평균"의 대결: "평균적 셔플러"(BiCM)는 종의 중심(기대 연결 수)을 맞추는 데는 뛰어났습니다. 하지만 종을 너무 넓게 만들었습니다(너무 많은 분산). 이로 인해 이 모델은 매우 보수적이 되었습니다. "이것은 진짜 연결이다!"라고 말하는 경우가 드물었으며(낮은 위양성), 많은 진짜 연결을 놓쳤습니다(높은 위음성). 이는 범인을 잡을 때 100% 확실할 때만 체포하여 많은 범죄자를 놓쳐버리는 탐정과 같았습니다.
• "단순함"의 반전: "단순한 셔플러"(Hypergeometric)는 유전자와 무역 네트워크에서 중심을 맞추는 데는 형편없었습니다(연결이 실제보다 덜 일어날 것이라고 생각했습니다). 하지만 놀랍게도, 이 모델은 종의 너비(퍼짐)를 맞추는 데 탁월했습니다. 일부 제품이 매우 인기가 많다는 사실을 무시했음에도 불구하고, 무작위성의 "퍼짐"을 거의 정확하게 맞춘 것입니다. 이는 네트워크가 희소한(sparse) 주방 네트워크의 경우 이 모델이 놀라울 정도로 잘 작동했음을 의미합니다.

"하이브리드" 영웅

각 방법이 서로 다른 강점을 가졌기 때문에, 저자들은 "프랑켄슈타인" 접근법을 시도했습니다. 그들은 "평균적 셔플러"에서 정확한 중심을 가져오고, "단순한 셔플러"에서 놀랍게도 정확했던 너비를 가져왔습니다.

그들은 이를 "하이브리드 CH" 모델이라 불렀습니다.

• 유전자와 무역 네트워크의 경우, 이 하이브리드 모델은 엄청난 성공을 거두었습니다. 가짜 연결을 만들어내지 않으면서도(높은 정밀도), 거의 모든 진짜 연결을 잡아냈습니다(높은 재현율).
• 이는 매번 고성능 컴퓨터를 돌리는 "엄격한 셔플러" 없이도 좋은 결과를 얻을 수 있음을 증명했습니다. 만약 단순한 모델들이 왜 실패하는지(중심을 틀리거나 너비를 틀리는지) 이해한다면, 이를 수정할 수 있습니다.

마법 뒤에 숨겨진 "이유"

저자들은 단순한 셔플러가 왜 가끔 그렇게 잘 작동하는지 설명하기 위해 수학적 분석도 수행했습니다. 그들은 네트워크가 매우 희소할 때(주방 네트워크처럼)는 인기 차이(이질성)가 그리 중요하지 않다는 것을 발견했습니다. 하지만 일부 노드가 매우 인기가 많은 유전자나 무역 네트워크에서는, 그 인기를 무시하면 단순한 셔플러가 잘못된 평균을 예측하게 된다는 것을 알아냈습니다.

그들은 단순한 셔플러의 예측 오류가 네트워크의 "불균형함"에 의해 직접 제어된다는 공식을 도출했습니다. 네트워크가 불균형하면 단순한 셔플러는 보정이 필요합니다. 반대로 네트워크가 균일하다면 단순한 셔플러는 괜찮습니다.

시사점

이 논문의 핵심 교훈은 단순히 유전자나 무역에 관한 것이 아닙니다. 이것은 우리가 과학을 수행하는 방식에 관한 것입니다. 저자들은 우리가 "공백 모델"(무작위 기준점)을 선택할 때, 단순히 "이 모델이 어떤 규칙을 따르는가?"라고 묻는 것이 아니라, "이 모델이 확률 곡선에 어떤 영향을 주는가?"라고 물어야 한다고 제안합니다.

이 모델이 중심을 이동시키는가? 종을 넓히는가? 이 질문에 대한 답이 그 모델이 진짜 연결을 놓칠지, 아니면 가짜 연결을 만들어낼지를 알려줍니다. 곡선의 수학(평균과 분산)을 살펴봄으로써, 과학자들은 매번 비싸고 느린 컴퓨터 시뮬레이션을 실행하지 않고도 적절한 도구를 선택하거나 더 나은 "하이브리드" 도구를 만들 수 있습니다.

요컨대: 게임의 규칙만 보지 말고, 점수판의 모양을 보십시오. 때로는 올바른 "퍼짐"을 가진 단순한 추측이 잘못된 "중심"을 가진 복잡한 추측보다 더 나을 수 있습니다.