Information Geometry meets Functional ANOVA: An Exact Fisher-Information Decomposition, with an Application to Radio Luminosity Functions

거대한, 복잡한 라디오를 조절하여 특정 채널을 찾는 모습을 상상해 보십시오. 이 라디오에는 수백 개의 노브(조절 손잡이)가 있고, 어떤 노브들은 보이지 않는 스프링으로 연결되어 있습니다. 그래서 하나의 노브를 돌리면 다른 하나가 흔들릴 수도 있고, 혹은 세 번째 노브의 효과를 상쇄할 수도 있습니다. 천문학 및 통계학의 세계에서 과학자들은 우주를 설명하기 위해 다양한 밝기 수준에서 은하가 얼마나 존재하는지와 같은 수학적 모델을 구축합니다. 이러한 모델에는 조정해야 할 '노브'(매개변수)들이 있습니다.

여기서 핵심적인 질문은, 우리가 이 노브들을 어떻게 돌려야 하는지 알려주는 정보가 어디에서 오는가 하는 점입니다. 그것은 메인 다이얼에서 오는 것일까요, 아니면 아주 작고 숨겨진 나사에서 오는 것일까요? 보통 과학자들은 전체 모델을 하나의 덩어리진 숫자로 봅니다. 하지만 만약 우리가 이 블록을 레고 세트처럼 분해하여, 퍼즐의 정확히 어떤 조각이 핵심적인 역할을 하고 있는지 볼 수 있다면 어떨까요? 이것이 바로 '정보 기하학(Information Geometry)'이라 불리는 새로운 접근법의 핵심입니다. 이 방법은 모델을 기묘한 다차원 공간 속의 형상으로 취급합니다. 또한, 문제를 주요 부분과 그 상호작용으로 나누는 세련된 방식인 '함수적 ANOVA(Functional ANOVA)'를 사용하여, 데이터의 각 부분이 최종 결과에 어떻게 기여하는지 살펴봅니다. 목표는 추측을 멈추고, 우리 모델의 어떤 부분이 실제로 유용한 정보를 제공하는지, 그리고 어떤 부분이 그저 혼란스러운 노이즈에 불과한지를 정확히 아는 것입니다.

---

위대한 정보의 분해

이 논문에서 두 명의 연구자, 마르코 임브리삭(Marko Imbrišak)과 크레시미르 티사닉(Krešimir Tisanić)은 수학적인 마술을 발견했습니다. 그들은 모델이 자신의 설정에 대해 얼마나 알고 있는지를 나타내는 척도인 '피셔 정보(Fisher information)'를, 데이터가 조직된 선을 따라 완벽하게 조각낼 수 있는 방법을 찾아냈습니다.

모델을 케이크 레시피라고 생각해 봅시다. 밀가루(주효과), 설탕(주효과), 그리고 아마도 밀가루와 섞였을 때만 작동하는 비밀 향신료(상호작용)와 같은 재료들이 있습니다. 보통 케이크를 맛볼 때는 그저 '맛있다' 또는 '맛없다'라고만 알 수 있습니다. 하지만 저자들은 밀가루가 얼마나 기여했는지, 설탕이 얼마나 기여했는지, 그리고 두 가지를 '섞는 것'이 최종적인 맛에 얼마나 기여했는지를 정확히 무게를 잴 수 있는 저울을 만들었습니다. 훨씬 더 나아가, 그들은 때때로 재료들이 서로 반대로 작용한다는 사실도 발견했습니다. 밀가루를 너무 많이 넣으면, 이를 해결하기 위해 특정 양의 설탕을 추가해야 할 수도 있습니다. 그들의 수학에서 이것은 '음(-)의 기여'로 나타나며, 이는 두 부분이 서로를 상쇄하고 있음을 의미합니다.

이 논문은 이러한 분해가 단순한 근사치가 아니라, **정확한 항등식(exact identity)**임을 증명합니다. 그들은 주효과, 상호작용, 그리고 기묘한 '상쇄' 부분들을 모두 더하면 마지막 소수점 자리까지 전체 정보가 다시 돌아온다는 것을 보여주었습니다. 이는 마치 복잡한 노래를 베이스, 드럼, 보컬, 그리고 그 사이의 침묵으로 분해한 뒤, 이들을 모두 합치면 원래의 노래와 완벽하게 일치한다는 것을 증명하는 것과 같습니다.

우주의 "느슨한(Sloppy)" 비밀들

그들이 발견한 가장 흥식한 것 중 하나는 '느슨한(sloppy)' 매개변수를 식별하는 방법입니다. 과학에서 '느슨한' 매개변수란, 다른 매개변수가 반대되는 동작을 수행하며 보완하고 있기 때문에, 이를 조금 움직여도 결과에 큰 변화가 없는 매개변수를 말합니다. 이는 시소와 같습니다. 한 아이가 올라가면 다른 아이는 내려가서 균형이 유지되는 것과 같습니다.

저자들은 이러한 느슨한 조합들이 특정한 지문을 남긴다는 것을 보여주었습니다: 바로 그들의 수학적 식 안에 나타나는 음의 '교차항(cross-term)'입니다. 데이터를 살펴보았을 때, 그들은 이러한 음의 지문을 명확히 발견했습니다. 이는 과학자들에게 "이 특정 숫자를 정확히 고정하려고 너무 애쓰지 마세요. 왜냐하면 다른 숫자가 반대 방향으로 춤을 추며 이 숫자를 붙잡고 있기 때문입니다"라고 말해줍니다. 이는 연구자들이 어디에 에너지를 집중하고, 어디에서 힘을 빼야 하는지 알 수 있게 도와줍니다.

이론 검증: 식물과 라디오파

그들은 자신의 아이디어가 작동함을 증명하기 위해 매우 다른 두 가지 데이터셋을 테스트했습니다.

먼저, 식물을 이용한 간단한 실험을 살펴보았습니다. 그들은 다양한 조건(냉각 여부, 그리고 서로 다른 식물 클론)에 따라 풀이 이산화탄소를 얼마나 흡수했는지 측정했습니다. 이는 작고 깨끗한 데이터셋이었습니다. 수학은 완벽하게 작동했으며, 주요 요인들(처리 방식과 식물 유형)이 대부분의 역할을 수행하고, 그들 사이의 상호작용은 아주 미미하다는 것을 보여주었습니다. 이는 그들의 '레고 분해' 방식이 단순한 대상에도 잘 작동한다는 훌륭한 확인이었습니다.

그 후, 그들은 훨씬 더 크고 무질서한 문제인 **은하의 라디오 광도 함수(Radio Luminosity Functions)**에 도전했습니다. 이것은 라디오 스펙트럼의 다양한 밝기 수준에서 은하가 얼마나 존재하는지를 나타내는 지도입니다. 그들은 두 가지 다른 조사 데이터를 결합했습니다: 근처 은하를 관측한 조사(6dFGS–NVSS)와 먼 은하를 관측한 조사(VLA-COSMOS 3 GHz)입니다. 그들은 별 형성 은하(SFG)와 활동 은하핵(AGN)이라는 두 가지 유형의 은하를 설명하는 모델을 맞추어야 했습니다.

여기서 수학은 놀라운 진실들을 드러냈습니다.

• 주요 동력: 모델에 대한 정보의 대부분은 곡선의 전반적인 형태(평균)와 두 은하 유형 간의 차이(함수 형태)에서 왔습니다.
• 숨겨진 긴장: 별 형성 은하를 조사했을 때, 그들은 강력한 '느슨한(sloppy)' 동작을 발견했습니다. 수학은 근처 조사 데이터와 먼 곳의 조사 데이터가 서로 싸우고 있음을 보여주었습니다. 만약 근처 데이터를 바탕으로 희미한 은하들의 밝기를 조정하려고 하면, 먼 곳의 데이터가 반대로 밀어냅니다. 이 '보완하는' 효과는 모델이 가장 희미한 은하들의 정확한 밝기에 대해 합의하는 데 어려움을 겪고 있음을 의미했습니다.
• 밝은 끝단: 밝은 은하들의 경우, 모델은 훨씬 안정적이었습니다. 정보는 고르게 퍼져 있었으며, 앞서 본 '상쇄'되는 행동은 거의 나타나지 않았습니다.

이것이 중요한 이유

저자들은 단순히 숫자를 계산하는 새로운 방법을 발명한 것이 아니라, 과학자들에게 새로운 안경을 선물했습니다. 이전에는 모델을 맞추기 어려우면 그저 "데이터에 노이즈가 많다"라고 말하며 넘겼을 것입니다. 하지만 이제는 '채널 분해(channel decomposition)'를 통해 "아, 문제는 근처 조사와 먼 곳의 조사가 희미한 영역에서 서로를 보완하며 상쇄하고 있다는 것이구나"라고 말할 수 있습니다.

또한 그들은 수학을 어떻게 작성하느냐가 중요하다는 것도 보여주었습니다. 만약 변수를 잘못된 위치에 둔다면(예를 들어, 곱하는 대신 로그 안에 더하는 경우), 단 하나의 데이터 포인트가 전체 결과를 지배하는 인위적인 '레버리지(leverage)'를 만들 수 있습니다. 그들은 자신들의 방법을 사용하여, 변수들을 곱하는 방식이 더 안전하고 안정적인 선택임을 입증했습니다.

요약하자면, 이 논문은 복잡한 통계 모델이라는 신비롭고 불투명한 '블랙박스'를 열어젖힙니다. 이는 어떤 톱니바퀴가 돌아가고 있는지, 어떤 톱니바퀴가 서로 맞물려 갈리고 있는지, 그리고 어떤 톱니바퀴가 그저 곁다리로 끼어 있는지를 정확히 볼 수 있게 해줍니다. 이는 불확한 불확실성을 정보가 어디에 거주하는지에 대한 정밀한 지도로 바꾸어 놓으며, 천문학자들이 자신들의 모델이 무엇을 말하는지뿐만 아니라, '왜' 그렇게 말하는지를 이해하도록 돕습니다.