Statistical complexity from fluctuations in the information content

복잡계 연구에서 과학자들은 종종 시스템이 보유한 정보의 양이나 미래의 불확실성을 측정하기 위해 엔트로피라는 개념을 활용합니다. 엔트로피를 시스템의 상태를 보았을 때 느끼게 될 평균적인 놀라움의 척도로 생각해보십시오. 완전히 예측 가능한 시스템은 낮은 엔트로피를 가지며, 완전히 무작위적인 시스템은 높은 엔로피를 가집니다. 하지만 엔트로피만으로는 이야기의 절반만을 알 수 있습니다. 매우 다른 두 시스템이 정확히 같은 평균 놀라움을 가질 수도 있지만, 내부 구조는 완전히 다를 수 있습니다. 하나는 경직되고 질서 정연한 기계일 수 있고, 다른 하나는 혼란스러운 덩어리일 수 있습니다. 복잡성을 진정으로 이해하기 위해서, 연구자들은 단순히 평균을 보는 것을 넘어 개별 부분들이 그 평균으로부터 얼마나 변하는지를 파악할 방법이 필요합니다. 이것이 바로 브라질의 물리학자 팀이 자석에서부터 혼돈스러운 날씨 패턴에 이르기까지 모든 것의 숨겨진 구조를 측정하는 새로운 방법을 제안하며 해결하고자 했던 질문입니다.

마링아와 리우데자네이루의 대학에서 연구를 진행한 연구진은 특정 수학적 아이디어, 즉 정보 함량의 분산에 집중했습니다. 간단히 말해, 엔트로피가 시스템 내의 평균적인 놀라움의 양을 측정한다면, 그들이 '통계적 복잡성(statistical complexity)'이라 부르는 새로운 척도는 그 놀라움이 얼마나 요동치는지를 측정합니다. 만약 모든 가능한 결과가 일어날 확률이 동일한 시스템을 상상한다면, 놀라움은 일정하며 그 변동은 0입니다. 시스템이 완벽하게 질서 정연하다면, 놀라움 또한 일정하며 변동은 다시 0이 됩니다. 연구진은 가장 흥미로운 현상이 질서와 무작위성의 중간 지점에서 발생한다는 것을 발견했습니다. 이 중간 상태에서 놀라움의 양은 매 순간 상당히 크게 변하며, 이 변동이야말로 그들의 척도가 포착하는 핵심입니다.

이 아이디어를 테스트하기 위해 연구팀은 먼저 몇 가지 가능한 상태만을 가진 단순한 시스템들을 살펴보았습니다. 그들은 자신들의 척도가 가장 복잡한 상태가 질서와 혼돈의 중간 지점이 아니라, 오히려 질서 쪽으로 약간 치우쳐 있다는 것을 정확히 식별해냈음을 발견했습니다. 이는 직관적으로 타당합니다. 거의 질서 정연한 상태에 있는 시스템은 매우 민감하여, 아주 작은 변화만으로도 다음에 일어날 일에 거대한 변화를 일으켜 정보의 큰 변동을 만들어낼 수 있기 때문입니다. 반면, 이미 혼돈 상태에 있는 시스템은 작은 변화에 덜 민감합니다. 연구진은 시스템의 가능한 상태 수가 증가함에 따라 이 복잡성의 정점이 여전히 뚜렷하게 유지된다는 것을 보여주었으며, 이는 시스템이 가장 구조화된 지점이 어디인지를 알려주는 명확한 신호를 제공합니다.

그 후 연구는 물리학의 고전적인 문제인, 이징 모델(Ising model)이라 불리는 2차원 자석의 거동으로 옮겨갔습니다. 이 모델은 온도가 변함에 따라 미세한 자기 스핀들이 서로 어떻게 정렬되는지를 설명합니다. 매우 낮은 온도에서 스핀들은 완벽한 질서 속에 일렬로 늘어서 있습니다. 매우 높은 온도에서 스핀들은 무작위 방향을 향합니다. 그 사이 어딘가, 특정 임계 온도에서 시스템은 질서에서 무질서로 변하는 상전이를 겪습니다. 연구진은 자신들의 복잡성 척도가 정확히 이 임계 온도에서 정점을 찍는다는 것을 발견했습니다. 이는 정보 복잡성이라는 추상적인 개념을 물리적인 비열 및 에너지 요동과 직접 연결했다는 점에서 중요한 발견입니다. 이 맥락에서 복잡성 척도는 구조적 변화를 감지하는 온도계처럼 작동하며, 시스템이 가장 불안정하고 거대한 변화를 겪고 있는 바로 그 순간에 최대치로 상승합니다.

이 아이디어가 열평형 상태가 아닌 시스템에서도 작동하는지 확인하기 위해, 연구팀은 단순한 규칙이 어떻게 복잡하고 예측 불가능한 행동을 생성하는지를 설명하는 수학적 모델인 카오스 맵(chaotic maps)에 이 척도를 적용했습니다. 그들은 기존의 다른 복잡성 척도들과 이 모델들을 비교 테스트했습니다. 결과는 그들의 척도가 다른 도구들이 할 수 없는 방식으로 다양한 유형의 운동을 구별해낼 수 있음을 보여주었습니다. 예를 들어, 로지스틱 맵(logistic map)이라 알려진 특정 혼돈 시스템에서, 연구진은 시스템이 규칙적이고 반복적인 패턴으로 안착할 때 자신들의 척도가 급격히 감소하는 것을 발견했는데, 이는 다른 척도들이 정점을 보이는 것과 대조적이었습니다. 이는 그들의 접근 방식이 혼돈 시스템이 일시적으로 예측 가능해지는 미묘한 차이를 포착하는 데 특히 뛰어나다는 것을 시사합니다. 또한 그들은 자연계에서 발견되는 신호의 일종인 분수 가우시안 노이즈(fractional Gaussian noise)에 대해서도 테스트를 진행하여, 상관관계가 있는 신호와 그렇지 않은 신호를 명확히 구분해낼 수 있음을 확인했습니다.

연구진은 또한 이 개념이 더 일반적인 유형의 통계학 및 양자 세계로 어떻게 확장될 수 있는지 탐구했습니다. 그들은 이 척도가 장거리 연결성을 가진 시스템이나 비표준 통계를 설명하는 다양한 수학적 프레임워크에서도 작동하도록 조정될 수 있음을 보여주었습니다. 나아가, 동일한 논리가 양자 상태에서의 정보 요동을 설명하는 양자 시스템에도 적용됨을 입증했습니다. 이 척도는 최대값이 정해져 있지 않아 시스템이 커짐에 따라 무한히 성장할 수 있지만, 저자들은 이것이 결함이 아니라 특징이라고 주장합니다. 이는 척도가 특히 임계점 근처에서 물리적 특성이 발산할 수 있는 거대 시스템의 실제 요동 성장을 반영할 수 있게 해줍니다.

궁극적으로, 이 논문은 정보의 요동을 살펴보는 것이 복잡성을 정의하는 자연스럽고 물리적으로 근거가 확실한 방법임을 주장합니다. 단순히 평균적인 놀라움을 측정하는 대신 놀라움이 얼마나 변하는지에 집중함으로써, 연구진은 정보 이론을 열역학 및 상전이 연구와 직접 연결하는 도구를 만들어냈습니다. 그들의 연구는 복잡성이 단순히 질서와 혼돈 사이의 모호한 중간 지점이 아니라, 시스템이 변화에 가장 민감하게 반응하는 특정한 측정 가능한 상태라는 점을 시사합니다. 이러한 관점은 자석의 거동부터 혼돈 시스템의 역학에 이르기까지 모든 것을 바라보는 새로운 렌즈를 제공하며, 우리 주변의 복잡한 세계의 구조를 이해하는 통합적인 방법을 제시합니다.