Continuous-Time Quantum Walks based Graph Neural Network

디지털 세상에서 우리의 데이터 중 상당수는 스프레드시트처럼 깔끔한 행과 열로 배열되어 있는 것이 아니라, 복잡하게 얽힌 연결의 그물망 형태로 존재합니다. 사람들이 우정으로 연결된 소셜 네트워크, 도시들이 도로로 이어지는 도로 지도, 또는 단백질들이 서로 상호작용하는 생물학적 시스템을 떠올려 보십시오. 이러한 복잡한 구조를 이해하기 위해 과학자들은 그래프 신경망(Graph Neural Network)이라 불리는 일종의 인공지능을 사용합니다. 이 시스템들은 데이터 자체의 형태로부터 학습하도록 설계되었으며, 한 정보 조각이 이웃에게 어떻게 영향을 미치는지 이해합니다. 수년 동안 이 도구들은 제품 추천이나 교통량 예측과 같은 작업에서 매우 성공적이었지만, 그 잠재력을 제한하는 두 가지 무거운 짐을 짊어지고 있었습니다.

첫 번째 짐은 유사성에 대한 편향입니다. 대부분의 이러한 네트워크는 연결된 것들이 서로 닮았다는 가정하에 작동하며, 이는 마치 친구들이 흔히 비슷한 관심사를 공유하는 것과 같습니다. 이러한 방식은 연결이 강하고 균일할 때는 잘 작동하지만, 연결이 매우 다른 것들을 잇고 있을 때는 처참하게 실패합니다. 서로 다른 원자들이 결합하여 새로운 것을 만들어내는 화학 반응이나, 서로 다른 개체들이 상호작용하는 금융 네트워크와 같은 많은 현실 세계의 시나리오에서는 이웃들이 근본적으로 다릅니다. 차이점을 완만하게 만들어 공통점을 찾으려는 기존의 도구들은 이러한 다양한 관계로부터 학습하는 데 어려움을 겪습니다. 두 번째 짐은 깊이에 관한 문제입니다. 복잡한 패턴을 학습하기 위해 이 네트워크들은 여러 층의 처리 과정을 겹겹이 쌓아 올려 깊어져야 합니다. 그러나 층이 깊어질수록 각 정보 조각의 고유한 세부 사항은 점차 사라지며, 네트워크의 모든 노드가 똑같이 보이게 됩니다. '오버 스무딩(over-smoothing)'이라고 알려진 이 현상은 이 시스템들이 얕은 수준에 머물게 만들며, 어려운 문제를 해결하는 능력을 제한합니다.

중국 인민대학교의 연구팀은 이 두 가지 매듭을 동시에 풀 수 있는 새로운 접근 방식을 제안했습니다. 이들은 스무딩 문제와 유사성 문제를 각각 따로 해결하려 하는 대신, 양자 역학의 물리학에서 영감을 얻은 새로운 종류의 네트워크를 구축했습니다. 구체적으로, 그들은 연속 시간 양자 워크(Continuous-Time Quantum Walk)라고 불리는 개념을 활용했습니다. 고전적인 세상에서 만약 당신이 물컵에 잉크 한 방울을 떨어뜨린다면, 그것은 서서히 퍼져나가 희석되어 물 전체를 균일한 색으로 만들 것입니다. 이것이 전통적인 네트워크가 정보를 이동시키는 방식입니다. 즉, 정보가 확산되고 흐릿해지는 것입니다. 그러나 양자 세계에서 입자는 확산되지 않고 파동으로서 이동합니다. 이 파동은 스스로 간섭하여 정점과 골짜기의 패턴을 만들어내며, 이동하는 동안 입자의 뚜렷한 정체성을 보존합니다. 연구진은 이러한 파동 형태의 움직임을 사용하여 네트워크를 가이드함으로써, 정보가 흐릿해지는 것을 방지하고 연결된 노드 사이의 차이점을 포착할 수 있다는 사실을 깨달았습니다.

저자들이 CTQW-GNN이라 부르는 이 새로운 시스템은 세 가지 다른 유형의 정보 수집 과정을 동시에 실행하며 작동합니다. 첫 번째 과정은 양자에서 영감을 얻은 파동의 움직임을 사용하여 네트워크 전체에 정보를 퍼뜨립니다. 이 움직임은 양자 물리학의 법칙에 기반하기 때문에, 정보의 총량을 보존하며 정보가 흐릿하게 붕괴되지 않도록 합니다. 이를 통해 네트워크는 다른 방법들이 놓치는 고주파 세부 사항과 노드 간의 차이점을 볼 수 있습니다. 두 번째 과정은 양자 워크가 만들어내는 패턴을 사용하여, 직접 연결되어 있지 않더라도 멀리 떨어진 노드 사이의 연결을 찾아냅니다. 이는 네트워크가 표준적인 방법으로는 수행하기 어려운, 유사한 특성을 공유하는 먼 친구를 찾는 데 도움을 줍니다. 세 번째 과정은 즉각적인 이웃에 집중하는 보다 전통적인 방식으로, 모든 것이 유사한 그래프에서도 시스템이 잘 작동하도록 보장합니다. 이 세 가지 정보의 흐름을 결합함으로써, 네트워크는 기존의 방법이나 새로운 양자 방식 단독으로는 달성할 수 없는 풍부하고 상세한 데이터의 그림을 만들어냅니다.

연구진은 소셜 네트워크부터 화학 구조에 이르기까지 14개의 서로 다른 데이터셋을 대상으로 이 새로운 시스템을 테스트했습니다. 결과는 놀라웠습니다. 모든 데이터셋에서 새로운 시스템은 기존의 가장 우수한 방법들을 능가했습니다. 연결된 노드들이 서로 매우 다른 그래프에서도 새로운 시스템은 정확도를 상당한 수준으로 향상시켰으며, 이는 다양한 관계로부터 길을 잃지 않고 성공적으로 학습할 수 있음을 증명했습니다. 노드들이 매우 유사한 그래프에서도 기존의 최고 도구들과 마찬가지로 잘 작동하여, 균일한 데이터를 처리하는 능력을 희생하지 않았음을 보여주었습니다. 아마도 가장 중요한 점은, 연구진이 네트워크를 점점 더 깊게 만들었음에도 불구하고 정보가 균일한 흐릿함으로 붕ku지 않았다는 것입니다. 각 노드의 고유한 특징은 많은 층의 처리 과정을 거친 후에도 여전히 뚜렷하게 유지되었습니다. 이는 양자에서 영감을 얻은 접근 방식이 수년간 이 분야를 괴롭혀온 오버 스무딩 문제를 성공적으로 해결했음을 확인시켜 주었습니다.

이것이 단순히 운 좋은 추측이 아님을 확실히 하기 위해, 팀은 자신들의 방법이 왜 작동하는지에 대한 엄격한 수학적 설명을 제공했습니다. 그들은 양자 워크가 정보의 에너지를 흡수하지 않고 반사하는 완벽한 거울 역할을 한다는 것을 보여주었습니다. 이 속성은 네트워크가 세부 사항을 잃지 않고 필요한 만큼 깊어질 수 있음을 보장합니다. 또한 그들은 양자 워크가 얼마나 오래 지속되어야 하는지에 대한 규칙을 설정하여, 시스템이 근거리 및 원거리 이웃 모두로부터 적절한 양의 정보를 포착할 수 있도록 했습니다. 이 새로운 방법의 계산 비용은 놀라울 정도로 낮아 가장 효율적인 기존 도구들의 속도와 일치하며, 이는 대규모 데이터셋에서도 속도가 느려지지 않고 사용될 수 있음을 의미합니다.

이 연구는 인공지능 분야에서 중요한 진전을 나타냅니다. 연구진은 아원자 세계의 원리를 빌려옴으로써, 이전보다 더 견고하고 유연하며 강력한 도구를 만들어냈습니다. 이는 현재 AI의 한계가 영구적인 장벽이 아니라, 정보가 흐르는 근본적인 규칙을 재고함으로써 극복될 수 있다는 것을 보여줍니다. 새로운 시스템은 단순히 기존 모델의 구멍을 메우는 것이 아니라, 기계가 이전에는 도달할 수 없었던 명확함으로 현실 세계의 복잡하고 다양하며 깊은 구조를 이해할 수 있도록 하는 새로운 토대를 구축합니다.