인터넷을 단순히 웹사이트들의 평면적인 목록이 아니라, 거대하고 북적이는 하나의 도시라고 상상해 보십시오. 이 도시에는 상점, 사람, 은행과 같은 다양한 종류의 건물(노드)이 있고, 이들은 우정, 거래, 메시지와 같은 다양한 종류의 도로(엣지)로 연결되어 있습니다. 이 복잡한 지도를 **이종 그래프(Heterogeneous Graph)**라고 부릅니다. 이제 이 도시 어딘가에서 몇몇 건물들이 비밀리에 도시를 불태우거나 돈을 훔칠 계획을 세우고 있다고 상상해 보십시오. 이들이 바로 **이상치(anomalies)**입니다. 이들을 찾는 것은 파란색 벽돌 더미 속에서 빨간 벽돌 하나를 찾는 것과 같지만, 그 빨간 벽돌는 파란색 코트를 입고 파란색 건물 안에 숨어 있는 것과 같습니다.

오랫동안 컴퓨터 과학자들은 이 도시를 순찰하기 위해 **그래프 신경망(GNN)**이라는 도구를 사용해 왔습니다. 이 네트워크를 이웃의 목소리에 귀를 기울이며 학습하는 탐정 팀이라고 생각해 보십시오. 만약 어떤 건물이 수상한 이웃들에게 둘러싸여 있다면, 탐정은 직감을 얻게 됩니다. 하지만 대부분의 이 탐정들은 모든 건물이 똑같이 생긴 단순하고 지루한 도시에서 훈련되었습니다. 이들이 우리의 복잡하고 뒤섞인 도시를 순찰하려고 할 때, 그들은 혼란에 빠졌습니다. 그들은 세부 사항을 너무 많이 뭉개버려 모든 것을 똑같아 보이게 만드는 문제(이를 "오버 스무딩(over-smoothing)"이라 부릅니다)와, 정상적인 것들에 비해 드물고 까다로운 사례들을 무시하는 문제 때문에 미세한 단서들을 놓쳤습니다.

여기서 새로운 논문이 등장하여 신선한 탐정 도구 세트를 선보입니다. 연구진은 ChiGAD라는 시스템을 소개합니다. 그들은 복잡한 도시에서 악당들을 잡으려면 일반적인 필터가 무시하는 고음의 이상한 소리까지 들을 수 있는 필터가 필요하다는 것을 깨달았습니다. 그들은 **카이제곱 웨이브릿 필터(Chi-Square Wavelet Filter)**라는 특별한 수학적 도구를 발명했습니다. 이 필터를 일반적인 도시의 웅성거림을 듣는 것을 넘어 특정하고 날카로운 경보음까지 잡아낼 수 있는 초민감 마이크라고 상상해 보십시오. 이 필터를 다양한 유형의 건물들을 다루는 스마트한 방식 및 가장 찾기 어려운 용의자들에게 특별히 주의를 기울이는 점수 산정 방식과 결합함으로써, ChiGAD는 다른 시스템이 놓치는 이상치를 포착해 냅니다.

탐정의 새로운 도구 상자

이 논문이 다루는 핵심 문제는 기존의 방법들이 모든 연결을 마치 물고기, 새, 곤충을 잡는 데 단 한 종류의 그물을 사용하는 것처럼 모든 연결을 동일하게 취급한다는 점입니다. **이종 정보 네트워크(HIN)**에서는 사용자, 제품, 거래와 같은 다양한 유형의 노드와 "구매했다", "좋아요를 눌렀다", "친구이다"와 같은 다양한 유형의 링크가 존재합니다. 저자들은 기존 방법들이 세 가지 주요 이유로 실패했다고 주장합니다:

1. 그들은 서로 다른 유형의 연결이 가진 고유한 "주파수"나 패턴(예: 꾸준한 우정과 갑작스럽고 수상한 거래의 차이)을 포착할 수 없었습니다.
2. 서로 다른 유형의 데이터를 결합하려 할 때 "고주파" 세부 사항(날카롭고 갑작스러운 변화)을 잃어버렸으며, 이는 사실상 단서들을 흐릿하게 만드는 결과를 초래했습니다.
3. 데이터가 매우 불균형하기 때문에(대부분 착한 사람들, 아주 적은 수의 나쁜 사람들) 희귀한 악당들로부터 학습하는 데 어려움을 겪었습니다.

이를 해결하기 위해 연구팀은 탐정 벨트에 있는 특화된 가젯처럼 작동하는 세 가지 부분으로 구성된 ChiGAD를 구축했습니다.

1. 멀티 그래프 카이제곱 필터: 올바른 채널에 주파수를 맞추다
먼저, 시스템은 **메타 경로(meta-paths)**라고 불리는 다양한 렌즈를 통해 도시를 바라봅니다. 메타 경로는 "사용자 → 구매함 → 제품 → 구매함 → 사용자"와 같이 도시를 통과하는 특정한 경로와 같습니다. 각 경로는 서로 다른 이야기를 들려줍니다. 저자들은 서로 다른 경로가 서로 다른 "주파수"의 활동을 가진다는 점에 주목했습니다. 어떤 경로는 꾸준하고 느린 반면, 어떤 경로는 변덕스럽고 빠릅니다.

모든 경로에 하나의 일반적인 필터를 사용하는 대신, ChiGAD는 카이제곱 웨이브릿 필터를 사용합니다. 이것을 일련의 라디오 튜너라고 생각해 보십시오. 시스템은 각 경로의 "노이즈"를 분석하고, 해당 경로의 주파수에 완벽하게 맞춰진 특정 카이제곱 필터를 할당합니다. 이는 탐정에게 특정 범죄 조직의 잡음만을 잡아내는 전용 라디오를 주는 것과 같습니다. 카이제곱 분포는 **가산성(additivity)**이라는 특별한 수학적 성질을 가지고 있기 때문에, 이 필터들은 매끄럽게 결합될 수 있습니다. 이를 통해 시스템은 신호가 뒤섞이지 않고도 모든 서로 다른 경로를 동시에 경청하며, 네트워크의 풍부하고 복잡한 의미론을 포착할 수 있습니다.

2. 상호작용 메타 그래프 컨볼루션: 차원 정렬
여기서 논문은 서로 다른 데이터 유형의 복잡함을 어떻게 처리할지에 대해 대담한 주장을 펼칩니다. 이종 그래프에서는 서로 다른 노드들이 서로 다른 수의 특징(차원)을 가집니다. 이들을 비교하려면 정렬해야 합니다. 많은 기존 방법들은 이를 정렬하기 위해 복잡한 비선형 도구(심층 신경망 등)를 사용했지만, 저자들은 이것이 종종 이상치를 포착하는 데 필요한 핵심인 "고주파" 세부 사항을 뭉개버린다고 주장합니다.

논문은 놀라울 정도로 간단한 해결책을 제안합니다: 바로 **선형 레이어(Linear Layer)**입니다. 사진의 크기를 조절한다고 상상해 보십시오. 복잡한 방법들은 누락된 픽셀을 "추측"하려고 시도하여 이미지를 흐릿하게 만들 수 있습니다. 선형 레이어는 데이터를 늘리거나 줄이되 새로운 세부 사항을 만들어내거나 날카로운 가장자리를 잃지 않는 정밀한 수학적 리사이징 도구와 같습니다. 저자들은 이 단순한 선형 접근 방식이 실제로 "고주파" 콘텐츠, 즉 이상치를 알리는 날카롭고 갑작스러운 변화를 보존하는 데 더 효과적임을 이론적, 실험적으로 증명합니다. 그들은 선형 정렬을 사용함으로써 시스템이 "오버 스무딩"에 저항하고, 의심스러운 세부 사항을 선명하고 명확하게 유지한다는 것을 보여줍니다.

3. 기여도 기반 교차 엔트로피 손실: 힘든 작업에 보상하기
마지막으로, "건초더미 속의 바늘 찾기" 문제가 있습니다. 이상치 탐지에서 악당들은 매우 드뭅니다. 단순히 전체 오류 횟수만 센다면, 시스템은 그냥 "모두가 착하다"라고 추측하는 것이 훨씬 쉽기 때문에 희귀한 악당들을 무시할 것입니다.

저자들은 **기여도 기반 교차 엔트로피 손실(Contribution-Informed Cross-Entropy Loss)**이라는 새로운 점수 산정 방식을 도입합니다. 이 시스템은 각 노드가 "고주파" 신호에 얼마나 기여하는지를 살펴봅니다. 그들은 정말로 탐지하기 어려운 악당들(모델이 놓치는 이들)이 일반적인 경우와는 다른 특정 유형의 기여도 시그니처를 가지고 있다는 점을 관찰했습니다. 새로운 손실 함수는 이러한 어려운 샘플들에 더 높은 "가중치" 또는 중요도를 부여합니다. 이는 마치 어려운 문제를 겪는 학생에게 추가 점수를 주는 선생님과 같아서, 선생님이 쉬운 문제들을 채점하는 데 그치지 않고 그 학생을 돕는 데 집중하도록 만듭니다. 이는 모델이 희귀하고 까다로운 이상치를 무시하는 대신, 그들에게 주의를 기울이도록 강제합니다.

연구 결과

연구진은 ACM(학술 논문 네트워크)과 금융 거래를 다루는 두 개의 실제 산업 데이터셋(WeChat Pay의 R-I 및 R-II)을 포함한 여러 데이터셋에서 ChiGAD를 테스트했습니다.

결과는 놀라웠습니다. ACM 데이터셋에서 ChiGAD는 이전의 최고 성능을 크게 앞지르는 0.9702의 AUROC(모델이 선량함과 악함을 얼마나 잘 구별하는지에 대한 척도)를 달성했습니다. R-I 데이터셋에서는 기존의 차세대 모델보다 AUPRC(희귀 사건에 대한 또 다른 핵심 지표)를 31.34% 개선했습니다. R-II 데이터셋에서도 모든 지표에서 일관된 개선을 보여주었습니다.

저자들은 여기서 멈추지 않고, "이종" 요소를 제거하여 ChiGNN이라는 더 단순한 버전을 만들어 Reddit과 Amazon 같은 7개의 서로 다른 동종(homogeneous) 데이터셋에서 테스트했습니다. 거의 모든 경우에서 ChiGNN은 기존의 최첨단 모델들을 능가했습니다. 이는 이들의 비법인 카이제곱 필터와 선형 정렬이 혼합된 노드 유형 없이도 강력하다는 것을 시사합니다.

시사점

이 논문은 카이제곱 웨이브릿 필터를 사용하여 특정 주파수에 맞추고, 선형 레이어를 통해 세부 사항을 날카롭게 유지하며, 기여도 기반 손실을 통해 가장 어려운 사례에 집중함으로써 훨씬 더 나은 이상치 탐지기를 구축할 수 있다고 결론짓습니다. 저자들은 데이터의 내용을 흐리게 만드는 복잡한 비선형 정렬 방식에 대해 명시적으로 반대하며, 단순함(선형 레이어의 형태)이 악당을 잡는 데 필요한 고주파 단서를 보존하는 데 종종 더 우월하다는 것을 보여줍니다.

이 논문이 세상의 모든 문제를 해결했다고 주장하는 것은 아니지만, 실험적 증거는 이 접근 방식이 큰 진전임을 보여줍니다. 데이터의 "주파수"를 이해하고 희귀한 사건의 난이도를 존중하는 것이 복잡하고 소음이 많은 세상에서 이례적인 것을 찾아내는 데 훨씬 더 효과적인 시스템을 만드는 길임을 보여줍니다. 이 새로운 탐정 도구의 코드는 다른 이들도 시도해 볼 수 있도록 공개되어 있으며, 이 방법들이 디지털 도시에서 더 많은 숨겨진 위협을 잡아낼 수 있을지 커뮤니티의 참여를 기다리고 있습니다.