💬 NLP

TERGAD: Structure-Aware Text-Enhanced Representations for Graph Anomaly Detection

TERGAD 는 노드의 위상적 속성을 의미 있는 서사로 변환하는 대규모 언어 모델을 활용하고, 이를 게이트형 이중 분기 오토인코더를 통해 원래 속성과 융합하여 노드의 내용과 구조적 역할 간의 불일치로 발생하는 이상을 효과적으로 탐지하는 새로운 그래프 이상 탐지 프레임워크입니다.

원저자: Wen Shi, Zhe Wang, Huafei Huang, Qing Qing, Ziqi Xu, Qixin Zhang, Xikun Zhang, Renqiang Luo, Feng Xia

게시일 2026-05-20

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Wen Shi, Zhe Wang, Huafei Huang, Qing Qing, Ziqi Xu, Qixin Zhang, Xikun Zhang, Renqiang Luo, Feng Xia

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신이 혼잡한 도시에서 첩자를 찾아내려는 보안 요원이라고 상상해 보십시오. 일반적인 도시에서는 이상한 옷을 입은 사람 (나쁜 속성) 이나 다른 사람이 서 있지 않는 기이한 곳에 서 있는 사람 (나쁜 구조) 을 찾아볼 수 있습니다.

하지만 첩자가 완벽한 위장을 하고 군중 속에 서 있다면 어떨까요? 표면적으로는 평범해 보이지만, 군중 속에서의 그들 역할은 의심스럽습니다. 아마도 서로 대화해서는 안 되는 두 그룹을 연결하는 유일한 사람일 수도 있고, 외부인인 척하면서 긴밀한 클럽의 한가운데 서 있을 수도 있습니다. 전통적인 보안 카메라 (구형 컴퓨터 모델) 는 종종 이러한 첩자를 놓치는데, 그 이유는 사람의 옷이나 지도만 보고, 그 사람이 도시에 어떻게 어울리는지에 대한 이야기는 보지 않기 때문입니다.

이 논문은 도시의 지도를 이야기로 변환하는 "초지능 번역기"(대규모 언어 모델, 즉 LLM) 를 사용하여 이 문제를 해결하는 새로운 보안 시스템인 TERGAD를 소개합니다.

다음은 단계별 작동 방식입니다:

1. 지도를 이야기로 바꾸기 (번역기)

전통적인 모델은 그래프 (점과 선의 네트워크) 를 단순히 숫자로만 봅니다. TERGAD 는 초지능 AI 에게 지도를 읽게 하여 도시의 모든 단일 사람에 대한 짧고 자연스러운 언어의 이야기를 쓰게 합니다.

기존 방식: "노드 42 는 1,200 개의 연결을 가지고 있으며 99 백분위수에 속합니다."
AI 가 작성한 내용: "노드 42 는 초연결 허브로, 도시 상위 1% 에 위치해 있습니다. 이는 두 지역 간의 중요한 가교 역할을 하며 긴밀한 공동체에 깊이 뿌리내리고 있습니다."

차가운 숫자를 이야기로 바꿈으로써, AI 는 사람의 위치가 가진 의미를 이해할 수 있게 되며, 단순히 수학만 보는 것을 넘어섭니다.

2. 두 개의 머리를 가진 형사 (이중 분기 시스템)

AI 가 이러한 이야기들을 갖게 되면, TERGAD 는 나쁜 놈들을 찾아내기 위해 특수한 "두 개의 머리"를 가진 형사 시스템을 사용합니다:

머리 A (원본 데이터): 이 머리는 사람의 실제 파일 (직업이나 약력 같은 실제 속성) 을 봅니다.
머리 B (이야기): 이 머리는 AI 가 도시 내에서의 역할에 대해 쓴 새로운 "이야기"를 봅니다.

3. 지능적인 문지기 (게이트 퓨전)

여기가 교묘한 부분입니다. 때로는 이야기가 더 중요하고, 때로는 원본 파일이 더 중요합니다.

사람의 파일은 정상이지만, 이야기가 "이 사람은 적대적인 갱단 간의 가교입니다"라고 말한다면, 시스템은 이야기에 더 신뢰합니다.
이야기가 모호하지만 파일에 의심스러운 은행 계좌가 표시된다면, 시스템은 파일을 신뢰합니다.

TERGAD 는 모든 단일 사람에 대해 이야기와 원본 파일 중 어느 쪽에 더 많은 가중치를 둘지 결정하는 지능적인 문을 사용합니다. 이를 통해 두 가지를 완벽하게 융합합니다.

4. "재구성" 테스트 (첩자 찾아내기)

마지막으로, 시스템은 이 융합된 정보를 사용하여 도시를 다시 재구성해 보려고 시도합니다.

시스템이 사람의 프로필과 연결 관계를 쉽게 재구성할 수 있다면, 그 사람은 정상일 가능성이 높습니다.
시스템이 그들을 재구성하는 데 어려움을 겪는다면 (이야기와 파일이 맞지 않거나 패턴에 맞지 않기 때문), 시스템은 그들을 이상치로 표시합니다.

왜 이것이 더 나은가요?

저자들은 이 방법을 인용 네트워크 (논문이 서로 연결되는 네트워크) 와 소셜 네트워크와 같은 여섯 가지 실제 세계 네트워크에서 테스트했습니다. 그 결과 다음과 같은 사실을 발견했습니다:

숫자만 보는 구식 방법들은 평범한 척 숨는 데 능숙한 첩자를 종종 놓칩니다.
LLM 을 사용하여 이야기를 작성함으로써 시스템이 연결의 맥락을 이해하는 데 도움이 되었습니다.
새로운 시스템 (TERGAD) 은 다른 모든 최상위 방법들보다 일관되게 "첩자"를 찾아내는 데 더 뛰어났습니다.

"초지능 번역기"에 대한 한 가지 참고 사항

이 논문은 LLM 에게 두 개의 머리를 가진 시스템 없이 직접 보안 요원이 되어달라고 요청할 수 있는지 또한 테스트했습니다. 결과는 어땠을까요? LLM 단독으로는 그 임무가 매우 형편없었습니다. 마치 뛰어난 소설가에게 지도를 주고 아무 도구 없이 첩자를 찾아달라고 요청하는 것과 같습니다. 그들은 세부 사항에 빠져 길을 잃습니다. LLM 은 더 나은 설명을 생성하는 도구로 사용될 때 가장 잘 작동하며, 이렇게 생성된 설명은 이후 전문적인 형사 시스템에 입력됩니다.

요약하자면: TERGAD 는 단순히 점과 선을 보는 것이 아니라, AI 에게 그 점과 선이 무엇을 의미하는지에 대한 이야기를 들려달라고 요청한 후, 그 이야기를 사용하여 다른 사람들이 놓치는 이상치를 포착합니다.

기술 요약: TERGAD

문제 정의
그래프 이상 탐지 (GAD) 는 대다수의 패턴과 벗어난 비정상적인 노드, 엣지, 또는 하위 구조를 식별하는 것을 목표로 합니다. 딥러닝 접근법이 GAD 를 발전시켰지만, 많은 실세계 그래프는 풍부한 설명적 속성이 결여된 "텍스트가 부족한" 또는 순수한 구조적 특성을 겪고 있습니다. 기존 텍스트 풍부 접근법은 원시 텍스트 특징을 사용하여 구조적 맥락을 통합하지만, 노드 자체의 구조적 맥락을 간과합니다. 이러한 한계는 노드의 고유한 내용과 그 위상적 역할 간의 불일치로 인해 발생하는 정교한 이상 탐지를 방해합니다 (예: 정상적인 속성을 가지면서도 악의적인 브리지 역할을 하는 노드). furthermore, 예비 연구에 따르면 원시 (vanilla) 대규모 언어 모델 (LLM) 은 제로샷 설정에서 근본적인 구조적 이상을 파악하는 데 어려움을 겪으며, 그래프 합성곱 네트워크 (GCN) 기반 모델에 비해 크게 뒤처집니다. 핵심 과제는 추상적인 그래프 위상을 의미 있는 표현으로 효과적으로 변환하고, 과도한 계산 비용이나 구조적 충실도 손실 없이 그래프 학습 모델과 통합하는 데 있습니다.

방법론: TERGAD
저자들은 TERGAD(그래프 이상 탐지를 위한 구조 인식 텍스트 향상 표현) 를 제안합니다. 이는 데이터 증강 파이프라인을 통해 원시 구조 정보와 LLM 기반 의미 추론을 연결하는 프레임워크입니다. 방법론은 네 가지 주요 단계로 구성됩니다:

그래프 - 텍스트 변환 (의미 풍부화):
프레임워크는 구조화된 프롬프트 템플릿을 사용하여 원시 그래프 입력을 노드 수준의 자연어 설명으로 변환합니다. 이 과정은 전역 통계 (노드/엣지 수), 차수 분포, 고차 위상 특징 (클러스터링 계수, k-코어 번호, 중심성 측정치), 그리고 커뮤니티 구조를 유창하고 인간이 해석 가능한 서사로 인코딩합니다. 예를 들어, 노드의 차수는 전역 백분위수와 관련하여 맥락화됩니다 (예: "전체 노드의 상위 1%"). 또한, 노드의 역할 (허브, 브리지, 주변부) 은 휴리스틱 임계값에 따라 명시적으로 할당됩니다. 중요한 점은 노드 인덱스는 테스트 세트 정보를 유출하지 않으면서 교차 모드 정렬을 유지하기 위한 영구 식별자로서만 사용된다는 것입니다.
LLM 기반 의미 임베딩:
생성된 자연어 설명은 사전 훈련된 LLM(구체적으로 BGE-large-en-v1.5) 에 의해 처리되어 고수준 의미 임베딩 ( $Z_{LLM}$ ) 을 도출합니다. 저자들은 문장 표현을 위해 마지막 토큰 풀링을 사용하며, 모든 노드와 차원에 걸쳐 Z-점수 표준화를 적용하여 이러한 임베딩의 통계적 분포를 일반적인 전처리된 그래프 특징과 정렬함으로써 하류 학습의 안정성을 보장합니다.
이중 분기 게이트 오토인코더:
핵심 아키텍처는 원래 노드 속성 ( $X$ ) 과 LLM 에서 파생된 의미 임베딩 ( $Z_{LLM}$ ) 의 두 가지 보완적 입력을 처리하는 이중 분기 오토인코더입니다.
- 분기: 두 개의 평행한 그래프 합성곱 네트워크 (GCN) 분기가 속성 분기와 의미 분기에 대해 이웃 정보를 독립적으로 집계합니다.
- 게이트 퓨전: 학습 가능한 게이트 메커니즘이 두 분기에서 온 잠재 표현을 적응적으로 융합합니다. 게이트 ( $G$ ) 는 각 노드와 특징 차원에 대해 각 분기의 기여도를 동적으로 결정하여, 모델이 각 노드의 특정 맥락에 따라 원시 구조 데이터와 LLM 기반 의미 사전 지식을 균형 있게 조정할 수 있게 합니다.
- 재구성: 공유 디코더는 융합된 잠재 표현으로부터 원래 노드 속성과 그래프 인접 행렬을 모두 재구성합니다.
이상 점수 산정:
각 노드의 이상 점수는 통합된 재구성 오차를 기반으로 계산됩니다. 이는 인접 행렬 재구성의 오차 (구조적 편차) 와 노드 속성 재구성의 오차 (속성 편차) 를 하이퍼파라미터 $\alpha$ 로 가중치하여 결합합니다. 높은 점수는 관측 가능한 속성과 LLM 기반 의미 기대치 모두에서 학습된 정상 패턴과 상당한 편차가 있음을 나타냅니다.

주요 기여

텍스트 풍부 그래프 구축: 이 논문은 위상적 지표를 자연어로 번역하여 속성 희소성을 해결하는 순수 구조적 그래프를 텍스트 풍부 표현으로 변환하는 체계적인 파이프라인을 소개합니다.
의미 유도 인코딩 및 적응적 융합: 구조화된 템플릿 기반 접근법이 LLM 을 통해 위상적 역할을 인코딩하며, 게이트가 있는 이중 분기 오토인코더와 결합됩니다. 이는 고수준 의미 사전 지식과 원시 구조 데이터를 조기 융합을 피하면서 선택적으로 통합할 수 있게 합니다.
실증적 검증: 코라 (Cora), 시터 (Citeseer), DBLP, ACM, Pubmed, BlogCatalog 등 여섯 개의 실세계 데이터셋에 대한 포괄적인 실험이 프레임워크의 효과를 입증했습니다.

실험 결과
TERGAD 는 재구성 기반 방법 (MLPAE, GCNAE, DOMINANT, AnomalyDAE), 생성/대조 모델 (GAAN, CoLA), 그리고 기타 고급 접근법 (GADNR, FIAD, AHFAN) 을 포함한 9 가지 최첨단 베이스라인과 비교 평가되었습니다.

성능: TERGAD 는 ROC-AUC 와 PR-AUC 측면에서 모든 여섯 개의 데이터셋에서 모든 베이스라인을 일관되게 능가했습니다. 주목할 만한 결과로는 Pubmed 에서 98.03% 의 ROC-AUC, DBLP 에서 97.72%, Citeseer 에서 95.78% 를 기록했습니다.
절차 제거 (Ablation) 연구:
- 구조화된 프롬프트 전략 제거 ("w/o Prompt") 는 상당한 성능 저하 (예: Cora 에서 약 17%) 를 초래하여, 위상을 역할 기반 자연어로 번역하는 것의 필요성을 입증했습니다.
- 게이트 퓨전 메커니즘 제거 ("w/o Gate") 는 최적이지 않은 성능으로 이어져, 모드 간 적응적 균형의 필요성을 강조했습니다.
- 프롬프트 구성 요소 (차수, k-코어, 중심성 등) 에 대한 세밀한 절차 제거 연구는 모든 구조적 설명자가 긍정적으로 기여함을 보여주었으며, 특히 k-코어 분해와 중심성 측정치가 결정적이었습니다.
- 다양한 LLM(Qwen3, nomic-embed) 을 테스트한 결과, 여러 모델이 작동하지만 이 작업에 가장 적합한 정렬을 제공하는 것은 BGE-large-en-v1.5 임이 확인되었습니다.
- 프롬프트 순서 분석은 모델이 구조적 사실의 구문적 순서에 대해 강건함을 밝혔으나, 서사 스타일 프롬프트가 구조화된 프로필 스타일 템플릿보다 더 우수한 성능을 보였습니다.
효율성: LLM 임베딩 생성은 일회성 전처리 비용을 수반하지만, TERGAD 의 학습 단계는 경쟁력 있으며, 더 큰 데이터셋에서 GAAN 및 DOMINANT 와 같은 복잡한 베이스라인보다 훨씬 빠르고 합리적인 메모리 사용량을 유지합니다.

의의 및 주장
이 논문은 TERGAD 가 원시 구조 정보와 LLM 기반 의미 추론 사이의 중요한 연결을 확립하여 구조적 그래프 학습을 효과적으로 강화한다고 주장합니다. 이 연구의 의의는 노드의 내용과 위상적 역할 간의 불일치로 인해 발생하는 정교한 이상을 탐지하는 능력에 있으며, 이는 종종 수치적 특징 공학에서 간과되는 뉘앙스입니다. LLM 단독으로는 그래프 이상을 신뢰할 수 있게 탐지할 수 없다는 점 (예비 제로샷 연구에서 보임) 과 게이트 아키텍처를 통해 통합될 때 강력한 의미 증강 모듈로 작용할 수 있음을 입증함으로써, 이 논문은 GAD 에 대한 새로운 관점을 제시합니다. 추상적인 위상을 기술적 텍스트로 변환하면 모델이 구조적 이해를 위해 LLM 의 추론 능력을 활용할 수 있어 속성이 부족한 네트워크에서 강력한 탐지로 이어진다는 것을 검증합니다. 이 프레임워크는 LLM 미세 조정이 필요 없는 유연한 플러그 - 앤 - 플레이 솔루션으로 제시됩니다.