🤖 machine learning

Graph Set Transformer

이 논문은 국소적 구조와 집합 전체의 문맥을 모두 요구하는 작업에서 기존 방법들을 능가하기 위해, 게이팅 메커니즘을 통해 노드 수준의 특징 전파와 그래프 간 문맥 모델링을 교차시키는 신경망 구조인 Graph Set Transformer(GST)를 소개한다.

원저자: Jose E. Escrig Molina, Baoquan Chen, Daniel Probst

게시일 2026-06-04

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Jose E. Escrig Molina, Baoquan Chen, Daniel Probst

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

복잡한 퍼즐을 풀려고 노력 중이라고 상상해 보세요. 하지만 퍼즐 조각을 하나씩 보는 대신, 여러 종류의 퍼즐이 한 상자에 뒤섞여 있는 상황입니다. 당신의 목표는 이 상자 안에 있는 특정 퍼즐의 조각들이 다른 퍼즐들의 조각들과 어떻게 연관되어 있는지 이해하는 것입니다.

이것이 바로 **그래프 세트 트랜스포머(Graph Set Transformer, GST)**가 해결하고자 하는 문제입니다.

기존 방식: "고립된 해결사들"

이전에는 컴퓨터가 관련된 아이템들의 집합(예: 일련의 화학 반응이나 사진 그룹)을 분석하려 할 때, 서로 단절된 두 단계의 과정을 거쳐야 했습니다.

1단계: 각 아이템을 개별적으로 살펴보고, 상자 안의 다른 아이템들은 완전히 무시한 채 그 아이템에 대한 짧은 요약 노트를 작성합니다.
2단계: 그 요약 노트들을 모두 모아 최종 결정을 내리기 위해 결합하려고 시도합니다.

결함: 이것은 다섯 명의 사람에게 각자의 동네에 대한 보고서를 쓰게 한 뒤 제출하게 하고, 그 후 여섯 번째 사람이 오직 그 보고서들만을 바탕으로 동네들이 어떻게 상호작용하는지 추측하게 하는 것과 같습니다. 여섯 번째 사람은 첫 다섯 명이 보고서를 쓰는 동안 서로 대화를 나누지 않았기 때문에 미묘한 차이를 놓치게 됩니다. 그들은 로컬(local)한 세부 정보를 수집하는 동안 '전체적인 그림(big picture)'이라는 맥락을 놓친 것입니다.

새로운 방식: "원탁 토론" (GST)

저자인 Jose E. Escrig Molina, Baoquan Chen, Daniel Probst는 **그래프 세트 트랜스포머(GST)**라는 새로운 아키텍처를 만들었습니다.

GST는 고립되어 작업하는 대신, 사고 과정의 매 단계마다 발생하는 원탁 토론처럼 작동합니다.

로컬 리스닝(Local Listening): 각 "노드"(그래프의 작은 부분, 예를 들어 분자 내의 원자)는 자신의 즉각적인 이웃들의 목소리를 듣습니다.
글로벌 샤우트아웃(Global Shout-out): 동시에, 전체 그래프 그룹은 모든 이들이 무엇을 하고 있는지에 대한 요약 내용을 "외칩니다".
게이팅 메커니즘(Gating Mechanism): 여기에 마법 같은 기술이 있습니다. 그래프의 모든 부분에는 작은 "문지기(gatekeeper)"(학습된 메커니즘)가 있습니다. 이 문지기는 다음과 같이 결정합니다. "지금 글로벌 요약 내용을 들어야 할까, 아니면 지금의 로컬 이웃 정보만으로 충분할까?"

특정 원자가 세트 내의 다른 분자에서 일어나고 있는 반응에 대해 알아야 한다면, 문이 열리고 그 정보가 즉시 흘러 들어옵니다. 만약 정보가 필요하지 않다면 문은 닫힌 상태를 유지합니다. 이 과정은 레이어 단위로 발생하며, 로컬한 세부 사항과 글로벌한 맥락을 끊임없이 혼합합니다.

비유: 탐정단

여러 명의 용의자(그래프 세트)가 관련된 범죄를 해결하려는 탐정 팀을 상상해 보세요.

기존 방식: 각 탐정이 별도의 방에서 각자의 용의자를 심문하고 보고서를 작성하면, 팀장이 그 보고서들을 읽고 사건을 해결하려고 합니다. 그들은 용의자 A의 알리바이가 용의자 B의 이야기와 모순된다는 사실을 놓치게 되는데, 왜냐하면 심문하는 동안 서로 의견을 교환하지 않았기 때문입니다.
GST 방식: 탐정들은 용의자들을 심문하지만, 동시에 다른 탐정들의 심문 내용을 실시간 영상 피드로 볼 수 있습니다. 질문을 던지는 도중에도, 용의자 B로부터 얻은 단서가 용의자 A의 답변을 어떻게 다르게 해석하게 만드는지 즉각적으로 확인할 수 있습니다. 그들은 전체 팀의 맥락을 사용하여, 용의자와 대화를 나누는 동안 이해도를 업데이트합니다.

무엇을 증명했는가?

연구진은 이 새로운 "원탁 토론" 방식이 기존의 "고립된" 방식보다 우수함을 세 가지 특정 분야에서 테스트했습니다.

합성 퍼즐(Synthetic Puzzles): 그들은 그룹 내에서 "가장 중요한" 항목을 찾고 그로부터의 거리를 측정하는 데 답이 달린 가짜 수학 퍼즐을 만들었습니다. GST는 특히 퍼즐이 어려워질 때 훨씬 더 잘 해결했습니다. 이는 정보를 프로세스 도중에 로컬 정보와 글로벌 정보를 섞는 것이 마지막에 하는 것보다 더 낫다는 것을 입증했습니다.
화학 (반응 수율): 그들은 화학 반응이 얼마나 많은 생성물을 만들어낼지 예측하는 실험을 했습니다. 화학에서는 한 분자가 어떻게 반응하는지가 종종 혼합물 속에 있는 다른 분자들에 의해 결정됩니다. 구성 요소들 사이의 대화를 허용하는 GST는 기존 방식보다 더 정확하게 결과를 예측했습니다.
화학 (반응 중심): 그들은 반응에서 정확히 어떤 원자들이 변하는지를 식별하려고 했습니다. 여기서도 반응 중인 다른 분자들이 무엇을 하고 있는지 아는 것이, 고립된 접근 방식보다 GST가 올바른 원자를 더 잘 짚어내는 데 도움이 되었습니다.
이미지 분류: 그들은 이미지 그룹(예: 5장 또는 10장의 사진 세트)에 대해서도 테스트했습니다. GST는 한 이미지의 특징이 다른 이미지의 이해에 영향을 줄 수 있게 함으로써 전체 세트를 분류하는 데 더 뛰어난 성능을 보였습니다.

트레이드오프 (Trade-off)

한 가지 주의할 점이 있습니다. GST는 매 단계마다 "원탁 토론"을 하기 때문에, 기존 방식보다 컴퓨터 시간이 더 많이 걸립니다(약 4~6배 더 오래 걸림). 이는 매우 생산적이지만 개최하는 데 시간이 오래 걸리는 회의와 같습니다.

하지만 저자들은 특정 버전의 모델(GST-bc)이 더 복잡한 버전만큼 정확하면서도 조금 더 빠르며, 이를 권장 모델로 제안했습니다.

핵심 요약

이 논문은 여러분이 관련된 것들의 집합(그래프)을 가지고 있고, 정답이 그것들이 서로 어떻게 연관되는지에 달려 있다면, 그것들을 하나씩 분석한 다음 결과를 결합해서는 안 된다고 주장합니다. 대신, 분석하는 동안 정보를 계속 공유하게 해야 합니다. 그래프 세트 트랜스포머는 정확히 그렇게 수행하며, 컴퓨터 성능이 뒷받받된다면 모든 테스트에서 승리합니다.

기술 요약: 그래프 세트 트랜스포머 (Graph Set Transformer, GST)

문제 정의

그래프의 집합(순서가 없는 그래프들의 모임)을 다루는 머신러닝 태스크는, 예측이 로컬 그래프 구조와 전역적인 세트 단위 문맥 모두에 의존하는 경우 중요한 아키텍처적 과제를 제기합니다. DeepSets나 Set Transformer와 같은 기존 방식은 일반적으로 순차적인 파이프라인을 따릅니다. 즉, 먼저 그래프 신경망(GNN)을 사용하여 개별 그래프를 고정된 벡터 임베딩으로 인코딩한 다음, 이 임베딩들을 집계하기 위해 순열 불변(permutation-invariant) 세트 헤드를 적용합니다.

저자들은 이러한 순차적 단계 구성이 병목 현상을 만든다고 주장합니다. 이러한 파이프라인에서는 세트 전체의 정보를 인지하지 못한 채 계산된 요약 임베딩으로부터 최종 단계에서만 세트 수준의 정보가 재구성됩니다. 이러한 분리는 특정 그래프의 로컬 구조가 전체 세트의 전역 문맥과 어떻게 상호작용하는지에 대해 모델이 효과적으로 추론하는 것을 방해하며, 이는 반응 수율 예측이나 반응 중심 식별(반응에 참여하는 모든 분자의 상태에 따라 원자의 거동이 결정되는 작업)과 같은 태스크에서 필수적인 요소입니다.

방법론

본 논문은 각 레이어에서 로컬 노드 수준의 특징 전파와 교차 그래프 문맥 모델링을 순차적으로 배치하는 대신, 이를 서로 교차하여 수행하도록 설계된 신경망 아키텍처인 **Graph Set Transformer (GST)**를 소개합니다.

아키텍처 개요

GST의 핵심은 그래프 세트 $S = \{G_1, G_2, \dots\}$ 를 처리하는 graphsetconv 블록입니다. 이 블록은 노드 특징 $x_i$ 를 업데이트하기 위해 다섯 가지 별개의 단계를 거칩니다.

로컬 메시 패싱 (Local Message Passing): 표준 그래프 합성곱 네트워크(GCN) 레이어가 1-hop 이웃으로부터 특징을 집계합니다. 저자들은 세트 내 그래프들의 다양한 크기를 처리하고 그래프 수준의 활성화 크기를 안정적으로 유지하기 위해 LayerNorm 대신 GraphNorm을 사용합니다.
어텐셔널 풀링 (Attentional Pooling): 각 그래프는 노드 특징의 소프트맥스 가중 합을 통해 단일 $d$ 차원 토큰( $z_g$ )으로 요약됩니다. 이는 교차 그래프 정보 흐름을 위한 병목 지점이 됩니다.
세트 수준 문맥화 (Set-Level Contextualization): 세트 내 모든 그래프의 그래프 토큰( $z_g$ )들이 멀티 헤드 셀프 어텐션(MHSA) 블록을 사용하여 서로를 참조합니다. 이 단계는 세트 전반의 문맥(예: 극점 식별, 분포 요약 또는 순위 지정)을 포착하고 그래프 토큰( $\tilde{z}_g$ )을 업데이트합니다.
문맥 라우팅 (Context Routing): 업데이트된 세트 문맥이 개별 노드로 다시 전달됩니다. 저자들은 이 단계에 대해 두 가지 변형을 제안합니다:
- GST-bc (Broadcast): 업데이트된 그래프 토큰 $\tilde{z}_g$ 가 해당 그래프의 모든 노드에 직접 브로드캐스트됩니다.
- GST-ca (Cross-Attention): 각 노드가 쿼리 메커니즘을 통해 업데이트된 그래프 토큰 세트에 어텐션을 수행합니다.
게이티드 퓨전 (Gated Fusion): 원래의 노드 특징, 로컬 문맥, 그리고 세트 문맥이 학습된 비대칭 게이팅 메커니즘을 사용하여 융합됩니다. 얕은 MLP가 게이트를 생성하여 노드가 세트 문맥( $v_i$ )과 로컬 문맥( $u_i$ ) 중 어느 것을 얼마나 흡수할지 결정합니다. 이를 통해 노드는 로컬 그래프에 이미 충분한 정보가 있는 경우 세트 문맥을 무시할 수 있습니다.

전체 모델은 $L$ 개의 이러한 블록 스택과 태스크별 출력을 위한 MLP 헤드로 구성됩니다.

주요 기여

아키텍처 혁신: 본 논문은 특징 추출과 세트 문맥화를 매 레이어에서 융합하는 새로운 아키텍처를 제안하며, 이는 기존의 "인코딩 후 집계" 파이프라인와 대조됩니다.
게이팅 메커니즘: 비대칭 게이팅 메커니즘의 도입은 로컬(부모 그래프)이 항상 우선이라는 귀납적 편향을 존중하면서도, 세트의 영향력이 문맥에 따라 달라질 수 있도록 로컬 및 글로벌 정보의 적응적 혼합을 가능하게 합니다.
포괄적 평가: 저자들은 다음과 같은 분야에서 GST를 평가했습니다:
- 합성 벤치마크: 세트 조건부 구조적 추론(예: RING-K, BALL-K, DIST, Extrapolation 태스크)을 격리하도록 설계되었습니다.
- 화학적 응용: 반응 수율 예측(Buchwald-Hartwig) 및 반응 중심 식별(USPTO-15K).
- 이미지 분류: CIFAR-10 세트 분류(그래프로 인코딩된 이미지 사용).
절제 실험 및 분석: 파라미터 수가 일치하는 비교와 아키텍처 절제 실험을 통해, 성능 향상이 단순히 모델 용량의 증가가 아니라 인터리브(interleaved)된 아키텍처에서 비롯됨을 입증했습니다.

결과

매칭된 파라미터 예산 하에서, GST는 모든 평가 설정에서 베이스라인(GCN + DeepSets 및 GCN + Set Transformer)을 일관되게 능가합니다:

합성 벤치마크: GST 변형 모델들은 특히 세트 조건부 추론의 복잡성이 높아질 때(예: RING-K 태스크에서 $K$ 가 커질 때) 베이스라인보다 현저히 우수한 성능을 보입니다. 성능 격차는 세트 크기 변화가 커질수록 넓어지며, 이는 GST가 단순히 훈련 세트의 통계치를 포착하는 것이 아니라 세트 연산을 포착함을 나타냅니다.
반응 수율 예측: GST는 우수한 $R^2$ 점수를 달s하며, 가장 큰 이득은 저데이터, 노이즈가 많은 환경(예: 2.5% 훈련 데이터에서 GST-bc의 $R^2 = 0.53$ vs GCN-ST의 $0.18$)에서 관찰되었습니다.
반응 중심 예측: USPTO-15K 벤치마크에서 GST-bc는 자연스러운 파라미터 예산에서 최적의 베이스라인보다 5.7 AP 포인트 높은 성과를 거두었습니다. 이러한 우위는 GST를 베이스라인의 파라미터 수에 맞춰 축소하거나, 베이스라인을 GST의 용량에 맞춰 확장하더라도 지속됩니다.
이미지 분류: CIFAR-10 세트 분류에서 GST 변형 모델들은 ROC-AUC 및 PR-AUC 지표 모두에서 GCN 기반 베이스라인을 일관되게 앞서며, 세트 크기가 증가해도 그 격차가 유의미하게 유지됩니다.

계산 비용: 저자들은 트레이드오프를 인정합니다. 매 레이어에서 세트 수준의 어텐션을 인터리브하기 때문에 GST는 베이스라인보다 약 4~6배 높은 훈련 단계당 실제 실행 시간(wall-clock cost)이 소요됩니다. 그러나 브로드캐스트 변형(GST-bc)은 정확도 손실을 거의 없이 교차 어텐션 변형보다 더 효율적인 대안을 제공합니다.

의의 및 주장

본 논문의 주요 의의는 그래프 인코딩과 세트 추론 사이의 병목 현상을 제거하는 데 있습니다. 로컬 정보와 세트 수준의 정보를 교차함으로써, 이 아키텍처는 요소들이 최종 풀링 단계까지 기다리지 않고 특징 추출 단계 동안 동적으로 서로를 문맥화할 수 있도록 합니다.

저자들은 이러한 아키텍처의 변화가 화학과 같이 분자(또는 분자 내의 원자)의 거동이 반응 혼합물 내의 다른 분자들의 존재와 특성에 본질적으로 의존하는 도메인에서 특히 중요하다고 주장합니다. 결과는 "인터리빙 귀납적 편향(interleaving inductive bias)"이 세트 조건부 구조적 추론을 요구하는 태스크에서 단순한 모델 용량에 의존하지 않고 강력한 대안을 제공하는 근본적인 이점임을 시사합니다.