🤖 machine learning

Never Skip a Batch: Dense Learning of Temporal GNNs via Adaptive Pseudo-Supervision

이 논문은 과거의 레이블 분포를 활용하여 그래디언트 분산을 줄이고 시계열 그래프 네트워크의 수렴 속도를 크게 가속화하는 동시에 예측 성능을 높이는 적응형 의사 감독 방법인 이동 평균 레이블(Moving-Averaged Labels, MAL)을 소개한다.

원저자: Alexander Panyshev, Dmitry Vinichenko, Oleg Travkin, Roman Alferov, Alexey Zaytsev

게시일 2026-06-30

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Alexander Panyshev, Dmitry Vinichenko, Oleg Travkin, Roman Alferov, Alexey Zaytsev

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

문제점: "침묵하는 교실"

당신이 학생(그래프 노드)들이 다양한 주제(음악 장르나 주식 같은 레이블)와 어떻게 상호작용하는지 배우려는 교사(AI 모델)라고 상상해 보세요.

일반적인 교실에서 교사는 학생들이 얼마나 잘하고 있는지 확인하기 위해 매일 퀴즈를 받습니다. 그리고 퀴즈 결과에 따라 교사는 자신의 교수 스타일을 조정합니다. 이것이 **지도 학습(supervised learning)**입니다.

하지만 **시공간 그래프(Temporal Graphs, 시간에 따라 변하는 동적 네트워크)**의 세계에서는 이 "퀴즈"가 매우 드물게 나타납니다. 100일 중 단 2일만 퀴즈를 받는 학교를 상상해 보세요. 나머지 98일 동안 교사는 학생들의 상호작용을 지켜보기만 할 뿐, 아무런 피드백을 받지 못합니다.

현재의 문제점:
피드백을 2%의 시간 동안만 받기 때문에, 교사는 자신의 교수법을 2%의 시간 동안만 업데이트합니다. 나머지 98일 동안 교사는 그저 "지켜보기"만 하며 아무것도 하지 않습니다. 이는 학습을 매우 느리고 비효하게 만듭니다. 교사는 본질적으로 수업 시간의 98%를 건너뛰고 있는 셈입니다.

해결책: "이동 평균 레이블" (Moving-Averaged Labels, MAL)

저자들은 **이동 평균 레이블(MAL)**이라는 영리한 트릭을 제안합니다. 과거에 배웠던 내용을 바탕으로 실제 퀴즈 대신 "연습 퀴즈"를 만드는 것입니다.

이것은 마치 일기 예보와 같습니다:

기존 방식: 지금 당장 온도계가 있어야만 온도를 확인합니다. 온도계가 없다면 아무것도 추측하지 않습니다.
MAL 방식: 지난 며칠간의 온도를 살펴봅니다. 어제 70°F였고 그 전날이 72°F였다면, 오늘은 아마 71°F 정도일 것이라고 가정합니다. 온도계가 지금 당장 없더라도, 이 "추정된" 온도를 사용하여 하루를 계획합니다.

논문의 방법론에서는 다음과 같이 진행됩니다:

역사적 기억: AI는 특정 사용자에 대해 과거에 보았던 레이블(정답)을 살펴봅니다.
"이동 평균": AI는 "부드러운(soft)" 예측을 계산합니다. 단순히 "사용자가 재즈를 좋아한다"라고 말하는 대신, "사용자의 이력을 바탕으로 볼 때 재즈를 좋아할 확률은 60%, 락을 좋아할 확률은 40%이다"라고 말합니다.
배치를 절대 건너뛰지 마라 (Never Skip a Batch): 이제 실제 퀴즈가 없는 날에도 AI는 이 "연습 퀴즈"를 사용하여 학습을 계속합니다. 실제 피드백이 있는 2일 동안뿐만 아니라, 매일매일 자신의 뇌를 업데이트합니다.

왜 이것이 작동하는가 (이론)

저자들은 인간의 선호도(음악 취향이나 거래 습관 등)가 즉각적으로 변하지 않기 때문에 이 방법이 작동한다고 주장합니다. 선호도는 천천히 변화합니다.

노이즈의 비유: 소음이 심한 방에서 노래를 들으려고 노력한다고 상상해 보세요. 만약 아주 짧은 순간(단일 데이터 포인트)만 듣는다면, 소음 때문에 노래가 다르게 느껴질 수 있습니다. 하지만 더 오랫동안 소리를 듣고 평균을 내면(이동 평균), 소음은 상쇄되고 진정한 멜로디를 훨씬 더 명확하게 들을 수 있습니다.
결과: 이러한 역사적 평균을 사용함으로써, AI는 학습 과정에서의 "노이즈"를 줄입니다. 이론적으로 이는 학습 과정이 훨씬 더 빠르게 수렴(학습 완료)하도록 만듭니다. 구체적으로, 논문은 동일한 숙련도에 도달하는 데 6배 더 빠를 수 있다고 주장합니다.

무엇을 테스트했는가

연구진은 네 가지 실제 데이터셋(국제 무역, 음악 장르, 레딧 활동, 암호화폐 거래 등)을 통해 이 방법을 테스트했습니다. 이들은 자신들의 방법을 다음 세 가지와 비교했습니다:

바닐라 학습 (Vanilla Training): 레이블이 없는 날을 건너뛰는 표준 방식.
다른 의사 레이블링 (Other Pseudo-labeling): 바로 직전에 레이블을 보았던 시점만을 기준으로 정답을 추측하는 방식 (Persistent Forecast).
스무딩 (Smoothing): 정답을 덜 날카롭게 만들기 위해 약간 흐릿하게 만드는 기술.

결과:

속도: 이 방법은 표준 방식보다 6배 더 빠르게 최고 성능에 도달했습니다.
품질: 대부분의 날에 "가짜"(의사) 레이블을 사용했음에도 불구하고, 최종 모델은 표준 모델보다 미래를 예측하는 능력이 실제로 더 뛰어났습니다.
다양성: 소규모 무역 네트워크부터 거대한 암호화폐 네트워크에 이르기까지 다양한 유형의 그래프에서 잘 작동했습니다.

"비법" (The Secret Sauce)

논문은 이 방법이 특별한 몇 가지 핵심 특징을 강조합니다:

추가적인 두뇌 불필요: AI가 레이블을 추측하기 위해 새로운 복잡한 방식을 배울 필요가 없습니다. 이는 기존 데이터에 적용된 단순한 수학 공식(평균)입니다.
강건성 (Robustness): 데이터가 지저도 있거나 레이블이 뒤섞여 있어도, 이 방법은 다른 방법들보다 더 잘 버텨냅니다.
"윈도우(Window)" 크기: 이 방법은 적절한 양의 과거 기록을 살펴볼 때 가장 잘 작동합니다. 너무 적은 기록을 보는 것은 노이즈가 심하고, 너무 많은 기록을 보는 것은 AI가 변화에 적응하는 것을 느리게 만듭니다. 저자들은 대부분의 상황에서 잘 작동하는 "스위트 스팟(sweet spot)"(윈도우 크기 약 7)을 찾아냈습니다.

요약

이 논문은 레이블이 누락된 "지루한" 학습 데이터 문제를 해결합니다. 레이블이 없을 때 학습 과정을 멈추는 대신, 과거 레이블의 시간 여행적 평균을 사용하여 AI가 매 초마다 학습을 계속하도록 합니다. 이를 통해 AI는 추가적인 컴퓨팅 능력이나 복잡한 새로운 구조 없이도 6배 더 빠르게 학습하고 더 똑똑해집니다.

기술 요약: 배치를 건너뛰지 마라: 적응형 의사 감독을 통한 시계열 GNN의 밀집 학습 (Never Skip a Batch: Dense Learning of Temporal GNNs via Adaptive Pseudo-Supervision)

1. 문제 정의

시계열 그래프 네트워크(Temporal Graph Networks, TGNs)는 동적 그래프 작업에서 최첨단 성능을 보이는 모델이지만, 실제 데이터셋에서의 **감독 희소성(supervision sparsity)**으로 인해 학습 효율이 심각하게 저해됩니다. 추천 시스템이나 이상 탐지(fraud detection)와 같은 많은 응용 분야에서 레이블이 있는 상호작용은 전체 이벤트의 2% 미만입니다. 결과적으로, 표준 TGN 구현은 두 가지 별개의 모드로 배치를 처리합니다:

감독 배치 (Supervised Batches): 그래디언트 업데이트 및 메모리 업데이트를 포함하는 전체 학습 단계.
비감독 배치 (Unsupervised Batches): 메모리와 이웃 샘플러 업데이트만 수행되며, 정답(ground-truth) 레이블이 없기 때문에 그래디언트 기반의 학습은 수행되지 않음.

이러한 "배치 건너뛰기(skip-a-batch)" 동작은 중요한 병목 현상을 생성합니다. 모델은 대다수의 데이터에 대해 파라미터 업데이트를 건너뛰게 되며, 이는 레이블이 마침내 가용해졌을 때 높은 분산의 그래디언트 업데이트를 초래하고 실제 벽시계 시간(wall-clock) 기준 수렴 속도를 늦춥니다. 본 논문은 노드의 선호도가 시간에 따라 천천히 진화한다는 점을 들어, 유휴 상태인 이러한 배치들을 위해 과거의 감독 신호를 활용하여 정보가 풍부한 의사 타겟(pseudo-targets)을 생성할 수 있다고 제안합니다.

2. 방법론: 이동 평균 레이블 (Moving-Averaged Labels, MAL)

저자들은 과거의 감독 신호를 기반으로 비감독 배치를 위한 소프트 타겟(soft targets)을 생성하는 의사 레이블링 기법인 **이동 평균 레이블(MAL)**을 제안합니다. 이 접근 방식은 기본 모델 아키텍처(예: TGNv2, DyRep)와 직교하며, 추가적인 학습 가능 파라미터를 도입하지 않습니다.

핵심 메커니즘

정답 레이블이 없는 배치 $B_t$ 내의 노드 $v$ 에 대해, MAL은 관찰된 과거 타겟들을 사용하여 의사 타겟 $\tilde{y}^{(v)}_t$ 를 구성합니다. 의사 타겟은 다음과 같이 정의됩니다:
$\tilde{y}^{(v)}_t = \bar{y}^{(v)}_t + \gamma \cdot \epsilon$
여기서:

$\bar{y}^{(v)}_t$ 는 과거 타겟들의 집합체입니다.
$\epsilon$ 은 균등 분포(uniform distribution)에서 샘플링된 평균이 0인 노이즈이며, $\tilde{y}^{(v)}_t$ 가 유효한 확률 분포(합이 1)를 유지하도록 정규화되었습니다.
$\gamma$ 는 정규화 역할을 하는 노이즈 스케일링 인자입니다.

집계 전략

본 논문은 $\bar{y}^{(v)}_t$ 를 계산하기 위한 세 가지 전략을 평가합니다:

지속적 예측 (Persistent Forecast, PF): 해당 노드에서 가장 최근에 관찰된 레이블을 재사용합니다.
이동 평균 (Moving Average, MA): 윈도우 크기 $w$ 를 사용하여 의사 레이블을 점진적으로 업데이트합니다. 새로운 타겟 $y^{(v)}_t$ 가 도착하면 집합체는 다음과 같이 업데이트됩니다:
$\bar{y}^{(v)}_t = \frac{w-1}{w}\bar{y}^{(v)}_{t-1} + \frac{1}{w}y^{(v)}_t$
역사적 평균 (Historical Average, HA): 모든 과거 타겟을 동일한 가중치로 집계합니다 (이론적 베이스라인).

학습 파이프라인

이 방법은 표준 TGN 학습 루프를 수정합니다. 정답 레이벨이 없는 배치가 도착하면, 모델은 선택된 집계 전략을 사용하여 의사 타겟 $\tilde{y}$ 를 계산합니다. 그 후 모델은 전체 순전파(forward pass)를 수행하고, 이 의사 레이블에 대해 교차 엔트로피 손실(cross-entropy loss)을 계산하며, GNN 파라미터와 메모리 모듈 모두를 업데이트하기 위해 역전파를 수행합니다. 이를 통해 "유휴" 계산을 생산적인 학습 단계로 전환합니다.

3. 이론적 분석

본 논문은 왜 MAL이 그래디언트의 분산을 줄여 수렴 속도를 개선하는지에 대한 이론적 근거를 제공합니다.

분산 감소: 사용자 선호도가 일정하거나 천천히 변한다는 가정하에, 저자들은 레이블 생성을 정답 레이블이 원-핫 벡터(one-hot vectors)인 과정으로 모델링합니다. 그들은 $h$ 개의 역사적 레이블을 집계하는 것(History Average)이 단일 관측값에 비해 레이블 추정치의 분산을 줄인다는 것을 증명합니다.
수렴 경계: $\mu$ -강볼록(strongly convex) 손실 함수를 가진 확률적 경사 하강법(SGD)에 대하여, 레그렛 경계(regret bound) $R_T$ 는 그래디언트 분산 $\sigma^2$ 에 비례합니다. 저자들은 History Average Labels (HA)의 경우, 분산이 $\frac{1}{\min(h, k)}$ 에 따라 스케일링된다는 것을 도출했습니다 (여기서 $h$ 는 이력 길이, $k$ 는 가능한 상호작용 클래스의 수).
결과: 이는 시계열 일관성 가정이 성립할 때, Vanilla 학습과 비교하여 $\min(h, k)$ 배수의 수렴 속도 향상을 이론적으로 시사합니다.

4. 실험 결과

저자들은 **시계열 그래프 벤치마크(Temporal Graph Benchmark, TGB)**의 네 가지 대규모 데이터셋(tgbn-trade, tgbn-genre, tgbn-reddit, tgbn-token)에서 MAL을 평가했습니다. 그들은 TGNv2와 (TGNv2의 소스-타겟 식별 기능을 통합한) 수정된 DyRepv2에 MAL을 구현했습니다.

주요 발견

예측 성능: MAL은 일관되게 Vanilla 학습 및 기타 대안 베이스라인보다 우수한 성능을 보였습니다. TGNv2 모델에서 Moving Average (MA)는 데이터셋 전반에 걸쳐 Vanilla 학습 대비 NDCG@10 성능을 **3%에서 17%**까지 향상시켰습니다.
수렴 속도: 가장 눈에 띄는 이점은 학습 효율성이었습니다. MAL은 모든 데이터셋에서 평균 6배의 시간-정확도(최고 점수에 도달하는 시간) 단축을 달est했습니다. 일부 사례(예: tgbn-token)에서는 Vanilla 모델이 완전히 수렴하는 데 걸리는 시간의 극히 일부만으로도 그 성능에 도달했습니다.
베이스라인과의 비교:
- Vanilla 모델: 기존의 많은 아키텍처(JODIE, TGAT, CAW-N 등)는 TGB 데이터셋에서 TGNv2의 특정 아키텍처적 개선 없이는 평균 타겟 베이스라인과 유사한 성능을 보이는 무의미한 솔루션으로 수렴했습니다.
- 대안적 의사 레이블링: MAL은 Persistent Forecast (PF), Label Smoothing, 그리고 자기 지도 학습(Self-Supervised, SSL) 기반의 다음 엣지 예측 전략보다 우수한 성능을 보였습니다.
- 윈도우 크기: 절제 연구(ablation study) 결과, 최적의 윈도우 크기는 데이터셋마다 달랐으나(예: trade의 경우 $w=3$ , Reddit의 경우 $w=9$ ), 기본값 $w=7$ 이 일반적으로 견고한 성능을 제공했습니다.
강건성:
- 노이즈: 이 방법은 다양한 노이즈 인자( $\gamma$ )에 대해 안정성을 유지했습니다.
- 시계열 셔플링: 학습 레이블을 셔플하여 시계열 일관성을 파괴했을 때, 모든 방법의 성능이 크게 떨어졌으며, 이는 이 성과가 단순한 정규화가 아닌 시계열 일관성에서 기인함을 확인시켜 줍니다.
- 희소성: 통제된 레이블 제거 실험 하에서, 감독이 희소해질수록 Vanilla 학습 대비 MAL의 상대적 이점이 증가했습니다.

5. 의의 및 주장

본 논문은 동적 그래프 학습의 근본적인 비효율성, 즉 비감독 배치에서의 계산 자원 낭비 문제를 해결한다고 주장합니다.

패러다임의 전환: 이 연구는 "감독될 때만 학습한다"에서 "항상 학습하되, 지능적으로 추론한다"로 패러다임을 전환합니다.
복잡성 없는 효율성: 이 방법은 모델 아키텍처를 수정하거나, 학습 가능한 파라미터를 추가하거나, 별도의 사전 학습 단계를 거치지 않고도 최첨단(SOTA) 결과와 상당한 속도 향상을 달성합니다.
이론적 근거: 역사적 감독을 집계하는 것이 그래디언트 분산을 줄여 더 빠른 수렴을 가져온다는 이론적 증명을 제공합니다.
실질적 영향: 희소한 데이터에서 밀집 학습(dense learning)을 가능하게 함으로써, 특히 레이블이 있는 이벤트가 드문 도메인에서 대규모 시계열 그래프 모델의 학습을 훨씬 빠르고 효과적으로 만듭니다.

저자들은 시계열 일관성이 활용되지 않은 채 남아있는 감독 신호이며, 이를 단순한 이동 평균을 통해 활용함으로써 그래디언트 희소성 문제에 대한 원칙적이고 경량화된 솔루션을 제공한다고 결론짓습니다.