技術要約：FITTER – 時刻付き知識グラフにおける語彙に依存しないクロスドメイン推論

1. 問題提起

時系列知識グラフ（Temporal Knowledge Graphs: TKGs）は、事実をタイムスタンプ付きの四つ組 $(s, p, o, \tau)$ として表現する、セマンティック・ウェブ・アプリケーションの中核をなすものである。既存の時系列知識グラフ埋め込み（TKGE）モデルは、リンク予測において成功を収めているが、主に**トランスダクティブ（学習データ内の要素を前提とする）**設定で動作している。これらのモデルは、推論グラフにおけるエンティティ、リレーション、およびタイムスタンプの語彙が、学習時と同一であるか、あるいはその部分集合であることを前提としている。その結果、これらはデータセット固有の埋め込みに依存しており、未知のエンティティ、リレーション、またはタイムスタンプを持つグラフへと汎化することができない。

この制限は、クロスドメイン転移を阻害する。例えば、あるTKG（例：日次粒度の外交イベント）で学習したモデルが、全く異なるTKG（例：年次粒度の百科事典的事実）に対して再学習なしに推論を行う必要がある場合などがこれに該当する。静的なグラフに対する既存の帰納的（インダクティブ）手法は、時間的なダイナミクスを考慮しておらず、既存の時系列モデルは、ドメイン間における時間的粒度、時間範囲、および語彙の不均一性を扱うことができない。本論文は、完全帰納的なクロスドメイン転移、すなわち、学習に使用したソースTKGと、エンティティ、リレーション、タイムスタンプのいずれも重複しないターゲットTKGを用いて欠損リンクを予測するという課題に取り組む。

2. 手法：FITTER

著者らは、TKGにおける完全帰納的なクロスドメイン推論のために設計された初の構造的モデルであるFITTER（Fully Inductive Time-aware Transferable Representation）を提案する。FITTERは、グラフ構造と相対的な時間の順序のみに基づいて表現を学習することで、データセット固有の埋め込みを回避する。

コアアーキテクチャ

FITTERは、ULTRAフレームワーク（NBFNetから派生した完全帰納的推論モデル）を基盤とし、3つの時間的コンポーネントを導入している。

1. 転移可能な時間エンコーディング (Transferable Temporal Encoding: TE):

   • 絶対的なタイムスタンプ（データセットごとに異なる）の埋め込みを学習する代わりに、FITTERはスナップショット・インデックスに対する**正弦波位置エンコーディング（sinusoidal positional encodings）**を用いて時間を表現する。
   • $i$ 番目のスナップショットに対するエンコーディング $TE(i)$は、短期的変動（高周波）と長期的依存関係（低周波）の両方を捉えるために、周波数$\omega_n = \beta^{-2n/d}$ を使用する。
   • この表現は**時間シフト不変（time-shift invariant）**である。ユークリッド距離は絶対的なタイムスタンプではなく、時間差 $\Delta \tau$ にのみ依存するため、異なる粒度（例：15分間隔 vs 年次）や時間範囲を持つデータセット間での転移が可能となる。

2. 時間認識メッセージパッシング (Temporal-Aware Message Passing):

   • FITTERは、異なる時間的ダイナミクスを持つリレーションを扱うために、二重グラフ伝播戦略を採用している。
     • グローバル・エンティティ・グラフ: TKG全体にわたってメッセージを伝播させることで、長距離の時間的依存関係を捉える。
     • ローカル・エンティティ・グラフ: クエリのタイムスタンプの周囲 $[i-k, i+k]$ の時間窓内に伝播を制限し、即時的なイベント依存関係を捉える。
   • 時間的メッセージ関数 (Temporal Message Function: T-MSG): 時間は、単なる別個の特徴量としてではなく、メッセージを変調させることで伝播プロセスに注入される。関数 $T-MSG$ は、隣接する表現、クエリのリレーション、および注入された時間エンコーディングに対して、時間的スコアリング関数（例：TComplEx）を適用する。

3. コンテキスト融合とスコアリング:

   • 最終的なエンティティ表現は、融合パラメータ $\alpha$ によって制御される、ローカル表現とグローバル表現の加重和である。
   • 多層パーセプトロン（MLP）は、融合された表現と時間エンコーディングを組み合わせて、欠損しているエンティティを予測する。

学習目的

FITTERは、負例サンプリングを用いたバイナリ・クロスエントロピー損失を用いて学習される。モデルは、構造的および時間的なパターンを最適化しながら、有効な四つ組と破損した四つ組を区別することを学習し、それらは語彙を越えて汎化するものである。

3. 主な貢献

• 問題定式化: 本論文は、学習グラフと推論グラフが互いに素なエンティティ、リレーション、タイムスタンプの集合を持つ、TKGにおけるクロスドメイン転移を完全帰納的リンク予測問題として定式化した。
• 語彙に依存しないフレームワーク: FITTERは、エンティティ、リレーション、タイムスタンプのデータセット固有の埋め込みを避け、固定サイズの「リレーション相互作用グラフ」と相対的な時間エンコーディングに依拠する、初のTKGEフレームワークである。
• 時間的転移可能性: 著者らは、絶対的な時間ではなく相対的な順序に基づく転移可能な時間表現を導入し、正弦波エンコーディングが時間シフト不変であることを理論的に証明した。
• 実証的検証: 異なるドメイン、粒度、時間範囲をカバーする6つの多様なTKGベンチマーク（ICEWS14, ICEWS05-15, GDELT, ICEWS18, YAGO, WIKI）にわたる広範な実験を実施した。

4. 実験結果

著者らは、15のクロスデータセット転移シナリオ（一つのデータセットで学習し、再学習なしに別のデータセットでテストする）においてFITTERを評価した。

• クロスドメイン性能: FITTERは、すべての15の転移設定において、既存の帰納的ベースライン（INGRAＭ, ULTRA, TRIX）を一貫して上回った。平均逆順位（MRR）およびHits@10において顕著な向上を示し、ドメイン（外交 vs 百科事典）、密度、および時間的粒度の違いに対する堅牢性を証明した。
• 補間 vs 外挿: モデルは、補間（観測された時間範囲内でのテスト）と外挿（将来のタイムスタンプでのテスト）の両方の設定において良好な性能を示した。
• LLMとの比較: 外挿タスクにおいて、FITTERは、純粋に構造駆動でありテキスト記述へのアクセスを持たないにもかかわらず、LLMベースの推論手法（ICL, GenTKG）をMRRおよびHits@10において上回った。
• トランスダクティブにおける競争力: 標準的なインドメイン（トランスダクティブ）設定において、FITTERは、単一の固定された語彙に依存しないモデルを使用しながら、完全に訓練されたトランスダクティブモデル（TComplexなど）のMRRの89～96%を回復した。これは、クロスドメイン汎化のためのコストがわずかであることを示している。
• アブレーション研究: 時間エンコーディング（TE）を取り除くと性能が大幅に低下した。これにより、相対的な時間的順序が、ドメイン間で構造的パターン（例：厳格な再帰性）を転移させるために不可欠であることが確認された。

5. 意義と主張

本論文は、語彙に依存しない構造的学習が、セマンティック・ウェブのヘテロジニアスな知識グラフに対する推論の実行可能な基盤であることを主張している。特定の小さなドメイン（例：ICEWS14）で訓練されたモデルが、再学習なしに、全く異なるドメイン（例：YAGOやGDELT）に対して効果的に推論できることを示すことで、FITTERはTKGにおける「コールドスタート」問題に対処している。

著者らは、彼らのアプローチが、データセット固有の識別子とは独立して、構造的および時間的な規則性（例：相互作用のシーケンスや繰り返されるパターン）を捉えていることを強調している。この能力は、データが乏しい場合や、あらゆる時系列グラフに対して個別のモデルを訓練することが計算コスト的に困難、あるいは不可能な実用的なデプロイメントにおいて特に価値がある。本研究は、データセット固有の最適化よりも転移可能性を優先する、新しい時系列推論のパラダイムを確立するものである。