技術的概要：PRIME（物理情報に基づくマルチスケール等変階層によるタンパク質表現）

問題定義

タンパク質は、原子間相互作用からグローバルなフォールドトポロジーに至るまで、協調的な構造組織から機能的性質が現れる、本質的にマルチスケールの物理系である。既存のタンパク質表現学習手法は、通常、単一の構造解像度（配列、原子、または表面レベルなど）で動作するか、異なる構造ソースを潜在整合や後期段階の融合を通じて統合された並列モダリティとして扱う。これらのアプローチは、構造スケール間の階層的関係（例：原子がアミノ酸残基を形成し、それが二次構造を形成し、さらにグローバルなフォールドを形成する仕組み）を明示的にモデル化することに失敗している。その結果、これらは明確な空間解像度を、共有された物理的階層内の入れ子になったレベルではなく、独立した意味的ビューとして扱うため、解像度を超えて現れる相互作用を捉える能力が制限される。

手法

著者らは、タンパク質を5つの物理的に裏付けられた構造グラフの入れ子構造の家族としてモデル化する統合フレームワークPRIMEを導入する。このフレームワークは、階層的グラフ構築とマルチスケールメッセージパッシングという2つの主要な段階を通じて動作する。

1. 階層的グラフ構築

PRIMEは、微細な解像度から粗い解像度まで5つのレベルにまたがる階層 $\mathcal{G} = \{G^{(0)}, G^{(1)}, G^{(2)}, G^{(3)}, G^{(4)}\}$ を定義する。

• レベル 0（表面）： ノードは分子表面メッシュの三角形の面である。
• レベル 1（原子）： ノードは重原子である。
• レベル 2（残基）： ノードはアミノ酸残基である。
• レベル 3（二次構造）： ノードは二次構造要素（SSE：ヘリックス、ストランド、ループ）である。
• レベル 4（タンパク質）： 全体のタンパク質を表す単一のノードである。

接続と割り当て：

• エッジ： 最も微細なレベル（$G^{(0)}$）は、面の重心に対して $k$ 近傍（$k=8$）を使用する。より粗いレベルのエッジは、分割行列 $\Pi^{(\ell)}$ を通じて最も微細なレベルから決定論的に導出され、$A^{(\ell)} = (\Pi^{(\ell)})^\top A^{(\ell-1)} \Pi^{(\ell)}$ となる。これにより、粗い単位間の微細スケールの接続数を反映する重み付き隣接行列が生成され、各レベルで明示的な座標ベースのエッジ構築を行わずとも空間的近接性をエンコードする。
• 割り当てマップ： レベル間の遷移は、生化学的原理（例：表面から原子へのユークリッド距離、原子から残基への共有結合、残基から SSE への DSSP アルゴリズム）に由来する決定論的かつ物理情報に基づく割り当て演算子 $\pi^{(\ell)}$ によって制御される。
• ノード特徴：
  • 表面: 手作りの幾何学的記述子（面積、重心距離）＋事前学習済み等変メッシュニューラルネットワーク（EMNN）からの埋め込み。
  • 原子: 元素の種類/骨格所属＋事前学習済み等変グラフニューラルネットワーク（EGNN）からの埋め込み。
  • 残基: アミノ酸の同一性、骨格角度、曲率、ねじれ角度。
  • SSE: 種類のワンホットエンコーディングと正規化された長さ。
  • タンパク質: 事前学習済み ESM-2 モデルからのグローバル表現。

2. マルチスケールメッセージパッシング

PRIME は、情報を双方向に伝播させる $N$ 層の階層的レイヤーのスタックを採用する。各レイヤーは、3 つの連続した操作を実行する。

1. レベル内メッセージパッシング： 事前レイヤー正規化、残差接続、およびフィードフォワードネットワークを用いたグラフ畳み込みにより、各レベルの表現を独立して洗練させる。
2. ボトムアップ集約： $(\Pi^{(\ell)})^\top$ を使用してレベル $\ell-1$ からレベル $\ell$ へ表現を集約し、ゲート付き融合に続いて、微細な詳細を上方向へ伝播させる。
3. トップダウン文脈洗練： $\Pi^{(\ell)}$ を使用してレベル $\ell$ からレベル $\ell-1$ へ粗いレベルの文脈をブロードキャストし、対称的なゲート付き融合に続いて行う。

ゲート付き融合メカニズムは、学習可能なゲート $g = \sigma(W_g [z \| c])$ を介して、文脈 $c$ を現在の表現 $z$ に選択的に組み込む。最終的な表現は、下流タスクのために指定されたレベル $\ell^*$（通常は残基レベル）から読み出される。このフレームワークは、すべての入力特徴と操作が座標フリーであるか、等変エンコーダーからの不変スカラー埋め込みを利用するため、SE(3) 不変性を持つエンドツーエンドに設計されている。

主要な貢献

• 統合フレームワーク： PRIME は、タンパク質を決定論的割り当て演算子で接続された 5 つの物理的に裏付けられたグラフの入れ子構造の家族としてモデル化する単一のフレームワークを提案し、階層的物理組織の明示的なモデル化を可能にする。
• 双方向情報交換： この手法は、ボトムアップ集約（微細から粗い）とトップダウン洗練（粗いから微細）を介した情報フローを促進し、各レベルがモダリティ固有の情報と、他のすべてのスケールからの文脈信号の両方をエンコードできるようにする。
• 物理情報に基づく帰納的バイアス： データ駆動型のグラフ粗化とは異なり、PRIME は既知の生化学的および幾何学的制約を活用して階層を定義し、マルチスケール表現学習のための原理的な基盤を提供する。
• 適応的読み出し： このフレームワークは適応的クロスアテンション読み出しをサポートし、モデルが予測時に最もタスクに関連する構造解像度を自律的に識別し、重み付けすることを可能にする。

実験結果

PRIME は、ProteinWorkshop の 4 つのベンチマーク（フォールド分類、反応クラス予測、遺伝子オントロジー（GO）予測、タンパク質 - タンパク質相互作用（PPI）サイト予測）で評価された。

• フォールド分類： PRIME はすべての分割において最先端の精度を達成した。特に、困難なスーパーファミリー分割とフォールド分割において、それぞれ 13.80 ポイントと 18.30 ポイントの差で、最強の幾何学的 GNN ベースライン（EGNN）を上回った。
• 反応クラス予測： PRIME は 84.10% の精度を達成し、ESM（83.10%）を含むすべてのベースラインを上回った。これは、明示的な構造階層が、配列のみのモデルと比較して酵素機能予測にとって優れたシグナルを提供することを示唆している。
• 遺伝子オントロジー： このモデルは、構造モチーフやグローバルなフォールドと密接に関連する分子機能（MF）と細胞コンポーネント（CC）オントロジーにおいて最高のパフォーマンスを達成した。生物学的プロセス（BP）のパフォーマンスは低く、これはアノテーションが内在的な構造ではなく進化的文脈に依存しているためと考えられる。
• PPI サイト予測： PRIME は競争力のある ROC-AUC スコアを達成し、ノードレベルのタスクへの適用可能性を示したが、ランキングのトップにはなれなかった。これは、精密なインターフェース予測には専門的なアーキテクチャの選択の余地があることを示している。

アブレーション研究：

• 単一の構造レベルを除去すると、一貫してパフォーマンスが低下し、各レベルが補完的かつ冗長ではない情報を寄与していることが確認された。
• 二次構造（SSE）レベルの除去は、最も顕著な低下を引き起こした（例：フォールド分割の精度は 59.78% から 16.61% に低下）。これは、フォールド識別において SSE トポロジーが中心的な役割を果たしていることを浮き彫りにした。
• 適応的クロスアテンション分析により、モデルがフォールド分類に対して SSE レベルに高いアテンション重みを自律的に割り当て、タスクに応じて重みを調整すること（例：反応クラスに対して原子/残基レベルに高い重み）が明らかになり、統合されたマルチスケール設計の必要性が検証された。

意義

本論文は、PRIME がタンパク質構造の階層的組織を明示的に考慮することで、タンパク質表現学習の原理的な基盤を提供すると主張している。平坦または並列なマルチモーダル表現を超えて移動することで、PRIME は構造解像度を超えて現れる相互作用を捉える。結果は、物理的に裏付けられたグラフの入れ子構造の階層としてタンパク質をモデル化することが、既存のユニモーダルおよびマルチモーダルアプローチ、特に構造的に類似したフォールドの識別や活性部位幾何学によって支配される酵素機能の予測を必要とするタスクにおいて、一般化可能な表現を生み出し、それらを凌駕することを示している。フレームワークがタスクに関連する解像度を自律的に識別する能力は、単一の固定解像度にコミットするのではなく、完全なマルチスケール階層を維持することの価値をさらに強調している。