技術的概要：PPI2Text

問題定義

タンパク質間相互作用（PPI）のモデリングは、伝統的に二値分類またはマルチラベル回帰タスクとして枠組み化されてきた。新興のマルチモーダル大規模言語モデル（LLM）は単一タンパク質の自由なテキスト記述を生成できるが、タンパク質対間の複雑で条件依存性があり、機械的な性質を持つ相互作用を記述する能力は欠如している。既存の計算アプローチはしばしば硬直的なスキーマに依存し、生物学的文脈を離散的なラベルや固定された関係構造に還元する。これにより、特に高次依存関係、非線形関係、そして複雑な生物学的事象の連鎖を通じてのみ現れる条件特異的メカニズムに関する、タンパク質が「どのように」あるいは「なぜ」相互作用するかを捉える能力が制限される。さらに、生物学的 PPI データは異質なソース（例：IntAct、UniProt、STRING）に断片化しており、構造の不一致と統一された解釈可能なナラティブの欠如を招いている。

手法

1. データセット構築：エビデンス階層化合成

自由テキスト PPI アノテーションの不足に対処するため、著者らは 351,000 個のタンパク質対と自由形式の記述からなるコーパス「PPI2Text-Dataset」を構築した。

• ソース集約: 生のエビデンスは、10 のキュレーションされた生物学的データベース（IntAct、PubMed、UniProt、3did、Pfam、STRING、SIGNOR、Reactome、CORUM、ComplexPortal）から集約された。
• エビデンス階層化フィルタリング: 各対に対して、相互作用レベルのシグナル（直接的な実験的サポート）と文脈的シグナル（生物学的整合性）を統合した統一エビデンススコア $E(r)$ が計算された。対は K-means を用いて 3 つの階層（T1–T3）にクラスタリングされた。T1（弱く支持された）は破棄され、T3（強くキュレーションされた）は保持された。T2 は、冗長性なしに多様性を確保するために、ホモロジーを考慮した戦略（MMSeq2）を用いてサブサンプリングされた。
• 制御された合成: ラベラー LLM（Gemini）が記述の合成に使用された。重要なのは、エビデンスの強さに基づいて出力を制約する階層制御生成フレームワークが採用されたことである。プロンプトには 4 つの直交的制約が強制された：
  • 記述的粒度: 信頼度に基づく長さの制約。
  • 認識論的強度: エビデンスに基づく動詞の選択（断定的 vs 留保的）。
  • 機械的帰属: 構造的またはキュレーションされたエビデンスが存在しない場合の機械的主張の制限。
  • 沈黙ポリシー: 十分にアノテーションされていないエンティティに対する機能記述の防止。

2. モデルアーキテクチャ：PPI2Text

PPI2Text は、アミノ酸配列から自由テキストの PPI キャプションを生成するように設計されたマルチモーダル LLM である。

• 単一タンパク質エンコーディング: モデルは、各タンパク質（$P_A, P_B$）に対して残基ごとの埋め込みを生成するために、凍結されたESM3エンコーダを使用する。これらの埋め込みは、局所的情報を保持しつつ配列長を削減するために、ストライド 1 次元畳み込み（因子 4）によって圧縮される。
• ペアマップ構築: 残基レベルの相互作用を捉えるため、モデルは 2 次元ペアマップを構築する。
  • 双方向クロスアテンションブロックが、2 つのタンパク質表現間で情報を交換する。
  • 圧縮された残基の各対 $(i, j)$ に対して、特徴ベクトルは埋め込みとそれらのアダマール積を連結することで形成される：$M_{ij} = \phi_{pair}([H^A_i \| H^B_j \| H^A_i \odot H^B_j])$。
  • この 3 次元テンソルは、固定された $32 \times 32$ グリッド（1024 トークン）に適応的にプーリングされ、デコーダの隠れ空間に投影される。
• 座標整合デコーディング（PaCo-RoPE）: 中核的な革新はPaCo-RoPE（Pair-Coordinated Rotary Positional Encoding）である。標準的な 1 次元位置エンコーディングは 2 次元ペアマップを平坦化し、元の残基インデックスからそれを切り離すことになる。PaCo-RoPE は、標準的な RoPE を 3 次元座標系 $(p_T, p_\theta, p_\phi)$ に拡張する：
  • テキストトークンは $(n, n, n)$ を使用する。
  • タンパク質 A トークンは $(n, \lfloor i/4 \rfloor, 0)$ を使用する。
  • タンパク質 B トークンは $(n, 0, \lfloor j/4 \rfloor)$ を使用する。
  • ペアマップトークンは、グリッド位置 $(m, n)$ から導出された座標を使用し、両方のタンパク質の残基軸と整合する。
  • この設計により、デコーダは追加のパラメータなしに、2 次元相互作用構造に注意を向けつつ、両方のパートナーの特定の残基位置との整合性を維持できる。
• トレーニング: モデルは、Qwen3 をデコーダ（ベース凍結、LoRA アダプタ）、ESM3 をエンコーダ（凍結）として使用し、微調整される。トレーニングは、ティーチャフォースプロトコルを用いた応答トークンに対するクロスエントロピー損失を使用する。

主要な貢献

1. 自由テキスト PPI モデリングフレームワーク: 構造化されたラベルから人間が読み取れる自由形式の記述へ PPI モデリングを移行させる新たなタスク定式化により、より豊かな意味解釈を可能にする。
2. 大規模データセット: 10 の主要な生物学的データベースから合成された高品質でエビデンス階層化された記述を備えたPPI2Text-Dataset（35 万対）の公開。
3. 相互作用認識型アーキテクチャ: 2 次元ペアマップ表現とPaCo-RoPEを活用し、言語デコーダ内でマルチモーダルコンポーネント（単一タンパク質配列と相互作用マップ）を整合させるPPI2Textモデル。
4. 実証的検証: 生きた生物学的エビデンスに対して評価された言語指標と事実性指標の両方において、ベースラインを上回る性能の実証。

結果

モデルは 2 つのテストセットで評価された：時間的ホールドアウト（2025 年 5 月以降にアノテーションされた PPI）とC3 ハードスプリット（訓練/テストに相同タンパク質が存在しないことを保証する厳密なタンパク質レベルの汚染除去）。

• 言語指標: PPI2Text は、BLEU、ROUGE、BERTScore においてベースライン（Seq+Qwen3、MINT+Qwen3、およびアブレーション変種を含む）を上回った。
• 事実性指標: 生エビデンスに対して評価するために LLM-as-a-judge（Claude-Opus-4.7）を使用し、PPI2Text はエンティティグラウンディング、相互作用トポロジー、メカニズム忠実度において最高スコアを達成した。
• アブレーション研究:
  • タンパク質エンコーダを除去（Seq+Qwen3）すると性能が低下し、進化/構造的シグナルの必要性が浮き彫りになった。
  • 単一タンパク質表現またはペアマップトークンのいずれかを除去すると性能が低下し、両方が必要であることを示した。
  • PaCo-RoPE を標準的な 1 次元 RoPE に置き換えると性能が大幅に低下し、2 次元相互作用マップに対する座標整合エンコーディングの必要性を確認した。
  • 双方向クロスアテンションを除去（No-Cross）すると性能が低下し、ペアマップ構築におけるその役割を示した。
• 一般化: PPI2Text は C3 ハードスプリットにおいて堅牢な性能を維持し、完全に未見のタンパク質ファミリーに一般化する場合でもベースラインを上回った。

重要性

本論文は、タンパク質間相互作用の自由形式で人間が読み取れる記述を生成する最初のフレームワークを提示すると主張している。硬直的なアノテーションスキーマを超えて移動することで、このアプローチは自然言語における相互作用の意味をモデル化し、より豊かで解釈可能な表現を提供する。この研究は、知識抽出と推論における将来の研究の基盤を確立し、相互作用認識型エンコーディングが微細な残基レベルの関係を捉えることができることを実証している。著者らは、生エビデンスに対して検証されたモデルの生物学的エンティティとメカニズムを保持する能力が、従来の分類ベースの手法よりも信頼性が高く生物学的に意味のある予測をもたらすことを示唆していると強調している。データセットとモデルコードの公開は、この分野においてより表現力豊かで解釈可能なモデルの開発を促進することを目的としている。