A z-averaged ensemble of three orthogonal models improves protein–ligand virtual screening on leakage-controlled benchmarks

技術要約：タンパク質–リガンド仮想スクリーニングのための、3つの直交モデルによるz平均アンサンブル

問題提起
深層学習モデルによるタンパク質–リガンド仮想スクリーニング（VS）は、DUD-Eのような標準的なベンチマークにおいて高い性能（AUROC > 0.90）を報告している。しかし、著者らはこれらの指標が主に2つの失敗モードによって膨張していると主張している。

1. 学習–テスト間の配列相同性によるリーク（漏洩）： ほとんどのベンチマーク用タンパク質は、BindingDBやPDBBindで訓練されたモデルの学習セット内に、極めて類似した相同体を含んでいる。事前学習済みのタンパク質言語モデルの埋め込みは、このようなケースにおける汎化を容易にし、モデルが真の結合物理学ではなく相同性に依存することを許してしまう。
2. デコイ・バイアス： DUD-Eのようなベンチマークには、活性化合物とデコイの間で物理化学的記述子（回転可能結合数、極性表面積など）に構造的な非対称性が存在する構造が含まれており、これにより分類器はタンパク質を条件付けすることなく識別できてしまう。

「リーク制御済み」ターゲット（学習–テスト間の相同性が厳格にフィルタリングされている例：同一性 < 30%）で評価した場合、単一モデルの性能は0.70–0.75 AUROCの範囲で停滞する。近年のアーキテクチャの改善（ファインチューニング、ポケット認識レイヤー、対照学習損失など）も、真に新規なターゲットに対してはこのギャップを埋めることに失敗している。

手法
著者らは、単一のより複雑なモデルを構築するのではなく、事後的な、モデルに依存しないアンサンブル戦略を提案している。このアプローチでは、表現論的に直交する、独立して訓練された3つのスコアリングモデルを組み合わせる。

1. BIND-z: 凍結されたESM-2エンコーダを用いた配列のみのモデル。クロスアテンションとHuberアフィニティヘッドを使用し、相同性を除去したBindingDBのサブセットで訓練されている。
2. SaProt-v2: 構造を考慮した配列エンコーダ（凍結されたSaProt-650M、AA+3Diトークンを使用）であり、対照的なInfoNCE損失とアテンション・プール・ヘッドを用いて訓練されている。
3. DrugCLIP: 3Dポケット原子特徴（Uni-Mol）と2Dリガンド特徴を整列させた、公開されているCLIP型の検索モデル。

融合戦略:
各モデルは異なるスケールでスコアを生成する。これらを結合するために、著者らはターゲットごとのzスコア正規化を用いた後に算術平均をとる手法を採用している。各ターゲット $t$ について、モデル $m$ によるリガンド $i$ の生スコア $s_{m,t,i}$ は次のように正規化される：
$$z_{m,t,i} = \frac{s_{m,t,i} - \mu_{m,t}}{\sigma_{m,t}}$$
ここで、$\mu$ と $\sigma$ は、その特定のターゲットに対する全リガンドのスコアの平均および標準偏差である。アンサンブルスコアは以下の通りとなる：

• ens2: BIND-z と SaProt-v2 の平均。
• ens3: BIND-z、SaProt-v2、および DrugCLIP の平均。

主な貢献

1. 直交性の特定: 著者らは、これら3つのモデルがリガンドレベルで弱く相関していることを示している。2つの配列ベースのモデル（BIND-z と SaProt-v2）間のピアソン相関係数は $r \approx 0.22$ であり、DrugCLIP はいずれの配列モデルに対してもほぼゼロの相関（$r \approx 0.05\text{--}0.08$）を示している。これは、DrugCLIP が真に独立した情報を提供していることを示唆している。
2. 統計的に有意な向上: 3モデルアンサンブル（ens3）は、204個のプールされたDUD-EおよびDUD-ADの評価において、平均AUROC 0.834 を達成した。これは、最良の2モデルアンサンブル（ens2）の 0.817 に対し、+0.017 AUROC の向上である（対応のある $t=3.50$, $p=5.8 \times 10^{-4}$）。この向上は、厳格なリーク除去サブセットを含む6つのベンチマークにおいて方向性として一貫している。
3. 相同性依存性の低減: アンサンブルは、学習–テスト間の相同性への依存を軽減する。「リーク・ギャップ」（相同性が豊富なターゲットからリーク除去済みターゲットへ移行した際の性能低下）は、ens2 の +0.091 に対し、ens3 では +0.085 である。これは、アンサンブルが分布外（OOD）ターゲットに対してより良く汎化することを示している。

結果

• ゼロショット性能: 主要なプールされたベンチマーク ($n=204$) において、ens3 は ens2 を統計的に極めて有意に上回っている。厳格なリーク除去サブセット（例：DUD-E-strict, $n=7$）において、ens3 は 0.779 AUROC に達しており、単一モデルよりも有意な改善が見られるが、サンプルサイズによる統計的有意性は限定的である。
• 失敗モード: アンサンブルは、現在の配列/ポケットのみのモデルに対して抵抗力を持つように設計されたLIT-PCBAベンチマーク（絶対AUROC ~0.608）を解決することはできない。
• イン・ディストリビューションでの展開: 学習データにテストターゲットの相同体が含まれる「イン・ディストリビューション」環境で評価した場合（全データを用いたSaProtタワーとBIND-fullを組み合わせた場合）、アンサンブルは最強の単一コンポーネントに対して +0.012 から +0.015 AUROC の向上を示し、直交性のメリットが厳格なゼロショット制約がない場合でも有効であることを裏付けている。
• 単一モデルの限界: 著者らは、単一モデルの改善（エンコーダのファインチューニング、ポケットの再設計、代替損失、ポーズ認識レイヤー）を体系的にテストしたが、リーク除去済みターゲットにおいてそれらは無視できる、あるいは負の利得しかもたらさないことが判明した。これは、ボトルネックがモデルの容量ではなく、学習分布にあることを示唆している。

意義と主張
本論文は、新規なタンパク質ターゲットに対する仮想スクリーニングを改善するための実用的なレバーは、単一モデルの容量ではなく、モデル間の直交性であると主張している。

• メカニズム: この利得は、統計的にほぼ独立した誤差構造に対する分散の減少から生じる。同様のアーキテクチャを持つ第4のモデル（例：別のESMベースのスコアラー）を追加しても、誤差の相関が高いため、収穫逓減が生じる可能性が高い。
• 実用的含意: 既存の多様なモデルを事後的に融合する方が、単一のより大きく、より複雑なモデルを訓練するよりも効果的である。
• ベンチマーク: 著者らは、記憶と真の汎化を区別するために、標準的なベンチマークと並行して「リーク除去済み」サブセットを日常的に報告することを推奨している。
• 適用範囲: 本アンサンブルは、学習ターゲットに近い相同体が存在しないターゲットに対する堅牢な解決策として提示されているが、相同体が利用可能で推論コストが二次的な問題となるシナリオには、別の「展開用アンサンブル」（未フィルタリングの学習データを使用）が推奨される。

著者らは、信頼できる仮想スクリーニングへの道は、単一のモデルファミリー内での漸進的なアーキテクチャ容量の増大を追求することではなく、多様で直交する信号を組み合わせることにあると結論付けている。