ProtBLIP2-SST: Protein Function Prediction via BLIP2 with Sequence, Structure, and Text

タンパク質、つまりアミノ酸の長い鎖からなる、極めて複雑な微小な機械のようなものがあると想像してみてください。長い間、これら機械が「何をするのか」を解明しようとしてきた科学者たちは、「ラベル当てゲーム」をしてきました。彼らはアミノ酸の列を見て、「DNAに結合するか？ はい／いいえ」といった、硬直したチェックリストの項目に印をつけていこうとしてきました。それは、映画全体を「アクション」「コメディ」「ドラマ」といったタグだけで説明しようとするようなものです。それでは、筋書きも、登場人物も、その雰囲気も逃してしまいます。

他の研究者たちは、大規模言語モデル（LLM）という巨大なAIチャットボットを使って、タンパク質についての自由な形式の物語を書かせようとしました。しかし、そこには落とし穴がありました。これらのAIモデルは、アミノ酸の配列だけを見ていたのです。彼らはレシピは読んでいても、それが作る「ケーキの3D形状」は無視していました。タンパク質の機能は、どのように折りたたまれて特定の3D構造を作るかに依存することが多いため、構造を無視することは、部品のリストだけを読んで、それらがどのように組み合わさっているかを一度も見ずに車のエンジンを理解しようとするようなものでした。

大きなアイデア：ProtBLIP2-SST
この論文の著者たちは、この問題を解決するために、ProtBLIP2-SSTと呼ばれる新しいシステムを構築しました。これは、単に材料（配列）を読むだけでなく、設計図（3D構造）を手に持ちながら物語を書く、超スマートな翻訳者のようなものです。

彼らがどのようにこれを構築したか、ステップごとに説明します。

1. 「構造を意識した」辞書
まず、アミノ酸の文字列と3D形状の両方をAIに読み込ませる方法が必要でした。彼らはSaProtというツールを使用しました。SaProtは、アミノ酸（「A」や「B」など）の言葉だけでなく、3D形状（「折りたたまれた状態」や「ねじれた状態」など）のための特別なトークンも持つ辞書だと想像してください。これは、配列と構造を一つの、より詳細な記述へと融合させます。

2. 「翻訳者」（Q-Former）
次に、AIにこの新しい複雑なタンパク質言語を理解させる必要がありました。彼らは、Q-Former（BLIP-2というモデルから借用したもの）と呼ばれる「翻訳者」モジュールを使用しました。

• セットアップ: 彼らは、タンパク質エンコーダー（SaProt）とテキストエンコーダー（BiomedBERT）を固定し、それらがすでに知っていることを忘れないようにしました。
• トレーニング: 彼らは、Q-Formerが架け橋として機能するように教えました。Q-Formerは、3つの異なるテクニックを用いて学習しました。
  • 対照学習（Contrastive Learning）: 「このタンパク質とこのテキストの説明はセットだが、あちらは違う」
  • マッチング（Matching）: 「この特定のタンパク質は、この段落で説明されているものか？ はい、あるいは、いいえ」
  • キャプション作成（Captioning）: 「ここにタンパク質があります。これについての短い物語を書いてください」
• 結果: Q-Formerは、配列と構造から最も重要な「タンパク質の特徴」を抽出し、それを大きなAIが理解できる形式に変換することを学びました。

3. 「ストーリーテラー」（Galactica）
最後に、彼らはこの翻訳者を、Galactica-1.3Bという科学用AIに接続しました。巨大な脳全体を再学習させることは（コストがかかりすぎるため）しませんでした。代わりに、LoRAという軽量なアダプターを使用して、タンパク質の特徴を「聴く」方法を教えました。これにより、タンパク質を与えると、モデルは単なるチェックリストを吐き出すのではなく、そのタンパク質が何をし、細胞のどこに存在し、どのファミリーに属しているかといった、豊かで自由な形式のテキストによる記述を生成するようになりました。

何が見つかったのか（エビデンス）
チームは、Swiss-Protからの441,000組のタンパク質・テキストペアと、AlphaFoldデータベースからの3D構造を用いてテストを行いました。

• スコア: 彼らの新しいモデルであるProtBLIP2-SSTは、ほぼすべてのテストにおいて、従来の最高モデル（ProtT3など）を打ち破りました。
  • 検索（Retrieval）（タンパク質に対して正しいテキストを見つけること）において、彼らの650Mバージョンのモデルは平均スコア90.83を記録し、配列のみのモデルを上回りました。
  • 記述の作成（Captioning）（キャプション作成）において、彼らは配列のみのバージョンと比較して、BLEU-4 (58.53) や ROUGE-L (68.23) といった指標で高いスコアを獲得しました。
• 「アハ体験」の瞬間: 彼らは、なぜこれがうまくいったのかを確認するために、深い分析を行いました。その結果、3D構造を加えることが、タンパク質の機能（FUNCTION）（例：「この酵素は糖を分解する」）を記述する上で最も効果的であることが分かりました。これは、機能が3D形状に依存することが多いため、理にかなっています。
• 限界: しかし、3D構造は**類似性（SIMILARITY）**のラベル（例：「これはファミリーXに似ている」）については、あまり役に立ちませんでした。論文は、類似性は主に文字の配列に関するものであり、形状に関するものではないためであると示唆しています。

何が否定されたのか
論文は、以下のいくつかの事項に対して明確に反論しています。

• 配列のみでは不十分: 配列（3D構造なし）のみを見ているモデルは、一貫してスコアが低くなることを彼らは示しました。
• 個別のエンコーダーは非効率的: 配列と構造を別々にエンコードしてから、後でそれらを繋ぎ合わせようとするモデルに対し、彼らは異議を唱えています。彼らの手法は、最初からそれらを融合させており、その方が優れた結果をもたらしました。
• 生のデータをそのまま貼り付けることは機能しない: 彼らは、Q-Formerという翻訳者を通さずに、生のアミノ酸配列を直接AIに投入することを試みましたが、惨敗しました（一部のテストで完全一致が0.00となりました）。「翻訳」のステップが極めて重要なのです。

どれほど確信しているのか？
著者たちは、これまで見たことのない9,239個のタンパク質を用いた、保持されたデータセット（held-out set）でテストを行ったため、その数字に強い自信を持っています。彼らは単に推測したのではなく、測定しました。

• 彼らは、35Mスケールにおいて、配列のみのモデルよりも24個多くの完全一致を獲得し、650Mスケールにおいても22個多く獲得したことを示しました。
• 彼らは、3D構造による利点は「タスク依存的」である、つまり、ある仕事（機能）には非常に役立つが、他の仕事（類似性）には役立たない、と示唆しています。

結論
ProtBLIP2-SSTは、もしAIにタンパク質の物語を真に理解させたいのであれば、単にレシピを与えるだけでは不十分であり、その3D形状も見せる必要があることを示唆しています。配列、構造、そしてスマートな翻訳者を組み合わせることで、彼らはタンパク質の機能に関する柔軟で人間が読める記述を生成するシステムを作り上げ、硬直したチェックリストから、自由な形式のストーリーテリングへと移行させたのです。