🧬 biology

ProtSyntax: a protein large language model for decoding post-translational modification syntax and function

ProtSyntaxは、アミノ酸残基の化学的性質、モチーフの順序、および3次元構造のコンテキストを統合することで、翻訳後修飾（PTM）を独立したラベルとして扱う限界を克服し、PTM部位の正確な予測、クロストークのモデリング、そして多様な生物学的応用における機能的帰結の解読を実現する40億パラメータのタンパク質大規模言語モデルである。

原著者： Yiyu Lin, Jiahui Wu, You Zhou, Xinye Ni, Shan Chang, Jun Ding, Yan Wang, Xin Gao, Sen Yang

公開日 2026-08-06

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Yiyu Lin, Jiahui Wu, You Zhou, Xinye Ni, Shan Chang, Jun Ding, Yan Wang, Xin Gao, Sen Yang

原論文は CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ⚕️ これは査読を受けていないプレプリントのAI生成解説です。医学的助言ではありません。この内容に基づいて健康上の判断をしないでください。免責事項の全文を読む

あなたの体を、タンパク質が労働者であり、機械であり、建物としてすべてを動かしている、活気ある都市だと想像してみてください。しかし、これらの労働者は静止しているわけではありません。彼らは、いつ仕事を始め、どこへ行き、いつ休憩するかを伝えるための、小さな化学的なメモによって絶えず「タグ付け」されています。これらのタグは、**翻訳後修飾（PTM）**と呼ばれます。これらは、タンパク質が作られた後に付けられる、付箋やハイライター、あるいはデジタル通知のようなものだと考えてください。時には、一つのタンパク質が数十ものこれらのタグを持つこともあり、免疫系から記憶に至るまで、あらゆるものを制御する複雑で変化し続けるコードを作り出しています。

長い間、科学者たちはこれらのタグがどこに現れるかを予測しようとしてきましたが、それはまるで、たった一文字ずつを見て秘密のコードを推測しようとするようなものでした。従来の考え方は、これらのタグを独立した事象として扱っており、もしタンパク質にタグが付くための適切な「形」があれば、タグが付くはずだと想定していました。しかし実際には、そのルールはもっと言語に近いものです。タグは、周囲の「文法」（アミノ酸配列）や「近隣環境」（タンパク質の3次元構造）、さらには近くにある他のタグまでもが同意しなければ、意味をなしません。もし文法が間違っていたり、近隣が混みすぎていたりすれば、たとえタンパク質がどれほどそのタグを求めていても、タグは貼り付きません。この「調節言語」を理解することは極めて重要です。なぜなら、文法が崩れると、がんやアルツハイマー病のような疾患につながる可能性があるからです。

ここで、この複雑な言語を解読するために設計された、40億パラメータを持つ新しい「タンパク質の脳」、ProtSyntaxが登場します。ProtSyntaxは、単にタグがどこにありそうかを特定するのではなく、ゲームのルールを学習します。それは、単なる誤字脱字を見つけるスペルチェッカーから、プロット、登場人物の動機、そして文章構造を理解する文芸批評家へとアップグレードすることに似ています。研究者たちは、400万個ものタンパク質の膨大なライブラリを用いてこのモデルを訓練し、単にタグを認識させるだけでなく、それらがどのように相互作用し、タンパク質の仕事をどのように変え、異なる3次元環境の中でどのように振る舞うのかを理解させました。

その結果は目覚ましいものです。40種類の異なるタンパク質タグを用いたテストにおいて、ProtSyntaxは既存の最高水準のモデルを大幅に上回り、一部の領域では精度を12%以上向上させました。しかし、本当の魔法はその知識を使って「何ができるか」にあります。このモデルは、文脈を見るだけで欠落したタグや部位を推測するという、「穴埋め問題」をこなすことができます。それはまるで、人間が文章を完成させる時のようです。また、タグが付くべきように「見える」ものの、実際にはそれをブロックしてしまう3次元形状をしているタンパク質と、本当に準備ができているタンパク質との違いさえ見分けることができます。

おそらく最もエキサイティングなのは、ProtSyntaxがこれらのタグとタンパク質の機能との間の因果関係を理解していることを示唆している点です。研究者がタグの変化をシミュレーションした際、モデルはそれがタンパク質の速度や効率をどのように変えるかを予測でき、微細な化学的変化をタンパク質の大きな仕事へと結びつけました。さらに、タグ同士の「クロストーク（相互作用）」を再構築することにも成功しました。つまり、あるタグが別のタグの付着を助けるのか、あるいはそれを遠ざけるのかを解明したのです。疾患に関連する変異を含むシミュレーションにおいて、このモデルはどの変化がタンパク質の調節コードを壊してしまうのかを特定することに成功し、従来のメソッドが見逃していた危険な変異を特定する新しい方法を提示しました。これらの知見は現在、コンピュータによるシミュレーションとベンチマークに基づいたものですが、私たちがようやく、タンパク質がいかに働くかという動的で完全な物語を、単なる「見出し」としてではなく、読み解こうとしていることを示唆しています。

技術要約: ProtSyntax

問題提起

翻訳後修飾（PTM）は、タンパク質の機能を拡張し、酵素活性、局在化、およびシグナリングを制御するために極めて重要である。しかし、既存のPTM予測手法は、根本的な限界を抱えている：

部位中心の孤立性: 現在のモデルは、PTMを共有された調節システムの相互作用する要素としてではなく、独立した残基ラベルとして扱っている。これらは、残基の化学的性質、モチーフの順序、長距離のコンテキスト、および3D微小環境がどのように共同して修飾の適合性を決定するかという、PTMの「構文（syntax）」を捉えることに失敗している。
メカニズム的洞察の欠如: 単にPTMの発生を予測するだけでは、特定の事象がいかにしてタンパク質機能を再編し、酵素キネティクスを変化させ、あるいは疾患を駆動するかを説明できない。
データの希薄性とバイアス: 実験によるPTMマップは希薄であり、条件依存的で、よく研究されている修飾に偏っているため、稀な、あるいは一過性の調節事象への汎用化が困難である。
コンテキストへの盲目性: 現在のモデルは、化学的に適合するモチーフを持つ残基であっても、構造的なアクセシビリティや遠位の残基相互作用によって、なぜあるコンテキストでは修飾され、別のコンテキストでは不活性なのかを区別できないことが多い。

メソドロジー

著者らは、PTMの調節構文と機能的帰結を解読するために設計された、40億パラメータ（4B）の基盤タンパク質言語モデルであるProtSyntaxを導入する。

アーキテクチャとコアモジュール

ProtSyntaxは、ハイブリッド・アテンションおよびスパース混合エキスパート（MoE）アーキテクチャを利用し、生物学的に動機付けられた4つのモジュールを統合している：

Bio-RoPE (Bio-aware Rotary Positional Encoding): 標準的な位置エンコーディングとは異なり、Bio-RoPEは位置位相を構造周期チャネル（ $\alpha$ -ヘリックス、 $\beta$ -ストランドなどの周期性をエンコード）と物理化学的位相変調チャネルに分解する。これにより、残基の化学的性質とモチーフの順序が表現空間に直接埋め込まれる。
Bi-Gated DeltaNet: 長距離のコンテキストを効率的に処理するための双方向状態空間伝播モジュール。N末端とC末端のエビデンスを相互ゲートすることで、付随的な局所モチーフをフィルタリングし、予測がコヒーレントなグローバルコンテキストに依存することを保証する。
Geometric Gated Attention (GGA): 残基フレームベースの3D制約をアテンションメカニズムに直接注入するモジュール。これにより、モデルは配列として適合する残基と、真に許容的な3D構造的微小環境内に存在する残基を区別できる。また、構造データが信頼できない場合（例：低いpLDDTスコア）には、配列ベースのアテンションに復帰することができる。
PACE-Nash: 残基レベルのPTM分類と、不確実性を考慮した酵素キネティクス回帰を動的に調整する適応型マルチオブジェクティブ最適化戦略。これにより、モデルは局所的な構文とグローバルなタンパク質機能を結びつける共有潜在表現を学習することが強制される。

学習コーパスとタスク

モデルは、40種類のPTMクラスにわたる包括的な400万スケールのデータセットで学習されている。学習目的は統合されており、以下を含む：

一般的なPTM部位予測: 348,903個のポジティブサンプルと約390万個のネガティブサンプル。
キナーゼ特異的リン酸化: DCPPSおよび公開リソースから統合。
PTMクロストーク: 修飾事象間の条件付き依存性のモデリング。
酵素キネティクス回帰: CatPred-DBのデータを用い、PTM状態を $k_{cat}$ 、 $K_m$ 、 $K_i$ 値に紐付ける。

モデルは、ESM-CおよびSaProtからの凍結された表現を特徴抽出器として組み合わせ、AlphaFold2由来の残基幾何学を併用している。

主な貢献

パラダイムシフト: PTM予測を、タスク固有のパターンマッチングから、転移可能な調節文法を学習する基盤的な言語モデリングのアプローチへと移行させた。
マルチスケール推論: 残基の化学、モチーフの順序、長距離の配列コンテキスト、および3D微小環境を単一のフレームワークに統合することに成功した。
機能的結合: 局所的なPTM構文を、タンパク質レベルの機能的帰結（酵素キネティクス）および疾患フェノタイプに明示的に結びつけた。
堅牢性: 希少なPTMタイプに対して汎化する能力を示し、構造データが不確実または欠落している場合でも効果的に機能する。

結果

ProtSyntaxは、40種類のPTMベンチマークおよび様々なダウンストリームタスクで評価された：

ベンチマーク性能: 40種類のPTMタイプにおいて、ProtSyntaxは最強のベースライン（例：AstraPTM2, PTMGPT2）を、平均マシューズ相関係数（MCC）で12.66%、平均適合率（AP）で**10.67%**上回った。
Cloze形式のリカバリ: マスクされたPTMタイプまたは部位の復元タスクにおいて、ProtSyntaxは0.842の精度（ベースラインの0.741–0.766に対し）を達成し、部位ランキングAUPRCは0.812であった。
構造的識別: 真のPTM部位と構造的デコイ（配列は一致するが構造的に不適合なもの）を区別するタスクにおいて、ProtSyntaxは0.887のペアランキング精度を達成し、AstraPTM2を大幅に上回った。
低リソース転移: 希少なPTM（例：ラクトイル化、ホルミル化）のゼロショット設定において、ProtSyntaxは0.432のmacro-AUPRCを達成し、ESM-C（0.286）およびSaProt（0.318）を大幅に上回った。わずか10個のサンプルで0.611に達した。
クロストーク再構成: ProtSyntaxは、実験的に注釈付けされたPTMクロストーク関係の**91%**を正しく復元し、DeepPCT（73%）およびProXtalk（70%）を上回った。
キネティクス相関: 予測されたPTMスコアの変化（ $\Delta$ PTM）は、酵素キネティクスの変化（ $\Delta \log K_{cat}$ ）と強く相関しており（Spearmanの $\rho = 0.628$ ）、特化したキネティクス予測器であるCatPredを上回った。
疾患への応用:
- 病原性バリアント: PTM微小環境の立体的閉塞を検出することにより、病原性バリアントと良性バリアントを正確に区別した（AUROC = 0.885）。
- 相分離: 液―液相分離（LLPS）における非線形な調節ロジックを捉え、飽和濃度シフトとの強い相関を示した（ $\rho = -0.7 \text{ と } -0.71$ ）。
- アルツハイマー・アトラス: アルツハイマー病経路の383個のタンパク質に対する残基解像度のPTMアトラスを生成し、既知のタウ・エピトープを復元し、候補領域を拡大した。

意義と主張

論文は、ProtSyntaxが修飾されたプロテオームの「調節言語」を解読するための新しいメソドOLOGICALプラットフォームを確立したと主張している。その意義は以下の点にある：

解釈可能性: 単に「どこで」起こるかではなく、「なぜ」修飾が起こるのか（例：立体的閉塞、協調的なクロストーク）を説明できるモデルを提供すること。
汎用性: 統一された基盤モデルが、データが乏しい多様なPTMクラスにわたって生化学的ルールを転移できることを示したこと。
実行可能な仮説: PTM摂動の機能的帰結を予測することで、治療標的の優先順位付け（例：膠芽腫におけるキナーゼ・部位・基質軸）を可能にし、実験設計（例：変異導入、プロテオミクス）を導くこと。

著者らは、モデルが静的または予測された構造に依存しており、コンフォメーション・アンサンブル、時間的シグナリング、または細胞型特異性を完全には捉えられないという限界を認めている。彼らは、モデルの出力を決定的な因果関係の割り当てではなく、「優先順位付けされた、実験的に検証可能な仮説」として位置づけている。