Probing and steering biology across Boltz-1s trunk-diffusion boundary

設計図と建築家：AIはタンパク質をどう「考えて」いるのか

複雑なレゴのお城を作る場面を想像してみてください。あなたには、レンガのリスト（指示書）を見て、全体の形や配色、どこに塔を配置すべきかを判断する「マスター・アーキテクト（総設計者）」がいます。そして、その計画を受け取り、実際にパーツを一つずつ組み合わせて、お城が完成するまで組み立てていく「ビルダー（建築家）」がいます。長い間、科学者たちは自然界においてこれら二つの役割がどのように機能しているのかに魅了されてきました。現実の世界では、タンパク質は私たちを生かしている微小な機械であり、その形状がその機能を決定します。長年、私たちはその指示書（配列）からどのようにしてその形を予測すればよいのかを知りませんでした。しかし最近、強力なAIモデルが登場し、設計者と建築家の両方の役割を一つでこなすようになりました。

これらのAIモデルは、2つの明確な段階を経て機能します。第一に「トランク（Trunk）」と呼ばれる、アミノ酸の配列（指示書）を処理し、タンパク質の一般的な幾何学構造と化学的性質を解明する「深い思考エンジン」があります。これは、設計図を描くアーキテクトのようなものです。第二に「ディフュージョン・モジュール（Diffusion Module）」と呼ばれる、生成エンジンです。これは設計図を受け取り、原子一つひとつを積み上げるように、ステップ・バイ・ステップで最終的な3D構造を構築していきます。これは、レンガを組み立てるビルダーの作業です。科学者がずっと問い続けてきた大きな疑問は、「情報が思考するアーキテクトから構築するマシンへと渡される際、情報は変化するのか？」ということです。ビルダーは依然として化学的な詳細を「知って」いるのでしょうか、それとも単に形状だけにこだわっているのでしょうか？これを理解することは、これらのAIモデルが真に生物学を理解しているのか、それとも単にパターンを記憶しているだけなのか、そして私たちが新しいものを設計するためにモデルを実際に「操る（ステアリング）」ことができるのかを知る助けとなります。

---

大きな分裂：設計図と建築家が出会う場所

この研究において、研究者たちはBoltz-1と呼ばれる特定のAIモデルの内部を詳しく調査し、「トランク（思考する側）」と「ディフュージョン・モジュール（構築する側）」の境界を情報が通過する際に何が起きているのかを調べました。彼らは、特別なツールを用いてモデルのあらゆる層における「思考（活性化）」を読み取ることで、AIを中を覗き見ることができる「ブラックボックス」として扱いました。

アーキテクトはすべてを知っている
トランクを調査したところ、それは驚くほど情報に富んでいることがわかりました。それは主に2種類の情報を保持していました：

1. 幾何学（ジオメトリ）： 物理的な形状。例えば、タンパク質の一部が螺旋（ヘリックス）なのか、平らなシート（ストランド）なのか、あるいはぐにゃぐにゃした塊（コイル／無秩序状態）なのかといった情報です。
2. 配列の化学（シーケンス・ケミストリー）： どの位置にどのアミノ酸があるか、あるいはシグナルペプチドやジスルフィド結合のような特別な化学的タグがあるかといった、構成要素の具体的な化学的アイデンティティです。

研究者たちは、トランクの内部状態からこれら両方を容易に「読み取る」ことができました。それはまるで、アーキテクトが最終的な形状とともに、すべてのレンガの色と種類を含む完璧で詳細なリストを持っているかのようでした。

ビルダーは詳細を失う
しかし、情報が境界を越えてディフュージョン・モジュールへと渡されると、興味深い分裂が起こりました。ビルダーは幾何学を完璧に維持しました。モデルが最終的な3D構造の構築を開始しても、螺旋やシートがどこにあるのかを明確に「理解」していました。しかし、化学的性質は消え始めていました。シグナルペプチドやジスルフィド結合といった具体的な化学的アイデンティティを検出することは、非常に困難になりました。ビルダーが作業を終える頃には、化学的な詳細はほとんど失われていましたが、形状は鮮明なまま残っていました。

それは、ビルダーが設計図を受け取り、壁や塔をどこに作るべきかは正確に理解したものの、レンガが何色であるべきかを忘れてしまったかのようです。モデルは形状を決定するために化学的な詳細を利用しますが、一度形状が構築され始めると、その化学的な詳細をアクティブなメモリに保持しておく必要はないようです。

AIを「操る」ことはできるのか？

研究者たちは次に、大胆な問いを投げかけました。「もしこれらの思考を読み取れるなら、それらを変えることもできるのか？」彼らは、トランクがビルダーに設計図を渡す直前の「最後の思考」を微調整することで、モデルを「操ろう（ステア）」と試みました。彼らは、「もっと螺旋を作れ」あるいは「もっとシートを作れ」という方向へ、わずかな押しを与えたのです。

• 成功： モデルに対して**螺旋（ヘリックス）やぐにゃぐにゃした部分（コイル）**を増やすよう促したところ、モデルはその指示に従いました！予測された構造は、期待通りに、より多くの螺旋やコイルが現れるように変化しました。これは、モデルが形状を構築するために、それらの特定の方向性を因果的に使用していることを証明しています。
• 驚き： 一方で、**シート（ストランド）**についても同様のことを試みたところ、モデルは「シート」の方向を容易に「読み取る」ことができた（非常に予測可能であった）にもかかわらず、その微調整（ナッジ）は何の効果ももたらしませんでした。最終構造におけるシートの量は変化しませんでした。

このことは、ある重要な限界を示唆しています。モデルがある事象を「予測」できるからといって、その特定の部位を変化させることでそれを「制御」できるとは限らないのです。研究者たちは、「シート」はアミノ酸のペアが互いにどのように相互作用するか（彼らが触れなかったモデルの別のメモリ部分で処理される詳細）に依存しているためであり、一方で螺旋はより局所的であり、直接制御が可能であると考えています。

見落とされたラベルの罠

この論文はまた、これらのAIモデルをテストする方法における厄介な問題も明らかにしました。科学者はしばしば、AIの予測を既存のタンパク質構造データベースと比較することで、AIが正しいかどうかをチェックします。しかし、これらのデータベースはしばしば「疎（スパース）」です。つまり、科学者がラボですでに研究した部分にしかラベルが付いていないのです。

研究者たちは、AIをこれらの疎なラベルに対してテストすると、AIが多くの間違い（偽陽性）を犯しているように見えることを発見しました。しかし、AIを「密な（デンス）」ラベルセット（タンパク質のあらゆる部分にラベルが付いているもの）と比較すると、AIはずっと賢いことがわかりました。「間違い」とは、実際にはデータベースにラベルが付いていなかっただけで、AIは正しく予測していた部分だったのです。これは、生徒がテストでAを取ったにもかかわらず、先生が「答えの鍵」に記載されている質問（先生が決めた範囲）しか見ていないために、生徒の他の正しい解答を無視して不正解扱いしているようなものです。これは、私たちがこれらのモデルの真の実力を過小評価している可能性があることを意味しています。

未来への意味

本研究は、Boltz-1のようなAIモデルは強力ではあるものの、魔法ではないと結論付けています。それらには明確な分業があります。「思考」する部分はすべての化学的および構造的な詳細を保持していますが、「構築」する部分はほぼ完全に幾何学に集中しています。さらに、ある特徴を「読み取れる」ことが、その特徴を使って何かを「制御できる」ことを保証するわけではありません。

研究者たちは、もし私たちがこれらのモデルを使って新しいタンパク質を設計したいのであれば、注意が必要であると示唆しています。モデルが化学的な特徴を「知っている」からといって、その特徴を使って新しいものを構築するように強制できると決めつけることはできません。そして、モデルをテストする際には、参照データが不完全であることを理由に、厳しく評価しすぎないよう注意する必要があります。これは、どんなに賢いAIであっても独自の思考方法を持っており、私たちがそれを真に操るためには、まずその言語を学ぶ必要があるということを思い出させてくれます。