Preference-based Antibody Expression Ranking: Scaling with Large-scale Weak Supervision

あなたは、誰もが愛する完璧な新しい料理のレシピを作ろうとしているマスターシェフだと想像してください。医学の世界において、この「料理」とは抗体（私たちの免疫システムにおけるスーパーヒーローとして、ウイルスや細菌を狩る、Y字型の小さなタンパク質）のことです。科学者たちは、病気と戦うためのカスタムメイドの抗体を設計しようと絶えず試みていますが、そこには大きな落とし穴があります。レシピが紙の上で素晴らしく見えたとしても、それが実際にキッチンで「調理」できるとは限らないのです。あるデザインは美味しく高収量な食事になりますが、他のデザインは完全な失敗に終わり、何も生産しません。

問題は、どのレシピがうまくいくかを判断することが非常に高価で時間がかかることです。それは、材料がうまく混ざるかどうかを確認するためにケーキを焼かなければならないのに、年に数個のケーキしか焼く余裕がないようなものです。科学者たちは「たぶん大丈夫そうな」レシピの山（数百万個）を抱えていますが、「間違いなく成功する」レシピ（ほんの一握り）は極めて少ないのです。この論文は、まさにこのボトルネックに対処するものです。これは、すべてのレシピを実際に「調理」するのではなく、少数の既知の勝者と大量の「おそらく大丈夫そうな」推測を組み合わせて、コンピュータにこれらのレシピをランク付けする方法を教える巧妙な手法を紹介しています。目標は、科学者が最も有望なものだけに集中できるように、良いレシピを悪いものから選別することであり、それによって病気を治すための競争において時間と費用を節約することです。

---

より良い抗体のためのレシピ

抗体を設計することを、自分が完全には習得していない言語で文章を書こうとすることに例えて考えてみましょう。あなたには20種類のアミノ酸（文字）の辞書があり、それらを繋ぎ合わせて、実際に役に立つ文章（タンパク質）を作る必要があります。問題は、あなたが書く文章の多くが意味不明な文字列（ギブリッシュ）であったり、さらに悪いことに、文章の形をしていても、いざ声に出して言おうとすると全く意味をなさない可能性があることです。ラボにおいて、この「意味をなす」部分を**発現（expression）**と呼びます。もし抗体がうまく発現しない場合、それは「魔法の粉をひとつまみ」と指示しているレシピのようなもので、現実の世界では決して機能しません。

長い間、科学者たちは非常に小さな料理本に縛られてきました。彼らには、その抗体がどれだけの「食べ物」（収量）を生み出したかを正確に知っているレシピが数百個あります。しかし、彼らは何千もの新しいアイデアをテストする必要があります。この論文は、素晴らしい回避策を提案しています。膨大な量の「たぶん大丈夫そうな」レシピのライブラリを使って、コンピュータに教えてもらうのはどうでしょうか？

二段階の魔法のトリック

著者であるジョシュ・キクセン・サン（Josh Qixuan Sun）とそのチームは、コンピュータがいかに優れたレシピ判定器になれるかを教えるための、二段階の戦略を考案しました。

ステップ1：「没入」フェーズ
まず、彼らはタンパク質が一般的にどのように機能するかをすでに熟知しているスマートなコンピュータモデル（「タンパク質言語モデル」）を取り上げました。次に、自然界に見られる420万個の抗体配列（具体的にはラクダやラマ由来のもの）という膨大なライブラリを、そのモデルに読み込ませました。これらの配列は、大量の「おそらく大丈夫そうな」レシピの山のようなものです。これらが正確にどれくらい良く「調理」されるかは分かりませんが、自然界に存在しているということは、おそらく安全で安定していることを意味します。コンピュータはこれら4の420万個の配列を読み込み、正確な収量を知ることなく、優れた抗体の「雰囲気（バイブス）」を学習します。それは、まるで学生が、自分で文章を書こうとする前に、ジャンルの感覚を掴むために100万冊のミステリー小説を読むようなものです。

ステップ2：「味見」フェーズ
次に、チームはExp-1Kと呼ばれる、非常に高品質で小さな料理本を導入しました。この本には、わずか1,254個のレシピがありますが、それぞれのレシピに対して、それがどれだけのタンパク質を生成したかという正確なスコアが付いています。多くのレシピは高い収量を生み出し、中には少ししか作れないものもあり、約27%は全く何も生成しませんでした（ゼロ収量）。

ここで魔法が起こります。彼らは単にコンピュータに「このレシピはどれくらい良いですか？」（データが少ないため正解を出すのが難しい）と聞くのではなく、異なる質問を投げかけました。「もしレシピAとレシピBのどちらかを選ばなければならないとしたら、どちらの方が優れていますか？」

彼らは**直接選好最適化（Direct Preference Optimization: DPO）**と呼ばれる手法を用いました。これは犬の訓練を想像してみてください。単に「いい子」や「ダメ」と言うのではありません。2つのご褒美を提示して、「私はこちらの方が、あちらよりも好きだ」と言うのです。コンピュータはこのようにして抗体をランク付けすることを学びます。

• 強監督（Strong Supervision）: もしレシピAが100mgのタンパク質を作り、レシピBが10mgを作った場合、コンピュータは「AはBよりも優れている」と学習します。
• 弱監督（Weak Supervision）: もしレシピCが大きな山（420万個）の中にあり（そのスコアは不明ですが、自然界に存在しています）、レシピDがゼロのタンパク質しか生成しなかった場合、コンピュータは「CはおそらくDよりも優れている」と学習します。

これら2種類のレッスンを組み合わせることで、コンピュータは数千の新しいデザインをランク付けする方法を学び、最も有望なものをリストのトップに配置することができるようになります。

彼らが発見したこと

チームはこの手法を多様なデータセットでテストしました。彼らは、新しい「選好（プレファレンス）」による手法を、単純な回帰（数値を予測すること）や、特別なトレーニングなしにデータを見る方法といった、従来のコンピュータへの教え方と比較しました。

結果は明白でした：

• 二段階チームの勝利: 膨大な「たび゙ゃおそらく大丈夫そうな」ライブラリ（ステップ1）と、「味見」によるランキング（ステップ2）の両方を用いた手法が、他のあらゆる手法を一貫して上回りました。この手法は、どの抗体が実際に機能するかを予測することにおいても、またそれらを最良から最悪へとランク付けすることにおいても、より優れていました。
• ゼロショット（Zero-Shot）は弱い: この特別なトレーニングを行わずに（ゼロショット）、単にコンピュータを使用しただけでは、パフォーマンスは極めて低かったのです。コンピュータは、良いレシピと悪いレシピの区別をつけることができませんでした。これは、タンパク質の「アルファベット」を知っているだけでは不十分であり、抗体の発現という特定の「方言」を学ぶ必要があることを示唆しています。
• データが多いほど良い: 彼らは、420万個の「おそらく大丈夫そうな」レシピを増やしていくとどうなるかをテストしました。コンピュータにデータを追加すればするほど、コンピュータは賢くなっていきました。混乱することはありませんでした。これは、「弱い」データである大きなライブラリがセーフティネットとして機能し、コンピュータが極めて少ない「完璧な」データに基づいて極端な推測を行うのを防いでいることを示唆しています。

彼らが否定したもの

論文では、行き止まりであることが判明したいくつかのアイデアについてもテストしました：

• 大きなライブラリを読むだけでは不十分: もし彼らがステップ1（420万個の配列を読む）のみを行い、その後に小さな料理本に対して標準的な「数値を推測する」手法を用いた場合、うまくいきませんでした。コンピュータは言語は学習しましたが、レシピをランク付けする方法は学習できなかったのです。
• 「弱い」データが多すぎると「強い」データをかき消してしまう: もしトレーニングのバランスを慎重に調整しなければ、膨大な「おそらく大丈夫そうな」レシピの山が、極めて小さな「確実な」レシピの山を圧倒してしまうことが分かりました。彼らは、コンピュータが巨大なライブラリからも学びつつ、高品質なデータにも十分に注意を払えるように、$\alpha$と呼ばれるダイヤルを調整する必要がありました。

結論

この論文は、より良い抗体を設計するために、何百万もの完璧な実験を待つ必要はないことを示唆しています。代わりに、少数の高品質な実験と、山のような「おそらく大丈夫そうな」自然界のデータを巧みに組み合わせることで、コンピュータにデザインをランク付けする方法を教えることができます。

著者らは、このアプローチが、データの不足という問題を解決するための実用的かつ堅牢な方法であることを示しています。これはすべてを一瞬ですべて解決する魔法の杖ではありませんが、コンピュータへの学習のさせ方（単なる「数値」ではなく「選好」に焦点を当てること）を変えることで、抗体設計をより速く、より安く、より信頼できるものにできることを示唆しています。好奇心旺盛なティーンエイジャーに向けて言えば、これは「すべての料理を自分で味見するシェフ」から、「何千もの料理を一度に味見して、どの料理を出すべきかを正確に教えてくれる超知能を持った副シェフを持つシェフ」へとアップグレードすることなのです。