🤖 machine learning

Conformal Prediction for Molecular Properties under Label Shift

本論文は、ラベルシフトに特化した共形予測フレームワークを導入するものであり、スコアを周辺的なラベル確率比で重み付けすることにより、モデルの再学習を必要とせずに、分子特性に対する統計的に厳密な予測区間を生成し、それによってAI駆動型の創薬における信頼性と規制遵守を向上させるものである。

原著者： Hyeonsu Lee, Juyeon Kim, Erkhembayar Jadamba, Seungjin Choi, Hyunjin Shin

公開日 2026-08-19

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Hyeonsu Lee, Juyeon Kim, Erkhembayar Jadamba, Seungjin Choi, Hyunjin Shin

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

化学化合物が救命薬へと変わる道のりは、不確実性のマラソンである。それは10年以上を要し、数十億ドルの費用がかかることもあるプロセスであり、コンピュータモデル上では完璧に見えた分子が、生体内では予測不可能な挙動を示すために、しばしば失敗に終わる。このプロセスを加速させるため、科学者たちは、新しい分子がどのように作用するか（例えば、水に溶けるか、あるいは細胞に対して毒性を持つかなど）を予測するために、人工知能への依存を強めている。しかし、これらのデジタルな予測は、それらが学習したデータと同じ質である。モデルが、学習した例とは大きく異なる新しいタイプの分子に遭遇したとき、その自信は負債となり、自信満々に間違った単一の精密な数値を提示することがある。これらのツールを実世界での使用において安全にするためには、研究者たちは、単に答えを出すだけでなく、特に「ゲームのルール」が変わったときに、その答えの信頼性を測定する方法を必要としている。

最近の研究において、モガム・バイオメディカル研究所とインティコードの研究者たちは、技術用語で「ラベルシフト」として知られる、まさにこのルールの変化という問題に取り組み、解決を図った。これは、モデルが予測しようとしている特性の分布が、学習フェーズと実世界での適用フェーズの間で変化する場合に起こる。例えば、モデルが多種多様な一般的な分子に基づいて学習した後に、極めて高い効力を持つ希少な化合物を見つけ出すよう求められた場合などがこれにあたる。このようなシナリオでは、不確実性を測定する標準的な手法は破綻し、しばしば真の値を取り込むには狭すぎる予測区間をもたらしてしまう。チームは、高価な基礎モデルを再学習させることなく、これらのAI予測の信頼区間を調整する新しいフレームワークを開発した。予測値の範囲を構築する「コンフォーマル予測」と呼ばれる統計的手法を用いることで、データ分布がドリフト（変動）しても信頼性を維持できるシステムを作り上げたのである。

研究者たちは、創薬における重要な因子である溶解度の既知レベルを持つ、約1万個の化合物を含む大規模なデータセットを用いて、彼らの手法をテストした。彼らは、数億の化学構造を用いて学習した高度な言語モデルを採用し、初期予測を行った。ラベルシフトという実世界の課題をシミュレートするために、彼らはテストデータの分布を人工的に変更し、溶解度の値の分布が学習セットと異なるようにした。標準的な未調整の手法をこのシフトしたデータに適用したところ、システムは予測範囲内に真の値を捉えるべき頻度よりも頻繁に失敗し、結果として危険なほど過信した状態となった。テストデータは学習データと同じ姿をしているという前提に基づいた従来のアプローチは、この変化に到底ついていくことができなかった。

これを修正するために、チームは予測に対する「補正レンズ」として機能する重み付けシステムを導入した。彼らはまず、利用可能なデータを3つの明確なグループに分けた。一つはモデルの学習用、一つはデータ分布がどのようにシフトしたかを推定するため、そして三つ目は最終的な予測範囲を較正（キャリブレーション）するためのものである。この二番目のグループを用いて、新しい環境における異なる溶解レベルの期待頻度と、古い環境における比率を計算した。そして、これらの比率をモデルが較正中に犯した誤差に対して重みとして適用した。このプロセスは、システムに対し、新しいデータにおいて一般的になりつつある種類の誤差にはより注意を払い、衰退しつつある誤差には注意を減らすよう、事実上の指示を与えるものであった。こうすることで、彼らは統計的な妥当性を維持できる予測区間を構築することができ、データの分布がどのように変化したとしても、真の値が所望の信頼水準内で予測範囲に収まるようにした。

堅牢性を確保するために1,000回繰り返されたシミュレーションの結果は、明確な改善を示した。標準的な手法は、ラベルシフトの下では真の値を頻繁に外れる区間を生成したが、新しい重み付けアプローチは、一貫してカバー率を目標レベルへと回復させた。研究者たちは、必要な重みを計算するために「最尤推定法」と呼ばれる特定の統計手法を用いたときに、この手法が最も効果的であることを発見したが、他の手法も有望な結果を示した。興味深いことに、カバー率を回復させるための最も正確な手法は、他の手法よりもわずかに広い区間を生成する傾向があったが、これは不確実性に対するより誠実な評価を反映したトレードオフである。この研究は、既存の強力なAIモデルを、ゼロから再学習させるという禁止的なコストをかけることなく、新しい、変化する化学的景観に適応させることが可能であることを実証した。

この成果は、創薬という極めて重要な環境に人工知能を統合するための実用的な道筋を提示している。変化する条件に適応する統計的に厳格な信頼性指標を生成する方法を提供することで、このフレームワークは、理論的なモデル性能と、透明性に対する規制要件との間の溝を埋める助けとなる。これにより、科学者が新しい分子に対する予測を見る際、単なる数値を見ているのではなく、リスクに関する明確な理解を伴った、その潜在的な可能性に対する現実的な評価を見ることができるようになる。盲目的な自信から、測定可能な信頼性へのこの転換は、AIを、新しい薬を患者に届けるための数十億ドル規模の取り組みにおける信頼できるパートナーへと昇華させるための、極めて重要なステップである。

技術要約：ラベルシフト下における分子特性のための共形予測

問題提起
創薬における人工知能（AI）の応用は、分布シフトという重大な信頼性のボトルネックに直面している。AIモデルは分子特性（溶解度、活性、毒性など）の予測を加速させるが、テストデータが訓練分布から逸脱すると、その性能はしばしば低下する。具体的には、本研究ではラベルシフト、すなわちソース（訓練）ドメインとターゲット（テスト）ドメインの間で、目的変数の周辺分布（ $P(y)$ ）は変化するものの、ラベルに対する特徴量の条件付き分布（ $P(x|y)$ ）は不変であるシナリオを扱う。これは、研究の優先順位が、元の訓練データでは過小評価されていた特性値（例：極端な活性や低毒性）を持つ分子の発見へとシフトする場合の創薬において一般的である。

標準的な共形予測（Conformal Prediction）は、有限サンプルでの妥当性を備えた統計的に厳密な予測区間を生成する枠組みであるが、訓練データとテストデータの間の交換可能性（exchangeability）の仮定に依存している。ラベルシフト下では、この仮定が崩れるため、標準的な手法は過度に自信に満った（overconfident）信頼性の低い予測を生み出し、被覆率（coverage rate）が公称信頼レベルを大幅に下回ることになる。さらに、従来の点予測は高リスクな実験設計に対して限定的なガイダンスしか提供できず、既存の分布シフト解決策の多くは、コストのかかるモデルの再学習を必要とするか、あるいは連続的な回帰タスクにおけるラベルシフトではなく共変量シフトに主眼を置いている。

手法
著者らは、ラベルシフト下における分子特性回帰のために設計された、ベースモデルの再学習を必要としない**重み付き共形予測（Weighted Conformal Prediction: WCP）**フレームワークを提案している。その手法は以下のステップで進行する：

データ分割： データ漏洩を防ぐため、ソースデータセット（ $D_s$ ）を3つの互いに素なサブセットに分割する：
- 訓練セット ( $D_{train}$ ): ベース予測モデル（ $f$ ）の学習に使用。
- 重み推定セット ( $D_{weight}$ ): ラベル分布のソース対ターゲットの比率を表す重要度重みを推定するために使用。
- 較正セット ( $D_{cal}$ ): 非適合スコア（nonconformity scores）を計算するために使用。
- ターゲットデータセット（ $D_t$ ）は、シフトしていないサブセットとシフトしているサブセットに分割される。
離散化と重み推定： 目的変数は連続値であるため、ターゲットとなる変数 $y$ を $K$ 個のビンに離散化して擬似ラベルを作成する。重要度重み（ $w$ ）は、ターゲットの周辺ラベル確率とソースの周辺ラベル比率（ $w(\tilde{y}) = q(\tilde{y})/p(\tilde{y})$ ）として推定される。著者らは、ラベルなしのターゲットデータからターゲット分布 $q(\tilde{y})$ を推定するために、3つの異なる手法を採用している：
- ブラックボックス・シフト推定（BBSE）
- ラベルシフト下における正則化学習（RLLS）
- バイアス補正温度スケーリング（BCTS）を用いた最大尤度推定（MLE）。
- MLEでは、予測をモデル出力を中心とし、標準偏差をRMSEとするガウス分布としてモデリングし、累積分布関数（CDF）の差を用いてビンの確率を算出する確率的アプローチをとる。
重み付き共形予測：
- 非適合スコア（ $s_i$ ）は、通常、絶対残差（ $|y_i - f(x_i)|$ ）として較正セットに対して計算される。
- 各スコアには、真のラベルのビンに基づく推定重要度重み（ $\hat{w}_i$ ）が割り当てられる。
- 重み付き分位数（ $\hat{q}_w$ ）は、スコアが閾値を下回る重み付き割合が所望の信頼レベル（ $1-\alpha$ ）を満たすように計算される。
- 新しいテスト点 $x_t$ に対する最終的な予測区間は、 $C(x_t) = [f(x_t) - \hat{q}_w, f(x_t) + \hat{q}_w]$ として構築される。

主な貢献

ラベルシフトへの適応： 本論文は、共変量シフトと比較してこれまで未開拓であった、ラベルシフト下での連続回帰タスクに対する共形予測の具体的な適応策を導入している。
モデルに依存しないフレームワーク： 本手法は様々なベースモデル（ここでは大規模言語モデル（LLM）を用いて実証）と互換性があり、コストのかかるモデルの再学習を必要としない。較正ステップにおける再重み付けのみに依存している。
推定手法の統合： 予測モデルの出力のみを用いて分布のズレを補正する方法を示すことで、周辺確率比を推定するためのBBSE、RLLS、およびMLEを体系的に評価し、統合している。
統計的厳密性： 属性分布がドリフトする場合でも、周辺被覆保証（ $P(y_{test} \in C(x_{test})) \geq 1-\alpha$ ）を回復させる。

実験結果
フレーム本フレームワークは、約2億個のSMILES文字列で事前学習され、溶解度（logS）予測のために微調整されたBARTアーキテクチャに基づく化学的大規模言語モデル（LLM）を用い、AqSolDBデータセット（9,982化合物）を用いて評価された。

ベースラインの失敗： 標準的な分割共形予測（CP）は、ラベルシフトしたテストデータにおいて顕著な被覆率の低下を示し、平均被覆率は目標値である公称値から大幅に低下した。
性能の回復： 提案された重み付き共形予測（WCP）手法は、被覆率を正常に回復させた。WCPの被覆分布は標準的なCPに対して右側にシフトしており、これは予測区間がより頻繁に真のラベルを含んでいることを示している。
推定器の比較： 重み推定手法の中で、MLEが最も高い被覆率を達成し、次いでRLLS、BBSEとなった。MLEは、離散化に使用されるビンの数に関して堅牢性を示した。
トレードオフ： MLEは最高の被覆回復を提供したが、BBSEやRLLSと比較して、予測区間がわずかに広くなるという結果になった。

意義と主張
著者らは、本研究を、創薬におけるAIの規制遵守と実社会への導入に向けた重要なステップとして位置づけている。単一の値による精度を超えて、実行可能で統計的に厳密な信頼度指標を提供することで、本手法は、AIシステムに関するFDAの2025年ガイダンスが求める「適切な信頼区間」および「不確実性の推定」という要件に対応している。

本論文は、このフレームワークが、数十億ドル規模の開発パイプラインにおけるAI駆動型予測の信頼性を高めると主張している。これは、特性分布がドリフトする場合でも、堅牢な不確実性定量化を可能にし、未知の化学空間をナビゲートする際の普遍的な障害に直接対処するものである。最終的に、本研究は、予測モデリングを透明性と信頼性の要求に適合させ、モデルが創薬の不確実な最前線を航行する際に信頼性を維持できるような、汎用的かつモデルに依存しないソリューションを提供するものである。

関連論文