Pretraining on Adult ICU Data Accelerates Data Efficient AI Model Development in Critically Ill Children

病院は、あらゆる鼓動、呼吸、そして血液検査の記録をデジタルな流れとして蓄積する、人間の経験の膨大な貯蔵庫です。何十年もの間、科学者たちはコンピュータにこれらの流れを読み取らせる方法を教えようと試みてきました。患者の状態が悪化するタイミングや、退院の準備が整ったタイミングを予測するためです。臨床機械学習として知られるこの分野は、学習するための膨大なデータがあれば最も効果を発揮します。問題は、これらの「山」のようなデータが均等に分布しているわけではないことです。成人の集中治療室（ICU）は大規模で資金も潤沢であり、研究者がアクセスして研究できる膨大な情報を生成します。一方、子供たちが治療を受ける小児集中治療室は、規模がはるかに小さく、専門センターに分散していることが多く、そのデータは共有されたり容易にアクセスできたりすることは稀です。これは困難な状況を生み出します。つまり、病気の子供を教えるための十分な例がない場合に、どのようにして病気の子供を助けるための賢いコンピュータプログラムを構築すればよいのか、という問題です。

一つの潜在的な解決策は、「転移学習」と呼ばれる手法です。ある国の歴史を長年学んだ学生が、隣国の歴史を学ぼうとする場面を想像してみてください。彼らは古いノートをそのままコピーすることはできません。日付や出来事は異なるからです。しかし、帝国がいかに興り、いかに滅びるか、あるいは地理がいかに政治を形作るかといった理解を用いることで、ゼロから始める人よりもずっと早く新しい歴史を学ぶことができます。人工知能の世界において、これは、膨大な成人の患者のデータセットからすでに学習したモデルを取り出し、その知識を子供について学ぶための出発点として使用することを意味します。研究者が直面した大きな疑問は、このショートカットが実際に機能するかどうかでした。コンピュータは、子供の支援を行うのに十分なほど、疾患の根底にあるパターンを理解しているのでしょうか。それとも、大人と子供の間の違いは、モデルが橋渡しをするにはあまりにも大きすぎるのでしょうか。

インペリアル・カレッジ・ロンドンの研究チームと数箇所の英国の病院は、このアプローチの限界をテストすることで、この問いに答えようとしました。彼らは、まず米国における71,000件以上の成人集中治療滞在データである「MIMIC-IV」という大規模なデータセットから開始しました。彼らは、死亡予測、入院期間の予測、腎損傷の発症、敗血症の発症、腎機能の状態、および人工呼吸器を外す準備ができているか、という6つの特定のタスクを実行するために、これらの成人データを用いてコンピュータモデルを訓練しました。これらのモデルを訓練した後、研究者はこれらを、合計で約17,700人の子供のデータを保持する3つの英国の小児集中治療室へと持ち込みました。

最初のテストは、成人用に訓練されたモデルを、何の調整も加えずに追加の学習なしに小児に適用した場合に何が起こるかを確認することでした。これは「ゼロショット」展開と呼ばれ、コンピュータがその成人の知識を新しい状況に直接適用しようとする試みです。結果は明白かつ失望させられるものでした。モデルは十分に機能しませんでした。死亡を予測する場合、成人のモデルは小児のデータに特化して訓練されたモデルよりも精度が大幅に低くなりました。また、敗血症や腎臓の問題の予測においても重大な誤りを犯しました。実際、モデルは誤った答えに対して非常に高い確信を持っており、実際には順調である子供に対しても、死亡のリートが非常に高いと予測してしまうことがよくありました。このことは、成人用に構築されたモデルをそのまま子供に適用して機能することを期待してはならないことを示しています。生物学的な違いがあまりにも重大なのです。

しかし、物語はそこで終わりませんでした。研究者たちは次に、より微細な問いを投げかけました。「もし、成人のモデルを起点としつつ、少量の現地の小児データから学習させるようにすれば、モデルは改善するのだろうか？」という問いです。彼らは、成人のモデルをベースにし、わずか100件の小児患者の記録を用いて「ファインチューニング（微調整）」を行うことで、これをテストしました。そして、それを同じ100件の記録を用いてゼロから訓練した新しいモデルと比較しました。その差は劇的でした。成人の知識を起点とし、その後子供に適応させたモデルは、ゼロから始まったモデルを大幅に上回る性能を示しました。すべてのタスク、およびすべての病院の現場において、成人の「助走」を利用したモデルの方がより正確でした。例えば、死亡予測において、適応させたモデルは、生存する患者とそうでない患者を区別する能力において、極めて明確な優位性を示しました。

研究者たちはまた、データを増やしていくと何が起こるのかについても調査しました。小児の記録を100件から数千件というフルデータセットへと増やしていくにつれて、二つのアプローチの差は縮まりました。これは理にかなっています。十分なデータがあれば、新しいモデルに助けを借りずとも、必要なすべてを教えることができるからです。しかし、重要な発見は、成人の事前学習によって、はるかに少ない小児の事例数で高いレベルの性能に到達できるということでした。多くの場合、成人の知識から始まり、数百人の子供から学んだモデルは、数千人の子供からゼロから訓練されたモデルと同等の性能を発揮しました。これは、データが極めて少ない病院にとって、成人の知識を基礎として利用することが、強力なスタートアップの方法であることを示唆しています。

研究では、この仕組みを実現するためにコンピュータが具体的に何を変化させる必要があるのかについても調査しました。患者の測定値（例えば平均血圧の計算方法など）を調整するだけでは、問題を解決するには不十分であることがわかりました。コンピュータは、データポイント間の関係性を実際に再学習する必要がありました。研究者がパターンの認識を行う部分を固定し、最終的な意思決定レイヤーのみを訓練したところ、モデルは大幅に改善し、失われた精度の大部分を取り戻しました。これは、成人モデルが身体のストレスや疾患への反応に関する有用なパターンを学習していたものの、それを子供の身体という特定の文脈に適用するためには、再訓練が必要であったことを示しています。

最終的に、この研究は小児ケアにおける人工知能開発のための明確な道筋を示しています。それは、成人モデルを単に「コピー＆ペースト」して子供を救うことはできないものの、成人モデルを強力な跳躍台として利用できることを示しています。成人の集中治療における膨大な知識から出発し、それを現地の小児データに注意深く適応させることで、病院は本来必要とされるよりもはるかに少ないデータと短い時間で、効果的な意思決定支援ツールを構築できます。この研究は、このアプローチがデータが最も乏しい場所でこそ最も価値を持つことを裏付けており、データ不足によって取り残される可能性のある、より小規模で専門的なセンターに高度な医療AIをもたらす方法を提示しています。それは、最も深刻な状態の患者を助けようとする探求において、違いを理解するための努力を厭わない限り、他者の経験から学ぶことができるということを教えてくれています。