🤖 AI

Hierarchical Modeling of ICD Codes in EHR Foundation Models

本論文は、ICD-10-CMコードの階層構造を、トークン拡張またはグラフベースのエッジ注入のいずれかを通じてEHR基盤モデルに明示的に組み込むことが、コードをフラットなトークンとして扱う場合と比較して、インドメインおよびクロスデータセットの両方における臨床予測性能を大幅に向上させることを実証している。

原著者： Megha Thukral, Dong Gyun Kang, Rudra Pratap Singh, Shruthi Kashinath Hiremath, Katrin Hänsel, Thomas Plötz

公開日 2026-06-16

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Megha Thukral, Dong Gyun Kang, Rudra Pratap Singh, Shruthi Kashinath Hiremath, Katrin Hänsel, Thomas Plötz

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

あなたは、コンピュータに患者の病歴を理解させる方法を教えようとしていると想像してください。コンピュータは、医師が病状を記述するために使用するコード（例：「S72.001A」）の長いリストを読み取ります。

問題：「平坦な」視点
現在、ほとんどのコンピュータモデルは、これらのコードを無関係でランダムな単語のリストとして扱っています。それは、コンピュータが「リンゴ」、「車」、「シマウマ」を、互いに何の繋がりもない3つの全く別のアイテムとして見ているようなものです。実際には、医療コードは巨大で詳細な家系図のように構成されています。ある特定の種類の骨折のコードは、「脚の負傷」グループの一部であり、それは「骨の負傷」グループの一部であり、さらにそれは「負傷」という家族の一部なのです。

この論文は、この家系図を無視することで、コンピュータが疾患がいかに関連しているかという大きな手がかりを見逃していると主張しています。

解決策：コンピュータに教えるための2つの新しい方法
研究者たちは、コンピュータにこの家系図の構造を尊重させるために、2つの異なる手法を試みました。

「ラベル・ステッカー」法 (HICD-BERT):
おもちゃの箱を想像してください。箱に単に「おもちゃ」と書く代わりに、「おもちゃ」、「アクションフィギュア」、「スーパーヒーロー」、「バットマン」と書かれたステッカーを貼ります。
この手法では、コンピュータは特定のコードを見るだけでなく、そのコードが属するより広いカテゴリーを表す「ステッカー」も見ることになります。これにより、コンピュータは特定のコードがより大きなグループの一部であることを学びます。これは、バットマンのステッカーを見ることで、そのおもちゃをよりよく理解できるのと同じです。
「ソーシャルネットワーク」法 (HICD-Graph):
すべての疾患を一つの「都市」とする地図を描いているところを想像してください。通常、あなたは同じ患者の記録の中に頻繁に登場する都市同士の間にだけ、道路を描きます。
この手法では、研究者はその地図に「追加の道路」を加えました。彼らは、公式の医療家系図に基づいて、特定の疾患の都市とその「親」となる都市（より広いグループ）を結ぶ線を描きました。これにより、どの疾患が一緒に発生するかだけでなく、定義によってどのように関連しているかも理解している、ハイブリッドな地図が作成されます。

研究結果
研究者たちは、これら2つの手法を、2つの巨大な実際の患者記録データベース（ボストンの病院からのものと、全米のICUのデータ）を用いてテストしました。

予測精度の向上: ほぼすべてのテストにおいて、「家系図」の構造を利用したモデルは、その構造を無視したモデルよりも、将来の健康状態の変化（患者が再入院するかどうか、あるいは緊急ケアが必要かどうかなど）を予測する上で優れていました。
「ゴルディロックス（最適）」ゾーン: 彼らは、「最適な」詳細レベルは仕事の内容によって異なることを発見しました。
- 「ラベル・ステッカー」法の場合、最も具体的な詳細（ツリーの最も細かいレベル）が通常、最も役立ちました。
- 「ソーシャルネットワーク」法の場合、ツリーのすべてのレベル（最も広い家族から特定のコードまで）を使用するのがベストでした。
「旅行」テスト: 彼らは、ある病院のデータセットでコンピュータを学習させ、その後、見たこともない全く別の病院のデータセットに対して結果を予測するよう求めました。
- 「ソーシャルネットワーク」法は、非常にうまく「旅行」できました。疾患がどのように関連しているかという普遍的なルールを学んでいたため、精度を維持することができました。
- 「ラベル・ステッカー」法は、「旅行」に苦戦しました。それは医学の一般的なルールを学んだのではなく、最初の病院の特定の習慣を暗記してしまったようでした。

結論
この論文は、医療コードは単なるランダムなラベルではなく、構造化された言語であると結論付けています。コンピュータにこれらのコードの「家系図」を明示的に教えることで、患者の病状の文脈（コンテキスト）を単なる孤立した事実としてではなく、理解できる、よりスマートで信頼性の高いAIを構築できることを示しました。研究者たちは、これを実現するためにコンピュータの脳を完全に作り直す必要はなく、医療の風景をナビゲートするためのいくつかの「ガイドポスト（目印）」（ステッカーや追加の道路）を加えるだけでよいことを示しました。

技術要約：EHR基盤モデルにおけるICDコードの階層的モデリング

問題提起

BEHRTやMed-BERTといった電子健康記録（EHR）基盤モデルは、通常、国際疾病分類（ICD）診断コードを平坦で独立したトークンとして扱います。このアプローチは、ICDコーディング・システムに内在する、疾患がファミリー、サブカテゴリ、そしてより詳細な診断へと組織化されているという臨床的に意味のある階層構造を見落としています。その結果、既存の表現学習手法は、関連する診断を孤立した記号として扱い、このオントロジーを明示的に活用できていません。これは、診断が疎（スパース）であったり、ロングテール分布を示したり、施設ごとに特有であったりする臨床データにおいて特に問題となります。本論文は、この階理構造を帰納バイアスとして明示的にモデリングすることで、関連するコードから得られるデータから希少なコードが恩恵を受けられるようにし、より広範なケアパスウェイを捉え、ドメインシフトに対する堅牢性を向上させ、表現学習を改善できるという仮説を立てています。

手法

著者らは、現代的なEHR表現学習にICD-10-CMの階列を注入するための、2つの補完的なメカニズム、総称して「階層的ICDモデル（HICD）」を提案し、評価しています。彼らは、粗い粒度から細かい粒度に至る、3つの入れ子状の階層レベル（ $G_0, G_1, G_2$ ）を定義しています。

1. HICD-BERT（トークンレベルの注入）

このアプローチは、BEHRT Transformerアーキテクチャを拡張したものです。ICDコードを原子的な識別子として扱うのではなく、文字列接頭辞の切り出し（string-prefix truncation）を通じて得られる階層固有の埋め込みを用いて、標準的なトークン埋め込みを拡張します。

メカニズム: 診断コードに対し、コード文字列の異なるレベル（例：1文字の接頭辞、2文字の接頭辞、3文字のカテゴリ）に対応する加算的な埋め込みを付加します。
データソース: この手法はデータ駆動型であり、学習時に外部のオントロジーへのアクセスを必要としません。階層はコード文字列から直接導出されます。
学習: 診断シーケンスを用いたマスク付き言語モデリング（MLM）による事前学習を行い、その後、ダウンストリームタスクのためにファインチューニングを行います。

2. HICD-Graph（グラフレベルのエンコーディング）

このアプローチは、Transformerエンコーダを初期化する前に、コードグラフレベルで階層を注入します。

メカニズム: ハイブリッドな診断共起グラフを構築します。これは以下を組み合わせたものです：
- 経験的エッジ: 患者の受診内での診断の共起に基づく点相互情報量（PMI）によって重み付けされます。
- オントロジカルエッジ: リーフ（末端）診断ノードを、ICD階層内の祖先ノード（ $G_0, G_1, G_2$ ）に接続する一様重みのエッジ。
学習: リンク予測目的関数を用いてグラフ畳み込みネットワーク（GCN）を学習し、階層を考慮したコード埋め込みを学習します。これらの埋め込みは、患者レベルのTransformerエンコーダの埋め込みテーブルを初期化するために使用されます。

実験設定

データセット: MIMIC-IV（事前学習およびインドメイン評価に使用）および eICU（クロスデータセット転移評価に使用）。
タスク:
1. 30日以内再入院（MIMIC-IV）: 二値分類。
2. 緊急入院予測（MIMIC-IV）: 二値分類。
3. ICU再入院（eICU）: 転移評価のための二値分類（エンコーダは凍結、分類器をファインチューニング）。
アブレーション: 研究では、両方のアーキテクチャに対して、階層なしのベースラインに対する3つの階層レベル（ $G_0, G_1, G_2$ ）の全8通りの組み合わせを系統的に評価しています。

主な結果

インドメイン性能（MIMIC-IV）

全体的な改善: 階層拡張構成は、両方のモデルとタスクにおいて、28組のペア比較のうち26組で、階層なしのベースラインを上回りました。
HICD-BERT: パフォーマンスの向上は、主に最も細かい粒度のレベル（ $G_2$ ）によって駆動されました。中間レベル（ $G_1$ ）単体ではパフォーマンスの有意な向上は見られませんでしたが、他のレベルと組み合わされた場合には貢献しました。最適な構成はタスクによって異なります（例：再入院には全レベル、緊急入院予測には単一の細かいレベル）。
HICD-Graph: 階層レベルを追加するにつれてパフォーマンスが漸進的に向上するという、単調な改善傾向を示しました。グラフベースのアーキテクチャは、複数の粒度レベルからの情報を同時に効果的に統合できました。

クロスデータセット転移（MIMIC-IVからeICUへ）

HICD-Graph: 強固な転移可能性を示しました。7つの階層バリアントのうち6つがベースラインに対して有意に改善しており、全レベル構成が最強のAUROC（0.587）を達成しました。グラフベースの相関構造は、データセットのシフトに対してより不変であるようです。
HICD-BERT: 階層の恩恵は、分布シフトの下ではほとんど消失しました。最も粗い単一レベルの構成（ $G_0$ ）のみが、ベースラインに対して有意な改善を示しました。著者らは、HICD-BERTで学習された逐次的なトークンパターンは、MIMIC-IVの特定の受診構造に強く結合しているのに対し、オントロジーに固定されたグラフ構造はより汎用的であることを示唆しています。

埋め込み分析

意味的クラスタリング: 階層を考慮したモデルは、より一貫したコードクラスターを生成しました。具体的には、 $G_1+G_2$ 構成のHICD-Graphが、埋め込み空間において最もタイトなローカルコードクラスターをもたらしました。
パフォーマンスとの相関: 最もタイトで臨床的に意味のあるクラスター（例：同じ2文字の接頭辞を共有するコード）を生成した構成が、最も強力なダウンストリーム予測性能を達成しました。これは、階層が臨床的な関係を尊重するように埋め込みの幾何学的形状を形成することで、パフォーマンスを向上させていることを示唆しています。

意義と主張

本論文は、ICDコーディング・システムに存在する階層構造は、EHR基盤モデルにおいて未利用の信号であると主張しています。主な貢献と主張は以下の通りです：

堅牢な帰納バイアスとしての階層: ICD階層を明示的にエンコードすることは、異なるアーキテクチャ（Transformerベースおよびグラフベース）とタスクにわたって、ダウンストリームの予測性能を大幅に向上させます。
粒度依存性: 階層レベルの有用性は一様ではありません。最適なレベルは、モデリング手法（トークンレベル vs グラフレベル）とダウンストリームタスクの両方に依存します。
構造の転移性: グラフベースの階層エンコーディングは、トークンレベルの注入よりもデータセット間でより強固に転移します。これは、オントロジー由来の相関構造が、逐次的なトークンパターンよりも根本的な臨床関係を捉えていることを示唆しています。
低コストの統合: これらの恩恵は、コアとなる事前学習の目的関数やパイプラインを変更することなく、最小限のアーキテクチャ変更（加算的な埋め込みまたは追加のグラフエッジ）によって達成されます。
汎用性: 構造化された臨床オントロジーの価値に関する知見は、ICD-10-CMを超えて、他の構造化された語彙（例：薬剤のATCコード）や表現学習手法にも適用可能です。

著者らは、絶対的なAUROCの改善は緩やかではあるものの、統計的に堅牢かつ一貫していることを述べ、控えめな姿勢を保っています。また、他の臨床アウトカム、施設、およびEHRシステムへの汎用性に関する限界を認め、階層レベルが自動的に学習されたものではなく、手動で定義されたものであることも指摘しています。