💬 NLP

Bridging the Version Gap: Multi-version Training Improves ICD Code Prediction, Especially for Rare Codes

本論文は、ICD-9 と ICD-10 のデータを組み合わせて修正されたラベル別アテンションモデルを学習させることが、バージョン間のギャップを効果的に埋め、少数パラメータで長尾問題を解決することにより、特に希少コードの予測性能を大幅に向上させることを示している。

原著者： Jinghui Liu, Anthony Nguyen

公開日 2026-05-19

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Jinghui Liu, Anthony Nguyen

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

この論文を、平易な言葉と日常的な比喩を用いて解説します。

大きな問題：動く標的と長い尾

あなたが膨大な医療記録の図書館を整理しようとしていると想像してください。そのためには、すべての患者に、その病状を説明する特定の「タグ」（ICD コード）を割り当てなければなりません。この仕事には、2 つの大きな頭痛があります。

辞書が絶えず変わっていること: 医療タグの公式辞書（ICD と呼ばれる）は絶えず更新されています。時には、古い辞書（ICD-9）のタグが、新しい辞書（ICD-10）のタグと完全に一致しないことがあります。これは、古い教科書がまだ棚にある状態で、新しい言語を学ぼうとしているようなものです。ほとんどのコンピュータプログラムは、言語の「1 つのバージョン」しか話せるように訓練されていないため、ルールが変わると混乱してしまいます。
「長い尾」の問題: ほとんどの患者は、インフルエンザや高血圧のような一般的な疾患を持っており、これらはタグ付けが容易です。しかし、ごく少数の人しか持っていない数千もの稀な疾患が存在します。データの世界では、これらが「長い尾」です。これらの稀な疾患の例が非常に少ないため、コンピュータモデルはそれらを学習することに苦労し、しばしば完全に無視してしまいます。

解決策：古い本と新しい本を混ぜる

研究者たちは、単純な問いを投げかけました：もし、古い医療記録（ICD-9）と新しい記録（ICD-10）の両方を同時にコンピュータに教えるとしたらどうなるでしょうか？

通常、人々はこれらを混ぜることは災いになると考えています。タグが完全に一致しないためです（古いタグの約 24% だけが新しいシステムで直接一致します）。これは、フランス語の単語を混ぜて英語を教えるようなもので、学生が混乱すると予想されるでしょう。

しかし、研究者たちは DUALLAAT という特別なモデルを構築し、まさにこれを試みました。彼らは以下のような「スムージー」をモデルに与えました。

MIMIC-III（ICD-9）からの古い記録
MIMIC-IV（ICD-9）からのより新しい記録
MIMIC-IV（ICD-10）からの最新記録

何が起きたのか？（結果）

結果は驚くほど良く、コンピュータモデルにとっての「秘密のソース」として機能しました。

稀な疾患へのブースト: 最大の勝利は、稀な疾患（「長い尾」）に対するものでした。古いデータを追加することで、稀な ICD-10 コードを特定するモデルの能力は 27% 向上しました。まるで古い記録には、特定のタグ名が異なっていても、疾患の「概念」に関する隠された手がかりが含まれていたかのようです。モデルは単にラベルだけでなく、疾患の「意味」を学習しました。
一般的な疾患へのブースト: モデルは一般的な疾患の処理も改善され、複雑化させることなく全体の精度を向上させました。
効率性: 各データセットのバージョンごとに 3 つの異なるモデルを必要とする代わりに、これらすべてを処理するために必要なのは 1 つ のモデルだけでした。これは、訪問する国ごとに異なる辞書が必要になる代わりに、1 つの万能翻訳機を持つようなものです。これにより、膨大なコンピュータメモリとトレーニング時間が節約されました。

「なぜ」なのか（秘密の材料）

この論文は、成功がタグの完全な一致から来たのではなく、共有された臨床的な意味 から来たことを示唆しています。

次のように考えてみてください。「心筋梗塞」という言葉が、古い本では"Myocardial Infarction"から、新しい本では"Acute Myocardial Infarction"に変わっていたとしても、患者の症状を記述したメモの「記述」は類似したままでした。古いメモと新しいメモの両方を読むことで、モデルは疾患の「物語」を認識することを学び、新しいメモだけを読んだモデルよりもはるかに賢くなりました。

まとめ

この論文は、システムが更新される際に古い医療データを捨ててはならないことを証明しています。古い記録と新しい記録を混ぜることで、稀な疾患をよりよく特定し、コーディングシステムが変更されても破綻しない、より賢い単一のコンピュータモデルを訓練することができます。それは、「時代遅れ」のデータを貴重なトレーニングツールへと変えるのです。

「バージョンギャップの橋渡し：マルチバージョン学習が、特に希少コードにおいて ICD コード予測を改善する」という論文の詳細な技術的まとめを以下に示す。

問題定義

本論文は、自動国際疾病分類（ICD）コーディングにおける 2 つの重要な課題に取り組んでいる：

バージョンの進化：ICD システムは継続的に更新される（例：ICD-9 から ICD-10 へ、そして今後の ICD-11 へ）。固定されたラベル空間を持つ特定バージョンで訓練されたモデルは、これらの変化に対処することが難しく、新バージョンが採用された際にデータ分布の不一致を引き起こす。
ロングテール分布：ICD コードの分布は著しく偏っている。MIMIC-IV などのデータセットにおいて、希少コード（出現回数が 10 回未満）は、全コードセット（26,000 コード中 18,000 コード）の約 70% を占める。現在のモデルは、訓練サンプルが不足しているため、これらの希少コードにおいて性能が低下し、堅牢で実装可能なシステムにとってボトルネックとなっている。

未解明の重要な問いが残されている：異なる ICD バージョンで注釈付けされたデータを組み合わせる（例：ICD-9 と ICD-10 を混合する）ことで、バージョンに依存しない単一のモデルを訓練することは可能か、それとも用語の不一致がノイズを導入し性能を損なうのか。

手法

著者らは、修正されたラベル別アテンション（LWA）モデルであるDUALLAAT（Dual Label-wise Attention）を用いたマルチバージョン学習アプローチを提案する。

モデルアーキテクチャ：
- デュアルエンコーダ：臨床ノートのみをエンコードする標準的な LWA モデルとは異なり、DUALLAAT は臨床ノート用と ICD コード記述用の 2 つのテキストエンコーダを採用する。
- コード埋め込み：コードに固定された埋め込みを使用するのではなく、モデルは ICD コードのテキスト記述から動的にコード埋め込みを生成する。これにより、ICD コードがテキスト文字列として提供される限り、モデルは異なるバージョン（ICD-9 または ICD-10）のコードを処理できる。
- アテンション機構：モデルはラベル別アテンションを用いて、臨床ノート内の関連トークンを特定のコード記述と整合させ、 $N$ 個のノートと $C$ 個のコードに対する確率行列を出力する。
- バリエーション：著者らは 2 つのエンコーダ構成をテストした：基本 CNN を使用する DUALLAATcnn と、RNN/GRU を使用する DUALLAAT。
データ戦略：
- データセット：本研究では、MIMIC-III（ICD-9）、MIMIC-IV（ICD-9）、MIMIC-IV（ICD-10）の 3 つの MIMIC 派生データセットを利用した。
- ラベル空間の拡張：著者らは、希少コード（頻度 < 10）を含むように MIMIC からすべてのコードを再抽出し、ICD-10 のラベル空間を 8,000（頻出）から 26,000（完全セット）に拡張した。
- 訓練手順：3 つのデータセットからの訓練セットを集約した。混合バージョンでのバッチ訓練を処理するために、著者らは各バッチが 1 つの ICD バージョン（ICD-9 または ICD-10 のいずれか）のみを含むようにするサンプラーを実装し、訓練プロセス中に異なるバージョンのバッチをシャッフルした。これにより、モデルをマルチバージョンデータに曝露しつつ、ラベル空間のサイズを安定させた。
ベースライン：
- PLM-ICD：ドメイン内 BERT とスライディングウィンドウおよび LWA を使用する強力なベースライン。
- CoRelation：コード間の関係をモデル化するために二部グラフを利用するモデル。
- CAML & LAAT：以前の CNN および RNN ベースの LWA モデル。

主要な結果

実験により、ICD-10 訓練に ICD-9 データを混合することが、特に希少コードにおいて著しい改善をもたらすことが示された。

希少コードの性能（ICD-10）：
- 訓練セットに ICD-9 データを追加した結果、ICD-10 単独のデータで訓練した場合と比較して、18,000 個の希少 ICD-10 コードにおいてマイクロ F1 が27.4% 相対的に増加した（8.4 から 10.7 に改善）。
- この改善は、はるかに小型のモデル（DUALLAAT は 37M パラメータ、PLM-ICD は 137M パラメータ）で達成された。
頻出コードの性能：
- 8,000 個の頻出 ICD-10 コードにおいて、マルチバージョン訓練はマクロ F1 スコアを約 7% 改善した（27.9 から 29.9）。
- 混合訓練された DUALLAAT は、完全なコードセットにおいて PLM-ICD や CoRelation と同等かそれ以上の性能を達成し、特にマクロ F1 スコアが著しく高かった（CoRelation の 6.3 に対して 11.2）。これは、ロングテール全体における優れた堅牢性を示している。
効率性：
- パラメータ効率：混合データで訓練された単一の DUALLAAT モデルは複数の ICD バージョンを処理できるが、各バージョンごとに PLM-ICD モデルを別途用意する必要がある。
- 訓練時間：混合データを用いた DUALLAAT は、約 18 時間（完全な混合データセットでは 57 時間）で収束し、3 つのベンチマークに対して 3 つの PLM-ICD モデルを個別に訓練する必要がある 95 時間と比較して著しく高速であった。

意義と主張

本論文は、マルチバージョンデータセットを組み合わせることが ICD コーディングにおいて相乗効果を生み出すと主張し、バージョンの不一致が必ずしも有害なノイズを導入するという仮定に挑戦している。

直接的重なりではなく共有された意味：著者らは、ICD-9 コードの約 24.3% だけが ICD-10 で完全一致する対応を持っていると指摘する。観察された性能向上は、直接ラベルが重なることではなく、バージョンを超えた共有された臨床意味を学習することから生じていることを示唆している。
レガシーデータの活用：本研究は、レガシー患者記録（例：ICD-9）を効果的に活用して、現在のシステム（ICD-10）向けのより堅牢なモデルを訓練できることを実証しており、将来的なバージョン（ICD-11）のコールドスタート問題を潜在的に解決する可能性がある。
データ対アーキテクチャ：この知見は、最近の文献の主な焦点であったアーキテクチャの改善と同様に、訓練データの多様性を高めること（マルチバージョン混合による）が影響力を持つことを示唆している。
実用的な展開：このアプローチは、異なる ICD バージョン全体で高い性能を維持しつつ、必要なモデルパラメータ数と訓練時間を削減することで、リソースが限られた環境におけるより効率的な解決策を提供する。

著者らは、本研究が MIMIC データセットと英語の ICD-CM に限定されているものの、マルチバージョン学習の原則は、ICD コーディング研究の拡張と継続的なシステム変更への対応にとって有望な方向性を提供すると結論付けている。