🤖 machine learning

Handling and Interpreting Missing Modalities in Patient Clinical Trajectories via Autoregressive Sequence Modeling

تقترح هذه الورقة إطار عمل يعيد صياغة التشخيص السريري كمسألة نمذجة تسلسلية ذاتية الانحدار باستخدام فك تشفير لنماذج لغوية كبيرة سببية وهدف تدريب مسبق تبايني مدرك لفقدان البيانات للتعامل بفعالية مع الأنماط المفقودة، متفوقة بذلك على النماذج المرجعية في مجموعتي بيانات MIMIC-IV وeICU مع تعزيز قابلية التفسير والسلامة في النموذج.

المؤلفون الأصليون: Andrew Wang, Ellie Pavlick, Ritambhara Singh

نُشر 2026-04-22

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC0 1.0

المؤلفون الأصليون: Andrew Wang, Ellie Pavlick, Ritambhara Singh

البحث الأصلي مُهدى إلى الملك العام بموجب CC0 1.0 (http://creativecommons.org/publicdomain/zero/1.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك محقق يحاول حل لغز طبي. لديك مريض، لنطلق عليه اسم "السيد سميث"، وعليك أن تكتشف ما إذا كانت حالته ستتحسن أم ستسوء.

في العالم الحقيقي، لا تحصل على كل الأدلة دفعة واحدة. قد تحصل على تحليل دم يوم الاثنين، وصورة أشعة سينية يوم الثلاثاء، وملاحظة من الممرضة يوم الأربعاء. وأحياناً، قد تفقد دليلاً تماماً لأن الجهاز تعطل أو لأن الطبيب كان مشغولاً جداً.

المشكلة في الذكاء الاصطناعي القديم
معظم نماذج الذكاء الاصطناعي الطبية الحالية تشبه المحققين الذين يصرون على الحصول على جميع الأدلة قبل أن يبدأوا حتى في التفكير. إذا فقدت ورقة واحدة، فإنهم إما:

يخمنون بشكل عشوائي (يهلوسون) ما الذي تقوله الورقة المفقودة.
يرفضون القضية بأكملها لأن الملف غير مكتمل.
يملأون الفراغ بورقة بيضاء (الحشو الصفري)، مما يربكهم.

تقترح هذه الورقة طريقة جديدة لبناء هؤلاء المحققين من الذكاء الاصطناعي.

النهج الجديد: "الذكاء الاصطناعي الحكواتي"

يقترح المؤلف أندرو وانغ وفريقه من جامعة براون معاملة التاريخ الطبي للمريض ليس كمجموعة ثابتة من الأوراق، بل كـ قصة تتكشف عبر الزمن.

إليك كيف يعمل حلهم، مقسماً إلى ثلاث خطوات بسيية:

1. تدريب "القطعة المفقودة" (التدريب التبايني المسبق)

تخيل أنك تعلم طالباً التعرف على شخص معين، "السيد سميث"، باستخدام ألبوم صور.

الطريقة القديمة: تعرض للطالب صورة لوجه السيد سميث، ثم صورة ليده، ثم صورة لقدميه. إذا أخذت منه صورة الوجه، يصاب الطالب بالذعر لأنه لم يرَ "فجوة على شكل وجه" من قبل.
طريقة الورقة البحثية: يعلم المؤلفون الذكاء الاصطناعي لعبة خاصة. يعرضون على الطالب صورة لوجه السيد سميث، لكنهم يخفون صورة يده ويستبدلونها بـ "رمز مفقود" خاص (مثل علامة الاستفهام). ثم يقولون للذكاء الاصطناعي: "على الرغم من أن اليد مفقودة، إلا أن علامة الاستفهام هذه لا تزال تنتمي للسيد سميث".

يفعلون ذلك لكل قطعة بيانات مفقودة (التحاليل المخبرية، الأشعة السينية، الملاحظات). هذا يعلم الذكاء الاصطناعي أن التعامل مع الفجوات أمر مقبول. يتعلم أن "علامة الاستفهام" لتحليل مخبري مفقود هي دليل صالح تماماً مثل التحليل المخبري الحقيقي، طالما عرف أنه ينتمي لنفس المريض. هذا يخلق "لغة عالمية" حيث لا تؤدي البيانات المفقودة إلى تعطل النظام.

2. المحقق "التتابعي" (نمذجة التسلسل)

بمجرد تدريب الذكاء الاصطناعي على التعامل مع القطع المفقودة، يحولونه إلى حكواتي.

بدلاً من النظر إلى الملف بأك-مله مرة واحدة، يقرأ الذكاء الاصطناعي قصة المريض جملة بجملة، تماماً كما يفعل الطبيب البشري.

الخطوة 1: "السيد سميث يدخل. عمره 60 عاماً. لديه حمى." -> يحدث الذكاء الاصطناعي اعتقاده: "ربما تكون إنفلونزا".
الخطوة 2: "يخضع لأشعة سينية." -> يحدث الذكاء الاصطناعي اعتقاده: "الأشعة السينية واضحة. ربما ليس التهاباً رئوياً".
الخطوة 3: "يخضع لتحليل دم." -> يحدث الذكاء الاصطناعي اعتقاده: "تحليل الدم يظهر عدوى. إنها تسمم دم (Sepsis)".

هذا ما يسمى النمذجة التتابعية (Autoregressive Modeling). يقوم الذكال الاصطناعي بتحديث "أفضل تخمين" لديه باستمرار مع وصول معلومات جديدة. إذا فُقدت معلومة ما (مثل عدم إجراء تحليل الدم)، يتخطى الذكاء الاصطناعي تلك الجملة ببساطة ويستمر في قراءة القصة. إنه لا يتعطل؛ بل ينتقل فقط إلى الدليل التالي.

3. "المصباح اليدوي" (القابلية للتفسير)

الجزء الأكثر إثارة هو أن هذا الذكاء الاصطناعي شفاف.

في نماذج الذكاء الاصطناعي القديمة، تحصل على إجابة نهائية (مثلاً: "احتمال وفاة 80%")، ولكن ليس لديك أدنى فكرة عن لماذا. إنه "صندوق أسود".
في هذا النموذج الجديد، ولأن الذكاء الاصطناعي يقرأ القصة خطوة بخطوة، يمكننا تسليط مصباح يدوي على عقله. يمكننا أن نرى بالضبط أي جملة جعلته يغير رأيه.

هل قرر أن المريض مريض بسبب الأشعة السينية؟
أم قرر ذلك لأن المريض كبير في السن؟

وجد المؤلفون مشكلة مخيفة في النماذج القديمة: عندما كانت البيانات مفقودة، كان الذكاء الاصطناعي أحياناً يتوقف عن النظر في الأدلة الطبية ويبدأ في الاعتماد كلياً على البيانات الديموغرافية (مثل العمر أو العرق) لاتخاذ تخمين. كان الأمر يشبه محققاً يقول: "لا أستطيع العث ثاً على الأدلة، ولكن بما أن عمره 80 عاماً، فسأخمن أنه سيموت".

أما "الذكاء الاصطناعي الحكواتي" الجديد، وبفضل تدريب "القطعة المفقودة"، لم يقع في هذا الفخ. فحتى عندما كانت البيانات مفقودة، استمر في البحث عن الأدلة الطبية المتبقية ولم يصبح كسولاً بالاعتماد على الصور النمطية.

الصورة الكبيرة

فكر في هذه الورقة البحثية كدليل لبناء مساعد طبي أكثر ذكاءً وأماناً.

الذكاء الاصطناعي القديم: "لا يمكنني حل هذه القضية لأنك لم تعطني الأشعة السينية. أنا أخمن."
الذكاء الاصطناعي الجديد: "ليس لدي الأشعة السينية، ولكن لدي نتائج تحاليل الدم وملاحظات الممرضة. بناءً على القصة حتى الآن، إليك أفضل تخمين لدي، وإليك السبب وراء ذلك بالضبط."

من خلال تعليم الذكاء الاصطناعي كيفية التعامل مع المعلومات المفقودة بسلاسة وقراءة القصص الطبية كالبشر، نجح المؤلفون في إنشاء نظام ليس فقط أكثر دقة، بل أيضاً أكثر موثوقية وسهولة في الفهم بالنسبة للأطباء.

إليك ملخص تقني مفصل للورقة البحثية بعنوان "التعامل مع وتفسير الأنماط المفقودة في المسارات السريرية للمرضى عبر نمذجة التسلسل ذاتية الانحدار".

1. بيان المشكلة

تتميز البيانات السريرية بطبيعتها الزمنية، والمتعددة الأنماط، والمتفرقة. يظهر المرضى بتوفر معلومات غير منتظم (مثل نتائج مخبرية مفقودة، أو صور إشعاعية غائبة، أو ملاحظات غير مكتملة) أثناء فترة إقامتهم. تواجه مناهج تعلم الآلة (ML) متعددة الأنماط الحالية عقبتين حرجتين:

البنى الاستاتيكية (الثابتة): تعامل معظم النماذج بيانات المريض كـ "حقيبة من الميزات" (دمج جميع البيانات في متجه واحد)، متجاهلة الطبيعة التسلسلية للاستدلال السريري، مما يمنع الأطباء من تدقيق تطور المعتقدات التشخيصية.
التعامل مع الفقدان: تعتمد الطرق الحالية للأنماط المفقودة عادةً على الاستكمال (Imputation) (تخليق بيانات وهمية) أو الحشو الصفري/حذف العينات. ينطوي الاستكمال على مخاطر إدخال إشارات سريرية زائفة، بينما يؤدي حذف البيانات إلى تدمير هندسة الفضاء الكامن، مما يؤدي إلى نماذج تشخيصية غير آمنة قد تفشل بشكل غير متوقع عند فقدان البيانات.

يهدف المؤلفون إلى سد الفجوة بين الواقع السريري ومنهجية تعلم الآلة من خلال تطوير إطار عمل يتعامل مع الأنماط المفقودة بمتانة مع الحفاظ على قابلية التفسير والشفافية للنموذج.

2. المنهجية

يتكون إطار العمل المقترح من مرحلتين رئيسيتين: التعلم المسبق التبايني المدرك للفقدان و نمذجة التسلسل ذاتية الانحدار.

أ. التعلم المسبق التبايني المدرك للفقدان

قدم المؤلفون هدفاً جديداً للتعلم المسبق يسمى "المحاذاة العالمية المقنعة" (Masked Global Alignment) لتعلم تمثيلات كامنة قوية من بيانات متعددة الأنماط ومتفرقة.

رموز الفقدان القابلة للتعلم: بدلاً من الحشو الصفري، يستخدم النموذج مجموعة من الرموز القابلة للتعلم بشكل مستقل $\{t_i\}$ لكل نمط. إذا كان نمط ما مفقوداً، يتم حقن الرمز القابل للتعلم مباشرة في الفضاء الكامن.
إسقاط الأنماط (Modality Dropout): خلال التعلم المسبق، يتم إسقاط الأنماط عشوائياً (باحتمالية $p=0.15$ ) لمحاكاة التشتت في العالم الحقيقي وإجبار النموذج على تعلم تمثيلات قوية.
خسارة محاذاة المركز الموحدة (Unified Masked Centroid Alignment Loss):
- الهدف الإيجابي: بالنسبة لنمط معين $i$ ، يكون الهدف الإيجابي هو المركز المكمل ( $c_{i,k}$ )، وهو التمثيل المجمع والموحد لجميع الأنماط الأخرى المتاحة لذلك المريض.
- الأهداف السلبية: تمثيلات المرضى الآخرين في الدفعة (Batch).
- آلية الاحتياط: إذا كان المريض يمتلك نمطاً واحداً فقط، يتم استخدام "تمثيل عالمي مستقر" لضمان إمكانية استخدامه كأمثلة سلبية صالحة دون زعزعة استقرار الخسارة.
- الهدف: تجبر خسارة InfoNCE تمثيل نمط واحد على المحاذاة مع سياق أنماط المريض الأخرى، مما يخلق فضاءً كامناً غير مرتبط بنمط محدد (modality-invariant).

ب. نمذجة التسلسل ذاتية الاندرار (Autoregressive Sequence Modeling)

أعاد المؤلفون صياغة التشخيص السريري كـ مهمة نمذجة تسلسل ذاتي الانحدار، باستخدام أجهزة فك ترميز سببية (causal decoders) من النماذج اللغوية الكبيرة (LLMs).

البنية: قاموا بضبط ستة نماذج لغوية كبيرة مدربة مسبقاً (مثل Llama-3، Mistral، DeepSeek، BioMistral، Meditron).
معالجة المدخلات: يتم ترتيب الأحداث متعددة الأنماط زمنياً. يتم حقن رمز خاص [PREDICT] بعد كل حدث، مما يجبر النموذج على تحديث "حالة معتقده" (belief state) وإخراج تنبؤ عند كل خطوة زمنية مع وصول أدلة جديدة.
الدمج (Fusion): تولد مشفرات خاصة بكل نمط (مثل ClinicalBERT للنصوص، CNN للأشعة السينية، LSTM للسلاسل الزمنية) تمثيلات (embeddings) يتم إسقاطها في البعد الخفي للنموذج اللغوي الكبير.

ج. تحليل القابلية للتفسير

لضمان السلامة، قام المؤلفون بإجراء تفسير آلي (mechanistic interpretability) من خلال تحليل مصفوفات الانتباه الذاتي (self-attention matrices) للترانسفورمر. يتتبعون كيف يوجه النموذج الانتباه عند إزالة أنماط معينة (دراسات الاستئصال) لتحديد ما إذا كان النموذج يعتمد على إشارات سريرية صالحة أو يعود إلى ارتباطات زائفة (مثل البيانات الديموغرافية).

3. المساهمات الرئيسية

خسارة تباينية هجينة مبتكرة: تقديم "المحاذاة العالمية المقنعة"، التي تتعلم رموز فقدان صريحة وتعمل على محاذاة الحالات متعددة الأنماط غير المكتملة في تمثيل عالمي واحد، مما يفيد مجموعات البيانات ذات معدلات الفقدان العالية.
إطار عمل للنمذجة التسلسلية: دمج التعلم المسبق التبايني مع بنيات الترانسفورمر ذاتية الانحدار لنمذجة مسارات المرضى، مما أظهر أداءً متفوقاً على النماذج الاستاتيكية (MLP، LSTM).
أدلة السلامة الآلية: إثبات أن التعلم المسبق التبايني يمنع "فشل السلامة" (مثل انهيار الانتباه نحو البيانات الديموغرافية) في ظل ظروف فقدان الأنماط، مما يوفر رؤية شفافة لعملية استدلال النموذج.

4. النتائج التجريبية

تم تقييم إطار العمل على مجموعتي بيانات MIMIC-IV (مقترنة بـ MIMIC-CXR) و eICU عبر ثلاث مهام: تحديد الأنماط الظاهرية (Phenotyping)، وفيات داخل المستشفى، وطول مدة الإقامة (LOS).

مكاسب الأداء:
- MIMIC-IV (تشتت عالٍ): تفوقت النماذج التسلسلية ذات التعلم المسبق التبايني بشكل كبير على النماذج الاستاتيكية. على سبيل المثال، في مهمة الوفيات، حسن نموذج DeepSeek-LLM-7B قيمة الـ AUROC من 0.5720 (من الصفر) إلى 0.8409 (بعد التباين).
- eICU (تشتت منخفض): تفوقت النماذج التسلسلية عموماً على النماذج الاستاتيكية. ومع ذلك، في هذه المجموعة الأكثر كثافة، تفوق التدريب من الصفر أحياناً على التعلم المسبق التبايني، مما يشير إلى أن فائدة التعلم التبايني تظهر بوضوح أكبر عندما يكون فقدان الأنماط مرتفعاً.
جودة الفضاء الكامن:
- درجات Silhouette: أشارت الدرجات المنخفضة (مثل 0.009) إلى التكامل الناجح للأنماط في فضاء مشترك.
- الاسترداد عبر الأنماط (Cross-Modal Retrieval): تحسن هائل مقارنة بالنماذج العشوائية (تحسن بمقدار 600 ضعف في R@1 لـ eICU)، مما يؤكد أن التمثيلات من أنماط مختلفة (مثل الأشعة السينية مقابل الملاحظات) متوافقة دلالياً لنفس المريض.
التفسير والسلامة (دراسات الاستئصال):
- النماذج غير التباينية: عند إزالة نمط معين (مثل الملاحظات الإشعاعية)، أظهرت هذه النماذج انهياراً في الانتباه (attention collapse)، حيث تحول التركيز بالكامل إلى الرموز الديموغرافية (بالوعة انتباه - attention sink)، مما أدى إلى تنبؤات خاطئة بناءً على الأولويات الديموغرافية بدلاً من الفسيولوجيا.
- النماذج التباينية: تحت نفس ظروف الاستئصال، حافظت هذه النماذج على انتباه موزع عبر التاريخ السريري المتبقي، مما حافظ على دقة التنبؤ وتجنب التحيز الديموغرافي.

5. الأهمية والخاتمة

يعالج هذا العمل عقبة حرجة في الذكاء الاصط์نعي السريري: موثوقية وشفافية النماذج عندما تكون البيانات غير مكتملة.

السلامة: من خلال منع النماذج من الاعتماد على الوسطاء الديموغرافيين عند فقدان البيانات السريرية، تخفف الطريقة المقترحة من مصدر رئيسي للتحيز واتخاذ القرارات غير الآمنة.
القابلية للتفسير: يسمح النهج ذاتي الانحدار للأطباء بتدقيق تسلسل الأدلة وتحديثات المعتقدات، متجاوزين بذلك التنبؤات الاستاتيكية "الصندوق الأسود".
إطار العمل: يوفر الجمع بين التعلم المسبق التبايني المدرك للفقدان و نمذجة التسلسل ذاتية الانحدار مساراً قوياً لنشر ذكاء اصطنيٍّ متعدد الأنماط، آمن وشفاف وعالي الأداء في الرعاية الصحية.

يخلص المؤلفون إلى أنه بينما تظل النماذج الاستاتيكية محدودة بسقوف الأداء في البيئات المتفرقة وتفتقر إلى القابلية للتفسير، فإن إطار العمل المقترح يتيح تدقيقاً صريحاً للاستدلال التشخيصي، مما يجعله مرشحاً قابلاً للتطبيق في النشر السريري الواقعي.