Is Clinical Text Enough? A Multimodal Study on Mortality Prediction in Heart Failure Patients

إليك ملخص تقني مفصل للورقة البحثية بعنوان: "هل النص السريري كافٍ؟ دراسة متعددة الوسائط للتنبؤ بالوفيات لدى مرضى فشل القلب."

1. بيان المشكلة

تتناول الورقة تحدي التنبؤ بالوفاة على المدى القصير (3 أشهر) للمرضى الذين دخلوا المستشفى بسبب فشل القلب (HF). وبينما تحتوي السجلات الصحية الإلكترونية (EHRs) على بيانات غنية، فإن النهج الحالية تعتمد غالباً فقط على المتغيرات المهيكلة (مثل الديموغرافيا، ونتائج المختبر) أو النصوص السريرية غير المهيكلة، مما يؤدي إلى الفشل في الاستفادة من الطبيعة التكاملية لكليهما. علاوة على على ذلك، تتجاهل الدراسات الحالية، التي تعتمد بشكل أساسي على مجموعات بيانات باللغة الإنجليزية (مثل MIMIC)، الاختلافات اللغوية والهيكلية في السجلات الطبية الفرنسية. يبحث المؤلفون فيما إذا كان:

1. إثراء تضمينات النصوص (embeddings) بـ معلومات على مستوى الكيان يحسن التنبؤ مقارنة بتضمينات المستندات القياسية.
2. الدمج متعدد الوسائط للنصوص والبيانات المهيكلة يتفوق على النهج أحادي الوسائط.
3. هل يمكن لـ نماذج اللغات الكبيرة (LLMs) أداء مهمة التنبؤ هذه بفعالية عبر التلقين (prompting) مقارنة بنماذج المحولات (transformers) الخاضعة للإشراف.

2. مجموعة البيانات والموارد

• المصدر: مجموعة بيانات مغلقة من قسم أمراض القلب في مستشفى "سان جوزيف" في باريس، فرنسا.
• العينة: 2,254 حالة دخول للمستشفى.
• المهمة: تصنيف ثنائي (الوفاة خلال 3 أشهر بعد الخروج من المستشفى مقابل البقاء على قيد الحياة).
• عدم توازن الفئات: حوالي 11% للفئة الإيجابية (المتوفين)، و89% للفئة السلبية.
• أنماط البيانات:
  • البيانات المهيكلة: 115 متغيراً أولياً (الديموغرافيا، البيولوجيا، الأمراض المصاحبة، الأدوية) تم تقليصها إلى 41 ميزة تنبؤية عبر اختيار الميزات باستخدام طريقة LASSO.
  • البيانات غير المهيكلة: ملاحظات سريرية بنصوص حرة باللغة الفرنسية.
• التوسيم (Annotation): استُخدم نهج هجين لتعرف الكيانات المسماة (NER). تم صقل القواعد الاستدلالية (مطابقة الأنماط، UMLS، BDPM) من خلال التوسيم اليدوي من قبل خبراء وغير خبراء. تم تدريب نموذج NER قائم على BERT تحت إشراف لتدقيق واستخراج 23 نوعاً من الكيانات السريرية (مثل المرض، العلاج، التشريح).

3. المنهجية

تقارن الدراسة أربع عائلات رئيسية من النماذج:

أ. نماذج النصوص فقط

• النماذج المرجعية: استخدمت تضمينات الرمز [CLS] من نماذج طبية فرنسية مدربة مسبقاً (CamemBERT-bio و DrBERT).
• المعززة بالكيانات: دمجت تضمين [CLS] مع متوسط تضمينات الكيانات الطبية المستخرجة.
• استراتيجيات الدمج:
  • الدمج الاستاتيكي (الثابت): المتوسط، الجمع، والربط (Concatenation).
  • الدمج القابل للتعلم: الدمج الموزون (scalars قابلة للتعلم) والدمج ذو البوابة (Gated Fusion) الذي يستخدم بوابة سيجمويد لتنظيم تأثير الكيان.
• المصنف: انحدار لوجستي (Logistic Regression) فوق التضمينات.

ب. النماذج المهيكلة فقط

• النموذج المرجعي: استخدام LASSO لاختيار الميزات متبوعاً بالانحدار اللوجستي (تنظيم L2).
• النموذج الأساسي: انحدار لوجستي على الـ 41 ميزة المختارة (مع تعويض القيم المفقودة بالمتوسط، والتقييس).

ج. نماذج الدمج متعدد الوسائط

• الدمج البسيط: الربط المباشر بين النص (CLS أو CLS+Entities) والبيانات المهيكلة؛ والدمج المتأخر (متوسط أو تكديس التنبؤات).
• التفاعل القابل للتعلم:
  • الدمج ذو البوابة (Gated Fusion): بوابات تعمل على تضمينات الكيانات قبل ربطها بالبيانات المهيكلة.
  • الانتباه المزدل المتقاطع (Dual Cross-Attention): انتباه ثنائي الاتجاه بين تمثيلات النص والبيانات المهيكلة.
  • الدمج المزدل المتقاطع ذو البوابة (Gated Dual-XAttn) و Bi-Gated Dual-XAttn: يجمع بين آليات البوابة والانتباه المتقاطع لتحقيق توازن ديناميكي.

د. تجارب النماذج التوليدية القائمة على LLM

• النماذج: Mistral-7B-Instruct، Qwen2.5-7B-Instruct، و MedGemma-4B.
• التلقين (Prompting): تم اختبار ثلاثة أنماط من المدخلات: نص فقط، بيانات مهيكلة فقط (جدولية)، ومتعدد الوسائط (نص + بيانات مهيكلة).
• فك التشفير (Decoding):ally: تمت مقارنة فك التشفير الجشع (Greedy) مقابل فك التشفير المقيد (تقييد المفردات بـ "0" أو "1").
• تحويل النص (Textification): تم أيضاً تحويل البيانات المهيكلة إلى ملخصات لغوية طبيعية لاختبار ما إذا كان التنسيق، وليس المحتوى، هو ما يعيق أداء الـ LLM.

4. النتائج الرئيسية

أداء النماذج النصية فقط

• تفوق مستوى الكيان: أدى دمج تضمينات مستوى الكيان باستمرار إلى تفوق استخدام تضمينات [CLS] وحدها.
• أفضل نموذج: حقق نموذج Gated Fusion مع CamemBERT-bio أعلى F1 (39.5%) وأعلى AUC (75.37%).
• ملاحظة: تفوقت استراتيجيات الدمج القابلة للتعلم (Gated/Weighted) عموماً على الدمج الاستاتيكي البسيط (Average/Sum) بالنسبة لنموذج CamemBERT-bio.

أداء النماذج المهيكلة فقط

• البيانات المهيكلة وحدها: حققت البيانات المهيكلة نتائج قوية، حيث حقق الانحدار اللوجستي الأساسي مساحة تحت المنحنى (AUC) بلغت 79.04، متفوقاً على جميع النماذج النصية فقط.
• تحليل الميزات: أكد تحليل الميزات وجود مؤشرات سريرية منطقية (على سبيل المثال، يرتبط العمر، واليوريا، وCRP إيجابياً بالوفاة؛ بينما ترتبط حاصرات بيتا سلبياً بها).

أداء النماذج متعددة الوسائط (النهج الأفضل)

• الدمج هو الفائز: تفوقت النماذج متعددة الوسائط بشكل كبير على النماذج أحادية الوسائط.
• أفضل أداء: حقق نموذج Gated Fusion (الذي يجمع بين CamemBERT-bio والبيانات المهيكلة المختارة) أفضل F1 (48.5%) وأفضل AUC (81.46%).
• الأهمية الإحصائية: أكدت اختبارات t-test المزدوجة أن الدمج المتأخر متعدد الوسائط (Stacking) حسن التمييز بشكل كبير مقارنة بأفضل النماذج المهيكلة والنصية فقط ($p < 0.05$).
• رؤية جوهرية: تقلصت الفجوة في الأداء بين CamemBERT-bio و DrBERT في الإعدادات متعددة الوسائط، مما يشير إلى أن البيانات المهيكلة تعوض نقاط ضعف نماذج النصوص.

أداء نماذج اللغات الكبيرة (LLM)

• قدرة تنبؤية ضعيفة: أدت الـ LLMs أداءً أسوأ بكثير من النماذج الخاضعة للإشراف (درجات F1 عموماً < 26%).
• انحياز الوسائط: حققت الـ LLMs أفضل أداء مع مطالبات النص فقط وأسوأ أداء مع المدخلات المهيكلة فقط.
• مشكلات الالتزام بالتعليمات:
  • فشلت النماذج غالباً في إخراج تسمية الفئة فقط، حيث كانت تولد تفسيرات أو قوائم متغيرات.
  • نموذج Mistral عند التعامل مع البيانات المهيكلة لم يخرج سوى الفئة السلبية (الاستدعاء Recall = 0).
  • نموذج Qwen مع فك التشفير المقيد لم يخرج سوى الفئة الإيجابية (الدقة Precision = 10.92%، الاستدعاء Recall = 100%).
• تحويل النص (Textification): تحويل البيانات المهيكلة إلى نص حسّن من قابلية التفسير لنموذج Mistral (ارتفع F1 من 0 إلى 19.42) لكنه لم يعزز القدرة التنبؤية الإجمالية بشكل كبير.

5. المساهمات الرئيسية

1. إطار عمل متعدد الوسائط مدرك للكيانات: أثبت أن إثراء النصوص السريرية بتمثيلات مستوى الكيان (عبر NER) يعزز بشكل كبير التنبؤ بالوفاة مقارنة بالتضمينات العالمية للمستندات.
2. مقارنة منهجية متعددة الوسائط: قدم تقييماً صارماً لمختلف استراتيجيات الدمج (الاستاتيكية مقابل القابلة للتعلم، المبكرة مقابل المتأخرة) على عينة فرنسية لفشل القلب، محددةً الدمج ذو البوابة (Gated Fusion) كالإستراتيجية المثلى.
3. تحليل قيود نماذج اللغات الكبيرة (LLM): سلط الضضوء على أن نماذج LLM الموجهة للتعليمات حالياً غير موثوقة للتنبؤ المباشر بالنتائج السريرية، حيث تظهر سلوكاً غير متسق، وضعفاً في الالتزام بالتعليمات، وانحيازاً قوياً للنصوص على حساب البيانات المهيكلة.
4. مجموعة بيانات فرنسية سريرية: إنشاء وتوسيم مجموعة بيانات فرنسية متخصصة لفشل القلب، مما يعالج الفجوة في موارد معالجة اللغات الطبيعية الطبية غير الإنجليزية والمتخصصة في حالات معينة.

6. الأهمية والخاتمة

تخلص الدراسة إلى أن النص السريري وحده غير كافٍ للتنبؤ الموثوق بالوفاة قصيرة المدى في حالات فشل القلب. الحل الأكثر قوة هو نموذج محول متعدد الوسائط خاضع للإشراف يدمج المتغيرات المهيكلة مع تضمينات النصوص المعززة بالكيانات.

بينما تظهر نماذج اللغات الكبيرة (LLMs) قدرة على الاستنتاج فوق السرديات السريرية، إلا أنها تفتقر حالياً إلى الموثوقية والاتساق والدقة المطلوبة لدعم القرار السريري في مهام التنبؤ عالية الخطورة. ويؤكد المؤلفون أنه من أجل النشر السريري، تظل النماذج الخاضعة للإشراف ذات آليات الدمج الصريحة متفوقة على استراتيجيات التلقين التوليدية.

القيود المذكورة: بيانات من مركز واحد (مما يحد من القدرة على التعميم)، والاعتماد على جودة التعرف على الكيانات (NER)، والقيود العتادية التي تحد من حجم نماذج LLM، والطبيعة "الصندوق الأسود" للنماذج متعددة الوسائط فيما يتعلق بقابلية التفسير.