Clinical Text Mining with BERT for Lung Cancer Prognosis: A Comparative Survival Analysis
تُظهر هذه الدراسة أن دمج النصوص السريرية المضمنة بنموذج BERT مع البيانات المهيكلة يعزز التنبؤ بإنذار سرطان الرئة عبر طرق التجميع مثل الغابة العشوائية، بينما تسلط الضوء على استمرار متانة الانحدار الكلاسيكي لمجموعات البيانات المتواضعة والحاجة إلى مجموعات أكبر لتدريب نماذج التعلم العميق بفعالية، وكل ذلك يتم تقديمه من خلال واجهة ويندوز موجهة للأطباء.
تخيل عالماً يكون فيه الأطباء مثل المحققين الذين يحاولون حل لغز مستقبل صحة المريض. لديهم صندوق أدوات ضخم مليء بأنواع مختلفة من الأدلة: بعضها عبارة عن قوائم مرتبة ومنظمة مثل أرقام فحوصات الدم والعمر (بيانات مهيكلة)، والبعض الآخر عبارة عن ملاحظات غير منظمة مكتوبة بخط اليد حيث يصف الأطباء شعور المريض بكلماتهم الخاصة (نصوص غير مهيكلة). لفترة طويلة، استخدم العلماء رياضيات بسيطة لتخمين المدة التي قد يعيشها المريض بناءً على القوائم المرتبة. ولكن مؤخراً، وصل نوع جديد من "الأدمغة الحاسوبية فائقة الذكاء" يُسمى الذكاء الاصطناعي (AI). هذا الذكاء الاصطناعي مشهور بقدرته على قراءة وفهم لغة البشر بشكل أفضل من أي آلة من قبل. السؤال الكبير في العالم الطبي هو: هل يمكن لهذا الذكاء الاصطناعي الجديد أن يساعدنا في التنبؤ بمستقبل أمراض مثل سرطان الرئة بشكل أفضل من الرياضيات القديمة والموثوقة؟ وإذا غذّيناه بالقوائم المرتبة والملاحظات الفوضوية معاً، فهل سيصبح كرة بلورية، أم أنه سيصاب بالارتباك فحسب؟
هذه الدراسة هي سباق بين ثلاثة "آلات تخمين" لمعرفة أيهما يمكنه التنبؤ ببقاء مرضى سرطان الرئة على قيد الحياة بشكل أفضل. أخذ الباحثون مجموعة من 500 سجل مريض من مجموعة أكبر وغذوا بها ثلاثة أنظمة مختلفة. كان الأول هو "الموثوق القديم"، وهي طريقة رياضية كلاسيكية تسمى "انحدار كوكس" (Cox regression) يستخدمها الأطباء منذ عقود. والثاني كان "فريق المحققين" المسمى "الغابة العشوائية" (Random Forest)، وهو نوع من تعلم الآلة يمكنه النظر في كل من القوائم المرتبة والملاحظات الفوضوية. الثالث كان "النابغة عالي التقنية" (DeepHit)، وهو نموذج تعلم عميق مصمم لإيجاد أنماط معقدة للغاية ولكنه عادة ما يحتاج إلى كمية هائلة من البيانات ليعمل بشكل جيد.
كانت النتائج مفاجئة قليلاً وعلمتنا درساً قيماً حول الحجم والتعقيد. لقد قامت طريقة الرياضيات "الموثوق القديم" بعمل جيد، حيث رتبت المرضى بشكل صحيح بنسبة 56.6% من الوقت. ووجدت أن مكان الورم ومرحلة المرض كانت أدلة مهمة. ومع ذلك، تعثر "النابغة عالي التقنية" (DeepHit)؛ فقد أصاب فقط بنسبة 48.5% من المرات، وهو في الواقع أسوأ من الرياضيات البسيطة. ويقترح الباحثون أن هذا حدث لأن "النابغة" يشبه طالباً يحتاج إلى مكتبة ضخمة ليتعلم؛ فمع وجود 500 سجل فقط، لم يكن لديه معلومات كافية ليتألق.
كان الفائز الحقيقي هو "فريق المحققين" (الغابة العشوائية). لقد حقق أفضل دقة، وبدرجة تفوقت على الآخرين. ما هو السر؟ لقد كان الوحيد الذي نجح في استخدام الملاحظات الفوضوية. وجدت الدراسة أن الكلمات المحددة التي استخدمها الأطباء في ملاحظاتهم النصية الحرة حملت أدلة خفية حول البقاء فاتت القوائم المرتبة. على سبيل المثال، كانت الطريقة التي وصف بها الطبيب عرضاً ما في جملة، أحياناً، أكثر أهمية من رقم مخبري محدد.
لجعل هذا مفيداً للأطباء الحقيقيين، بنى الفريق برنامجاً حاسوبياً ملوناً وسهل الاستخدام (تطبيق سطح مكتب) يعرض هذه التنبؤات. يمكنه رسم رسوم بيانية لفرص البقاء، وتسليط الضوء على الأدلة الأكثر أهمية، وحتى كتابة قصة قصة تلخص حالة المريض. وعندما اختبروه على مريض عينة، أوصى التطبيق بإجراء عملية جراحية كأفضل خيار بثقة تبلغ حوالي 82%. ومع ذلك، لاحظ المؤلفون أن التطبيق كان واثقاً أكثر من اللازم بشكل عام، مما يشير إلى أنه يحتاج إلى بعض الضبط الدقيق قبل أن يكون جاهزاً لمستشفى حقيقي.
في النهاية، تشير هذه الورقة البحثية إلى أنه بالنسبة لمجموعات المرضى الأصغر، فإن التمسك بالرياضيات البسيطة والمفهومة غالباً ما يكون أكثر أماناً من التعلم العميق المعقد. ومع ذلك، إذا كنت تريد الحصول على أدق تنبؤ ممكن، فأنت بحاجة إلى فريق ذكي يمكنه أيضاً قراءة الملاحظات الفوضوية. لم تثبت الدراسة أن التعلم العميق عديم الفائدة، لكنها أظهرت أنه يحتاج إلى حشد أكبر بكثير من المرضى ليتعلم حيله. إنها تذكير بأنه في السباق للتنبؤ بالمستقبل، أحياناً لا تكون الأداة الأفضل هي الأحدث، بل هي تلك التي تعرف كيف تستمع إلى القصة كاملة.
ملخص تقني: تنقيب النصوص السريرية باستخدام نموذج BERT للتنبؤ بمرض سرطان الرئة
بيان المشكلة لا يزال سرطان الرئة أحد الأسباب الرئيسية للوفاة، مما يستدعي وجود أدوات حوسبية يمكنها دمج مصادر البيانات غير المتجانسة — وتحديداً المتغيرات السريرية المهيكلة (الديموغرافيا، المختبرات، تاريخ العلاج) والملاحظات السريرية غير المهيكلة (النصوص الحرة) — لتحسين التنبؤ بالإنذار واتخاذ القرارات العلاجية. وبينما توفر الأساليب الإحصائية الكلاسيكية مثل نموذج "كوكس للمخاطر النسبية" (Cox proportional hazards regression) القدرة على التفسير، وتعد نماذج التعلم العميق مثل "ديب هيت" (DeepHit) واعدة في قدرتها على التقاط التفاعلات غير الخطية، إلا أن هناك نقصاً في خطوط المعالجة (pipelines) التي تم اختبارها بشكل منهجي لمقارنة هذه النهج على مجموعات سريرية متواضعة الحجم مع دمج معالجة اللغات الطبيعية (NLP) القائمة على المحولات (Transformers). علاوة على ذلك، غالباً ما تظل نماذج البقاء على قيد الحياة الحالية محصورة في دفاتر الأبحاث بدلاً من أن تكون متاحة عبر واجهات سريرية قابلة للاستخدام.
المنهجية استخدمت الدراسة تصميماً كمياً استرجاعياً باستخدام مجموعة فرعية منسقة مكونة من 500 سجل مريض مستخرجة من مجموعة بيانات اصطناعية أكبر تضم 23,657 حالة (مجموعة بيانات Kaggle "التنبؤ بسرطان الرئة"). اتبع المنهج خط معالجة مكون من أربع خطوات:
المعالجة المسبقة للبيانات وهندسة الميزات:
تمت معالجة البيانات المهيكلة (الديموغرافيا، العلامات الحيوية، المختبرات، العلاج) عبر التعويض (الوسيط/المنوال)، والتقييس (StandardScaler)، والترميز بنظام (One-hot encoding).
تم تقسيم الملاحظات السريرية غير المهيكلة، وتنظيفها، وتشفيرها باستخدام نموذج BERT مدرب مسبقاً لتوليد متجهات سياقية ثابتة الطول.
استُخدم نموذج GPT-2 بشكل منفصل عند مرحلة الاستنتاج لتوليد ملخصات سردية مقروءة بشرياً لمخرجات النموذج، وليس كـ "ميزة" (feature) مدخلة.
تم دمج مصفوفة الميزات النهائية التي تجمع بين المتغيرات المهيكلة ومتجهات BERT المستخرجة.
تحليل البقاء والنمذجة: تم تدريب وتقييم ثلاثة نهج نمذجة متميزة على نفس مجموعة البيانات:
نموذج كوكس للمخاطر النسبية (Cox Proportional Hazards Regression): تم تطبيقه على المتغيرات المستقلة المهيكلة لتقدجم نسب المخاطر (HR) وتوفير معاملات قابلة للتفسير.
منظم الغابة العشوائية (Random Forest Regressor): تم تدريبه على مجموعة الميزات المشتركة (المهيكلة وBERT-text) للتنبؤ بأهداف المخاطر/البقاء المستمرة. كما تم استخراج أهمية الميزات لتحديد الإشارات التنبؤية.
ديب هيت (DeepHit/DeepHitSingle): نموذج بقاء عصبي ذو زمن منفصل، تم تدريبه على نفس مجموعة الميزات المشتركة لالتقاط المخاطر غير المتناسبة، مع استخدام التوقف المبكر (early stopping) للحد من الإفراط في التخصيص (overfitting).
بنية النظام: تم تطوير نظام هجين حيث يتواصل خط المعالجة التحليلي (القائم على لغة Python) عبر تنسيق JSON مع واجهة سطح مكتب WPF (بلغة C#). سمحت هذه الواجهة الرسومية (GUI) للمستخدمين غير التقنيين برفع البيانات، وتصور منحنيات كابلان-ماير، وعرض درجات المخاطر، وفحص أهمية الميزات، وتلقي توصيات علاجية مع سردات مولدة بواسطة GPT-2.
التقييم: تم تقييم الأداء باستخدام مقاييس خاصة بالبقاء على قيد الحياة: مؤشر التوافق (C-index) لدقة الترتيب، ودرجة براير المتكاملة (Integrated Brier Score). كما تم تقييم نموذج الغابة العشوائية باستخدام متوسط مربع الخطأ (MSE) ومعامل التحديد (R2). وتم اختبار المتانة عبر التحقق المتبادل (k-fold cross-validation).
النتائج الرئيسية
اتجاهات البقاء: أظهر تحليل كابلان-ماير أن احتمالات البقاء لمدة 12 شهراً تتراوح بين 91.8% (للجراحة) و94.9% (للعلاج الموجه)، لكن اختبار "لوغ-رانك" أشار إلى عدم وجود فروق ذات دلالة إحصائية بين مجموعات العلاج (p=0.774)، وهو ما عزي إلى صغر حجم العينة.
انحدار كوكس: حقق مؤشر توافق (C-index) قدره 0.566. وحدد موقع الورم (الفص العلوي، HR=1.25) ومرحلة المرض كمتنبئات هامة. ومن الملاحظ أن المرحلتين الثالثة والرابعة أظهرتا مخاطر منخفضة مقارنة بالمرحلة الأولى في هذه المجموعة تحديداً، وهو ما عزاه المؤلفون إلى خصائص مجموعة البيانات بدلاً من الواقع السريري.
الغابة العشوائية: حققت أفضل دقة تنبؤية بمتوسط مربع خطأ (MSE) قدره 1226.97. والأهم من ذلك، كشف تحليل أهمية الميزات أن ميزات النصوص المستخرجة من BERT (مثل BERT_597، BERT_571) كانت من بين أقوى المتنبئات، وغالباً ما تفوقت على المتغيرات المختبرية أو الديموغرافية المهيكلة. وهذا يؤكد أن الملاحظات النصية الحرة تحمل إشارات إنذارية كامنة.
ديب هيت (DeepHit): كان أداؤه ضعيفاً بشكل ملحوظ بمؤشر توافق (C-index) قدره 0.485، وهو أسوأ من كل من نموذج كوكس والغابة العشوائية. وعزا المؤلفون ذلك إلى طبيعة النموذج التي تتطلب كميات ضخمة من البيانات، وإلى صغر حجم عينة الـ 500 سجل.
مخرجات الواجهة: نجحت الواجهة الرسومية في توليد درجات مخاطر وتوصيات علاجية خاصة بكل مريض (على سبيل المثال، التوصية بالجراحة لحالة اختبار بثقة تقارب 82%). ومع ذلك، لاحظ المؤلفون أن درجات الثقة كانت مرتفعة بشكل موحد عبر جميع الخيارات، مما يشير إلى مشكلة في معايرة الاحتمالات تتطلب التصحيح قبل النشر السريري.
المساهمات الرئيسية
خط معالجة متكامل: تقدم الدراسة خط معالجة كاملاً يدمج تضمينات BERT للملاحظات السريرية غير المهيكلة مع المتغيرات المهيكلة لتحليل البقاء، وهو مزيج نادراً ما يتم اختباره في دراسة واحدة لعلاج سرطان الرئة.
المقارنة المرجعية: تقدم الدراسة مقارنة تجريبية بين الانحدار الكلاسيكي، وأساليب التجميع (Ensemble methods)، والتعلم العميق على مجموعة بيانات متواضعة، مما يثبت أن الأساليب الكلاسيكية (مثل كوكس) وأساليب التجميع (مثل الغابة العشوائية) يمكن أن تتفوق على التعلم العميق (مثل DeepHit) عندما تكون كمية البيانات محدودة.
القابلية للاستخدام السريري: إن تطوير واجهة سطح مكتب تعتمد على WPF يجسد الفجوة بين نماذج الأبحاث والممارسة السريرية، مما يسمح للمستخدمين غير التقنيين بالوصاب إلى تنبؤات البقاء المعقدة وأهمية الميزات.
التحقق من ميزات النصوص: تثبت الدراسة تجريبياً أن ميزات النصوص القائمة على المحولات (Transformers) تضيف قيمة تنبؤية كبيرة تتجاوز الحقول المهيكلة، حيث صُنفت أبعاد محددة من BERT ضمن أقوى المتنبئات.
الأهمية والادعاءات يزعم البحث أن نتائجه تقدم دليلاً عملياً للممارسين لتحديد فئة النموذج التي يجب نشرها في مجموعات البيانات السريرية متوسطة الحجم. ويجادل بأن الانحدار الكلاسيكي يظل قوياً وقابلاً للتفسير للمجموعات الأصغر، بينما تستفيد أساليب التجميع بشكل كبير من ميزات النصوص لتعزيز دقة التنبؤ. وعلى العكس من ذلك، فإن نماذج التعلم العميق مثل DeepHit تتطلب مجموعات بيانات أكبر لتحقيق إمكاناتها وقد تسوء جودة أدائها في ظل البيانات المحدودة.
تؤكد الدراسة على الإمكانات الانتقالية لدمج معالجة اللغات الطبيعية القائمة على المحولات مع نمذجة البقاء، لكنها تحافظ على موقف متزن تجاه النشر السريري. فهي تقر صراحةً بالقيود، بما في ذلك صغر حجم العينة، واستخدام بيانات اصطناعية، وغياب الوسائط الجينية أو التصويرية، والحاجة إلى معايرة الاحتمالات ودراسات الاستخدام الرسمي مع الأطباء قبل استخدام النظام في اتخاذ قرارات علاجية فعلية. المساهمة الأساسية هي تقديم سير عمل وظيفي متكامل يسلط الضال على الظروف المحددة التي ينجح أو يفشل فيها كل استراتيجية نمذجة.