WISTERIA: Learning Clinical Representations from Noisy Supervision via Multi-View Consistency in Electronic Health Records

ملخص تقني: WISTERIA

بيان المشكلة
تعتمد النماذج الحالية لتعلم التمثيلات من السجلات الصحية الإلكترونية (EHR) بشكل كبير على تقنيات معالجة اللغات الطبيعية (NLP)، حيث تعامل تاريخ المريض كمتتاليات من الرموز المنفصلة (التشخيصات، الإجراءات، الأدوية) وتعمل على تحسين إعادة البناء أو التنبؤ بالرمز التالي. ويتمثل القصور الجوهري في هذا النهج في الافتراض الضمني بأن الملصقات السريرية المرصودة هي "الحقيقة المطلقة" (ground truth). وفي الواقع، فإن الإشراف السريري هو بطبيعته إشراف ضعيف، وضوضائي، وغير متجانس؛ إذ غالبًا ما تنشأ الملصقات عن أكواد الفوترة، أو قواعد التنميط الظاهري الاستدلالية، أو مسارات التوسيم الخاصة بالمؤسسات، وليس من قياسات فسيولوجية مباشرة. وبناءً على ذلك، فإن أهداف التدريب المسبق القائمة على المتتاليات تدمج بين البنية ذات المعنى السريري والآثار الناجمة عن ممارسات الترميز وتحيزات التوثيق، مما يؤدي إلى تمثيلات تفتقر إلى القوة والقدرة على التعميم عبر المؤسسات المختلفة.

المنهجية
يقترح المؤلفون إطار عمل WISTERIA (الاستدلال الضعيف للتمثيلات الكامنة المهيكلة للتمثيلات السريرية)، والذي يعيد صياغة تعلم التمثيلات من السجلات الصحية الإلكترونية كعملية استدلال لحالة سريرية كامنة ($z$) من إشارات إشراف متعددة الرؤى وضوضائية.

1. نموذج الإشراف العشوائي: بدلاً من معاملة الملصقات كأهداف ثابتة، يقوم WISTERIA بنمذجة الملصقات السريرية ($y$) كأرصاد عشوائية ناتجة عن حالة كامنة $z$ عبر وظائف تسميم (labeling functions) خاصة بالمؤسسة ($\psi$). ويفترض النموذج أن الملصقات المرصودة هي تجليات ضوضائية لعملية إشراف أوسع نطاقاً.
2. الإشراف الضعيف متعدد الرؤى: يبني إطار العمل مجموعة من مشغلات الإشراف الضعيف $K$ من نوع $\{W_k\}_{k=1}^K$. كل مشغل يربط سجل المريض $x$ بتوزيع ملصقات زائف $\tilde{y}_k$. تلتقط هذه المشغلات مصادر متنوعة للإشراف، بما في ذلك التنميط الظاهري القائم على القواعد، ونشر الملصقات القائم على الأنطولوجيا، وإحصاءات التواجد المشترك، والتوافق عبر الوسائط. لا يُفترض صحة أي مشغل بمفرده؛ بل يقدم كل منها رؤية منحازة وجزئية للحالة الكامنة.
3. هدف الاتساق: يفرض هدف التعلم الجوهري الاتساق عبر رؤى الإشراف هذه. يتعلم النموذج مشفراً مشتركاً $h_\theta(x)$ ومجموعة من رؤوس التنبؤ $\{g_{\theta,k}\}$. تتكون دالة الخسارة ($L_{WISTERIA}$) من حدين:
   • المحاذاة (Alignment): تقليل التباعد (مثل الإنتروبيا المتقاطعة) بين كل رأس تنبؤ $g_{\theta,k}(h_\theta(x))$ وإشارة الإشراف الضعيف المقابلة له $\tilde{y}_k$.
   • الاتفاق (Agreement): تقليل عدم الاتفاق (مثل تباعد KL المتماثل) بين مخرجات رؤوس التنبؤ المختلفة. يعمل هذا الحد كآلية ضمنية لإزالة الضوضاء، مما يشجع التمثيل على التقاط البنية الثابتة عبر آليات التوسيم غير المتجانسة.
4. التنظيم المدرك للأنطولوجيا: لدمج البنية السريرية، يقدم النهج منظم هندسة فضاء الملصقات. باستخدام رسم بياني لأنطولوجيا سريرية $G=(V, E)$، يتم تنظيم التنبؤات لتكون سلسة بالنسبة لـ "لابلاسيان" الرسم البياني $L$. يضمن ذلك أن المفاهيم السريرية ذات الصلة دلالياً تتلقى كتلة احتمالية متسقة، مما يساعد على التعميم عبر أنظمة الترميز ويحسن القوة في حالات "الذيل الطويل" (long-tail settings).
5. التوسع عبر الإشراف: على عكس قوانين التوسع التقليدية التي تعتمد على حجم البيانات أو سعة النموذج، يقدم WISTERIA محور توسع جديد: عدد وتنوع مشغلات الإشراف الضعيف. إن زيادة $K$ يضيف قيوداً على التمثيل الكامن، مما يحسن القدرة على التحديد (identifiability) دون الحاجة إلى بيانات إضافية موسومة.

المساهمات الرئيسية

• إعادة صياغة الإشراف: ينقل البحث التحيز الاستقرائي لتعلم السجلات الصحية الإلكترونية من معاملة الملصقات كحقيقة مطلقة إلى نمذجة عملية الإشراف نفسها كظاهرة عشوائية متعددة الرؤى.
• الاتساق متعدد الرؤى: يقدم هدفاً يجمع إشارات إشرافية غير متجانسة، ويفرض الاتفاق عبر وظائف التوسيم الضوضائية لاستعادة إشارة كامنة مشتركة.
• فضاء الملصقات المهيكل: يدمج التنظيم المدرك للأنطولوجيا مباشرة في عملية الإشراف، مما يسمح للنموذج بالتوفيق بين الملصقات الضوضائية بطريقة تتوافق مع المعرفة السريرية.
• التوسع المتمحور حول الإشراف: يوضح أن زيادة تنوع مشغلات الإشراف يمكن أن يحسن جودة التمثيل وقوته، مما يوفر استراتيجية توسع مكملة لزيادة حجم البيانات.

النتائج
أظهر التقييم التجريبي على معايير قياسية للسجلات الصحية الإلكترونية (الوفيات، إعادة التنويم، التشخيص، التنميط الظاهري) أن WISTERIA يتفوق على النماذج المرجعية بما في ذلك التعلم الخاضع للإشراف، ونمذجة اللغة المقنعة (MLM)، والتدريب المسبق التنبئي (autoregressive pretraining)، والتعلم التبايني.

• الأداء التنبئي: حقق WISTERIA نتائج هي الأفضل في فئتها (SOTA) عبر جميع المهام، مع مكاسب كبيرة بشكل خاص في التنبؤ بالتشخيص (Macro-F1: 0.538 مقابل 0.512 للنموذج التبايني) والتنميط الظاهري (AUROC: 0.846 مقابل 0.821).
• القوة تجاه الضوضاء: في التجارب التي حقنت ضوضاء في الملصقات (30-50%)، أظهر WISTERIA منحنى تدهور أكثر استقراراً مقارنة بالنماذج المرجعية، حيث حافظ على الأداء في حين تدهورت النماذج أحادية الرؤية أو الخاضعة للإشراف بسرعة.
• التعميم عبر المؤسسات: أظهر النموذج قدرة فائقة على النقل، حيث حقق (AUROC) أعلى (0.812) عند التدريب المسبق في مؤسسة واحدة والاختبار في مؤسسة أخرى، مقارنة بالنماذج المستبعدة (ablated variants).
• المعايرة والدلالات: تُظهر التمثيلات المتعلمة توافقاً أفضل مع الدلالات السريرية في عمليات استرجاع أقرب جار وتجميع البيانات. علاوة على ذلك، ينتج WISTERIA تنبؤات أفضل معايرة (خطأ المعايرة المتوقع 0.021)، مما يقلل من الثقة المفرطة مقارنة بالنماذج المستبعدة.

الأهمية
يجادل البحث بأن نمذجة عملية الإشراف صراحةً — بدلاً من معاملة الملصقات كأهداف ثابتة — يوفر تحيزاً استقرائياً أكثر ملاءمة لتعلم تمثيلات قوية وذات معنى سريري من بيانات السجلات الصحية الإلكترونية. ومن خلال فرض الثبات في فضاء الإشراف بدلاً من فضاء المدخلات، يعالج WISTERIA حقيقة أن الملصقات السريرية غالباً ما تكون بدائل غير موثوقة للحالات الفسيولوجية. ويشير المؤلفون إلى أن هذا المنظور يفتح مجال تصميم جديد لنماذج التأسيس في الرعاية الصحية، حيث يلعب هيكل وتنوع الإشراف دوراً مركزياً في تشكيل التمثيلات المتعلمة، متجاوزاً أهداف التدريب المسبق التي تركز فقط على المتتاليات.