ملخص تقني: توطين تباين الإسقاط (Dropout) في الشبكات التوأمية

بيان المشكلة

تُعد نماذج الشبكات التوأمية العميقة (مثل TARNet وDragonNet) أدوات قياسية لتقدير آثار العلاج الفردي (ITE) من البيانات الرصدية. وبينما يمكن لتقنيات "إسقاط مونت كارلو" (MC Dropout) والتحزيم العميق (Deep Ensembles) توفير تقديرات لعدم اليقين، إلا أن هذه التقديرات تكون عادةً أحادية الجانب (Monolithic): أي درجة تباين واحدة تفشل في تمييز مصدر فشل النموذج. لا يستطيع الممارسون تحديد ما إذا كان عدم اليقين المرتفع ناتجاً عن:

1. مشكلات على مستوى المشفر (Encoder): ضعف تغطية فضاء المتغيرات المساعدة (الاستقراء/Extrapolation)، مما يشير إلى الحاجة لبيانات متغيرات مساعدة أكثر تنوعاً.
2. مشكلات على مستوى الرؤوس (Head): خرائط مخرجات صاخبة في المناطق المغطاة جيداً، مما يشير إلى الحاجة لمزيد من ملاحظات النتائج أو زيادة سعة الرؤوس.

بدون هذا التمييز، لا تقدم درجات عدم اليقين أي توجيه للإجراءات التصحيحية. تعالج هذه الورقة غياب التوصيف الهيكلي والقابل للتفسير لعدم اليقين في النماذج السببية العميقة عبر اقتراح طريقة لتفكيك عدم اليقين حسب الوحدة المعمارية.

المنهجية

يقترح المؤلفون تفكيك التباين على مستوى الطبقات لنماذج الشبكات التوأمية، بالاستفادة من البنية الوحدوية الطبيعية (مشفر مشترك $\Phi$ يليه رؤوس مخرجات منفصلة $f_0, f_1$) وقانون التباين الكلي.

1. تفكيك التباين

بالنسبة لمخرج الشبكة التوأمية $\hat{Y}_t(x)$، يتم تفكيك التباين التنبئي الكلي إلى مكونين:
$$\text{Var}(\hat{Y}_t(x)) = \underbrace{\text{Var}_{\theta_e}(\mathbb{E}_{\theta_t}[\hat{Y}_t(x) \mid \theta_e])}_{\sigma^2_{\text{enc}}} + \underbrace{\mathbb{E}_{\theta_e}[\text{Var}_{\theta_t}(\hat{Y}_t(x) \mid \theta_e)]}_{\sigma^2_{\text{head}}}$$

• $\sigma^2_{\text{enc}}$ (مكون المشفر): يقيس التباين الناتج عن أقنعة الإسقاط (Dropout masks) في المشفر المشترك، مع جعل الرؤوس حتمية.
• $\sigma^2_{\text{head}}$ (مكون الرأس): يقيس متوسط التباين الناتج عن أقنعة الإسقاط في رؤوس المخرجات، بشرط ثبات واقعة المشفر.

2. التقدير العملي

لتقدير هذه المكونات دون إجراء عملية "مونت كارلو" متداخلة ومكلفة حاسوبياً، يستخدم المؤلفون تقريب إسقاط محكوم:

• وضع المشفر فقط: الإسقاط نشط في المشفر؛ والرؤوس حتمية.
• وضع الرأس فقط: الإسقاط نشط في الرؤوس؛ والمشفر حتمي.
• الوضع الكلي: الإسقاط نشط في كل مكان (إسقاط مونت كارلو القياسي).

التكلفة الإجمالية عند الاستدلال هي $3N$ من عمليات التمرير الأمامي (حيث $N$ هو عدد عينات مونت كارلو)، مقارنة بـ $N$ في حالة إسقاط مونت كارلو القياسي. ويتحقق المؤلفون تجريبياً من أن $\hat{\sigma}^2_{\text{enc}} + \hat{\sigma}^2_{\text{head}} \approx \sigma^2_{\text{tot}}$ بدقة عالية ($R^2 > 0.99$).

المساهمات الرئيسية

1. التوطين المعماري: تفكيك بسيط يعتمد على البنية، يفصل إشارات عدم اليقين إلى مكونات المشفر والرأس، مما يوفر أداة تشخيصية لأنماط الفشل المحددة.
2. سير عمل تشخيصي: سير عمل مقترح من مرحلتين:
   • استخدام $\sigma^2_{\text{enc}}$ لتمييز نقاط الخروج عن التوزيع (OOD) المحتملة أو مخاطر الاستقراء.
   • استخدام $\sigma^2_{\text{head}}$ لترتيب عدم اليقين بين النقاط التي تقع ضمن التوزيع حيث يكون عدم يقين المشفر منخفضاً.
3. التحقق التجريبي: إثبات أن هذا التفكيك يقدم رؤى قابلة للتنفيذ عبر أنظمة توليد بيانات اصطناعية ذات إزاحة في المتغيرات المساعدة، ومجموعة بيانات حقيقية لتوائم من نفس الجنس.

النتائج التجريبية

تم تقييم الطريقة على ثلاثة مولدات بيانات اصطناعية (v1–v3) بدرجات متفاوتة من إزاحة المتغيرات المساعدة، وعلى مجموعة بيانات حقيقية لتوائم من نفس الجنس مع تحيز في أخذ العينات متعدد المتغيرات.

1. نتائج البيانات الاصطناعية

• هيمنة تباين المشفر تحت تأثير الإزاحة: في أنظمة الإزاحة القوية (v1, v2)، كان مكون المشفر ($\sigma^2_{\text{enc}}$) هو المتنبئ المهيمن لخطأ ITE (بنسبة $\rho_{\text{enc}} \approx 0.53$)، متفوقاً على التباين الكلي ($\rho_{\text{tot}} \approx 0.45$). وكان مكون الرأس قريباً من الصفر أو سالباً في هذه الأنظمة.
• المعلوماتية الشرطية لتباين الرأس: يصبح مكون الرأس ($\sigma^2_{\text{head}}$) متنبئاً قوياً للخطأ ($\rho_{\text{head}} > 0.5$) فقط بعد استبعاد النقاط ذات تباين المشفر المرتفع. وهذا يؤكد فائدته لترتيب عدم اليقين داخل منطقة التوزيع الأصلي.
• المقارنة مع التحزيم (Ensembles): تفوق التحزيم العميق على إسقاط مونت كارلو تحت ظروف الإزاحة القوية (ربما بسبب الاختلاف الحقيقي في النموذج)، لكنه انهار إلى ارتباط قريب من الصفر تحت ظروف الإزحة الخفيفة. حافظ إسقاط مونت كارلو على إشارة متوسطة عبر جميع الأنظمة.

2. مجموعة التوائم الحقيقية

• كشف الخروج عن التوزيع (OOD): في مجموعة بيانات التوائم مع التحيز المستحث، ارتفع $\sigma^2_{\text{enc}}$ بشكل ملحوظ في عينات OOD ($\Delta \sigma^2_{\text{enc}} \approx 0.004$)، بينما ظل $\sigma^2_{\text{head}}$ ثابتاً.
• التنبؤ بالخطأ: تحت التحيز المستحث، أصبح $\sigma^2_{\text{enc}}$ المتنبئ الأساسي للخطأ ($\rho_{\text{enc}} \approx 0.89$).
• القصور في كشف OOD: يشير المؤلفون صراحة إلى أن التفكيك ليس كاشفاً موثوقاً لثنائية الخروج عن التوزيع (قيم ROC-AUC كانت قريبة من الصدفة، 0.54–0.62). تكمن قيمته في التنبؤ بالخطأ والتوطين التشخيصي، وليس في التصنيف.

الأهمية والادعاءات

تضع هذه الورقة هذا العمل كـ إثبات مفهوم لأداة تشخيصية وليس كمشكلة محلولة. تكمن الأهمية الأساسية في القابلية للتنفيذ:

• توجيه عملي: من خلال توطين التباين، تخبر الطريقة الممارسين ما إذا كان ينبغي جمع متغيرات مساعدة أكثر تنوعاً (إذا كان $\sigma^2_{\text{enc}}$ مرتفعاً) أو المزيد من بيانات النتائج (إذا كان $\sigma^2_{\text{head}}$ مرتفعاً).
• كفاءة التكلفة: يضيف التفكيك تكلفة حاسوبية ضئيلة جداً فوق إسقاط مونت كارلو القياسي.
• التواضع: يقر المؤلفون بالقيود، بما في ذلك استخدام مولدات اصطناعية منخفضة الأبعاد، والإزاحات المستحثة اصطناعياً في البيانات الحقيقية، والاعتماد على إسقاط مونت كارلو كتقريب تقريبي للتوزيع اللاحق. ويؤكدون أن الارتباطات المرصودة هي متوسطة في البيانات الاصطناعية وأقوى في مجموعة بيانات التوائم منخفضة الضجيج، وأن الهدف النهائي هو إثبات أن هذا التفكيك يؤدي إلى قرارات أفضل في جمع البيانات وتحديث النماذج، وليس مجرد وصف أفضل لعدم اليقين.