ملخص تقني: التعلم الاستذكاري غير المعلمي عبر تضمينات المتوسط الشرطي

1. تعريف المشكلة: تجنب المستقبل غير المرغوب فيه (AUF)

تتناول الورقة مشكلة "تجنب المستقبل غير المرغوب فيه" (Avoiding Undesired Future - AUF)، وهي تحدٍ في اتخاذ القرار حيث يتنبأ النموذج بنتيجة غير مرغوب فيها ويجب عليه تحديد الإجراءات الفعالة لمنعها. بخلاف مهام التنبؤ القياسية، يتطلب الـ AUF تحسين التغيير $a$ على المتغيرات القابلة للتنفيذ $A$ لتعظيم احتمال وقوع النتيجة المستهدفة $Y$ ضمن منطقة مرغوبة $S$ (على سبيل المثال، $P(Y \in S | X=x, \text{do}(A=a))$).

تكمن الصعوبة الجوهرية في التحيز المربك (confounding bias) المتأصل في البيانات الرصدية. غالبًا ما تحتوي السجلات التاريخية على عوامل غير قابلة للتنفيذ (المربكات $U$) تؤثر على كل من المتغيرات القابلة للتنفيذ $A$ والنتائج $Y$. وبناءً على ذلك، يختلف التوزيع تحت تدخل نشط ($P(Y | X, \text{do}(A=a))$) بشكل كبير عن التوزيع الشرطي الرصدي ($P(Y | X, A=a)$). لقد اعتمدت الحلول الحالية، مثل إطار التعلم الاستذكاري، بشكل كبير على افتراضات معلمية (parametric assumptions) مقيدة (مثل الأنظمة الخطية مع الضوضاء الجمعية الغاوسية). وتحد هذه الافتراضات من إمكانية التطبيق في الأنظمة المعقدة في العالم الحقيقي حيث تكون آليات توليد البيانات غير خطية وغير جمعية. علاوة على ذلك، فإن البدائل التجريبية المستخدمة في بعض الامتدادات غير الخطية غالبًا ما تحيد عن هدف الـ AUF الحقيقي، مما يؤدي إلى قرارات دون المستوى الأمثل.

2. المنهجية

يقترح المؤلفون أول إطار عمل للتعلم الاستذكاري غير المعلمي (non-parametric rehearsal learning) لمشكلة الـ AUF، والذي يتجنب افتراض أشكال وظيفية محددة لتوليد البيانات. تتكون المنهجية من ثلاثة مكونات رئيسية:

أ. بديل سلس للرغبة المتقطعة

يتضمن هدف الـ AUF الأصلي تعظيم الاحتمال $P(Y \in S)$، والذي يعتمد على دالة مؤشر متقطعة $I(Y \in S)$. هذه الدالة غير قابلة للاشتقاق ولا تنتمي إلى فضاءات هيلبرت التكرارية (RKHS) القياسية، مما يجعل التحسين المباشر والتقدير القائم على النواة أمراً مستعصياً.

• الحل: يقدم المؤلفون بديل "بروبيت" (Probit) سلسًا $w_\eta(y)$. يُعرف هذا البديل بأنه حاصل ضرب دوال التوزيع التراكمي (CDFs) للتوزيعات الطبيعية القياسية لكل قيد خطي يحدد متعدد الوجوه المحدب $S$، وهذا البديل يقرب الدالة المؤشرية الصلبة.
• الفائدة: دالة $w_\eta(y)$ هي دالة متصلة من الدرجة $C^\infty$، مما يوفر تدرجات غير صفرية حتى خارج المنطقة المسموح بها $S$، مما يساعد في عملية التحسين عندما تكون العينات الإيجابية نادرة. يثبت التحليل النظري وجود حد لخطأ التقريب قدره $O(\frac{\sqrt{\ln \eta}}{\eta})$.

ب. القابلية للتعريف عبر تضمينات المتوسط الشرطي (CMEs)

لتقدير الاحتمال التدخلي من البيانات الرصدية دون افتراضات معلمية، تستفيد الطريقة من تضمينات المتوسط الشرطي (Conditional Mean Embeddings - CMEs).

• التفكيك الهيكلي: يتم تفكيك المتغيرات الوسيطة $Z$ إلى متغيرات قابلة للتنفيذ $A$، ومربكات غير قابلة للتنفيذ قبل التغيير $U$، ومتغيرات ما بعد التغيير $U_{post}$.
• القابلية للتعريف: يثبت المؤلفون أن هدف الـ AUF الممهد قابل للتعريف من التوزيع الرصدي كأمل متداخل:
  $$E_{Y \sim P(\cdot|x, \text{do}(a))}[w_\eta(Y)] = E_{U \sim P(\cdot|x)} [ E_{Y \sim P(\cdot|x, u, a)}[w_\eta(Y)] ]$$
  تسمح هذه الصيغة بحساب الأمل التدخلي باستخدام البيانات الرصدية فقط من خلال الشرط على المربكات $U$.

ج. مُقدِّر انحدار النواة المتداخل (Nested KRR)

يطور المؤلفون مُقدِّرًا متداخلًا من مرحلتين يعتمد على انحدار النواة (Kernel Ridge Regression) لحساب الهدف:

1. المرحلة الأولى (الأمل الداخلي): تقدير الأمل الشرطي لـ $w_\eta(Y)$ بمعطى السياق المشترك $(x, u, a)$. ويتم تحقيق ذلك من خلال تقدير التضمين المتوسط الشرطي لـ $Y$ بمعطى $h=(x,u,a)$ في الفضاء $\mathcal{H}_{k_y}$.
2. المرحلة الثانية (الأمل الخارجي): تقدير الأمل لنتيجة المرحلة الأولى عبر توزيع المربكات $U$ بمعطى $x$. ويتضمن ذلك تقدير التضمين المتوسط الشرطي لـ $U$ بمعطى $x$ في الفضاء $\mathcal{H}_{k_x}$.

• الحل ذو الصيغة المغلقة: تحت فرضية النوى القابلة للتفكيك، يتبسط المُقدِّر المتداخل إلى دالة خطية لخريطة ميزات الإجراء: $\hat{J}_\eta(a; x) = \omega(x)^T k_a(a)$. يقوم متجه الوزن $\omega(x)$ بدمج الرغبة التاريخية وصلة السياق مع التعديل صراحةً للمربكات عبر مصفوفة جرام للنواة الخاصة بـ $U$.
• التحسين: تُستخدم خوارزمية صعود التدرج المسقط متعدد البدايات لإيجاد التغيير الأمثل $a^*$، والتي تبدأ من الإجراءات التاريخية ذات المنفعة المقدرة العالية.

3. المساهمات الرئيسية

1. إطار عمل غير معلمي: اقتراح أول نهج تعلم استذكاري غير معلمي لـ AUF، قادر على التعامل مع الأنظمة غير الخطية والضوضاء غير الجمعية دون الاعتماد على أشكال معلمية محددة.
2. الضمانات النظرية:
   • إثبات قابلية تعريف هدف الـ AUF الممهد من البيانات الرصدية.
   • اشتقاق حدود الخطأ في العينة المحدودة وضمانات الاتساق لمُقدِّر KRR المتداخل.
   • إثبات أن خطأ تقريب بديل "البروبيت" يتلاشى مع زيادة معامل التمهيد $\eta \to \infty$.
3. التحقق التجريبي: التقييم على معايير اصطناعية (خطية وغير خطية) وعلى معيار شبه اصطناعي مشتق من بيانات حقيقية مستمدة من بيانات NHANES 2011–2018 لإدارة مرض السكري.

4. النتائج التجريبية

تم تقييم الطريقة مقابل عدة خطوط أساس، بما في ذلك طرق الاستذكال المعلمية (QWZ23, MICNS, CARE) ونهج غير معلمي تجريبي (Grad-Rh).

• الإعدادات الخطية: في الإعدادات الخطية الجمعية الغاوسية، كان أداء الطريقة المقترحة مشابهًا لـ CARE (التي تعد مثالية نظريًا تحت هذه الظروف المحددة) وتتفوق على غيرها من الخطوط الأساسية، رغم عدم معرفتها بالشكل المعلمي الحقيقي.
• الإعدادات غير الخطية: في الإعدادات الاصطناعية غير الخطية ومثال إقراض البنوك، تفوقت الطة المقترحة بشكل كبير على جميع الخطوط الأساسية، مما أظهر قدرة فائقة على التكيف مع الآليات المعقدة.
• معيار NHANES: في مجموعة بيانات السكري شبه الاصطناعية، حسنت الطريقة احتمال الـ AUF من خط أساس قدره 0.402 (لا يوجد إجراء) إلى 0.596، متفوقة بذلك على جميع طرق الإجراءات المتكيفة الأخرى.
• تحليل المربكات: أظهرت دراسة حالة حول سيناريو إقراض البنوك أن الطرق التي تفشل في مراعاة المربكات (باستخدام التوقعات الشرطية البحتة) اقترحت إجراءات دون المستوى الأمثل أدت في الواقع إلى تقليل احتمال النجاح مقارنة بالخط الأساسي. نجح المُقدِّر المتداخل المقترح في تحديد التدخل الأمثل من خلال نمذجة الهيكل المربك صراحةً.

5. الأهمية والادعاءات

يزعم البحث أن أهميته الرئيسية تكمكمن في توسيع التعلم الاستذكاري ليشمل البيئات المعقدة وغير الخطية وغير الجمعية حيث تفشل الافتراضات المعلمية التقليدية. ومن خلال استخدام تضمينات المتوسط الشرطي وهدف بديل سلس، يوفر النهج حلاً غير معلمي مدعومًا نظريًا يمكن تعلمه مباشرة من البيانات الرصدية.

يؤكد المؤلفون أن طريقتهم تتجنب عيوب البدائل التجريبية (التي قد لا تتوافق مع هدف الـ AUF الحقيقي) وقيود النماذج المعلمية (التي تعاني من خطأ توصيف النموذج). إن التطبيق الناجح على معيار NHANES للسكري يسلط الضوء على الإمكانات الكبيرة لهذا الإطار في اتخاذ القرارات عالية المخاطر في العالم الحقيقي، مثل التدخلات الطبية والإقراض المالي، حيث يكون التجريب والخطأ أمرًا محظورًا والبيانات رصدية بحتة. يضع هذا العمل معيارًا جديدًا لاتخاذ القرار في ظل عدم اليقين دون الحاجة إلى افتراضات هيكلية قوية حول عملية توليد البيانات الأساسية.