📊 statistics

Boosting prediction with data missing not at random

تقترح هذه الورقة وتتحقق بصرامة من طرق التعزيز شبه المعلمية للبيانات ذات الاستجابات المفقودة عبر توظيف نزول التدرج الوظيفي لتعديل دالات الخسارة، مما يضمن تقارب الخوارزمية واتساق المقدر مع إثبات أداء قوي في العينات المحدودة.

المؤلفون الأصليون: Yuan Bian, Grace Y. Yi, Wenqing He

نُشر 2026-02-23

📖 5 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Yuan Bian, Grace Y. Yi, Wenqing He

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

إليك شرح لورقة بحثية بعنوان "تعزيز التنبؤ مع البيانات المفقودة لغير عشوائية" (Boosting Prediction with Data Missing Not at Random)، مترجمة بلغة بسيطة، يومية، ومع بعض التشبيهات الإبداعية.

المشكلة الكبرى: الطلاب "الصامتون"

تخيل أنك معلم تحاول التنبؤ بالطلاب الذين سيحصلون على درجة "امتياز" في الرياضيات بناءً على مقدار دراستهم وحضورهم. لديك فصل مكون من 100 طالب.

السيناريو المثالي (بيانات كاملة): لديك درجات وساعات دراسة لجميع الطلاب المائة. يمكنك بناء نموذج تنبؤ مثالي.
العالم الحقيقي (بيانات مفقودة): بعض الطلاب لم يسلموا امتحاناتهم النهائية. لديك ساعات دراستهم، لكن درجاتهم مفقودة.

الفخ:
إذا كان الطلاب الذين لم يسلموا الامتحانات غائبين بشكل عشوائي فقط (ربما لأنهم مرضى)، فيمكنك ببسا البسا تجاهلهم واستخدام درجات الـ 80 طالباً الذين حضروا. هذا يسمى "البيانات المفقودة عشوائياً تماماً" (MCAR). الأمر يشبه رمي العملة المعدنية؛ فالبيانات المفقودة لا تخبرك بأي شيء مميز.

الخطر الحقيقي (MNAR):
لكن ماذا لو كان الطلاب الذين لم يسلموا الامتحانات هم أولئك الذين لم يدرسوا وشعروا بالإحراج من إظهار درجاتهم؟ هذا هو "البيانات المفقودة لغير عشوائية" (MNAR). حقيقة أن البيانات مفقودة ناتجة عن البيانات نفسها.

إذا تجاهلت الطلاب المفقودين وبنيت نموذجك على الـ 80 الذين حضروا فقط، فسيكون نموذجك منحازاً. سيعتقد النموذج أن "كل من يدرس قليلاً يحصل على امتياز" لأن الطلاب ذوي الدرجات المنخفضة وغير المدرسين مخفيون عن الأنظى. آلة التنبؤ الخاصة بك معطلة لأنها تنظر إلى واقع مشوه.

الحل: "التعزيز" مع شبكة أمان

المؤلفون في هذه الورقة هم علماء إحصاء متخصصون في تقنية تعلم آلي تسمى "التعزيز" (Boosting).

ما هو التعزيز (Boosting)؟
فكر في "التعزيز" كفريق من المحققين يحاولون حل لغز ما.

المحقق الأول ينظر إلى الأدلة ويضع تخميناً. عادة ما يكون مخطئاً، ولكن ليس كثيراً.
المحقق الثاني ينظر إلى الأخطاء التي وقع فيها المحقق الأول ويحاول إصلاح تلك الأخطاء المحددة.
المحقق الثالث ينظر إلى الأخطاء التي وقع فيها الأول والثاني ويقوم بإصلاحها.
يستمرون هكذا، واحداً تلو الآخر، حتى يصبح تخمينهم الجماعي دقيقاً للغاية.

تسأل هذه الورقة: ماذا يحدث لفريق المحققين هذا إذا كانت بعض الأدلة (البيانات) مفقودة لأن الجاني يقوم بإخفائها؟

الاستراتيجيتان الجديدتان

يقترح المؤلفون طريقتين ذكيتين لتعديل "بطاقة النتائج" (دالة الخسارة - Loss Function) التي يستخدمها المحققون للحكم على تخميناتهم. يريدون التأكد من أن الطلاب المفقودين لن يخدعوا النظام.

الاستراتيجية 1: "التصويت المرجح" (Inverse Propensity Weighting - IPW)

تخيل أنك تعد الأصوات في انتخابات، لكن بعض الناخبين لم يحضروا.

إذا كنت تعلم أن "الشباب" عادة لا يصوتون، ولكن لديك 10 شباب قاموا بالتصويت بالفعل، فقد تقول: "حسناً، هذه الأصوات العشرة تمثل في الواقع 50 شاباً". أنت هنا تعطي وزناً أكبر لأصواتهم.
في هذه الورقة، يحسب المؤلفون "درجة الميل" (احتمالية) سبب فقدان درجة الطالب. إذا كان من المرجح أن الطالب مفقود لأنه رسب، فإن الطلاب الذين حضروا ولديهم سمات مشابهة يحصلون على "وزن أثقل" في الحساب لتمثيل المفقودين.
العقبة: يجب عليك تخمين الصيغة الرياضية لسبب فقدان الناس للبيانات. إذا خمنت الصيغة بشكل خاطئ، ستكون الأوزان خاطئة، وسيفشل التنبؤ.

الاستراتيجية 2: "ملء الفراغات" (Buckley-James Type - BJ)

تخيل أنك تحاول تخمين متوسط طول مجموعة من الناس، لكن الأشخاص الأقصر يختبئون.

بدلاً من تجاهل المختبئين، تحاول تقدير ما سيكون طولهم بناءً على الأشخاص الذين يمكنك رؤيتهم.
تستخدم خدعة رياضية (قاعدة بايز) لتقول: "بناءً على الأشخاص الذين حضروا، من المحتمل أن يكون شكل المفقودين هو هذا".
ثم تقوم بوضع هذه الأطوال المقدرة في حساباتك.
العقبة: يتطلب هذا منك تخمين توزيع البيانات المفقودة. إذا كان تخمينك حول "الأشخاص المختبئين" خاطئاً، فإن تقديرك سيكون خاطئاً.

نهج "أفضل ما في العالمين"

أدرك المؤلفون أن تخمين صيغة البيانات المفقودة أمر صعب. لذا، استخدموا نهجاً "شبه معلمي" (Semiparametric).

المعلمي (Parametric): تخمين الصيغة بأكملها (مثل تخمين الشكل الدقيق لسحابة).
غير المعلمي (Non-parametric): ترك البيانات تتحدث عن نفسها دون فرض شكل معين (مثل تتبع الخطوط الخارجية للسحابة).

لقد جمعوا بينهما. استخدموا طريقة مرنة تعتمد على البيانات لتقدير "الفقدان" دون فرض شكل رياضي جامد قد يكون خاطئاً. هذا يجعل فريق "المحققين" الخاص بهم أكثر قوة ومتانة. حتى لو لم يكن تخمينك حول سبب فقدان البيانات مثالياً، فإن الطريقة مصممة لتجد الإجابة الصحيحة.

النتائج: هل نجح الأمر؟

أجرى المؤلفون آلاف المحاكاة الحاسوبية (مثل تشغيل لعبة فيديو بـ 500 سيناريو مختلف).

عندما تكون البيانات مفقودة عشوائياً: تعمل طريقتهم الجديدة بنفس كفاءة الطرق القياسية القديمة.
عندما تكون البيانات مفقودة لغير عشوائية (الجزء الصعب):
- الطريقة القديمة (تجاهل البيانات المفقودة) فشلت فشلاً ذريعاً، وأنتجت تنبؤات منحازة وخاطئة.
- نجحت الطرق الجديدة (IPW و BJ) في تصحيح هذا الانحياز. لقد "رأت" الطلاب المختبئين وعدلت التنبؤ بناءً على ذلك.
- أثبتوا رياضياً أنه كلما حصلوا على المزيد من البيانات، اقتربت تنبؤاتهم أكثر فأكثر من الحقيقة.

الاختبار في العالم الحقيقي: العمال الكوريون

أخيراً، اختبروا ذلك على بيانات حقيقية، وهي مجموعة بيانات KLIPS، التي تتبع دخل العمال الكوريين.

المشكلة: حوالي 30% من بيانات الدخل كانت مفقودة.
الشك: الأشخاص ذوو الدخل المنخفض كانوا أقل عرضة للإبلاغ عن دخولهم (MNAR).
النتيجة: توقعت الطريقة القياسية أن العمال ذوي الدخل المنخفض يكسبون أكثر مما يكسبونه في الواقع (لأن ذوي الدخل المنخفض كانوا مفقودين). قامت طرق "التعزيز" الجديدة بتصحيح ذلك، مما أعطى صورة أكثر واقعية لتوزيع الدخل.

الخلا الملخص

هذه الورقة تشبه إعطاء ميكانيكي مجموعة جديدة من الأدوات لإصلاح محرك سيارة عندما تكون بعض أجزائه صدئة ومختبئة.

الطريقة القديمة: تجاهل الأجزاء الصدئة وتوقع أن المحرك يعمل بشكل جيد. (النتيجة: تتعطل السيارة).
الطريقة الجديدة: استخدم نظام "وزن" خاص ومنطق "ملء الفراغات" لتقدير ما تفعله الأجزاء الصدئة، حتى لو لم تكن تراها. (النتيجة: تسير السيارة بسلاسة).

لقنا قد بنوا نسخة أذكى وأكثر صموداً من خوارزمية تعلم الآلة "التعزيز"، والتي لا يمكن خداعها عندما تختبئ البيانات بسبب طبيعتها الخاصة.

إليك ملخص تقني مفصل للورقة البحثية بعنوان "تعزيز التنبؤ ببيانات مفقودة ليست عشوائية تماماً" (Boosting Prediction with Data Missing Not at Random) للباحثين يوان بيان، غريس واي، وونكينغ هي.

1. بيان المشكلة

السياق: يُعد "التعزيز" (Boosting) تقنية قوية في تعلم الآلة تقوم بدمج المتعلمين الضعفاء بشكل تكراري لتكوين متنبئ قوي. ومع ذلك، تفترض خوارزميات التعزيز القياسية (مثل AdaBoost وGradient Boosting) أن مجموعة البيانات كاملة.
التحدي: في العديد من التطبيقات الواقعية، تكون متغيرات الاستجابة ( $Y$ ) عرضة للفقدان.

الفقدان العشوائي تماماً (MCAR) / الفقدان العشوائي (MAR): يمكن غالباً تطبيق الطرق القياسية على الحالات الكاملة أو استخدام التعيين (Imputation) البسيط.
الفقدان غير العشوائي (MNAR): يعتمد احتمال الفقدان على القيمة غير الملحوظة لـ $Y$ نفسها. يؤدي تطبيق التعزيز القياسي مباشرة على بيانات MNAR إلى مقدرات متحيزة (Biased Estimators) وتنبؤات غير صالحة.
مشكلة التحديد (Identifiability Issue): تفرض بيانات MNAR تحدياً إحصائياً جوهرياً: التوزيع المشترك للاستجابة وآلية الفقدان غير قابل للتحديد (Non-identifiable) دون فرض افتراضات قوية. تعتمد النهج التقليدية غالباً على المتغيرات الأداتية (Shadow Variables)، والتي يصعب العثور عليها والتحقق منها في الممارسة العملية.

الهدف: يهدف المؤلفون إلى تطوير إطار عمل للتنبؤ بالتعزيز مخصص لبيانات MNAR بحيث:

يصحح التحيز الناتج عن الفقدان غير القابل للتجاهل.
يتجنب الاعتماد على المتغيرات الأداتية التي يصعب العثور عليها.
يوفر ضمانات نظرية صارمة (التقارب والاتساق).

2. المنهجية

يدمج النهج المقترح التقدير شبه المعلمي (Semiparametric Estimation) مع خوارزمية تعزيز تعتمد على الاشتقاق المتدرج الوظيفي (Functional Gradient Descent). يكمن الابتكار الجوهري في تعديل دالة الخسارة لتأخذ في الاعتبار عملية الفقدان.

أ. دوال الخسارة المعدلة

يقترح المؤلفون استراتيجيتين لبناء دالة خسارة معدلة $L^*$ بحيث يكون توقعها مساوياً للمخاطرة الحقيقية $E[L(Y, f(X))]$ ، حتى عندما تكون $Y$ مفقودة.

أوزان الاحتمالية العكسية (Inverse Propensity Weighting - IPW):
$L_{IPW}(y, f(x), r) = \frac{r \cdot L(y, f(x))}{\pi(y, x)}$
حيث $\pi(y, x) = P(R=1|Y=y, X=x)$ هو درجة الاحتمالية (Propensity Score). تعمل هذه الطريقة على إعادة وزن البيانات الملحوظة لتمثيل المجتمع الكامل.
تعديل من نوع "باكلي-جيمس" (Buckley-James Type Adjustment):
$L_{BJ}(y, f(x), r) = r \cdot L(y, f(x)) + (1-r) \cdot \Psi_0(x)$
حيث $\Psi_0(x) = E[L(Y, f(X)) | X=x, R=0]$ . تقوم هذه الطريقة بتعيين الخسارة للحالات المفقودة بناءً على التوزيع الشرطي لـ $Y$ بشرط $X$ و $R=0$ .
- لحساب $\Psi_0(x)$ ، يستخدم المؤلفون قاعدة بايز للتعبير عن الكثافة الشرطية $f(y|x, R=0)$ بدلالة الكثافة الملحوظة $f(y|x, R=1)$ ودرجة الاحتمالية $\pi(y, x)$ .

ب. التقدير شبه المعلمي للمكونات المجهولة

بما أن $\pi(y, x)$ و $f(y|x, R=1)$ غير معروفين، يستخدم المؤلفون نهجاً شبه معلمي لتقديرهما باتساق:

درجة الاحتمالية $\pi(y, x)$ : يتم نمذجتها معلمياً (على سبيل المثال، الانحدار اللوجستي) باستخدام المعلم $\gamma$ .
الكثافة الشرطية $f(y|x, R=1)$ : يمكن تقديرها إما معلمياً أو غير معلمياً (باستخدام تقدير كثافة النواة - Kernel Density Estimation).
خوارزمية التقدير: يستخدم المؤلفون طريقة "موريكاوا وكيم" (2021). هم يستفيدون من مجموعة من شروط التحديد (A1–A4) التي يمكن اختبارها باستخدام البيانات الملحوظة (لتجنب الحاجة إلى متغيرات أداتية خارجية). يقومون بحل معادلة درجة (Score Equation) معدلة للحصول على مقدرات متسقة لـ $\gamma$ ، حتى لو كان نموذج $f(y|x, R=1)$ خاطئ التوصيف (بشرط أن يكون نموذج $\pi$ صحيحاً).

ج. خوارزمية التعزيز (الخوارزمية 1)

يتبع إجراء التنبؤ اشتقاقاً متدرجاً وظيفياً:

التهيئة: البدء بدالة أولية $f^{(0)}$ .
التكرار:
- حساب تدرج دالة الخسارة المعدلة $\hat{L}^*$ بالنسبة للتنبؤ الحالي.
- ملاءمة متعلم ضعيف $h^{(m+1)}$ (باستخدام B-splines) للدرجة السالبة.
- تحديد حجم الخطوة $\alpha^{(m+1)}$ عبر البحث الخطي (Line Search).
- التحديث: $f^{(m+1)} = f^{(m)} + \alpha^{(m+1)}h^{(m+1)}$ .
الإنهاء: التوقف عندما ينخفض التغير في المخاطرة التجريبية عن حد معين $\eta$ .

3. المساهمات الرئيسية

إطار عمل جديد لـ MNAR: يعد هذا من أوائل الأعمال التي وسعت نطاق التعزيز خصيصاً لإعدادات MNAR دون الحاجة إلى متغيرات أداتية خارجية.
المتانة شبه المعلمية: من خلال الجمع بين النمذجة المعلمية لدرجة الاحتمالية والنمذجة المرنة (المعلمية أو غير المعلمية) لكثافة النتيجة، يحقق الأسلوب الاتساق حتى لو كان نموذج النتيجة خاطئ التوصيف (بروح المتانة المزدوجة، وإن كان يعتمد رسمياً على شروط التحديد).
الضمانات النظرية:
- التقارب: تم إثبات أن الخوارزمية التكرارية تتقارب نحو المخاطرة المثلى $R(f^*)$ مع زيادة عدد التكرارات (الافتراض 2، النظرية 1).
- الاتساق: تم إثبات أن المقدر النهائي $\hat{f}_{AL}$ يتقارب احتمالياً نحو الدالة الحقيقية $f^*$ في معيار $L_\infty$ مع زيادة حجم العينة $n \to \infty$ (النظرية 2).
التنفيذ العملي: توفير خوارزمية ملموسة باستخدام B-splines للمتعلمين الضعفاء واستراتيجيات محددة لتقدير المعلمات المزعجة (Nuisance Parameters) المجهولة.

4. النتائج

الدراسات المحاكاتية

أجرى المؤلفون محاكاة واسعة النطاق بأحجام عينات $n=1000$ تحت إعدادين (متغيرات منخفضة وعالية الأبعاد) وآليتين للفقدان (MAR و MNAR).

مقاييس الأداء: الخطأ المطلق الأقصى القائم على العينة (S-MAE) وجذر متوسط مربع الخطأ (S-RMSE).
المقارنات: تمت المقارنة مع:
- R: التعزيز القياسي على البيانات الكاملة (Oracle).
- N: التعزيز القياسي على البيانات الملحوظة فقط (Naive).
- IPW/IPWN: الطرق المقترحة مع تقدير الكثافة المعلمي وغير المعلمي.
- BJ: طريقة "باكلي-جيمس" المقترحة.
النتائج:
- تحت ظروف MAR، أدت جميع الطرق أداءً متشابهاً.
- تحت ظروف MNAR، أظهرت الطريقة الساذجة (N) تحيزاً كبيراً وخطأً عالياً.
- أدت الطرق المقترحة (IPW, IPWN, BJ) أداءً مقارباً لطريقة الـ Oracle (R)، حيث نجحت في تصحيح التحيز.
- خطأ توصيف النموذج: كانت طريقة IPW متينة تجاه خطأ توصيف كثافة النتيجة $f(y|x, R=1)$ ولكنها حساسة لخطأ توصيف نموذج الاحتمالية $\pi(y, x)$ .
- الأبعاد العالية: واجه التقدير غير المعلمي (IPW) صعوبة في الإعدادات عالية الأبعاد بسبب لعنة الأبعاد، بينما ظلت النهج المعلمية مستقرة.

تطبيق على بيانات حقيقية (KLIPS)

طُبقت الأساليب على مسح كوري للعمال والدخل (KLIPS) للتنبؤ بدخل العمال.

البيانات: 2501 عاملاً، مع فقدان في بيانات الدخل بنسبة ~30%.
النتيجة: أنتجت الطرق المقترحة (IPW, IPWN, BJ) منحنيات تنبؤ كانت متسقة مع بعضها البعض، ولكنها اختلفت بشكل كبير عن الطريقة الساذجة (Naive)، خاصة عند القيم المتطرفة لنطاق المتغيرات. يشير هذا إلى أن الطريقة الساذجة كانت متحيزة بسبب طبيعة بيانات الدخل المفقودة (MNAR).

5. الأهمية والآثار

التقدم النظري: تسد هذه الورقة فجوة حرجة بين تعلم الآلة (التعزيز) ونظرية البيانات المفقودة (MNAR)، وتوفر أول تبرير نظري صارم للتعزيز في ظل وجود فقدان غير عشوائي.
الفائدة العملية: تقدم حلاً قابلاً للتطبيق في الصناعات التي تكون فيها البيانات المفقودة غالباً غير عشوائية (مثل الرعاية الصحية، الاقتصاد، وأبحاث المسح)، حيث تؤدي طرق التعيين القياسية أو تحليل الحالات الكاملة إلى نتائج مضللة.
المرونة: إطار العمل قابل للتعميم. وبينما تم استعراض ذلك باستخدام خسائر $L_1$ و $L_2$ و Huber، يشير المؤلفون إلى إمكانية توسيع ذلك ليشمل خوارزميات تعلم آلة أخرى (مثل SVMs والشبكات العصبية) عن طريق تعديل دوال الخسارة الخاصة بها.
المتانة: الاعتماد على شروط تحديد قابلة للاختبار بدلاً من المتغيرات الأداتية غير القابلة للاختبار يجعل الطريقة أكثر قابلية للتطبيق في السيناريوهات الواقعية حيث قد لا تتوفر هذه المتغيرات.

في الختام، توفر هذه الورقة حلاً قوياً، ذا أساس نظري، وقابلاً للتنفيذ عملياً لتحسين دقة التنبؤ في وجود بيانات "مفقودة ليست عشوائية"، متفوقة بشكل كبير على مناهج التعزيز القياسية (Complete-case boosting).