Comparative Evaluation of Dynamic Bayesian Hierarchical Models and Machine Learning Estimators for Small Area Employment Estimation in Data-Poor Settings

في المشهد الشاسع وغير المتكافئ غالباً في الدول النامية، يمثل معرفة عدد الأشخاص الذين لديهم وظائف بدقة في منطقة معينة تحدياً يمكن أن يعيق التقدم. تحتاج الحكومات إلى هذه الأرقام التفصيلية لتصميم برامج فعالة للحماية الاجتماعية أو لاستهداف تدخلات سوق العمل حيث تشتد الحاجة إليها. ومع ذلك، فإن الأدوات القياسية لجمع هذه المعلومات، والمعروفة باسم مسوحات القوى العاملة، مصممة عادةً لإعطاء صور دقيقة لبلدان بأكملها أو مناطق واسعة. وعندما يحاول المسؤولون تفكيك هذه الأرقام إلى وحدات إدارية أصغر، تصبح أحجام العينات صغيرة جداً بحيث لا يمكن الوثوق بها، مما يترك البيانات مليئة بعدم اليقين. ولحل هذه المشكلة، طور الإحصائيون تقنية تسمى "تقدير المنطقة الصغيرة". الفكرة الجوهرية بسيطة ولكنها قوية: فبدلاً من الاعتماد فقط على البيانات المهتزة من منطقة صغيرة واحدة، تقوم هذه الطريقة باستعارة القوة من المناطق المجاورة ومن المعلومات ذات الصلة، مثل بيانات التعداد السكني أو صور الأقمار الصناعية، لسد الفجوات. ولعقود من الزمن، كانت الطريقة الأكثر موثوقية للقيام بذلك تتم من خلال نماذج إحصائية معقدة تعامل كل منطقة كجزء من نظام أكبر ومترابط. ومؤخراً، دخلت موجة جديدة من خوارزميات الكمبيوتر القوية، المعروفة بالتعلم الآلي، المجال، واعدةً بإيجاد أنماط في البيانات قد تغفل عنها النماذج التقليدية. والسؤال الذي يواجه الإحصائيين المعاصرين هو ما إذا كانت هذه الأدوات الجديدة والمرنة يمكن أن تحل محل الأدوات القديدة والموثوقة، خاصة في الأماكن التي تكون فيها البيانات نادرة وكل قطعة معلومة لها قيمتها.

لقد سعى الباحث ألبرت شولي، من جامعة ميونيخ التقنية، للإجابة على هذا السؤال من خلال وضع هذين النهجين في مواجهة مباشرة في اختبار صارم. ركزت الدراسة على مشكلة محددة وهي تقدير معدلات التوظيف في البيئات الفقيرة بالبيانات، باستخدام بيانات مسحية حقيقية من الهند كأرضية للاختبار. قارن الباحث بين إطار إحصائي متطور، يُعرف باسم "النموذج الهرمي البايزي الديناميكي"، وبين مجموعة من أدوات التعلم الآلي، بما في ذلك "الغابات العشوائية" و"تعزيز التدرج". لم يكن الهدف مجرد معرفة أي طريقة خمنت معدل التوظيف الأقرب إلى الحقيقة، بل تحديد أيهما قدم صورة أكثر صدقاً لمدى عدم اليقين في ذلك التخمين. ففي عالم الإحصاءات الرسمية، تعد معرفة هامش الخطأ بنفس أهمية الرقم نفسه، لأن صانعي السياسات لا يمكنهم اتخاذ قرارات آمنة دون فهم مدى موثوقية البيانات.

ولإجراء هذه المقارنة، أخذ الباحث مجموعة بيانات ضخمة تغطي 640 منطقة في الهند وقام بتجريدها بشكل منهجي لمحاكاة مستويات مختلفة من ندرة البيانات. لقد أنشأ سيناريوهات تم فيها تقليل عدد الأش ludzi الذين تم مسحهم في كل منطقة بنسبة 25 بالمائة، ثم 50 بالمائة، وأخيراً بنسبة هائلة بلغت 75 بالمائة، مما يحاكي ظروف البيئات محدودة الموارد حيث تكون المسوحات غير منتظمة أو غير ممولة بشكل كافٍ. وعند كل مستوى من مستويات الندرة، طُلب من كل من النموذج الإحصي وخوارزميات التعلم الآلي تقدير معدلات التوظيف. وقد تم قياس الأداء بناءً على مدى قرب التقديرات من القيم الفعلية، ومدى تباين التقديرات، والأهم من ذلك، ما إذا كانت نطاقات عدم اليقين المحسوبة تحتوي بالفعل على الأرقام الحقيقية.

كشفت النتائج عن فائز واضح ومتسق للظروف المحددة لندرة البيانات. فقد حافظ "النموذج الهرمي البايزي الديناميكي"، الذي يعتمد على طريقة مهيكلة لاستعارة المعلومات عبر المناطق والزمن، على ميزة ثابتة. فعندما كانت أحجام العينات صغيرة جداً، أنتج هذا النموذج تقديرات أكثر دقة بشكل ملحوظ، والأهم من ذلك، قدم نطاقات عدم يقين جديرة بالثقة. وحتى عندما تم تقليل البيانات بمقدار ثلاثة أرباع، ظلت تقديرات النموذج موثوقة، حيث احتوت فترات الثقة المحسوبة على معدل التوظيف الحقيقي في أكثر من 90 بالمائة من الحالات. يأتي هذا الاستقرار من قدرة النموذج على سحب التقديرات المتطرفة أو المضطربة من المناطق الصغيرة نحو متوسط أكثر معقولية، وهي عملية تمنع التخمينات الجامحة عندما تكون البيانات المحلية ضعيفة جداً بحيث لا تستطيع الصمود بمفردها.

في المقابل، عانت طرق التعلم الآلي، رغم كونها مثيرة للإعجاب عندما تكون البيانات وفيرة، من صعوبات كلما جفت المعلومات. فعندما كانت مجموعة البيانات كاملة، كان أداء هذه الخوارزميات تنافسياً، وغالباً ما كانت تطابق دقة النموذج الإحصائي في التنبؤ بأرقام التوظيف الدقيقة. وكانت بارعة بشكل خاص في رصد العلاقات المعقدة وغير الخطية في البيانات التي قد يغفل عنها نموذج أبسط. ومع ذلك، مع تقلص أحجام العينات، تدهور أداؤها بسرعة. فأصبحت التقديرات أقل دقة، وأصبحت نطاقات عدم اليقين التي أنتجتها مضللة بشكل خطير. وفي أكثر سيناريوهات الندرة شدة، فشلت نماذج التعلم الآلي في احتواء معدل التوظيف الحقيقي ضمن فتراتها المحسوبة في أقل من نصف الحالات. وهذا يعني أن صانع السياسات الذي يعتمد على هذه الأدوات في بيئة فقيرة بالبيانات سيحصل على شعور زائف بالدقة، معتقداً أنه يعرف الإجابة بينما هو في الواقع يخمن بشكل عشوائي.

كما بحثت الدراسة في كيفية تعامل كل طريقة مع المعلومات المفقودة، وهي مشكلة شائعة في البلدان النامية حيث قد تكون البيانات المساعدة مثل معدلات الإلمام بالقراءة والكتابة أو المؤشرات الاقتصادية غير مكتملة. وقد أثبت النموذج الإحصائي متانة ملحو ملحوظة، حيث كان قادراً على تعويض الأجزاء المفقودة من البيانات من خلال الاعتماد على المعلومات المتوفرة من المناطق المجاورة. أما أدوات التعلم الآلي، التي تعتمد بشدة على وجود مجموعة كاملة من السمات لإجراء التنبؤ، فقد عانت من انخفاض حاد في الأداء عند فقدان البيانات. ويشير هذا إلى أنه في البيئات التي تكون فيها البيانات مجزأة وغير موثوقة، فإن النهج المهيكل للنموذج الإحصائي أكثر مرونة بكثير من قوة التعرف على الأنماط التي يتميز بها التعلم الآلي.

في نهاية المطاف، تشير الدراسة إلى أنه بينما يعد التعلم الآلي أداة قوية للتنبؤ عندما تكون البيانات وفيرة، فإنه ليس جاهزاً بعد ليحل محل النماذج الإحصائية الراسخة لتقدير المنطقة الصغيرة في البيئات محدودة الموارد. لقد أظهرت أساليب التعلم الآلي أنها يمكن أن تكون مكملات مفيدة، ربما لتوليد تخمينات أولية أو للتعامل مع مجموعات البيانات الغنية، لكنها تفتقر إلى الضمانات المدمجة التي تضمن الموثوقية عندما تكون الأرقام شحيحة. بالنسبة للمكاتب الإحصائية الوطنية في البلدان النامية، فإن المسار واضح: يظل "النموذل الهرمي البايزي الديناميكي" هو الخيار المفضل لإنتاج إحصاءات التوظيف الرسمية. فهو يقدم توازناً بين الدقة وعدم اليقين الصادق، وهو أمر ضروري للسياسات القائمة على الأدلة. وتخلص الدراسة إلى أنه في اللعبة عالية المخاطر المتمثلة في إحصاء العاطلين عن العمل والمشتغلين في أكثر مناطق العالم تحدياً في توفير البيانات، لا تزال الطريقة التقليدية الصارمة رياضياً هي التي تمتلك الأفضلية، مما يضمن اتخاذ القرارات على أساس من الحقيقة وليس على أساس وهم الدقة.