Model Assisted Data Integration: An unbiased sampling strategy to use nonprobability data

إليك ملخص تقني مفصل لورقة البحث بعنوان "تكامل البيانات بمساعدة النماذج: استراتيجية أخذ عينات غير متحيزة لاستخدام بيانات الاحتمالية غير المتاحة" من إعداد هيلينمارك وسترانديل.

1. بيان المشكلة

تواجه الوكالات الإحصائية الرسمية ضغوطاً متزايدة لاستخدام البيانات غير الاحتمالية (NPD) (مثل السجلات الإدارية، لوحات الويب، بيانات المعاملات) لتقليل التكاليف وعبء الاستجابة. ومع ذلك، تعاني هذه البيانات من تحيز الاختيار (نقص احتمالات الاشتمال المعروفة) وغالباً ما تكون تغطيتها للمجتمع المستهدف غير مكتملة.

تعتمد الطرق الحالية لدمج البيانات غير الاحتمالية مع العينات الاحتمالية (مثل الإحلال، أو أوزان الميل، أو المقدرات القوية المزدوجة) غالباً على افتراضات قوية لا يمكن التحقق منها مثل البيانات المفقودة بشكل عشوائي (MAR). علاوة على ذلك، تواجه مقدرات النماذج التقليدية مثل مقدر الانحدار العام (GREG) صعوبات عندما:

• تكون أحجام العينات صغيرة بالنسبة لعدد المتغيرات المساعدة (مما يؤدي إلى مصفوفات منفردة/غير قابلة للعكس).
• تُستخدم نماذج تعلم آلي معقدة (مخاطر الإفراط في التخصيص وتقدير التباين المتحيز).
• تعاني البيانات غير الاحتمالية من تحيز اختيار شديد.

يهدف المؤلفون إلى تطوير استراتيجية أخذ عينات ومقدر يوفر عدم انحياز التصميم، ويوفر مقدراً للتباين غير متحيز للتصميم، ويسمح باستخدام نماذج تعلم آلي تعسفية دون الاعتماد على افتراضات (MAR).

2. المنهجية: استراتيجية MADI

تقترح الورقة استراتيجية تكامل البيانات بمساعدة النماذج (MADI)، والتي توسع مقدر تكامل البيانات (DI) الذي اقترحه كيم وتام (2021).

المفهوم الجوهري

يتم تقسيم المجتمع $U$ إلى مجموعتين منفصلتين:

• المجموعة $A$ (البيانات غير الاحتمالية - NPD): مجموعة فرعية من المجتمع حيث تكون متغير الدراسة $y$ معروفة لجميع الوحدات (مثل سجل كامل أو مجموعة بيانات ضخمة غير احتمالية)، ولكن احتمالات الاختيار فيها غير معروفة.
• المجموعة $B$ (المكمل): المجموعة الفرعية من المجتمع غير المغطاة بواسطة $A$ ($B = U \setminus A$).

تصميم العينة

بدلاً من أخذ عينة من المجتمع بأكما $U$، تقوم الاستراتيجية بسحب عينة احتمالية ($s_B$) حصرياً من المجموعة $B$. هذا أمر بالغ الأهمية لأن قيم $y$ معروفة بالفعل لجميع الوحدات في $A$، لذا فإن أخذ عينات من $A$ ليس ضرورياً لأغراض التقدير.

المُقدر

يجمع مقدر MADI ($\hat{t}_{y, MADI}$) بين ثلاثة مكونات:

1. إجمالي المجموعة $A$: مجموع قيم $y$ المعروفة في البيانات غير الاحتمالية ($t_A = \sum_{i \in A} y_i$).
2. تنبؤ النموذج للمجموعة $B$: يتم تدريب نموذج تعلم آلي $\mu(\mathbf{x}, A)$ على البيانات غير الاحتمالية الكبيرة (المجموعة $A$) باستخدام متغيرات مساعدة $\mathbf{x}$ للتنبؤ بـ $y$ لجميع الوحدات في $B$.
3. حد التصحيح: مقدر فرق يعتمد على العينة الاحتمالية $s_B$ لتصحيح الخطأ بين تنبؤات النموذج والقيم الحقيقية في $B$.

تُعرف الصيغة كما يلي:
$$\hat{t}_{y, MADI} = \underbrace{\sum_{i \in A} y_i}_{\text{الإجمالي المعروف}} + \underbrace{\sum_{i \in B} \mu(\mathbf{x}_i, A)}_{\text{تنبؤ النموذج}} + \underbrace{\sum_{i \in s_B} \frac{y_i - \mu(\mathbf{x}_i, A)}{\pi_{iB}}}_{\text{التصحيح القائم على التصميم}}$$

حيث أن:

• $\pi_{iB}$ هو احتمال الاشتمال للوحدة $i$ في العينة المسحوبة من $B$.
• $e_i = y_i - \mu(\mathbf{x}_i, A)$ هو الباقي (الخطأ).

الخصائص النظرية الرئيسية

• عدم انحياز التصميم: بما أن النموذج $\mu$ يتم تدريبه على $A$ (والتي تعتبر ثابتة بالنسبة لعملية السحب العشوائي لـ $s_B$)، فإن المقدر يظل غير متحيز للتصميم بغض النظر عن جودة ملاءمة النموذج. يتم تصحيح انحياز النموذج بواسطة الحد الثالث.
• تقدير تباين غير متحيز: يعتمد التباين فقط على البواقي ($e_i$) في العينة الاحتمالية $s_B$. ويتم اشتقاق مقدر تباين غير متحيز باستخدام صيغ التصميم القياسية (من نوع Horvitz-Thompson) المطبقة على البواقي.
• مرونة النموذج: تسمح هذه الاستراتيجية باستخدام نماذج تعلم آلي تعسفية (مثل الغابات العشوائية، والشبكات العصبية). وبما أن النموذج يتم تدريبه على البيانات غير الاحتمالية الضخمة ($A$) بدلاً من العينة الاحتمالية الصغيرة، فإن خطر الإفراط في التخصيص (Overfitting) على العينة الصغيرة يتم تخفيفه، ويمكن استخدام النماذج المعقدة دون مشاكل "العينة الصغيرة والمتغيرات الكثيرة" الشائعة في GREG.

3. المساهمات الرئيسية

1. استراتيجية مبتكرة لأخذ العينات: على عكس مقدرات تكامل البيانات السابقة التي تأخذ عينات من المجتمع بأكمله، تقوم MADI صراحةً بأخذ عينات فقط من الجزء غير المغطى ($B$)، مما يحسن تخصيص الموارد.
2. المتانة تجاه تحيز الاختيار: لا تتطلب الطريقة أن تكون البيانات غير الاحتمالية (NPD) "مفقودة بشكل عشوائي" (MAR). فهي تتعامل مع تحيز الاختيار الشديد (البيانات المفقودة بشكل غير عشوائي - MNAR) من خلال الاعتماد على حد التصحيح القائم على التصميم.
3. تكامل التعلم الآلي: توفر إطاراً صارماً لاستخدام نماذج تعلم آلي غير معلمية معقدة في الإحصاءات الرسمية مع الحفاظ على خصائص الاستدلال القائمة على التصميم (عدم الانحياز وتقدير التباين الصحيح).
4. تقليل التباين: من خلال الاستفادة من البيانات غير الاحتمالية الكبيرة للنمذجة، تقلل الطريقة بشكل كبير من تباين المقدر مقارنة بالمقدرات المسحية التقليدية، حتى مع أحجام عينات احتمالية صغيرة جداً.

4. النتائج (المحاكاة التجريبية)

أجرى المؤلفون عمليات محاكاة باستخدام بيانات من إحصاءات السويد (سجل الدخل والضرائب) حيث $N \approx 9,838$.

المحاكاة 1: مقارنة الأداء

• الإعداد: تمت مقارنة MADI (مع OLS وRandom Forest) مقابل مقدرات HT وGREG و"Naïve RF" التقليدية تحت سيناريوهات مختلفة لحجم العينة ($n=25$ إلى $800$) وسيناريوهات تحيز الاختيار.
• النتائج:
  • حققت MADI-RF باستمرار أقل خطأ في جذر متوسط المربعات (RMSE) عبر جميع أحجام العينات.
  • فشل GREG في إنتاج تقديرات لأحجام العينات الصغيرة ($n < 400$) بسبب المصفوفات المنفردة الناتجة عن العدد الكبير من المتغيرات المساعدة.
  • أنتجت Naïve RF (التي تدربت على العينة الصغيرة) تقديرات متحيزة.
  • حافظت MADI على نسبة انحياز قريبة من الصفر واحتمالية تغطية بنسبة 95% حتى مع العينات الصغيرة ($n=25$)، بينما أظهرت المقدرات التقليدية تبايناً عالياً أو انحيازاً.

المحاكاة 2: كفاءة حجم العينة

• الإعداد: تحديد حجم العينة المطلوب لتحقيق معامل اختلاف (CV) قدره 1% تحت آليات تحيز اختيار مختلفة (بما في ذلك MNAR الشديد).
• النتائج:
  • لتحقيق CV = 1%، احتاج مقدر HT التقليدي إلى حوالي 3,044 وحدة.
  • احتاج مقدر GREG إلى حوالي 269 وحدة (نظرياً)، لكنه واجه صعوبات عملية في الاستقرار.
  • احتاج MADI-RF إلى ما بين 42 و157 وحدة (اعتماداً على سيناريو التحيز) لتحقيق نفس الدقة.
  • حتى في السيناريوهات ذات تحيز الاختيار الشديد (حيث تغطي البيانات غير الاحتمالية فقط أصحاب الدخل الأعلى أو الأدنى)، كانت MADI-RF أكثر كفاءة بكثير من HT وكانت في كثير من الأحيان أكثر كفاءة من GREG.

5. الأهمية والآثار المترتبة

• تقليل التكلفة والعبء: تُظهر استراتيجية MADI أن الوكالات الإحصائية يمكنها تقليل حجم عينات الاحتمالية بشكل كبير (بمعامل 10 إلى 20 ضعفاً في المحاكاة) مع الحفاظ على الدقة أو تحسينها. وهذا يقلل مباشرة من تكاليف المسح وعبء الاستجابة.
• قابلية الإنتاج: تم تصميم الطريقة لـ "دورة الإنتاج المكثفة" للوكالات الإحصائية. فهي تستخدم نظرية التصميم المألوفة (عدم الانحياز، تقدير التباين) ولكنها تدمج أدوات التعلم الآلي الحديثة، مما يجعلها أكثر أماناً وأسهل في التنفيذ من نهج "التعلم الآلي الصندوق الأسود".
• التعامل مع قيود "البيانات الضخمة": تحل هذه الطريقة المشكلة التي تواجهها البيانات غير الاحتمالية (NPD) عندما تكون ضخمة ولكن متحيزة. فمن خلال استخدام الـ NPD لـ النمذجة (التدريب) والعيّنة الاحتمالية لـ المعايرة (التصحيح)، فإنها تستفيد من حجم البيانات الضخمة دون وراثة تحيزها.
• النظرة المستقبلية: تشير الورقة إلى أن هذا النهج مناسب بشكل خاص لإحصاءات الأعمال وجمع البيانات المستمر، مما يسمح للوكالات بالانتقال من التقدير القائم على المسح فقط إلى استراتيجيات هجينة لتكامل البيانات ذات دعم نظري صارم.

في الختام، تقدم استراتيجية MADI حلاً سليماً من الناحية النظرية، ومثبتاً تجريبياً، وفعالاً من الناحية العملية لدمج البيانات غير الاحتمالية في الإحصاءات الرسمية، متجاوزةً بذلك قيود كل من طرق المسح التقليدية وتطبيقات التعلم الآلي القياسية.