🤖 machine learning

The Costs of Pretending That There Are Data-Generating Probability Distributions in the Social World

تجادل هذه الورقة بأن افتراض وجود توزيعات احتمالية حقيقية مولدة للبيانات في العالم الاجتماعي هو محض خيال ضار يحجب الخيارات والأهداف الحاسمة في تعلم الآلة، وتقترح بدلاً من ذلك إطاراً يركز مباشرة على المجموعات السكانية ذات الصلة، وهو إطار يحافظ على نظرية التعلم الكلاسيكية مع تجنب هذه التجريدات المضللة.

المؤلفون الأصليون: Benedikt Höltgen, Robert C. Williamson

نُشر 2026-04-23

📖 5 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Benedikt Höltgen, Robert C. Williamson

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

إليك شرح لورقة بحثية بعنوان "تكاليف التظاهر بوجود توزيعات احتمالية مولدة للبيانات في العالم الاجتماعي"، مقسمة إلى مفاهيم بسيطة مع تشبيهات من الحياة اليومية.

الفكرة الجوهرية: أسطورة "النرد السحري"

تخيل أنك تلعب لعبة باستخدام حجر نرد. إذا رميته ألف مرة، يمكنك أن تتوقع بثقة عالية أن الرقم "6" سيظهر حوالي 16% من المرات. في عالم القمار أو الفيزياء، نفترض وجود قاعدة خفية حقيقية (توزيع احتمالي) تحكم حركة النرد. النرد لا يهتم بك؛ هو فقط يتبع قوانين الفيزياء.

غالبًا ما يعامل باحثو تعلم الآلة (ML) البشر مثل هذا النرد.

يفترضون أنه إذا جمعوا بيانات كافية عن الناس (دخلهم، أعمارهم، مواقعهم)، فستوجد "كتيب قواعد" أو "خريطة" مثالية وخفية تملي عليهم بالضبط كيف سيتصرف هؤلاء الناس. يعتقدون أن مهمتهم هي العثم عن هذه الخريطة، والتي يسمونها التوزيع المولد للبيانات (Data-Generating Distribution). يعتقدون أنه "إذا حصلنا على قدر كافٍ من البيانات، فسنكتشف الاحتمال الحقيقي بأن شخصًا معينًا سيرتكب جريمة أو سيتعثر في سداد قرض".

يقول مؤلفو هذه الورقة: "توقفوا عن التظاهر".

إنهم يجادلون بأنه في العالم الاجتماعي (التعامل مع البشر)، لا يوجد شيء اسمه كتيب قواعد خفي ومثالي. البشر ليسوا أحجار نرد. نحن معقدون، متغيرون، ومتأثرون ببيئتنا. افتراض وجود خريطة احتمالية مثالية وموجودة مسبقًا ليس خطأً فحداً فحسب، بل هو أمر خطير لأنه يخفي حقيقة أن الأشخاص الذين يبنون هذه النماذج يتخذون خيارات ذاتية ضخمة.

التشبيه 1: "الوصفة" مقابل "قائمة المكونات"

الطريقة القديمة (إطار عمل Gen-D):
تخيل أنك تحاول التنبؤ بمذاق الكعكة. تقول الطريقة القديمة في التفكير: "هناك وصفة سحرية مثالية لـ 'الكعكة' موجودة في الكون. مهمتنا هي تذوق كعكات كافية لمعرفة تلك الوصفة بدقة. وبمجرد العثور عليها، يمكننا خبز الكعكة المثالية في كل مرة".

الطريقة الجديدة (رؤية المؤلفين):
يقول المؤلفون: "لا توجد وصفة سحرية. هناك فقط دفعة المكونات المحددة التي لديك الآن والموقد المحدد الذي تستخدمه".

إذا غيرت نوع الدقيق، ستتغير الكعكة.
إذا غيرت درجة حرارة الفرن، ستتغير الكعكة.
إذا غيرت الخباز، ستتغير الكعكة.

في تعلم الآلة، "المكونات" هي البيانات التي نختار جمعها. و"الخباز" هو الشخص الذي يصمم النموذج. "الوصفة" ليست حقيقة خفية تنتظر الاكتشاف؛ بل هي شيء يتم بناؤه من قبل الأشخاص الذين يصنعون النموذج.

التشبيه 2: "توقعات الطقس" مقابل "المزاج البشري"

الطقس (حيث تنجح الفكرة القديمة):
إذا أردت معرفة ما إذا كانت السماء ستمطر غدًا، فستنظر إلى الضغط الجوي. الغلاف الجوي لا يهتم بمشاعرك؛ فهو يتبع قوانين فيزيائية. يمكنك القول: "هناك احتمال 70% لهطول الأمطار"، وهذا الرقم يستند إلى واقع فيزيائي مستقر.

المزاج البشري (حيث تفشل الفكرة القديمة):
الآن، تخيل محاولة التنبؤ بما إذا كان شخص معين سيكون سعيدًا غدًا.

إذا سألته اليوم، قد يقول "نعم".
إذا سألته بعد يوم سيء في العمل، قد يقول "لا".
إذا سألته بعد الحصول على ترقية، قد يقول "نعم".

لا يوجد "احتمال حقيقي للسعادة" واحد لهذا الشخص. الرقم يتغير بناءً على السياق، والوقت، والأسئلة التي تطرحها.

تجادل الورقة بأننا عندما نستخدم الذكاء الاصطناعي للتنبؤ بالسلوك البشري (مثل من سيحصل على وظيفة أو من قد يعود لارتكاب جريمة)، فنحن نحاول التنبؤ بـ مزاج، وليس بـ الطقس. لكننا نستخدم رياضيات مصممة للطقس. هذا يؤدي بنا إلى الاعتقاد بأن توقعاتنا هي "حقائق موضوعية" بينما هي في الواقع مجرد تخمينات بناءً على لقطة زمنية محددة وعشوائية من البيانات.

لماذا يهم التظاهر؟ ("التكاليف")

يقول المؤلفون إن التظاهر بوجود هذه "الخرائط المثالية" يسبب ثلاث مشكلات كبيرة:

1. إنه يخفي الخيارات التي نتخذها

عندما نقول: "النموذج وجد الاحتمال الحقيقي"، يبدو الأمر وكأن الكمبيوتر هو من قام بالعمل ونحن كنا مجرد مراقبين.

الواقع: الكمبيوتر لم يجد حقيقة. المهندسون هم من اختاروا البيانات التي يغذونه بها. وهم من اختاروا السمات التي ينظر إليها (على سبيل المثال: "هل يجب أن ننظر إلى الرمز البريدي؟").
التكلفة: من خلال التظاهر بأن النموذج يقوم فقط بـ "اكتشاف" حقيقة، فإننا نتوقف عن التساؤل: "لماذا اخترتم هذه المتغيرات المحددة؟". هذا يسمح للخيارات السيئة أو المتحيزة بالمرور دون اعتراض.

2. إنه يخلق شعورًا زائفًا بالموضوعية

إذا قلت لقاضٍ: "الخوارزمية تقول إن لدى هذا الشخص احتمال 30% للعودة لارتكاب جريمة"، فإن ذلك يبدو علميًا ومحايدًا.

الواقع: نسبة الـ 30% هذه ليست قانونًا من قوانين الطبيعة. إنها رقم تم حسابه بناءً على مجموعة محددة من الناس من سنة محددة. إذا غيرت السنة أو المجموعة قليلاً، فقد يقفز الرقم إلى 60% أو ينخفض إلى 10%.
التكلفة: الناس يثقون في الرقم أكثر من اللازم. يعتقدون أن الخوارزمية "عادلة" لأنها تعتمد على "الرياضيات"، لكن الرياضيات مبنية على أرضية مهتزة.

3. إنه يخلط بين "التعميم" و"التخمين"

في المدرسة، نتعلم أنه إذا رأينا نمطًا في عينة ما، فيمكننا تطبيقه على العالم أجمع.

المشكلة: في العالم الاجتماعي، "العالم أجمع" يتغير باستمرار. النموذج الذي تدرب على بيانات من عام 2017 قد يفشل تمامًا في عام 2024 لأن المجتمع تغير، وليس لأن النموذج كان "خاطئًا" من الناحية الرياضية.
التكلفة: نستمر في بناء نماذج تعمل لعالم الأمس ولكنها تفشل في عالم اليوم، ونلوم "الضجيج" في البيانات بدلاً من إدراك أن "الخريطة" التي نستخدمها قد أصبحت قديمة.

الحل: توقفوا عن البحث عن "الشبح"

يقترح المؤلفون أن نتوقف عن محاولة العثور على "الشبح في الآلة" (التوزيع الحقيقي). بدلاً من ذلك، يجب علينا:

الاعتراف بأننا نبني ولا نكتشف: الإقرار بأن كل نموذج هو بناء، مثل منزل مبني بآجر محدد.
التركيز على السكان المعنيين: بدلاً من قول "هذا النموذج يعمل للجميع"، قل "هذا النموذج يعمل لـ هذه المجموعة المحددة من الناس في هذا السياق المحدد".
الصدق بشأن الخيارات: عندما نبني هذه الأنظمة، نحتاج إلى مناقشة الأمر علنًا: "لقد اخترنا النظر في هذه المتغيرات لأن..." بدلاً من "البيانات تحدثت عن نفسها".

الخلاصة

الورقة هي تحذير:
نحن نعامل البشر مثل رميات النرد. نعتقد أن هناك رقمًا خفيًا ومثاليًا يصف مستقبل الشخص. لكن هذا غير موجود. لا يوجد سوى القصة التي نرويها عنهم بناءً على البيانات التي اخترنا جمعها.

إذا استمررنا في التظاهر بوجود "احتمال حقيقي"، فإننا نخاطر ببناء أنظمة تبدو موضوعية وعادلة، لكنها في الواقع تعكس التحيزات والخيارات الخاصة بالأشخاص الذين بنوها. نحن بحاجة إلى التوقف عن البحث عن الخريطة السحرية والبدء في تحمل المسؤولية عن المنطقة التي نرسم حدودها.

إليك ملخص تقني مفصل للورقة البحثية بعنوان "تكاليف التظاهر بوجود توزيعات احتمالية مولدة للبيانات في العالم الاجتماعي" من تأليف هولتجن وويليامسون.

1. بيان المشكلة

تتحدى الورقة الافتراض الأساسي في تعلم الآلة (ML) والإحصاء القائل بأن البيانات المرصودة هي عينات مستمدة من توزيع احتمالي حقيقي ومولد للبيانات (Gen-D).

الوضع الراهن: تعتمد نظرية تعلم الآلة القياسية (بما في ذلك أبحانات العدالة) على فرضية أن نقاط البيانات $\{(x_i, y_i)\}$ هي عينات مستقلة ومتماثلة التوزيع (i.i.d.) من توزيع مشترك ثابت $P(X, Y)$ . هذا الإطار هو ما يدعم ضمانات الخطأ، وحدود التعميم، ومفهيد "المتنبئ الأمثل لبيز" (Bayes-optimal predictor).
القضية الجوهرية: يجادل المؤلفان بأنه بينما يعد هذا الافتراض تصوراً مفيداً للأنظمة الفيزيائية المستقرة (مثل القمار أو الفيزياء)، إلا أنه خيال في السياقات الاجتماعية التي تنطوي على سلوك بشري.
العواقب: إن التظاهر بوجود هذه التوزيعات يحجب الخيارات النوعية في النمذجة التي يتخذها الباحثون، ويخلق شعوراً زائفاً بالموضوعية، ويؤدي إلى استنتاجات مضللة فيما يتعلق بالعدالة، والتعميم، وطبيعة التنبؤ.

2. المنهجية والإطار النظري

يستخدم المؤلفان مزيجاً من الحجاج الفلسفي، والتحليل التاريخي، وإعادة الاشتقاق الرياضي الصارم لنظرية التعلم لتفكيك إطار عمل (Gen-D).

النقد الفلسفي: يجادلان بأن الاحتمالات في العلوم الاجتماعية هي أمور مبنية (تعتمد على اختيار السكان، والأطر الزمنية، والسمات) وليست أموراً مكتشفة. ويستشهدان بـ "مشكلة الفئة المرجعية" (reference class problem)، مشيرين إلى أن احتمال وقوع حدث ما يعتمد كلياً على كيفية تعريف "التشابه" (مستوى التجريد)، وهو خيار في النمذجة وليس ثابتاً فيزيائياً.
البديل الرياضي (السكان المحدودين): بدلاً من افتراض توزيع مجرد ولانهائي، يقترح المؤلفان إطاراً قائماً على السكان المحدودين.
- قاما بتكييف نظرية التعلم الكلاسيكية (تحديداً أعمال فابنيك) لوضع حدود لخطأ التعميم دون استدعاء توزيع حقيقي.
- الأداة الرياضية الرئيسية: يستخدمان المعاينة بدون إحلال (سياق التوزيع الهندسي الفائق - hypergeometric) بدلاً من المعاينة مع الإحلال (سياق التوزيع ذي الحدين - binomial).
- التمهيدية 1 و2 (التماثل): أثبتا نسخاً معدلة من "تمهيدية التماثل" (Symmetrisation Lemma) للمجموعات المحدودة. تحد هذه التمهيديات من الفرق بين الخطأ في مجموعة التدريب والخطأ في بقية السكان (أو كامل السكان) باستخدام مقياس عد ( $\mu$ ) بدلاً من مقياس احتمالي.
- النظرية 3 (حد التعميم): اشتقا حداً للتعميم لفئة فرضيات $\Lambda$ ذات بُعد VC يبلغ $h$ على مجموعة مكونة من $l+k$ من النقاط. تُظهر هذه النظرية أنه بالنسبة لأحجام العينات الكبيرة، سيكون خطأ التدريب قريباً من الخطأ في بقية السكان المحددين لغالبية العينات الممكنة، دون افتراض وجود توزيع حقيقي كامن.

3. المساهمات الرئيسية

أ. دحض وجود التوزيعات الحقيقية في السياقات الاجتماعية

يثبت المؤلفان أن الاحتمالات الشرطية الحقيقية $P(Y|X)$ لا توجد لأن:

الاعتماد على السكان: يعتمد الاحتمال بشدة على تعريف السكان (على سبيل المثال، الإطار الزمني، النطاق الجغرافي). إن تغيير سكان التدريب (مثلاً: سنة واحدة مقابل 4 سنوات من البيانات) يغير بشكل كبير التنبؤات "المثلى"، مما يثبت عدم وجود توزيع واحد مستقر.
الندرة والتقلب: في الفضاءات عالية الأبعاد، قد يكون لدى تركيبات سمات معينة نقاط بيانات قليلة جداً. حساب "احتمال حقيقي" بناءً على هذه النقاط القليلة (مثل حالتي تعثر من أصل 3) هو أمر متقلب وغير قابل للتعميم.
المعاينة بدون إحلال: في السياقات الاجتماعية، نحن لا نأخذ عينات من البشر مع الإحلال. بمجرد ملاحظة شخص ما أو اتخاذ إجراء تجاهه، فإنه لا يعود نفس "المتغير العشوائي" في المستقبل. لذا فإن إطار (Gen-D) يفشل في مراعاة هذا الأمر.

ب. إعادة صياغة نظرية التعلم

تثبت الورقة أن التعلم والتعميم لا يتطلبان افتراض (Gen-D).

من خلال معاملة مجموعة البيانات كـ "سكان محدودين"، يمكن استخلاص حدود صارمة لكيفية أداء نموذج تم تدريبه على مجموعة فرعية على بقية ذلك السكان المحدد.
ينقل هذا الهدف من "تقريب حقيقة ميتافيزيقية" إلى "إيجاد قاعدة قرار تقلل الخسارة على سكان محددين".

ج. كشف "وهم الموضوعية"

يجادل المؤلفان بأن إطار (Gen-D) يخلق وهماً خطيراً:

حجب الخيارات: يوحي بأن النماذج هي مجرد أدوات "لتقدير" حقيقة موجودة مسبقاً، مما يخفي حقيقة أن النموذج هو بناء (construction) قائم على خيارات محددة في فضاء المدخلات (التجريد)، ودوال الخسارة، وجمع البيانات.
العدالة مقابل الدقة: يوحي الإطار بأن قيود العدالة هي انحرافات عن الحل "الأمثل" (البيزي). ومع ذلك، تظهر الأدلة التجريبية وجود نماذج أقل تمييزاً ذات دقة متساوية. إطار (Gen-D) يحجب هذا عبر افتراض وجود نموذج واحد "صحيح" يجب تقريبه.
تعدد النماذج: يُعامل وجود نماذج عديدة ذات أداء متوسط متشابه ولكن بتنبؤات فردية مختلفة (تأثير راشومون - Rashomon effect) كأمر مزعج في (Gen-D). أما في منظور السكان المحدودين، فهو واقع مفاهيمي أساسي: لا يوجد متنبئ واحد "حقيقي".

د. نقد التجريد وبناء المتغيرات

تسلط الورقة الضوء على أن اختيار فضاء المدخلات $\mathcal{X}$ (كيفية تمثيل الأفراد) هو خيار نمذجة حاسم وغالباً ما يتم تجاهله.

يتعامل إطار (Gen-D) مع $\mathcal{X}$ كمعطى.
في الواقع، إن اختيار السمات (مثل تضمين أو استبعاد العرق/الجنس) يغير جذرياً مقياس "التشابه" والتنبؤات الناتجة.
التظاهر بوجود توزيع يوحي بأن إضافة المزيد من البيانات ستكشف في النهاية عن "الاحتمال الحقيقي"، متجاهلة أن التجريد نفسه هو الذي يملي النتيجة.

4. النتائج والأدلة

الإثبات التجريبي (دخل ACS): حلل المؤلفان بيانات تعداد الولايات المتحدة (دخل ACS) عبر أربع ولايات كبيرة.
- النتيجة: النماذج التي تدربت على سنة واحدة من البيانات مقابل 4 سنوات أنتجت تنبؤات مختلفة بشكل كبير لنفس الأفراد (حوالي 10% من التنبؤات تغيرت بأكثر من 10%).
- الدلالة: إذا كان هناك "توزيع حقيقي"، فيجب أن يكون المتنبئ الأمثل مستقراً بغض النظر عن حجم نافذة التدريب (بافتراض استقرار التوزيع). هذا التقلب يثبت أن التوزيع ليس كياناً ثابتاً بل هو بناء مرتبط بنافذة البيانات.
الحدود النظرية: تؤكد الحدود المستمدة للتعميم (النظرية 3) أن التعلم ممكن ومحدود في السكان المحدودين دون استدعاء معاينة (i.i.d.) من توزيع لانهائي.

5. الأهمية والآثار المترتبة

بالنسبة للعدالة والأخلاق: تجادل الورقة بأن إطار (Gen-D) ضار في السياقات الاجتماعية لأنه يسم يسمح للممارسين بادعاء أن نماذجهم "موضوعية" أو أنها "تتبع الفرص الحقيقية". ومن خلال رفض ذلك، يدعو المؤلفان إلى مساءلة صريحة: يجب تبرير كل خيار في النمذجة (التجريد، دالة الخسارة، تعريف السكان)، حيث لا يوجد توزيع "حقيقي" يمكن الاستناد إليه.
بالنسبة لنظرية تعلم الآلة: تدعو الورقة إلى تحول في كيفية تدريس ونظرية التعلم. بينما يعد (Gen-D) مقبولاً للأنظمة الفيزيائية المستقرة، يجب تأطير تعلم الآلة الاجتماعي حول السكان المحدودين واتخاذ القرار بدلاً من تقدير التوزيع.
بالنسبة للممارسة العملية:
- يجب على الباحثين التوقف عن صياغة الأهداف كـ "تقريب للمصنف الأمثل لبيز".
- يجب أن يركز التقييم على الأداء في مجموعات سكانية محددة ومعرفة، وعلى السيناريوهات الأسوأ، بدلاً من متوسط المخاطر عبر توزيع مجرد.
- إن "المسيرة نحو الحقيقة" (الاقتراب من التوزيع الحقيقي) هي مغالطة؛ الهدف هو بناء نماذج مفيدة لسياقات محددة.

الخاتية

يخلص هولتجن وويليامسون إلى أن افتراض التوزيعات المولدة للبيانات في تعلم الآلة الاجتماعي هو "خيال مكلف". فهو يحجب الطبيعة المبنية للخوارزميات، ويعزز شعوراً زائفاً بالموضوعية، ويعيق تطوير أنظمة أكثر عدلاً ومساءلة حقاً. وهما يدعوان إلى إطار عمل مقتصد يقوم على السكان المحدودين، مما يجبر الباحثين على مواجهة الخيارات المحددة التي يتخذونها والنطاق الفعلي لتنبؤاتهم.