🤖 AI

Quantifying Harm

توسع هذه الورقة البحثية في تعريف سابق نوعي للضرر عبر تطوير إطار كمي لقياس الضرر الفردي والمجتمعي في ظل عدم اليقين، مبرهنةً على أن طرق التجميع البسيطة يمكن أن تؤدي إلى نتائج غير متوقعة، ومقترحةً بدائل قائمة على نظرية القرار، لا سيما في سياق الطب الدقيق.

المؤلفون الأصليون: Sander Beckers, Hana Chockler, Joseph Y. Halpern

نُشر 2026-05-07

📖 5 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Sander Beckers, Hana Chockler, Joseph Y. Halpern

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

إليك شرح لورقة "تكميم الضرر" (Quantifying Harm)، باستخدام لغة بسيطة وتشبيهات من الحياة اليومية.

الصورة الكبيرة: من "هل آلمني؟" إلى "كم آلمني؟"

تخồi أنك قاضٍ يحاول تقرير ما إذا كان نظام ذكاء اصطناعي جديد قد تسبب في ضرر. في الماضي، كان لدى المؤلفين (بيكرز، تشوكلر، وهالبيرن) قاعدة بسيطة: نعم أو لا. هل تسبب الذكاء الاصطناعي في ضرر؟ إذا كانت الإجابة "نعم"، فقد انتهى الأمر.

لكن في العالم الحقيقي، نحتاج إلى أن نكون أكثر دقة. نحن لا نريد فقط معرفة ما إذا كان الضرر قد حدث؛ بل نريد معرفة مدى سوء ذلك الضرر حتى نتمكن من اختيار الخيار الأفضل. تتعلق هذه الورقة ببناء مسطرة رياضية لقياس "مقدار" الضرر، بدلاً من مجرد مفتاح تشغيل/إيقاف (on/off) يقول "موجود" أو "غير موجود".

1. الخط المرجعي: ما هو "الطبيعي"؟

لقياس الضرر، تحتاج إلى نقطة انطلاق. فكر في الأمر كمنظم حرارة (ترموستات).

المنفعة الافتراضية (Default Utility): هي درجة الحرارة "الطبيعية" للغرفة.
النتيجة (Outcome): هي درجة الحرارة الفعلية بعد تشغيل السخان أو المكيف.

إذا كان من المفترض أن تكون الغرفة بدرجة 70 فهرنهايت (الوضع الافتراضي) وجعل السخان الحرارة 75 فهرنهايت، فهذه فائدة. أما إذا جعل المكيف الحرارة 60 فهرنهايت، فهذا ضرر. مقدار الضرر هو ببساطة الفرق بين المكان الذي يجب أن تكون فيه والمكان الذي انتهى بك المطاف فيه بالفعل.

التحول النوعي: تجادل الورقة بأن "الطبيعي" ليس دائماً صفراً. أحياناً، يكون "الطبيعي" عبارة عن نطاق (Range).

تشبيه: تخيل أنك تقدم إكرامية (Tip) للنادل.
- النطاق: الإكرامية بين 15% و20% هي أمر "طبيعي". ليست جيدة ولا سيئة؛ إنها مجرد أمر متوقع.
- الضرر: إذا قدمت 5%، فقد تسببت في ضرر (أنت تحت الحد الأدنى).
- الفائدة: إذا قدمت 50%، فقد خلقت فائدة (أنت فوق الحد الأقصى).
- النقطة الجوهرية: لا يمكنك القول ببساطة إن "المزيد من المال هو دائماً أفضل". هناك "نقطة مثالية" حيث لا يحدث شيء (لا زيادة ولا نقصان).

2. رمي النرد: التعامل مع عدم اليقين

الحياة نادراً ما تكون مؤكدة. أحياناً جراحة الطبيب تشفي المريض، وأحياناً تقتله. كيف نقيس الضرر عندما تكون النتيجة مقامرة؟

تبحث الورقة في كيفية تفكير الناس فعلياً في المخاطر، وهو أمر غالباً ما يكون غريباً.

مشكلة "السيارة ذاتية القيادة": تخيل سيارة ذاتية القيادة.
- الخيار (أ): القيادة بسرعة محددة. هناك احتمال 1 في المليون لوقوع حادث مميت.
- الخيار (ب): القيادة أبطأ بنسبة 20%. هناك احتمال 1 في مليوني مرة لوقوع حادث مميت.
- الرياضيات: الخيار (ب) أكثر أماناً. إذا اكتفيت بالحسابات الرياضية (المنفعة المتوقعة)، يجب عليك دائماً اختيار (ب).
- الواقع: غالباً ما يفضل الناس الخيار (أ). لماذا؟ لأن عقولنا تعامل احتمال "1 في المليون" على أنه "شبه معدوم". نحن نتجاهل المخاطر الضئيلة.

يقترح المؤلفون استخدام "ترجيح الاحتمالات" (Probability Weighting). بدلاً من معامل نسبة خطر 1% ونسبة 0.0001% بشكل خطي، نقوم بتطبيق "وزن" عليهما.

تشبيه: فكر في عدسة مكبرة.
- أحياناً نستخدم عدسة مكبرة تجعل المخاطر الصغيرة تبدو ضخمة (مثل الخوف من هجوم إرهابي بعد سماع خبر عنه).
- وأحياناً نستخدم "مفتاح خفت" (Dimmer switch) يجعل المخاطر الصغيرة تختفي (مثل تجاهل خطر وقوع حادث سيارة لأننا نقود كل يوم).
- لكي نقيس الضرر بدقة، يجب أن نأخذ في الاعتبار كيف يدرك البشر فعلياً هذه الاحتمالات، وليس فقط الأرقام الخام.

3. مشكلة المجموعة: العدالة والتجميع

ماذا يحدث عندما تضر سياسة ما 1,000 شخص؟ هل نكتفي بجمع الآلام معاً؟

فخ "المجموع": إذا كانت السياسة (أ) تؤذي 1,000 شخص بشكل طفيف، والسياسة (ب) تؤذي شخصاً واحداً معيناً بشكل كبير، فإن عملية الجمع الرياضي البسيطة قد تقول إنهما متساويان.
قضية العدالة: حدسياً، نشعر بشكل مختلف تجاه هذين الأمرين. إيذاء 1,000 شخص عشوائي يبدو مختلفاً عن استهداف شخص واحد معين (أو مجموعة معينة، مثل أقلية عرقية).

تقترح الورقة "عقوبة عدم العدالة" (Fairness Penalty).

تشبيه: تخيل مقصف مدرسة.
- إذا قدم المقصف بالخطأ وجبة سيئة لـ 100 طالب عشوائي، فهذا أمر مزعج.
  // إذا كان المقصف يقدم وجبات سيئة فقط للطلاب الجالسين على الطاولة رقم 5، فهذا يشبه التنمر.
- يقترح المؤلفون أن "حاسبة الضرر" الخاصة بنا يجب أن تضيف عقوبة ضخمة إذا كانت السياسة تضر بشكل غير متناسب بمجموعة محددة ومعروفة. الأمر لا يتعلق فقط بالعدد الإجمالي للأشخاص المتضررين؛ بل يتعلق بـ من الذين يتضررون.

4. الجدل حول الطب الدقيق

تربط الورقة هذه الأفكار بجدل حديث في الطب حول "الطب الدقيق" (تفصيل العلاجات بناءً على جينات محددة).

الصراع: بعض الخبراء يقولون: "عالج المريض إذا كان متوسط الفائدة إيجابياً". آخرون يقولون: "لا، يجب أن نعطي الأولوية لتجنب الضرر للفرد، حتى لو كان متوسط الفائدة إيجابياً".
رأي المؤلفين: يوضحون أن هذا الجدل هو في الواقع نسخة محددة من المشكلات التي حلوها بالفعل.
- نهج "متوسط الفائدة" يتجاهل "الوضع الافتراضي" (ماذا يحدث لو لم نفعل شيئاً).
- نهج "تجنب الضرر" يعتمد غالباً على تعريف محدد للسببية (اختبار "لولا ذلك": "هل كان سيموت لولا العلاج؟").
- يجادل المؤلفون بأن الجدل الطبي يفتقر إلى دقة السياق. ما هو "الضرر" يعتمد على كيف كانت حياة المريض قبل العلاج. إذا كان المريض يحتضر بالفعل، فقد لا يكون العلاج المحفوف بالمخاطر "ضاراً" حتى لو تسبب في وفاته، لأن البديل كان الموت على أي حال.

5. الجزء الصعب: الرياضيات معقدة

أخيراً، تقر الورقة بأن حساب هذا الأمر معقد حسابياً بشكل كبير.

تشبيه: تخيل محاولة حل لغز "سودوكو" ضخم حيث تتغير قواعد اللغز قليلاً في كل مرة تحرك فيها رقماً.
يثبت المؤلفون أن تحديد "مقدار" الضرر الذي حدث بالضبط هو مشكلة قد تستغرق من الحواسيب الفائقة وقتاً طويلاً جداً لحلها في أسوأ السيناريوهات.
ومع ذلك: يجادلون بأن الألغاز في الحياة الواقعية ليست بهذا الحجم عادةً. معظم القرارات تتضمن عدداً يمكن التحكم فيه من المتغيرات، لذا لا يزال بإمكاننا استخدام هذه التعريفات في الممارسة العملية.

الملخص

تبني هذه الورقة أداة متطورة لقياس الضرر. إنها تتجاوز إجابات "نعم/لا" البسيطة لتسأل:

كم هو أسوأ من الخط المرجعي "الطبيعي"؟
كيف نعدل النتائج بناءً على كيفية إدراك البشر للمخاطر (تجاهل المخاطر الضئيلة مقابل الخوف منها)؟
كيف نضمن أننا لا نستهدف مجموعات معينة بشكل غير عادل؟

من خلال الإجابة على هذه الأسئلة، يأمل المؤلفون في مساعدة أنظمة الذكاء الاصطناعي، والأطباء، وصناع السياسات على اتخاذ قرارات تتماشى بشكل أفضل مع الحدس البشري حول ما هو "ضار" حقاً.

ملخص تقني: تكميم الضرر

بيان المشكلة
بينما تؤثر أنظمة الذكاء الاصطناعي بشكل متزايد في المجالات الحيوية مثل الرعاية الصحية، والتوظيف، والقيادة الذاتية، يظل تعريف وقياس "الضرر" تحديًا كبيرًا. تتطلب الأطر التنظيمية الحالية، مثل قانون الذكاء الاصطناعي الأوروبي، تقييم كل من شدة الضرر واحتمالية وقوعه، ومع ذلك غالبًا ما تصف الأدبيات الفلسفية مفهوم الضرر بأنه "خليط فرانكنشتايني" من الروايات المتضاربة. لقد وضع العمل السابق للمؤلفين تعريفًا نوعيًا للضرر (تحديد ما إذا كان الضرر قد وقع أم لا) بناءً على النماذج السببية ومنفعة افتراضية. ومع ذلك، فإن التطبيقات العملية تتطلب مفهومًا كميًا للضرر لمقارنة التدخلات، وتجميع الضرر عبر المجموعات السكانية، ومراعاة عدم اليقين. تعالج الورقة الفجوة بين السببية النوعية والمقاييس الكمية المطلوبة لصنع السياسات واتخاذ القرارات الأخلاقية.

المنهجية
يطور المؤلفون إطارًا كميًا قائمًا على النماذج السببية الهيكلية وتعريف هالبيرن-بيرل للسببية الفعلية. تسير المنهجية عبر عدة مراحل:

الضرر الكمي في سياق حتمي:
يعرف المؤلفون الضرر الكمي ( $QH$ ) لوكيل واحد في سياق ثابت. ويُحسب كفرق بين منفعة النتيجة الفعلية وبين خط أساس، مع تقييده بـ "منفعة افتراضية" ( $d$ ). وتحديدًا، إذا أدى إجراء $\vec{X}=\vec{x}$ إلى نتيجة $O=o$ بدلاً من نتيجة تباينية $O=o'$ ، فإن الضرر هو $\max(0, \min(d, u(o')) - u(o))$ . تضمن هذه الصيغة تسجيل الضرر فقط إذا كانت المنفعة الفعلية أقل من كل من المنفعة التباينية والمنفعة الافتراضية.
التعامل مع عدم اليقين (الترجيح الاحتمالي):
لمعالجة عدم اليقين بشأن السياقات، تنتقل الورقة من الضرر المتوقع البسيط إلى الضرر الكمي المتوقع المرجح (WEQH). وإدراكًا منها بأن اتخاذ القرار البشري غالبًا ما ينحرف عن تعظيم المنفعة المتوقعة الصارم (مثل المبالغة في تقدير الاحتمالات الصغيرة أو التقليل من قدرها بناءً على الخبرة)، يدمج المؤلفون دالة ترجيح احتمالية $w$ . الـ WEQH هو مجموع الاحتمالات المرجحة للسياقات مضروبة في الضرر الكمي في تلك السياقات. وهذا يسمح للنموذج بالتقاط ظواهر مثل تفضيل تجنب الأحداث الكارثية النادرة (المبالغة في التقدير) أو تجاهل المخاطر الزهيدة في الأنشطة اليومية (التقليل من التقدير).
تجميع الضرر المجتمعي والعدالة:
تنتقد الورقة النهج "البديهي" المتمثل في مجرد جمع الأضرار الفردية، مشيرة إلى أنه يفشل في مراعاة العدالة والتأثير غير المتناسب على فئات سكانية محددة. يقترح المؤلفون نموذج المنفعة الجماعية الذي يقدم حد عقوبة ( $\alpha$ ) إذا عانت مجموعة محددة مسبقًا ومعرفة ( $G$ ) من متوسط ضرر أعلى بكًا ( $\beta$ ) من متوسط السكان. تسمح هذه الآلية للإطار بمعاقبة السياسات التي تركز الضرر على مجموعات معينة، حتى لو كان إجمالي الضر المجمع منخفضًا.
عدم التماثل بين الضرر والمنفعة:
على عكس تحليلات التكلفة والعائد القياسية التي تعامل المنفعة باعتبارها النقيض المتماثل للضرر، يقترح المؤلفون فترة افتراضية $D = [d_h, d_b]$ . النتائج التي تقل عن $d_h$ تشكل ضررًا، والنتائج التي تزيد عن $d_b$ تشكل منفعة، والنتائج ضمن الفترة تكون محايدة. وهذا يجسد الحدس بوجود نطاق "آمن" من النتائج حيث لا يتم تكبد لا ضرر ولا منفعة.
تحليل التعقيد:
يحلل الملحق التعقيد الحسابي لتحديد وحساب الضرر. تبين أن تقرير ما إذا كان الضرر قد وقع (نوعيًا) هو DP-complete، بينما حساب مدى الضرر الكمي هو $FP^{NP[\log n]}$ -complete. يشير المؤلفون إلى أنه بينما تشير هذه الفئات إلى عدم القدرة على الحل في أسوأ الحالات، فإن التطبيقات العملية ذات مجموعات المتغيرات الصغيرة أو اعتبارات التماثل قد تجعل المشكلة قابلة للتنفيذ.

المساهمات والنتائج الرئيسية

التعريف الرسمي: توفر الورقة أول تعريف كمي رسمي للضرر يدمج النماذج السببية، ونظرية المنفعة، وخط أساس افتراضي.
دحض التجميع البسيط: يوضح المؤلفون أن جمع الأضرار المتوقعة يمكن أن يؤدي إلى نتائج غير بديهية، لا سيالما فيما يتعلق بالعدالة وتوزيع المخاطر. ويظهرون كيف يمكن لترجيح الاحتمالات والعقوبات القائمة على المجموعات حل هذه المفارقات (مثل دورة نوركروس للضرر).
المقارنة مع RBT: تقدم الورقة مقارنة تفصيلية مع نهج ريتشنز، بيرد، وتومسون (RBT). يجادل المؤلفون بأن اعتماد RBT على سببية "لكونه السبب الوحيد" (but-for) وإجراء افتراضي واحد (عدم العلاج) يؤدي إلى استنتاجات معيبة، مثل الإيحاء بأن عدم علاج المريض لا يسبب ضررًا. إن استخدام المؤلفين لتعريف سببية أكثر عمومية ومنفعة افتراضية مرنة يعطي نتائج أكثر دقة ومعقولية من الناحية الطبية.
سياق الطب الدقيق: تُطبق الورقة الإطار على نقاش حديث في الطب الدقيق (يتضمن داويد، سين، سارفيت، ستنسرود، مولر، وبيرل). يوضح المؤلفون أن النقاشات المتعلقة بقواعد العلاج (مثل تعظيم متوسط أثر العلاج مقابل وزن المنفعة مقابل الضرر) هي في الأساس حالات خاصة من القضاية الأوسع المتعلقة بالمنفعة الافتراضية وترجيح الاحتمالات التي تعالجها ورقتهم.

الأهمية والادعاءات
تضع الورقة نفسها كخطوة تأسيسية نحو نهج رسمي لتحديد الضرر في الممارسة العملية، لا سيما لأنظمة الذكاء الاصطناعي والسياسة العامة. يدعي المؤلفون بتواضع أن هذا العمل يشكل "خطوة أولى" وليس حلاً كاملاً. ويؤكدون على ما يلي:

أن تعريف الضرر الكمي لوكيل واحد في سياق ثابت أمر مباشر، ولكن التفاصيل الدقيقة تبرز مع عدم اليقين والتجميع.
أن النهج المقترح للعدالة (معاقبة الضرر غير المتناسب) هو مسودة تتطلب مزيدًا من التحقق التجريبي لضمان توافقها مع الاستدلالات البشرية.
أن التعامل مع ترجيح الاحتمالات (المبالغة في التقدير مقابل التقليل من التقدير) أمر معقد ويعتمد على السياق، مما يتطلب من صانعي السياسات موازنة الاعتبارات المعيارية والوصفية بدلاً من افتراض دالة ترجيح عالمية.
يدمج الإطار بين الضرر واللوم، مما يشير إلى مسار نحو نظرية كاملة للمسؤولية الأخلاقية، رغم أن الورقة تركز بشكل أساسي على آليات تحديد كمية الضرر.

في النهاية، تجادل الورقة بأن وجود تعريف كمي صارم للضرر قائم على السببية أمر بالغ الأهمية للنشر الأخلاقي للذكاء الاصطناعي وصياغة لوائح مثل قانون الذكاء الاصطناعي الأوروبي، والانتقال من "فوضى" النقاشات الفلسفية النوعية إلى مقاييس قابلة للتنفيذ.