Contestability without recourse: post-decision safeguards for disabled learners in AI-supported educational decision-making

ملخص تقني: القابلية للطعن دون سبل انتصاف

بيان المشكلة
تتناول الورقة بحثية فجوة حرجة في الأدبيات المتعلقة بالذكاء الاصطناعي في التعليم، وتحديداً فيما يخص المتعلمين ذوي الإعاقة والاحتياجات التعليمية الخاصة (SEN). بينما رسمت الأبحاث خرائط واسعة النطاق للتحيز الخوارزمي، والعدالة، والإنتاج التقني للقرارات، إلا أنها أزاحت بشكل كبير تساؤل القابلية للطعن (Contestability): أي ما هي سبل الانتصاف التي يمتلكها المتعلم أو ممثله بعد اتخاذ قرار ذي عواقب. تجادل المؤلفة بأن القرار قد يكون عادلاً بشكل مبرهن (من حيث طريقة إنتاجه)، ومع ذلك يترك الشخص المتأثر دون آلية لتغييره. تكمن المشكلة الجوهرية في غياب الضمانات المحددة لما بعد اتخاذ القرار—وهي الآليات التي تسمح للمتعلم بالاعتراض على قرار مدعوم بالذكاء الاصطناعي في المجال التعليمي، أو تصحيحه، أو نقضه.

المنهجية
تستخدم الدراسة مراجعة منهجية وتحليلاً للمتن البحثي، مهيكلة على النحو التالي:

• بناء المتن (Corpus Construction): أُجري بحث عبر 12 مصدراً ببليوجرافياً (بما في ذلك Scopus وERIC وCrossref) باستخدام مصطلحات تتعلق بـ "الذكاء الاصطناعي"، و"الإعاقة/الاحتياجات التعليمية الخاصة"، و"التعليم". ومن المهم أن مصطلحات البحث استبعدت المفاهيم المتعلقة بالعدالة، أو التحيز، أو الاستئناف، أو الطعن لضمان عدم انحياز المتن نحو أي من جانبي المقارنة.
• معايير الاختيار: من أصل 1,690 سجلاً أولياً، تم فحص 727 سجلاً بناءً على العنوان/الملخص، وتم الحصول على 138 تقريراً بنص كامل وتحليلها. تطلبت معايير الاشتمال التحقق من وجود المفاهيم الثلاثة الأساسية (الذكاء الاصطناعي، الإعاقة، التعليم) في البيانات الوصفية.
• بروتوكول القياس: قاس التحليل مدى قرب مفاهيم محددة من مصطلحات "القرار" (ضمن نافذة قدرها 240 حرفاً).
  • مفاهيم ما قبل القرار: التحيز، العدالة، الأخلاقيات، الخصوصية، الدقة، القابلية للتفسير، الموافقة.
  • آليات ما بعد القرار: إعادة النظر البشرية، تصحيح البيانات، الاستئناف، جبر الضرر/العلاج، والتفسير لغرض الطعن.
• التعريفات والاستثناءات: تُعرف الورقة بدقة "ضمانات ما بعد القرار" لتستبعد المفاهيم التي غالباً ما تُخلط مع سبل الانتصاف، مثل:
  • القابلية للتفسير (Explainability): تقديم حساب للقرار دون وجود مسار للطعن فيه.
  • الإشراف البشري (Human Oversight): تدخل المعلم أو الأخصائي في عملية اتخاذ القرار (والذي يظل تحكماً من جانب المُشغل، وليس حقاً للمتعلم).
  • تدقيق ما قبل النشر (Pre-deployment Audits): عمليات التحقق التي تحدث قبل وجود أي قرار.
  • الموافقة (Consent): أذونات جمع البيانات بدلاً من سبل علاج النتائج.
• التحقق (Validation): قام مراجعان مستقلان بتقييم النصوص الكاملة لـ 138 وثيقة للتحقق من وجود ضمانات قابلة للاستخدام من قبل المتعلم. كما أُجري بحث ثانوي مستهدف لتحديد ما إذا كانت هناك أدبيات حول سبل الانتصاف للمتعلمين ذوي الإعاقة خارج متن الذكاء الاصطناعي الخاص.

المساهمات الرئيسية

1. التمييز المفاهيمي: تميز الورقة رسمياً بين القابلية للطعن (القدرة على تحدي القرار) وبين القابلية للتفسير والعدالة. وهي تفترض أن العدالة تتعلق بـ كيفية إنتاج القرار، بينما تتعلق القابلية للطعن بـ ما يمكن للشخص المتأثر فعله بعد ذلك.
2. التعريف الإجرائي: تقدم الورقة تعريفاً دقيقاً من خمسة أجزاء لـ "ضمانات ما بعد القرار" (إعادة النظر البشرية، تصحيح البيانات، الاستئناف، جبر الضرر، والتفسير لغرض الطعن) وهو تعريف محدد بما يكفي ليتم قياسه تجريبياً في التقارير البحثية.
3. تحليل الفجوة القانونية: تحلل الورقة اللائحة العامة لحماية البيانات (GDPR)، وقانون الذكاء الاصطناعي في الاتحاد الأوروبي، واتفاقية الأمم المتحدة لحقوق الأشخاص ذوي الإعاقة (UNCRPD). وتخلص إلى أنه بينما تفترض هذه الصكوك الحق في الطعن، فإن لا أحد منها يحدد إجراءً على مستوى المدرسة لتمكين المتعلم من بدء عملية إعادة النظر.
4. القياس التجريبي: توضح الورقة كمياً التفاوت في الاهتمام البحثي، مظهرة أن الأدبيات تركز بكثافة على جودة القرار (التحيز/العدالة) بينما تتجاهل سبل الانتصاف بعد القرار.

النتائج
أسفر تحليل متن الـ 138 وثيقة عن النتائج التالية:

• هيمنة ما قبل القرار: ظهرت المصطلحات الدالة على "التحيز" أو "العدالة" بالقرب من مصطلح القرار في 74.6% من الوثائق. وظهرت "القابلية للتفسير" في 19.6%.
• غياب ما بعد القرار: ظهرت المصطلحات الدالة على "الاستئناف" أو "التحدي" أو "الإجراءات الواجبة" بالقرب من مصطلح القرار في 0.0% من الوثائق.
• المفردات المنفصلة: بينما ظهرت مصطلحات مثل "جبر الضرر" أو "إعادة النظر البشرية" في الوثائق، إلا أنها كانت منفصلة باستمرار عن سياق القرار؛ حيث ظهرت في الملخص أو في المناقشة العامة، ولكن لم يتم ربطها أبداً بآلية محددة لتمكين المتعلم من تحدي نتيجة ما.
• "الإشراف" المتمحور حول المعلم: وصفت الحالات القليلة لـ "إعادة النظر البشرية" (6.5% من الوثائق) القدرات التي يمتلكها المعلمون أو الأخصသူ (مثل التجاوز اليدوي)، وليس الحقوق التي يمتلكها المتعلم أو أسرته.
• نتائج البحث المستهدف: حدد بحث منفصل عن "سبل الانتصاف" (Recourse) و"الإعاقة/التعليم" 102 سجل ذي صلة. ومع ذلك، لم تذكر أي من هذه العناوين الذكاء الاصطناعي أو الخوارزميات أو تعلم الآلة. وهذا يشير إلى أن الأدبيات المتعلقة بالانتصاف التعليمي للمتعلمين ذوي الإعاقة والأدبيات المتعلقة بالذكاء الاصطناعي في التعليم هي مجالات متميزة وغير متداخلة.

الأهمية والادعاءات
تدعي الورقة أن مجال الذكاء الاصطناعي في التعليم قد طور معايير متطورة لتقييم كيفية اتخاذ القرارات، لكنه فشل في معالجة ما يحدث بعد اتخاذها.

• مغالطة "العدالة": تجادل المؤلفة بأن التركيز على العدالة وحده غير كافٍ؛ إذ يمكن لخوارزمية عادلة أن تنتج قراراً يظل غير قابل للتغيير بالنسبة للمتعلم المتأثر.
• الضرورة الإجرائية: تؤكد الورقة أن القابلية للطعن هي مطلب إجرائي وليست تقنياً. فهي تتطلب التنازل عن السلطة للمتعلم (أو ممثله) لبدء عملية المراجعة، وهي خطوة لا توفرها نماذج "الإنسان في الحلقة" (human-in-the-loop) الحالية.
• البقعة البحثية العمياء: إن غياب سبل الانتصاف في الأدبيات ليس ناتجاً عن نقص في الاهتمام الأكادى بحقوق الإعاقة بشكل عام، بل هو فشل في ربط تلك الدراسات باتخاذ القرارات المدعومة بالذكاء الاصطناعي.
• النطاق المتواضع: توضح المؤلفة صراحة أن نتائجها تصف الأدبيات البحثية، وليس بالضرورة الممارسات الفعلية في المدارس. وهي تقر بأن ممارسات إعادة النظر الفعالة قد تكون موجودة في المدارس ولكنها غير موثقة، أو على العكس، قد تكون الحقوق القانونية موجودة ولكنها غير فعالة في الممارسة. وتخلص الورقة إلى أن المجتمع البحثي يجب أن يحول تركيزه من مجرد تحسين إنتاج القرار إلى إنشاء آليات للطعن في القرار بعد اتخاذه.