From Agent Labels to Accountable Deployment: Evidence Maturity and Meaningful Human Oversight for Agentic AI in Higher Education

يقف التعليم العالي عند نقطة تحول هادئة ولكنها جوهرية. لسنوات، كان الذكاء الاصطناعي في الفصول الدراسية يعمل مثل أمين مكتبة سريع المعرفة للغاية؛ يسأل الطالب سؤالاً، فيقدم النظام إجابة. وإذا كانت الإجابة خاطئة، يكتفي الطالب بإعادة السؤال أو التحقق من مصدر آخر، حيث تقتصر المخاطرة على لحظة من الارتباك. لكن جيلاً جديداً من البرمجيات بدأ في الظهور، وهي برمجيات تفعل ما هو أكثر من مجرد التحدث. هذه الأنظمة، التي تُسمى غالباً بالذكاء الاصطناعي "الوكيل" (Agentic AI)، يمكنها القيام بأشياء؛ إذ يمكنها تقسيم هدف كبير إلى خطوات أصغر، واختيار الأدوات التي ستستخدمها، وجمع المعلومات من أماكن مختلفة، ثم تنفيذ خطة دون توجيه بشري مستمر. تخيل نظاماً لا يكتفي بكتابة مقال لطالب فحسب، بل يمكنه صياغة المقال، والتحقق من المصادر، وتقديمه إلى بوابة التصحيح، ثم إرسال بريد إلكتروني إلى الأستاذ يتضمن ملخصاً للعمل المنجز. إن هذا التحول من الإجابة على الأسئلة إلى اتخاذ الإجراءات يغير طبيعة المخاطرة؛ فعندما يتحدث النظام فقط، تكون الغلطة مجرد جملة خاطئة، أما عندما يتصرف، فإن الخطأ قد يغير سجل الطالب، أو يكشف بيانات خاصة، أو يطلق سلسلة من الأحداث التي يصعب التراجع عنها.

إن السؤال الذي يواجه الجامعات اليوم ليس ما إذا كانت هذه الأدوات القوية تعمل، بل ما إذا كنا نعرف ما يكفي للسماح لها بالعمل بمفردها. فحص مراجعة نقدية جديدة أجراها الباحث "أبيشيك دي" من جامعة أورال الحكومية الجنوبية الحالة الراهنة لهذه التكنولوجيا في التعليم العالي. لا تنظر الدراسة إلى التكنولوجيا بمعزل عن سياقها، بل تطرح سؤالاً أخلاقياً صعباً: هل لدينا دليل كافٍ على أن هذه الأنظمة آمنة وعادلة ومفيدة قبل أن نسلمها مفاتيح القرارات الهامة؟ تبحث المراجعة في عشرات الدراسات والتقاربات الموجودة لتكتشف ما يدعمه الدليل فعلياً وأين تكمن الفجوات. وتشير النتائج إلى أنه بينما يمكن لهذه الأنظمة تحسين مهام محددة وصغيرة، إلا أن الأدلة ليست قوية بما يكفي بعد لتبرير السماح لها باتخاذ قرارات كبرى تتعلق بمستقبل الطلاب.

تبدأ المراجعة بتوضيح ما يُعد "وكيلاً". فليس كل روبوت محادثة أو أداة مؤتمتة تندرج تحت هذا الوصف. لكي يُعتبر النظام "وكيلاً" حقيقياً، يجب أن يكون قادراً على تخطيط تسلسل من الإجراءات، وتذكر السياق من المحادثات السابقة، واستخدام أدوات خارجية، والتحقق من عمله الخاص. تخلط العديد من الدراسات في هذا المجال بين هذه الأنظمة المتقدمة والأنظمة الأبسط التي تكتفي بتوليد النصوص. وقد أدى هذا الخلط إلى ما يسميه المؤلف "تضخم التسمية" (Label Inflation)، حيث يوصف أي أداة مؤتمتة بأنها وكيل، و"تضخم النتائج" (Outcome Inflation)، حيث يُخلط بين التحسينات الطفيفة في مظهر النظام أو صوته وبين التحسينات الحقيقية في مدى تعلم الطلاب. وتجد المراجعة أن الأدبيات مزدحمة بهذه الادعاءات الفضفاضة، لكن الأدلة غالباً ما تكون واهية. أقوى دليل موجود يتعلق بمدى جودة إنتاج هذه الأنظمة لمخرجات محددة، مثل تقديم ملاحظات حول كتابة الطالب، ومع ذلك، تضعف الأدلة كثيراً عند النظر في ما إذا كان الطلاب يتعلمون فعلياً بشكل أكبر، أو ما إذا كان النظام يعامل الجميع بعدالة، أو ما إذا كان يقلل من عبء العمل على المعلمين على المدى الطويل.

ومن أبر أكثر النتائج لفتاً للانتباه أن الدراسات الأكثر واعدة هي غالباً تجارب قصيرة أحادية الموقع لا تروي القصة كاملة. على سبيل المثال، اختبرت إحدى الدراسات نظاماً قدم ملاحظات لطلاب العلوم في المرحلة المتوسطة؛ حيث استخدم النظام وكيلين مختلفين للتحقق من عمل بعضهما البعض، مما قلل بشكل كبير من عدد المرات التي يقدم فيها مديحاً مبالغاً فيه أو يخترع حقائق. هذا نجاح تقني واضح، ومع ذلك، لم تظهر الدراسة ما إذا كان الطلاب قد تعلموا علومًا أكثر بسبب هذه الملاحظات، أو ما إذا كان المعلمون قد وفروا الوقت بعد اضطرارهم للتحقق من عمل الوكيل. ونظرت دراسة أخرى في نظام استُخدم في مكتب قبول جامعي للإجابة على أسئلة المتقدمين؛ حيث أجاب النظام على آلاف الأسئلة بسرعة ودقة، مع وجود أخطاء قليلة جداً. لكن هذا كان تجربة لمدة أسبوعين فقط، ولم تظهر الدراسة كيف سيتعامل النظام مع فصل دراسي كامل من عمليات القبول، أو كيف سيؤثر على عدالة من يتم قبولهم، أو كيف سيغير عبء العمل على الموظفين الذين يتعين عليهم إدارة العملية. وتخلص المراجعة إلى أنه بينما هذه الأنظمة مثيرة للإعجاب تقنياً، إلا أننا لا نزال في المراحل الأولى من فهم تأثيرها في العالم الحقيقي.

كما تسلط المراجة الضوء على فجوة حرجة في كيفية إدارة هذه الأنظمة. تتحدث العديد من التقار تقارير عن "الإشراف البشري"، مشيرة إلى أن المعلم أو الإداري يراقب النظام. لكن المراجعة تجادل بأن وجود إنسان حاضر لا يعني بالضرورة وجود رقابة فعالة. فالإشراف الحقيقي يعني أن يستطيع الإنسان رؤية ما يفعله النظام، وإيقافه إذا ساءت الأمور، وعكس إجراءاته إذا وقع خطأ ما. وفي العديد من الإعدادات الحالية، يكون الإنسان مجرد "ختم مطاطي"، يوافق على المخرجات دون القدرة على فهم الخطوات المعقدة التي اتخذها النظام للوصول إليها. وهذا أمر خطير لأنه إذا اتخذ النظام قراراً سيئاً، فقد لا يملك الشخص المسؤول الأدوات اللازمة لإصلاحه. وتشير المراجلة إلى أنه بدون إشراف قوي ومختبر، لا يمكننا أخلاقياً السماح لهذه الأنظمة باتخاذ قرارات تؤثر على حياة الناس، مثل تصحيح الامتحانات أو تحديد من يتم قبوله في برنامج ما.

ولحل عدم التوافق بين ما يمكن لهذه الأنظمة فعله وما نعرفه عنها، يقترح المؤلف إطار عمل جديد يسمى "الاستقلالية-الإشراف-الدليل" (Autonomy-Oversight-Evidence). يشير هذا الإطار إلى أن مقدار الحرية التي نمنحها للذكاء الاصطناعي لا ينبغي أبداً أن يتجاوز قوة الدليل على سلامته، ولا قوة التحكم البشري الذي نمتلكه عليه. يقسم الإطار الاستقلالية إلى مستويات، بدءاً من نظام يكتب جملة بسيطة استجابةً لأمر ما، وصولاً إلى نظام يمكنه اتخاذ قرارات مصيرية بشأن مستقبل الطالب. كما يقسم الأدلة إلى مستويات، من اختبار حاسوبي بسيط إلى تجربة طويلة الأمد في العالم الحقيقي عبر مدارس متعددة. والقاعدة بسيطة: لا يمكنك منح نظام ما استقلالية عالية ما لم تمتلك دليلاً عالياً وتحكماً بشرياً عالياً. إذا كان الدليل ضعيفاً، أو إذا كان الإشراف البشري مجرد إجراء شكلي، فيجب إبقاء تصاريح النظام ضيقة وقابلة للتراجع.

إن تداعيات هذه النتيجة كبيرة فيما يتعلق بكيفية تحرك الجامعات للمضي قدماً. لا تجادل المراجعة بوجوب حظر هذه الأنظمة، بل تدعو إلى نهج حذر ومدروس. يجب على الجامعات ألا تفترض أن النظام الذي يعمل جيداً في المختبر سيعمل جيداً في فصل دراسي حقيقي؛ فهي بحاجة إلى اختبار هذه الأدوات في سياقاتها الخاصة، مع النظر بعناية في من يستفيد ومن قد يتضرر. يجب عليها ضمان امتلاك المعلمين والموظفين القدرة على إيقاف النظام، وضمان وجود وسيلة للطلاب للطعن في القرارات التي يتخذها الجهاز. وتؤكد المراجعة أن عبء الإثبات يقع على عاتق المؤسسة؛ فقبل تسليم أي سلطة حقيقية لوكيل اصطناعي، يجب على المدرسة أن تثبت امتلاكها للدليل الذي يدعم ذلك ولديها الأشخاص القادرين على إدارته.

في نهاية المطاف، تعد هذه الورقة بمثابة دعوة للوضوح والمسؤولية. إن التكنولوجيا تتحرك بسرعة، وتتطور من أدوات تجيب على الأسئلة إلى أنظمة تتخذ الإجراءات. لكن الدليل على سلامتها وعدالتها لم يواكب هذا التسارع. تجد المراجعة أنه بينما يمكن لهؤلاء الوكلاء تحسين مهام معينة، إلا أننا لسنا مستعدين بعد للوثوق بهم في القرارات الكبرى التي تشكل تعليم الطلاب. إن المسار للأمام ليس وقف الابتكار، بل التمهل وبناء الضمانات اللازمة. ومن خلال مطابقة قوة النظام مع قوة الدليل وجودة التحكم البشري، يمكن للجامعات ضمان أن تخدم هذه الأدوات القوية الطلاب دون المساس بقيم العدالة والمساءلة والتعلم. الهدف ليس منع المستقبل، بل التأكد من أنه عندما يصل، سيكون مبنياً على أساس من الحقيقة والثقة.