Bias Taught: Linguistic and Model Stereotypes in AI-Based Educational Evaluations
تكشف هذه الدراسة أن النماذج اللغوية الكبيرة تظهر تحيزات لغوية وثقافية منهجية في التقييمات التعليمية، حيث تولد تقييمات تتفاوت في الصعوبة والطول عبر اللغات بما يترابط مع درجات برنامج التقييم الدولي للطلاب (PISA)، مع تعزيز الصور النمطية التي تؤكد على التعاطف في السياقات الغربية مقابل الهرمية في السياقات الآسيوية، مما يستلزم إجراء عمليات تدقيق داعمة للثقافة قبل النشر.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في الفصل الدراسي الحديث، تحدث ثورة هادئة. يتجه المعلمون والطلاب بشكل متزايد إلى الذكاء الاصطناعي، وتحديداً النماذج اللغوية الكبيرة، للمساعدة في تصميم الاختبارات، وتصحيح الأوراق، وتقديم الملاحظات. تم تدريب هذه البرامج الحاسوبية على كميات هائلة من النصوص من الإنترنت، حيث تتعلم التنبؤ بالكلمات التي يجب أن تأتي تالياً في الجملة. ولأنها بارعة جداً في محاكاة الكتابة البشرية، بدأت المدارس في استخدامها لإنشاء مواد تعليمية للطلاب في جميع أنحاء العالم. ومع ذلك، هناك قلق متزايد من أن هذه الأدوات قد لا تكون محايدة كما تبدو. فتماماً كما قد يحمل الشخص معتقدات غير واعية حول كيفية تعلم المجموعات المختلفة من الناس، قد تكون هذه البرامج الحاسوبية قد امتصت تحيزات مماثلة من البيانات التي غُذيت بها. وإذا عامل نظام ذكاء اصطناعي طالباً بشكل مختلف لمجرد أنه طرح سؤالاً بلغة مختلفة، فقد يؤدي ذلك إلى خلق بيئة تعليمية غير عادلة تعزز الصور النمطية القديمة بدلاً من مساعدة الطلاب على النجاح.
قرر فريق من الباحثين من كلية بودوين اختبار ما إذا كانت هذه الأدوات الرقمية نزيهة حقاً. لقد سعوا لمعرفة ما إذا كانت اللغة التي يستخدمها الطالب لطلب المساعدة ستغير صعوبة العمل الذي ستكلفه به الحاسوب. وللقيام بذلك، طلبوا من أربعة من أشهر نماذج الذكاء الاصطناعي إنشاء اختبارات في الرياضيات والقراءة والعلوم لطلاب في سن الخامسة عشرة. لقد قدموا نفس التعليمات بالضبط لكل حاسوب، لكنهم ترجموا تلك التعليمات إلى ثماني لغات مختلفة: العربية، والإنجليزية، والفرنسية، والألمانية، والهندية، والماندارين، والبرتغالية، والإسبانية. وفي المجمل، جمع الباحثون أكثر من أربعة آلاف استجابة من الآلات. ثم قاموا بتحليل طول الاختبارات، ومدى الصعوبة التي وصفت بها النماذج تلك الاختبارات، ونوع السلوكيات التي اعتبرتها النماذج تجعل الطالب والمعلم "جيدين" أو "سيئين".
كشفت النتائج عن نمط صارخ. فعندما طلب الباحثون من الذكاء الاصطناعي إنشاء اختبار بلغة الهندية أو الماندارين، قامت الحاسوب باستمرار بإنشاء واجبات أطول وأكثر صعوبة مما فعل عندما طُلب منه القيام بالمهمة ذاتها باللغة العربية أو الألمانية أو الإسبانية. على سبيل المثال، قدر أحد النماذج أن اختبار الرياضيات المكتوب بالماندارين سيستغرق من الطالب ساعتين لإكماله، بينما يستغرق الاختبار المكتوب بالإسبانية أقل من ساعة، رغم أن التعليمات كانت متطابقة. كما صنفت النماذج صعوبة اختبارات الهندية والماندارين بأنها أعلى بكثير. لم يكن هذا خللاً عشوائياً؛ إذ كانت الاختلافات متسقة للغاية لدرجة أنها ظهرت عبر جميع أنظمة الذكاء الاصطناعي الأربعة المختلفة التي اختبرها الباحثون. ووجدت الدراسة أن صعوبة وطول الاختبارات التي أنشأها الذكاء الاصطناعي تطابقت بقوة مع التصنيفات الدولية الحقيقية لأداء الطلاب. بعبارة أخرى، بدا أن الحواسيب تعتقد أن الطلاب من البلدان ذات الدرجات المرتفية يستحقون عملاً أصعب، بينما يستحق الطلاب من البلدان ذات الدرجات الأقل عملاً أسهل، بغض النظر عن الطالب الفعلي الجالس أمام الشاشة.
وبعيداً عن مجرد إنشاء الاختبارات، سأل الباحثون أيضاً الذكاء الاصطناعي عن وصف لما يبدو عليه المعلم أو الطالب "الجيد". وهنا أيضاً، غيرت اللغة المستخدمة الإجابة. فعندما كانت الصيغة بالإنجليزية أو الألمانية أو البرتغالية، مال الذكاء الاصطناعي لوصف المعلمين الجيدين بأنهم متعاطفون، وصبورون، ومركزون على بناء العلاقات مع الطلاب. ومع ذلك، عندما كانت الصيغة بالهندية أو الماندارين، وصف الذكاء الاصطناعي المعلمين الجيدين بأنهم صارمون، ومنضبطون، ومركزون على المعرفة والتسلسل الهرمي. وبالمثل، وصفت النماذج الطلاب "السيئين" بشكل مختلف اعتماداً على اللغة. ففي بعض اللغات، ركز الذكاء الاصطناعي على نقص الانضباط أو التسويف، بينما ركز في لغات أخرى على نقص الاحترام أو سوء السلوك العام. تشير هذه الاختلافات إلى أن الذكاء الاصطناعي لا يترجم الكلمات فحسب، بل يستمد من قاعدة بيانات للصور النمطية الثقافية حول كيفية عمل التعليم في مناطق مختلفة من العالم.
لقد كان الباحثون حذرين في التحقق مما إذا كانت هذه الاختلافات ناتجة ببساطة عن اختلاف المناهج الدراسية في بلدان مختلفة. فقد استشاروا مجموعة من التربويين من جميع أنحاء العالم لمعرفة ما إذا كان الذكاء الاصطناعي يتبع المعايير الوطنية فحسب. ووجدوا أن اختلافات المناهج لا يمكن أن تفسر إلا جزءاً ضئيلاً جداً من النتائج. فقد جاءت الغالبية العظمى من التباين من الذكاء الاصطناعي نفسه. وتشير الدراسة إلى أن هذه البرامج الحاسوبية قد تعلمت ربط لغات معينة بتوقعات أكاديمية محددة، لتعمل فعلياً كمرآة لعدم المساواة العالمية. فإذا استخدم طالب في بلد غير غربي مدرساً يعمل بالذكاء الاصطناعي، فقد يُعطى عبئاً دراسياً أصعب بكثير أو ملاحظات من نوع مختلف عن طالب في بلد غربي، لمجرد اللغة التي يتحدثها.
يسلط هذا البحث الضوء على مشكلة حرجة لمستقبل التعليم. فبينما تعتمد المدارس بشكل متزايد على الذكاء الاصطناعي لتصميم الدروس وتقييم الطلاب، هناك خطر من أن تعمل هذه الأدوات بهدوء على تعزيز الصور النمطية الضارة. فالذكاء الاصطناعي لا يصدر هذه الأحكام لأنه يفهم الطلاب، بل لأنه يكرر الأنماط التي وجدها في بيانات التدريب الخاصة به. وتخلص الدراسة إلى أنه قبل استخدام هذه الأدوات على نطاق واسع في الفصول الدراسية، يجب مراجعتها لضمان عدم معاملتها للطلاب بشكل غير متساوٍ بناءً على لغتهم. وبدون هذا الفحص، فإن الوعد بتعليم عالمي وشخصي قد يتحول بدلاً من ذلك إلى نظام يعمق الفجوة بين الطلاب، ويعلمهم أن إمكاناتهم تتحدد باللغة التي يتحدثونها وليس بقدراتهم الخاصة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.