Temporal Smoothness Doubly Robust Learning for Debiased Knowledge Tracing

ملخص تقني: التعلم المتين مزدوجاً بالنعومة الزمنية لتتبع المعرفة غير المنحاز

بيان المشكلة
يهدف تتبع المعرفة (Knowledge Tracing - KT) إلى نمذجة الحالة المعرفية الديناميكية للطالب للتنبؤ بأدائه المستقبلي. ومع ذلك، تعاني نماذج تتبع المعرفة الحالية القائمة على التعلم العميق غالباً من انحرافات منهجية عن حالات المعرفة الحقيقية. وتحدد الورقة البحثية السبب الجذري في تحيز الاختيار (Selection Bias) الناجم عن طبيعة البيانات التعليمية التي تتبع نمط "البيانات المفقودة ليس بشكل عشوائي" (Missing Not At Random - MNAR). ففي السيناريوهات الواقعية، يتخطى الطلاب استراتيجياً الأسئلة التي يدركون أنها صعبة جداً أو سهلة جداً، كما تقوم أنظمة التوصية بتصفية المحتوى بناءً على القدرة المقدرة. يؤدي هذا إلى سجلات مرصودة منحازة، مما يجعل تقليل المخاطر التجريبية القياسي يخلط بين ديناميكيات المعرفة الحقيقية وأنماط التفاعل (مثل سلوك التخطي). وبناءً على ذلك، تتعلم النماذجة تقديرات إتقان منحازة، مما يؤدي بدوره إلى توصيات منحازة في الأنظمة التكيفية، مما يخلق حلقة مفرغة تزيد من حدة التحيز.

المنهجية
يقترح المؤلفون إطار عمل "النعومة الزمنية المتينة مزدوجاً" (Temporal Smoothness Doubly Robust - TSDR)، والذي يدمج مبادئ الاستدلال السببي مع قيود التعلم المتسلسل.

1. صياغة المتانة المزدوجة (Doubly Robust - DR):
جوهر هذا النهج هو مُقدّر المتانة المزدوجة الذي يجمع بين نموذجين لتصحيح تحيز الاختيار:

• نموذج الميل (Propensity Model): يقدر احتمالية رصد التفاعل (احتمالية الاختيار).
• نموذج استدلال الخطأ (Error Imputation Model): يقدر خطأ التنبؤ للتفاعلات غير المرصودة (المضادة للواقع).
  يضمن مُقدّر المتانة المزدوجة نظرياً أن يكون غير منحاز إذا كان إما نموذج الميل أو نموذج الاستدلال دقيقاً. يتم بناء دالة الخسارة كجموع الخطأ المستدل عليه مضافاً إليه حد تصحيح مرجح بمعكوس الميل.

2. التحليل النظري والتحكم في التباين:
استنتج المؤلفون حداً للتعميم لمُقدّر المتانة المزدوجة في سياق تتبع المعرفة المتسلسل. وقد حددوا أنه بينما يتم التحكم في حد التحيز من خلال حاصل ضرب أخطاء النماذج (مما يضمن المتانة المزدوجة)، فإن حد التباين يهيمن عليه الخطأ التربيعي لنموذج الاستدلال. في الإعدادات المتسلسلة، يؤدي الاستدلال غير الدقيق إلى انحرافات عشوائية تتراكم بمرور الوقت، مما يسبب عدم استقرار التدريب وتضخم الخطأ.

3. قيد النعومة الزمنية (Temporal Smoothness Constraint):
للتخفيف من التباين واستقرار التدريب، قدم المؤلفون منظم نعومة زمنية. وبالاستناد إلى "قانون الممارسة للقوة" (Power Law of Practice)، الذي يشير إلى أن اكتساب المهارة يتبع مساراً سلساً بدلاً من التغيرات المفاجئة، يقوم هذا القيد بمعاقبة الانحرافات الكبيرة في الحالات الكامنة لنموذج الاستدلال بين الخطوات الزمنية المتتالية. وهذا يعمل فعلياً على تضييق حد التعميم من خلال تقليل تعقيد "راديماخر" (Rademacher complexity) للمسار الكامن.

4. نموذج التعلم المشترك (Joint Learning Paradigm):
يستخدم إطار العمل استراتيجية تعلم مشترك حيث يتم تحسين متنبئ تتبع المعرفة (KT predictor)، ونموذج الميل، ونموذج الاستدلال بشكل مشترك عبر استراتيجية تبادلية. وهذا يسمح للنماذج بتنظيم بعضها البعض متبادلاً، مما يضمن بقاء نموذج الاستدلال دقيقاً بما يكفي لدعم التقدير غير المنحاز لهيكل تتبع المعرفة الأساسي.

المساهمات الرئيسية

• المنظور السببي لتحيز تتبع المعرفة: تعيد الورقة صياغة تتبع المعرفة كمسألة تقدير مضاد للواقع، مع نمذجة عملية توليد البيانات صراحةً لمعالجة تحيز الاختيار الناتج عن التوصيات غير العشوائية للتمارين واختيارات الطلاب.
• إطار عمل TSDR: إطار عمل مستقل عن النموذج يدمج تقدير المتانة المزدوجة مع النعومة الزمنية. وهو مصمم ليكون "جاهزاً للتركيب والاستخدام" (plug-and-play)، وقادراً على تعزيز مختلف نماذج تتبع المعرفة الرائدة (مثل DKT وAKT وSparseKT).
• التبرير النظري: قدم المؤلفون حداً للتعميم يصف صراحةً تأثير تباين المُقدّر ويحدد النعومة الزمنية كعامل حاسم للتحكم في الانحرافات العشوائية في التعلم المتسلسل.
• التحقق التجريبي المكثف: تم تقييم إطار العمل على 9 مجموعات بيانات معيارية من العالم الحقيقي ومجموعات بيانات اصطناعية ذات مستويات MNAR قابلة للتحكم.

النتائج التجريبية

• تعزيز الأداء: حسن TSDR باستمرار أداء (مقاساً بـ AUC وACC وRMSE) لستة نماذج أساسية مختلفة من نماذج تتبع المعرفة الرائدة عبر تسع مجموعات بيانات متنوعة. لوحظت تحسينات ملحوية في مجموعات البيانات ذات التشتت العالي أو الاستقلالية القوية للطلاب (على سبيل المثال، زيادة بنسبة 5.06% في AUC لنموذج AKT على مجموعة بيانات Prob).
• المتانة تجاه التحيز: في التجارب الاصطناعية حيث تم تغيير درجة تحيز MNAR (المشار إليها بـ $\gamma$) من 0 إلى 0.999، حافظت النماذج المزودة بـ TSDR على أداء متفوق مقارنة بالنماذج الأساسية، لا سيما في تقليل الخطأ (RMSE) في ظل ظروف التحيز العالي.
• الاستقرار والحساسية: أظهرت الطريقة متانة تجاه المعامل الفائق الذي يتحكم في قيد النعومة ($\lambda$)، حيث حققت أداءً مستقراً ضمن النطاق $[0.3, 1.0]$.
• دراسات الاستئصال (Ablation Studies): أكدت التجارب أن الجمع بين التعلم المشترك والنعومة الزمنية المطبقة تحديداً على فرع الاستدلال يحقق أفضل النتائج، متفوقاً على المتغيرات التي تطبق النعومة مباشرة على هيكل تتبع المعرفة أو تلك التي تغفل التعلم المشترك.

الأهمية والادعاءات
تدعي الورقة أن TSDR يقدم نموذجاً قائماً على المبادئ والأسس السببية للتعلم من البيانات التعليمية الرصدية. ومن خلال معالجة تحيز الاختيار المنهجي المتأصل في بيانات MNAR، يُمكّن إطار العمل النماذج من تعلم حالات معرفية أكثر موثوقية بدلاً من مجرد ملاءمة السلوكيات المرصودة. ويؤكد المؤلفون أنه بينما يضيف التحسين المشترك عبئاً إضافياً على التدريب، فإن هذه التكلفة تقتصر على مرحلة التدريب "أوفلاين" ولا تؤثر على كفاءة الاستدلال "أونلاين". في النهاية، يُقدم TSDR كخطوة حيوية نحو أنظمة تعليم ذكية أكثر موثوقية وعدلاً، مما يثبت أن تصحيح التحيز المنهجي أمر ضروري لقدرات التعميم لنماذج تتبع المعرفة.