Evaluating the relationship between regularity and learnability in recursive numeral systems using Reinforcement Learning

ملخص تقني مفصل لورقة: "تقييم العلاقة بين الانتظام وقابلية التعلم في الأنظمة العددية العودية باستخدام التعلم التعزيزي"

1. بيان المشكلة

تتقصى هذه الورقة الضغوط التطورية والمعرفية التي تشكل الأنظمة العددية العودية (مثل النظام العشري الإنجليزي، والماندرين). وبينما تتميز الأنظمة العددية البشرية بانتظام عالٍ، فإن الأنظمة الممكنة نظرياً يمكن أن تكون شديدة عدم الانتظام. تشير الأبحاث السابقة (على سبيل المثال، Prasertsom et al., 2026) إلى أن الأنظمة الطبيعية تُحسّن المقايضة بين حجم المعجم والتعقيد الصرفي النحوي، لكنها تفشل في تفسير الانتظام (إعادة استخدام الأشكال).

السؤال البحثي المركزي هو: هل يسهل الانتظام عملية التعلم؟
يفترض المؤلفون أن الأنظمة المنتظمة منتشرة على نطاق واسع لأنها أسهل في التعلم، لا سيما عندما تتطلب مهمة التعلم التعميم من بيانات تدريب محدودة لتمثيل مجموعة واسعة من الأعداد الصحيحة بشكل صحيح. ويعتزمون اختبار ذلك باستخدام وكلاء التعلم التعزيزي (RL) الذين يحاكون عملية التعلم.

2. المنهجية

تستخدم الدراسة التعلم التعزيزي أحادي الوكيل (Single-Agent RL) لقياس قابلية تعلم الأنظمة العددية المختلفة.

• صياغة المهمة: تمت صياغة المهمة كـ مشكلة "مقامنت متعدد السياقات" (Contextual Bandit Problem) مع مساحة عمل مستمرة.

  • المدخلات: سلسلة عددية (تتابع من المورفيمات/الوحدات الصرفية).
  • المخرجات: قيمة عددية صحيحة متوقعة (1–99).
  • بنية الوكيل: شبكة LSTM ذات طبقة واحدة. يتم تضمين المورفيمات (بحجم 5)، ومعالجتها بالتتابع، ثم تقوم الحالة الخفية النهائية بالتنبؤ بقيمة عددية $\mu \in [0, 1]$. ويُفسر هذا على أنه متوسط لتوزيع غاوسي $N(\mu, \sigma)$.
  • دالة المكافأة: دالة غاوسية متناقصة أسياً ومحدودة بناءً على المسافة بين القيمة المتوقعة والقيمة المستهدفة. تحصل التوقعات خارج نطاق 1–99 على مكافأة صفر.
  • التدريب: يتم تدريب الوكلاء عبر 30,000 حقبة (epoch) باستخدام خوارزمية REINFORCE.
  • المقياس: تُقاس قابلية التعلم من خلال المساحة تحت المنحنى (AUC) لدقة الاختبار مقابل حقب التدريب. تشير قيمة AUC الأعلى إلى سرعة أكبر في التعلم.

• مجموعات بيانات الأنظمة: تقيم الدراسة أربع فئات من الأنظمة:

  1. الأنظمة البشرية: 128 نظاماً عددياً عودياً موثقاً.
  2. الأنظمة المثلى وفق نموذج D&S: أنظمة مُولدة اصطناعياً ومُحسّنة للمقايضة بين حجم المعجم والتعقيد (Denić & Szymanik, 2024).
  3. الأنظمة المثلى وفق نموذج Y&R: أنظمة اصطناعية مُحسّنة لنفس المقايضة ولكنها مقيدة بالتشابه مع الأنظمة البشرية (Yang & Regier, 2025).
  4. خط الأساس العشوائي: 300 نظام غير موثق باستخدام رموز بشرية.

• قياس الانتظام: يتم قياس عدم الانتظام من خلال حجم الإنسان الآلي الحتمي المحدود (DFA) الأدنى المطلوب لتوليد قواعد النظام. يحسب المقياس عدد البتات اللازمة لتشفير جدول الانتقال الخاص بالـ DFA، والحالة الابتدائية، وحالات القبول.

• الظروف التجريبية:

  • التجربة 1: يتبع كل من توزيع التدريب ($p(n)$) وتوزيع الاختبار ($q(n)$) قانون القوة ($n^{-2}$)، مما يعكس التكرار الاتصالي (انحراف قوي نحو الأعداد الصغيرة).
  • التجربة 2: يتبع التدريب قانون القوة، بينما يستخدم الاختبار توزيعاً منتظماً ($q(n) \propto 1/99$) لاختبار التعميم على جميع الأعداد الصحيحة.
  • التجربة 3: تركز على "الأحياء المحلية" (Local Neighborhoods) للأنظمة البشرية (يتم تغيير ترتيب المورفيمات الموجودة فقط) لعزل تأثير الانتظام مع الحفاظ على حجم المعجم ومتوسط الطول ثابتين.

3. النتائج الرئيسية

• التجربة 1 (تدريب واختبار وفق قانون القوة):

  • النتيجة: لا يوجد ارتباط معنوي بين الانتظام وقابلية التعلم ($\beta = -0.020$).
  • التفسير: عندما يتطابق توزيع الاختبار مع توزيع التدريب المنحرف (التركيز على الأعداد الصغيرة)، يمكن للوكلاء تحقيق دقة عالية دون الحاجة إلى التعميم على الأعداد الكبيرة. وبالتالي، لا يتم استغلال المزايا الهيكلية للانتظام.

• التجربة 2 (تدريب وفق قانون القوة، واختبار منتظم):

  • النتيجة: وجود ارتباط سلبي قوي بين عدم الانتظام وقابلية التعلم ($\beta = -0.828$). الأنظمة المنتظمة للغاية والمشابهة للأنظمة البشرية أسهل بكante بكثير في التعلم.
  • التفسير: عندما يتعين على الوكلاء التعميم على الأعداد الكبيرة والنادرة (الذيل الطويل)، تسمح الأنظمة المنتظمة للوكلاء بإعادة استخدام الأجزاء الفرعية المتعلمة (المورفيمات/القواعد) بكفاءة. أما الأنظمة غير المنتظمة فلا تقدم هذه الأنماط القابلة لإعادة الاستخدام.
  • الانتظام المحلي: أدى إدخال مقياس لـ "الانتظام المحلي" (الانتظام داخل نطاقات متتالية، مثل الثلاثينات، والأربعينات) إلى تحسين الارتباط وتفسير الحالات الشاذة مثل اللغة الفرنسية، التي تمتلك قواعد أساس مختلطة ولكن نطاقات محلية متسقة.

• التجربة 3 (الأحياء المحلية):

  • النتيجة: ضمن عائلات أنظمة محددة ذات حجم معجم وطول ثابتين، أظهرت 21 من أصل 30 منطقة (neighborhood) ارتباطاً سلبياً بين عدم الانتظام وقابلية التعلم.
  • لمحة دقيقة: في الأنظمة شديدة عدم الانتظام (الخطوط الأساسية العشوائية)، لم يكن للانتظام تأثير يذكر على قابلية التعلم. بدلاً من ذلك، أصبح التعقيد الصرفي النحوي (الطول) هو العامل المهيمن؛ حيث كانت الأشكال الأطول أصعب في الحفظ بغض النظر عن الانتظام.

4. المساهمات الرئيسية

1. التعلم التعزيزي كوسيط لقابلية التعلم: تم إثبات أن وكلاء التعلم التعزيزي يمكنهم نمذجة قابلية تعلم الأنظمة اللغوية بفعالية، وخاصة المقايضة بين الانتظام والتعميم.
2. دور التعميم: وُجد أن العلاقة بين الانتظام وقابلية التعلم هي علاقة شرطية. يوفر الانتظام ميزة في قابلية التعلم فقط عندما تتطلب مهمة التعلم التعميم لما وراء توزيع التدريب المباشر (أي من الأعداد الصغيرة المتكررة إلى الأعداد الكبيرة النادرة).
3. تحسين مقاييس التعقيد: أظهرت الدراسة أن "عدم الانتظام" ليس متنبئاً أحادياً لقابلية التعلم. ففي الأنظمة شديدة عدم الانتظام، يهيمن الطول/التعقيد، بينما في الأنظمة المنتظمة، يهيمن الانتظام الهيكلي.
4. الانتظام المحلي مقابل العالمي: تم تقديم مفهوم الانتظام المحلي (الاتساق داخل النطاقات المتتالية) كعامل حاسم لقابلية التعلم، مما يفسر لماذا يمكن للأنظمة ذات القواعد المختلطة (مثل الفرنسية) أن تظل قابلة للتعلم.

5. الأهمية والآثار المترتبة

• تطور اللغة: تدعم النتائج فرضية أن انتشار الأنظمة العددية المنتظمة عبر اللغات مدفوع بـ ضغوط قابلية التعلم، وتحديداً الحاجة إلى نقل المعرفة بكفاءة عبر الأجيال لتمثيل جميع الأعداد الصحيحة، وليس فقط الأعداد الأكثر استخداماً.
• النمذجة المعرفية: تشير الدراسة إلى أن تعلم البشر للأعداد يعتمد على آليات تعميم مماثلة. ويُعزى الاختلاف مع التجارب البشرية السابقة (Holt & Barner, 2025) إلى نقص الضغط للتعميم على الأعداد الكبيرة في تلك التصاميم التجريبية.
• الاتجاهات المستقبلية: يقترح المؤلفون أن روتين العد (التعرض المتتالي) يزيد اصطناعياً من تكرار الأعداد الكبيرة في التعلم البشري، مما يسهل استخراج القواعد العامة. كما يقترحون أن قابلية التعلم هي مساحة متعددة الأبعاد حيث تهيمن عوامل تعقيد مختلفة (الطول مقابل الانتظام) في مناطق مختلفة من مساحة الفرضية.

باختصار، توفر هذه الورقة دليلاً حوسبياً على أن الانتظام هو سمة تكيفية للأنظمة العددية، حيث يتم اختياره لأنه يتيح تعميماً قوياً من بيانات محدودة إلى مجموعة عالمية من الأعداد الصحيحة.