ملخص تقني: الاستدلال العلاقاتي والتحيز الاستقرائي في نماذج المحولات (Transformers) والنماذج اللغوية الكبيرة (LLMs)

بيان المشكلة

أظهرت النماذج القائمة على المحولات (Transformer-based models) قدرات استدلال مذهلة، ومع ذلك، لا تزال الآليات الكامنة وراء الاستدلال العلاقاتي (Relational Reasoning) — وتحديداً القدرة على استنتاج العلاقات بين العناصر المرتبطة بشكل غير مباشر — غير مفهومة بشكل جيد. توجد فجوة حرجة في التمييز بين كيفية أداء النماذج لـ الاستدلال المتعدي (Transitive Inference) (على سبيل المثال: إذا كان $A > B$ و $B > C$، فإن $A > C$) تحت نظامين تعليميين متميزين:

1. التعلم داخل الأوزان (IWL): حيث تُخزن المعلومات في معاملات النموذج (parameters) أثناء التدريب.
2. التعلم داخل السياق (ICL): حيث تُقدم المعلومات ديناميكياً ضمن تسلسل المدخلات وقت الاستدلال.

بينما تمت دراسة الـ ICL في مهام التصنيف والانحدار، إلا أن سلوكه في مهام الاستدلال العلاقاتي لا يزال غير واضح. ومن الصعب تحديد ما إذا كانت النماذج اللغوية الكبيرة (LLMs) تعتمد على المعرفة المسبقة المشفرة في الأوزان أم أنها تقوم باستدلال حقيقي داخل السياق، ويرجع ذلك أساساً إلى محدودية التحكم في بيانات التدريب في النماذج سابقة التدريب. يبحث هذا البحث في كيفية اختلاف أوضاع التعلم هذه في تحيزاتها الاستقرائية وأنماط تعميمها باستخدام الاستدلال المتعدي كمهمة نموذجية.

المنهجية

استخدم المؤلفون نهجاً متعدد الأوجه يجمع بين التجارب المنضبطة على نماذج محولات صغيرة تم تدريبها من الصفر، وتجارب استقصائية على نماذج لغوية كبيرة (LLMs).

1. إعداد مهمة الاستدلال المتعدي

تتضمن المهمة الجوهرية تسلسلاً هرمياً من العناصر (مثلاً: $A > B > C > \dots > G$).

• المدخلات: أزواج من العناصر (tokens) مع تسميات تشير إلى ترتيبها النسبي (+1 إذا كان الأول > الثاني، -1 خلاف ذلك).
• بيانات التدريب: يتم تدريب النماذج حصرياً على الأزواج المتجاورة (المسافة الرمزية = 1، مثل $A>B$، $B>C$).
• التقييم: يتم اختبار النماذج على الأزوات غير المتجاورة (المسافة الرمزية > 1، مثل $A>C$) لقياس التعميم المتعدي.
• البنية (Architecture): نموذج محول مكون من طبقتين يعتمد على آلية الانتباه فقط (مع استبعاد طبقات MLP لضمان قابلية التفسير)، ويستخدم تضمينات صور Omniglot من ResNet18 كميزات مدخلة.

2. الظروف التجريبية

تقارن الدراسة بين ثلاثة أنظمة تدريب محددة:

• IWL (هرم ثابت): الهيكل الهرمي ثابت عبر جميع تسلسلات التدريب. الأمثلة السياقية عشوائية وغير ذات صلة، مما يجبر النموذج على تعلم هيكل الترتيب داخل أوزانه.
• Standard ICL (هرم ديناميكي): يتم تعيين هرم عشوائي جديد لكل تسلسل تدريبي. يحتوي السياق على جميع الأزواج المتجاورة لهذا التسلسل المحدد. يجب على النموذج استنتاج الترتيب من السياق، مما يمنع تخزين الهياكل الهرمية المحددة في الأوزان.
• ICL مع التدريب المسبق على الانحدار الخطي: يتم تدريب النماذج أولاً على مهمة انحدار خطي داخل السياق (التنبؤ بـ $y = Wx$) حيث تتغير الأوزان $W$ لكل تسلسل. هذا يجبر النموذج على تعلم تمثيل خطي كامن عبر الـ ICL قبل تقييمه في مهمة الاستدلال المتعدي.

3. التحليل الآلي

لفهم كيفية حل النماذج للمهمة، استخدم المؤلفون:

• تحليل المكونات الرئيسية (PCA): لتصور هندسة التمثيلات في الطبقات الخفية.
• تحليل أنماط الانتباه (Attention Pattern Analysis): لتحديد آليات الدوائر المحددة، مثل "رؤوس الاستقراء" (Induction Heads) (الانتباه للرمز السابق + رؤوس الاستقراء).
• دراسات الاستئصال (Ablation Studies): إزالة رؤوس الانتباه بشكل منهجي لاختبار الأهمية السببية.

4. استقصاء النماذج اللغوية الكبيرة (LLM Probing)

لاختبار القدرة على التعميم، استخدم المؤلفون مجموعة بيانات ReCogLab مع نماذج لغوية كبيرة سابقة التدريب (عائلات Gemini و Gemma). وقد طبقوا نموذج التطابق (Congruency Paradigm):

• متوافق (Congruent): العلاقات تتماشى مع المعرفة الواقعية (مثل: الحوت > الدلفين).
• غير متوافق (Incongruent): العلاقات تتعارض مع المعرفة الواقعية (مثل: السمكة الذهبية > الدلفين).
• السقالات الهندسية (Geometric Scaffolding): تم تعزيز المطالبات (prompts) بتعليمات لتخيل العناصر على خط أعداد خطي (يدعم التعدي) مقابل دائرة (ينتهك التعدي بسبب الالتفاف/العودة للبداية).

النتائج الرئيسية

1. السلوكيات المتباينة في IWL مقابل Standard ICL

• نماذج IWL: تظهر بشكل طبيعي استدلالاً متعدياً رغم تدريبها فقط على الأزواج المتجاورة. وهي تظهر تأثيرات سلوكية تشبه البشر:
  • تأثير المسافة الرمزية: تزدادة الدقة مع زيادة المسافة بين العناصر في الهرم.
  • تأثير العنصر النهائي: أداء أعلى على العناصر الموجودة في أطراف الهرم.
  • التمثيلات: يكشف تحليل PCA عن تضمين خطي مستمر، حيث يتم ترتيب العناصر حسب المسافة الرمزية الموقعة.
• نماذج Standard ICL: تفشل في التعميم المتعدي عندما يتم تدريبها فقط على الأزواج المتجاورة.
  • تحقق دقة عالية في الأزواج المتجاورة (الحفظ) والعناصر النهائية، لكنها تؤدي بمستوى الصدفة في الأزواج الداخلية غير المتجاورة.
  • الآلية: تعتمد على دائرة استقراء (استراتيجية المطابقة والنسخ) بدلاً من تعلم الهياكل العلاقاتية. يظهر PCA عدم وجود تمثيلات قائمة على المسافة؛ حيث يقوم النموذج ببساطة بنسخ التسمية من السياق إذا كان الزوج موجوداً.
  • ملاحظة: إذا تم تدريب نماذج ICL صراحةً على الأزوات غير المتجاورة، فيمكنها تعلم التعدي، لكنها لا تظهر تأثير المسافة الرمزية الذي تظهره نماذج IWL.

2. دور التدريب المسبق الخطي

• التدريب المسبق لنماذج ICL على الانحدار الخطي داخل السياق يغير سلوكها بشكل جذري.
• هذه النماذج تظهر بالفعل استدلالاً متعدياً، وتأثيرات المسافة الرمزية، وتأثيرات العناصر النهائية في مهمة الاستدلال المتعدي اللاحقة.
• الآلية: تختفي دائرة الاستقراء. بدلاً من ذلك، يطور النموذج تمثيلات موزعة تلتقط العلاقات الهرمية، على غرار نماذج IWL. مهمة الانحدار الخطي تستحث بنية تمثيلية إضافية (رتب عددية/scalar ranks) حيث ينشأ التعدي رياضياً ($rank(A) > rank(B) \land rank(B) > rank(C) \implies rank(A) > rank(C)$).

3. النتائج في النماذج اللغوية الكبيرة (LLMs)

• التطابق: تؤدي النماذج اللغوية الكبيرة أداءً أفضل في اختبارات الاستدلال العلاقاتي المتوافقة (التي تستفيد من المعرفة المخزنة الشبيهة بـ IWL) مقارنة بالمتناقضة (التي تتطلب ICL خالصاً).
• السقالات الهندسية: عند استخدام مطالبات للمهام غير المتوافقة، فإن مطالبات الهندسة الخطية ("تخيل خط أعداد") تحسن الاستدلال المتعدي بشكل كبير مقارنة بـ المطالبات الدائرية ("تخيل دائرة").
• يظهر هذا التأثير بوضوح في الظروف غير المتوافقة ويتناسب طردياً مع حجم النموذج (في نماذج Gemma)، مما يشير إلى أن النماذج اللغوية الكبيرة تمتلك تمثيلات خطية كامنة يمكن تنشيطها عبر الإطار الهندسي المناسب.

المساهمات الرئيسية

1. توصيف التحيزات الاستقرائية: يوضح البحث أن IWL و ICL يؤديان إلى استراتيجيات حوسبية مختلفة نوعياً. الـ IWL يستحث بشكل طبيعي تحيزاً خطياً متعدياً، بينما يميل الـ ICL القياسي إلى استراتيجية "المطابقة والنسخ" ما لم تفرض بيانات التدريب أو التدريب المسبق ضرورة التعميم العلاقاتي.
2. التفسير الآلي: حدد المؤلفون أن غياب التعميم المتعدي في الـ ICL القياسي يعود إلى تكوين دوائر الاستقراء (مطابقة الأنماط) بدلاً من تعلم الهياكل العلاقاتية. وعلى العكس من ذلك، فإن التدريب المسبق بالانحدار الخطي يثبط هذه الدوائر لصالح التمثيلات الخطية الموزعة.
3. الربط بين النماذج الصغيرة والنماذج اللغوية الكبيرة: من خلال استخدام المطالبات الهندسية، تظهر الدراسة أن نتائج التجارب المنضبطة والصغيرة المقياس تعمم على النماذج اللغوية الكبيرة الحديثة. وهي تقدم دليلاً على أن قدرة النماذج اللغوية الكبيرة على إجراء الاستدلال المتعدي تعتمد على الوصول إلى تمثيلات مهيكلة بشكل مناسب، سواء كانت مخزنة في الأوزان أو يتم تنشيطها عبر السياق.

الأهمية والادعاءات

يزعم البحث أن القدرة على الاستدلال المتعدي في المحولات ليست قدرة ثابتة، بل تتحدد بشكل حاسم من خلال:

1. نظام التدريب: ما إذا كانت المعلومات تُتعلم داخل الأوزان أم داخل السياق.
2. البنية الهندسية للتمثيلات: ما إذا كانت التمثيلات المستحثة خطية (تدعم التعدي) أم تعتمد على مطابقة الأنماط.

يخلص المؤلفون إلى أنه بينما يمكن للمحولات إجراء الاستدلال المتعدي، فإن الـ ICL القياسي على الأزواج المتجاورة لا ينتج هذه القدرة تلقائياً. بدلاً من ذلك، يتطلب الأمر إما تدريباً مسبقاً محدداً يستحث تمثيلات خطية (مثل الانحدار الخطي) أو تنشيط الهياكل الخطية الكامنة من خلال المطالبات الهندسية في النماذج اللغوية الكبيرة. يسلط هذا العمل الضوء على أن "الاستدلال" في النماذج اللغوية الكبيرة قد يكون غالباً انعكاساً للبنية الهندسية للتمثيلات التي تُجبر على استخدامها أو الوصول إليها، بدلاً من كونه آلية استنتاج منطقي متأصلة.