📊 statistics

Learning to Extrapolate to New Tasks: A Relational Approach to Task Extrapolation

تقدم الورقة البحثية "مستنبط المهام العلاقاتي" (RTE)، وهو خوارزمية تتيح التعميم المنهجي للمهام غير المرئية من خلال تعلم التحويلات العلاقاتية بين مهام مرجعية معروفة ومهام مستهدفة، مما يؤدي إلى تفوقه على الأساليب الحالية في سيناريوهات التنبؤ بالدوال والمتتاليات التي تتضمن معاملات خارج النطاق، أو عمقاً متزايداً، أو تركيبات جديدة.

المؤلفون الأصليون: Adam Ousherovitch, Yixin Wang

نُشر 2026-05-29

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Adam Ousherovitch, Yixin Wang

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تعلم روبوتاً كيفية إطلاق قذيفة من مدفع على أهداف معينة.

المشكلة: فخ "المنطقة الآمنة"
حالياً، معظم نماذج الذكاء الاصطناي تشبه الطلاب الذين يدرسون للاختبار عبر حفظ أسئلة محددة فقط. إذا سألتهم سؤالاً رأوه من قبل، أو سؤالاً مشابهاً جداً لما درسوه، سيحصلون على درجة امتياز. ولكن إذا سألتهم سؤالاً مختلفاً قليلاً — مثل طلب إطلاق قذيفة على هدف يبعد مسافة أبعد بنسبة 10% عما تدربوا عليه — فإنهم غالباً ما يفشلون تماماً.

حتى الذكاء الاصطناعي الحديث والأكثر ذكاءً (مثل تلك التي تكتب الأكواد البرمجية أو تدردش معك) تعاني من هذه المشكلة. فهي بارعة في "الاستكمال الداخلي" (Interpolation) (أي ملء الفجوات بين ما تعرفه بالفعل)، لكنها سيئة جداً في "الاستكمال الخارجي" (Extrapolation) (أي التخمين خارج حدود ما تعرفه). فهي تعتمد على الأنماط المحفوظة بدلاً من فهم القواعد الأساسية لكيفية عمل العالم.

الحل: "مستنبط المهام العلاقاتي" (RTE)
يقترح مؤلفو هذه الورقة البحثية طريقة جديدة لتعليم الذكاء الاصطناعي، تسمى RTE. بدلاً من محاولة حفظ كل هدف ممكن، يعلم الـ RTE الذكاء الاصطناعي كيف تتغير المهام من واحدة إلى أخرى.

فكر في الأمر كالتالي:

الطريقة القديمة (الاستقرائية): يحاول الذكاء الاصطناعي حفظ المسار الدقيق لقذيفة مدفع تُطلق بسرعة 30 ميلاً في الساعة، و40 ميلاً، و50 ميلاً. وعندما يُطلب منه الإطلاق بسرعة 65 ميلاً في الساعة، يصاب بالذعر لأنه لا يملك بيانات لهذه السرعة.
الطريقة الجديدة (RTE/العلاقاتية): يتعلم الذكاء الاصطناعي العلاقة بين السرعات. يدرك قائلاً: "إذا زدت السرعة بمقدار 10 أميال في الساعة، فإن القذيفة ستذهب مسافة أبعد بنسبة 20%".
- عند وقت الاختبار، وعندما يُطلب منه إصابة هدف بسرعة 65 ميلاً في الساعة، لا يخمن الذكاء الاصطناعي من الصفر. بل يقول: "حسناً، أنا أعرف كيف أصيب هدفاً بسرعة 60 ميلاً في الساعة (هذا هو المرتكز - Anchor). وأعرف أيضاً التحول (القاعدة) الذي يحول رمية الـ 60 ميلاً إلى رمية 65 ميلاً. سأطبق تلك القاعدة على معرفتي بطلقة الـ 60 ميلاً لحل مشكلة الـ 65 ميلاً".

كيف يعمل: استراتيجية "المرتكز والإزاحة"
تقسم الورقة البحثية هذا الأمر إلى ثلاثة سيناريوهات رئيسية، باستخدام تشبيهات بسيطة:

استكمال المعاملات (تغيير الإعدادات):
- تشبيه: تخيل أنك تعرف كيفية خبز كعكة باستخدام كوب واحد من السكر. تريد الآن خبز كعكة باستخدام 1.5 كوب.
- نهج RTE: بدلاً من إعادة تعلم الخبز من الصفر، يأخذ الذكاء الاصطناعي "كعكة الكوب الواحد" (المرتكز) ويطبق قاعدة "زائد 0.5 كوب" (التحول) للتنبؤ بالنتيجة الجديدة.
استكمال الطول (جعل الشيء أطول):
- تشبيه: تعرف كيف تكتب جملة مكونة من 5 كلمات. مطلوب منك كتابة جملة مكونة من 9 كلمات.
- نهج RTE: يأخذ الذكاء الاصطناعي جملة الـ 5 كلمات (المرتكز) ويتعلم قاعدة "أضف 4 كلمات أخرى" (التحول) لتمديدها، بدلاً من محاولة حفظ كل جملة مكونة من 9 كلمات بشكل منفصل.
الاستكمال التركيبي (الخلط والمطابقة):
- تشبيه: أنت تعرف كيفية تقشير التفاح وكيفية تقطيع الموز. لم يسبق لك أن رأيت شخصاً يقشر تفاحة أو يقطع موزة.
- نهج RTE: يدرك الذكاء الاصطناعي أن المهمة هي مجرد "تقشير" + "تقطيع". يأخذ مهارة "التقشير" (المرتكز) ويطبق قاعدة "التقطيع" (التحول) على التفاحة، رغم أنه لم يقم بهذا المزيج المحدد من قبل.

السر الكامن: "Task2Vec" (الخريطة)
لجعل هذا الأمر يعمل، يحتاج الذكاء الاصطناعي إلى خريطة للعثور على "المرتكز" المناسب للمهمة. تستخدم الورقة أداة تسمى Task2Vec.

تخيل أن كل مهمة ممكنة (كل نوع من الكعك، كل طول جملة، كل سلسلة من الحروف) هي مدينة على خريطة.
المهام المتشابهة تكون قريبة من بعضها؛ والمهام المختلفة تكون بعيدة عن بعضها.
عندما يواجه الذكاء الاصطناعي مهمة جديدة وصعبة، فإنه يبحث في خريطته، ويجد أقرب مدينة زارها بالفعل (المرتكز)، ثم يحسب الاتجاه والمسافة نحو المدينة الجديدة (التحول).

ما وجدوه
اختبر الباحثون هذا على:

الدوال الرياضية: التنبؤ بالمنحنيات خارج نطاق الأرقام التي تدرب عليها الذكاء الاصطناعي.
كثيرات الحدود: التنبؤ بمعادلات ذات درجات عالية باستخدام معادلات ذات درجات أقل.
نماذج اللغة الكبيرة (LLMs): جعل نماذج اللغة الكبيرة أفضل في حل الألغاز المنطقية أو توليد الأكواد البرمجية التي تكون أطول أو أكثر تعقيداً مما رأته أثناء التدريب.

النتائج
في كل اختبار، تفوق منهج RTE بشكل كبير على نماذج الذكاء الاصطناعي القياسية.

النماذج القياسية اصطدمت بـ "جدار" وفشلت عندما كانت المهمة مختلفة جداً عن تدريبها.
نجحت نماذج RTE في تجاوز الجدار باستخدام خدعة "المرتكز + التحول".

القيود الهامة (ما تقوله الورقة)
توضح الورقة بحذر أن RTE ليس سحراً. فهو يعمل فقط إذا:

كانت المهمة الجديدة مرتبطة بالمهام القديمة (لا يمكنك أن تطلب من الذكاء الاصطناعي حل مشكلة باستخدام فيزياء غريبة تماماً لا وجود لها في بيانات تدريبه).
كان بإمكان الذكاء الاصطناعي العثور على مهمة "مرتكز" جيدة للبدء منها.

باختصار
تقدم هذه الورقة طريقة لإيقاف الذكاء الاصطناعي عن مجرد حفظ الماضي، والبدء في مساعدته على فهم قواعد التغيير. من خلال تعليم الذكاء الاصطناعي أن يقول: "أنا أعرف كيف أفعل (س)، وأعرف كيف يتحول (س) إلى (ص)"، يمكن للنظام حل مشكلات لم يسبق له رؤيتها من قبل، طالما أنها مبنية من نفس اللبنات الأساسية التي يعرفها بالفعل.

ملخص تقني: التعلم للاستقراء إلى مهام جديدة: نهج علائقي لاستقراء المهام

1. بيان المشكلة

تتفوق أنظمة التعلم الحديثة، بما في ذلك النماذج التأسيسية واسعة النطاق، في عملية الاستيفاء (Interpolation) ضمن نطاق توزيع التدريب الخاص بها، لكنها تعاني في التعميم على المهام التي تقع خارج هذا النطاق (خارج الدعم أو OOS). يستمر هذا الفشل حتى في الإعدادات الهيكلية، مثل التنبؤ بالدوال ذات المعاملات التي تتجاوز نطاق التدريب، أو زيادة العمق التركيبي، أو إعادة دمج العناصر الأولية المعروفة بطرق غير مرئية. غالبًا ما تعتمد النماذج الحالية على استدلالات مرتبطة بتوزيع التدريب بدلاً من استيعاب الآليات التوليدية للمجال، مما يؤدي إلى التشبع عند حدود خبراتها.

تعرّف الورقة استقراء المهام (Task Extrapolation) بأنه التعميم على المهام المستهدفة حيث تكون البنية المحددة للمهمة نفسها خارج نطاق دعم التدريب. وعلى عكس التعميم خارج التوزيع (OOD) القياسي أو التعميم على الطول (Length Generalization) حيث تكون المدخلات الاختبارية عبارة عن اتحادات أو امتدادات لمدخلات التدريب، يتطلب استقراء المهام التفكير في تحويل بنية المهمة نفسها. ويفترض المؤلفون أنه بينما يعد الاستقراء إلى مهام عشوائية غير مرئية مسأًلة غير محددة جيدًا، فإن العديد من مهام العالم الحقيقي ترتبط ببعضها بشكل منهجي من خلال هياكل مشتركة وغير معروفة.

2. المنهجية: مستقر المهام العلائقي (RTE)

المقترح الجوهري هو مستقر المهام العلائقي (Relational Task Extrapolator - RTE)، وهو خوارزمية تعيد صياغة الاستقراء كمسألة انتقال (Transductive Problem). الملاحظة المركزية هي أن الاستقراء هو عملية علائقية بطبيعتها: النجاح يعتمد على تعلم كيفية تحول المهام من واحدة إلى أخرى.

2.1. الآلية الجوهرية

يقوم RTE بتفكيك مهمة مستهدفة غير مرئية $f_{\theta^*}$ إلى مكونين تم ملاحظتهما أثناء التدريب:

مهمة مرجعية ( $f_{anc}$ ): مهمة مألوفة ضمن توزيع التدريب.
تحويل ( $\phi$ ): واصف نسبي يربط المهمة المرجعية بالمهمة المستهدفة (مثل إزاحة في المعاملات، أو خطوة امتداد تكراري، أو عامل تركيب).

بدلاً من تعلم رسم مباشر من معاملات المهمة إلى المخرجات، يتعلم RTE عاملًا علائقيًا $\Psi$ يربط زوج (المرجع-التحويل) بالتنبؤات للمهمة المستهدفة:
$\hat{y} = \Psi(x, f_{anc}, \phi)$
هذا يحول مشكلة الاستقراء الصعبة خارج الدعم (OOS) إلى مشكلة أكثر سهولة وهي "خارج التركيب" (Out-of-Combination - OOC). فكلا المرجع والتحويل يتم ملاحظتهما بشكل فردي في بيانات التدريب، حتى لو كان تركيبهما المحدد جديدًا.

2.2. ثلاثة أنظمة للاستقراء

يقوم المؤلفون بتطبيق RTE عبر ثلاثة أنظمة معيارية:

استقراء المعاملات (مستمر): تُفهرس المهام بمعاملات مستمرة. التحويلات هي إزاحات في فضاء المعاملات ( $\phi = \Delta\theta$ ). يتعلم العامل كيفية تشوه منحنيات الدوال تحت إزاحات المعاملات.
استقراء الطول (تكراري): تُنظم المهام حسب التعقيد الهرمي (مثل درجة كثير الحدود). التحويل هو خطوة استقرائية تمدد مهمة ذات تعقيد $L-1$ إلى $L$ (مثل إضافة حد جديد).
الاستقراء التركيبي (تركيبي): تتشكل المهام عن طريق دمج عناصر أولية (مثل $f \circ g$ ). يعمل أحد المكونات كمرجع، والآخر كحجة للتحويل.

2.3. الاستدلال والبحث

التحدي العملي يكمس في اختيار المرجع والتحويل عندما تكون واصفات المهام كامنة. يعالج RTE ذلك عبر هندسة وسيطة (باستخدام تضمينات Task2Vec المستمدة من مصفوفة معلومات فيشر) وعملية من مرحلتين:

التدريب: يتعلم النموذج $\Psi$ عن طريق تقليل خطأ التنبؤ على أزواج مهام التدريب $(f_i, f_j)$ حيث يكون التحويل $\phi_{ij}$ معروفًا أو مستنتجًا.
الاستدلال:
- النظام المستمر: يستخدم اختصارًا هندسيًا. يتم تضمين سياق الهدف، ويتم اختيار أقرب جار في مكتبة التدريب كمرجع. ويُستنتج التحويل كمتجه فرق في الفضاء الوسيط.
- الأنظمة المنفصلة (الطول/التركيب): يستخدم بحثًا مُقيدًا (Amortized Search). تقوم شبكة تفكيك باقتراح أزواج مرجع-تحويل مرشحة، والتي يتم بعد ذلك إعادة ترتيبها من خلال تقييم احتمالية حدوثها أو خطأ إعادة البناء على السياق المستهدف الضئيل.

2.4. التوسع إلى نماذج التسلسل (LLMs)

يتم توسيع RTE ليشمل النماذج اللغوية الكبيرة (LLMs) من خلال صياغة استقراء المهام كمسألة ضبط دقيق تحت إشراف (SFT). يتم تجسيد العامل العلائقي كنموذج يتبع التعليمات ويتم ضبطه بدقة. في وقت الاختبار، يتم توجيه النموذج بمهمة مرجعية (أمثلة توضيحية)، ووصف للتحويل (مثل "إزاحة مؤشر البت 3")، واستعلام. يتعلم النموذج تطبيق منطق التحويل على المرجع لحل المهمة المستهدفة. يتضمن الاستدلال بحثًا منفصلاً عبر التفكيكات المرشحة، مع تقييمها بناءً على احتمالية النموذج على السياق الضئيل.

3. المساهمات الرئيسية

استقراء المهام العلائقي (RTE): إطار خوارزمي يستفيد من العلاقات بين المهام لتقليل استقراء OOS إلى مشكلات OOC.
أنظمة الاستقراء: تجسيد رسمي لـ RTE عبر أنظمة استقراء المعاملات، والطول، والتركيب.
بروتوكولات التدريب والاستدلال: تطوير بروتوكولات باستخدام تضمينات Task2Vec للهندسة الوسيطة وصياغة الاستقراء كمسألة تحسين. بالنسبة للنماذج اللغوية الكبيرة، استخدام الاحتمالية على السياق الضئيل كوسيط للمكافأة للبحث والتحقق دون إشارات خارجية.
التحقق التجريبي: تقييم شامل على مهام التنبؤ بالدوال الاصطناعية ومعايير النماذج اللغوية الكبيرة (Sparse Parity, CodeIO).

4. النتائج التجريبية

يقيم المؤلفون RTE مقابل النماذج الاستقرائية القياسية والنسخ المثالية (Oracle) (التي تمتلك الوصول إلى التفكيكات الحقيقية).

التنبؤ بالدوال الاصطناعية:
- استقراء المعاملات: تفشل النماذج الاستقرائية فشلاً ذريعًا (MSE $\approx 10^5$ ) في المعاملات خارج النطاق بسبب تشبع الحدود. يقلل RTE الخطأ بشكل كبير (MSE $\approx 10^2$ )، مما يسد الفجوة نحو أداء النموذج المثالي.
- استقراء الطول: يتفوق RTE بشكل كبير على النماذج الأساسية الساذجة في التنبؤ بكثيرات الحدود عالية الدرجة (MSE 0.37 مقابل 0.58)، رغم بقاء فجوة مقارنة بالنموذج المثالي بسبب عدم كمال استرجاع المرجع.
- الاستقراء التركيبي: يحقق RTE خطأ (MSE) إجمالي أقل (0.29) من النماذج الأساسية (0.39) في تركيبات الدوال غير المرئية، مستنتجًا بنجاح العناصر الأولية الكامنة.
تجارب النماذج اللغوية الكبيرة (LLM):
- التباين الضئيل (الطول): يحسن RTE الدقة من 52.86% (النموذج الأساسي) إلى 66.07% في أحجام المجموعات الفرعية غير المرئية أثناء التدريب، مستعيدًا البنية التكرارية.
- CodeIO (التركيب): يضاعف RTE الدقة تقريبًا (45.3%) مقارنة بأساليب (Few-Shot) التي حققت (19.8%) وأساليب (Chain-of-Thought) التي حققت (30.2%)، مما يقيد النموذج بفعالية للخطوات الخوارزمية الصحيحة.

5. الأهمية والقصور

تدعي الورقة أن RTE يوفر نهجًا مبدئيًا للتعميم من خلال استغلال البنية العلائقية لمساحات المهام. وتوضح أن النماذج يمكنها الاستقراء خارج دعم التدريب إذا تعلمت تفكيك المهام الجديدة إلى مكونات معروفة وتحويلات.

القصور والتوجهات المستقبلية:

تكلفة الاستدلال: يتطلب RTE حسابات في وقت الاختبار لتحديد التفكيكات المثلى، على عكس النماذج الاستقرائية ذات الممر الواحد.
كثافة المتشعب (الوصول): يفترض RTE أن المهمة المستهدفة يمكن الوصول إليها عبر تحويل موجود في توزيع التدريب. الآليات الغريبة تمامًا تظل غير قابلة للوصول.
قابلية التحديد: في الأنظمة المنفصلة، يعتمد النهج الحالي على البيانات الوصفية العلائقية الحقيقية أثناء التدريب. وبينما يقترح المؤلفون التسمية الذاتية عبر خوارزمية (Expectation-Maximization) لتخفيف ذلك، فإن استنتاج البنية العلائقية الكامنة من الصفر يظل تحديًا مفتوحًا.
الاستقراء متعدد الخطوات: بينما تظهر النتائج الأولية نجاحًا مع الإزاحات التكرارية، فإن ربط عمليات تحويل متعددة دون تراكم الأخطاء يتطلب مزيدًا من الاستقصاء.

يؤكد المؤلفون أن RTE ليس حلاً عالميًا "صندوق أسود"، بل هو مصمم خصيصًا للمجالات التي تمتلك بنية علائقية كامنة، مما يوفر مسارًا للنماذج لاستيعام وإعادة استخدام الآليات التوليدية بدلاً من الاعتماد على الاستدلالات السطحية.