💬 NLP

Schema for In-Context Learning

مستلهماً من نظرية المخططات المعرفية، تقدم الورقة البحثية "التعلم داخل السياق المنشط بالمخططات" (SA-ICL)، وهو إطار عمل يعمل على بناء قوالب استدلال مجردة من الأمثلة السابقة بشكل صريح لتعزيز أداء النماذج اللغوية الكبيرة في المهام العلمية المعقدة وقابليتها للتفسير بشكل كبير، مع تقليل الاعتماد على أمثلة توضيحية عديدة.

المؤلفون الأصليون: Pan Chen, Shaohong Chen, Mark Wang, Shi Xuan Leong, Priscilla Fung, Varinia Bernales, Alan Aspuru-Guzik

نُشر 2026-03-31

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Pan Chen, Shaohong Chen, Mark Wang, Shi Xuan Leong, Priscilla Fung, Varinia Bernales, Alan Aspuru-Guzik

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

إليك شرح لورقة بحثية بعنوان "المخطط الذهني للتعلم في السياق" (Schema for In-Context Learning) باستخدام لغة بسيطة وتشبيهات إبداعية.

الفكرة الكبرى: إيقاظ "نظام الأرشفة" في الدماغ

تخيل أنك طالب عبقري (الذكاء الاصطناعي) تجلس في فصل دراسي. يعطيك المعلم مسألة رياضية جديدة وصعبة. ولمساعدتك، يعطيك المعلم مثالاً مشابهاً من واجب الأسبوع الماضي.

المشكلة (خمول المخطط الذهني - Schema Dormancy):
عادةً، تنظر إلى المثال وتحاول نسخ الخطوات الدقيقة التي اتخذها المعلم. قد تصل إلى الإجابة الصحيحة، لكنك غالباً ما تتعثر لأنك تكتفي بتقليد التفاصيل السطحية (مثل الأرقام المستخدمة) بدلاً من فهم المنطق العميق وراء المسألة. الأمر يشبه محاولة حل لغز عبر النظر إلى الصورة الموجودة على الصندوق، بينما قطع اللغز التي تملكها لها أشكال مختلفة قليلاً. أنت تعتمد على "اختصارات سطحية" بدلاً من التفكير العميق.

يطلق المؤلفون على هذا اسم "خمول المخطط الذهني" (Schema Dormancy). الأمر يشبه امتلاك مكتبة من المعرفة في دماغك، لكن الأضواء مطفأة. لديك الكتب (أطر التفكير)، لكنك لا تستطيع العثور على الكتاب المناسب لفتحه لأنه لم يخبرك أحد بأي ممر يجب أن تذهب إليه.

الحل (SA-ICL):
تقدم الورقة طريقة جديدة تسمى "التعلم في السياق المنشط بالمخطط الذهني" (Schema-Activated In-Context Learning - SA-ICL).

بدلاً من مجرد إعطائك المثال، يقول لك المعلم أولاً: "قبل أن ننظر إلى الأرقام، دعونا نتذكر مفهوم 'موازنة الموازين'."

هذا هو "تنشيط المخطط الذهني". يقوم المعلم بتنشيط إطار ذهني معين (المخطط) بشكل صريح قبل عرض المسألة المحددة عليك. بمجرد تنشيط هذا الإطار، يمكنك النظر إلى المسألة الجديدة ورؤية كيفية تركيب القطع معاً فوراً، بغض النظر عما إذا كانت الأرقام أو القصة مختلفة قليلاً.

تشبيه "الغسالة"

لإثبات نجاح هذه الطريقة، أجرى الباحثون تجربة شهيرة (أُجريت أصلاً على البشر عام 1972).

السيناريو: أعطوا الذكاء الاصطناعي فقرة مربكة تصف عملية ما: "أولاً، قم بترتيب الأشياء في مجموعات. إذا لم يكن لديك مساحة كافية، اذهب إلى مكان آخر. من المهم عدم القيام بالكثير من الأشياء في وقت واحد..."
بدون المفتاح: إذا قرأت هذا فقط، سيبدو الأمر فوضوياً. هل يتحدث عن الطبخ؟ التنظيف؟ البستنة؟ يصاب الذكاء الاصطناعي بالارتباك ويتشتت انتباهه.
مع المفتاح: إذا أضفت كلمات "غسالة ملابس" في الأعلى تماماً، فإن الفقرة تصبح منطقية تماماً. دماغ الذكاء الاصطناعي "يضيء". يعرف فوراً ماذا يعني "ترتيب الأشياء في مجموعات" (فرز الملابس)، ويفهم القصة بأكملها في لحظة.

تظهر الورقة أن نماذج الذكاء الاصطناعي تعاني من نفس الارتباك. إنها تحتاج إلى إشارة "الغسالة" (المخطط الذهني) لتنظيم المعلومات الفوضوية قبل أن تتمكن من حل المشكلة.

كيف يعمل الأمر: عملية REAP

ابتكر المؤلفون وصفة من 4 خطوات لمساعدة الذكاء الاصطناعي على إيقاظ دماغه:

التمثيل (Representation): انظر إلى المسألة الجديدة وحدد نوع اللغز الذي تتعامل معه.
الاسترجاع (Retrieval): اذهب إلى مكتبتك الذهنية وابحث عن أفضل "كتيب قواعد" (المخطط) لهذا النوع من الألغاز.
الاسترجاع العرضي (Episodic Retrieval): ابحث عن مثال سابق محدد يتناسب مع كتيب القواعد هذا.
التنشيط (Activation): هذه هي الخطوة السحرية. أخبر الذكاء الاصطناعي صراحةً: "استخدم كتيب قواعد 'قانون حفظ الطاقة في الفيزياء' لحل هذه المسألة."

بمجرد إخبار الذكاء الاصطناعي بـ أي كتيب قواعد يستخدم، فإنه يتوقف عن التخمين ويبدأ في التفكير بشكل هيكلي.

لماذا هذا مهم: النتائج

اختبر الباحثون ذلك على أسئلة صعبة في العلوم، والإحصاء، والتمويل.

الطريقة القديمة (التعلم من مثال واحد - One-Shot): تعطي الذكاء الاصطناعي مثالاً وتقول له "حل هذا".
- النتيجة: غالباً ما يفشل الذكاء الاصطناعي أو يعطي إجابة ضعيفة لأنه يكتفي بنسخ المثال دون فهم البنية العميقة.
الطوة الجديدة (SA-ICL): تخبر الذكاء الاصطناعي بكتيب القواعد أولاً، ثم تعطيه المثال، ثم تطلب منه الحل.
- النتيجة: أصبح الذكاء الاصطناعي أفضل بكثير في حل المشكلات، خاصة عندما كانت الأمثلة مشابهة جداً للسؤال.

لحظة "وجدتها!" (Aha! Moment):
كانت النتيجة الأكثر إثارة للدهشة هي أنه عندما حصل الذكاء الاصطناعي على "كتيب القواعد" (المخطط) الصحيح، لم يكتفِ بالحصول على الإجابة الصحيحة فحسب، بل أصبح أيضاً أكثر كفاءة. فقد استخدم كلمات أقل لشرح تفكيره لأنه لم يعد بحاجة للتخبط والتخمين؛ لقد عرف وجهته بدقة.

الخلا-صة

فكر في نماذج اللغات الكبيرة (LLMs) كعباقرة أذكياء للغاية ولكنهم مشتتو الذهن قليلاً. لديهم كل المعرفة في العالم، لكنهم ينسون أحياناً كيفية تنظيمها.

التعلم في السياق المنشط بالمخطط الذهني (SA-ICL) يشبه إعطاء ذلك العبقري ملاحظة لاصقة تقول: "تذكر، أنت محقق وليس طباخاً. استخدم منطق المحقق الخاص بك."

من خلال تنشيط طريقة التفكير الصحيحة صراحةً قبل مطالبة الذكاء الاصطناحل مسألة ما، فإننا نمنعه من الاعتماد على الحيل السطحية ونساعده على استخدام قدرته الحقيقية على التفكير. وهذا يجعل الذكاء الاصطناعي أكثر ذكاءً، وأكثر موثوقية، وأفضل في التعامل مع المهام المعقدة في العالم الحقيقي.

ملخص تقني لورقة بحثية: "مخطط التعلم داخل السياق" (SA-ICL)

1. بيان المشكلة: خمول المخطط (Schema Dormancy)

تحدد الورقة البحثية قصوراً حرجاً في النماذج اللغوية الكبيرة (LLMs) الحالية التي تستخدم التعلم داخل السياق (ICL). فبينما يسمح التعلم داخل السياق للنماذج بأداء المهام دون تحديث المعلمات، إلا أن النماذج غالباً ما تعتمد على اختصارات سطحية (مطابقة الأنماط) بدلاً من التفكير التجريدي.

يعزو المؤلفون ذلك إلى خمول المخطط (Schema Dormancy):

التعريف: هي الظاهرة التي يفشل فيها النموذج اللغوي الكبير في تفعيل مخطط استدلال تجريدي ذي صلة تلقائياً أثناء الاستدلال، رغم امتلاكه القدرة الكامنة على استخدامه عند توجيهه صراحةً.
النتيجة: تسترجع النماذج نظائر معقولة بناءً على التشابه السطحي، لكنها تفشل في مواءمة العلاقات الهيكلية، مما يؤدي إلى أخطاء في مهام الاستدلال المعقدة (العلوم، الإحصاء، التمويل).
الأساس المعرفي: بالاستناد إلى نظرية المخطط في علم النفس المعرفي (Rumelhart & Ortony, 1977)، يجادل المؤلفون بأن التعلم البشري يتضمن تنظيم المعرفة في أطر ذهنية (مخططات) توجه التفسير. وتفتقر النماذج اللغوية الكبيرة حالياً إلى آلية لـ "تفعيل" هذه الأطر تلقائياً قبل معالجة الاستعلام.

2. المنهجية: التعلم داخل السياق المنشط بالمخطط (SA-ICL)

يقترح المؤلفون إطار عمل SA-ICL، وهو إطار يفصل صراحةً بين هيكل الاستدلال ومحتوى المهمة لفرض عملية الربط الهيكلي. تحاكي هذه الطريقة العمليات المعرفية البشرية من خلال سير عمل مكون من خمس خطوات (REAP + التفعيل):

التمثيل الكامن للمشكلة: يولد النموذج تمثيلاً أولياً ( $S_x$ ) للمشكلة المدخلة.
استرجاع واختيار المخطط السابق: يسترجع النظام المخطط التجريدي الأكثر صلة ( $\hat{S}$ ) من بنك ذاكرة (مثل قوالب: سلسلة الأفكق - Chain-of-Thought، من الأقل إلى الأكثر - Least-to-Most، أو الخطوة الخلفية - Step-Back) والذي يعظم التشابه مع $S_x$ .
استرجاع الأمثلة العرضية: بناءً على المخطط المسترجع، يختار النظام مجموعة فرعية من الأمثلة العرضية الماضية ( $\hat{E}_\tau$ ) التي تتجاوز أوزان ارتباطها عتبة الاضمحلال. هذا يحاكي استرجاع "الذاكرة العاملة".
تفعيل المخطط (الاستيعاب/المواءمة): يتم دمج المخطط المسترجع والأمثلة مع المشكلة الحالية.
- الاستيعاب (Assimilation): إذا كان المخطط مناسباً، يتم تطبيقه مباشرة.
- المواءمة (Accommodation): إذا كان الملاءمة ضعيفة، يتم إعادة هيكلة المخطط ليتناسب مع السياق الجديد.
الاستدلال الموجه بالمخطط: يحل النموذج المهمة من خلال التكييف مع المدخلات والمخطط المفعّل/المُعدل ( $S_{new}$ )، بدلاً من مجرد الأمثلة الخام.

الآلية التقنية الرئيسية:
تثبت الورقة أن تفعيل المخطط هو ظاهرة ميكانيكية ملموسة. في التجارب الأولية باستخدام نص "الغسالة" الغامض (Bransford & Johnson, 1972)، تسبب حقن كلمة مفتاحية للمخطط ("الغسالة") في انهيار إنتروبيا الانتباه في رؤوس استقراء (induction heads) محددة. أدى هذا إلى نقل النموذج من الانتباه المنتشر والسطحي إلى انتباه هيكلي مركز، مما أدى بفعالية إلى ترسيخ المفاهيم التجريدية.

3. الإعداد التجريبي

النماذج: تم التقييم عبر 7 نماذج لغوية متنوعة، تشمل GPT-4o، GPT-4o Mini، DeepSeek-R1-Distill-Llama، Llama-3.1، Qwen-3، MistralSmall، وGemini 2.0-Flash.
مجموعات البيانات:
- GPQA-Diamond: علوم بمستوى الدراسات العليا (كيمياء، فيزياء، أحياء).
- MMLUProStat: إحصاء.
- MMLUProFinance: تمويل.
- LabSafety: مجموعة بيانات سلامة متعددة الوسائط.
النماذج المرجعية (Baselines): تمت المقارنة مع النموذج ذو المثال الواحد (One-Shot) والنموذج ذو المثال الواحد + سلسلة الأفكار (One-Shot + CoT).
المتغيرات: تم تصنيف التجارب حسب كثافة المعرفة (التشابه بين المثال داخل السياق والسؤال المستهدف):
- مطابق تماماً (تشابه عالٍ)
- مشابه (تشابه متوسط)
- مختلف (تشابه منخفض/خارج النطاق)

4. النتائج الرئيسية

مكاسب الأداء: تفوق SA-ICL باستمرار على النماذج المرجعية. في المتوسط، حقق تحسناً في الدقة بنسبة +5.1% عبر جميع مستويات المعرفة ( $p < 0.001$ ).
كثافة المعرفة العالية: حدثت أكبر المكاسب عندما كان المثال "مطابقاً تماماً" للمستهدف. في سيناريوهات التشابه العالي هذه، كان "خمول المخطط" هو العائق الأبريد؛ وقد حله SA-ICL عبر تفعيل المخطط الكامن، محققاً تحسناً بنسبة 6.5% عن النماذج المرجعية.
المتانة:
- أظهر SA-ICL متانة فائقة ضد ضجيج الاسترجاع (الأمثلة غير ذات الصلة).
- في اختبارات "تعطيل المخطط" (استخدام مثال بيولوجي لأسئلة كيمياء/فيزياء)، عانى SA-ICL من تدهور أقل في الأداء مقارنة بـ One-Shot + CoT القياسي.
الاستقلالية عن النموذج: كانت الطريقة فعالة لـ 5 من أصل 7 نماذج تم اختبارها. ومن الجدير بالذكر أنها قدمت مكاسب كبيرة للنماذج الأصغر (مثل Llama-3 وDeepSeek) التي غالباً ما تعاني في الاستدلال التجريدي.
الانزياح الدلالي: كممت الورقة "انزياح المخطط" (الفرق الدلالي بين المخططات الكامنة والمفعلة). ارتبط الانزياح الدلالي الأكبر باحتمالية أعلى لـ إصلاح مسارات الاستدلال الخاطئة (بمعدل إصلاح يصل إلى 7%).
الكفاءة: في اختبارات التفسير، أنتج SA-ICL عدد توكنز (Tokens) أقل في المخرج النهائي مقارنة بنماذج CoT المطولة، مع الحفاظ على الدقة أو تحسينها، مما يشير إلى استدلال داخلي أكثر كفاءة.

5. المساهمات الرئيسية

تصور خمول المخطط: تعريف وإثبات أن النماذج اللغوية الكبيرة غالباً ما تفشل في تفعيل أطر الاستدلال الكامنة تلقائياً، وتعتمد بدلاً من ذلك على الأنماط السطحية.
إطار عمل SA-ICL: تقديم إطار عمل موحد ونمطي يعمل على تفعيل المخططات التجريدية صراحةً قبل الاستدلال، مما يربط نظرية العلوم المعرفية بآليات النماذج اللغوية الكبيرة.
الدليل الميكانيكي: تقديم تحليل لطبقة الانتباه يظهر أن تفعيل المخطط يقلل الإنتروبيا ويعيد هيكلة تدفق المعلومات من الارتباط السطحي إلى التماسك الهيكلي.
التقييم الشامل: التحقق من نهج العمل عبر مجالات متعددة (علوم، إحصاء، تمويل)، وأحجام نماذج، وكثافات معرفية مختلفة، مما يثبت أنه تحسن قابل للتعميم مقارنة بـ ICL القياسي.

6. الأهمية والتوجهات المستقبلية

تحول في النموذج الفكري: ينقل SA-ICL التعلم داخل السياق من "الاسترجاع القائم على الحالة" (مطابقة الأمثلة) إلى "الإدراك القائم على التجريد" (تفعيل الأطر). وهذا يشير إلى أن بنيات ICL المستقبلية يجب أن تعطي الأولوية لـ تنمية المخططات بدلاً من مجرد زيادة حجم نافذة السياق أو كمية الأمثلة.
القابلية للتفسير والسلامة: من خلال جعل عملية الاستدلال صريحة عبر تفعيل المخطط، توفر هذه الطريقة مساراً نحو تفسير أفضل للذكاء الاصطناه وطمأنينته، حيث تصبح "عملية التفكير" في النموذج أكثر شفافية وتوافقاً مع الهياكل المعرفية البشرية.
العمل المستقبلي: يقترح المؤلفون توسيع SA-ICL ليشمل الأنظمة الوكيلية (Agentic Systems) لتوليد المخططات الديناميكية، وتطبيقه على التفسيرات العلمية طويلة الصيغة والبراهين الرياضية.

ختاماً، تجادل الورقة بأن الحدود التالية للتعلم داخل السياق لا تكمن في الحصول على أمثلة أفضل، بل في البنيات التي تعمل بنشاط على تنمية وتفعيل المخططات المعرفية الكامنة، مما يمكن النماذج اللغوية الكبيرة من الاستدلال هيكلياً وليس مجرد استدلال إحصائي.