💬 NLP

Evolutionary Pre-Prompt Optimization for Mathematical Reasoning

تقدم هذه الورقة البحثية "تحسين التلقين المسبق التطوري" (EPPO)، وهي طريقة تسخر الخوارزميات التطورية لاختيار أمثلة "سلسلة الأفكار" ذات القليل من الأمثلة (few-shot)، مما يحسن أداء الاستدلال الرياضي بشكل كبير على معايير مثل GSM8k وMathQA بأكثر من 10 نقاط مطلقة مقارنة بالنهج الساذج.

المؤلفون الأصليون: Mathurin Videau, Alessandro Leite, Marc Schoenauer, Olivier Teytaud

نُشر 2026-02-03

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Mathurin Videau, Alessandro Leite, Marc Schoenauer, Olivier Teytaud

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول تعليم طالب عبقري ولكنه مشتت قليلاً (نموذج لغوي كبير) كيفية حل المسائل الرياضية المعقدة. لا يمكنك إعادة كتابة دماغ الطالب (لا يمكنك إعادة تدريب النموذج)، بدلاً من ذلك، عليك إعطاؤه "ورقة غش" أو مجموعة من الأمثلة المسألة ليلقي نظرة عليها قبل خوض الاختبار. يُسمى هذا التحفيز بالقليل من الأمثلة (few-shot prompting).

السؤال الكبير الذي تطرحه الورقة البحثية هو: أي الأمثلة يجب أن تكون موجودة في ورقة الغش تلك؟

غالباً ما يختار الناس بعض الأمثلة العشوائية أو يختارون تلك التي تبدو "صعبة". تجادل هذه الورقة بأن هناك طريقة أذكى بكثير لاختيار هذه الأمثلة، باستخدام طريقة مستوحاة من التطور.

إليك تفصيل اكتشافهم، EPPO (تحسين ما قبل التحفيز التطوري)، باستخدام تشبيهات بسيطة:

1. المشكلة: "يانصيب" ورقة الغش

عادةً، عندما نريد من الذكاء الاصطناائي حل مسائل رياضية، نعطيه بضعة أمثلة لكيفية حل مسائل مماثلة أولاً.

الطريقة القديمة: غالباً ما يختار الناس أمثلة عشوائياً أو يدوياً. الأمر يشبه محاولة الفوز باليانصيب باختيار أرقام بناءً على تاريخ ميلادك. قد ينجح الأمر أحياناً، لكنه ليس موثوقاً.
رؤية الورقة: اختيار الأمثلة تحديداً يهم أكثر من مجرد امتلاك المزيد من الأمثلة. في الواقع، إعطاء الكثير من الأمثلة للذكاء الاصطناعي قد يربكه (تماماً مثل محاولة الدراسة للاختبار عبر قراءة 50 كتاباً مختلفاً بدلاً من التركيز على أفضل 4 كتب).

2. الحل: ورقة الغش "الأصلح للبقاء"

ابتكر المؤلفون نظاماً يسمى EPPO. فكر في الأمر كأنه مسابقة طبخ للعثور على الوصفة المثالية، ولكن بدلاً من الطعام، نحن نمزج ونطابق الأمثلة الرياضية.

المكونات: لديهم مخزن ضخم يحتوي على آلاف المسائل الرياضية (مجموعة العرض).
المسابقة: يختار الكمبيوتر مجموعة صغيرة من الأمثلة (مثلاً 4 مسائل) لوضعها في "ورقة الغش".
اختبار التذوق: يطلب الكمبيوتر من الذكاء الاصطناعي حل مجموعة من مسائل التدريب الرياضية باستخدام ورقة الغش المحددة تلك.
التطور:
1. إذا أدى الذكاء الاصطناائي بشكل جيد، يحتفظ الكمبيوتر بورقة الغش تلك.
2. إذا كان أداؤه سيئاً، يقوم الكمبيوتر باستبدال مثال أو اثنين بأمثلة جديدة من المخزن.
3. يكرر هذه العملية آلاف المرات، مع الاحتفاظ دائماً بالأوراق "الأصلح" (الأفضل أداءً) والتخلص من الأوراق السيئة.

بمرور الوقت، "يطور" النظام مجموعة صغيرة ومثالية من الأمثلة التي تجعل الذكاء الاصطناائي يعمل بشكل أفضل بشكل ملحوظ.

3. الاكتشاف المذهل: القليل يعني الكثير

أحد أكثر النتائج إثارة للاهتمام في الورقة هو حول عدد الأمثلة التي تحتاجها.

المنطق السليم يقول: "المزيد من الأمثلة = فهم أفضل".
EPPO يقول: "في الواقع، 4 أمثلة هي غالباً النقطة المثالية".

وجدت الورقة أنه عندما حاولوا استخدام 8 أو 12 أو 16 مثالاً، أصبح أداء الذكاء الاصطناعي في الواقع أسوأ. الأمر يشبه محاولة حفظ خطاب عبر قراءته 20 مرة؛ قد تبدأ في الارتباك أو الملل. لقد تعرض الذكاء الاصطناعي لـ "فرط التخصيص" (overfitting)، مما يعني أنه حفظ الأمثلة المحددة بدقة شديدة ولم يعد قادراً على تطبيق المنطق على مسائل جديدة ومختلفة قليلاً. وجدت الطريقة "التطورية" بشكل طبيعي أن قائمة موجزة من 4 أمثلة عالية الجودة هي الأفضل.

4. لماذا يعد هذا أمراً هاماً؟

رخيص وسريع: بدلاً من محاولة إعادة تدريب نموذج الذكاء الاصطناعي الضخم (الذي يكلف ثروة من الكهرباء والوقت)، قاموا فقط بتحسين "ورقة الغش". إنه يشبه ضبط محرك السيارة بدلاً من بناء سيارة جديدة.
يعمل على الرياضيات الصعبة: اختبروا هذا على مجموعات بيانات رياضية صعبة جداً (مثل مستوى المدرسة الثانوية والجامعة). ارتفعت درجة الذكاء الاصطناائي بأكثر من 10 نقاط بمجرد تغيير الأمثلة في ورقة الغش.
قوي ومتين: حتى لو كانت الأمثلة التي وجدوها قد تم إنشاؤها بواسطة الذكاء الاصطنافي نفسه (وليس بواسطة بشر مثاليين)، فقد وجد النظام طريقة لجعلها تعمل. إنه يشبه اكتشاف أن ملاحظات الطالب الفوضوية هي في الواقع أفضل طريقة للدراسة للاختبار.

5. "التركيبة السحرية"

وجدت الورقة أيضاً أن هذه الطريقة تعمل بشكل أفضل عند دمجها مع الاتساق الذاتي (Self-Consistency).

الاتساق الذاتي هو مثل طلب حل نفس المسألة من الذكاء الاصطنافي 8 مرات ثم أخذ الإجابة التي تظهر أكثر من غيرها (مثل تصويت هيئة المحلفين).
النتيجة: عندما تستخدم "ورقة الغش المتطورة" (EPPO) بالإضافة إلى "تصويت الهيئة" (Self-Consistency)، يصبح الذكاء الاصطنااني عبقري رياضيات. الطريقتان تتراكمان فوق بعضهما لإنتاج نتائج أفضل.

الملخص

تظهر الورقة أننا لسنا بحاجة لتغيير دماغ الذكاء الاصطنااني لجعله أكثر ذكاءً في الرياضيات. نحن فقط بحاجة لاستخدام عملية تطورية ذكية لاختيار أفضل 4 أمثلة لعرضها عليه. هذا "التحسين التطوري لما قبل التحفيز" (EPPO) يمنع الذكاء الاصطنااني من الارتباك بسبب كثرة المعلومات ويساعده على التفكير في المسائل المعقدة بفعالية أكبر بكثير.

باختختصار: لا تلقِ بالأمثلة العشوائية على الذكاء الاصطناني. دع التطور يختار القليل المثالي، وشاهد مهارات الرياضيات لدى الذكاء الاصطنااني وهي ترتقي بشكل صاروخي.

ملخص تقني: تحسين التمهيد المسبق التطوري للاستدلال الرياضي

بيان المشكلة
أظهرت النماذج اللغوية الكبيرة (LLMs) كفاءة ملحوظة في التعلم من بضع عينات (few-shot learning)، لا سيما عند دمجها مع تقنية "سلسلة الأفكام" (Chain-of-Thought - CoT)، والتي توجه النماذج لتوضيح خطوات الاستدلال الوسيطة. ومع ذلك، فإن أداء تقنية CoT حساس للغاية لاختيار وهيكلية الأمثلة القليلة المقدمة في التمهيد المسبق (pre-prompt). وبينما يعد هندسة الأوامر اليدوية أمراً شائعاً، إلا أنه غالباً ما يكون غير مثالي ويستهلك الكثير من الجهد. علاوة على ذلك، فإن الطرق المؤتمتة الحالية تعتمد غالباً على تحسين لكل مثال على حدة أو تحديثات تعتمد على التدرج الدقيق (gradient-based updates)، مما قد يكون مكلفاً حوسبياً وعرضة للإفراط في التخصيص (overfitting)، خاصة بالنظر إلى صغر حجم معايير الاستدلال (مثل GSM8k وMathQA) التي تكون غير كافية للضبط الدقيق التقليدي. يتمثل التحدي الجوهري المعالج في كيفية اختيار مجموعة ثابتة وموجزة من أمثلة CoT لعدد قليل من العينات بشكل منهجي، بما يعظم أداء النموذج اللغوي الكبير على مهمة استدلال رياضي محددة دون الإفراط في التخصيص لبيانات التدريب.

المنهجية: التحسين التطوري للتمهيد المسبق (EPPO)
يقترح المؤلفون التحسين التطوري للتمهيد المسبق (Evolutionary Pre-Prompt Optimization - EPPO)، وهو إطار عمل تطوري قائم على المقارنة مصمم لتحسين التمهيدات المسبقة الثابتة ذات العينات القليلة على مستوى المهمة.

الصياغة: تُصاغ المشكلة كمسأ-لة تحسين توافقي (combinatorial optimization). تعمل مجموعة العروض التوضيحية $D$ (التي تحتوي على أزواج "المطالبة-الحل") كجدول بحث. الهدف هو إيجاد مجموعة فرعية صغيرة من الفهارس (تمهيد مسبق لعدد قليل من العينات) من $D$ ، والتي عند استخدامها كتمهيد مسبق ثابت لجميع الاستعلامات، تعظم دقة النموذج على مجموعة تدريب $T$ .
خوارزمية التحسين: يستخدم EPPO خوارزميات تطورية قائمة على الصندوق الأسود (مثل Discrete (1+1)-ES، وLogNormal، وDoubleFastGA) المنفذة عبر مكتبة Nevergrad. ومن الأهمية بمكان أن التحسين قائم على المقارنة. فبدلاً من تلقي درجات أداء مطلقة (والتي تتطلب تغذية راجعة دقيقة)، يتلقى المحسن فقط فهرس المرشح الأفضل أداءً من بين دفعة مكونة من $\kappa$ من المرشحين في كل تكرار. تعتمد هذه النمذجة "اسأل وأخبر" (ask-and-tell) على التغذية الراجعة الخشنة (التصنيف/Ranking) بدلاً من معلومات التدرج.
استراتيجية البيانات: لإدارة التكاليف الحوسبية، يستخدم المؤلفون استراتيجية أخذ عينات فرعية لإنشاء مجموعات العروض التوضيحية. كما يستخدمون طريقة أخذ عينات فرعية قائمة على الثقة (باستخدام عدم يقين استجابة LLaMA2-70B) لضمان تغطية مجموعة العروض التوضيحية لمجموعة متنوعة من مستويات صعوبة الأمثلة.
تحليل التعميم: يقدم البحث تحليلاً معلوماتياً نظرياً لمخاطر التعميم. نظرًا لأن EPPO يعتمد على تغذية راجعة محدودة (مقارنات) وميزانية تحسين محدودة، فقد اشتق المؤلفون حدوداً تُظهر أن خطر الإفراط في التخصيض يتم التحكم فيه ويعتمد على دقة التغذية الراجعة والميزانية، بدلاً من مساحة التمهيد المحيطة أو التعقيد الداخلي للنموذل. وهذا يتناقض مع الطرق القائمة على التدرج التي تصل إلى بيانات دقيقة وتكون أكثر عرضة للإفراط في التخصيص في بيئات البيانات المحدودة.

المساهمات الرئيسية

تقديم الإطار العملي: تقديم EPPO، وهو نهج تحسين توافقي مبدئي لاختيار تمهيدات CoT ثابتة لعدد قليل من العينات.
التفوق التجريبي: إثبات أن البحث التطوري المسيطر والمستغل (exploitative) يتفوق على الاختيار بالقوة الغاشمة، والبحث العشوائي، والضبط الدقيق الكلاسيكي في بيئات البيانات المحدودة، مع تقليل الإفراط في التخصيص.
مكاسب الأداء: تحقيق تحسينات كبيرة (تتجاوز 10 نقاط مطلقة في درجات المطابقة التامة) على معايير مثل GSM8k وMathQA باستخدام نماذج LLaMA2. هذه المكاسب قوية عبر استراتيجيات فك التشفير المختلفة وتكون تراكمية عند دمجها مع تقنية "الاتساق الذاتي" (Self-Consistency - SC).
الرؤى الآلية: تحليل يكشف أن التمهيدات المسبقة المُحسنة تستحث مسارات استدلال أكثر اتساقاً وهيكلية. وجد البحث أن جودة التمهيد (تحديداً اختيار الأمثلة) أكثر أهمية من طول التمهيد، وأن أحجام العينات الأكبر (مثل 8-shot) يمكن أن تؤدي إلى الإفراط في التخصيص في سيناريوهات أخذ العينات الفرعية، بينما غالباً ما تحقق الأحجام الأصغر (مثل 4-shot) تعميماً أفضل.
الحدود النظرية: اشتقاق حدود التعميم لعملية تحسين العينات القليلة التطورية التي توضح تأثير حجم البيانات، وتوازي السكان، وميزانية التحسين، مما يوفر ضمانات نظرية غير متاحة للضبط الدقيق القائم على التدرج.

النتائج التجريبية

المعايير: تم تقييم الطريقة على GSM8k وSVAMP وMathQA وMATH باستخدام LLaMA2-7B وLLaMA2-70B.
الأداء: تفوق EPPO باستمرار على النماذج المرجعية (Standard CoT، وLong CoT، وResprompt). في GSM8k مع LLaMA2-70B، حقق EPPO (4-shot) دقة 68.2% مقارنة بـ 56.8% لـ Standard CoT. لوحظت مكاسب مماثلة في MathQA وMATH.
القابلية للنقل:
- نقل المهام: نجحت التمهيدات المسبقة التي تم تحسينها على GSM8k في الانتقال إلى SVAMP (الذي يفتقر إلى مجموعة تدريب)، مما حسن الأداء مقارنة بالنماذج المرجعية.
- نقل النماذج: انتقلت التمهيدات المحسنة لنموذج 70B بفعالية إلى نموذج 7B، لكن العكس (من 7B إلى 70B) كان أقل فعالية، وإن ظل أفضل من النماذج المرجعية.
ديناميكيات الإفراط في التخصيص: أظهرت التجارب أن زيادة عدد العينات (مثلاً من 4 إلى 8) في إعداد تدريب منخفض العينات يؤدي إلى الإفراط في التخصيص (دقة تدريب أعلى ولكن دقة اختبار أقل). ومع ذلك، فإن استخدام مجموعة التدريب الكاملة يخفف من هذه المشكلة.
الكفاءة: يتطلب EPPO موارد حوسبية وذاكرة أقل بكثير من الضبط الدقيق القائم على الانتشار العكسي (backpropagation)، لأنه لا يتضمن عملية التمرير الخلفي.

الأهمية والادعاءات
يزعم البحث أن EPPO يقدم بديلاً قوياً وفعالاً ومبنياً على أسس نظرية لكل من هندسة الأوامر اليدوية والضبط الدقيق القائم على التدرج لمهام الاستدلال الرياضي. ومن خلال الاستفادة من التحسين التطوري القائم على المقارنة، ينجح EPPO في التنقل بفعالية في مساحة اختيار التمهيد مع الحفاظ على ضمانات تعميم قوية في بيئات البيانات الشحيحة. ويؤكد المؤلفون أن نجاح EPPO لا ينبع مجرد من إيجاد أمثلة "أفضل"، بل من إيجاد مجموعة موجزة من الأمثلة التي تستحث أنماط استدلال أكثر اتساقاً في النموذج اللغوي الكبير. ويشير العمل إلى أن مفتاح استدلال CoT الفعال يكمكم في الاختيار الاستراتيجي لمحتوى التمهيد بدلاً من مجرد زيادة طول التمهيد أو الاعتماد على آليات استرجاع معقدة لكل مثال. علاوة على ذلك، يفترض البحث أن التوافق التراكمي لـ EPPO مع "الاتساق الذاتي" وطرق التعزيز الأخرى يجعله مكوناً متعدد الاستخدامات لتعزيز قدرات الاستدلال في النماذج اللغوية الكبيرة.