🤖 AI

TAPR: Enhancing LLM Performance with a Task-Aware Prompt Rewriter

تقدم هذه الورقة البحثية TAPR، وهو مُعيد صياغة للمطالبات مدرك للمهام (Task-Aware Prompt Rewriter) تم تدريبه عبر تحسين السياسة النسبي المجموعي (Group Relative Policy Optimization)، والذي يعمل على إعادة صياغة مدخلات المستخدم إلى مطالبات محسنة، مما يعزز بشكل كبير أداء النماذج اللغوية الكبيرة (LLMs) في مهام مثل الإجابة على الأسئلة والاستدلال الحسابي.

المؤلفون الأصليون: Oliver Savolainen, Emanuele Bastianelli, Hosein Azarbonyad

نُشر 2026-08-03

📖 5 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Oliver Savolainen, Emanuele Bastianelli, Hosein Azarbonyad

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول التحدث إلى روبوت فائق الذكاء يعرف كل شيء تقريبًا في العالم. هذا الروبوت عبارة عن نموذج لغوي كبير (LLM). إنه يشبه أمين مكتبة عبقريًا قرأ كل كتاب كُتب على الإطلاق، لكن لديه شخصية غريبة الأطوار: فهو يعمل بأفضل حالاته فقط عندما تسأله بطريقة محددة ومثالية للغاية. إذا سألته سؤالاً غامضًا مثل "حدثني عن الفضاء"، فقد يعطيك إجابة مملة وعامة. أما إذا قلت له: "اشرح دورة حياة نجم لطفل يبلغ من العمر 10 سنوات باستخدام استعارة عن الخبز"، فقد يطلق العنان لإمكاناته الكاملة ويقدم لك شيئًا ساحرًا.

المشكلة هي أن تحديد تلك الأسئلة المثالية أمر صعب. الأمر يشبه محاولة ضبط راديو للعثور على محطة واضحة؛ إذا أدرت القرص بمقدار ضئيل جدًا بشكل خاطئ، فلن تحصل إلا على تشويش. معظم الناس ليسوا خبراء في "هندسة الأوامر" (Prompt Engineering) (فن كتابة تعليمات مثالية للذكاء الاصطناعي)، لذا غالبًا ما يعلقون مع التشويش. لقد حاول العلماء بناء مساعد يمكنه تلقائيًا إصلاح أسئلتك، وتحويل طلباتك الفوضوية وغير المنظمة إلى تعليمات مصقولة ومثالية يحبها الروبوت. هذا البحث يتعمق في هذا التحدي بالضبط: هل يمكننا تعليم ذكاء اصطناعي صغير أن يكون "محرر أوامر" يجعل أصدقاءنا من الذكاء الاصطناعي الكبير يؤدون بشكل أفضل؟

تعرف على TAPR: محرر الذكاء الاصطناعي الذي يخترق أسئلتك

في هذا البحث، يقدم المؤلفون أداة جديدة تسمى TAPR (إعادة كتابة الأوامر المدركة للمهمة - Task-Aware Prompt Rewriter). فكر في TAPR كمحرر متخصص وصغير يجلس بينك وبين الذكاء الاصطناعي العملاق. عندما تكتب سؤالًا، لا يقوم TAPR بمجرد تمريره؛ بل يعيد كتابته أولاً. إنه يأخذ جملتك البسيطة "أجب على السؤال" ويحولها إلى تعليمات مفصلة وواضحة للغاية تخبر الذكاء الاصطناعي الكبير بالضبط كيف يفكر، وما هو التنسيق الذي يجب استخدامه، وما يجب تجنبه.

ولكن كيف يتعلم TAPR أن يكون محررًا جيدًا بهذا الشكل؟ لم يعلمه المؤلفون من خلال عرض الأمثلة فحسب، بل استخدموا طريقة تسمى التعلم التعزيزي (Reinforcement Learning)، وهي تشبه تدريب كلب باستخدام المكافآت. إليك كيف تعمل حلقة التدريب:

إعادة الكتابة: يأخذ TAPR سؤالك الأصلي ويعيد كتابته.
الاختبار: يحاول الذكاء الاصطناعي الكبير ("نموذج المهمة - Task LLM") الإجابة على السؤال المعاد كتابته.
القاضي: ينظر "ذكاء اصطناعي قاضٍ" (Judge AI) إلى الإجابة وإلى السؤال المعاد كتابته ليقرر: "هل ساعد هذا السؤال الجديد الذكاء الاصطناعي الكبير في الحصول على الإجابة الصحيحة؟ هل السؤال نفسه واضح ومكتوب بشكل جيد؟"
المكافأة: إذا قال القاضي "عمل رائع!"، يحصل TAPR على مكافأة رقمية (مكافأة). وإذا كانت الإجابة خاطئة أو كان السؤال مربكًا، فلا يحصل TAPR على مكافأة.

مع مرور الوقت، يتعلم TAPR كتابة أسئلة أفضل وأفضل لأنه يريد تلك المكافآت. استخدم المؤلفون تقنية تدريب محددة تسمى GRPO (تحسين السياسة النسبي للمجموعات)، والتي وجدوا أنها أكثر استقرارًا وفعالية من الطرق القديمة مثل PPO.

ماذا وجدوا؟

اختبر الفريق TAPR على ثلاثة أنواع مختلفة تمامًا من المهام:

الإجابة على الأسئلة: مثل السؤال "من كان أول رئيس للولايات المتحدة؟"
التلخيص: مثل طلب تلخيص مقال إخبي طويل من الذكاء الاصطناي.
الاستدلال الرياضي: مثل حل مسألة لفظية صعبة حول خلط السكر والماء.

كانت النتائج واعدة، رغم أنها ليست عصا سحرية لكل موقف.

الأخبار الجيدة: عندما تم تدريب TAPR (تحديدًا النسخة القائمة على نموذج يسمى Phi-4-mini-instruct)، فقد حسن أداء الذكاء الاصطناعي الكبير باستمرار. على سبيل المثال، في اختبار رياضيات يسمى GSM8K، قفزت الدقة من 11.91% (عند استخدام النموذج الأساسي غير المدرب لإعادة الكتابة) إلى 83.60% بعد تدريب TAPR. وفي اختبار للإجابة على الأسئلة يسمى Natural Questions، ارتفدت الدقة من 48.80% إلى 59.20%.
"الخلطة السرية": اكتشف المؤلفون أن TAPR تعلم كتابة أوامر أكثر وضوحًا وهيكلية، وغالبًا ما تتضمن تعليمات "سلسلة الأفكار" (Chain-of-thought) (إخبار الذكاء الاصطناعي بـ "التفكير خطوة بخطوة"). جعل هذا الذكاء الاصطناعي الكبير أكثر ذكاءً في حل المشكلات.
عامل "القاضي": كان جزء رئيسي من نجاحهم هو استخدام الذكاء الاصطناعي كقاضٍ (LLM-as-a-Judge). بدلاً من مجرد التحقق مما إذا كانت الإجابة تطابق نص الكتاب المدرسي حرفيًا (وهو أمر قد يكون غير عادل إذا كانت الإجابة صحيحة ولكن بصياغة مختلفة)، استخدموا ذكاءً اصطناعيًا آخر للحكم على جودة ومعنى الإجابة. ساعد هذا TAPR على تعلم كتابة أوامر تنتج إجابات أفضل حقًا، وليس فقط إجابات تبدو صحيحة بناءً على قائمة مراجعة.

العقبة: ليس مثاليًا بعد

يشير المؤلفون بحذر إلى أن هذه ليست مشكلة تم حلها نهائيًا.

عدم الاتساق: في بعض الأحيان، جعل TAPR الأشياء أفضل، ولكن في أحيان أخرى، كانت النتائج مختلطة أو حتى أسوأ قليلاً. على سبيل المثال، في بعض مهام التلخيص، كان "النموذج الأساسي" غير المدرب يؤدي عملًا جيدًا بالفعل، ولم يتفوق عليه TAPR دائمًا.
فكرة "الاختيار": جرب المؤلفون حيلة حيث يقوم TAPR بتوليد خمسة أوامر مختلفة معاد كتابتها ثم يختار الأفضل من بينها. ورغم أن هذا ساعد في بعض الأحيان، إلا أنه لم يؤدِ باستمرار إلى نتائج أفضل، كما أنه كلف المزيد من قوة الحوسبة. لم يجدوا دليلًا قويًا على أن TAPR أصبح "قاضيًا" أفضل لعمله لمجرد أنه تدرب على الكتابة.
التكلفة: تدريب TAPR يستغرق وقتًا وقوة حوسبية. يشير المؤلفون إلى أنه بينما يعمل، فإن التكلفة الإضافية قد لا تستحق العناء دائمًا لكل مهمة، خاصة وأن الأوامر البسيطة والعامة تعمل بشكل جيد أحيانًا.

الخلاصة

يشير هذا البحث إلى أنه يمكننا بالفعل تعليم ذكاء اصطناعي صغير أن يكون محرر أوامر يساعد أصدقاءنا من الذكاء الاصطناعي الكبير على الأداء بشكل أفضل. من خلال استخدام التعلم التعزيزي و"قاضٍ ذكي"، تعلم TAPR تحويل الأسئلة الغامضة إلى تعليمات واضحة وقوية. ورغم أنه ليس حلاً مثاليًا يعمل بنسبة 100% في كل الأوقات، إلا أنه يوضح مسارًا واضحًا للمستقبل: إذا تمكنا من أتمتة فن طرح الأسئلة الصحيحة، فقد نتمكن من إطلاق الإمكانات الكاملة للذكاء الاصطناعي للجميع، وليس للخبراء فقط. يخلص المؤلفون إلى أن هذه تقنية قابلة للتطبيق وفعالة، لكنها لا تزال بحاجة إلى مزيد من الصقل لتكون موثوقة في كل سيناريو من سيناريوهات العالم الحقيقي.

ملخص تقني: TAPR – إعادة كتابة المطالبات الواعية بالمهام

بيان المشكلة

تمتلك النماذج اللغوية الكبيرة (LLMs) إمكانات هائلة، ولكنها تتطلب غالبًا مدخلات (مطالبات) مصاغة بعناية لتحقيق الأداء الأمثل. يخلق هذا المتطلب حاجزًا أمام المستخدمين غير الخبراء الذين يفتقرون إلى الخبرة في هندسة المطالبات لصياغة تعليمات تستفيد بشكل كامل من قدرات النموذج. تعتمد طرق التحسين الحالية إلى حد كبير على التعديلات اليدوية التكرارية أو التقنيات المؤتمتة التي قد تنتج مطالبات غير قابلة للتفسير أو تفشل في التحسين من أجل المنفعة في العالم الحقيقي بسبب الاعتماد على مقاييس سطحية (مثل التطابق التام). هناك حاجة إلى نظام مؤتمت يمكنه صقل استعلامات المستخدم غير المحددة بدقة إلى تعليمات واضحة وقوية لضمان أداء موثوق للمهام اللاحقة.

المنهجية

يقترح المؤلفون إعادة كتابة المطالبات الواعية بالمهام (TAPR)، وهو إطار عمل مصمم لإعادة صقل وتكييف مطالبات المستخدم لنماذج LLM. يتكون النظام من نموذج "TAPR LLM" أصغر ومتخصص يقوم بإعادة كتابة المطالبات، والتي يتم تنفيذها بعد ذلك بواسطة "Task LLM" أكبر ومجمد.

إطار التدريب

يتضمن جوهر المنهجية تدريب TAPR LLM باستخدام التعلم التعزيزي (RL) مع تحسين المجموعة النسبية (GRPO). تعمل دورة التدريب كالتالي:

المدخلات: يتلقى TAPR LLM مطالبة مستخدم أولية.
إعادة الكتابة: يقوم بتوليد مطالبة منقحة.
التنفيذ: يتم تغذية المطالبة المنقحة إلى Task LLM المجمد لتوليد مخرجات المهمة.
حساب المكافأة: يتم حساب إشارة مكافأة مشتركة بناءً على مكونين:
- مكافأة أداء المهمة ( $T$ ): بدلاً من المقاييس التقليدية مثل التطابق التام أو ROUGE، يستخدم المؤلفون نموذج "النموذج اللغوي كحكم" (LLM-as-a-judge). يقوم نموذج حكم منفصل بتقييم الصحة الدلالية وجودة استجابة Task LLM مقابل الحقيقة الأرضية (ground truth).
- مكافأة جودة المطالبة ( $Q$ ): تقوم مكافأة مخصصة (تُسجل من 0 إلى 5 بواسطة نموذج حكم LLM) بتقييم المطالبة المعاد كتابتها نفسها، مما يضمن التزامها بمبادئ هندسة المطالبات (مثل الوضوح، والارتباط) وعدم تغيير القصد الأصلي أو إدخال هلوسات.
التحسين: تُستخدم المكافأة المشتركة $R = \alpha T + \beta Q$ لتحديث سياسة TAPR عبر GRPO.

الخيارات الهيكلية الرئيسية

GRPO مقابل PPO: يستخدم المؤلفون تحسين المجموعة النسبية (GRPO) بدلاً من تحسين السياسة القريبة (PPO). يقوم GRPO بتحديث السياسة بناءً على مجموعة من المسارات التي تم أخذ عينات منها، مما يلغي الحاجة إلى دالة قيمة (ناقد) صريحة ويظهر اتساقًا أكبر في هذا التطبيق المحدد.
آلية اختيار المطالبة: تسمح آلية اختيار في وقت الاستدلال (اختيارية) لنموذج TAPR بأخذ عينات من عدة مطالبات مرشحة (بدرجة حرارة أعلى) واختيار الأفضل بناءً على حكمه الخاص، رغم أن الورقة تشير إلى أن هذا لا يؤدي باستمرار إلى مكاسب إضافية.
التقييم: يتم تقييم النظام عبر مهام متنوعة تشمل الإجابة على الأسئلة (Natural Questions, HotpotQA)، التلخيص (CNN/Daily Mail, SciTLDR)، والاستداد الحسابي (GSM8K).

المساهمات الرئيسية

إطار عمل TAPR: تقديم معيد كتابة مطالبات واعي بالمهمة يتم تدريبه عبر التعلم التعزيزي لتحسين المطالبات باستخدام التغذية الراجعة المستمدة من كل من جودة المطالبة المعاد كتابتها وأداء المهمة اللاحقة.
دمج "النموذج اللغوي كحكم": التطبيق المبتكر لمكافآت "النموذج اللغوي كحكم" لتقييم كل من مخرجات المهمة وتقييم جودة المطالبة. يوضح المؤلفون أن هذا النهج يحسن استقرار وفعالية التدريب مقارنة بالاعتماد فقط على المقاييس القابلة للتحقق مثل التطابق التام.
استخدام GRPO لإعادة كتابة المطالبات: أول استكشاف لـ GRPO لتعزيز قدرات إعادة كتابة المطالبات، مما يظهر أنه يحقق اتساقًا أكبر ويتجنب انهيار النموذج أو المكافآت الراكدة التي لوحظت مع تكوينات PPO معينة في هذا السياق.
التحقق التجريبي: تجارب واسعة النطاق تظهر أن المطالبات التي يولدها TAPR تؤدي إلى دقة أعلى وجودة تلخيص أفضل مقارنة بالمطالبات الأساسية وإعادة الكتابة من النماذج الأساسية (غير المدربة).

النتائج التجريبية

استخدمت الدراسة Phi-4-mini-instruct و LLaMA-3.2-3B-Instruct كنماذج TAPR، و LLaMA-3.1-8B-Instruct كنموذج المهمة (Task LLM).

الإجابة على الأسئلة: في مجموعة بيانات Natural Questions (NQ)، تفوقت متغيرات TAPR بشكل كبير على النموذج الأساسي والمطالبات المرجعية. بالنسبة لـ Phi-4-mini-instruct، تحسنت الدقة من 48.80% (الأساسي) إلى 59.20% (TAPR). لوحظت مكاسب مماثلة في HotpotQA.
التلخيص: في CNN/Daily Mail و SciTLDR، حققت متغيرات TAPR أعلى درجات "النموذج اللغوي كحكم". والجدير بالذكر أن متغيرات Phi-4-mini-instruct TAPR حققت معدلات فوز تصل إلى 84.58% ضد المطالبات المرجعية في SciTLDR.
الاستدلال الحسابي: في GSM8K، حقق متغير TAPR لنموذج Phi-4-mini-instruct دقة بلغت 83.60%، متفوقًا على مطالبة "SOLUTION" المرجعية (82.38%) ومتفوقًا بشكل كبير على النموذج الأساسي (11.91%)، الذي فشل في توليد حلول متماسكة.
الدراسات الاستقصائية (Ablation Studies):
- مكافأة جودة المطالبة: أدى إزالة هذه المكافأة إلى الحد من تقدم التدريب بشكل خطير، حيث غالبًا ما عادت النماذج إلى المطالبات الأصلية تقريبًا، مما يشير إلى أن المكافأة حاسمة لتعلم إعادة الكتابة الفعالة.
- GRPO مقابل PPO: أظهر GRPO تحسنًا موثوقًا، بينما أدت متغيرات PPO (مع اختلاف المعلمات الفائقة) إلى مكافآت راكدة أو مخرجات متدهورة.
- الضبط الدقيق تحت الإشراف (SFT): أدى التدريب المسبق باستخدام SFT إلى تحسين الأداء الأساسي ولكنه لم يترجم إلى نتائج تدريب معززة لـ RL.

الأهمية والادعاءات

تدعي الورقة أن TAPR تثبت جدوى إعادة كتابة المطالبات المؤتمتة كتقنية عملية لإطلاق الإمكانات الكاملة لنماذج LLM، وخاصة للنماذج الصغيرة. من خلال تدريب نموذج أصغر لإعادة كتابة المطالبات، يمكن للنظام تعزيز أداء المهام اللاحقة دون مطالبة المستخدمين بامتلاك خبرة في هندسة المطالبات.

يؤكد المؤلفون أن نهجهم يعالج قيود مقاييس التقييم التقليدية من خلال استخدام "النموذج اللغوي كحكم" لالتقاط الصحة الدلالية والمنفعة في العالم الحقيقي. ويجادلون بأنه بينما تظل هندسة المطالبات مشكلة مفتوحة ومعقدة، فإن طريقتهم تنتج باستمرار مطالبات أكثر وضوحًا، وأكثر إرشادًا، وتفصيلاً بما يتماشى مع أفضل الممارسات.

ومع ذلك، تحافظ الورقة على نبرة متواضعة فيما يتعلق بحدودها:

عدم الاتساق: التحسينات ليست موحدة عبر جميع المهام والنماذج؛ ففي بعض الحالات، تؤدي المطالبات العامة البسيطة أداءً تنافسيًا ضد إعادة الكتابة المحسنة.
استقرار التدريب: التعلم التعزيزي لتوليد النصوص غير مستقر بطبيعته وحساس للمعلمات الفائقة.
التكلفة مقابل الفائدة: المكاسب من إعادة كتابة المطالبات ليست متسقة بما يكفي بعد لتعويض التكاليف الحسابية الإضافية للتدريب والاستدلال بالكامل.
النطاق: تقتقت الدراسة على النماذج الصغيرة غير القائمة على الاستدلال وعلى معايير محددة، مما يشير إلى الحاجة إلى عمل مستقبلي للتحقق من هذه الأساليب على النماذج الأكبر وفي سير عمل الوكلاء (agents) الأكثر تنوعًا في العالم الحقيقي.

في الختام، يرسخ هذا العمل حقيقة أن نموذجًا أصغر، عند تدريبه باستخدام GRPO وتوجيهه عبر مكافآت دلالية، يمكنه تعلم إعادة كتابة المطالبات بفعالية لتحسين أداء نماذج LLM الأكبر، مما يوفر مسارًا لتقليل الاعتماد على هندسة المطالبات اليدوية.