Reflective Prompt Tuning through Language Model Function-Calling
تقترح هذه الورقة البحثية "ضبط التلقين التأملي" (RPT)، وهو إطار عمل يستفيد من استدعاء الدوال في النماذج اللغوية الكبيرة لمحاكاة مهندسي التلقين البشريين عبر تشخيص أنماط الفشل المنهجية عبر مجموعة بيانات كاملة بشكل تكراري واستخدام الرؤى المتراكمة لتحسين التلقينات، مما يؤدي إلى تحسين الأداء بشكل كبير في مهام الاستدلال المعقدة ومعايرة الثقة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك روبوتًا ذكيًا وقويًا للغاية (نموذج لغوي كبير) يمكنه الإجابة على الأسئلة، وحل المسائل الرياضية، والتفكير في السيناريوهات المعقدة. ولكن مثل أي موظف جديد، فإنه يحتاج إلى تعليمات واضحة ليقدم أفضل ما لديه. هذه التعليمات تسمى "المطالبات" (Prompts).
المشكلة هي أن كتابة مجموعة مثالية من التعليمات أمر صعب للغاية. الأمر يشبه محاولة ضبط جهاز راديو عن طريق التخمين أي الأزرار يجب الضغط عليها؛ فتغيير بسيط في الصياغة أو الترتيب يمكن أن يجعل الروبوت يتحول من عبقري إلى مرتبك. عادةً، يقضي البشر ساعات في تعديل هذه التعليمات يدويًا، فيجربون نسخة، ثم يرونها تفشل، ثم يجربون مرة أخرى.
تقدم هذه الورقة البحثية طريقة جديدة تسمى "ضبط المطالبة الانعكاسي" (Reflective Prompt Tuning - RPT). فكر في RPT كأنك توظف "مدرب مطالبات متخصصًا" (ذكاء اصطناعي آخر) لمساعدتك في تدريب الروبوت الخاص بك. وإليك كيف يعمل ذلك، باستخدام تشبيه بسيط:
المشكلة: فخ "التخمين والتحقق"
في الوقت الحالي، معظم الطرق الآلية لتحسين المطالبات تشبه طالبًا يؤدي اختبارًا، يخطئ في سؤال واحد، ثم يغير إجابته فورًا للسؤال التالي بناءً على ذلك الخطأ الوحيد فقط. قد يفتقد هذا الطالب إلى رؤية النمط، مثل "أنا أستمر في نسيان مراجعة حساباتي"، لأنه ينظر إلى مثال واحد فقط في كل مرة.
الحل: "المدرب" (RPT)
يغير RPT قواعد اللعبة من خلال محاكاة كيفية عمل مدرب بشري خبير. فهو يستخدم "مدرب ذكاء اصطناعي" يتبع حلقة محددة من ثلاث خطوات:
- التمرين الكامل (التقييم): بدلاً من النظر إلى سؤال أو اثنين من أسئلة التدريب، يطلب المدرب من الروبوت خوض اختبار كامل (مجموعة كبيرة من الأمثلة) باستخدام التعليمات الحالية.
- التشخيص (استدعاء الدوال): هذه هي الخطوة السحرية. لا يكتفي المدرب بالنظر إلى الدرجة فقط؛ بل يستخدم أداة خاصة (تسمى "استدعاء الدوال" أو function calling) ليعمل مثل الطبيب. يقوم بمراجعة كل خطأ ارتكبه الروبوت، وتجميع الأخطاء المتشابهة معًا (على سبيل المثال: "أوه، الروبوت يستمر في الفشل عندما يتعين عليه الانتقال بين حقيقتين مختلفتين")، ويكتب تقريرًا تشخيصيًا مهيكلًا.
- تشبيه: تخيل مدربًا رياضيًا يشاهد مباراة كاملة، وليس مجرد لقطة واحدة. يلاحظ المدرب: "في كل مرة يحاول فيها اللاعب التمرير لليسار، يتعثر". يكتب المدرب ذلك في تقريره: "نمط الفشل: التعثر عند التمريرات اليسرى".
- جلسة الاستراتيجية (المراجعة): يقرأ مدرب الذكاء الاصطناٍعي التقرير التشخيصي ويتذكر جميع التقارير من الأيام السابقة ("الذاكرة"). ومن ثم يعيد كتابة التعليمات خصيصًا لإصلاح تلك المشكلات المتكررة.
- تشبيه: يقول المدرب للاعب: "حسنًا، لقد رأينا أنك تعثرت في التمريرات اليسرى ثلاث مرات. من الآن فصاعدًا، عندما تمرر لليسار، انظر إلى قدميك أولاً".
لماذا هذا مختلف؟
- إنه يتذكر: على عكس الطرق الأخرى التي تنسى الماضي، يحتفظ RPT بـ "سجل" لجميع الأخطاء والإصلاحات السابقة. وهذا يساعده على تجنب إجراء نفس التغييرات مرتين ويساعده على فهم ما إذا كان الإصلاح قد نجح بالفعل أم أن المشكلة أعمق.
- يتحقق من الثقة: يسأل RPT أيضًا الروبوت: "ما مدى تأكدك من إجابتك؟". إذا قال الروبوت "متأكد بنسبة 100%" ولكنه أخطأ في الإجابة، فإن RPT يسجل ذلك كـ "فشل في الثقة" ويحاول تعليم الروبوت أن يكون أكثر تواضعًا أو دقة عندما لا يكون متأكدًا.
- إنه مستهدف: بدلاً من تغيير الكلمات عشوائيًا، يقوم RPT بإجراء تعديلات محددة بناءً على الأخطاء المحددة الموجودة في التقرير.
النتائج
اختبر الباحثون هذه الطريقة في ثلاثة أنواع صعبة من مهام التفكير:
- الاستدلال متعدد الخطوات (Multi-hop Reasoning): مثل حل لغز حيث يتعين عليك ربط الأدلة من وثائق مختلفة.
- الرياضيات: حل مسائل رياضية معقدة.
- الرياضيات المالية: إجراء حسابات بقواعد تجارية محددة.
ماذا حدث؟
- تحسينات كبيرة: حقق RPT طفرة كبيرة في درجات الروبوت، حيث زادت أحيانًا بمقما قدره 13 نقطة، وهي قفزة هائلة في هذا المجال.
- رياضيات ومنطق أفضل: حقق نتائج جيدة بشكل خاص في المهام التي تتطلب ربط خطوات متعددة (مثل حل الألغاز أو الرياضيات المعقدة).
- ثقة أكثر صدقًا: أصبح الروبوت أفضل في معرفة متى كان محقًا ومتى كان يخمن، مما جعل درجات "ثقته" أكثر موثوقية.
الخلاصة
تزعم الورقة البحثية أنه من خلال منح الذكاء الاصطناعي "مدربًا" يمكنه النظر إلى مجموعة كاملة من الأخطاء، وتجميعها في أنماط، ووضع خطة محددة لإصلاحها، يمكننا الحصول على نتائج أفضل بكثير من مجرد التخمين أو إصلاح خطأ واحد في كل مرة. إنها تحول العملية الفوضوية لـ "تعديل التعليمات" إلى عملية تعلم انعكاسية منظمة، تمامًا مثل طالب بشري يتحسن بعد أن يراجع معلمه امتحانًا تم تصحيحه.
ملاحظة حول القيود: يعترف المؤلفون بأن هذه الطريقة تستهلك طاقة حوسبية أكثر من الطرق الأبسط لأنها تضطر لتشغيل الروبوت عبر اختبار كامل في كل مرة. وأيضًا، إذا كان المنطق الأساسي للروبوت معطلًا (مثل سوء فهم عميق للرياضيات)، فلا يمكن لأي قدر من تعديل التعليمات أن يصلح ذلك؛ فأحيانًا يحتاج الروبوت نفسه إلى ترقية.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.