Feedback That Backfires: Why Small Language Model Agents Repeat the Call They Just Watched Fail
تكشف هذه الورقة أن وكلاء نماذج اللغة الصغيرة هم أكثر عرضة بشكل كبير لتكرار استدعاءات الأدوات الفاشلة عندما يتم تسجيل الفشل حرفياً في السجل، وهو تأثير عكسي للنتائج مدفوع أساساً بالشكل السطحي للإجراء الفاشل بدلاً من رسالة الخطأ، وهو ما يمكن التخفيف منه بفعالية عن طريق استبدال الاستدعاء الخام بوصف ناتج عن وقت التشغيل للفشل.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل مساعداً رقمياً يمكنه استخدام الأدوات لحل المشكلات، مثل البحث عن جهة اتصال، أو التحقق من تقويم، أو كتابة قطعة من البرمجيات. للقيام بذلك، يتبع المساعد حلقة بسيطة: يفكر في إجراء، يحاول تنفيذه، ثم يقرأ النتيجة. إذا فشل الإجراء، يسجل النظام بدقة ما حاول المساعد القيام به ورسالة الخطأ التي تلقاها، ثم يطلب من المساعد المحاولة مرة أخرى. هذه الطريقة، المعروفة باسم "حلقة الوكيل" (agent loop)، هي الطريقة القياسية التي تتعلم بها هذه الأنظمة من أخطائها. يبدو المنطق سليماً: إذا قلت لشخص ما "لقد حاولت فتح باب مغلق ولم يفلح الأمر"، فلن يحاول فتح نفس الباب المغلق مرة أخرى، بل سيبحث عن مفتاح مختلف أو باب آخر. لسنوات، افترض المهندسون أن النماذج الحاسوبية الصغيرة، التي تشغل العديد من هذه المساعدين، ستتصرف بنفس الطريقة؛ فقد اعتقدوا أن إظهار رسالة الخطأ للنموذج سيعلمه كيفية تجنب ذلك الخطأ المحدد.
قرر باحث في جامعة باساو في ألمانيا اختبار هذا الافتراض بدقة متناهية. لم يكتفِ بمراقبة نجاح المساعدين وفشلهم فحسب، بل قام بقياس الاحتمالية الرياضية الدقيقة لاختيار النموذج لنفس الإجراء الخاطئ قبل رؤية الخطأ وبعده. أجرى هذه الاختبارات على ستة نماذج حاسوبية مختلفة، تتراوح من متناهية الصغر إلى متوسطة الحجم، عبر بيئتين مختلفتين: إحداهما حيث حاولت النماذج استخدام أدوات مكتبية محاكية، والأخرى حيث حاولت إصلاح برامج حاسوبية معطلة. أراد الباحث معرفة ما إذا كانت رسالة الخطأ تصحح سلوك النموذج بالفعل.
وجدوا عكس ما توقعه الجميع. فبدلاً من التعلم من الفشل، أصبحت النماذج أكثر عرضة بشكل كبير لتكرار نفس الخطأ تماماً. عندما يعرض النظام على النموذج المحاولة الفاشلة ورسالة الخطأ، تقفز احتمالية اختيار النموذج لنفس الإجراء الفاشل مرة أخرى بشكل هائل. في اختبارات استدعاء الأدوات، ارتفعت فرصة تكرار النموذج للاستدعاء الفاشل من نسبة منخفضة بلغت 6% إلى أكثر من 50%. في كل حالة تقريباً اختبرها الباحث، لم تعمل رسالة الخطأ كتحذير، بل عملت كمغناطيس، يجذب النموذج نحو نفس الإجراء الذي فشل في القيام به للتو.
سأل الباحث بعد ذلك لماذا يحدث هذا. اشتبه في أن النماذج قد تكون ببسالطة أصغر من أن تفهم رسالة الخطأ. ومع ذلك، كشف تحقيقهم عن مسبب مختلف؛ فقد اكتشفوا أن المشكلة لم تكن في معنى الخطأ، بل في وجود النص نفسه. فعندما يُكتب الإجراء الفاشل في السجل، فإن الآلية الداخلية للنموذج، المصممة لنسخ الأنماط التي تراها، تلتصق بالنص الخاص بالإجراء الفاشل. كان تأثير النسخ هذا قوياً لدرجة أنه طغى على الرسالة الفعلية حول الفشل. وحتى عندما استبدل الباحث رسالة الخطأ الطويلة والمفصلة بملاحظة بسيطة تقول "هذا فشل"، ظل النموذج يكرر الخطأ. ولكن عندما أزال النص الخاص بالإجراء الفاشل تماماً واستبدله بوصف لما حدث بالخطأ، توقف النموذج عن تكرار الخطأ.
قلب هذا الاكتشاف الطريقة القياسية التي تُبنى بها هذه الأنظمة رأساً على عقب. كانت النصيحة الشائعة لإصلاح "الوكيل العالق" هي حذف المحاولة الفاشلة من السجل وترك النموذج يبدأ من جديد، على أمل إزالة "التلوث". وجد الباحث أن هذا هو أسوأ شيء يمكن فعله؛ فمن خلال حذف الفشل، يستعيد النظام بالضبط الظروف التي تسببت في الخطأ في المقام الأول، مما يضمن ارتكاب النموذج لنفس الخطأ مرة أخرى. واكتشف أن الحل ليس في حذف السجل، بل في تغييره. فإذا احتفظ النظام بسجل الفشل ولكنه استبدل النص الخام للأمر الفاشل بوصف تم إنشاؤه بواسطة النظام، يتوقف التكرار.
اختبرت الدراسة أيضاً حلاً أكثر وضوحاً: مجرد إخبار النموذج في تعليماته بألا يكرر الإجراء الفاشل. هذا النهج، الذي يبدو منطقياً للبشر، لم يكن له أي تأثير تقريباً. لم يستطع النموذج اتباع قاعدة تخبره بتجاهل سلسلة نصية معينة تقبع أمامه مباشرة. خلص الباحث إلى أن المشكلة لم تكن في نقص الذكاء لدى النموذج، بل في كيفية تقديم المعلومات. فالطريقة القياسية المتمثلة في عرض الإجراء الفاشل جنباً إلى جنب مع رسالة الخطأ تخلق رغبة قوية في النسخ، وهي أقوى من الرغبة في التعلم من الخطأ.
من خلال إجراء هذه التجارب على معالج حاسوبي قياسي دون بطاقات رسوميات متخصصة، أثبت الباحث أن هذا السلوك هو خاصية أساسية لكيفية عمل هذه النماذج الصغيرة، وليس خللاً يتطلب قوة حوسبة هائلة لإصلاحه. تشير أعماله إلى أنه لبناء مساعدين رقميين موثوقين، يجب على المهندسين التوقف عن معاملة الإجراء الفاشل كدرس مفيد للقراءة، والبدء في معاملته كنمط خطير يجب إخفاؤه. الحل هيكلي: يجب أن يبدو السياق بعد الفشل مختلفاً عن السياق قبل الفشل، لكن الاختلاف لا يمكن أن يكون الإجراء الفاشل نفسه. من خلال إزالة النص الخام للخطأ والاحتفاظ فقط بالتشخيص، يمكن للنظام كسر حلقة التكرار والسماح للنموذج بالمضي قدماً بالفعل.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.