When Does Memory Help Multi-Trajectory Inference for Tool-Use LLM Agents?
تقدم هذه الورقة إطاراً موحداً لتقييم الاستدلال متعدد المسارات لوكلاء النماذج اللغوية الكبيرة (LLMs) المستخدمة للأدوات، كاشفةً أن فعالية أساليب الذاكرة تعتمد بشكل كبير على استراتيجية الاستدلال المستخدمة، حيث تحقق تقنيات محددة مثل التأمل (reflection)، والحقن ضمن التوسع (within-expansion injection)، واستخراج الحقائق الذرية (atomic fact extraction) فوائد متميزة فقط في ظل البحث عبر شجرة مونت كارلو (MCTS)، والبحث الشعاعي (beam search)، والمهام ذات البنية القابلة لإعادة الاستخدام، على التوالي.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول حل لغز صعب للغاية، مثل البحث عن ملف محدد على جهاز كمبيوتر أو كتابة استعلام معقد لقاعدة بيانات. لديك مساعد فائق الذكاء (ذكاء اصطناعي) يمكنه محاولة حل اللغز، لكنه أحياناً يعلق أو يرتكب أخطاءً.
يطرح البحث سؤالاً بسيطاً: إذا تركنا الذكاء الاصطناعي يحاول حل اللغز عدة مرات، كيف يجب أن نساعده على تذكر ما حدث في المحاولات السابقة حتى لا يكرر نفس الأخطاء مرة أخرى؟
قام الباحثون بإعداد "نظام ذاكرة" للذكاء الاصطناعي واختبروه بطرق مختلفة. ووجدوا أنه لا توجد طريقة واحدة "مثلى" لإعطاء الذكاء الاصطناعي ذاكرة، بل إن الطريقة الأفضل تعتمد كلياً على كيفية محاولة الذكاء الاصطناعي حل اللغز.
إليك تفصيل نتائجهم باستخدام تشبيهات من الحياة اليومية:
1. الطريقتان لإعطاء الذكاء الاصطناعي ذاكرة
حدد الباحثون طريقتين رئيسيتين لمساعدة الذكاء الاصطناعي على التذكر:
- "المذكرات اليومية" (التفكير التأملي - Reflection): بعد فشل الذكاء الاصطناعي، يقوم ذكاء اصطناعي ثانٍ أكثر ذكاءً بقراءة القصة كاملة لما حدث بشكل خاطئ وكتابة ملخص.
- التشبيه: يشبه الأمر مدرباً يشاهد لاعباً لكرة القدم يضيع هدفاً، ثم يكتب ملاحظة تقول: "لقد ركلت الكرة بقوة زائدة؛ صوب للأسفل في المرة القادمة".
- "ورقة الحقائق" (الحقائق الذرية - Atomic Facts): بدلاً من القصة، يستخرج الذكاء الاصطناعي حقائق صغيرة ومحددة من البيئة المحيطة.
- التشبيه: يشبه ورقة غش تقول: "الملف موجود في مجلد 'المستندات'"، أو "قاعدة البيانات تحتوي على جدول يسمى 'المستخدمين'". هي لا تقدم نصائح، بل تقدم بيانات خام فقط.
2. الطرق الثلاث التي يحاول بها الذكاء الاصطناعي حل اللغز
اختبر الباحثون هذه الذاكرات مقابل ثلاث "استراتيجيات بحث" يستخدمها الذكاء الاصطناعي:
- "الأفعوانية" (أفضل النتائج من N - Best-of-N): يحاول الذكاء الاصطناعي حل اللغز 5 مرات من الصفر، جنباً إلى جنب، ويختار أفضل نتيجة في النهاية. هو لا يتحدث مع نفسه بين المحاولات.
- "متسلق الأشجار" (البحث الشعاعي - Beam Search): يتفرع الذكاء الاصطناعي مثل الشجرة. عند كل خطوة، يحتفظ بأكثر 3 مسارات واعدة ويتجاهل البقية.
- "المستكشف" (بحث مونت كارلو لشجرة البحث - MCTS): يستكشف الذكاء الاصطناعي مسارات عديدة بعمق، محاكياً المستقبل ليرى أي مسار يبدو الأفضل، ثم يتراجع لتجربة المسار الأكثر وعداً مرة أخرى.
3. الاكتشاف الكبير: "المقاس الواحد لا يناسب الجميع"
الاستنتاج الرئيسي للبحث هو أن طريقة الذاكرة لا تعمل إلا إذا تطابقت مع استراتيجية البحث. إذا قمت بخلطهما، فقد تجعل الذاكرة الأمور أسوأ أو لا تفعل شيئاً.
"المذكرات اليومية" (Reflection) تعمل فقط مع "المستكشف" (MCTS).
- لماذا؟ المستكشف يتحقق باستمرار من تقدمه. إذا قالت "المذكرات": "لا تسلك هذا المسار"، فإن المستكشف يستمع ويقطع هذا الفرع فوراً.
- الأفعوانية (Best-of-N) لا تستمع. هي فقط تشغل جميع المحاولات الخمس حتى النهاية، حتى لو قالت "المذكرات" إنها محكوم عليها بالفشل. يتم تجاهل الذاكرة حتى فوات الأوان.
خدعة "السيناريو المتوازي" (Raw Sibling) تعمل فقط مع "متسلق الأشجار" (Beam Search).
- ما هي هذه الخدعة؟ هي طريقة جديدة حيث تتواصل فروع الذكاء الاصطناعي المختلفة مع بعضها البعض أثناء نموها. إذا جرب "الفرع أ" حركة وفشل، يرى "الفرع ب" ذلك فوراً ويجرب شيئاً مختلفاً.
- لماذا؟ متسلق الأشجار غالباً ما "يعلق" حيث تحاول جميع فروعه القيام بنفس الحركة الخاطئة تماماً. هذه الخدعة تجبرهم على أن يكونوا مختلفين. أما "المستكشف" (MCTS) فهو بارع بالفعل في أن يكون مختلفاً، لذا فإن هذه الخدعة لا تفيده.
"ورقة الحقائق" (Atomic Facts) هي معزز سرعة، وليست حلاً سحرياً.
- النتيجة: لم تجعل إعطاء الذكاء الاصطناعي قائمة من الحقائق تجعله أكثر دقة (بقيت الدقة كما هي).
- الفائدة: جعلت الذكاء الاصطناعي أسرع بكثير. لأن الذكاء الاصطناعي عرف بالفعل أن "الملف موجود في مجلد المستندات"، لم يضع وقته في البحث عنه مرة أخرى. لقد تخطى خطوات الاكتشاف المملة.
- العيب: هذا يعمل فقط إذا كانت بيئة اللغز مستقرة (مثل قاعدة بيانات). إذا كانت البيئة تتغير في كل مرة (مثل طرفية جهاز كمبيوتر جديدة)، فإن الحقائق تصبح بلا فائدة لأنها لا تنطبق على الموقف الجديد.
4. النتيجة "المربكة"
في لغز واحد محدد وصعب جداً (Knowledge Graph QA)، وجد الباحثون أن "المذكرات اليومية" وطريقة "السيناريو المتوازي" قدما نفس النتائج تماماً.
- الدرس المستفاد: هذا تحذير للعلماء الآخرين. إذا اختبرت طريقة واحدة فقط على نوع واحد من الألغاز، فقد تعتقد أن طريقتك هي "الفائزة". لكن هذا البحث يظهر أن "الفائز" يتغير بناءً على كيفية لعب اللعبة. لا يمكنك مقارنة النتائج من دراسات مختلفة ما لم تستخدم نفس استراتيجية البحث.
الملخص
فكر في الذكاء الاصطناعي كطالب يؤدي امتحاناً.
- إذا كان الطالب يخمن بعشوائية (Best-of-N)، فإن إعطاءه ملخصاً لأخطاء الماضي (Reflection) لا يساعد لأنه لا يتوقف للقراءة.
- إذا كان الطالب عالقاً في حلقة مفرغة (Beam Search)، فإن إخباره "مهلاً، أخوك جرب ذلك وفشل للتو" (Raw Sibling) يساعده على كسر الحلقة.
- إذا كان الطالب يستكشف بعمق (MCTS)، فإن ملخص المدرب (Reflection) يساعده على تقليم المسارات السيئة.
- إذا كان الطالب يحتاج فقط إلى التوقف عن إضاعة الوقت في البحث عن أشياء يعرفها بالفعل، فإن ورقة الحقائق (Fact Extraction) تسرع عمله، حتى لو لم تجعله أكثر ذكاءً.
الخلاصة: لا يمكنك مجرد إضافة "ذاكرة" للذكاء الاصطناعي وتوقع أن تعمل. يجب أن تطابق نوع الذاكرة مع نوع التفكير الذي يقوم به الذكاء الاصطناعي.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.