ملخص تقني: دراسة تجريبية لتمثيلات التخطيط لوكلاء الويب القائمين على النماذج اللغوية الكبيرة (LLMs)

بيان المشكلة

على الرغم من التقدم الأخير في النماذج اللغوية الكبيرة (LLMs)، لا تزال وكلاء الويب تعاني من الاستكشاف المحدود، وإغفال الخطوات الحرجة، والحساسية تجاه قيود المهام. وبينما يُنظر إلى التخطيط على نطاق واسع كاستراتيجية رئيسية لتفكيك المهام المعقدة، ركزت الأبحاث الحالية بشكل كبير على خوارزميات التخطيط بدلاً من تمثيل تلك الخطط. تعتمد معظم النهج الحالية على قوائم متسلسلة من الأهداف الفرعية المصاغة بلغة طبيعية. ومع ذلك، لا يزال تأثير تمثيلات الخطط البديلة باللغة الطبيعية (NL) على متانة الوكيل والنجاح في المهمة غير مستكشف بشكل كافٍ. علاوة على ذلك، تفتقر المعايير المرجعية الحالية غالباً إلى تصنيف قابل لإعادة الإنتاج لمستوى الصعوبة، مما يجعل من الصعب تقييم استراتيجيات التخطيط بشكل منهجي تحت مستويات متفاوتة من التعقيد.

المنهجية

الإطار العملي: PLANAHEAD

قدم المؤلفون إطار عمل PLANAHEAD، وهو إطار عمل ثابت للمخطط والمنفذ (planner-executor) مصمم لعزل وتقييم تأثير تمثيل الخطة. وخلافاً لطرق التخطيط الديناميكي حيث يقوم الوكيل بتوليد خطط جديدة عند كل خطوة، يقوم PLANAHEAD بتوليد خطة ثابتة واحدة في بداية المهمة. ثم تُقدم هذه الخطة إلى نموذج لغوي منفذ (executor LLM)، والذي يقوم بتنفيذ إجراءات منخفضة المستوى بناءً على حالة المتصفح الحالية. يضمن هذا الإعداد أن الفروق في الأداء تنشأ من صياغة الخطة والنماذج الأساسية، وليس من العشوائية على مستوى الإجراء أو الأعباء الإضافية لإعادة التخطيط الديناميكي.

المعيار المرجعي وصعوبة المهمة

تستخدم الدراسة بيئة WebArena، وهي بيئة مغلقة وقابلة لإعادة الإنتاج تحتوي على تفاعلات ويب متنوعة وواقعية. ولمعالجة الافتقار إلى تصنيف معياري للصعوبة، طور المؤلفون مساراً مؤتمتاً لتصنيف 381 مهمة من WebArena إلى ثلاثة مستويات: سهل (Easy)، متوسط (Medium)، وصعب (Hard).

• منطق التصنيف: تم تقييم المهام باستخدام GenericAgent خفيف الوزن عبر خمسة نماذج لغوية أساسية مختلفة مع خمس تجارب مستقلة لكل منها.
  • سهل: معدل نجاح بنسبة 100% عبر جميع النماذج والتجارب.
  • صعب: معدل نجاح بنسبة 0% عبر جميع النماذج والتجارب.
  • متوسط: معدلات نجاح متوسطة.
    تركز الدراسة تحديداً على مجموعة المهام الصعبة (158 مهمة)، حيث توفر هذه المجموعة الإطار الأكثر إفادة لتقييم قدرات التخطيط تحت ظروف تحدي عالية.

الإعداد التجريبي

قيم المؤلفون أربعة تمثيلات مختلفة للخطط على المهام الصعبة عبر عائلات مختلفة من النماذج اللغوية متعددة الوسائط (OpenAI، Alibaba، وGoogle):

1. الأهداف الفرعية المتسلسلة (Sequential Subgoals): النهج القياسي الذي يستخدم قائمة مرتبة من الأهداف الفرعية عالية المستوى.
2. قائمة التحقق من المتطلبات (Requirement Checklist): قائمة غير مرتبة من المتطلبات التي يجب تلبيتها، مما يترك ترتيب التنفيذ للمنفذ.
3. البرمجة الوهمية (Pseudocode): تنسيق مهيكل يستخدم دوالاً، وجمل شرطية، وحلقات تكرارية بديهية لالتقاط الاحتمالات الطارئة.
4. السرد (Narrative): وصف نصي طويل ومفصل لعملية إتمام المهمة.

اختبرت التجارب تركيبات مختلفة من المخطط والمنفذ، بما في ذلك الإعدادات المتجانسة (نفس النموذج لكلا الدورين) والإعدادات غير المتجانسة (نماذج مختلفة للتخطيط والتنفيذ).

مقاييس التقييم

إدراكاً منهم أن معدل النجاح (SR) القياسي يعامل كل تجربة كحدث مستقل ويفشل في التقاط الطبيعة العشوائية للنماذج اللغوية الكبيرة، قدم المؤلفون مقييزين جديدين:

• معدل الإنجاز (Achievement Rate - AR): يقيس مدى إمكانية تحقيق المهمة على مستوى المهمة عبر عمليات تشغيل متعددة. تُعتبر المهمة "مُنجزة" إذا نجحت واحدة على الأقل من أصل $N$ من عمليات التشغيل. وهذا يميز بين المهام التي "نادراً ما تُحل" وتلك التي "لا تُحل تماماً".
• اتساق المهمة المحققة (Solved-Task Consistency - STC): مقياس للمتانة يقيس موثوقية الأداء عبر التجارب للمهام التي تم تحقيقها مرة واحدة على الأقل.

المساهمات الرئيسية

1. التصنيف الآلي لصعوبة المهام: يقدم البحث مساراً قابلاً لإعادة الإنتاج لتقسيم مهام المعيار المرجعي إلى مستويات صعوبة دون الحاجة لتدخل بشري، مما يسمح بتقييم منهجي لاستراتيجيات التخطيط.
2. تقييم تمثيلات التخطيط الجديدة: تقترح الدراسة وتقيم ثلاثة تنسيقات بديلة للخطط القائمة على اللغة الطبيعية (السرد، البرمجة الوهمية، قائمة التحقق) مقابل الأهداف الفرعية المتسلسلة القياسية.
3. مقاييس تقييم جديدة: يوفر تقديم AR وSTC رؤية أكثر دقة لأداء الوكيل، حيث يلتقط كل منهما القدرة على الإنجاز والاتساق في البيئات العشوائية.

النتال وتحليلها

أسفرت الدراسة التجريبية عن عدة نتائج هامة:

• تمثيل الخطة أمر جوهري: تعتمد فعالية استراتيجية التخطيط بشكل كبير على النموذج اللغوي الأساسي.
  • أظهر نموذج GPT-4.1-mini أفضل أداء باستمرار مع الخطط السردية (Narrative)، مما يشير إلى أن النماذج المدربة بكثافة على النصوص اللغوية الطبيعية تستفيد من التعليمات الوصفية المتماسكة بفعالية.
  • حقق نموذج Qwen-2.5-VL أفضل أداء مع تمثيلات قائمة التحقق (Checklist)، مستفيداً من التوجيه الهيكلي والصريح.
  • أظهرت نماذج Gemini أداءً تنافسياً عبر تنسيقات متعددة واستفادت بشكل ملحوظ من التنسيقات غير القياسية؛ وتحديداً، حققت البرمجة الوهمية (Pseudocode) معدلات إنجاز عالية عندما لعب Gemini دور المخطط والمنفذ معاً.
• الفصل بين المخطط والمنفذ: تفوقت أزواج (المخطط-المنفذ) المختلطة عموماً على الإعدادات المتجانسة. فعلى سبيل المثال، حقق الجمع بين GPT-4.1-mini كمخطط وGemini كمنفذ أقوى أداء إجمالي. يشير هذا إلى أن النماذج المختلفة تمتلك نقاط قوة متكاملة: فبعضها يتفوق في التخطيط الهيكلي عالي المستوى، بينما يتفوق البعض الآخر في تنفيذ الإجراءات منخفضة المستوى.
• التخطيط الثابت مقابل الديناميكي: خلافاً للاعتقاد السائد بأن إعادة التخطيط الديناميكي هي الأفضل، غالباً ما تفوق التخطيط الثابت على التخطيط أحادي الوكيل الديناميكي. كشف التحليل النوعي أن الوكلاء الديناميكيين غالباً ما يدخلون في حلقات مفرغة من الإجراءات، أو يفقدون تتبع تقدم المهمة، أو يحددون المهام الفرعية كمكتملة قبل أوانها. سمح إعداد المخطط والمنفذ الثابت للمنفذ بالتركيز حصرياً على اختيار الإجراء دون العبء المعرفي لإعادة التخطيط المستمر.

الأهمية والادعاءات

يدعي البحث أن صياغة الخطة والشكل المحدد للنموذج اللغوي الذي ينشئها يؤثران بشكل كبير على متانة وكيل الويب والنجاح في المهمة. ومن خلال تحدي الافتراض القائل بأن الخطط يجب أن تأخذ شكل أهداف فرعية متسلسلة، يوضح المؤلفون أن التنسيقات غير القياسية يمكن أن تكون مفيدة، خاصة للمهام الصعبة.

تؤكد الدراسة أن فعالية التخطيط ليست مجرد وظيفة لقدرة النموذج، بل ترتبط أيضاً بعمق بـ الشكل التمثيلي للخطة. وتدعم النتائج اعتماد بنيات الوكلاء النمطية (modular) التي تستغل نقاط القوة المتكاملة للنماذج (مثل استخدام نموذج للتخطيط وآخر للتنفيذ)، وتقترح أن التخطيط الثابت يمكن أن يكون بديلاً أكثر متانة وكفاءة للتخطيط الديناميكي في سياقات معينة.

يظل المؤلفون متواضعين بشأن نطاق بحثهم، حيث أقروا بالقيود مثل المجموعة المحدودة من النماذج اللغوية، واستخدام معيار مرجعي واحد (WebArena)، وعدد محدود من عمليات التشغيل ($N=5$). ويفترضون أن توسيع هذه المتغيرات سيوفر صورة أكثر شمولاً لفعالية التخطيط.