ملخص تقني: من الرقع إلى المسارات (P2T)

بيان المشكلة

الطريقة المهيمنة لغرس قدرات الاستقصاء والاستنتاج في وكلاء هندسة البرمجيات المفتوحة (SWE) هي الضبط الدقيق الخاضع للإشراف (SFT) على مسارات طويلة تم إنشاؤها بواسطة نماذج معلمة قوية. ومع ذلك، فإن الـ SFT القياسي يعامل كل استجابة محتفظ بها كهدف للتقليد. وبناءً على ذلك، يرث الوكلاء الطلاب ليس فقط النتائج الناجحة، بل وأيضًا العيوب في الخطوات المتوسطة، مثل القفزات غير المستندة إلى أدلة، أو الحلقات التكرارية الزائدة، أو الاستكشاف التخميني.

تعتمد خطوط أنابيب بناء البيانات الحالية على أخذ العينات بالرفض المفلتر بالنتائج: حيث تحتفظ بالمسارات التي تجتاز فيها الرقعة النهائية مجموعة اختبارات فقط. ويعاني هذا النهج من ثلاث قيود حرجة:

1. الافتقار إلى الإشراف على العمليات: لا يوفر أي تغذية راجعة على خطوات الاستنتاج المتوسطة، بل يركز فقط على النتيجة النهائية.
2. عدم الكفاءة: غالبًا ما تحتوي المسارات المحتفظ بها على مشاهدات ملفات زائدة، أو استدعاءات أدوات غير مفيدة، أو حلقات تكرارية، مما يزيد من تكاليف الاستدلال.
3. هدر البيانات: يتم التخلص من الحالات التي تفشل فيها المعلمة في إنتاج رقعة ناجحة، حتى لو كان استقصاء المعلمة قد كشف عن حقائق متوسطة قيمة.
4. خطر التسريب: إن استخدام الرقعة المرجعية ($p^\star$) ببساطة لتوجيه التوليد ينطوي على خطر "تسريب الحل"، حيث يقوم الوكيل بإجراء تعديلات أو ادعاءات قبل جمع الأدلة اللازمة، مما يؤدي إلى قفزات غير مبررة يقلدها الطالب لاحقًا.

التحدي الجوهي هو بناء بيانات تدريب تكون في الوقت نفسه فعالة (كل خطوة تضيق الفجوة المعرفية للوصول إلى الإصلاح الصحيح باستنتاج مستند إلى أدلة) وكفؤة (كل خطوة تحمل معلومات، وتتجنب التكرار)، دون تعريض الرقعة المرجعية للوكيل الطالب.

المنهجية: P2T (من الرقع إلى المسارات)

يقترح المؤلفون إطار عمل P2T، الذي يعامل الرقعة المرجعية التي صاغها المطور ($p^\star$) كـ معلومات مميزة أثناء عملية تنسيق البيانات. لا يرى الطالب $p^\star$ أبدًا؛ بدلاً من ذلك، تقوم عملية التنسيق بتقطير $p^{\star}$ إلى بنية كامنة لتوجيه بناء المسار.

يعمل P2T في مرحلتين:

المرحلة 1: تقطير الرسم البياني للعملية (المرحلة العكسية)

يتم تحويل الرقعة المرجعية $p^\star$ إلى رسم بياني للعملية الكامنة $G^\star_i = (V_i, E_i)$.

• العقد ($V_i$): تمثل الحقائق السياقية المتوسطة (مثل مواقع الملفات، سلوكيات وقت التشغيل) ومعالم الحل (مثل سكربتات إعادة الإنتاج، خطط الإصلاح، التعديلات) التي يجب على المطور الكفوء إثباتها قبل أن يكون الإصلاح قابلاً للاستنتاج.
• الحواف ($E_i$): تشفر علاقات المتطلبات المسبقة، مما يضمن ترتيبًا طوبولوجيًا حيث لا يمكن اكتشاف عقدة إلا بعد إثبات متطلباتها المسبقة.
• البناء: حلقة المقترح-الناقد (Proposer-Critic) تكرارية باستخدام وكلاء LLM:
  • المقترح: يحدد الحقائق أو المعالم المفقودة اللازمة لاستنتاج $p^\star$.
  • الناقد: يفرض عدم التسريب، ويقوم باستبعاد أي عقدة يفترض "مفتاح فتحها" (الإجراء المطلوب لاكتشافها) معرفة مسبقة بـ $p^\star$ نفسها.
• النتيجة: رسم بياني $G^\star$ يشفر المتطلبات المسبقة اللازمة للإصلاح دون الكشف عن الإصلاح نفسه.

المرحلة 2: تحقيق المسار ثنائي الأهداف ذو الأفق المتراجع (المرحلة الأمامية)

يتم بناء المسارات عن طريق أخذ عينات من تكملات معماة من نموذج معلمة وتنسيقها مقابل $G^\star$.

• توليد المرشحين: عند كل نافذة منزلقة، يقوم النظام بأخذ عينات من $K$ من "البذور المعماة" من المعلمة. ثم يولد "متغيرات متحولة" عن طريق تطبيق تعديل موضعي واحد على الأقل على خطوة البذرة، لتوجيهها نحو عقدة متاحة في $G^\star$.
• الاختيار ثنائي الأهداف: يختار النظام مقطعًا بناءً على معيارين:
  1. الفعالية: تُقاس من خلال درجة التقدم ($Prog_t$) التي تحصي العقد المنشأة حديثًا في $G^\star$، مع معاقبة الادعاءات المبكرة. تضمن بوابة الاستناد عدم إشارة أي خطوة إلى كيانات أو تقديم ادعاءات غير مدعومة بما هو ظاهر في السجل التاريخي.
  2. الكفاءة: تُقاس بطول المسار (عدد الرموز أو عدد الخطوات).
• قاعدة الالتزام: يطبق النظام قاعدة "الأقصر فوق الحد الأدنى": من بين المقاطع التي تستوفي حدًا أدنى من الفعالية، يلتزم النظام بالأقصر منها. يضمن هذا أن يكون المسار موجزًا مع الحفاظ على استناد صارم.
• الإنهاء: تتكرر العملية حتى يتم توليد رقعة. يتم قبول المسارات التي تمر فيها الرقعة النهائية باختبار المجموعة فقط في مجموعة بيانات SFT.

المساهمات الرئيسية

1. صياغة المشكلة: صاغ المؤلفون بناء بيانات SFT لوكيل SWE كـ مشكلة تحسين ثنائية الأهداف عبر الفعالية لكل خطوة وطول المسار، موضحين أن أخذ العينات بالرفض المفلتر بالنتائج القياسي يفشل في توفير إشارات على أي من المحورين.
2. إطار عمل P2T: إطار تنسيق مبتكر يستخدم $p^\star$ كمعلومات مميزة. يقوم بتقطير $p^\star$ إلى رسم بياني للعملية غير مسرب $G^\star$ ويحقق مسارات قصيرة، مستندة إلى أدلة، وموجهة بواسطة $G^\star$ دون تعريض الرقعة للطالب.
3. التحقق التجريبي: باستخدام 1.8 ألف حالة منسقة فقط من SWE-Gym، يحقق P2T تحسنًا متزامنًا في الفعالية والكفاءة مقارنة بالنماذج المرجعية المعتمدة على رفض النتائج.

النتائج التجريبية

قام المؤلفون بتقييم P2T على SWE-bench Verified و SWE-bench Lite باستخدام نموذجين طلاب (Qwen2.5-Coder-14B/32B) ومعلمين منسقين (Qwen3-Coder-480B, GLM-5-FP8).

• مكاسب الأداء: في SWE-bench Verified، حسن P2T Pass@1 بما يصل إلى +10.8 نقطة (على سبيل المثال، من 39.6% إلى 50.4% لطالب 32B) مقارنة بالنموذج المرجعي لأخذ العينات بالرفح المفلتر بالنتائج.
• مكاسب الكفاءة: خفض P2T تكاليف الاستدلال لكل حالة بنسبة ~15% (على سبيل المثال، من 0.92 دولار إلى 0.78 دولار)، مما يثبت أن المسارات المنسقة أقصر وأقل تكرارًا بشكل ملحوظ.
• تحليل الجودة:
  • كانت المسارات المنسقة أقصر بنسبة 9.3% وأقل تكرارًا بنسبة 31.0% (من حيث إجراءات عرض الملفات) من عمليات التشغيل المرفوضة.
  • انتقلت هذه التحسينات الهيكلية إلى الطلاب المدربين، الذين أنتجوا مسارات أقصر بنسبة 10.3% وأقل تكرارًا بنسبة 19.5% من الطلاب المدربين بالنماذج المرجعية.
• دراسات الاستئصال (Ablation Studies):
  • أدى إزالة فحص الاستناد إلى انخفاض قدره ~7.2 نقطة في Pass@1، مما يؤكد ضرورة منع القفزات غير المستندة إلى أدلة.
  • أدت إزالة قاعدة "الأقصر فوق الحد الأدنى" إلى زيادة طول المسار وعدد الرموز، مما قلل من Pass@1، مما يشير إلى أن المسارات الأقصر تحمل ضجيج تقليد أقل.
  • أكدت دراسة قيمة المعلومات أن المكاسب مدفوعة بالمعلومات المشفرة في $G^\star$ وليس مجرد آليات التنسيق أو حجم البيانات.

الأهمية والادعاءات

يزعم البحث أن وحدة الإشراف الصحيحة للوكلاء القادرين ليست المسار أو المنتج النهائي بمعزل عن بعضهما، بل هي البنية التي تربطهما.

• تفكيك المعلومات المميزة: يثبت P2T أن الرقع المرجعية، التي غالبًا ما تُهمل كحقائق مجردة، يمكن استغلالها كإشارات مميزة لتشكيل بيانات تدريب عالية الجودة دون المساس بقدرة الطالب على تعلم مهارات الاستقصاء الحقيقية.
• التحسين المتزامن: يتحدى العمل المقايضة بين الاستكشاف (الفعالية) والكفاءة. من خلال استخدام رسم بياني للعملية لترسيخ التقدم، يحقق P2T كليهما: معدلات حل أعلى وتكاليف استدلال أقل، مما يثبت أن "الاستكشاف الحذر والمستند إلى أدلة" لا يتطلب بالضرورة "تقصيرًا عدوانيًا" يستدعي اختصارات غير مدعومة.
• الجودة فوق الحجم: تشير النتائج إلى أن جودة كل مسار، المستمدة من الإشراف على العمليات المنهجي، هي محرك أكثر قوة لأداء الوكيل من مجرد زيادة حجم البيانات المفلترة بالنتائج.

يتبنى المؤلفون موقفًا متواضعًا، معترفين بالقيود مثل الاعتماد على مجموعات اختبار قابلة للتنفيذ ورقع مرجعية، والطبيعة التجريبية (بدلاً من الرسمية) لفحوصات الاستناد التي تتم عبر LLM. ويضعون P2T كخطوة نحو نهج أكثر هيكلية للإشراف على العمليات في وكلاء هندسة البرمجيات.