AutoSaddler: Automatic Harness Optimization with Durable Updates from Agent Execution Traces
يُعد AutoSaddler إطار عمل تلقائي يعمل على تحسين أطر عمل وكلاء النماذج اللغوية الكبيرة (LLM) من خلال التشخيص المتكرر لتتبعات الفشل من سجلات التنفيذ وتوليد تصحيحات برمجية مهيكلة، مما يحسن بشكل كبير من متانة الوكلاء وأدائهم في المهام طويلة المدى عبر معايير قياسية متعددة.
المؤلفون الأصليون:Sungho Park, Wonjoong Kim, Rongyuan Tan, Jue Zhang, Wook-Shin Han, Pengfei Gao, Chanyoung Park, Yongqiang Yao, Rao Fu, Elsie Nallipogu, Qingwei Lin, Saravan Rajmohan, Dongmei Zhang
في عالم الذكاء الاصطناعي المتطور بسرعة، يبني الباحثون بشكل متزايد أنظمة تفعل أكثر من مجرد الإجابة على الأسئلة؛ إنها تعمل. هذه "الوكلاء" (agents) هي برامج حاسوبية مدعومة بنماذج لغوية كبيرة يمكنها تخطيط تسلسل من الخطوات، واستخدام أدوات رقمية، والتفاعل مع بيئة حاسوبية لحل المشكلات المعقدة. تخيل أنك تطلب من الحاسوب تنظيم رحلة لمدة أسبوع، وحجز رحلات طيران، وحجز فنادق. الوكيل لا يكتفي بإعطائك قائمة فحسب؛ بل يقوم بتسجيل الدخول، والبحث، ومقارنة الأسعار، وإتمام عمليات الحجز. ومع ذلك، غالباً ما تعاني هذه الأنظمة عندما تصبح المهام طويلة أو معقدة. فخطأ صغير في بداية العملية، مثل سوء تفسير تعليمات واحدة، يمكن أن يتفاقم ليصبح فشلاً ذرياً بعد ساعات. ولمنع حد هذا، يبني المهندسون طبقة واقية من الكود البرمئي حول الوكيل، تُعرف باسم "الحزام" (harness). يعمل هذا الحزام كمشرف، حيث يتحقق من عمل الوكيل، ويدير أدواته، ويضمن بقاءه على المسار الصحيح. ولسنوات، كان تصميم هذا الحزام وظيفة بطيئة ويدوية، تتطلب من الخبراء البشريين تعديل التعليمات والإعدادات يدوياً، وهي عملية يصعب توسيع نطاقها وغالباً ما تترك النظام هشاً.
قدم فريق من الباحثين طريقة جديدة تسمى AutoSaddler تقوم بأتمتة عملية التصميم هذه بالكامل. فبدلاً من الاعتماد على الحدس البشري لإصلاح كود المشرف، يعامل النظام الحزام نفسه كقطعة من البرمجيات التي يمكن تحسينها من خلال دورة صارمة من الاختبار والتعلم. صاغ الباحثون المشكلة كمسألة تعلم غير متصل (offline learning)، مما يعني أن النظام يتعلم من مجموعة من الإخفاقات الماضية بدلاً من محاولة اكتشاف الأمور في الوقت الفعلي. قاموا بتغذية النظام بدفعات من المهام التي فشل الوكيل في إكمالها سابقاً. ثم قام النظام بتحليل السجلات التفصيلية لهذه الإخفاقات، المعروفة باسم "آثار التنفيذ" (execution traces)، لفهم أين ولماذا أخطأ الوكيل بالضبط. لم يقم النظام بالتخمين فحسب؛ بل تعمق في الكود والسجلات للعثور على السبب الجذري، تماماً مثل الميكانيكي الذي يشخص عطل محرك السيارة من خلال الاستماع إلى الضجيج وفحص الأجزមាន بدلاً من مجرد التخمين بشأن أي مسمار يجب شدّه.
بمجرد أن حدد النظام المشكلة، قام بإنشاء إصلاح محدد ومنظم، أو "رقعة" (patch)، لكود الحزام. لم تكن هذه الرقع عشوائية التعديلات؛ بل كانت مصنفة بعناية إلى ثلاثة أنواع: تغييرات في تعليمات الوكيل، وتغييرات في الأدوات التي يمكنه استخدامها، وتغييرات في المنطق الذي يتحكم في سلوكه. ثم اختبر النظام هذه الرقع فوراً على نفس دفعة المهام ليرى ما إذا كانت تعمل بالفعل. وإذا نجحت الرقعة في إصلاح المشكلة الفورية دون كسر أي شيء آخر، ينتقل النظام إلى خطوة ثانية حاسمة: التحقق مما إذا كان الإصلاح سيعمل على مهام جديدة وغير مرئية. كانت هذه الخطوة حيوية لضمان أن النظام لا يقوم فقط بحفظ الإجابات للمشكلات المحددة التي رآها، بل أصبح في الواقع أكثر ذكاءً بطريقة عامة. بنى الباحثون نظام ذاكرة، وهو عبارة عن رسم بياني موجه يتتبع تاريخ كل تغيير، وكل نجاح، وكل فشل، مما سمح للنظام بالتعلم من تاريخه الكامل بدلاً من مجرد المحاولة الأخيرة.
كانت نتائج هذا النهج كبيرة. فعند اختباره على ثلاثة معايير مختلفة تتضمن مهاماً معقدة، تفوق النظام باستمرار على الحزمة الأصلية المصممة يدوياً. وفي مجموعة من مهام المساعد العام، حسّن النظام الآلي معدل النجاح بمقدار تسع نقاط مئوية. وفي معيار لمهام هندسة البرمجيات، تحسن بمقدار عشر نقاط تقريباً، وفي اختبار حل المشكلات القائم على الطرفية (terminal)، حقق أيضاً عشر نقاط. كانت هذه المكاسب كبيرة بما يكفي لتجاوز ليس فقط التصميمات اليدوية الأصلية، بل وأيضاً الطرق المؤتمتة الأخرى التي حاولت تحسين النظام. وجد الباحثون أن مفتاح هذا النجاح لم يكن مجرد تجربة العديد من التغييرات العشوائية، بل التركيز على التشخيص العميق، وإجراء تغييرات هيكلية مستهدفة، والاختيار الصارم فقط للتغييرات التي ثبت أنها مفيدة على نطاق واسع.
استبعدت الدراسة صراحة عدة مقاربات شائعة قد تبدو بديهية ولكنها أثبتت عدم فعاليتها. فقد أظهر الباحثون أن مجرد التأمل في الفشل دون تحقيق عميق في الكود والسجلات أدى إلى إصلاحات سطحية لم تصمد. كما أظهروا أن السماح للنظام بإجراء تعديلات عشوائية غير مقيدة على الكود أدى إلى بحث فوضوي نادراً ما وجد الحل الصحيح، وغالباً ما يعلق على تعديلات نصية بسيطة بينما يتجاهل التحسينات الهيكلية الكبرى. علاوة على ذلك، وجدوا أن تحسين النظام للمهام المحددة التي تمت رؤيتها أثناء التدريب فقط تسبب في "فرط التخصيص" (overfitting)، مما يعني أنه أصبح ممتازاً في تلك المهام المحددة ولكنه فشل عند مواجهة تنويعات جديدة. نجح النظام فقط عندما أُجبر على التحقق من تغييراته مقابل مجموعة منفصلة من المهام غير المرئية، مما ضمن أن التحسينات كانت متينة وعامة.
من خلال الاختبارات المكثفة، أكد الباحثون أن طريقتهم قوية وفعالة. فقد وصل النظام إلى مستويات عالية من الأداء باستخدام موارد حاسوبية أقل بكثير من الطرق المنافسة، حيث تطلب حوالي عشر مرات أقل من المحاولات لتعلم الدروس نفسها. جاءت هذه الكفاءة من قدرة النظام على التعلم بعمق من كل فشل، بدلاً من مجرد محاولة حل المشكلة بالقوة الغاشمة عبر ملايين التخمينات العشوائية. تشير الدراسة إلى أن مستقبل الوكلاء الموثوقين للذكاء الاصطناعي يكمن في هذه الأطر ذاتية التحسين والمؤتمتة التي يمكنها تشخيص وتدقيق تعليمات تشغيلها بشكل منهجي. ومن خلال التعامل مع الحزام ككود يمكن تطويره من خلال التشخيص القائم على الأدلة والإصلاح الهيكلي، فتح الباحثون مساراً نحو أنظمة ذكاء اصطناعي أكثر قدرة وموثوقية يمكنها التعامل مع المهام الطويلة والمعقدة في العالم الحقيقي دون تدخل بشري مستمر.
ملخص تقني: AutoSaddler
بيان المشكلة
تُظهر وكلاء النماذج اللغوية الكبيرة (LLMs) ما يُعرف بـ "الذكاء المتعرج" (jagged intelligence)، حيث تؤدي بشكل جيد في بعض المهام بينما تفشل في مهام أخرى تبدو مشابهة أو حتى أبسط. يخلق هذا التباين تحديًا جوهريًا في الموثوقية، لا سيما في المهام المستقلة طويلة الأمد ومتعددة الخطوات، حيث يعتمد النجاح على الكفاءة المستمرة عبر العديد من القرارات المتتالية. وبينما يمكن لـ "الأحزمة" الخارجية (وهي طبقات من المطالبات، والأدوات، ومنطق التحكم المحيط بالنموذج اللغوي الكبير) أن تحسن المتانة بشكل كبير، فإن تصميمها يدويًا يستغرق وقتًا طويلاً ومكلفًا وصعب التنفيذ. كما أن مساحة البحث لتحسين الحزام واسعة جدًا، حيث تشمل مواصفات المطالبات (prompts)، وتكوينات الأدوات، ومنطق التحكم في وقت التشغيل. علاوة على ذلك، فإن تقييم الأحزمة المرشحة أمر مكلف، حيث قد تتطلب الوكلاء العديد من خطوات التنفيذ قبل تحديد النجاح أو الفشل، وغالبًا ما يتطلب تحليل هذه المسارات طويلة الأمد جهدًا يدويًا كبيرًا.
المنهجية: AutoSaddler
يقترح المؤلفون AutoSaddler، وهو إطار عمل يصيغ تحسين الحزام التلقائي كـ مشكلة تعلم غير متصل (offline learning). بدلاً من التعلم المستمر عبر الإنترنت، يقوم AutoSaddler بتحسين الحزام بشكل تكراري باستخدام إشارات الفشل من دفعات من مهام التدريب. يتعامل الإطار مع الحزام نفسه ككود برمجي ويعمل من خلال حلقة تكرارية تتكون من ثلاث جلسات رئيسية:
جلسة التشخيص والإصلاح (Diagnosis–Patch Session):
التشخيص المتعمق: على عكس طرق الانعكاس السطحية التي تستنتج أسباب الفشل من استدعاء واحد للنموذج اللغوي، يستخدم AutoSaddler "وكيل التشخيص والإصلاح" الذي يستكشف بنشاط كل من آثار التنفيذ (execution traces) والشيفرة المصدرية للحزام. يستخدم الإطار مجموعة أدوات Claude Agent SDK (المعروفة بـ CA-SDK) لاسترجاع تفاصيل الأثر والكود ذي الصلة، وتحديد الأسباب الجذرية المشتبه بها والفرضيات البديلة.
توليد الإصلاح الهيكلي: يولد الوكيل إصلاحات مهيكلة (Δθ) تستهدف مكونات محددة في الحزام: المطالبات (التعليمات)، الأدوات (الواجهات والتنفيذات)، والبرمجيات الوسيطة (خطافات وقت التشغيل ومنطق الحلقة).
الجدولة المرحلية: لإدارة مساحة البحث، يتم تقسيم الإصلاحات إلى إصلاحات القدرة (تعديل الكود القابل للتنفيذ أو منطق التنسيق) وإصلاحات التوجيه (تعديلات نصية على المطالبات أو الأوصاف). يبدأ التحسين بمرحلة القدرة لمعالجة الفجوات الهيكلية، تليها مرحلة التوجيه للتحسين السلوكي.
التحقق: يتم إعادة تقييم الحزام المُصلح فورًا على نفس الدفعة الصغيرة (mini-batch). ويُعتبر الإصلاح مرشحًا للقبول فقط إذا أدى إلى تحسين الأداء على هذه الدفعة المحددة.
جلسة الانعكاس (Reflection Session):
يقارن النظام بين آثار التنفيذ قبل وبعد الإصلاح لتصنيف النتائج إلى أربع مجموعات: تم الإصلاح، حدث تراجع، لا يزال فاشلاً، ولا يزال ناجحًا.
يقوم "وكيل الانعكاس" بتحليل هذه النتائج لاستخراج "الدروس"، مع التمييز بين الإصلاحات السببية الحقيقية والآثار العشوائية (عدم حتمية النموذج اللغوي).
والأهم من ذلك، إذا أدى الإصلاح إلى تحسين الدفعة الصغيرة، فإنه يُقيم على مجموعة تطوير محجوزة لتقييم التعميم. تمنع هذه الخطوة الإفراط في التخصيص (overfitting) على دفعة التدريب الصغيرة.
جلسة التطور (Evolution Session):
يتم تخزين جميع الدروس، وأوصاف الإصلاحات، وإشارات الأداء في EvoDAG، وهو رسم بياني موجه غير حلقي (DAG) يمثل تاريخ التحسين.
يقوم "وكجل التطور" باستشارة EvoDAG لتخليق الحزام المرشح التالي (Hn+1). وبدلاً من مجرد التكرار من آخر حزام تم إصلاحه، يمكن للوكيل إعادة دمج المكونات الناجحة من سلالات مختلفة في الرسم البياني، مما يؤدي فعليًا إلى إجراء بحث تطوري للهروب من الحلول المحلية المثلى (local optima).
المساهمات الرئيسية
حدد البحث ثلاثة عناصر حاسمة لتحسين الحزام الفعال، تم التحقق منها من خلال دراسات الاستئصال:
التشخيص المتعمق: تتطلب الإخفاقات طويلة الأمد تنقيحًا عميقًا (تحليل الآثار والكود) بدلاً من الانعكاس السطحي. وقد أدى إزالة هذا المكون إلى تدهور الأداء بشكل كبير.
التدخل المهيكل: يعد تأطير التحسين كبحث مستهدف عبر فئات محددة (المطالبات، الأدوات، البرمجيات الوسيطة) أفضل من التعديل غير المقيد. فالمناهج غير المهيكلة تميل إلى الانهيار في تعديلات نصية بسيطة (إصلاحات التوجيه) وتفشل في استكشاف تغييرات القدرة عالية القيمة (مثل أدوات جديدة أو إصلاحات البنية التحتية).
الاختيار الواعي بالتعميم: إن الاحتفاظ بالتحديثات التي تعمم خارج مجموعة التدريب أمر حيوي. إن الجمع بين التحقق من مجموعة التطوير والفلترة القائمة على الانعكاس يمنع تراكم إصلاحات الإفراط في التخصيض التي تسبب تراجعات في السيناريوهات غير المرئية.
النتائج
تم تقييم AutoSaddler على ثلاثة معايير تحدي: GAIA2، وSWE-Bench Pro، وTerminal-Bench 2.0.
مكاسب الأداء: تفوق AutoSaddler بشكل كبير على الأحزمة الأساسية (اليدوية أو الافتراضية) وعلى أقوى الخطوط المرجعية المؤتمتة (GEPA وMeta-Harness).
GAIA2: زيادة قدرها 9.0 نقاط مئوية (pp) عن الحزام الأساسي؛ و7.4 نقطة مئية عن أفضل خط مرجعي.
SWE-Bench Pro: زيادة قدرها 9.6 نقطة مئوية عن الحزام الأساسي؛ و4.4 نقطة مئوية عن أفضل خط مرجعي.
Terminal-Bench 2.0: زيادة قدرها 10.0 نقاط مئوية عن الحزام الأساسي؛ و6.7 نقطة مئوية عن أفضل خط مرجعي.
الكفاءة: أظهر AutoSappler كفاءة فائقة في الحوسبة والتعلم. في GAIA2، وصل إلى دقة تطوير بلغت 72.3% باستخدام حوالي 1,000 تنفيذ للمهام، بينما استقرت الخطوط المرجعية عند دقة أقل (~61-64%) رغم استهلاكها لـ ~2,800 تنفيذ. ومن حيث كفاءة التعلم (الآثار المستغلة للتحسين)، حقق AutoSaddler أفضل أداء له بعد 147 أثرًا فقط، أي أقل بحوالي 10 أضعاف من Meta-Harness.
المتانة: أظهر الإطار مرونة تجاه عشوائية التحسين وتحولات توزيع التدريب. كما أظهر قدرة على نقل المعرفة بين النماذج (cross-model transferability)، حيث أدت الأحزمة التي تم تحسينها باستخدام نموذج أقوى (Claude Opus) إلى تحسين أداء نموذج أضعف (Claude Haiku).
الأهمية والادعاءات
يفترض البحث أن التحسين التلقائي للحزام هو مسار واعد نحو أنظمة وكلاء أكثر أداءً وموثوقية. ويجادل المؤلفون بأن موثوقية وكلاء النماذج اللغوية الكبيرة في الإعدادات طويلة الأمد لا يمكن حلها بمجرد توسيع نطاق النماذج، بل تتطلب صقلاً منهجياً وتلقائياً لطبقات التحكم الخارجية.
تكمن أهمية AutoSaddler في انتقاله من ضبط الحزام اليدوي القائم على الحدس إلى عملية تحسين قائمة على البيانات ومنهجية. من خلال معاملة الحزام ككود برمجي وتطبيق نموذج تعلم دفعات صغيرة مع تشخيص صريح، وتدخل مهيكل، وفحوصات تعميم، ينتج الإطار تحديثات "متينة" تحسن سلوك الوكيل عبر سيناريوهات متنوعة بدلاً من إصلاح مسارات فردية. ويخلص المؤلفون إلى أن التحسين الفعال للحزام يعتمد بشكل أساسي على التنقيح العميق، والتعديلات الهيكلية المستهدفة، وآليات الاختيار التي تعطي الأولوية للتعميم.
ملاحظة: يقر البحث بوجود قيود، مثل افتراض الوصول إلى النتائج الحقيقية للإشراف والتركيز الحالي على المهام المستقلة عديمة الحالة (stateless). تشمل اتجاهات العمل المستقبلي التحسين غير الخاضع للإشراف وتوسيع الإطار ليشمل الإعدادات ذات الحالة (stateful) مع إدارة الذاكرة وتنسيق المهارات.