🤖 AI

CoCoDA: Co-evolving Compositional DAG for Tool-Augmented Agents

إن CoCoDA هو إطار عمل يُمكّن النماذج اللغوية الصغيرة من مضاهاة أو تجاوز النماذج الأكبر تعليمياً عبر التطور المشترك لمخطط ومكتبة أدوات متنامية ضمن مخطط بياني موجه غير حلقي (DAG) برمجي تركيبي واحد، والذي يعمل على تحسين كفاءة الاسترجاع من خلال التوحيد الرمزي وتسريع التعلم عبر آلية مكافأة مدركة للبنية.

المؤلفون الأصليون: Ziyang Yu, Qiyue Li, Liang Zhao

نُشر 2026-05-12

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Ziyang Yu, Qiyue Li, Liang Zhao

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك مساعداً آلياً صغيراً ولكنه ذكي جداً (المخطط) يحتاج إلى حل مشكلات معقدة، مثل الرياضيات المتقدمة أو كتابة الأكواد البرمجية. يمتلك هذا الروبوت مساحة "دماغ" محدودة (نافذة السياق) لاستيعاب المعلومات في آن واحد. ولمساعدته، نمنحه صندوق أدوات (أدوات) يمكنه استخدامه.

المشكلة في الطرق الحالية تشبه محاولة حمل مكتبة ضخمة من الكتب في جيبك. فكلما أضفت كتباً مفيدة (أدوات) لمساعدة الروبوت، أصبح الجيب ثقيلاً جداً، ولا يستطيع الروبوت استيعاب عدد كافٍ منها في دماغه لحل المشكلة. كما أن الروبوت لا يعرف كيف ينظم هذه الكتب؛ فهو يرى فقط كومة فوضوية من النصوص، مما يجعل من الصعب العثور على الكتاب المناسب بسرعة.

نظام CoCoDA هو نظام جديد يحل هذه المشكلة عن طريق تغيير كيفية بناء صندوق الأدوات وكيفية تعلم الروبوت استخدامه. إليك كيف يعمل، باستخدام تشبيهات بسيطة:

1. "المخطط الحي" (الرسم البياني الموجه غير الدوري - DAG)

بدلاً من كومة فوضوية من الكتب، يبني CoCoDA مخططاً حياً (رسم بياني موجه غير دوري، أو DAG).

العُقد (Nodes): فكر في هذه العُقد كأدوات فردية. بعضها أدوات أساسية (مثل المطرقة أو المفك)، والبعض الآخر "أدوات فائقة" (مثل آلة ثقب مسبقة التجميع) يتم صنعها من خلال دمج الأدوات الأساسية.
الروابط: يوضح المخطط بالضبط كيف تُبنى الأدوات الفائقة من الأدوات الأساسية. الأمر يشبه كتاب الوصفات حيث تشير وصفة "الكعكة" إلى خطوات "خلط العجين" و"الخبز".
الفائدة: بما أن المخطط يعرف الهيكل، فلا يحتاج الروبوت لقراءة كل صفحة من كل كتاب. يمكنه النظر إلى "جدول المحتويات" (التواقيع) و"خطوات الوصفة" (التبعيات) ليعرف فوراً أي الأدوات تتوافق مع بعضها البعض.

2. "المصفاة الذكية" (استرجاع الرسم البياني المعتمد على النوع)

عندما يواجه الروبوت مشكلة جديدة، فإنه يحتاج إلى اختيار الأدوات المناسبة. الطرق القديمة كانت تقرأ وصف كل أداة في المكتبة، وهو أمر بطيء ويستهلك الكثير من مساحة الدماغ.

يستخدم CoCoDA مصفاة مكونة من أربع مراحل لتضييق الخيارات، تماماً مثل نقطة تفتيش أمنية:

المرحلة الأولى (فحص الهوية): يتحقق من "بطاقة هوية" الأداة (توقيع النوع الخاص بها). إذا كانت الأداة لا تناسب المهمة (مثلاً: محاولة استخدام مطرقة لقص الورق)، يتم رفضها فوراً. هذا لا يكلف أي مجهود ذهني تقريباً.
المرحلة الثانية (مسح الوصف): بالنسبة للأدوات التي اجتازت فحص الهوية، يقرأ الروبوت أوصافها القصيرة ليرى ما إذا كانت تبدو ذات صلة.
المرحلة الثالثة (فحص القواعد): يتحقق من "القواعد" (الشروط المسبقة واللاحقة). هل تتطلب هذه الأداة مدخلات لا يملكها؟ هل ستنتج المخرج المطلوب؟ إذا لم يكن الأمر كذلك، يتم استبعادها.
المرحلة الرابعة (مطابقة الأمثلة): أخيراً، ينظر إلى أمثلة واقعية للأداة أثناء العمل لاختيار المطابقة الأفضل على الإطلاق.

السحر في الأمر: لأن النظام يقوم بتصفية الأدوات السيئة في المراحل الرخيصة والسريعة (1 و2)، فإنه لا ينفق إلا "طاقة دماغية" مكلفة لقراءة التفاصيل الكاملة للأدوات القليلة التي نجت بالفعل من عملية التصفية. هذا يحافظ على عدم ثقل "جيب" الروبوت، حتى مع نمو المكتبة بشكل هائل.

3. "التطور المشترك" (التعلم معاً)

هذا هو الجزء الأكثر تميزاً. عادةً، يتعلم الروبوت استخدام الأدوات، لكن الأدوات تظل ثابتة. في CoCoDA، الروبوت وصندوق الأدوات ينموان معاً.

الاكتشاف: عندما ينجح الروبوت في حل مشكلة صعبة عبر ربط عدة خطوات أساسية (مثل "الجمع"، ثم "الضرب"، ثم "القسمة")، ينظر "المعلم" (ذكاء اصطناعي أكبر وأذكى) إلى هذا النجاح.
الابتكار: يقول المعلم: "هذا التسلسل من الخطوات مفيد! لنقم بتجميعهم في 'أداة فائقة' جديدة وإضافتها إلى المخطط".
المكافأة: يحصل الروبوت على درجة مكافأة (Reward) لاستخدامه هذه الأدوات الفائقة الجديدة لأنها توفر عليه عناء القيام بالخطوات الأساسية مراراً وتكراراً.
الحلقة المستمرة: كلما أصبح الروبوت أفضل، وجد المزيد من الأنماط لدمجها. وكلما أصبح صندوق الأدوات أذكى، استطاع الروبوت حل مشكلات أصعب. إنهما يتطوران في تزامن تام.

النتائج

اختبرت الورقة البحثية هذا النظام في مسائل الرياضيات، وتحليل الجداول، ومهام البرمجة.

اختبار "الصغير مقابل الكبير": استخدموا روبوتاً صغيراً (8 مليارات وحدة دماغية) وقارنوه بروبوت عملاق (32 مليار وحدة).
النتيجة: مع CoCoDA، تمكن الروبوت الصغير من مساواة أو حتى التغلب على الروبوت العملاق في الألغاز الرياضية والمنطقية الصعبة.
الكفاءة: لم يكن الروبوت الصغير محظوظاً فحسب؛ بل تعلم تنظيم معرفته بكفاءة عالية لدرجة أنه لم يحتج إلى حجم دماغ ضخم للقيام بالعمل الشاق.

باختصار، يعلم CoCoDA ذكاءً اصطناعياً صغيراً كيفية بناء مكتبة مهارات منظمة وهرمية خاصة به، مما يسمح له بالتفوق بمراحل على قدراته الفعلية من خلال معرفة أي الأدوات يجب أن يلتقطها وكيف يجمع بينها دون أن يشعر بالإرهاق.

ملخص تقني: CoCoDA – الرسم البياني الموجه غير الدوري التكويني المتطور بالتشارك لتعزيز الوكلاء بالأدوات

1. صياغة المشكلة

تعمل النماذج اللغوية الكبيرة (LLMs) المعززة بالأدوات على توسيع قدرات المخططات الصغيرة عبر مهارات قابلة للتنفيذ خارجية، مما يسمح لها بتفويض الحوسبة والمعالجة الرمزية. ومع ذلك، فإن توسيع مكتبة الأدوات يؤدي إلى توتر جوهري: يجب أن تتطور المكتبة مع المخطط لالتقاط إجراءات فرعية جديدة قابلة لإعادة الاستخدام، ومع ذلك يجب أن يظل الاسترجاع من مكتبة متنامية ضمن ميزانية سياق ثابتة.

تفشل الأساليب الحالية في حل هذا الاقتران. تفترض أنظمة استخدام الأدوات الثابتة وجود مخزون محدد، بينما عادة ما تخزن طرق مكتبة المهارات الأدوات كأرشيفات نصية مسطحة أو ذكريات باللغة الطبيعية. تسبب هذه الهياكل المسطحة نمواً خطياً في تكاليف التلقين (prompt costs) مع حجم المكتبة، وتطمس البنية النوعية والتكوينية للكود القابل للتنفيذ. ومن ناحية أخرى، تستغل طرق مكتبات الكود البنية ولكنها ليست مصممة للمخططات اللغوية التي تعمل تحت قيود ميزانية التوكنات (token-budgeted retrieval). التحدي الجوهري هو تصميم آلية تكون مدركة للكود، وفعالة في الاسترجاع، وقابلة للتعلم عبر الإنترنت (online)، بحيث تحل مشكلتين مقترنتين: كيفية تنمية المكتبة مع السياسة، وكيفية الاسترجاع من تلك المكتبة المتنامية ضمن نافذة سياق ثابتة.

2. المنهجية: إطار عمل CoCoDA

يعالج CoCoDA هذه التحديات من خلال بنية واحدة أصلها الكود: رسم بياني موجه غير دوري تكويني (Compositional DAG). يقوم هذا الإطار بتطوير المخطط ( $\pi_\theta$ ) ومكتبة الأدوات ( $L$ ) بشكل متطور بالتشارك عبر مكونين أساسيين: استرجاع الـ DAG النوعي وإجراء التطور المتشارك عبر الإنترنت.

2.1 بنية الـ DAG التكوينية للأدوات

تُنظم المكتبة $L$ كـ DAG $G=(V, E)$ حيث:

العقد ( $V$ ): مقسمة إلى عقد أولية (دوال ذرية قابلة للتنفيذ) وعقد مركبة (إجراءات كلية تستدعي أدوات موجودة).
الحواف ( $E$ ): تشفر تبعيات الاستدعاء، وتصنف المكتبة حسب مستويات التجريد بدلاً من التشابه السطحي.
سجلات العقد ( $I(v)$ ): تخزن كل عقدة سجلاً رباعي المستويات:
1. $L_1$ : توقيع نوعي (رمزي).
2. $L_2$ : وصف باللغة الطبيعية.
3. $L_3$ : مواصفات الشروط المسبقة واللاحقة والتعقيد.
4. $L_4$ : أمثلة مدخلات ومخرجات مجربة.

2.2 استرجاع الـ DAG النوعي

في وقت الاستنتاج، يستخدم CoCoDA تسلسلاً هرمياً للاسترجاع من الخشن إلى الناعم، يقوم بتصفية المرشحين رمزياً قبل تحمل تكاليف الـ LLM الباهظة. بالنظر إلى هدف فرعي ناتج عن استعلام، تقوم العملية ببناء تسلسل متداخل من مجموعات الناجين $S_0 \supseteq S_1 \supseteq S_2 \supseteq S_3 \supseteq S_4$ :

$L_1$ (التصفية الرمزية): تصفية الأدوات عبر مطابقة توقيع الهدف الفرعي مع التوقيع النوعي للأداة. هذه المرحلة رمزية ولا تكلف أي توكنات تلقين.
$L_2$ (التوسع الدلالي): ترتيب الناجين حسب الصلة الدلالية باستخدام الأوصاف. ومن المهم أن هذه المرحلة يمكنها الصعود إلى مكون شامل أو الهبوط إلى عنصر أولي بناءً على بنية الـ DAG، وهي قدرة تفتقر إليها عملية استرجاف النصوص المسطحة.
$L_3$ (تصفية المواصفات): التحقق من الشروط المسبقة واللاحقة وقيود التعقيد. يتم اعتماد المركبات الناجية كإجراءات كلية مكافئة لمسارات العناصر الأولية الخاصة بها.
$L_4$ (فض الالتباس بالأمثلة): إعادة ترتيب الناجين باستخدام الأمثلة المجربة لكسر حالات التعادل.

يضمن هذا التسلسل أن سجلات الـ LLM المكلفة لا تُستدعى إلا لمجموعات مرشحين أصغر فأصغر، مما يحافظ على جعل تكلفة الاسترجاع دون خطية بالنسبة لحجم المكتبة.

2.3 التطور المتشارك عبر الإنترنت

يقوم إطار العمل بتحديث المخطط والمكتبة في آن واحد بناءً على المسارات الناجحة:

نمو المكتبة: يتم تمرير المسارات الناجحة إلى مجرد (abstractor) معلم ثابت ( $M_T$ ) الذي يقترح أدوات مركبة. لا يتم اعتماد المقترح إلا إذا حافظ على عدم الدورية واستوفى فحوصات التبعية/المواصفات (عبر INSERTTOOL).
تحديث المخطط: يتم تحديث المخطط باستخدام مكافأة مستحثة من الـ DAG. فبالإضافة إلى مكافأة النتيجة القياسية ( $R_{res}$ $R_{r es}$ )، تمنح المكافأة التركيبية ( $R_{comp}$ $R_{co m p}$ ) ائتماناً للأدوات بناءً على عدد "النداءات الموفرة" ( $\Phi$ $Φ$ )، وهو عدد النداءات الأولية التي استبدلتها الأداة الكلية.
- $R(\tau) = R_{res}(\tau) + \lambda \sum \Phi(t_i)$ .
- تشجع هذه المكافأة المخطط على المرور عبر المركبات الأكثر عمقاً، مما يقلل فعلياً من عدد استدعاءات الأدوات ( $T(\tau)$ ) المطلوبة للمهمة.

3. المساهمات الرئيسية

صياغة المشكلة: صاغ المؤلفون تعلم مكتبة الأدوات للنماذج اللغوية الصغيرة كمسألة تحسين مشتركة مع قيود صريحة على تكلفة الاسترجاع ونافذة السياق، معالجين النمو المقترن للسياسة والمكتبة.
استرجاع الـ DAG النوعي: تسلسل استرجاع أصيل للكود يستخدم التوقيعات، وحواف الاستدعاء، والمواصفات، والأمثلة للحفاظ على تكلفة التلقين دون خطية بالنسبة لحجم المكتبة.
إجراء التطور المتشارك: آلية عبر الإنترنت لإدراج الأدوات المركبة المتحقق منها وتدريب المخطط باستخدام مكافأة "النداءات الموفرة" الهيكلية، مما يشجع على استغلال التجريدات المتعلمة حديثاً.
الضمانات النظرية: يقدم البحث براهين لـ:
- تقليل تكلفة الاسترجاع وزمن الاسترجاع دون الخطي.
- الميزة التركيبية تحت المكافأة المشكلة (بإثبات أن استخدام المركبات يعطي مكافآت أعلى بوضوح من المتواليات الأولية المكافئة).
- التطور المتشارك الرتيب تحت التحديثات المحافظة.
- سلامة الـ DAG (عدم الدورية وحدود العمق).

4. النتائج التجريبية

تم تقييم CoCoDA على ستة معايير عبر الاستدلال الرياضي (GSM8K, MATH)، وتحليل الجداول (WikiTableQuestions, FinQA)، ومهام الكود (EvalPlus, MBPP).

الأداء: نموذج طالب بقدرة 8B تم تدريبه باستخدام CoCoDA طابق أو تجاوز نموذج معلم بقدرة 32B في GSM8K (93.67 مقابل 93.40) وفي MATH (63.18 مقابل 61.62).
التوسع: كانت المكاسب على Chain-of-Thought (CoT) التقليدي أكثر أهمية عند المقاييس الأصغر (على سبيل المثال، +10.7 في GSM8K للنموذج 0.6B).
المقارنة المرجعية: تفوق CoCoDA باستمرار على نماذج استخدام الأدوات القوية (ReAct, ToRL, ReTool) وطرق تعلم المكتبة (CREATOR, TroVE). ومن الجدير بالذكر أن نماذج بناء المكتبة التي تفتقر إلى حلقة (طالب-معلم) وثيقة أدت أداءً أقل من CoT البسيط في مهام الرياضيات والكود، مما يؤكد ضرورة التطور المتشارك.
الكفاءة: مع نمو حجم المكتبة إلى 1,600 عقدة، كانت تكلفة استرجاع CoCoDA أقل بحوالي 11.4 ضعفاً من الاسترجاع المسطح و4.7 ضعفاً من استرجاع RAG الهرمي النصي.
الدراسة الاستقصائية (Ablation): تسبب إزالة الـ Compositional Tool DAG (CTD) في أكبر انخفاض في الأداء (2–4 نقاط)، مما يبرز أهمية حواف التبعية. بينما أدى تعطيل Typed DAG Retrieval (TDR) إلى تضرر مهام الجداول أكثر، في حين أدى حذف المكافأة الواعية بالرسم البياني (GAR) إلى خفض الأداء بشكل عام.

5. الأهمية والادعاءات

يزعم البحث أن CoCoDA يحل التوتر بين نمو المكتبة وقيود السياق من خلال الاستفادة من الخصائص الهيكلية الفريدة للكود القابل للتنفيذ. من خلال تمثيل المكتبة كـ DAG تركيبي، يتيح الإطار:

استرجاع دون خطي: القدرة على إظهار التجريدات المعقدة والقابلة لإعادة الاستخدام دون زيادة تكاليف السياق بشكل خطي.
التعلم الهيكلي: إشارة مكافأة تمنح ائتماناً صريحاً للمخطط لضغط المتواليات الأولية إلى مركبات، مما يدفع التطور المتشارك للسياسة والمكتبة.
القابلية للتوسع: قدرة النماذج الصغيرة (8B) على تحقيق أداء النماذج الأكبر (32B) عبر الاستخدام الفعال لذاكرة إجرائية خارجية متطورة.

يخلص المؤلفون إلى أن هذا النهج يوفر مساراً قابلاً للتطبيق للنماذج اللغوية الصغيرة لتفويض الحوسبة والمعالجة الرمزية بكفاءة، بشرط أن تتطور المكتبة مع السياسة عبر بنية تحترم الطبيعة القابلة للتنفيذ للأدوات. وقد تمت الإشارة إلى أن العمل المستقبلي سيمتد ليشمل الإعدادات متعددة الوسائط وسيناريوهات الوكلاء المتعددين.