AdaptEvolve: Improving Efficiency of Evolutionary AI Agents through Adaptive Model Selection
تقدم الورقة البحثية AdaptEvolve، وهو إطار عمل يعمل على تحسين كفاءة وكلاء الذكاء الاصطناعي التطوري من خلال الاختيار الديناميكي لأنسب نموذج لغوي كبير لكل خطوة صقل بناءً على ثقة التوليد الجوهرية، مما يقلل تكاليف الاستدلال بنسبة تقارب 38% مع الحفاظ على دقة عالية.
تخيل أنك تدير مسابقة برمجة عالية المخاطر، حيث الهدف هو حل ألغاز برمجية معقدة. لديك نوعان من المراجعين المتاحين لمساعدتك:
المتدرب المبتدئ (نموذج صغير): سريع، رخيص، وممتاز في التعامل مع المهام الروتينية. ومع ذلك، قد يتعثر أو يرتكب أخطاء في المشكلات الصعبة حقاً أو الملتوية.
الخبير المحترف (نموذج كبير): ذكي للغاية وقادر على حل أصعب الألغاز، ولكنه بطيء، وتكلفة توظيفه باهظة، ويستغرق وقتاً طويلاً لتقديم الإجابة.
المشكلة: في الأنظمة "التطورية" التقليدية للذكاء الاصطناعي (حيث يحاول الذكاء الاصطناعي، ويفشل، ويتعلم، ثم يحاول مرة أخرى)، عادة ما يختار النظام مراجعاً واحداً ويلتزم به طوال العملية.
إذا استخدمت المتدرب فقط، فستوفر المال ولكنك قد لا تتمكن أبداً من حل أكثر الألغاز صعوبة.
إذا استخدمت الخبير فقط، فستحل كل شيء، ولكن ذلك سيكلف ثروة ويستغرق وقتاً طويلاً جداً.
تحاول بعض الأنظمة استخدام "كتيب قواعد" (توجيه ثابت) لتقرير من يجب استشارته، لكن هذه القواعد جامدة؛ فهي لا تعرف متى يشعر المتدرب بالثقة فعلياً، أو متى تصبح المشكلة فجأة شديدة الصعوبة.
الحل: AdaptEvolve لقد طور المؤلفون نظاماً جديداً يسمى AdaptEvolve. تخيل هذا النظام كمدير ذكي يراقب كيفية عمل المتدرب، ويقرر في اللحظة ذاتها، ما إذا كان سيترك المتدرب ينهي المهمة أم سيستدعي الخبير المحترف.
إليك كيف يعمل، باستخدام تشبيهات بسيطة:
1. الاستماع إلى "نبض الثقة"
بدلاً من سؤال خبير خارجي لتخمين مدى صعوبة المشكلة، يستمع AdaptEvoid إلى "مزاج" المتدرب نفسه.
عندما يكتب المتدرب الكود، يتحقق النظام من ثقته.
ثقة عالية: يكتب المتدرب بسلاسة، ويكون متأكداً من إجاباته، ويبدو الكود متماسكاً. يقول النظام: "رائع! استمر يا متدرب، أنت قادر على فعلها".
ثقة منخفضة: يتردد المتدرب، أو يتراجع، أو يبدو الكود مهتزاً (ارتفاع في "الاعتلاج/الإنتروبيا" أو عدم اليقين). يقول النظام: "أوه لا، هذا يبدو خطيراً. توقف! دعنا نستدعي الخبير المحترف لتولي هذا الجزء تحديداً".
2. "الإحماء" و"المدير التكيفي"
لكي يتعلم كيفية اتخاذ هذه القرارات، يقوم النظام بـ جولة إحماء سريعة (مثل جولة تدريبية مع 50 مشكلة).
يراقب كيف يحل المتدرب هذه المشكلات الخمسين ويدون ملاحظاته: "عندما تردد المتدرب هنا، فقد فشل. وعندما كان واثقاً هناك، فقد نجح".
يقوم ببناء شجرة قرار بسيطة (مخطط انسيابي) بناءً على هذه البيانات.
والأهم من ذلك، أن هذا المدير تكيّفي. إذا أصبحت المنافسة أكثر صعوبة (بينما يتطور الذكاء الاصطناعي لحل مشكلات أصعب)، يقوم المدير بتحديث قواعده فوراً. إذا أصبحت المشكلات أكثر تعقيداً، يتعلم المدير استدعاء الخبير في وقت مبكر. إنه لا يعتمد على كتيب قواعد ثابت يصبح قديماً وغير صالح.
3. النتائج: أفضل ما في العالمين
اختبر الباحثون هذا النظام على معايير مرجعية للبرمجة (مثل LiveCodeBench و MBPP). وهذا ما وجدوه:
توفير التكاليف: من خلال ترك المتدب الرخيص يتولى العمل السهل واستدعاء الخبير المكلف فقط عند الضرورة القصوى، خفضوا إجمالي التكاليف الحسابية بنحو 38%.
الأداء: لم يفقدوا الكثير من الجودة. لا يزال النظام يحل 97.5% من المشكلات التي كان بإمكان نظام "الخبير فقط" حلها.
الكفاءة: لقد خلقوا "جبهة باريتو" (Pareto frontier)، وهي طريقة أنيقة للقول بأنهم وجدوا التوازن المثالي حيث تحصل على أكبر قيمة مقابل مالك.
تلخيص التشبيه
تخيل أنك تقود سيارة.
الطريقة القديمة: إما أن تقود المسافة بأكملها في سيارة صغيرة اقتصادية في استهلاك الوقود ولكنها بطيئة (فلا تحل أي شيء ثقيل)، أو في سيارة سباق تستهلك الكثير من الوقود (تحل كل شيء، ولكنها تكلف ثروة).
AdaptEvolve: تقود السيارة الصغيرة على الطريق السريع. ولكن في اللحظة التي ترى فيها طريقاً جبلياً وعراً وصخرياً أمامك (مشكلة صعبة)، يقوم نظامك الذكي باستبدالك فوراً بسيارة السباق. وبمجرد تجاوز الجبل، يعيدك إلى السيارة الصغيرة. أنت توفر الوقود، ولكنك لا تزال تغزو الجبل.
ما لا يدعيه البحث:
لا يدعي أن هذا يعمل في المهام غير البرمجية، مثل كتابة القصائد أو البراهين الرياضية، حيث لا تكون "الإجابة" عبارة عن كود برمجي يمكن اختباره تلقائياً.
لا يدعي أنه سيحل محل المبرمجين البشر تماماً، بل يهدف لجعل عملية برمجة الذكاء الاصطناعي أرخص وأسرع.
يركز تحديداً على الأنظمة "التطورية" حيث يقوم الذكاء الاصطناعي بتوليد الكود، واختباره، وتحسينه بمرور الوقت.
باخت-ة، AdaptEvolve هو مفتاح ذكي يستخدم "الشعور الداخلي" للذكاء الاصطناعي (الثقة) ليقرر متى يستخدم أداة رخيصة ومتى يستدعي الخبير المكلف، مما يوفر المال دون التضحية بالكثير من الجودة.
1. بيان المشكلة
تواجه أنظمة الوكلاء التطورية (مثل AlphaEvolve وOpenEvolve) التي تعمل على تحسين قدرات الاستدلال من خلال التوليد، والتحوير، والاختيار المتكرر للحلول المرشحة باستخدام النماذج اللغوية الكبيرة (LLMs)، مقايضة حرجة:
التكاليف الحسابية: إن استدعاء النماذج الضخمة ذات السعة العالية (مثل تلك التي تمتلك 32 مليار معلمة فأكثر) بشكل متكرر لكل خطوة تحسين هو أمر مكلف للغاية.
قدرة الاستدلال: غالباً ما تفشل النماذج الأصغر والأكثر كفاءة (مثل 4 مليار معلمة) في مهام الاستدلال المعقدة أو "الحالات الحدية" التي تظهر أثناء البحث التطوري.
تعتمد الحلول الحالية، مثل تسلسل النماذج (model cascades) أو التوجيه الثابت (static routing)، عادةً على قواعد استدلالية ثابتة أو مصنفات خارجية. ولا تأخذ هذه النهج في الاعتبار لا اليقين الجوهري للنموذج ولا عدم الاستقرار (non-stationarity) في البحث التطوري، حيث تتغير صعوبة المشكلات ديناميكياً مع تطور الجمهرة نحو حلول أكثر تعقيداً. وبناءً على ذلك، فإن الموجهات الثابتة قد تلجأ إلى النماذج الكبيرة دون ضرورة، أو تفشل في التصعيد عند الحاجة، مما يؤدي إلى كفاءة غير مثالية من حيث التكلفة.
2. المنهجية: إطار عمل AdaptEvolve
يقدم AdaptEvolve إطار عمل لـ الاختيار التكيفي للنماذج اللغوية الكبيرة ضمن حلقة تحسين تسلسلية تطورية. وبدلاً من استخدام متحكمات خارجية، فإنه يستفيد من ثقة التوليد الجوهرية لاتخاذ قرارات التوجيه في الوقت الفعلي.
المكونات الأساسية
بنية ثنائية النماذج:
MS (النموذج الصغير): نموذج فعال من حيث التكلفة (مثل Qwen3-4B) يُستخدم لخطوات التحسين الروتينية.
ML (النموذج الكبير): نموذج قوي (مثل Qwen3-32B) يتم حجزه لعقبات الاستدلال عالية الإنتروبيا والمعقدة.
مقاييس الثقة الجوهرية: يقوم النظام بحساب متجه الثقة C(xi) بناءً على إنتروبيا الرموز (token entropy) الناتجة عن النموذج الصغير. ويستخدم أربعة مقاييس عددية (مقتبسة من Fu et al., 2025):
متوسط الثقة (MC): القيمة المتوسطة العالمية لعدم اليقين.
أدنى ثقة للمجموعة (LGC): أقصى قيمة لعدم اليقين ضمن نافذة منزلقة، لتحديد "أضعف حلقة" في سلسلة الاستدلال.
ثقة الذيل (TC): عدم اليقين في الرموز النهائية، لتقييم استقرار الاستنتاج.
ثقة الـ Bottom-K% (BWC): متوسط أعلى نسب مئوية لعدم اليقين، للتمييز بين الهلوسة المنهجية والضوضاء العابرة.
آلية التوجيه التكيفي (Φ): وظيفة التوجيه هي مصنف ثنائي خفيف الوزن يقرر ما إذا كان سيحتفظ بمخرجات النموذج الصغير أو يصعد الأمر إلى النموذج الكبير: xi′={MS(xi)ML(xi)إذا كان Φ(C(xi))=1خلاف ذلك
مرحلة الإحماء (Warm-up Phase): يتم تهيئة شجرة قرار ضحلة (معيار Gini Impurity، العمق=5) باستخدام مجموعة دنيا من 50 عينة مصنفة لالتقاط التفاعلات غير الخطية بين مقاييس الثقة.
التكيف عبر الإنترنت (HAT):ic لمعالجة انزياح المفهوم (concept drift) (حيث تتغير صعوبة المشكلة مع تطور الجمهرة)، يستخدم النظام شجرة هوفدينج التكيفية (Hoeffding Adaptive Tree - HAT). تقوم HAT بتحديث معايير التقسيم بشكل تراكمي ومراقبة معدلات خطأ الأوراق، وتقوم تلقائياً بتقليم وإعادة نمو الفروع لإعادة معايرة عتبات التصعيد في الوقت الفعلي.
3. المساهمات الرئيسية
الاختيار المدفوع باليقين الجوهري: أول تطبيق للاختيار التكيفي القائم على اليقين خصيصاً لـ تحسين الوكيل التطوري، مبتعداً عن القواعد الاستدلالية الثابتة أو نماذج التوجيه الخارجية.
المعايرة خفيفة الوزن: تقديم طريقة فعالة من حيث الموارد باستخدام مجموعة إحماء دنيا (N=50) لتدريب شجرة قرار، مما يلغي الحاجة إلى موجهات خارجية ثقيلة.
معالجة عدم الاستقرار: معالجة التحدي الفريد المتمثل في "انزياح المفهوم على مستوى الجمهرة" في البحث التطوري، حيث تتدهور الموجهات الثابتة بمرال الوقت. يعد AdaptEvolve أول نظام يستخدم التكيف عبر الإنترنت أثناء التشغيل (عبر HAT) لهذا السياق المحدد.
كفاءة باريتو (Pareto Efficiency): إثبات وجود مقايضة متفوقة بين التكلفة والدقة، حيث يتفوق بشكل كبير على الخطوط المرجعية الثابتة ونهج التسلسل.
4. النتال التجريبية
تم تقييم إطار العمل على اختبارات البرمجة المرجعية (LiveCodeBench v5، MBPP، و HumanEval) باستخدام عائلات نماذج Qwen3 و LLaMA 3.1.
تقليل التكلفة: خفض AdaptEvolve إجمالي تكاليف الاستدلال الحسابية بمتوسط 37.9% عبر جميع الاختبارات المرجعية.
الحفاظ على الدقة: رغم تقليل التكلفة، حافظ النظام على 97.5% من سقف الدقة الذي حققته الخطوط المرجعية الثابتة للنماذج الكبيرة.
مكاسب الكفاءة:
في LiveCodeBench، حقق درجة كفاءة بلغت 35.4 (الدقة/التكلفة)، متفوقاً على النموذج الثابت 32B (23.7) وعلى نموذج التسلسل الأساسي (26.3).
في MBPP، خفض التكاليف بنسبة 41.5% مع الاحتفاظ بـ 97.1% من ذروة الدقة، مما أدى إلى درجة كفاءة بلغت 132.3 (أي ما يقرب من ضعف النموذج الكبير النقي).
التعميم: تعممت الطريقة بفعالية على نماذج LLaMA 3.1 (8B مقابل 70B) في HumanEval، محققة تسريعًا قدره 1.56x مقارنة بالأساس التكراري لنموذج 70B مع التفوق على أخذ العينات العشوائي عند نسب التوجيه المتطابقة.
تأثير التكيف: تفوقت شجرة هوفدينج التكيفية (HAT) على أشجار القرار الثابتة في LiveCodeBench بمقدار 2.4 نقطة دقة، مما يثبت ضرورة التكيف عبر الإنترنت للمهام التطورية غير المستقرة.
5. الأهمية والقيود
الأهمية: يقدم AdaptEvolve مساراً قابلاً للتوسع لاستدلال الوكلاء من خلال إثبات أن التخصيص الذكي للموارد بناءً على إشارات النموذج الجوهرية هو أكثر فعالية من التوسع بالقوة الغاشمة أو القواعد الثابتة. فهو يتيح لوكلاء البرمجة التطورية المعقدة العمل بجزء بسيط من التكلفة الحسابية دون المساس بالأداء، مما يجعل الاستدلال عالي المستوى للذكاء الاصطناعي أكثر سهولة في الوصول إليه.
القيود:
التقيد بالمجال: يعتمد إطار العمل على الكود القابل للتنفيذ وإشارات نجاح/فشل حالات الاختبار كمقياس للياقة (fitness metric). وهو حالياً محدود باختبارات البرمجة ولا يمكن تطبيقه مباشرة على مهام الاستدلال الرياضي أو المفتوحة حيث تكون الحلول رمزية أو غير قابلة للتنفيذ، لأن حلقة تقييم اللياقة ستتعطل.
الاعتماد على النموذج: على الرغم من تعممه عبر عائلات النماذج، إلا أن عتبات الثقة ومنطق التوجيه المحدد يتم ضبطهما بناءً على الخصائص الإحصائية لأزواج النماذج المحددة المستخدمة.
باختصار، يمثل AdaptEvolve خطوة مهمة للأمام في جعل الوكلاء التطوريين للذكاء الاصطناعي مجدية حسابياً للنشر في العالم الحقيقي من خلال الموازنة الديناميكية بين "النموذج الصغير للسرعة" و"النموذج الكبير للدقة".