Task- and Session-Level Model Routing: A Common-Interface Hybrid Evaluation of Four Open-Source Routers Across Four Benchmarks
تقدم هذه الورقة بروتوكول تقييم هجين ذو واجهة مشتركة لمقارنة أربعة من موجهات النماذج مفتوحة المصدر عبر أربعة معايير مرجعية، كاشفةً أن مكاسب أدائها مدفوعة بشكل أساسي بتكوين الطبقات المختارة بدلاً من الاستهداف الخاص بالمهام، مما يرسخ وضع خطوط أساس ثابتة الطبقات كضوابط ضرورية لتقييمات الموجهات المستقبلية.
المؤلفون الأصليون:Kiran N. Kumar, Santhosh K. Saminathan
في عالم الذكاء الاصطناعي المتطور بسرعة، يبرز نوع جديد من الوكلاء البرمجيين. هؤلاء ليسوا مجرد برامج تجيب على الأسئلة؛ بل هم أنظمة يمكنها التخطيط، واستخدام الأدوات، والتنقل في البيئات الرقمية المعقدة لإنجاز مهام متعددة الخطوات. ولتعمل هذه الوكلاء بفعالية، فإنها تعتمد غالباً على "موجه" (router)، وهو مكون لاتخاذ القرار يعمل بمثابة مراقب حركة المرور. وتتمثل مهمته في النظر إلى طلب محدد وتقرير أي نسخة من نموذج الذكاء الاصطناعي الأساسي يجب أن تتولى معالجته. المنطق بسيط: بعض المهام بسيطة ويمكن حلها بواسطة نموذج سريع ومنخفض التكلفة، بينما البعض الآخر صعب ويتطلب نموذجاً أكثر قوة وتكلفة. ومن خلال إرسال المهمة المناسبة إلى النموذج المناسب، يأمل المطورون في توفير المال دون التضحية بجودة العمل. ومع ذلك، فإن مشهد هذه الموجهات مجزأ؛ حيث قامت مجموعات بحثية وشركات مختلفة ببناء نسخها الخاصة، واختبارها على مجموعات مختلفة من المهام وقواعد مختلفة، مما يجعل من المستحيل تقريباً مقارنتها بشكل عادل أو معرفة أي منها يعمل بشكل أفضل حقاً في بيئة العالم الحقيقي.
لقد سعى فريق من الباحثين في جامعة إنديانا إلى وضع حد لهذا الارتباك. فقد صمموا ساحة اختبار مشتركة حيث يمكن تقييم أربعة موجهات مختلفة مفتوحة المصدر جنباً إلى جنب تحت ظروف متطابقة. وبدلاً من ترك كل موجه يجري اختباراته المنفصلة، أنشأ الباحثون تجربة محكومة تتضمن أربعة معايير مرجعية متميزة، وهي مجموعات معيارية من المهام تتراوح من الأسئلة البسيطة إلى الملاحة المعقدة عبر الويب ومحاكاة خدمة العملاء. وقد قاموا بتجميد المهام، مما يعني أن الأسئلة والسيناريوهات كانت ثابتة ولم تتغير، كما قاموا بقفل مجموعة نماذج الذكاء الاصطناعي المتاحة لتقتصر على ثلاثة خيارات محددة: نموذج رخيص وسريع، ونموذج متوسط المدى، ونموذج قوي ومكلف. سمح هذا الإعداد لهم بمراقبة كيفية اتخاذ كل موجه للقرار بشأن النموذج الذي سيستخدمه، وما إذا كانت تلك القرارات تؤدي بالفعل إلى نتائج أفضل.
قام الباحثون بتشغيل 290 مهمة مجمدة عبر هذا النظام، واختبار كيفية أداء كل موجه عبر المعايير المرجعية المختلفة. واكتشفوا نمطاً مفاجئاً: تصرف ثلاثة من أربعة موجهات بنفس الطريقة تماماً، بغض النظر عن المهمة المطروحة. فمن بينها، اختار اثنان ببساطة النموذج الأرخص لكل طلب، بينما اختار موجه ثالث -على الرغم من كونه مصمماً لتحليل محتوى الطلب- النموذج متوسط المدى لكل مهمة تقريباً. حدث هذا لأن تصميم الموجه الثالث اعتمد على مطابقة الطلب مع مجموعة صغيرة من الأمثلة المكتوبة مسبقاً، وعندما لم يجد تطابقاً، كان يلجأ تلقائياً إلى النموذج متوسط المدى. أما الموجه الرابع، فكان الوحيد الذي غير خياراته بناءً على المحتوى المحدد للمطالبة، حيث كان يتنقل في اختياره بين النماذج الرخيصة والمتوسطة والقوية اعتماداً على ما قرأه.
وعندما قاس الباحثون معدلات النجاح، تحدت النتائج الافتراض القائل بأن التوجيه الذكي المدرك للمحتوى هو الأفضل دائماً. فالموجه الذي اختار ببساطة النموذج المتوسط لكل شيء، قدم أداءً مساوياً للموجه الذي حاول أن يكون ذكياً في خياراته. وفي الواقع، في ثلاثة من أصل أربعة معايير مرجعية، طابقت استراتيجية "اختر الخيار الأوسط دائماً" البسيطة أداء الموجه الأكثر تطوراً تماماً. وفي المعيار المرجعي الرابع، كان الفرق ضئيلاً جداً لدرجة أنه لا يمكن قياسه إحصائياً. ولم يظهر الموجه الذي يغير خياراته بناءً على محتوى المطالبة أي ميزة واضحة على الاستراتيجية التي تتجاهل المحتوى ولكن تستخدم نفس مزيج النماذج. وأشارت البيانات إلى أن نجاح هذه الأنظمة كان مدفوعاً بالنماذج التي اختارتها في أغلب الأحيان، بدلاً من قدرتها على تحديد أي مهمة محددة تحتاج إلى أي نموذج محدد.
كما بحثت الدراسة في تكلفة وسرعة هذه النهج المختلفة. فالموجه الذي اختار دائماً النموذج الأرخص كان الأكثر فعالية من حيث التكلفة، لكنه فشل أكثر في المهام الصعبة. أما الموجه الذي اختار دائماً النموذج متوسط المدى فقد قدم حلاً وسطاً، حيث طابق معدل النجاح الخاص بالموجه الأكثر ذكاءً ولكن دون التعقيد. ووجد الباحثون أن الموجه "الذكي" لم يوفر المال أو يحسن معدلات النجاح بما يكفي لتبرير تعقيده في هذه الاختبارات المحددة. وكانت المكاسب الملحوظة في الأداء مرتبطة ارتباطاً وثيقاً بالمزيج العام للنماذج المختارة، بدلاً من قدرة الموجه على استهداف مهام معينة. فعلى سبيل المثال، في أحد المعايير المرجعية المتعلقة بالملاحة عبر الويب، خلق الموجه الذي يغير خياراته توازناً فريداً بين التكلفة والنجاح لم يستطع أي نموذج ثابت بمفرده محاكاته، ولكن حتى في تلك الحالة، لم يتفوق على استراتيجية بسيطة اختارت المزيج الصحيح من النماذج بمحض الصدفة.
يسلط هذا البحث الضوء على الحاجة الماسة لأسالب تقييم أفضل في مجال وكلاء الذكاء الاصطناعي. ويجادل المؤلفون بأنه لفهم ما إذا كان الموجه يعمل حقاً، يجب على الباحثين مقارنته باستراتيجيات ثابتة بسيطة، مثل "استخدم دائماً النموذج الأرخص" أو "استخدم دائماً النموذج الأفضل". فبدون هذه الخطوط المرجعية، من السهل الخلط بين نتيجة محظوظة أو مزيج ملائم من النماذج وبين طفرة حقيقية في ذكاء التوجيه. وتخلص الدراسة إلى أنه تحت الظروف المحددة التي تم اختبارها، لم توفر الآليات المعقدة المصممة للتحليل والتوجيه أي فائدة ملموسة مقارنة بالقواعد الثابتة البسيطة. وتقتصر النتائج على النماذج والمهام المحددة المستخدمة في التجربة، لكنها تعمل كتذكير قوي بأنه في خضم الاندفاع لبناء أنظمة ذكاء اصطناعي أكثر ذكاءً، فإن الحل الأبسط —وهو اختيار الأداة المناسبة للعمل بشكل افتراضي— غالباً ما يؤدي أداءً يضاهي الحل الأكثر تعقيداً.
ملخص تقني: توجيه النماذج على مستوى المهام والجلسات
بيان المشكلة
تعتمد الأنظمة الوكيلية (Agentic systems) بشكل متزايد على الموجه (router) لتفويض اختيار النموذج بهدف الموازنة بين جودة المهمة، والتكلفة، وزمن الاستجابة، وصحة استدعاء الأدوات. ومع ذلك، تفتقر منظومة الموجهات مفتوحة المص المصدر إلى إطار تقييم موحد. فالأنظمة الحالية تُقيّم عادةً باستخدام مهام، ومجموعات نماذج مرشحة، وبروتوكولات تنفيذ متباينة، مما يجعل المقارنة المباشرة مستحيلة. علاوة على ذلك، تفشل التقييمات القائمة على معيار واحد في رصد الحساسية عبر المجالات المختلفة، كما أن التمييز بين توزيع الطبقات الإجمالي للموجه (النماذج التي يختارها إجمالاً) وبين الاستهداف الخاص بالمهمة (ما إذا كان يخصص المهمة الصحيحة للطبقة الصحيحة) يظل غير مقاس في الأعمال السابقة.
المنهجية
يقدم المؤلفون بروتوكول قياس مشترك وإطار تقييم هجين مصمم لعزل سلوك التوجيه عن ضجيج التوليد (generation noise).
الإعداد التجريبي
الموجهات التي تم تقييمها: أربعة تطبيقات مفتوحة المصدر تمثل نماذج متميزة:
RouteLLM: نموذج تفضيل مدرب (تحليل المصفوفات) يتنبأ بمدى ملاءمة النماذج الضعيفة/القوية.
LiteLLM Router: بوابة إنتاجية تستخدم قواعد ثابتة، وتوازن الأحمال، وعمليات تراجع قائمة على التكلفة (غير مدركة للمحتوى).
vLLM Semantic Router: موزع يعتمد على التضمين (embeddings) لمطابقة المطالبات (prompts) مع النوايا.
Aurelio Semantic Router: موزع يعتمد على التضمين يستخدم عبارات مرجعية وآلية تراجع (fallback).
المعايير (Benchmarks): أربعة معايير تغطي الأسئلة والأجوبة أحادية الدور، واستدعاء الدوال، وجلسات السياسة متعددة الأدوار، والملاحة الويب طويلة الأمد:
RouterBench: نتائج مسجلة (إعادة تشغيل).
BFCL v4: صحة استدعاء الدوال.
tau2-bench: وكلاء خدمة العملاء متعددي الأدوار.
WebArena: وكلاء الملاحة في الويب.
مجموعة المرشحين: مصفوفة مغلقة من ثلاثة نماذج: cheap-small (gpt-5.4-nano)، و mid-general (claude-sonnet-4-6)، و strong-frontier (claude-opus-4-8).
بروتوكول التنفيذ الهجين:
توليد المرشحين: يتم تنفيذ كل نموذج مرشح على كل مهمة ثابتة لملء "مصفوفة النتائج" المشتركة (2,610 صفًا: 290 مهمة × 3 مرشحين × 3 تكرارات).
إعادة التشغيل (Replay): تُتخذ قرارات الموجه بشكل مباشر، ولكن يتم استرداد النتيجة المقدرة من المصفوفة المحفوظة. يضمن هذا أن الاختلافات في أداء الموجه تعود إلى منطق الاختيار، وليس إلى تباين التوليد أو حمل المزود.
درجة التفصيل (Granularity): يختار الموجهون نموذجًا واحدًا لكل مهمة أو جلسة، وليس لكل خطوة داخل المسار.
إطار التقييم
المقاييس: معدل النجاح، التكلفة لكل مهمة، زمن الاستجابة، معدل التراجع، ودقة استدعاء الأدوات.
تحليل باريتو (Pareto Analysis): تحديد الموجهات غير المسيطرة بناءً على مقايضات التكلفة والنجاح.
الاستدلال الإحصائي:
التفوق: اختبارات قلب الإشارة (sign-flip tests) على مستوى المهمة واختبارات بوتستراب (bootstrapping) مزدوجة هرمية.
التكافؤ: اختبارات الجانب الواحد المزدوجة (TOST) مقابل هامش مُعلن بروتوكوليًا (Δ=0.05).
الإسناد (Attribution): اختبار تبديل (permutation test) متوافق مع الحصص يقارن تخصيص الموجه الفعلي مقابل تخصيص أعمى للمحتوى بنفس حصص الطبقات لعزل قيمة الاستهداف عن قيمة المزيج.
الضوابط (Controls): يتم تقييم خطوط الأساس ذات الطبقات الثابتة (دائمًا-الأرخص، دائمًا-المتوسط، دائمًا-الأقوى) جنباً إلى جنب مع الموجهات.
المساهمات الرئيسية
واجهة وبرنامج تشغيل مشترك: أداة برمجية (router_benchmark) تقيم أي قائمة من الموجهات مقابل أي قائمة من المعاييد عبر نمط محول (adapter pattern) معياري.
قيود التجميع الرسمية: تثبت الفرضية 1 أنه بمجرد انقلاب ترتيب الموجهين عبر المعايير، لا يمكن لأي مقياس عددي مستقل عن المعيار الحفاظ على كلا الترتيبين. وهذا يستلزم تقديم تقارير لكل معيار وتقارير موزونة بناءً على المنفعة المعلنة للنشر.
بروتوكول التقييم الهجين: منهجية تفصل توليد المرشحين عن قرارات التوجيه لتمكين مقارنات زوجية عادلة عبر معاييد متباينة.
منهجية الإسناد: تمييز صارم بين تكوين الطبقة الإجمالي والاستهداف الخاص بالمهمة، باستخدام اختبارات التبديل المتوافقة مع الحصص لتحديد ما إذا كان نجاح الموجه ناتجًا عن "معرفة أي طبقة يختار" أم ببساطة "اختيار طبقة جيدة غالبًا".
النتائج
أداء الموجه مقابل الخطوط الثابتة
السلوك الثابت: تصدر ثلاثة من أربعة موجهات تخصي-ات (tier assignments) ثابتة أو شبه ثابتة في ظل التكوينات التي تم تقييمها.
LiteLLM/RouteLLM: يختاران cheap-small بنسبة 100% من الوقت.
Aurelio: يختار mid-general بشكل حصري تقريبًا (97–100%)، مدفوعًا بشكل كبير بآلية التراجع الافتراضية عندما لا تتطابق العبارات المرجعية.
vLLM Semantic Router: هو الموجه الوحيد الذي أظهر تباينًا ماديًا في تخصيص الطبقات بناءً على محتوى المطالبة. ومع ذلك، لم يحقق أعلى معدل نجاح ملحوظ في أي من المعاييد الأربعة.
هيمنة الطبقة الثابتة:
Always-Mid (سياسة ثابتة تختار mid-general) طابقت Aurelio تمامًا في RouterBench و BFCL و WebArena، وتأخرت عنه بفارق 0.003 فقط في tau2-bench.
Always-Strongest هزمت جميع الموجهات في RouterBench (0.800 مقابل 0.683 لـ Aurelio).
Always-Cheapest تصدرت في BFCL (0.833).
الاستنتاج حول الاستهداف: بالنسبة للموجهات ذات السلوك الثابت تقريبًا، تتبع المكاسب الملحوظة تكوين الطبقة المختار بشكل وثيق أكثر من قدرتها على الاستهداف الخاص بالمهمة. "ميزة التوجيه" هي في الغالب نتاج آلية التراجع الافتراضية التي تستقر على طبقة تتفوق على الطبقة الرخيصة التي يختارها المنافسون.
النتائج الإحصائية
التفوق الخاص بالمهمة: بالنسبة لـ vLLM (الموجه المتغير الوحيد)، لم يظهر أي معيار تفوقًا ناجحًا ذا دلالة إحصائية في المهمة على تخصيص أعمى للمحتوى متوافق مع الحصص.
في WebArena، تم إثبات التكافؤ مع التخصيص الأعمى للمحت محتوى عند هامش ±0.05، ولكن ليس عند هوامش أضيق (±0.03 أو ±0.02).
في المعاييد الأخرى، كانت النتائج غير حاسمة.
انقلاب الترتيب: تم التحقق تجريبيًا من الفرضية 1. حيث يتصدر Aurelio في RouterBench و tau2-bench و WebArena، لكنه يتأخر عن LiteLLM في BFCL. لا يوجد ترتيب عددي واحد يحافظ على هذه الترتيبات في آن واحد دون تحديد الأوزان.
حدود باريتو: LiteLLM هو غير مسيطر عليه في جميع المعاييد بسبب تكلفته الصفرية (المقلل الفريد للتكلفة). Aurelio غير مسيطر عليه في ثلاثة معاييد ولكنه مسيطر عليه في BFCL. ومع ذلك، عند تضمين سياسات الطبقة الثابتة، لا يهيمن أي موجه على حدود السياسة الثابتة.
التكلفة والمنفعة
تعظيم المنفعة: تعتمد السياسة المثلى بشكل كبير على قيمة النجاح (V) وأساس التكلفة (تكلفة المرشح فقط مقابل تكلفة المرشح + رسوم الخدمة + الإنفاق الخارئي المقاس).
كفاءة الطبقة الثابتة: في معظم السيناريوهات، تحقق سياسة الطبقة الثالية (Always-Cheapest، Always-Mid، أو Always-Strongest) أقصى منفعة عبر نطاق قيم النجاح، وغالبًا ما تتفوق على الموجهات. يصبح Aurelio أفضل موجه (وليس أفضل سياسة) فقط عند معدلات تبادل محددة بين التكلفة والجودة، وحتى حينها، غالبًا ما تتفوق عليه طبقة ثابتة.
الأهمية والادعاءات
يدعي البحث أنه تحت التكوينات المحددة، ومجموعات المرشحين، وعينات المعاييد المجمدة التي تم تقييمها:
مكاسب التوجيه مدفوعة بالتكوين: التحسينات الملحوظة في أداء الموجه مدفوعة أساسًا بتوزيع الطبقات الإجمالي (على سبيل المثال، اختيار mid بشكل أكثر تكرارًا من cheap) بدلاً من قدرة الموجه على استهداف مهام محددة للطبقة الصحيحة.
ضرورة الضوابط: تعتبر خطوط الأساس ذات الطبقات الثابتة وتوزيعات الطبقات المختارة ضوابط ضرورية لتقييم الموجه. بدونها، قد يُنسب نجاح الموجه خطأً إلى التوجيه الذكي بينما هو في الواقع نتيجة آلية افتراضية أو آلية تراجع محظوظة.
قيود النطاق: تقتصر النتائج على هذه التكوينات، ومجموعات المرشحين الثلاثة، وعينات المعاييد المجمدة المحددة. ينص البحث صراحةً على أنه لا يقدم ادعاءات بشأن نماذج التوجيه بشكل عام، ولا يقيم التوجيه لكل خطوة داخل المسارات.
القياس، لا الحكم: هذه نتيجة قياس، وليست حكمًا. يؤكد المؤلفون أن الصلاحية الخارجية محدودة بحجم العينات (مثل 30 مهمة لـ BFCL) وعدم وجود تكوينات مضبوطة. تتطلب الادعاءات الأقوى عينات مهام أوسع، ومجموعات مرشحين إضافية، وتقييمات لكل خطوة.
يخلص البحث إلى أنه يجب على الممارسين الإبلاغ عن خطوط الأساس ذات الطبقات الثابتة، وتوزيعات الطبقات المختارة، وعدم اليقين الخاص بكل معيار قبل عزو المكاسب الإجمالية إلى آليات التوجيه.