Looped Language Models Improve Compositional Tool Calling
تُثبت هذه الورقة أن النماذج اللغوية الحلقية، لا سيما عند توظيف الاستدلال التكيفي لتخصيص الحوسبة ديناميكيًا، تعزز الأداء بشكل كبير في سيناريوهات استدعاء الأدوات التركيبية من خلال التنسيق الفعال لعدة استدعاءات لواجهة برمجة التطبيقات، والحفاظ على الحالة، وإدارة التبعيات.
المؤلفون الأصليون:Andrei Cristian Popescu, Haitz Sáez de Ocáriz Borde, Pietro Liò
في ظل المشهد المتطور بسرعة للذكاء الاصطناعي، يحدث تحول كبير من النماذج التي تكتفي بمجرد الإجابة على الأسئلة إلى أنظمة تتخذ إجراءات فعلية. هذه الأنظمة الجديدة، التي تُسمى غالباً "الوكلاء" (agents)، مصممة لاستخدام أدوات خارجية — مثل البرامج أو قواعد البيانات — لحل المشكلات المعقدة. تخيل مساعداً رقمياً لا يخبرك بحالة الطقس فحسب، بل يحجز رحلة طيران بالفعل، ويتحقق من تقويمك، ويرسل بريداً إلكترونياً لتأكيد الرحلة. ولكي تعمل هذه الوكلاء، يجب أن تكون قادرة على ربط خطوات متعددة معاً، وتذكر نتيجة إجراء واحد لتوجيه الإجراء التالي. وهذا يتطلب شكلاً من أشكال التفكير المنظم حيث يخطط النظام لتسلسل معين، وينفذه، ويتكيف إذا ساءت الأمور. وقد كان التحدي الذي واجه الباحثين هو كيفية جعل هذه النماذج اللغوية الكبيرة موثوقة بما يكفي للتعامل مع مثل هذه سير العمل متعدد الخطوات دون أن تفقد المسار أو ترتكب أخطاء في منتصف العملية.
لقد بحث فريق من الباحثين في جامعة كامبريدج في نهج معماري محدد لحل هذه المشكلة، مع التركيز على تصميم يُعرف باسم النموذج اللغوي "الحلقي" (looped language model). وخلافاً للنماذج القياسية التي تعالج المعلومات في مسار واحد مستقيم من المدخلات إلى المخرجات، تسمح هذه النماذج الحلقية للنظام بمراجعة وتنقيح أفكاره الداخلية عدة مرات قبل الالتزام بإجابة ما. فكر في الأمر كشخص يحل لغزاً صعباً يتوقف لمراجعة عمله بعد كل بضع خطوات، بدلاً من الاندفاع نحو خط النهاية في جولة واحدة. أراد الباحثون معرفة ما إذا كان هذا الوقت الإضافي المستغرق في التفكير — أي التنقيح التكراري — سيساعد النماذج على التحسن في تنسيق استخدام الأدوات المعقدة، مثل استدعاء واجهات برمجة تطبيقات (APIs) متعددة بالترتيب الصحيح أو إدارة التبعيات حيث يصبح مخرج أداة ما مدخلاً لأداة أخرى.
ولاختبار ذلك، أجرى الفريق سلسلة من التجارب المنضبطة باستخدام ثلاثة معايير مختلفة مصممة لقياس قدرات استدعاء الأدوات. تراوحت هذه الاختبارات من المهام البسيطة، مثل اختيار دالة واحدة للإجابة على سؤال، إلى سيناريوهات شديدة التعقيد تتطلب من النموذج توليد استدعاءات مستقلة متعددة أو إدارة تسلسلات متداخلة حيث يكون مخرج استدعاء واحد مطلوباً بشدة للاستدعاء التالي. وقارنوا بين النماذج القياسية وبين كل من النماذج الحلقية "الأصلية"، التي بُنيت بهذه القدرة التكرارية منذ البداية، والنماذج "المعدلة" (retrofitted)، حيث تمت إضافة السلوك الحلقي إلى النماذج القياسية الموجودة. وقد درب الباحثون هذه النماذج على نفس مجموعات البيانات ومع نفس إعدادات التحسين لضمان مقارنة عادلة، مما يعزل تأثير آلية التكرار (looping) نفسها.
تشير النتائج إلى أن منح النموذج مزيداً من الوقت للتفكير في قراراته يحسن بشكل كبير من قدرته على التعامل مع المهام المعقدة متعددة الخطوات. وفي المعايير التي تتطلب من النموذج تنسيق استدعاءات أدوات متعددة أو إدارة التبعيات بينها، تفوقت النماذج الحلقية باستمرار على نظيراتها غير الحلقية. وكان التحسن أكثر وضوحاً في المهام التي توجب على النموذج الحفاظ على خطة منظمة عبر عدة قرارات، مثل الحالات التي يكون فيها مخرج استدعاء الأداة الأولى مطلوباً كمعامل (argument) للاستدعاء الثاني. وفي هذه السيناريوهات، سمحت القدرة على تنقيح تمثيله الداخلي للمهمة للنموذج بتصحيح الأخطاء في اختيار الدوال، وتحديد المعاملات، وترتيب الاستدعاءات. فعلى سبيل المثال، في حالة واحدة لوحظت، فشل النموذج في البداية في التعرف على تبعية مطلوبة، ولكن بعد بضع جولات من التنقيح الداخلي، نجح في تحديد الحلقة المفقودة وتوليد التسلسل الصحيح من الإجراءات.
ومع ذلك، لم تكن الفوائد موحدة عبر جميع أنواع المهام. فعندما تتضمن المهمة استدعاء أداة واحدة معزولة، كانت ميزة النهج الحلقي أصغر بكثير وتفاوتت اعتماداً على النموذج المحدد. وهذا يشير إلى أن الجهد الحسابي الإضافي يكون أكثر قيمة عندما تتطلب المشكلة التخطيط والتنسيق بدلاً من مجرد الاسترجاع البسيط. كما استكشف الباحثون ما إذا كان يمكن استخدام وقت التفكير الإضافي هذا بشكل أكثر كفاءة؛ فقد وجدوا أنه من خلال السماح للنموذج بتقرير عدد المرات التي يحتاج فيها إلى التكرار ديناميكياً قبل التوقف، يمكنهم تحقيق أداء عالٍ يقارب الأداء الناتج عن استخدام عدد ثابت وعميق من الدورات، ولكن بتكلفة حسابية أقل بكثير. ويعني هذا النهج التكيفي أن النموذج يمكنه قضاء وقت أطل في المشكلات الصعبة والمعقدة، بينما يتحرك بسرعة عبر المهام الأبسط.
تخلص الدراسة إلى أن النماذج اللغوية الحلقية تمثل أساساً واعداً لبناء أنظمة وكيلة أكثر موثوقية. وتشير النتائج إلى أن القدرة على التنقيح التكراري للتمثيلات الكامنة تساعد النماذج على الحفاظ على هيكل سير العمل المعقد، مما يجعلها أفضل في التخطيط والتنسيق وتنفيذ استخدام الأدوات التركيبي. وبينما أظهرت النماذج المعدلة تحسناً، فإن النماذج الحلقية الأصلية كانت تؤدي بشكل أفضل عموماً في المهام المتداخلة بعمق، مما يشير إلى أن الطريقة التي يتم بها تدريب النموذج مسبقاً تشكل مدى قدرته على الاستفادة من هذا النوع من التنقيح التكراري. وفي نهاية المطاف، يشير البحث إلى مستقبل يمكن فيه لوكلاء الذكاء الاصطناعي تخصيص مواردهم الحسابية ديناميكياً، بحيث يفكرون بعمق أكبر فقط عندما تتطلب تعقيدات المهمة ذلك، مما يحقق توازناً أكثر كفاءة بين السرعة والدقة.
ملخص تقني: النماذج اللغوية ذات الحلقات التكرارية لاستدعاء الأدوات التركيبي
بيان المشكلة
يتم نشر النماذج اللغوية المدربة مسبقًا بشكل متزايد كعناصر اتخاذ قرار في الأنظمة الوكيلية (agentic systems)، حيث تُكلف باختيار واستدعاء أدوات خارجية لتنفيذ مهام موجهة من المستخدم. وبينما قد تتطلب الطلبات البسيطة استدعاء دالة واحدة فقط، فإن المهام المعقدة تستلزم استخداماً تركيبياً للأدوات: أي القدرة على تنسيق استدعاءات متعددة لواجهات برمجة التطبيقات (APIs)، والحفاظ على الحالة الوسيطة، وإدارة التبعيات المتسلسلة أو المتوازية. غالبًا ما تواجه النماذج الحالية صعوبة في بناء والحفاظ على تسلسلات إجراءات مهيكلة عبر قرارات متعددة، لا سيالما عندما يجب أن تعمل مخرجات الاستدعاءات السابقة كمدخلات للاستدعاءات اللاحقة.
وعلى الرغم من أن النماذج اللغوية ذات الحلقات التكرارية (التي تطبق بشكل متكرر كتلة "ترانسفورمر" مشتركة لصقل التمثيلات الكامنة قبل توليد الرموز/الـ tokens) قد أظهرت نتائج واعدة في اختبارات الاستدلال، إلا أن إمكاناتها في تعزيز الاستخدام الوكيلي للأدوات لا تزال غير مستكشفة إلى حد كبير. يبحث هذا البحث فيما إذا كان الحساب الكامن التكراري يحسن الأداء في إعدادات استدعاء الأدوات التركيبية حيث يجب على النماذج الحفاظ على التبعيات وتنسيق سير العمل متعدد الخطوات.
المنهجية
يقيم المؤلفون النماذج اللغوية ذات الحلقات التكرارية عبر ثلاثة معايير متميزة: API-Bank، و BFCL v3، و NESTful. وتستخدم الدراسة إعدادين تجريبيين متكاملين لعزل آثار البنية والتدريب:
النماذج ذات الحلقات الأصلية (Native Looped Models): يقارن المؤلفون بين Ouro-1.4B و Ouro-2.6B (بنيات حلقية أصلية) مقابل نماذج "ترانسفورمر" القياسية من عائلات Qwen3 و Llama. وتتم هذه المقارنات عبر ضبط وصفات التعلم الإشرافي الدقيق (SFT) باستخدام مجموعة بيانات "Hermes" الخاصة باستدعاء الدوال.
النماذج ذات الحلقات المُلحقة (Retrofitted Looped Models): لعزل المساهمة الهيكلية للتكرار بشكل أكثر مباشرة، قام المؤلفون بدمج الحساب الحلقي في نماذج OLMo-2-1B و Llama-3.2-1B. تشترك هذه النماذج في الهياكل الأساسية مع نماذجها غير الحلقية، لكنها تختلف في أن مجموعة فرعية من الطبقات يتم مشاركتها عبر التكرارات المتكررة.
بروتوكولات التدريب والاستدلال:
التدنيب (Training): تم ضبط جميع النماذج المتحكم بها بدقة باستخدام مجموعة بيانات "Hermes". تتعلم نماذج "Ouro" الأصلية سياسة إيقاف (halting policy) لكل رمز (per-token) لتمكين الحساب التكيفي. أما النماذج المُلحقة، فقد تم تدريبها باستخدام أعماق تكرار يتم اختيارها عشوائياً (توزيع Poisson-lognormal) ولا تتعلم سياسة خروج.
الاستدلال (Inference): تدرس الدراسة كلاً من الاستدلال ثابت العمق (بتغيير عدد دورات الحلقة T) و الاستدلال التكيفي (باستخدام بوابة خروج متعلمة لإنهاء الحلقات بناءً على عتبات الثقة).
المعايير (Benchmarks):
BFCL v3: يقيم اختيار الدالة وتوليد استدعاءات متعددة مستقلة (فئات: بسيطة، متعددة، متوازية، ومتعددة متوازية).
NESTful: يركز على سير العمل الهرمي والمتداخل حيث يتم استهلاك مخرجات الاستدعاءات السابقة كوسطاء (arguments) للاستدعاءات اللاحقة (التنفيذ المدرك للتبعية).
API-Bank: يركز على استدعاء واجهة برمجة التطبيقات المنعزلة، مع التأكيد على صحة اختيار الأداة وربط الوسائط (argument grounding) للاستدعاءات الفردية.
المساهمات الرئيسية
تقييم الحساب التكراري: يقدم البحث تقييماً محكماً لما إذا كان الحساب الكامن التكراري يحسن استخدام الأدوات التركيبي، مع التمييز بين المكاسب الناتجة عن التكرار نفسه مقابل الآثار الناتجة عن التدريب.
تقييم شامل: تغطي الدراسة كلاً من النماذج الحلقية الأصلية والمُلحقة عبر ثلاثة معايير متنوعة، باستخدام ضبط دقيق متطابق ومقارنات ذات هياكل أساسية مشتركة.
تحليل العمق والتكيف: يوضح المؤلفون أن زيادة العمق التكراري تحسن الأداء عموماً في المهام متعددة الخطوات، بينما يحقق الاستدلال التكيفي مقايضة فائقة بين الحوسبة والأداء من خلال تخصيص الحوسبة عند الضرورة فقط.
رؤى هيكلية: تشير النتائج إلى أن الحساب التكراري مفيد بشكل خاص عندما يجب أن يحافظ اختيار الإجراء على البنية عبر قرارات متعددة، وتحديداً في سير العمل المدرك للتبعية.
النتائج
المهام التركيبية مقابل المنعزلة: تتفوق النماذج ذات الحلقات باستمرار على النماذج المرجعية غير الحلقية في المهام التركيبية (متعددة الاستدعاءات والمدركة للتبعية). وفي معيار BFCL، تظهر أكبر المكاسب في فئتي "المتوازي" (Parallel) و "المتعدد المتوازي" (Parallel-Multiple). وفي معيار NESTful، تظهر النماذج ذات الحلقات تحسناً كبيراً في معدل الفوز (Win Rate) ودقة التسلسل الكامل. وعلى العكس من ذلك، فإن المكاسب في API-Bank (الذي يركز غالباً على الاستدعاء الفردي) كانت أصغر وأكثر اعتماداً على النموذج، مما يشير إلى أن التكرار يعطي عوائد متناقصة لاستدعاءات واجهات برمجة التطبيقات المنعزلة.
أثر العمق التكراري: تزددت الدقة في استخدام الأدوات متعدد الخطوات عموماً مع زيادة العمق التكراري. بالنسبة للنماذج الأصغر (مثل Ouro-1.4B و Llama المُلحق)، يستمر الأداء في المهام المعقدة في التحسن مع الدورات الإضافية قبل أن يصل إلى مرحلة الثبات. أما النماذج الأكبر (مثل Ouro-2.6B)، فتميل إلى الوصول إلى حالة التشبع في عدد أقل من الدورات.
الاستدلال التكيفي: تستعيد آليات التوقف التكيفي معظم مكاسب الأداء التي يوفرها الاستدلال ثابت العمق مع استخدام عدد أقل من دورات الحلقة في المتوسط، مما يحقق حدوداً أفضل بين الحوسبة والأداء، خاصة في BFCL و NESTful.
الأصلي مقابل المُلحق: بينما يحسن إلحاق التكرار العديد من المهام التركيبية، فإن النماذج التكرارية الأصلية (Ouro) تتفوق عموماً على النماذج المُلحقة في سير العمل شديد التداخل. وهذا يشير إلى أن فعالية الصقل التكراري قد تعتمد على كيفية تشكيل التمثيلات أثناء التدريب المسبق.
التحسينات النوعية: يكشف تحليل مسارات التنبؤ أن الحساب التكراري يصحح الأخطاء الدلالية في بنية الاستدعاء وربط التبعيات (على سبيل المثال، استعادة الاستدعاءات المعتمدة المفقودة أو إصلاح مراجع المتغيرات غير الصالحة) بدلاً من مجرد صقل تنسيق المخرجات.
الأهمية والادعاءات
يخلص البحث إلى أن النماذج اللغوية ذات الحلقات التكرارية هي بنية واعدة للأنظمة الوكيلية التي تتطلب تخطيطاً موثوقاً، وتنسيقاً، وتنفيذاً لسير عمل استخدام الأدوات التركيبي. ويدعي المؤلفون أن الفائدة الرئيسية للحساب الحلقي تكمن في قدرته على صقل اتخاذ القرار المهيكل عبر خطوات متعددة، وتحديداً عندما تتطلب المهام الحفاظ على التبعيات عبر استدعاءات واجهات برمجة التطبيقات المتسلسلة أو المتوازية.
وتفترض الدراسة أنه بينما يحسن الاستدلال ثابت العمق الأداء، فإن الاستدلال التكيفي يعد أمراً حاسماً للنشر العملي، حيث يسمح للنماذج بتخصيص الموارد الحوسبية ديناميكياً بناءً على صعوبة المهمة. ويشير المؤلفون إلى أن استنتاجاتهم مستمدة من إعدادات ثابتة، أحادية الدور (single-turn)، ومتحكم بها، ويقرون بأن توسيع هذا التحليل ليشمل بيئات حية متعددة الأدوار (multi-turn) حيث يجب على النماذج التعافي من فشل التنفيذ يظل عملاً مستقبلياً.