Concurrency without Model Changes: Future-based Asynchronous Function Calling for LLMs
تقدم هذه الورقة AsyncFC، وهو إطار عمل يقلل من زمن انتقال وكلاء النماذج اللغوية الكبيرة (LLM agents) عن طريق فصل فك تشفير النموذج عن تنفيذ الدوال لتمكين استخدام الأدوات بشكل غير متزامن ومتوازٍ دون الحاجة إلى أي ضبط دقيق للنموذج أو تغييرات في البروتوكول.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك مدير مشروع عبقري (الذكاء الاصطناعي) يحاول إنجاز مهمة معقدة، مثل التخطيط لرحلة أو إصلاح قطعة من البرمجيات. لديك فريق من المتخصصين (الدوال/Functions) يمكنهم حجز رحلة طيران، أو التحقق من الطقس، أو كتابة كود برمجي.
الطريقة القديمة: مشكلة "غرفة الانتظار"
في الطريقة القياسية الحالية المتبعة في القيام بالأمور، يكون مدير المشروع مهذبًا للغاية ولكنه غير فعال بشكل لا يصدق.
- تطلب من متخصص حجز رحلة طيران.
- يذهب المتخصص إلى المنصة للقيام بالعمل.
- يجلس مدير المشروع متجمدًا، يحدق في الجدار، ولا يفعل أي شيء على الإطلاق، حتى يعود المتخصص بتذكرة الطيران.
- بعد ذلك فقط، يطرح المدير السؤال التالي (على سبيل المثال: "الآن، ما هي حالة الطقس في ذلك المطار؟").
إذا كان لديك ثلاث مهام تستغرق كل منها 10 ثوانٍ، فإن العملية برمتها ستستغرق 30 ثانية من وقت الانتظار الصافي. يكون المدير عاطلًا عن العمل لمدة 20 ثانية من تلك الثلاثين. هذا ما تسميه الورقة البحثية التنفيذ المتزامن (Synchronous Execution).
الطريقة الجديدة: AsyncFC (الـ "لوحة السحرية")
قدم الباحثون في جامعة كاليفورنيا، بيركلي، نظامًا جديدًا يسمى AsyncFC. فكر في الأمر كمنح مدير المشروع لوحة ملاحظات سحرية ومساعدًا فائق السرعة.
إليك كيف يعمل الأمر:
- تطلب من المتخصص حجز رحلة طيران.
- يأخذ المتخصص الطلب ويقوم فورًا بتسليمك قصاصة تذكرة سحرية (تسمى "المستقبل" أو Future في الورقة البحثية). تقول هذه القصاصة: "لقد تم حجز رحلتك؛ سأحضر لك التذكرة الفعلية خلال 10 ثوانٍ".
- الأمر الحاسم هو أن مدير المشروع لا يتوقف. بل ينتقل فورًا للنظر في القصاصة، ويقول "فهمت"، ثم ينتقل للمهمة التالية (مثل التحقق من الطقل) بينما لا يزال حجز الرحلة جارياً في الخلفية.
- ينتهي المتخصص من حجز الرحلة في الخلفية. وعندما ينتهون، يضعون التذكرة الحقيقية بهدوء على مكتب المدير.
- إذا احتاج المدير التذكرة لحجز فندق، فإنه ببساطة ينظر إلى المكتب، ويرى أن التذكرة قد وصلت، ويستخدمها. وإذا لم يكن الفندق بحاجة إلى التذكرة بعد، يستمر المدير في العمل على أشياء أخرى.
القوتان العظيمتان
يخلق هذا النظام نوعين من التسريع:
1. تداخل العمل (تأثير "تعدد المهام")
بدلاً من انتظار المهمة (أ) لتنتهي قبل بدء المهمة (ب)، يقوم المدير بالمهمة (ب) بينما لا تزال المهمة (أ) قيد المعالجة. هذا يشبه طباخًا يقطع الخضروات بينما يغلي قدر الحساء، بدلاً من الانتظار حتى يغلي الحساء قبل الإمساك بالسكين.
2. متخصصون متوازون (تأثير "تجمع الفريق")
أحيانًا، تحتاج إلى حجز رحلة طيران و استئجار سيارة. هاتان المهمتان لا تعتمدان على بعضهما البعض.
- الطريقة القديمة: حجز الرحلة (انتظار 10 ثوانٍ) -> استئجار السيارة (انتظار 10 ثوانٍ). الإجمالي: 20 ثانية.
- AsyncFC: يطلب المدير الاثنين معًا في نفس الوقت. يقوم النظام بإرسال كلا الطلبين إلى متخصصين مختلفين يعملان في نفس الوقت. يحصل المدير على القصاصتين فورًا ويستمر في العمل. الوقت الإجمالي هو 10 ثوانٍ فقط.
"المجدول الذكي"
قد تقلق وتقول: "ماذا لو طلب المدير الفندق قبل أن تكون تذكرة الطيران جاهزة؟ ستكون كارثة!"
تقدم الورقة البحثية مجدولاً ذكيًا (شرطي مرور) يجلس بين المدير والمتخصصين.
- هو يعرف المهام التي تعتمد على بعضها البعض.
- إذا كان حجز الفندق يحتاج إلى تذكرة الطيران، فإن المجدل يضع طلب الفندق في "غرفة انتظار" حتى تصل تذكرة الطيران.
- إذا كان حجز الفندق لا يحتاج إلى التذكرة، فإنه يسمح للمتخصص بالبدء في العمل فورًا.
- يضمن هذا أن مدير المشروع لن يرتبك أبدًا أو يحاول استخدام نتيجة غير موجودة بعد، وكل ذلك دون أن يحتاج المدير لتغيير سلوكه.
ماذا أثبتوا؟
اختبر الباحثون هذا على مهام من العالم الحقيقي مثل:
- البحث عبر الويب: العثور على معلومات عبر مواقع إلكترونية متعددة.
- هندسة البرمجيات: إصلاح الأخطاء في الكود (باستخدام أداة تسمى SWE-agent).
- الاستدلال المعقد: الإجابة على أسئلة تتطلب خطوات متعددة (مثل HotpotQA).
النتائج:
- السرعة: انتهت المهام بشكل أسرع بكثير (بنسبة تصل إلى 1.44 مرة أسرع في مهام هندسة البرمجيات).
- الدقة: لم تنخفض جودة الإجابات؛ فقد كان الذكاء الاصطناعي بنفس الذكاء، لكنه كان أسرع بكثير فقط.
- لا حاجة للتدريب: لم يضطروا لإعادة تعليم الذكاء الاصطناعي كيفية التفكير؛ لقد قاموا فقط بتغيير "طبقة التنفيذ" (النظام الذي يشغل المهام). وقد فهم الذكاء الاصطناعي "قصاصات التذاكر السحرية" بشكل طبيعي لأنه شاهد مفاهيم مماثلة في بيانات تدريبه.
الخلاصة
AsyncFC يشبه ترقية مصنع من طريق ذي مسار واحد حيث تتوقف السيارات عند كل تقاطع، إلى نظام طريق سريع ذكي حيث يمكن للسيارات الاندماج، والتجاوز، والوصول في أوقات مختلفة دون التصادم. إنه يجعل وكلاء الذكاء الاصطناعي أسرع من خلال السماح لهم بمواصلة العمل أثناء انتظار الإجابات، دون كسر قواعد كيفية تواصلهم مع الأدوات.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.