Building Interactive Real-Time Agents with Asynchronous I/O and Speculative Tool Calling
تقترح هذه الورقة إطار عمل يجمع بين الإدخال/الإخراج غير المتزامن واستدعاء الأدوات التخميني لتمكين التفاعلات الوكيلية في الوقت الفعلي ومنخفضة زمن الوصول مع استدعاء الأدوات المعقد متعدد الأدوار، مما يحقق تسريعاً كبيراً لكل من النماذج ذات النطاق السحابي ونطاق الحافة مع الحفاظ على دقة مقبولة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول إعطاء مجموعة معقدة من التعليمات لمساعد ذكي، لكنه بطيء نوعاً ما. في الطريقة القديمة المتبعة (الطريقة "القياسية")، سيتعين عليك الانتظار حتى تنهي جملتك بالكامل قبل أن يتمكن المساعد حتى من البدء في التفكير فيما يجب فعله. ثم، إذا احتاج المساعد إلى البحث عن رقم هاتف أو إرسال رسالة نصية، فسوف يتوقف عن الكلام، ويذهب للقيام بتلك المهمة، وينتظر النتيجة، ثم يعود ليخبرك بما حدث. هذا الأخذ والرد يخلق الكثير من الصمت والانتظار، مما يجعل المحادثة تبدو متقطعة وغير طبيعية.
تقدم هذه الورقة طريقة جديدة لعمل وكلاء الذكاء الاصطناعي تجعلهم يبدون أكثر شبهاً بالمحادثة البشرية في الوقت الفعلي. هم يطلقون على طريقتهم اسم الإدخال/الإخراج غير المتزامن (Asynchronous I/O) واستدعاء الأدوات التخميني (Speculative Tool Calling). إليك كيف يعمل ذلك باستخدام تشبيهات بسيطة:
1. "الطاهي متعدد المهام" (الإدخال/الإخراج غير المتزامن - Asynchronous I/O)
فكر في وكيل الذكاء الاصطناعي القياسي كطاهٍ لا يمكنه القيام إلا بشيء واحد في كل مرة: فهو ينتظر حتى تنتهي من الطلب، ثم يقطع الخضروات، ثم ينتظر حتى يسخن الموقد، ثم يطهو الطعام.
الطريقة الجديدة تحول الذكاء الاصطناعي إلى طاهٍ متعدد المهام.
- بينما لا تزال تتحدث: يبدأ الطاهي في تقطيع الخضروات بناءً على الكلمات القليلة الأولى التي قلتها. هو لا ينتظر حتى تنهي جملتك.
- أثناء انتظار الموقد: إذا احتاج الطاهي إلى الانتظار حتى تنتهي أداة ما (مثل عملية البحث في قاعدة بيانات) من العمل، فإنه لا يقف هناك يحدق في الجدار فحسب. بل يستخدم وقت الانتظار هذا للبدء في التخطيط للخطوة التالية أو حتى البدء في تحضير المكون التالي.
من الناحية التقنية، يعني هذا أن الذكاء الاصطناعي "يفصل" تفكيره عن كلامك. فهو يستمر في العمل أثناء انتظاره للمعلومات منك أو من العالم الخارجي، بدلاً من التجمد في مكانه.
2. "المقامر مع شبكة أمان" (استدعاء الأدوات التخميني - Speculative Tool Calling)
في بعض الأحيان، يتعين على الذكاء الاصطناعي أن يقوم بتخمين. تخيل أنك تقول: "اتصل بـ جو..." والذكاء الاصطناعي يعرف أنه يحتاج للاتصال بشخص ما، لكنه لا يعرف أي "جو" بعد.
- الطريقة القديمة: سيقول الذكاء الاصطناعي: "انتظر، أي جو؟" ويتوقف عن كل شيء حتى توضح الأمر.
- الطريقة الجديدة: يقوم الذكاء الاصطناعي بحركة تخمينية. يقول: "حسناً، سأبحث عن 'جو سميث' تحسباً لذلك". ويبدأ العملية فوراً.
شبكة الأمان:
تجعل الورقة تمييزاً حاسماً بين التخمينات "الآمنة" و"غير الآمة":
- الأدوات الآمنة (للقراءة فقط): إذا كان الذكاء الاصطناعي يقوم فقط بالبحث عن رقم هاتف، فيمكنه القيام بذلك فوراً. إذا قلت لاحقاً: "في الواقع، كنت أقصد جو جونز"، يمكن للذكاء الاصطناعي ببساطة استبدال الرقم. لم يحدث أي ضرر.
- الأدوات غير الآمنة (للكتابة فقط): إذا كان الذكاء الاصطناعي على وشك إرسال رسالة نصية أو حذف ملف، فلا يمكنه مجرد التخمين. بل يضع ذلك الإجراء في "صندوق معلق". هو يجهز الرسالة ولكنه ينتظر "الضوء الأخضر" النهائي (التأكد من أنك انتهيت من الكلام) قبل الضغط فعلياً على "إرسال".
إذا خمن الذكاء الاصطناعي بشكل خاطئ وغيرت رأيك، يمكنه ببساطة إلغاء الإجراء المعلق قبل وقوعه. هذا يشبه الطاهي الذي يبدأ في تقطيع البصل ولكنه يتوقف فوراً إذا قلت له: "في الواقع، أنا نباتي اليوم"، قبل أن تلمس السكين لوح التقطيع.
3. "التدريب القائم على الساعة"
لتعليم الذكاء الاصطناعي القيام بذلك، لم يكتف الباحثون بإخباره بأن "يكون أسرع". بل بنوا "صالة تدريب رياضية" خاصة مزودة بساعة.
- في هذه الصالة، يتم تدريب الذكاء الاصطناعي على توقع وصول المعلومات (مثل صوتك أو إجابة أداة ما) في لحظات محددة ومتأخرة.
- يتعلم الذكاء الاصطناعي الاستمرار في العمل خلال فترات التأخير هذه.
- كما أنهم أنشأوا "أخطاء" وهمية في بيانات التدريب حيث خمن الذكاء الاصطناعي بشكل خاطئ في وقت مبكر، مما أجبره على تعلم كيفية إصلاح هذه الأخطاء لاحقاً دون ارتباك.
النتائج
اختبرت الورقة هذا على نوعين من الذكاء الاصطناعي:
- نماذج السحابة الضخمة: عند استخدام واجهات برمجة تطبيقات الذكاء الاصطناعي القوية الموجودة (مثل OpenAI)، جعلت هذه الطريقة هذه النماذج أسرع بمقدار 1.3 إلى 1.7 مرة مع انخفاض ضئيل جداً في الدقة.
- نماذج الحافة الصغيرة: عندما قاموا بتدريب نماذج ذكاء اصطناعي أصغر (مثل تلك التي يمكن تشغيلها على جهاز كمبيوتر محمول) باستخدام طريقة "الساعة" الخاصة بهم، أصبحت هذه النماذج أسرع بمقدار 1.6 إلى 2.2 مرة مع الحفاظ على دقة عالية.
باختصار: تُظهر الورقة كيفية إيقاف وكلاء الذكاء الاصطناعي عن "التوقف المؤقت" أثناء التفكير أو الانتظار. ومن خلال السماح لهم بالعمل أثناء الانتظار، والسماح لهم بإجراء تخمينات آمنة يمكن تصحيحها لاحقاً، يمكنهم التفاعل مع البشر في الوقت الفعلي، مما يجعل المساعدات الصوتية تبدو أكثر طبيعية واستجابة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.