Enhancing Virtual Agents through SLMs and Edge-Computing: An Exploratory Evaluation of Think and Memory Processes

تخيل عالماً لا تكتفي فيه شخصيات ألعاب الفيديو الخاصة بك، أو مرشدو الجولات الافتراضية، أو أصدقاؤك في الميتافيرس، باتباع نص مكتوب كأنهم روبوت يقرأ من شاشة عرض. بدلاً من ذلك، هم "أحياء" حقاً بالمعنى الرقمي: يتذكرون ما أخبرتهم به بالأمس، ويفهمون دعاباتك، ويمكنهم اتخاذ القرارات في اللحظة ذاتها. هذا هو حلم "الوكلاء الافتراضيين المتجسدين" (Embodied Virtual Agents). ولكن هناك عقبة؛ فلجعل هذه الشخصيات ذكية، فإنها تحتاج عادةً إلى إرسال أفكارها إلى حواسيب ضخمة وفائقة القوة في السحابة (Cloud). وهذا يستغرق وقتاً، ويسبب تأخراً (Lag)، ويجعل التجربة تبدو منفصلة وغير متصلة.

إليك بطلان جديدان: النماذج اللغوية الصغيرة (SLMs) والحوسبة الطرفية (Edge Computing). فكر في النماذج اللغوية الصغيرة كدماغ عبقري ولكنه مدمج يناسب جيبك، قادر على فهم اللغة دون الحاجة إلى حاسوب خارق. أما الحوسبة الطرفية، فهي تشبه نقل هذا الدماغ من مركز بيانات بعيد إلى جانب الحدث مباشرة—ربما حتى داخل الجهاز الذي تستخدمه. السؤال الكبير الذي يسأله العلماء هو: هل يمكننا وضع هذا "الدماغ الجيبي" بجانب أصدقائنا الافتراضيين مباشرة، بحيث يمكنهم التفكير والتذكر والتصرف فوراً، دون انتظار إشارة تسافر طوال الطريق إلى السحابة وتعود؟ هذا البحث يتعمق في ذلك تماماً، حيث يختبر ما إذا كانت هذه الأدمغة الأصغر والأكثر محلية ذكية بما يكفي للقيام بالمهام الثقيلة المتمثلة في الذاكرة واتخاذ القرار للوكلاء الافتراضيين.

الدماغ وأمين المكتبة: معضلة الوكيل الافتراضي

في عالم الواقع الافتراضي، يحتاج الوكيل إلى شيئين رئيسيين ليشعر بأنه حقيقي: عملية "تفكير" (لاتخاذ قرار بشأن ما سيفعله) وعملية "ذاكرة" (لتذكر من أنت وما تحدثت عنه). أراد الباحثون وراء هذه الدراسة معرفة ما إذا كان بإمكانهم بناء "محرك معرفي" لهؤلاء الوكلاء باستخدام نماذج لغوية صغيرة تعمل على جهاز محلي، وتحديداً حاسوب صغير قوي يسمى NVIDIA Jetson Orin NX. لم يرغبوا فقط في أن يدردش الوكيل، بل أرادوا منه أن يعمل كمساعد حقيقي يمكنه توجيه طلباتك إلى الخدمة الصحيحة (مثل إنشاء نموذج ثلاثي الأبعاد أو تشغيل صوت) والاحتفاظ بمذكرات مستمرة لمحادثتك.

لاختبار ذلك، بنوا نظاماً يكون فيه "دماغ" الوكيل عبارة عن نموذج Qwen2.5. وقد جربوا ثلاثة أحجام مختلفة من هذه "الأدمغة": واحد ضئيل يحتوي على 0.5 مليار معلمة (parameter)، وواحد متوسط يحتوي على 1.5 مليار، وواحد أكبر يحتوي على 3.0 مليار. وضعوا جميعها على الجهاز الطرفي وأعطوها سلسلة من التحديات ليروا مدى قدرتها على التفكير والتذكر.

اختبار "التفكير": توجيه الطلبات

أولاً، اختبروا عملية التفكير. تخيل أنك في عالم افتراضي وتقول: "أحتاج إلى تأثير صوتي لزئير تنين" أو "هل يمكنك إنشاء نسيج لجدار قلعة؟". يحتاج الوكيل إلى معرفة الأداة التي يجب استخدامها فوراً. الأمر يشبه موظف الاستقبال في فندق مزدحم والذي يتعين عليه توجيه الضيوف إلى الغرفة الصحيحة: المنتجع الصحي، أو الصالة الرياضية، أو المطعم.

أظهرت النتائج وجود مقايضة واضحة بين السرعة والذكاء. النموذج الضئيل (0.5B) كان سريعاً ولكنه غالباً ما كان يتوه؛ حيث أصاب في الإجابة الصحيحة بنسبة 29.4% فقط. وكان يخلط كثيراً بين الطلبات المتشابهة، مثل الخلط بين "تحويل الصورة إلى مجسم ثلاثي الأبعاد" و"المولد الحواري". كان الأمر أشبه بموظف استقبال يستمر في إرسال الجميع إلى الصالة الرياضية لأنه نسي أين توجد الغرف الأخرى.

النموذج المتوسط (1.5B) كان تحسناً هائلاً، حيث أصاب بنسبة 85.4%. كان بإمكانه التعامل مع معظم الطلبات بشكل جيد، رغم أنه تعثر قليست في المهام المعقدة ثلاثية الأبعاد. أما النموذج الأكبر (3.0B) فكان الأذكى، حيث حقق دقة بلغت 87.7%، خاصة في مهام التوليد الصعبة. ومع ذلك، فإن كون المرء أكثر ذكاءً جاء بثمن: فقد استغرق النموذج (3.0B) وقتاً أطول في التفكير. بلغ متوسط وقت استجابته 5,067 ميلي ثانية (حوالي 5 ثوانٍ)، مقارنة بـ 3,349 ميلي ثانية (حوالي 3.3 ثانية) للنموذج (1.5B). وكان النموذج الضئيل (0.5B) الأسرع بواقع 1,504 ميلي ثانية، لكنه كان غير موثوق به لدرجة تجعله غير مفيد.

اختبار "الذاكرة": تذكر التفاصيل

بعد ذلك، اختبروا عملية الذاكرة. هذا يشبه مطالبة الوكيل باسترجاع تفصيل محدد ذكرته سابقاً، أو بتحديث حقيقة إذا غيرت رأيك. على سبيل المثال، إذا قلت: "اسم شخصيتي هو أليكس"، ثم قلت لاحقاً: "في الواقع، اسمي هو أليكس الشجاع"، يحتاج الوكيل إلى تذكر التحديث وعدم الارتباك.

هنا، كانت الفروقات أكثر وضوحاً. نجح النموذج (0.5B) في استرجاع الحقائق بشكل صحيح بنسبة 72.8% من المرات، لكنه كان سيئاً جداً في التعامل مع التصحيحات. كان غالباً ما يتذكر الشخص الصحيح ولكن التفصيل الخطأ، أو يفشل في إدراك أنك غيرت رأيك. كان مثل صديق يتذكر اسمك ولكنه يستمر في نسيان أنك قمت بقصة شعر جديدة للتو.

النموذج (1.5B) كان أفضل حالاً، حيث أجاب بشكل صحيح بنسبة 78.4%. كان جيداً في الحقائق البسيطة ولكنه لا يزال يعاني مع التحديثات المعقدة أو التمييز بين الذكريات المتشابهة. أما النموذج (3.0B) فكان الفائز الواضح، حيث حقق دقة بلغت 93.6%. كان بإمكانه التعامل مع الحقائق، والتحديثات، والتصحيحات بشكل موثوق. ومع ذلك، وكما في اختبار التفكير، جاءت هذه الدقة العالية مع عقوبة كبيرة في السرعة. استغرق النموذج (3.0B) في المتوسط 9,693 ميلي ثانية (قرابة 10 ثوانٍ) لمعالجة طلب الذاكرة، مع وصول بعض الطلبات إلى 14,531 ميلي ثانية (أكثر من 14 ثانية) في أسوأ الحالات. وكان النموذج (0.5B) أسرع بكثير بواقع 2,025 ميلي ثانية، لكن دقته الضعيفة جعلته خياراً سيئاً لأي شيء جدي.

الحكم النهائي: الأمر يعتمد على المهمة

إذاً، ماذا وجد الباحثون؟ لقد اكتشفوا أن النماذج اللغوية الصغيرة يمكنها جزئياً تشغيل أجزاء "التفكير" و"الذاكرة" لوكيل افتراضي مباشرة على الطرف (Edge)، دون الحاجة إلى السحابة. ولكن لا يوجد حجم واحد "مثالي".

إذا كنت بحاجة إلى السرعة ويمكنك التسامح مع بعض الأخطاء، فإن النماذج الأصغر تكون أسرع ولكنها غير موثوقة. وإذا كنت بحاجة إلى دقة عالية لتذكر التفاصيل أو اتخاذ قرارات معقدة، فإن النماذج الأكبر هي الأفضل بكثير، ولكنها بطيئة. يقترح البحث أن الحل الأفضل قد يكون نهجاً هجيناً: استخدام نموذج أصغر وأسرع للمهام السريعة والبسيطة (مثل توجيه طلب)، ونموذج أكبر وأذكى للمهام الثقيلة (مثل تذكر التاريخ المعقد أو التعامل مع التصحيحات).

تخلص الدراسة إلى أنه بينما نقترب من امتلاك وكلاء افتراضيين يمكنهم التفكير والتذكر محلياً، إلا أننا لا نزال بحاجة إلى بذل المزيد من العمل. النماذج الحالية بطيئة نوعاً ما للتفاعلات الفورية واللحظية، وهي تتشتت أحياناً بشأن الإجراء الذي يجب اتخاذه. لكن هذه خطوة أولى واعدة، تُظهر أنه مع المزيج الصحيح من أحجام النماذج والتصميم الدقيق، يمكننا البدء في بناء أصدقاء افتراضيين ليسوا فقط جميلين للنظر إليهم، بل أذكياء حقاً بما يكفي لمرافقتنا في الميتافيرس.