Improving Collaborative Storytelling with a Multi-Agent Framework Based on Large Language Models

ملخص تقني: تحسين السرد القصصي التعاوني باستخدام إطار عمل متعدد الوكلاء يعتمد على النماذج اللغوية الكبيرة

بيان المشكلة
تتناول الورقة البحثية تحدي توليد روايات عالية الجودة، ملائمة، ومتماسكة للأطفال الصغار (تتراوح أعمارهم بين 3-6 سنوات) ضمن سياق سرد قصصي تعاوني. وبينما تستهدف معظم أبحاث الإبداع المشترك بالذكاء الاصطناعي المستخدمين البالغين في البيئات الرقمية، تركز هذه الدراسة على لعبة لوحية فيزيائية خالية من الشاشات تسمى YOLI. في هذا الإعداد، يختار الأطفال بلاطات فيزيائية تمثل عناصر القصة (البطل، الموقع، الحالة المزاجية، الشيء، والنشاط)، والتي تُستخدم بعد ذلك بواسطة ذكاء اصطناعي لتوليد قصة.

تتمثل إحدى العقبات التقنية الحرجة المحددة في مشكلة هلوسات الأمانة (faithfulness hallucinations) في النماذج اللغوية الكبيرة (LLMs). في هذا السياق، تشير الهلوسات إلى الانحراف عن تعليمات المستخدم أو سياقات المدخلات، حيث يفشل السرد المولد في دمج العناصر المحددة التي اختارها الأطفال بدقة. مثل هذه الإخفاقات قد تؤدي إلى إحباط المستخدم وفقدان التفاعل. وتفترض الورقة أن التوليد القياسي بمرور واحد (single-pass generation) غالباً ما يفتقر إلى التحسين اللازم لضمان الالتزام الصارم بهذه القيود مع الحفاظ على جودة السرد.

المنهجية
يقترح المؤلفون إطار عمل متعدد الوكلاء يتمحور حول حلقة تكرارية من (الكاتب–المحرر). يعمل هذا النظام بالكامل في وقت الاستدلال (inference time) دون الحاجة إلى تدريب إضافي أو ضبط دقيق (fine-tuning).

1. حلقة اللعبة: يختار الأطفال البلاطات على لوحة YOLI. وتعمل هذه الاختيارات كقيود مدخلة لنظام توليد القصة.
2. وكيل الكاتب (The Writer Agent): يعمل نموذج لغوي كبير (تحديداً Gemma 2 2B في هذه الدراسة) كـ "كاتب". يتلقى مطالبات تحتوي على عناصر القصة المختارة ويقوم بتوليد رواية.
3. وكيل المحرر (The Editor Agent): يعمل نموذج لغوي آخر كـ "محرر". يقوم بتقييم مخرجات الكاتب مقابل معيار موحد يركز على الملاءمة (الارتباط بالبلاطات المدخلة). يمنح المحرر درجة رقمية (0-100%) وتقديم تبرير/نقد.
4. التحسين التكراري:
   • الحلقة 1: يتلقى الكاتب مطالبات (zero-shot) لتوليد قصة أولية.
   • الحلقة 2 وما بعدها: يتلقى الكاتب مطالبات (one-shot) تتضمن القصة الأصلية، ونقد المحرر، والدرجة. يحاول الكاتب توليد نسخة محسنة.
   • تتكرر هذه العملية لما يصل إلى خمس دورات، مع إعادة تقييم المحرر للمخرجات الجديدة في كل دورة.

تصميم دراسة المحاكاة
لتقييم إطار العمل، أجرى المؤلفون دراسة محاكاة باستخدام مجموعة بيانات تضم حوالي 1,000 زوج من البلاطات (تركيبات من عناصر القصة).

• الكاتب: تم تثبيته كنموذج Gemma 2 (بمعلمات 2B).
• المحررون: تنوعت عبر عائلات نماذج وأحجام معلمات مختلفة: Gemma 2 (2B, 9B, 27B)، وLlama 3.1 (8B)، وMistral (7B).
• المقياس: المقياس الأساسي هو درجة "الجودة المدركة" التي يمنحها المحرر (النموذج اللغوي الكبير)، والتي تتبع مسار التحسن عبر التكرارات.

النتائج الرئيسية

1. تحسن مستمر في الجودة: عبر جميع نماذج المحرر المختبرة، ارتفع متوسط درجة الجودة المدركة مع كل دورة تكرارية للكاتب والمحرر. وهذا يؤكد أن عملية النقد التكرارية توجه الكاتب بفعالية لتحسين مخرجاته.
2. تناقص العوائد: حدث التحسن الأكثر أهمية في الانتقال من الحلقة الأولى إلى الثانية (الانتقال من مطالبات zero-shot إلى one-shot مع التغذية الراجعة). أما الدورات اللاحقة (الحلقات 3-5) فقد حققت مكاسب أقل تدريجياً.
3. سرعة التقارب: تشير الدراسة إلى أن نقطة التوقف المثلى للعملية التكرارية تقع ضمن خمس دورات. وأظهر تحليل البقاء أنه بالنسبة للمحررين الذين يمتلكون أكثر من 7 مليارات معلمة، هناك احتمال بنسبة 90% للوصة إلى درجتهم القصوى خلال خمس حلقات.
4. الارتباط بسعة النموذج: أظهرت نماذج المحرر الأكبر حجماً (مثل Gemma 2 27B) احتمالية أعلى للوصة إلى ذروة درجاتهم في مرحلة مبكرة من العملية مقارنة بالنماذج الأصغر (مثل Gemma 2 2B)، مما يشير إلى أن المقيمين الأكثر تطوراً يمكنهم توجيه التحسين بكفاءة أكبر. ومع ذلك، أظهرت حتى النماذج الأصغر اتجاهات تحسن ثابتة.
5. تحيز التفضيل الذاتي: بينما حقق نموذج Gemma 2 2B الذي لعب دور الكاتب والمحرر معاً أعلى الدرجات المطلقة، لاحظ المؤلفون أن هذا قد يشير إلى تحيز تفضيل ذاتي. ومع ذلك، أشارت الفحوصات اليدوية إلى أن استخدام معيار موجه قد حد من هذه المشكلة، كما حققت النماذج الأكبر (مثل Llama 3.1 8B) درجات نهائية مماثلة (89% مقابل 91%).

الأهمية والادعاءات
تدعي الورقة أن إطار عمل (الكاتب–المحرر) المقترح يقدم بديلاً خفيفاً وعملياً لطرق المحاذاة كثيفة التدريب مثل التعلم التعزيزي من التغذية الراجعة البشرية (RLHF) أو التعلم التعزيزي من التغذية الراجعة للذكاء الاصطناعي (RLAIF).

• لا يتطلب تدريباً: يعتمد النظام كلياً على التفاعلات في وقت الاستدلال، مما يلغي الحاجة إلى مجموعات بيانات تفضيل بشرية مكلفة أو تدريب نماذج المكافأة.
• القابلية للتوسع للتصميم المتمحور حول الطفل: يوازن إطار العمل بفعالية بين الانفتاح المطلوب للعب الإبداعي والقيود الصارمة اللازمة للمحتوى المناسب للأطفال، وتحديداً معالجة مشكلة هلوسات الأمانة.
• الكفاءة: إن اكتشاف إمكانية تحقيق مخرجات عالية الجودة في عدد قليل من الدورات (2-3) يجعل النظام قابلاً للتطبيق في السرد القصصي التفاعلي في الوقت الفعلي، حيث تعد زمن الاستجابة وسرعة التفاعل أمراً بالغ الأهمية.

المحددات
يقر المؤلفون بتواضع بأن درجات الجودة هي درجات اصطناعية، مستمدة حصرياً من المحررين (النماذج اللغوية الكبيرة) وليس من تقييم بشري خارجي. وبينما أشار تقييم نوعي أولي أجراه كتاب محترفون ومصمم لعبة YOLI إلى التوافق مع الحكم البشري، تؤكد الورقة أن العمل المستقبلي يجب أن يتحقق من هذه الدرجات مقابل تقييمات من متخصصين في تعليم الطفولة المبكرة وتقييمات مباشرة من الأطفال لضمان توافق التحسينات مع التفاعل البشري الحقيقي.