Intent Mismatch Causes LLMs to Get Lost in Multi-Turn Conversation

ملخص تقني: عدم تطابق القصد يؤدي إلى ضياع النماذج اللغوية الكبيرة في المحادثات متعددة الأدوار

1. بيان المشكلة: ظاهرة "الضياع في المحادثة" (Lost in Conversation - LiC)

حددت الأبحاث الحديثة انخفاضاً كبيراً في أداء النماذج اللغوية الكبيرة (LLMs) عند الانتقال من التعليمات أحادية الدور والمحددة بالكامل إلى الحوارات متعددة الأدوار وغير المحددة بدقة—وهي ظاهرة تُسمى "الضياذ في المحادثة" (LiC).

بينما عزت الدراسات السابقة هذا الأمر إلى عدم موثوقية النموذج أو قصور في الاستنتاج، يجادل هذا البحث بأن السبب الجذري هو فجوة توافق القصد (Intent Alignment Gap). ويرى المؤلفون أن:

• عدم التطابق البراغماتي (Pragmatic Mismatch): غالباً ما يستخدم المستخدمون لغة "فاقدة للمعلومات" (غامضة، مجزأة، أو مقتضبة) للتعبير عن مقاصد معقدة.
• أولوية "المستخدم المتوسط": عند مواجهة حالة عدم اليقين، تميل النماذج اللغوية الكبيرة إلى الافتراض الأكثر احتمالاً إحصائياً بناءً على بيانات التدريب الخاصة بها (أي "المستخدم المتوسط")، مما يؤدي إلى اتخاذ افتراضات خاطئة سابقة لأوانها "تُثبّت" مسار الحوار وتتسبب في انحرافه عن هدف المستخدم الحقيقي.
• عدم فعالية التوسع (Scaling Ineffectiveness): يثبت المؤلفون نظرياً وتجريبياً أن زيادة حجم النموذج أو عمق الاستنتاج (مثل سلسلة الأفك - Chain-of-Thought) لا يحل مشكلة LiC لأن العائق هو حد نظري للمعلومات (اعتلاج شرطي عالٍ - High Conditional Entropy) وليس نقصاً في القدرة الحسابية.

2. المنهجية: إطار عمل الوسيط والمساعد (Mediator-Assistant Framework)

لسد الفجوة بين التعبير الغامض للمستخدم والتنفيذ الدقيق للنموذج، يقترح المؤلفون بنية مفككة تفصل بين فهم القصد وتنفيذ المهمة.

أ. بنية الوسيط والمساعد:

• الوسيط (The Mediator - $M$): يعمل كطبقة توافق. يأخذ سياق الحوار المشوش والغامض ($C_t$) ويعيد بناءه إلى تعليمات عالية الدقة ومحددة بالكامل ($\hat{U}$) تعمل كوكيل للقصد الكامن الحقيقي ($I_t$).
• المساعد (The Assistant - $A$): نموذج لغوي كبير قياسي يتلقى التعليمات الواضحة ($\hat{U}$) ويقوم بتنفيذ المهمة الفعلية. ومن خلال العمل على تعليمات منخفضة الاعتلاج (Low-entropy) وصريحة، يتجنب المساعد الحاجة إلى "تخمين" قصد المستخدم.

ب. الصقل المدفوع بالخبرة:
لجعل الوسيط متكيفاً مع سلوكيات مستخدمين محددين دون إعادة تدريب النموذج، قدم المؤلفون:

• بناء الأزواج التباينية (Contrastive Pair Construction): يحدد النظام المسارات "الفاشلة" (مدخلات غامضة أدت إلى إجابات خاطئة) ويزوجها مع المسارات "الناجحة" (نفس المهمة مقدمة بشكل واضح).
• المُصفي (The Refiner - $R$): وحدة تعتمد على النماذج اللغوية الكبيرة تقوم بتحليل استقرائي لهذه الأزواج التباينية لاستخلاص الخبرات البراغماتية ($E$). وهي عبارة عن إرشادات نصية موجزة ومنظمة (على سبيل المثال: "إذا قدم المستخدم جزءاً من جملة دون موافقة صريحة، فتعامل معه كونه تصحيحاً للمنطق السابق") والتي يتم حقنها في سياق الوسيط.

3. المساهمات الرئيسية

• إعادة الصياغة النظرية: قدموا تفكيكاً رياضياً للأداء متعدد الأدوار إلى استنتاج القصد وتنفيذ المهمة، مما يثبت أن LiC هو فشل في العملية الأولى.
• الابتكار الهيكلي: تقديم خط عمل الوسيط-المساعد (Mediator-Assistant pipeline)، الذي يفصل بين الاستنتاج والتفسير.
• التكيف الخالي من التدريب: طريقة لتحقيق التخصيص والتوافق البراغماتي باستخدام "مُصفي" مدفوع بالخبرة بدلاً من الضبط الدقيق المكلف للمعلمات (Parameter Fine-tuning).

4. النتائج التجريبية

تم اختبار الإطار مقابل نماذج رائدة مثل (GPT-4o-mini، GPT-5.2، وDeepSeek-V3.2-Thinking) في مجالات البرمجة، قواعد البيانات، الإجراءات، والرياضيات.

• تخفيف حدة LiC: نجح الوسيط في استعادة الأداء بشكل ملحوظ. على سبيل المثال، في الإعداد "المجزأ" (Ambiguous)، وفر الإطار متوسط تحسن في الأداء بنحو 20% وحسّن الموثوقية بنسبة 15%.
• تكملة الاستنتاج: حتى النماذج كثيفة الاستنتاج مثل DeepSeek-V3.2-Thinking شهدت زيادة بنسبة 21.1%، مما يثبت أن الاستنتاج الداخلي لا يمكنه تعويض المعلومات المفقودة.
• القصد مقابل الذاكرة: أظهرت دراسات الاستبعاد (Ablation studies) أن الوسيط تفوق بشكل كبير على الذاكرة القائمة على RAG (مثل Mem0) وعلى التلخيص. وهذا يثبت أن المشكلة ليست "نسيان الحقائق" (الذاكرة)، بل "سوء تفسير كيفية تطبيق الحقائق" (القصد).
• الكفاءة: حققت الإرشادات المستخلصة عبر المُصفي أداءً مقارباً للتعلم داخل السياق (ICL) المباشر ولكن بـ 3.6 ضعف أقل من الرموز (Tokens)، مما يجعلها فعالة حسابياً.

5. الأهمية

يغير هذا العمل نموذج البحث في الحوار متعدد الأدوار من "جعل النماذج أكثر ذكاءً أو أكبر حجماً" إلى "جعل النماذج أكثر توافقاً مع البراغماتية البشرية". فهو يوفر حلاً قابلاً للتوسع والنمذجة لبناء وكلاء محادثة يمكنهم التعامل مع الغموض المتأصل في التواصل البشري، مما يقربنا من تفاعل سلس وطبيعي بين الإنسان والذكاء الاصطناعي.