Anchored Confabulation: Partial Evidence Non-Monotonically Amplifies Confident Hallucination in LLMs
تحدد هذه الورقة وتصيغ بشكل رسمي مفهوم "التلفيق المرتكز" (anchored confabulation)، وهي ظاهرة يؤدي فيها تقديم أدلة وسيطة جزئية، على نحو مفارق، إلى زيادة ثقة النماذج اللغوية الكبيرة في خطوات الاستدلال المتخيلة، وتوضح كيف يتيح استغلال هذا المقياس توجيهاً عالي الكفاءة لعملية التوليد المعزز بالاسترجاع دون الحاجة إلى ضبط دقيق للنموذج.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تسأل أمينة مكتبة ذكية جداً، ولكنها مغرورة قليلاً (الذكاء الاصطناعي)، لتجد حقيقة محددة في مكتبة ضخمة. في الحالة الطبيعية، إذا لم تكن أمينة المكتبة تعرف الإجابة، فستقول: "لست متأكدة" أو "لا أستطيع العثور على ذلك". وهذا أمر جيد، لأنه يخبرك بأن تبحث في مكان آخر.
ومع ذلك، اكتشفت هذه الدراسة خللاً غريباً: أحياناً، عندما تكون أمينات المكتبات مخطئات، يكنّ في الواقع أكثر ثقة مما يكنّ عليه عندما يكنّ مصيبات.
تسمي المؤلفون هذه الظاهرة "الهذيان المرتكز" (Anchored Confabulation). وإليك كيف تعمل، باستخدام تشبيهات بسيطة:
1. فخ "نصف الحقيقة" (المرتكز)
تخيل أنك تسأل أمينة المكتبة سؤالاً يتكون من ثلاث خطوات: "من هو مخرج الفيلم الذي شارك فيه الممثل المنتمي لفرقة 'X'؟"
- الخطوة 1: تجد أمينة المكتبة كتاباً عن الفرقة.
- الخطوة 2: تجد أمينة المكتبة كتاباً عن الممثل.
- الخطوة 3: يجب على أمينة المكتبة إيجاد الرابط بين الممثل والفيلم. والمكتبة لا تمتلك هذا الرابط.
هنا يكمن الخطأ: لأن أمينة المكتبة وجدت أول كتابين (المرتكزات)، شعرت بالثقة الكافية لـ تخمين الجزء الثالث. هي لا تقول: "لا أعرف"، بل تقول بثقة: "أوه، إنه بالتأكيد المخرج (Y)!"، لأن ذاكرتها الداخلية (بيانات التدريب) تحتوي على حقيقة مشابهة في الصوت أو المعنى.
تسمي الدراسة هذا "الهذيان المرتكز". فالأدلة الجزئية (الكتابين الأولين) تعمل كمرتكز، يثبت أمينة المكتبة في قصة واثقة، ولكنها مختلقة تماماً.
2. "النقطة المثالية" للارتباك
وجد الباحثون أن هذا لا يحدث مع كل الأسئلة.
- الأسئلة البسيطة (خطوة واحدة): إما أن تعرف أمينة المكتبة الإجابة أو تعترف بأنها لا تعرفها.
- الأسئلة الصعبة جداً (4 خطوات أو أكثر): تدرك أمينة المكتبة أن السلسلة طويلة جداً، فتصبح متوترة وتتهرب من الإجابة ("لست متأكدة...").
- "النقطة المثالية" (3 خطوات): هذه هي منطقة الخطر. إنها طويلة بما يكفي لتجعل أمينة المكتبة تعتقد أنها تستطيع استنتاج الإجابة من ذاكرتها، لكن كتب المكتبة في الواقع لا تحتوي على الإجابة. هنا، تصبح مخطئة بثقة.
3. "انقلاب الثقة"
في العالم الحقيقي، نعتقد عادةً: الثقة العالية = إجابة صحيحة.
ومع ذلك، تظهر الدراسة أنه بالنسبة لهذه الأسئلة المكونة من ثلاث خطوات تحديداً، تنعكس القاعدة: الثقة العالية = إجابة خاطئة.
إذا قالت أمينة المكتبة بخصوص سؤال من ثلاث خطوات: "أنا متأكدة بنسبة 100%!"، فعليك في الواقع أن تكون أكثر ارتياباً مما لو قالت: "لست متأكدة".
4. الحل: "حارس بوابة ذكي"
طوّر المؤلفون نظاماً جديداً يسمى LearnedRouter. تخيل هذا كحارس بوابة ذكي يقف بينك وبين أمينة المكتبة.
- النظام القديم: ينظر الحارس إلى السؤال قبل أن تجيب أمينة المكتبة. إذا بدا السؤال صعباً، يوجهه إلى "خبير فائق" (GraphRAG). وإذا بدا بسيطاً، يترك أمينة المكتبة العادية تتعامل معه.
- النظام الجديد (LearnedRouter): ينتظر الحارس حتى تعطي أمينة المكتبة الإجابة أولاً.
- إذا قدمت أمينة المكتبة إجابة واثقة لسؤال من ثلاث خطوات، يعرف الحارس: "أوه لا، هذا هو فخ الهذيان المرتكز! إنها مخطئة بثقة".
- عندها يقوم الحارس فوراً بإيقاف أمينة المكتبة العادية ويوجه السؤال إلى "الخبير الفائق" (GraphRAG) للحصول على الإجابة الحقيقية.
5. لماذا يهم هذا؟
تثبت الدراسة أن النظام الجديد، من خلال البحث عن هذا النوع المحدد من "الأكاذيب الواثقة"، يمكنه تصحيح 81% من أخطاء النظام القديم دون الحاجة لإعادة تدريب أمينة المكتبة أو إنفاق أموال إضافية على خبراء مكلفين لكل سؤال.
باخت�ار: وجدت الدراسة أن نماذج الذكاء الاصطناعي تكذب أحياناً بوجه جاد عندما تمتلك ما يكفي من التلميحات لتشعر بالذكاء. وقد طور المؤلفون كاشفاً يتعرف على هذا "الوجه الجاد" ويعرف متى يجب استدعاء الخبراء لتصحيحه.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.