Hallucination, Monofacts, and Miscalibration: An Empirical Investigation

إليك ملخص تقني مفصل لورقة البحث "الهلوسة، والحقائق الأحادية، وسوء المعايرة: تحقيق تجريبي" للباحثين ميراندا موكينج مياو ومايكل كيرنز.

1. بيان المشكلة

تنتج النماذج اللغوية الكبيرة (LLMs) بشكل متكرر هلوسات—وهي عبارات تبدو منطقية ولكنها خاطئة بشكل يمكن التحقق منه. وبينما ركزت الأبحاث السابقة على التخفيف من حدة هذه الظاهرة بعد حدوثها (مثل التوجيه في الفضاء الكامن، أو التشخيص الذاتي) أو حقن الذاكرة، إلا أن هذه الطرق غالباً ما تعالج الأعراض بدلاً من الأسباب الجذرية.

أرست العمل النظري الأخير لـ كالاي وفيمبالا (2024) حداً إحصائياً أساسياً أدنى لمعدلات الهلوسة في النماذج اللغوية المعايرة. تفترض النظرية أن الهلوسة محكومة بعلاقة ثلاثية الأطراف:

1. معدل الحقائق الأحادية ($\hat{MF}$): نسبة الحقائق التي تظهر مرة واحدة بالضبط في بيانات التدريب.
2. سوء معايرة النموذج ($Mis$): التباين بين الثقة المتوقعة للنموذج والاحتمالية الحقيقية للصحة.
3. معدل الهلوسة ($f_{gen}$): وتيرة المخرجات الخاطئة.

تشير الحدود النظرية إلى أنه بالنسبة لنموذج معاير بشكل مثالي، فإن الهلوسة لا يمكن تجنبها إذا كانت بيانات التدريب تحتوي على الكثير من الحقائق الأحادية (الحقائق النادرة). ومع ذلك، تشير النظرية إلى أن سوء المعايرة المتعمد يمكن نظرياً أن يقلل من الهلوسة عن طريق تركيز الكتلة الاحتمالية على الحقائق التي تم تعلمها جيداً، حتى لو أدى ذلك إلى الانحراف عن المعايرة المثالية.

الفجوة: لم يتم التحقق من صحة هذه النظرية تجريبياً عبر بنيات نماذج مختلفة (من نماذج n-gram الكلاسيكية إلى نماğ Transformers الحديثة)، كما لم يتم تطوير طرق عملية للتلاعب بهذه المتغيرات في سيناريوهات التدريب الواقعية.

2. المنهجية

أجرى المؤلفون تحقيقاً تجريبياً منهجياً باستخدام إعدادين تجريبيين متميزين:

أ. توليد البيانات المحكومة

لعزل المتغيرات، قام المؤلفون بتوليد بيانات تدريب اصطناعية باستخدام توزيعات باريتو (التوزيعات ذات الذيول الثقيلة) مع معاملات شكل ($\gamma$) متنوعة.

• $\gamma$ منخفضة: تؤدي إلى مجموعات بيانات تظهر فيها معظم الحقائق عدة مرات (معدل حقائق أحادية منخفض).
• $\gamma$ مرتفعة: تؤدي إلى مجموعات بيانات تظهر فيها الحقائق غالباً مرة واحدة فقط (معدل حقائق أحادية مرتفع).
  سمح هذا النهج بالتحكم الدقيق في معدل الحقائق الأحادية مع الحفاظ على متطلبات أخذ العينات المستقلة والمتماثلة (i.i.d.).

ب. بنيات النماذج

1. نماذج n-gram الكلاسيكية: استُخدمت كـ "صندوق رمل" (sandbox) محكوم (تحديداً bigrams على مجموعات بيانات مرتبة من حقائق الأفلام) للتحقق من العلاقات النظرية دون القيود الحسابية لنماذج LLM.
2. الضبط الدقيق تحت الإشراف (SFT) لنماذج Transformer: تم ضبط نماذج T5 (مشفر-فك تشفير) وGPT-2 (فك تشفير فقط) على بيانات سيرة ذاتية اصطناعية (7 سمات: الاسم، تاريخ الميلاد، إلخ) لاختبار القابلية للتوسع والتطبيق على اللغة الطبيعية.

ج. التدخل: زيادة الوزن الانتقائية (Selective Upweighting)

كان التدخل التجريبي الجوهري هو زيادة الوزن الانتقائية.

• التقنية: قام المؤلفون بتكرار مجموعة فرعية صغيرة (مثلاً 5%) من أمثلة التدريب عمداً (بنسبة تصل إلى 10 أضعاف) خلال مراحل تدريب محددة (البداية مقابل النهاية).
• الهدف: حقن سوء المعايرة في النموذج. من خلال تمثيل حقائق معينة بشكل مفرط، يصبح النموذج "مفرط الثقة" في تلك الحالات، مما ينقل الكتلة الاحتمالية بعيداً عن "الذيل" غير اليقيني للتوزيع حيث تحدث الهلوسات عادةً.

د. المقاييس والتماثل التجريبي

• معدل الهلوسة: تم قياسه كنسبة من العبارات المولدة التي تقع خارج مجموعة الحقائق الأرضية (ground-truth).
• سوء المعايرة: تم قياسه باستخدام مسافة التباين الكلي (Total Variation distance) بين التوزيع المتوقع والتوزيع الحقيقي.
• تباعد KL التجريبي: بما أن توزيع البيانات الحقيقي ($p$) غير معروف في الممارسة العملية، فقد اشتق المؤلفون حداً تجريبياً لتباعد KL للهلوسة (النظرية 2). هذا يستبدل مصطلح سوء المعايرة النظري بتباعد KL مدفوع بالبيانات بين توزيع النموذج والتكرار التجريبي لمجموعة التدريب، مما يجعل الحد قابلاً للتطبيق في السيناريوهات الواقعية.

3. المساهمات الرئيسية

1. التحقق التجريبي من النظرية: تأكيد إطار "كالاي-فيمبالا" النظري، وإثبات وجود علاقة طردية بين معدل الحقائق الأحادية ومعدل الهلوسة عبر كل من نماذج n-gram ونماذج Transformer.
2. اشتقاق حد تجريبي: تطوير نظير عملي ومدفوع بالبيانات لحد الهلوسة النظري باستخدام تباعد KL التجريبي، مما يلغي الحاجة إلى معرفة توزيع البيانات الأساسي الحقيقي.
3. استراتيجية زيادة الوزن الانتقائية: تقديم تقنية بسيطة وفعالة لتقليل الهلوسة بنسبة تصل إلى 40% دون التضحភាព بالدقة. وهذا يتحدى الممارسة الصناعية القياسية المتمثلة في إزالة التكرار (deduplication) بشكل صارم.
4. رؤى خاصة بالبنية: كشفت أن توقيت زيادة الوزن أمر بالغ الأهمية:
   • نماذج المشفر-فك التشفير (T5): تستفيد من زيادة الوزن في المرحلة الأخيرة (حقن سوء المعايرة بعد تعلم الحقائق).
   • نماذج فك التشفير فقط (GPT-2): تستفيد من زيادة الوزن في المرحلة الأولى.

4. النتائج الرئيسية

• الارتباط بين الحقائق الأحادية والهلوسة: في نماذج n-gram، مع زيادة معدل الحقائق الأحادية من 0% إلى 100%، ارتفع معدل الهلوسة خطياً من ~0% إلى ~50%.
• سوء المعايرة كرافعة:
  • في نماذج n-gram، أدت زيادة الوزن لـ 6% فقط من البيانات إلى تقليل الهلوسة بنحو 50% في سيناريوهات الحقائق الأحادية العالية.
  • في نماذج LLM (T5-Small)، أدت زيادة وزن 5% من البيانات (تكرار 10 أضعاف) في مرحلة التدريب النهائية إلى تقليل الهلوسة بنسبة ~40% مع الحفاظ على مستويات الدقة قبل حقن الوزن.
• المقايضة: يحسن التدريب القياسي الدقة بمرور الوقت ولكنه يفشل في تقليل معدلات الهلوسة المرتفعة المستمرة. تكسر زيادة الوزن الانتقائية هذه المقايضة، حيث تحافظ على الدقة بينما تخفض الهلوسة بشكل كبير.
• الأهمية الإحصائية: أكدت اختبارات كولموغوروف-سميرنوف أن إعادة توزيع الكتلة الاحتمالية (زيادة القطبية في فئات الثقة العالية) الناتجة عن زيادة الوزن هي ذات دلالة إحصائية ($p < 0.01$).

5. الأهمية والآثار المترتبة

• إعادة التفكير في إزالة التكرار: تتحدى النتائج الافتراض العالمي بأن إزالة تكرار بيانات التدريب مفيدة دائماً. تقترح الورقة أن التكرار الاستراتيجي (زيادة الوزن) لمجموعة فرعية من البيانات يمكن أن يكون أداة قوية للموثوقية.
• التحكم المرتكز على البيانات: ينقل هذا التركيز من التدخلات المعقدة بعد حدوث الخطأ إلى تكوين بيانات التدريب كرافعة أساسية للتحكم في الهلوسة.
• القابلية للتطبيق العملي: الطريقة المقترحة غير مكلفة حسابياً (تتطلب فقط تكرار جزء صغير من البيانات) وهي قابلة للتفسير، مما يوفر بديلاً مباشراً للتغييرات المعمارية المعقدة.
• القيود والعمل المستقبلي:
  • خطر التحيز: قد تؤدي زيادة وزن حقائق معينة إلى جعل النماذج تميل لتوليد تلك الحقائق المحددة (على غرار ظاهرة "جسر غولدن غيت" في نماذج أخرى).
  • التعميم: بينما تنخفض الهلوسة، هناك توتر محتمل مع القدرة على التعميم. قد تعيق المبالغة في التكرار قدرة النموذج على تعلم القواعد التركيبية (مثل الحساب) مقابل حفظ الحالات.
  • المستهدف مقابل العشوائي: يجب أن يبحث العمل المستقبلي فيما إذا كان استهداف تحديداً الحقائق الأحادية لزيادة الوزن يعطي نتائج أفضل من الاختيار العشوائي.

في الختام، تثبت الورقة أن الهلوسة ليست نمط فشل غامض، بل هي نتيجة إحصائية يمكن التنبؤ بها لتوزيع البيانات والمعايرة. ومن خلال التلاعب بتكرار بيانات التدريب وإدخال سوء المعايرة بشكل متعمد، يمكن للممارسين تعزيز موثوقية النماذج بشكل كبير.