ملخص تقني: إطار عمل بايزي (Bayesian) متجذر معرفيًا لتقصي القابلية للتأثر بالمعلومات المضللة

بيان المشكلة

تتعامل النهج الحالية لمعالجة اللغات الطبيعية (NLP) في كشف المعلومات المضللة بشكل سائد مع المشكلة كمسألة تصنيف صدقية: إعطاء ادعاء ما، ثم التنبؤ بما إذا كان صحيحًا أم كاذبًا. وبينما تعد هذه الطريقة فعالة في تحديد المحتوى الزائف، إلا أن هذا النموذج يعتبر اختزاليًا لأنه يتجاهل العمليات المعرفية لـ القارئ. تفتقر النماذج الحالية إلى تمثيل للوكيل البشري، فتفشل في التنبؤ بـ من هو القابل للتأثر بأنواع محددة من الاضطراب المعلوماتي، ولماذا يؤمن بها، أو كيف تؤدي الملفات التعريفية المعرفية المختلفة إلى تفسيرات متباينة لنفس الادعاء. علاوة على ذلك، غالبًا ما تتجاهل الممارسات القياسية اختلاف المدققين (على سبيل المثال، عبر التصويت بالأغلبية)، مما يؤدي إلى فقدان إشارات قيمة تتعلق بالغموض المتأصل أو عدم اليقين الإبستيمي (المعرفي) للادعاء.

تجادل الورقة بأن القابلية للتأثر بالمعلومات المضللة ليست مجرد فشل في التحقق من الحقائق، بل هي نتيجة للعقلانية المحدودة. البشر لا يعالجون اللغة كوكلاء بايزيين مثاليين؛ بل يعملون تحت قيود مثل الذاكرة العاملة المحدودة، والاعتماد على الاختصارات الذهنية (Heuristics)، وتأثير المعلومات البارزة أو المتكررة بكثرة.

المنهجية: المستمع البراغماتي المحدود (BPL)

قدم المؤلفون المستمع البراغماتي المحدود (Bounded Pragmatic Listener - BPL)، وهو إطار عمل بايزي رسمي يوسع نظرية أفعال الكلام العقلانية (Rational Speech Acts - RSA). يقوم نموذج BPL بنمذجة وكيل يقوم بتحديث معتقداته حول حالة العالم $w$ (صدق الادعاء أو كذبه) بناءً على المنطوق $u$ (ادعاء إخباري)، مع مراعاة ثلاثة قيود مدفوعة معرفيًا:

1. قيد عمق التكرار ($k$):

   • المفهوم: يضع حدًا لعمق "نظرية العقل" (Theory of Mind - ToM). وهو ينمذج عدد طبقات نوايا المتحدث التي يمكن للوكيل تتبعها (على سبيل المثال، $k=0$: قبول المحتوى الحرفي؛ $k=1$: إدراك أن المتحدث قدم ادعاءً؛ $k=2$: التفكير في نية المتحدث للتلاعب بالإجماع الاجتماعي).
   • الأساس المعرفي: يستند إلى حدود الذاكرة العاملة (Cowan, 2001) والنتائج التجريبية التي تشير إلى أن الوكلاء نادرًا ما يتجاوزون العمق 2 في الألعاب الاستراتيجية (C Camerer et al., 2004).
   • الآلية: العمق الفعال هو $k^* = \min(k, d+1)$، حيث $d$ هو العمق الإبستيمي للادعاء (تداخل عوامل نسب الاعتقاد).

2. معلم ضغط الأولويات ($\beta$):

   • المفهوم: ينمذج كيف يحافظ الوكيل على معتقدات المصداقية الدقيقة مقابل دمجها في استدلالات عامة (مثل "مصدر مشبوه") تحت الضغط المعرفي.
   • الأساس المعرفي: مستمد من نظرية عنق الزجاجة المعلوماتية (Information Bottleneck theory - Tishby et al., 1999) ونظرية العمليات المزدوجة (النظام 1 مقابل النظام 2).
   • الآلية: يحافظ الوكيل على تمثيل مضغوط $\tilde{P}_\beta(w)$ عبر متغير عنق الزجاجة $Z$ (مخططات المصداقية). كلما اقتربت $\beta$ من الصفر، يتخلص الوكيل من الأولويات (المعالجة الاستدلالية/Heuristic)؛ وكلما اقتربت $\beta$ من اللانهاية، يحافظ الوكيل على الأولويات الكاملة (المعالجة المنهجية). وتعمل مصداقية المصدر $\gamma$ على تعديل هذا الضغط.

3. حجم عينة التوافر ($N$):

   • المفهوم: ينمذج عدد الأمثلة المتشابهة التي يسترجعها الوكيل ذهنيًا لتقييم ادعاء ما، مما يشغل عملية أخذ العينات بالوزن (Importance Sampling) باستخدام أوزان البروز.
   • الأساس المعرفي: يستند إلى استدلال التوافر (Availability Heuristic) (Tversky and Kahneman, 1973) وتأثير الحقيقة الوهمية (Illusory Truth Effect) (Hasher et al., 1977).
   • الآلية: بدلاً من حساب الاحتمالات الدقيقة، يقدر الوكيل الاحتمالية عبر أخذ عينات من توزيع مقترح $Q(u)$ مرجح بعوامل البروز النفسي: التكافؤ العاطفي ($\nu$)، عدد التكرار ($r$)، والحداثة ($\rho$). يؤدي صغر حجم $N$ إلى المبالغة المنهجية في وزن الأمثلة الحية أو المتكررة.

رسم خرائط الاضطراب المعلوماتي

يقوم الإطار صراحة برسم خرائط لتصنيف واردل ودراخشان (Wardle and Derakhshan, 2017) للاضطراب المعلوماتي على معاملات BPL:

• المعلومات المضللة (Mis-information): تستغل الأولويات المضغوطة ($k=0$).
• المعلومات الخادعة (Dis-information): تستغل التفكير الإبستيمي الضحل ($k \ge 1$).
• المعلومات الضارة (Mal-information): تستغل التكرار العميق والتأطير الميتا-إبستيمي ($k \ge 2$).

يؤدي هذا الربط إلى مفارقة عدم تطابق العمق (Depth-Mismatch Paradox): الوكلاء الذين لديهم وعي براغماتي جزئي ($k=1$) قد يكونون أكثر عرضة للمعلومات الخادعة من أولئك الذين ليس لديهم أي وعي ($k=0$)، لأنهم يدركون عملية الإسناد لكنهم يفشلون في تقييم النية الخداعية الكامنة خلفها.

التنفيذ والتقييم

قام المؤلفون بتنفيذ BPL باستخدام مجموعتي بيانات: LIAR (ادعاءات PolitiFact) و MultiFC (ادعاءات التحقق من الحقائق متعددة المجالات).

• مجتمع الوكلاء: تمت محاكاة تسعة أنواع من الوكلاء النموذجيين تغطي فضاء المعاملات $(k, \beta, N)$.
• التأسيس عبر النماذج اللغوية الكبيرة (LLM Grounding): تم تطوير نسخة هجينة حيث استُخدمت النماذج اللغوية الكبيرة (LLMs، وتحديدًا Gemini 2.5 Pro) لاستخلاص توصيفات غنية دلاليًا للادعاءات، بما في ذلك:
  • المخططات اللفظية لضغط الأولويات (بدلاً من الجداول المصنوعة يدويًا).
  • أوزان البروز ($\phi$) بناءً على الكثافة العاطفية، الجدة، القدرة على التذكر، والقابلية للمشاركة.
  • محاكاة استرجاع الذاكرة لعينة التوافر.
• المقاييس: تصنيف الصدقية (AUC، F1)، خطأ التنبؤ، ومعايرة المكونات (الارتباط بين الاستدعاء المحاكى والحقيقة الأرضية).

النتائج الرئيسية

1. تصنيف الصدقية

• مجموعة بيانات LIAR: حقق "النموذج السطحي الأساسي" (باستخدام البيانات الوصفية لتاريخ المتحدث) درجة AUC مثالية (1.000)، ولكن هذا عُزي إلى تسرب البيانات حيث شفر تاريخ المتحدث الملصق مباشرة. حقق نموذج BPL Full (باستخدام تاريخ المتحدث كأولوية مضغوطة فقط، وليس كميزة مباشرة) درجة AUC بلغت 0.930 وF1 بلغت 0.885، مما أرسى أساسًا قويًا خاليًا من التسرب. حقق مقياس BPL الفردي (درجة القابلية للتأثر) AUC قدره 0.811 باستخدام نص الادعاء وهوية المتحدث فقط.
• مجموعة بيانات MultiFC: حقق BPL Full درجة AUC بلغت 0.840 مقارنة بالنموذج السطحي الأساسي الذي بلغ 0.879. وبينما لم يحسن BPL من القدرة على التمييز (AUC)، فإن دمج ميزات BPL مع الميزات السطحية حسن درجة F1 من 0.439 إلى 0.517، مما يشير إلى تحسين في توازنات الدقة والاستدعاء الضرورية للتحقق من الحقائق عالي الاستدعاء.

2. دراسات الاستبعاد (Ablation Studies)

• ضغط الأولويات أمر حاسم: أدى إزالة قيد ضغط الأولويات ($\beta$) إلى أكبر انخفاض في الأداء ($\Delta r = -0.064$)، مما يشير إلى أن نمذجة كيفية ضغط البشر لمصداقية المصدر هي العامل الأكثر أهمية في نجاح الإطار.
• تأثيرات قيد العمق: في مجموعة بيانات LIAR الكاملة (92% من الادعاءات بعمق 0)، لم يكن لتخفيف قيد العمق تأثير يذكر. ومع ذلك، عند اشتراط الادعاءات ذات العمق 1، أصبح قيد العمق هو المحرك الرئيسي للأداء.

3. مفارقة عدم تطابق العمق

• التحقق التجريبي: الوكلاء الذين لديهم $k=1$ (وعي جزئي) كان أداؤهم أسوأ بشكل ملحوظ في الادعاءات ذات العمق 1 (خطأ 0.510) مقارنة بالوكلاء ذوي $k=0$ (خطأ 0.450).
• التفسير: الوكلاء ذوو $k=1$ يدركون الإسناد لكنهم لا يستطيعون تقييم النية الخداعية للمتحدث، مما يجعلهم يعاملون الادعاء كدليل إيجابي ضعيف. أما الوكلاء ذوو $k=0$ فيتجاهلون الإسناد ويقيمون المحتوى الحرفي (الذي غالبًا ما يكون غير منطقي لغويًا)، مما يؤدي إلى انخفاض الاعتقاد. أما الوكلاء ذوو $k=2$ فيستنتجون الخداع بشكل صحيح، محققين أدنى خطأ (0.340).

4. التأسيس عبر LLM والمعايرة

• تحسن الأداء: حقق النموذج الهجين (LLM-BPL) درجة AUC بلغت 0.868 على عينة صغيرة مقارنة بـ 0.695 للنموذج الأساسي القائم على الميزات.
• القناة الإبستيمية: أظهرت النماذج (LLM والنموذج القائم على الميزات) استقلالًا شبه تام ($r=0.184$)، مما يشير إلى أن LLM يصل إلى قناة إبستيمية متميزة (تماسك التأطير الدلالي) بدلاً من الاعتماد على البيانات الوصفية اللفظية.
• معايرة التوافر: ارتبط استدعاء LLM المحاكى للادعاءات الكاذبة بقوة ($r=0.562$) مع كذب الادعاء الفعلي دون إشراف، مما يؤكد آلية التوافر. لقد استرجع النموذج تلقائيًا أمثلة كاذبة أكثر للادعاءات الكاذبة، مما قلل فعليًا من الاعتقاد فيها.

الأهمية والادعاءات

تضع الورقة BPL كـ عمل قيد التطوير يقدم بديلًا متجذرًا معرفيًا للتحقق التقليدي من المعلومات المضللة. وتتمثل مساهماتها الرئيسية في:

1. نظريًا: رسم خرائط رسمية لأنواع الاضطراب المعلوماتي على القيود المعرفية، والتنبؤ بـ "مفارقة عدم تطاق العمق" حيث قد يؤدي التدريب الجزئي إلى زيادة الضعف.
2. منهجيًا: إطار عمل احتمالي يتقلص إلى RSA القياسي عند تخفيف القيود، مما يسمح بنمذجة الملفات التعريفية المعرفية غير المتجانسة والتنبؤ باختلاف المدققين كتباين في التوزيع اللاحق (posterior variance).
3. تجريبيًا: تقديم دليل على أن ضغط الأولويات (نمذجة كيفية تبسيط البشر لمصداقية المصدر) هو العامل المهيمن في تصنيف الصدقية، وأن التأسيس عبر LLM يعزز الأداء بشكل كبير من خلال محاكاة استرجاع الذاكرة والتدبير الدلالي الشبيه بالبشر.

يخلص المؤلفون إلى أنه بينما يعد BPL مصنفًا قويًا، فإن قيمته الحقيقية تكمكمن في قدرته على شرح لماذا يكون بعض الوكلاء عرضة للتأثر. وهم يحذرون من أن البنية الحالية تفترض صدقية ثنائية وتعتمد على استدلالات بسيطة لاستخراج العمق، مشيرين إلى أن العمل المستقبلي يجب أن يعالج الصدقية المتدرجة وتحليل التبعية الأكثر تعقيدًا. يشير الإطار إلى أن التدخلات التي تركز فقط على تعليم الناس ملاحظة الإسناد (دون تعليم تقييم النية) قد تزيد من احتمالية التأثر بالمعلومات الخداعية عن غير قصد.