💬 NLP

Trust Oriented Explainable AI for Fake News Detection

تُثبت هذه الورقة أن دمج تقنيات الذكاء الاصطناعي القابل للتفسير مثل SHAP وLIME وIntegrated Gradients في أنظمة كشف الأخبار الزائفة القائمة على معالجة اللغات الطبيعية يعزز بشكل كبير من شفافية النموذج وموثوقيته مع الحفاظ على دقة تصنيف عالية، رغم التحديات مثل التكاليف الحسابية.

المؤلفون الأصليون: Krzysztof Siwek, Daniel Stankowski, Maciej Stodolski

نُشر 2026-03-13

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Krzysztof Siwek, Daniel Stankowski, Maciej Stodolski

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك محقق يحاول حل جريمة: الأخبار الزائفة. لديك مساعد آلي فائق الذكاء (ذكاء اصطناعي) يمكنه رصد القصص الزائفة بدقة مذهلة. لكن هناك مشكلة، هذا الروبوت عبارة عن "صندوق أسود". فهو يعطي حكماً ("هذا خبر زائف!")، لكنه يرفض إخبارك لماذا. الأمر يشبه قاضٍ ينطق بالحكم دون أن يقرأ الأدلة بصوت عالٍ.

هذه الورقة البحثية تدور حول منح ذلك الروبوت صوتاً. المؤلفون يعلمون الذكاء الاصطناعي كيفية شرح منطقه، مما يجعله موثوقاً وقابلاً للتفسير.

إليك تفصيل عملهم باستخدام تشبيهات بسيطة:

1. المشكلة: المحقق "الصندوق الأسود"

في الماضي، كانت نماذج الذكاء الاصطناعي المخصصة لكشف الأخبار الزائفة تشبه العرافين. كانوا ينظرون إلى مقال إخباري ويقولون فوراً: "زائف!" أو "حقيقي!". ولكن إذا سألتهم: "لماذا؟"، سيحدقون فيك بصمت فقط.

لماذا هذا مهم: في الحياة الواقعية (مثل البنوك أو المستشفيات)، لا يمكنك مجرد الثقة في صندوق أسود. أنت بحاجة لمعرفة ما هو الشيء الموجود في النص الذي جعل الذكاء الاصطناعي يشك. هل كانت كلمة معينة؟ هيكل جملة غريب؟ كذبة بشأن سياسي ما؟

2. الحل: ثلاثة "مترجمين" مختلفين

اختبر المؤلفون ثلاث طرق (أدوات) مختلفة لترجمة أفكار الروبوت "الصندوق الأسود" إلى لغة بشرية. فكر فيهم كمحققين من ثلاثة أنواع مختلفين يحاولون شرح نفس الجريمة:

SHAP (المحاسب):
- كيف يعمل: يتعامل مع كل كلمة في المقال كلاعب في لعبة جماعية. يقوم بحساب مقدار "الائتمان" أو "الحصة" التي يستحقها كل كلمة بالضبط للوصول إلى القرار النهائي.
- التشبيه: تخيل مجموعة من الأصدقاء يتقاسمون فاتورة بيتزا. يقوم SHAP بحساب كم أكل كل شخص بالضبط ليدفع كل فرد حصته العادلة. إنه دقيق جداً وعادل من الناحية الرياضية.
- الأفضل لـ: التحليلات التفصيلية كلمة بكلمة.
LIME (رسام الكروكي/السكيتش):
- كيف يعمل: يأخذ مقالاً إخبارياً معيناً، ويعبث به قليلاً (يزيل كلمة هنا، يستبدل كلمة هناك)، ويرى كيف يتغير رد فعل الذكاء الاصطناعي. ثم يرسم خريطة بسيطة بناءً على تلك التغييرات.
- التشبيه: تخيل أنك تحاول شرح لوحة معقدة. يقوم LIME بأخذ صورة للوحة، ثم يغبش جزءاً منها، ثم جزءاً آخر، ويسأل: "هل لا تزال تبدو كقطة؟". بناءً على الإجابات، يرسم مخططاً بسيطاً لما يهم أكثر.
- الأفضل لـ: التفسيرات السريعة والبديهية التي تُفهم "بلمحة بصر".
Integrated Gradients (المتنزه/الهالك):
- كيف يعمل: يتخيل مساراً من صفحة بيضاء (لا شيء) وصولاً إلى المقال الكامل. يسير على طول هذا المسار، ويتحقق من كيفية تغير ثقة الذكاء الاصطناعي عند كل خطوة واحدة.
- التشبيه: تخيل أنك تتنزه صعوداً في جبل لرؤية منظر طبيعي. بدلاً من القفز إلى القمة، تأخذ خطوات صغيرة، وتلاحظ كيف يتغير المنظر مع كل قدم تتحركها. إنه يتتبع رحلة اتخاذ القرار.
- الأفضل لـ: السرعة والكفاءة، خاصة مع أنواع معينة من نماذج الذكاء الاصطناعي.

3. التجربة: عقلان مختلفان

لم يستخدم الباحثون عقلاً واحداً للذكاء الاصطناعي لقراءة الأخبار؛ بل استخدموا اثنين:

الـ LSTM (الحكواتي/راوي القصص): يقرأ هذا الذكاء الاصطناعي كلمة بكلمة، ويتذكر بداية الجملة لفهم نهايتها. إنه مثل قراءة رواية حيث السياق مهم جداً.
الـ CNN (صائد الأنماط): يبحث هذا الذكاء الاصطناعي عن أنماط محلية قصيرة (مثل عبارات محددة أو "n-grams") دفعة واحدة. إنه مثل ماسح ضوئي يبحث عن كلمات رئيسية محددة أو علامات حمراء.

4. النتائج: أي مترجم يفوز؟

وجد المؤلفون أنه لا توجد أداة واحدة مثالية لكل مهمة. الأمر يعتمد على أي "عقل" (نموذج ذكاء اصطناعي) تستخدمه:

بالنسبة للحكواتي (LSTM): كان SHAP هو المترجم الأفضل. ولأن الحكواتي يبني المعنى بمرور الوقت، فإن محاسبة SHAP التفصيلية لكل مساهمة كلمة كانت الأكثر فعالية في شرح منطقه.
بالنسبة لصائد الأنماط (CNN): كان Integrated Gradients هو الفائز. وبما أن هذا الذكاء الاصطناعي يبحث عن أنماط سريعة، فإن طريقة "التنزه" كانت أسرع وأكثر دقة في تحديد العبارات القصيرة التي أطلقت إنذار الخطر.

تأثير "التأخير/الانتشار":

أظهر SHAP أنه بالنسبة للحكواتي، كان التفسير موزعاً على النص بأكمله (مثل محادثة طويلة).
أظهر Integrated Gradients أنه بالنسبة لصائد الأنماط، كان التفسير متجمعاً في نقاط محددة وضيقة (مثل بعض الأضواء الحمراء الوامضة).

5. الخلاصة الكبرى

تخلص الورقة البحثية إلى أن الذكاء الاصطناعي القابل للتفسير (XAI) أمر ضروري.

الثقة: عندما يستطيع الناس رؤية لماذا صنف الذكاء الاصطناعي قصة ما، فإنهم يثقون به أكثر.
الأمان: يساعد البشر على اكتشاف الأخطاء. إذا قال الذكاء الاصطناعي "هذا زائف" لأنه رأى كلمة "مجاني"، بينما كان السياق في الواقع هو "حرية التعبير"، فإن التفسير يكشف هذا الخطأ.
لا يوجد حل سحري واحد: لا يمكنك مجرد اختيار أداة واحدة واستخدامها للأبد. يجب عليك مطابقة أداة التفسير مع نوع نموذج الذكاء الاصطناعي الذي تستخدمه.

باخت-القول:
لقد بنى المؤلفون نظاماً لا يكتفي فيه الذكاء الاصطناعي بالقول "زائف!"، بل يشير بدلاً من ذلك إلى الكلمات المحددة ويقول: "لقد صنف هذا كزائف بسبب هذه العبارات الثلاث المشبوهة". ومن خلال استخدام المترجم المناسب (SHAP، LIME، أو Integrated Gradients) للعقل المناسب من الذكاء الاصطناعي، يمكننا صنع كاشفات للأخبار الزائفة ليست ذكية فحسب، بل أيضاً صادقة ومفهومة.

إليك ملخص تقني مفصل لورقة البحث بعنوان "الذكاء الاصطناعي القابل للتفسير الموجه نحو الثقة لكشف الأخبار الزائفة" من إعداد سيويك، ستانكوفسكي، وستودولسكي.

1. بيان المشكلة

تتطلب الانتشار السريع للمعلومات المضللة رقمياً (الأخبار الزائفة) أنظمة كشف آلية. وبينما تحقق نماذج التعلم العميق (مثل المحولات Transformers، والشبكات العصبية التلافيفية CNNs، والشبكات العصبية ذات الذاكرة الطويلة-قصيرة المدى LSTMs) دقة عالية في تصنيف حقيقة الأخبار، إلا أن طبيعتها كـ "صندوق أسود" تحد من نشرها في المجالات عالية الخطورة مثل الصحة العامة والتمويل. إن غياب الشفافية يمنع ما يلي:

تدقيق الأخطاء: لا يستطيع مدققو الحقائق التحقق من سبب قيام النموذج بتصنيف محتوى ما على أنه زائف.
الثقة: يفتقر المستخدمون النهائيون وأصحاب المصلحة إلى الثقة في منطق النظام.
كشف التحيز: قد تعتمد النماذج على ارتباطات زائفة (مثل مصادر معينة أو تنسيقات معينة) بدلاً من المحتوى الدلالي.

تعالج الورقة الحاجة إلى دمج الذكاء الاصطناعي القابل للتفسير (XAI) في مسارات معالجة اللغات الطبيعية (NLP) لتعزيز شفافية النموذج دون التضحية بدقة الكشف.

2. المنهجية

أ. مجموعة البيانات والمعالجة المسبقة

مجموعة البيانات: استخدمت الدراسة مجموعة بيانات ISOT Fake News Dataset (من Kaggle)، والتي تحتوي على حوالي 45,000 مقال مصنفة إلى "أخبار حقيقية" (رويترز) و"أخبار زائفة" (مصادر غير موثوقة تم تحديدها بواسطة PolitiFact/Wikipedia).
المعالجة المسبقة:
- تم تقسيم النص إلى وحدات (tokens) وربطه بمفردات تضم أعلى 20,000 كلمة.
- تم توحيد المتواليات إلى طول ثابت قدره 750 وحدة (مع استخدام الحشو بالأصفار/PAD للنصوص الأقصر، والقص للنصوص الأطول).
- تقسيم البيانات: 63% للتدريب، 7% للتحقق، 30% للاختبار.

ب. بنيات الشبكات العصبية

تم تنفيذ بنيتين متمايزتين لاختبار مدى توافق XAI مع أنواع النماذج المختلفة:

LSTM (متكررة):
- المدخلات: متواليات الوحدات $\leftarrow$ التضمين (Embedding) بـ 128 بُعداً.
- الجوهر: طبقة LSTM واحدة (128 وحدة) مع إسقاط (Dropout) بنسبة 0.2 وإسقاط متكرر (Recurrent Dropout) بنسبة 0.2 لالتقاط الاعتمادات طويلة المدى.
- المخرجات: طبقة كثيفة (Dense) مع تفعيل Sigmoid للتصنيف الثنائي.
CNN (تلافيفية):
- المدخلات: متواليات الوحدات $\leftarrow$ التضمين (Embedding) بـ 128 بُعداً.
- الجوهر: طبقة تلافيفية أحادية الأبعاد (1D Convolutional layer) (128 مرشحاً، حجم النواة 5) لالتقاط أنماط n-gram المحلية، متبوعة بـ GlobalAveragePooling1D.
- المخرجات: طبقة كثيفة (Dense) مع تفعيل Sigmoid.

ج. تقنيات XAI التي تم تقييمها

قارنت الدراسة ثلاث طرق للتفسير البعدي (post-hoc):

SHAP (تفسيرات شابلي الإضافية): تستخدم نظرية الألعاب لحساب مساهمات الميزات. تم تنفيذها عبر DeepSHAP مع قناع نصي (إخفاء الكلمات) لتوليد مدخلات مضطربة.
LIME (التفسيرات المحلية القابلة للتفسير والمستقلة عن النموذج): تقرب النموذج محلياً باستخدام نموذج بديل (انحدار خطي) يتم تدريبه على عينات مضطربة (حذف أو استبدال الكلمات).
Integrated Gradients (التدرجات المتكاملة - IG): طريقة تعتمد على المسار تقوم بدمج التدرجات من خط أساس (متوالية فارغة/PAD) إلى المدخل الفعلي في فضاء التضمين.

د. مقاييس التقييم

لقياس جودة التفسيرات، استخدم المؤلفون أربعة مقاييس تعتمد على اضطراب المدخلات (استبدال الوحدات الأعلى ترتيباً بـ PAD):

الاكتمال ( $\Delta_{comp}$ ): مقدار انخفاض ثقة النموذج عند إزالة الوحدات الهامة.
الكفاية ( $\Delta_{suff}$ ): مدى أداء النموذج باستخدام الوحدات الأعلى ترتيباً فقط.
AOPC (المساحة تحت منحنى الاضطراب): متوسط فقدان الثقة مع إزالة الوحدات بالتتابع.
Flip@k: أقل عدد من الوحدات العليا المطلوبة لعكس تسمية التنبؤ.

3. المساهمات الرئيسية

إطار عمل مقارن: إنشاء مسار صارم لمقارنة SHAP وLIME وIG خصيصاً لكشف الأخبار الزائفة القائم على NLP عبر كل من البنيات التسلسلية (LSTM) والتلافيفية (CNN).
رؤى خاصة بالبنية: أظهرت الدراسة أن فعالية XAI تعتمد على البنية. لا يوجد منهج "واحد يناسب الجميع" لـ XAI؛ فالخيار الأفضل يعتمد على هيكل النموذج الأساسي.
تصوير الانحيازات الاستقرائية: أظهرت تصورات XAI الخصائص الجوهرية للنماذج:
- نماذج CNN تنتج تفسيرات (attributions) محلية ومدمجة (تركز على n-grams محددة).
- نماذج LSTM تنتج تفسيرات مشتتة (تعكس تراكم السياق طويل المدى).
تفاصيل التنفيذ: قدمت دليلاً تقنياً حول كيفية ربط التفسيرات على مستوى الوحدة (token-level) بالمتجهات ذات الطول الثابت، ومعالجة الحشو (PAD) باتساق، وإدارة العبء الحسابي.

4. النتائج

أسفرت التجارب العددية عن ملفات أداء متميزة لكل طريقة بناءً على بنية النموذج:

النموذج	أفضل طريقة XAI	النتائج الرئيسية
LSTM	SHAP	حققت SHAP أعلى اكتمال (0.086) وأعلى AOPC (0.472)، مما يشير إلى أنها الأفضل في التقاط طريقة تجميع المعلومات في LSTMs. كانت IG الأبطأ والأقل فعالية لهذه البنية.
CNN	Integrated Gradients	تفوقت IG على الجميع بأعلى اكتمال (0.287) وأعلى AOPC (0.650)، وأقل Flip@k (4.78). كما كانت الأسرع (0.15 ثانية)، مما يجعلها مثالية لـ CNNs.
عام	LIME	قدمت LIME أداءً متوسطاً. كانت سريعة وبديهية ولكنها كانت بشكل عام أقل وفاءً للديناميكيات الداخلية للنماذج مقارنة بـ SHAP (بالنسبة لـ LSTM) أو IG (بالنسبة لـ CNN).

ملاحظات رئيسية:

التكلفة الحسابية: كانت IG أسرع بكثير بالنسبة لـ CNNs، بينما كانت SHAP وLIME متقاربتين بالنسبة لـ LSTMs.
القابلية للتفسير: وفرت SHAP أكثر التفسيرات تفصيلاً محلياً لـ LSTMs، بينما وفرت IG تفسيرات عالية الجودة وفعالة لـ CNNs.
القيود: اعتمدت جميع المقاييس على استبدال الوحدات بـ PAD، مما قد يخلق مدخلات غير طبيعية ويشوه سلوك النموذج، خاصة بالنسبة لـ LSTMs التي تعتمد على السياق التسلسلي.

5. الأهمية والخاتمة

الثقة والموثوقية: تؤكد الدراسة أن دمج XAI يعزز شفافية أنظمة كشف الأخبار الزائفة، مما يسم يسمح لأصحاب المصلحة بفهم المنطق وراء التصنيفات.
لا يوجد حل عالمي: تنفي هذه الدراسة فكرة وجود طريقة XAI مثالية واحدة. يجب على الممارسين اختيار تقنيات XAI بناءً على البنية العصبية الأساسية (مثل استخدام IG لـ CNNs، وSHAP لـ LSTMs).
الاتجاهات المستقبلية: يقترح المؤلفون أن العمل المستقبلي يجب أن يستكشف بنيات المحولات (Transformers)، والتفسيرات القائمة على القواعد، ودراسات المستخدمين للتحقق من كيفية تفسير المستخدمين النهائيين لهذه التفسيرات.
ملاحظة تحذيرية: تشدد الورقة على أن مخرجات XAI هي أدوات تحليلية وليست أدلة قطعية. يمكن أن تعاني التفسيرات من "وهم السببية" ولا ينبغي تعميمها عالمياً دون فهم الانحيازات الاستقرائية المحددة للنموذج.

باختصار، يوفر هذا العمل دليلاً عملياً ومبنياً على الأدلة لنشر أنظمة كشف أخبار زائفة موثوقة وقابلة للتفسير، مع التأكيد على أن اختيار طريقة التفسير لا يقل أهمية عن اختيار نموذج التصنيف نفسه.