💬 NLP

ICE: Intervention-Consistent Explanation Evaluation with Statistical Grounding for LLMs

تقدم هذه الورقة البحثية إطار عمل ICE، وهو إطار عمل قائم على أسس إحصائية يقيم مدى أمانة تفسيرات النماذج اللغوية الكبيرة (LLM) من خلال اختبارات العشوائية مقابل خطوط أساس متطابقة، كاشفةً أن الأمانة تعتمد بشكل كبير على المشغل، وغالباً ما تكون غير مترابطة مع المعقولية البشرية، وتظهر تباينات لغوية كبيرة.

المؤلفون الأصليون: Abhinaba Basu, Pavan Chakraborty

نُشر 2026-03-20

📖 5 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Abhinaba Basu, Pavan Chakraborty

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

🧊 الفكرة الكبرى: لماذا نحتاج إلى "جهاز كشف كذب" جديد للذكاء الاصطالني؟

تخّل أنك سألت مساعداً ذكياً يعمل بالذكاء الاصطناعي: "لماذا اعتقدت أن مراجعة هذا الفيلم إيجابية؟"
سيشير الذكاء الاصطناعي إلى كلمات مثل "رائع" و "جذاب" ويقول: "بسبب هذه الكلمات!"

يبدو هذا رائعاً، أليس كذلك؟ ولكن ماذا لو كان الذكاء الاصطناعي يكذب في الواقع؟ ماذا لو كان مجرد يخمن، أو ماذا لو كان يعتمد في الواقع على كلمة "الـ" (مثل "الفيلم الرائع") لاتخاذ قراره؟

لفترة طويلة، امتلكنا أدوات للتحقق مما إذا كانت تفسيرات الذكاء الاصطناعي حقيقية، لكنها كانت تشبه أجهزة كشف الكذب الرديئة. كانت تسأل الذكاء الاصطناعي: "إذا قمت بإزالة كلمة 'رائع'، هل سيتغير رأيك؟" إذا تغيرت الإجابة، تقول الأداة: "رائع! التفسير صادق!"

المشكلة: هذه الطريقة القديمة معيبة. فإزالة كلمة ما غالباً ما يؤدي إلى إفساد الجملة لدرجة تجعل الذكاء الاصطناعي يرتبك ويغير رأيه لأسباب خاطئة. الأمر يشبه سؤال طاهٍ: "إذا أزلت الملح من هذا الحساء، هل سيتغير طعمه؟" إذا أصبح الحساء غير قابل للأكل، سيقول الطاهي "نعم"، لكن هذا لا يثبت أن الملح كان السبب الوحيد لجعل طعمه جيداً.

❄️ دخول "ICE": المعيار الجديد

قدم مؤلفو هذه الورقة البحثية نظام ICE (التفسير المتسق مع التدخل). فكر في ICE ليس فقط كجهاز لكشف الكذب، بل كـ تجربة علمية صارمة تستخدم العشوائية للوصقة إلى الحقيقة.

إليك كيف يعمل ICE، مقسماً إلى ثلاث خطوات بسيطة:

1. "اختبار التذوق الأعمى" (القواعد العشوائية)

بدلاً من مجرد السؤال: "هل هذا التفسير جيد؟"، يسأل ICE: "هل هذا التفسير أفضل من التخمين العشوائي؟"

الطريقة القديمة: تأخذ الكلمات التي سلط الذكاء الاصطناعي الضوء عليها وتقوم بإزالتها. إذا غير الذكاء الاصطناعي رأيه، تمنحه درجة عالية.
طريقة ICE: تأخذ الكلمات التي سلط الذكاء الاصطناعي الضوء عليها. ثم تختار مجموعة من الكلمات العشوائية من قبعة (مثل "موزة"، "سحابة"، "حذاء") وتزيل تلك الكلمات بدلاً منها.
الحكم: إذا غير الذكاء الاصطناعي رأيه عند إزالة "الكلمات المحددة"، ولكنه لم يغير رأيه عند إزالة "الكلمات العشوائية"، فإن التفسير صادق (Faithful).
التحول المفاجئ: إذا غير الذكاء الاصطناعي رأيه عند إزالة الكلمات العشوائية، ولكنه بقي على نفس الرأي عند إزالة "الكلمات المحددة"، فإن الذكاء الاصطناعي في الواقع مضلل (Anti-Faithful)! إنه يضللك بشكل نشط! (لقد وجد ICE أن هذا يحدث في حالة واحدة من كل 3 حالات تقريباً).

2. مشكلة "الأداتين المختلفتين" (اعتماد المشغل)

اكتشفت الورقة البحثية شيئاً صادماً: كيفية اختبارك للذكاء الاصطناعي تغير النتيجة.

تخيل أنك تختبر محرك سيارة.

الأداة أ (الحذف): تقوم بإزالة المحرك تماماً. تتوقف السيارة.
الأداة ب (الاستبدال): تقوم باستبدال المح المحرك بمحرك آخر. تعمل السيارة، ولكن بشكل مختلف.

وجد المؤلفون أن:

في النصوص القصيرة: عملية "الحذف" (إزالة الكلمات) تجعل الذكاء الاصطناعي يبدو صادقاً جداً. الأمر يشبه أخذ جملة قصيرة وحذف نصفها؛ المعنى يختفي تماماً، لذا يجب على الذكاء الاصطناعي تغيير رأيه.
في النصوص الطويلة: عملية "الحذف" تجعل الذكاء الاصطناعي يبدو غير صادق لأن حذف نصف مراجعة طويلة يترك فوضى محطمة. ولكن إذا استخدمت "الاستبدال" (استبدال الكلمات بأخرى مشابهة)، فقد يستمر الذكاء الاصطناعي في العمل بشكل جيد، مما يثبت أن التفسير كان في الواقع جيداً.

الدرس المستفاد: لا يمكنك مجرد إعطاء الذكاء الاصطناعي "درجة صدق" واحدة. يجب عليك النظر إلى الدرجة نسبةً إلى الأداة التي استخدمتها. إذا اتفقت الأداتان، فمن المحتمل أن الذكاء الاصطناعي يقول الحقيقة. وإذا اختلفتا، فالذكاء الاصطناعي مرتبك، ولا نعرف الحقيقة بعد.

3. الانفصال بين "الإنسان والآلة"

تحققت الورقة أيضاً مما إذا كان البشر يتفقون مع تفسيرات الذكاء الاصطناعي.

المعقولية البشرية (Human Plausibility): هل يبدو التفسير منطقياً بالنسبة للإنسان؟ (مثلاً: "إنه إيجابي لأنه يقول 'رائع'").
الصدق الآلي (Machine Faithfulness): هل التفسير هو ما يحرك بالفعل العمليات الرياضية داخل الكمبيوتر؟

النتيجة الصادمة: لا يوجد أي ارتباط بينهما.

يمكن أن يكون التفسير مثالياً للبشر، ولكنه خاطئ تماماً داخل دماغ الذكاء الاصطناناعي.
يمكن أن يكون التفسير غريباً بالنسبة للبشر، ولكنه هو السبب الدقيق وراء اتخاذ الذكاء الاصطناعي لقراره.

التشبيه: تخيل ساحراً.

المعقولية: يعتقد الجمهور: "أوه، لا بد أنه استخدم مرآة مخفية!" (هذا يبدو منطقياً).
الصدق: الساحر في الواقع استخدم خدعة خفة يد ببطاقة.
ICE هو الأداة التي تطل تحت الطاولة لترى خدعة البطاقة، متجاهلةً ما يعتقده الجمهور عما يحدث.

🌍 الاختبار العالمي (النتائج متعددة اللغات)

لم يختبر الباحثون اللغة الإنجليزية فحسب، بل اختبروا الفرنسية، الألمانية، الهندية، الصينية، التركية، والعربية.

وجدوا أن اللغة مهمة.

النموذج الذي يكون "صادقاً" في الإنجليزية قد يكون "كاذباً" في الهندية.
أحياناً، طريقة تقسيم النماذج للكلمات إلى أجزاء (Tokenization) تجعل من المستحيل اختبار بعض اللغات بشكل صحيح.
الخلاصة الرئيسية: لا يمكنك افتراض أن الذكاء الاصطناعي صادق لمجرد أنه يتحدث لغتك. يجب عليك اختباره خصيصاً لهذه اللغة.

🏆 الاستنتاجات الرئيسية (باللغة البسيطة)

لا تثق في رقم واحد: تفسير الذكاء الاصطناعي ليس "جيداً" أو "سيئاً" في فراغ. إنه يعتمد على كيفية اختبارك له.
العشوائية هي صديقتك: لتعرف ما إذا كان التفسير حقيقياً، يجب أن تقارنه بتخمين عشوائي. إذا لم يكن الذكاء الاصطناعي أفضل من العشوائية، فهو يكذب.
البشر سيئون في تخمين منطق الآلة: مجرد كون التفسير يبدو منطقياً لنا لا يعني أنه هو ما استخدمه الذكاء الاصطناعي بالفعل.
القصير مقابل الطويل مهم: اختبار الجمل القصيرة يختلف عن اختبار المقالات الطويلة. أنت بحاجة إلى أدوات مختلفة لمهام مختلفة.

🚀 لماذا يجب أن تهتم؟

إذا كنت تبني ذكاءً اصطناعياً لأشياء مهمة (مثل التشخيص الطبي أو الموافقة على القروض)، فأنت بحاجة إلى معرفة ما إذا كان الذكاء الاصطناعي يقول الحقيقة حول سبب اتخاذه لقرار ما.

تقدم هذه الورقة البحثية طريقة جديدة وأكثر صرامة وهي "ICE" (تجميد سلوك الذكاء الاصطناعي) للتحقق مما إذا كان يقوم حقاً بما يقول إنه يفعله، بدلاً من مجرد التخمين أو الهلوسة. إنها تمنعنا من الانخداع بالتفسيرات "الجميلة" التي هي في الواقع محض هراء.

إليك ملخص تقني مفصل لورقة البحث بعنوان "ICE: التقييم المتسق للتدخل في التفسير مع التأسيس الإحصائي للنماذج اللغوية الكبيرة (LLMs)."

1. بيان المشكلة

تتناول الورقة البحثية النقص الحاد في الأدوات الصارمة لتقييم الأمانة (faithfulness) في التفسيرات التي تولدها النماذج اللغوية الكبيرة (LLMs). تشير الأمانة إلى ما إذا كان التفسير (مثل الرموز المظللة) يعكس حقاً عملية الاستدلال الداخلي للنموذج.

تعاني المعايير الحالية، مثل ERASER، من ثلاث عيوب رئيسية:

الافتقار إلى الاختبار الإحصائي: فهي تكتفي بتقرير الدرجات الخام (مثل الكفاية/الشمولية) دون إجراء اختبارات الدلالة الإحصائية، مما يجعل من المستحيل التمييز بين الأمانة الحقيقية والأداء الناتج عن الصدفة.
تحيز التدخل الأحادي: تعتمد على طريقة تدخل واحدة (غالباً الحذف للرموز). وهذا يخلق مدخلات خارج نطاق التوزيع (OOD) تؤدي إلى تدهور أداء النموذج بغض النظر عن جودة التفسير، مما قد يؤدي إلى تضخيم أو تقليل تقديرات الأمانة.
عدم القدرة على اكتشاف "عدم الأمانة" (Anti-Faithfulness): بدون وجود خطوط أساس عشوائية، لا تستطيع هذه الأطر اكتشاف متى يكون التفسير "غير أمين" (أي يؤدي أداءً أسوأ من الاختيار العشوائي)، وهي ظاهرة يرى المؤلفون أنها شائعة.

2. المنهجية: إطار عمل ICE

قدم المؤلفون إطار عمل ICE (التفسير المتسق مع التدخل)، وهو مصمم لتوفير تقييم للأمانة قائم على الإحصاء وواعٍ بالعمليات (operator-aware).

المكونات الأساسية

الاحتفاظ بالدرجة الطبيعية (NSR): هو المقياس الأساسي الذي يقيس مقدار الدرجة الأصلية للتنبؤ التي يتم الحفاظ عليها عند بقاء رموز التبرير (التي حددها أسلوب التفسير) فقط.
$NSR(r) = \frac{s(x_r^o) - s(\emptyset)}{s(x) - s(\emptyset)}$
حيث أن $s(x)$ هي الدرجة الأصلية، و $s(x_r^o)$ هي الدرجة مع بقاء رموز التبرير فقط تحت العملية $o$ ، و $s(\emptyset)$ هو درجة المدخل الفارغ المرجعي.
التدخل متعدد العمليات (Multi-Operator Intervention): يقيم ICE التفسيرات باستخدام عمليتي تدخل متميزتين للتخفيف من آثار الخروج عن التوزيع (OOD):
1. الحذف (Deletion): يزيل الرموز غير التبريرية (سريع ولكنه يخلق نصوصاً مبتورة وغير طبيعية).
2. ملء الاسترداد (Retrieval Infill): يستبدل الرموز غير التبريرية بمسافات متصلة يتم أخذ عينات منها من أمثلة أخرى في المتن. هذا يحافظ على الشكل السطحي وتوزيع اللغة الطبيعية مع تدمير المحتوى ذي الصلة بالمهمة.
اختبار العشوائية: بدلاً من مقارنة الدرجات الخام، يقارن ICE أداء التبرير مقابل خطوط أساس عشوائية متطابقة.
- لكل مدخل، يتم إنشاء $M$ من مجموعات الرموز العشوائية بنفس حجم مجموعة التبرير.
- يتم حساب معدل الفوز (Win Rate): وهو النسبة المئوية للمرات التي يتجاوز فيها $NSR$ الخاص بالتبرير قيمة $NSR$ الخاصة بالأساس العشوائي.
- الصرامة الإحصائية: يستخدم الإطار اختبارات التبديل أحادية الجانب لحساب القيم الاحتمالية (p-values)، وفترات الثقة عبر "بوتستراب" (95%)، وحجم التأثير (Cohen's $d$ ).
اكتشاف عدم الأمانة (Anti-Faithfulness): إذا كان معدل الفوز أقل بشكل ملحوظ من 50%، يتم تصنيف التفسير على أنه "غير أمين"، مما يعني أن النموذج يعتمد على الرموز المظللة أقل من الضوضاء العشوائية.

3. المساهمات الرئيسية

الأمانة المعتمدة على العملية (Operator-Dependent Faithfulness): توضح الورقة أن الأمانة ليست قيمة عددية واحدة بل هي كمية تعتمد على العملية. فعمليات التدخل المختلفة (الحذف مقابل ملء الاسترداد) تعطي استنتاجات مختلفة تماماً، حيث تصل الفجوات بينهما إلى 44 نقطة مئوية.
التأسيس الإحصائي: من خلال تقديم خطوط أساس عشوائية ومعدلات فوز، يميز ICE بين الأمانة الحقيقية والصدفة، ويكشف عن عدم الأمانة في ما يقرب من ثلث التكوينات التي تم تقييمها، وهي ظاهرة كانت غير مرئية في المعايير السابقة.
التعميم عبر اللغات والمعماريات: تم تطبيق الإطار على 7 نماذج لغوية كبيرة (تتراوح من 1.5 مليار إلى 8 مليار معلمة) عبر 4 مهام إنجليزية و 6 لغات غير إنجليزية (الفرنسية، الألمانية، الهندية، الصينية، التركية، العربية). ويكشف ذلك عن تفاعلات معقدة بين النموذج واللغة تغفلها المعايير القياسية المقتصرة على الإنجليزية.
تعامد الأمانة والواقعية (Orthogonality of Faithfulness and Plausibility): تقدم الدراسة دليلاً كمياً على أن الأمانة (الحسابية) والواقعية (المواءمة البشرية) هما أمران متعامدان. فقد كان الارتباط بين المواءمة البشرية للتبرير (IoU) ومعدلات فوز ICE قريباً من الصفر ( $|r| < 0.04$ ).

4. النتائج الرئيسية

الحساسية لطول النص: يؤثر اختيار العملية بشكل كبير على النتائج بناءً على طول النص.
- النص القصير (مثل SST-2): غالباً ما يعطي "الحذف" تقديرات أمانة أعلى من "ملء الاسترداد" (فجوات تتراوح بين 8-44 نقطة مئوية).
- النص الطويل (مثل IMDB): ينعكس النمط؛ حيث يتفوق "ملء الاسترداد" غالباً على "الحذف"، لأن حذف معظم مراجة طويلة يؤدي إلى مدخلات متدهورة بشدة، بينما يحافظ الملء على السياق الطبيعي.
عدم الأمانة (Anti-Faithfulness): في حوالي 33% من التكوينات (خاصة الطرق القائمة على التدرج في النصوص القصيرة)، وُجد أن التفسيرات "غير أمينة". على سبيل المثال، غالباً ما سلطت طرق التدرج الضوء على كلمات وظيفية (مثل "a") بدلاً من الصفات ذات الدلالة الشعورية، مما جعل أداءها أسوأ من الاختيار العشوائي.
التباين متعدد اللغات: تختلف الأمانة جذرياً باختلاف اللغة والنموذج.
- أظهر GPT-2 عدم أمانة في الفرنسية والتركية، لكنه أظهر أداءً قوياً بشكل مفاجئ في الهندية.
- "الترميز" (Tokenization) وحده لا يتنبأ بالأمانة؛ إذ تلعب التفاعلات بين النموذج واللغة والبنى الصرفية دوراً أكبر.
معمارية النموذج: أظهرت النماذج المضبوطة للتعليمات (Instruction-tuned) عموماً أمانة أعلى من النماذج الأساسية (Base models). ومع ذلك، أظهرت بعض المعماريات الفعالة (مثل LFM2) أمانة مرتبطة بمهمة محددة (عالية في NLI وعشوائية في تحليل المشاعر).

5. الأهمية والآثار المترتبة

إعادة تعريف معايير التقييم: تجادل الورقة بأن الأمانة يجب أن تُفسر بشكل مقارن عبر أنظمة التدخل بدلاً من كونها مجرد درجة معيارية واحدة. إن الاتفاق بين العمليات (على سبيل المثال، إظهار كل من الحذف والملء لمعدلات فوز عالية) يعد إشارة قوية على الأمانة الحقيقية.
إرشادات عملية: يقدم المؤلفون توصيات محددة للممارسين (على سبيل المثال: استخدام "الانتباه" (Attention) للنصوص القصيرة في مهام تحليل المشاعر و NLI، واستخدام "التدرج" (Gradient) لتصنيف المواضيع؛ واقتراح أزواج محددة من النماذج واللغات مثل Qwen للغة الألمانية).
المصدر المفتوح: أطلق المؤلفون ICE (الإطار) و ICEBench (المعيار مع نسخ مثبتة من البيانات) لضمان إمكانية إعادة الإنتاج.
تحذير أخلاقي: تحذر الورقة من أن كون الشيء "أميناً للنموذج" لا يعني بالضرورة "صحة الاستدلال". يمكن للنموذج أن يعتمد بأمانة على ارتباطات زائفة، مما يستدي ضرورة التحقق من المجال في التطبيقات عالية الخطورة.

باخت-صار، ينقل ICE مجال الذكاء الاصطناعي القابل للتفسير من مجرد تقارير ثابتة ذات مقياس واحد إلى نموذج تقييم ديناميكي، صارم إحصائياً، وواعٍ بالعمليات، كاشفاً أن الكثير من التفسيرات الحالية هي إما غير موثوقة أو مضللة بشكل نشط.