🤖 AI

Empirical Characterization of Rationale Stability Under Controlled Perturbations for Explainable Pattern Recognition

تقدم هذه الورقة مقياساً جديداً يعتمد على تشابه جيب التمام لقيم "شاب" (SHAP) لتقييم استقرار تفسيرات النماذج تحت تأثير الاضطرابات الحافظة للتسميات، مما يثبت فعاليتها في تحديد أنماط الإسناد غير المتسقة والسلوكيات غير المتوافقة في نماذج تحليل المشاعر مثل "بيرت" (BERT) و"روبيرتا" (RoBERTa).

المؤلفون الأصليون: Abu Noman Md Sakib, Zhensen Wang, Merjulah Roby, Zijie Zhang

نُشر 2026-04-07

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Abu Noman Md Sakib, Zhensen Wang, Merjulah Roby, Zijie Zhang

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك وظفت مساعداً ذكياً جداً ولكنه غامض لمساعدتك في اتخاذ قرارات مهمة، مثل الموافقة على قرض أو تشخيص حالة طبية. تسأله: "لماذا قلت 'نعم' لهذا الطلب؟" فيعطيك سبباً. ثم تعرض عليه طلباً مشابهاً جداً، ربما الفرق الوحيد هو أن المتقدم كتب "جيد" بدلاً من "رائع".

إذا كان مساعدك موثوقاً حقاً، فيجب أن يعطيك نفس السبب تقريباً للـ "نعم" الثانية. ولكن ماذا لو قال لك في الطلب الثاني فجأة: "أوه، لقد قلت نعم بسبب حجم الخط"؟ سيكون ذلك مربكاً ومخيفاً. هذا يعني أن مساعدك لا يفكر منطقياً في الواقع؛ بل هو مجرد شخص يخمن أو يتفاعل بشكل عشوائي.

هذه الورقة البحثية تدور حول بناء اختبار للإمساك بالمساعدين غير المتسقين، حتى عندما يبدون وكأنهم يقومون بعمل جيد.

المشكلة: الذكاء الاصطناعي "المتقلب"

في عالم الذكاء الاصطناعي (AI)، لدينا ما يسمى بـ "الذكاء الاصطناعي القابل للتفسير" (XAI). وهي أدوات تحاول فتح الصندوق الأسود وإخبارنا لما কেন اتخذ الذكاء الاصطناعي قراراً معيناً. عادةً، نكتفي بالتحقق مما إذا كان التفسير منطقياً لحالة واحدة محددة.

لكن مؤلفي هذه الورقة أدركوا أن: التحقق من حالة واحدة ليس كافياً. الأمر يشبه الحكم على طباخ من خلال كيفية طهيه لبيضة واحدة. أنت بحاجة لمعرفة ما إذا كان بإمكمه طهي كل البيض بنفس الطريقة. إذا قدم الذكاء الاصطناعي سبباً رائعاً لمراجعة فيلم بأنها "إيجابية"، ولكنه قدم سبباً مختلفاً تماماً وغريباً لمراجعة مطابقة لها تقريباً، فإن الذكاء الاصطناعي هنا غير مستقر، وغير موثوق.

الحل: درجة الـ ESS (مقياس الاتساق في التفسير)

ابتكر المؤلفون أداة جديدة تسمى ESS (درجة استقرار التفسير). فكر في ESS كـ "مقياس الاتساق المنطقي".

إليك كيف يعمل، باستخدام تشبيه بسيط:

اختبار التوأم: تخيل أن لديك توأمين (جملتين متشابهتين جداً) كلاهما يحب نفس الفيلم.
فحص الاستدلال: تسأل الذكاء الاصطناعي: "لماذا تعتقد أن التوأم (أ) يحب هذا الفيلم؟" فيقوم الذكاء الاصطناعي بتحديد كلمات معينة (مثل "مضحك"، "تمثيل رائع").
المقارنة: ثم تسأل: "لماذا تعتقد أن التوأم (ب) يحب هذا الفيلم؟"
الدرجة: تقيس درجة ESS مدى تداخل الكلمات التي حددها الذكاء الاصطناعي.
- درجة عالية (قريبة من 1): حدد الذكاء الاصطناعي نفس الكلمات تماماً لكليهما. "رائع! أنت متسق!"
- درجة منخفضة (قريبة من 0): حدد الذكاء الاصطناعي كلمة "مضحك" للتوأم (أ)، لكنه حدد "لون الملصق" للتوأم (ب). "أوه لا، أنت غير متسق!"

كيف اختبروا ذلك؟

أخذ الباحثون ثلاثة نماذج شهيرة للذكاء الاصطنانا (فكر فيها كأنها ثلاثة طلاب مختلفين: BERT و RoBERTa و DistilBERT) وعلموها فهم مراجعات الأفلام (تحليل المشاعر).

ثم لعبوا لعبة "أوجد الفروق":

أخذوا جملة مثل: "الفيلم كان مذهلاً".
قاموا باستبدال كلمة لجعلها جملة مرادفة: "الفيلم كان رائعاً".
طلبوا من الذكاء الاصطناعي شرح كلتا الجملتين.

النتائج:

كان RoBERTa هو الطالب الأكثر اتساقاً؛ فقد أعطى أسباباً متشابهة جداً للجمل المتشابهة.
كان BERT جيداً، لكنه كان يرتبك أحياناً عند استبدال الكلمات.
كان DistilBERT (وهو نموذج أصغر وأسرع) الأقل اتساقاً؛ حيث بدا وكأن لديه طريقة تفكير بسيطة للغاية، تكاد تكون عشوائية وتتغير بسهولة.

كما وجدوا أيضاً أنه عندما قاموا بتغيير الكلمات قليلاً (إعادة الصياغة)، انخفضت درجات الاتساق للجميع. وهذا يثبت أن حتى نماذج الذكاء الاصطناعي الذكية يمكن أن تكون هشة؛ فإذا قمت بتعديل المدخلات قليلاً، يمكن لمنطقهم أن ينهار.

لماذا هذا مهم؟

تخيل سيارة ذاتية القيادة. إذا قررت التوقف عند الإشارة الحمراء لأن "الضوء أحمر"، فهذا أمر جيد. ولكن إذا تغير الضوء قليلاً (ربما درجة مختلفة من اللون الأحمر) وفجأة توقفت السيارة لأن "السماء زرقاء"، فهذه كارثة.

هذه الورقة تمنحنا طريقة لمراجعة سلوك الذكاء الاصطناعي. فبدلاً من مجرد السؤال: "هل حصلت على الإجابة الصحيحة؟"، يمكننا الآن أن نسأل: "هل استخدمت نفس المنطق في مواقف متشابهة؟"

الخلاصة

يقول المؤلفون: الذكاء الاصطناعي الجدير بالثقة لا يقتصر فقط على كونه صحيحاً، بل يتعلق بكونه متسقاً.

إذا كانت تفسيرات الذكاء الاصطناعي تقفز مثل سنجاب يتناول الكافيين، فلا يمكننا الوثوق به في الوظائف الهامة مثل الرعاية الصحية أو التمويل. تساعدنا درجة "ESS" الجديدة هذه في العث "على تلك السناجب" وإصلاحها قبل أن تسبب المشاكل. إنها خطوة نحو بناء ذكاء اصطناعي لا يكتفي بالتخمين، بل يفكر فعلياً بشكل منطقي وموثوق.

إليك ملخص تقني مفصل للورقة البحثية بعنوان "التوصيف التجريبي لاستقرار المبررات تحت الاضطرابات المحكومة من أجل التعرف على الأنماط القابل للتفسير."

1. بيان المشكلة

تعتمد طرق تقييم الذكاء الاصطناعي القابل للتفسير (XAI) الحالية بشكل أساسي على التركيز على الحالة الواحدة (instance-centric)، حيث تركز على توليد تفسيرات للتنبؤات الفردية. وهي تفشل في تحديد ما إذا كانت أنماط العزو (attribution patterns) تظل متسقة عبر:

العينات التي تنتمي إلى نفس الفئة.
التغيرات الطفيفة (الاضطرابات) لنفس المدخلات (مثل إعادة صياغة الجمل).

يشكل هذا النقص في التحقق من الاتساق خطراً كبيما: فقد يبدو النموذج قابلاً للتفسير في حالة معزولة، ولكنه قد يظهر استدلالاً غير مستقر أو اعتماداً منحازاً على سمات محددة عند مواجهة مدخلات مماثلة. وهذا يقوض الثقة، لا سيما في المجالات عالية المخاطر مثل الرعاية الصحية والتمويل، حيث يجب أن يكون منطق اتخاذ القرار موثوقاً ومتوافقاً مع التوقعات البشرية.

2. المنهجية

يقترح المؤلفون إطار عمل لقياس استقرار المبررات (Rationale Stability) باستخدام مقياس مبتكر يسمى درجة استقرار التفسير (Explanation Stability Score - ESS).

أ. المفهوم الجوهري: درجة استقرار التفسير (ESS)

تقيس الـ ESS اتساق تفسيرات النموذج من خلال قياس التشابه بين ناقلات عزو السمات للمدخلات التي تشترك في نفس الملصق (label) الحقيقي.

الآلية: تحسب الطريقة تشابه جيب التمام (Cosine Similarity) بين ناقلات قيم SHAP (SHapley Additive exPlanations) لأزواج من المدخلات $(x_1, x_2)$ حيث $y(x_1) = y(x_2)$ .
الصيغة:
$ESS = \frac{1}{N} \sum_{i=1}^{N} \text{sim}_{\text{cos}}(S(x_1^{(i)}), S(x_2^{(i)}))$
حيث يمثل $S(x)$ ناقل قيمة SHAP للمدخل $x$ ، و $N$ هو عدد أزواج الملصقات المتشابهة.
التفسير:
- ESS مرتفع (قريب من 1): يقدم النموذج استدلالاً متسقاً للمدخلات المتشابهة.
- ESS منخفض (قريب من 0): استدلال النموذج غير مستقر أو غير متسق للحالات المتشابهة.

ب. الإعداد التجريبي

النماذج: نماذج المحولات (Transformers) سابقة التدريب بما في ذلك BERT و RoBERTa و DistilBERT.
مجموعات البيانات: SST-2 (Stanford Sentiment Treebank) و IMDb (مراجعات الأفلام) لتصنيف المشاعر الثنائي.
أداة التفسير: تم استخدام KernelSHAP لحساب أهمية السمات (عزو مستوى الرمز/token-level).
استراتيجية الاضطراب (دراسة الاستئصال): لاختبار المتانة، تمت إعادة صياغة المدخلات باستخدام مرادفات WordNet باحتمالية استبدال تبلغ 20% مع الحفاظ على الملصق الأصلي.
مقارنة الخط المرجعي (Baseline): تتم مقارنة ESS مع مقاييس الأمانة القياسية (Fidelity Metrics - FID-k)، والتي تقيس مدى انخفاض ثقة النموذج عند حجب أهم $k$ (حيث k=5) من السمات.

3. المساهمات الرئيسية

مقياس مبتكر (ESS): تقديم مقياس كمي لتقييم اتساق التفسير عبر المدخلات ذات الملصقات المتشابقة، متجاوزاً التفسير المعتمد على الحالة الواحدة.
تقييم شامل: دراسة تجريبية صارمة تقارن بين ESS والأمانة (Fidelity) عبر ثلاثة بنى للمحولات (BERT، RoBERta، DistilBERT) ومجموعتي بيانات، بما في ذلك دراسات الاستئصال على المدخلات المعاد صياغتها.
كشف عدم التطابق: إثبات أن ESS يمكنه بفعالية تحديد "التنبؤات غير المتوافقة" حيث يعتمد النماذج على أنماط استدلال غير متسقة، حتى عندما تظل دقة التنبؤ عالية.

4. النتائج التجريبية

كشفت التجارب عن سلوكيات متميزة عبر النماذج والظروف المختلفة:

تأثير الاضطرابات: أدت إعادة صياغة المدخلات باستمرار إلى تقليل ESS عبر جميع النماذج، مما يشير إلى أن التفسيرات حساسة للاختلافات الطفيفة في المدخلات.
- مثال: بالنسبة لنموذج BERT على مجموعة SST-2 (مجموعة الاختبار)، انخفض ESS من 0.1097 (الأصلي) إلى 0.0945 (المعاد صياغته). وأكد اختبار t أن هذا الفرق كان ذا دلالة إحصائية ( $p = 0.021$ ).
أداء النماذج:
- RoBERTa: أظهر أعلى ESS (على سبيل المثال، 0.1995 في SST-2 test)، مما يشير إلى أكثر أنماط العزو استقراراً بين النماذج المختبرة. ومع ذلك، أظهر درجات أمانة (Fidelity) منخفضة جداً ( $\approx 0.002$ )، مما يشير إلى احتمال وجود عدم استقرار عددي أو انفصال بين أهمية السمة وثقة المخرجات.
- BERT: أظهر أداءً متوازناً مع ESS متوسط (0.09–0.18) ودرجات أمانة أعلى مقارنة بـ RoBERTa. وقد أظهر توازناً جيداً بين الاتساق والقدرة على التقاط تبعيات السمات.
- DistilBERT: أظهر أدنى ESS (على سبيل المثال، 0.0061 في SST-2 test). ويعزو المؤلفون ذلك إلى بنيته المدمجة، والتي قد تؤدي إلى تبعيات سمات أبسط وأقل تغيراً، ولكن ربما على حساب القدرة على التفسير الدقيق.
عدم الاستقرار الخاص بالفئة: أظهر التحليل أن تنبؤات المشاعر الإيجابية غالباً ما كانت ذات ESS أقل من السلبية، مما يشير إلى أن استدلال النموذج للمراجعات الإيجابية أقل استقراراً وأكثر عرضة لعدم الاتساق.

5. الأهمية والخاتمة

تعالج هذه الورقة فجوة حرجة في مجال الذكاء الاصطناعي القابل للتفسير (XAI) من خلال نقل التركيز من "هل هذا التفسير صحيح لهذه الحالة؟" إلى "هل هذا التفسير متسق للحالات المتشابهة؟"

الثقة والموثوقية: تؤسس هذه الدراسة لكون استقرار التفسير شرطاً مسبقاً للثقة البشرية. فإذا قدم النموذج استدلالات متناقضة لمدخلات متشابهة دلالياً، فلن يتمكن المستخدمون البشريون من الاعتماد على عملية اتخاذ القرار لديه.
ما وراء الأمانة (Fidelity): تشير النتائج إلى أن مقاييس الأمانة القياسية وحدها غير كافية. يمكن للنموذج أن يتمتع بأمانة عالية (حجب السمات المهمة يغير المخرجات) ولكن بأمانة منخفضة (الاستدلال يتغير بشكل غير متوقع للمدخلات المتشابهة).
الاتجاهات المستقبلية: يقترح المؤلفون دمج مقياس ESS مباشرة في مسارات تدريب النماذج لفرض قيود الاتساق، وبالتالي بناء أنظمة ذكاء اصطناعي ليست فقط قابلة للتفسير، بل متوافقة بقوة مع المنطق البشري عبر سيناريوهات متنوعة.

باختصار، توفر هذه الورقة إطار عمل قوياً للتحقق من استقرار المبررات، مما يوفر أداة ضرورية لتقييم موثوقية أنظمة الذكاء الاصطناعي في مسارات التعرف على الأنماط العملية.