🤖 AI

CoAX: Cognitive-Oriented Attribution eXplanation User Model of Human Understanding of AI Explanations

تقدم هذه الورقة نموذج مستخدم CoAX، الذي يوظف النمذجة المعرفية لتحليل ومحاكاة استراتيجيات الاستدلال البشري عند تفسير شروحات الذكاء الاصطناعي للبيانات الجدولية، مما يقدم طريقة قابلة للتوسع لتشخيص أسباب فشل طرق الذكاء الاصطناعي القابل للتفسير الحالية غالباً في تحسين فهم المستخدم وتوجيه تطوير شروحات أكثر فعالية.

المؤلفون الأصليون: Louth Bin Rawshan, Zhuoyu Wang, Brian Y. Lim

نُشر 2026-05-01

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Louth Bin Rawshan, Zhuoyu Wang, Brian Y. Lim

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك صديقًا آليًا (روبوت) ذكيًا جدًا ولكنه غامض، يتخذ القرارات نيابة عنك؛ مثل إخبارك ما إذا كان النبيذ "جيدًا" أم "سيئًا"، أو ما إذا كان يجب الموافقة على طلب قرض. أنت تريد الوثوق بهذا الروبوت، لذا يقدم لك ملاحظة صغيرة تشرح لماذا اتخذ هذا القرار. يُسمى هذا الذكاء الاصطناعي القابل للتفسير (XAI).

ولكن تكم-ن المشكلة في أنه حتى مع وجود الملاحظة، لا يزال الناس يشعرون بالارتباك أو يخطئون في التخمين بشأن ما سيفعله الروبوت بعد ذلك. الأمر يشبه أن الروبوت يتحدث لغة لا تفهمها تمامًا، رغم أن الكلمات موجودة أمامك.

هذه الورقة البحثية، التي تحمل عنوان CoAX، هي بمث_ل "مترجم" و"مصحح أخطاء" لكيفية تفكير البشر عندما يحاولون فهم ملاحظات هذا الروبوت. قام الباحثون ببناء إنسان افتراضي (برنامج كمبيوتر يتصرف كشخص حقيقي) لمعرفة كيف تعالج أدمغتنا هذه التفسيرات بالضبط، ولماذا نخطئ أحيانًا في فهمها.

إليك قصة اكتشافهم، مقسمة ببساطة:

1. المشكلة: "الصندوق الأسود" والمستخدم المرتبك

لاحظ الباحثون أنه على الرغم من أن العلماء اخترعوا طرقًا عديدة لشرح قرارات الذكاء الاصطناعي، إلا أن البشر الحقيقيين لا يزالون يواجهون صعوبة في استخدامها. بعض التفسيرات تجعل الناس أسوأ في توقع ما سيفعله الذكاء الاصطناعي. تساءل المؤلفون: "لماذا؟ ماذا يحدث داخل عقل الإنسان عندما ينظر إلى هذه المخططات والأرقام؟"

2. الحل: بناء "إنسان افتراضي" (CoAX)

بدلاً من مجرد التخمين، قام الباحثون ببناء CoAX (التفسير الموجه معرفيًا - Cognitive-Oriented Attribution eXplanation). فكر في CoAX كأنه شخصية في لعبة فيديو تمت برمجتها لتفكر تمامًا مثل البشر الحقيقيين.

كيف يعمل: شاهد الباحثون أولاً أشخاصًا حقيقيين (في "دراسة تمهيدية") وطلبوا منهم "التفكير بصوت عالٍ" أثناء النظر إلى تفسيرات الذكاء الاصطناعي. لاحظوا أن الناس استخدموا حيلًا ذهنية محددة، أو "استراتيجيات"، لفهم البيانات.
الاستراتيجيات:
- استراتيجية "تجاهل الباقي": يختار بعض الناس ميزة أو اثنتين فقط يعتقدون أنها مهمة (مثل "محتوى الكحول") ويتجاهلون كل شيء آخر.
- استراتيجية "المحدد" (Highlighter): عندما يُعطى الشخص مخططًا يوضح أي الميزات "مهمة"، يركز الناس فقط على الأشرطة الأكبر ويحاولون تذكر حالات مشابهة من الماضي.
- استراتيجية "الجمع الرياضي": عندما يُعطى الشخص تفصيلًا دقيقًا (درجات إيجابية وسلبية)، يحاولون جمع الأرقام في رؤوسهم لمعرفة أي جانب سينتصر.
النموذج: يأخذ CoAX هذه الاستراتيجيات ويحولها إلى رياضيات. إنه يحاكي إنسانًا لديه ذاكرة محدودة (ينسى الأمثلة القديمة) وانتباه محدود (يمكنه النظر إلى أشياء قليلة فقط في وقت واحد).

3. التجربة: اختبار الإنسان الافتراضي

بعد ذلك، أجرى الباحثون تجربة ضخمة مع أكثر من 300 شخص حقيقي. طلبوا من هؤلاء الأشخاص تخمين ما سيتوقعه الذكاء الاصطناعي لسيناريوهات مختلفة (مثل جودة النبيذ أو مستويات الدخل) تحت ثلاثة ظروف:

بدون مساعدة: البيانات فقط.
مساعدة بسيطة: قائمة بالميزات "المهمة".
مساعدة تفصيلية: قائمة بالميزات مع درجات إيجابية وسلبية (الإسناد/Attribution).

وقاموا بمقارنة إجابات البشر الحقيقيين بإجابات الإنسان الافتراضي (CoAX).

الاكتشاف الكبير:
كان الإنسان الافتراضي (CoAX) أفضل بكثير في توقع ما سيفعله البشر الحقيقيون من برامج الكمبيوتر القياسية (مثل نماذج التعلم الآلي التقليدية).

برامج الكمبيوتر القياسية تبحث فقط عن الأنماط في البيانات.
أما CoAX فيبحث عن أنماط الاستدلال. لقد أدرك أن البشر لا يقومون بمجرد حسابات؛ بل يستخدمون اختصارات ذهنية، أو يرتبكون بسبب كثرة المعلومات، أو يسيئون تفسير "أهمية" ميزة ما.

4. ما وجدوه حول التفكير البشري

باستخدام إنسانهم الافتراضي، اكتشفوا أشياء مثيرة للاهتمام حول كيفية فشلنا في فهم الذكاء الاصطناعي:

"الجمع الرياضي" هو الأفضل: عندما يُعطى الناس تفسيرات "إسناد" مفصلة (توضح بدقة كيف دفع كل عامل القرار للأعلى أو للأسفل)، فإنهم يميلون إلى استخدام استراتيجية "الجمع". وهذا كان يعمل بشكل أفضل. الأمر يشبه جمع الإيجابيات والسلبيات على ورقة.
"القائمة البسيطة" مخادعة: عندما يُعطى الناس قائمة بسيطة بالميزات "المهمة" (دون توضيح ما إذا كانت جيدة أم سيئة)، فإنهم يصابون بالارتباك. البعض يحاول تخمين اتجاه التأثير، بينما يتجاهل آخرون القائمة تمامًا ويعودون لعاداتهم القديمة.
الارتباك يؤدي إلى التجاهل: إذا كان التفسير مربكًا للغاية، فإن الناس يتخلصون منه ببساطة ويخمنون بناءً على ما يتذكرونه من الماضي، مما يعني تجاهل مساعدة الذكاء الاصطناعي فعليًا.

5. لماذا هذا مهم (المختبر الافتراضي)

الجزء الأروع في هذه الورقة هو أنه بمجرد بناء هذا الإنسان الافتراضي، يمكنهم استخدامه كـ مختبر محاكاة.

بدلاً من توظيف 300 شخص، ودفع أجورهم، وإجراء أسابيع من التجارب لاختبار فكرة جديدة، يمكن للباحثين الآن فقط "سؤال" الإنسان الافتراضي.

مثال: "ماذا يحدث إذا عرضنا 9 ميزات بدلاً من 5؟" يمكن للإنسان الافتراضي محاكاة ذلك فورًا وإخباركم: "أوه، سيشعر الناس بالإرهاق وستنخفض دقة فهمهم".
هذا يسمح للمصممين بـ تصحيح أخطاء تفسيرات الذكاء الاصطناعي قبل أن يروها لأي شخص حقيقي. يمكنهم إصلاح الأجزاء المربكة في نموذج الكمبيوتر أولاً.

الخلاصة

تجادل هذه الورقة بأنه لجعل تفسيرات الذكاء الاصطناعي أفضل، نحتاج إلى التوقف عن معاملة البشر كمعالجات بيانات بسيطة. نحن بحاجة إلى فهم أن البشر لديهم ذاكرة محدودة، وانتباه انتقائي، وعادات ذهنية محددة.

من خلال بناء إنسان افتراضي يحاكي هذه العادات، يمكننا معرفة سبب فشل تفسيرات الذكاء الاصطناعي الحالية وتصميم تفسيرات أفضل تساعد الناس حقًا على فهم عقل الروبوت، بدلاً من مجرد زيادة ارتباكهم. الأمر يشبه ضبط تردد الراديو لكي يتمكن العقل البشري أخيرًا من سماع الإشارة بوضوح.

ملخص تقني لورقة بحثية بعنوان: "CoAX: نموذج مستخدم معرفي لتفسير العزو الموجه نحو الإدراك لفهم البشر لتفسيرات الذكاء الاصطناعي"

1. بيان المشكلة

على الرغم من التقدم الكبير في مجال الذكاء الاصطناعي القابل للتفسير (XAI)، لا تزال هناك فجوة حرجة قائمة: تفشل العديد من تقنيات XAI في تحسين الفهم الفعلي للمستخدم أو اتخاذ القرار. وقد أظهرت الدراسات السابقة أن التفسيرات يمكن أن تؤدي أحياناً إلى إرباك المستخدمين، أو تؤدي إلى الاعتماد المفرط، أو تفشل في مساعدة المستخدمين على اكتشاف أخطاء النموذج.

المشكلة الجوهرية: تعتمد الأبحاث الحالية غالباً على مقاييس سلوكية سطحية (مثل الدقة) أو مجرد تخمينات لتفسير لماذا يعاني المستخدمون. وهناك نقص في النماذج الميكانيكية الصارمة التي تشرح العمليات المعرفية واستراتيجيات الاستدلال التي يستخدمها المستخدمون عند تفسير الـ XAI.
النتيجة: بدون فهم الآليات المعرفية الكامنة (على سبيل المثال، كيف يعالج المستخدمون أهمية الميزات مقابل عزو الميزات)، يصبح من الصعب تصميم تفسيرات فعالة أو تصحيح أخطاء الأساليب المحددة للـ XAI.

2. المنهجية

يقترح المؤلفون CoAX، وهو نموذج معرفي يدمج نظرية التعلم القائم على الأمثلة (IBL) مع القيود المعرفية (تلاشي الذاكرة، حدود الانتباه) لمحاكاة الاستدلال البشري في سياق الـ XAI. يتبع البحث عملية تصميم تركز على المستخدم مكونة من خمس خطوات:

أ. دراسة المستخدم التكوينية (استنباط الاستراتيجية)

الهدف: تحديد كيفية استدلال البشر فعلياً عند استخدام الـ XAI.
المشاركون: 20 طالباً جامعياً.
المهمة: "المحاكاة الأمامية" (التنبؤ بمخرجات الذكاء الاصطناعي بناءً على حالة مدخلة وتفسير معين).
الحالات: بدون XAI، أهمية الميزات (درجات غير سالبة)، وعزو الميزات (درجات موقعة، مثل SHAP/LIME).
الطريقة: بروتوكولات "التفكير بصوت عالٍ" التي تم تحليلها عبر النظرية المجذرة (Grounded Theory).
النتيجة: تحديد أربع استراتيجيات استدلال متميزة:
1. تصنيف الميزات الحساسة: التركيز على مجموعة ثابتة من السمات يُعتقد أنها مهمة، وتجاهل غيرها.
2. تصنيف الميزات البارزة: اختيار ديناميكي لأعلى ( $k$ ) ميزات ذات أعلى درجات أهمية واستدعاء حالات سابقة مماثلة.
3. جمع العزو: جمع درجات العزو الموقعة (أو تقديرها) لوزن الأدلة المؤيدة أو المعارضة لتسمية معينة.
4. تصنيف الأهمية: إساءة تفسير درجات الأهمية كقيم مباشرة للسمات بهدف مطابقة الأنماط (وهي استراتيجية معيبة).

ب. تنفيذ النموذج المعرفي CoAX
يحاكي النموذج اتخاذ القرار البشري باستخدام التعلم القائم على الأمثلة (IBL):

الذاكرة: تخزن الأمثلة السابقة (الحالات) مع مستويات تنشيط بناءً على الحداثة والتكرار.
الاسترجاع: يسترجع الحالات السابقة المماثلة بناءً على المسافة الإقليدية، الموزونة بالتنشيط.
توسيع الاستراتيجيات: تم توسيع نموذج IBL الأساسي لتنفيذ الاستراتيجيات الأربع المحددة:
- الحساسة/البارزة: تعديل مقياس المسافة للتركيز فقط على مجموعات فرعية محددة من الميزات.
- جمع العزو: حساب درجة اللوغاريتم الأُسّي (log-odds) عن طريق جمع مساهمات الميزات الموزونة.
- تصنيف الأهمية: معاملة درجات الأهمية كقيم للميزات بدلاً من كونها أوزانًا.
المعلمات (Parameters): تتضمن حساسية المسافة ( $\alpha$ )، وعتبة الاسترجاع ( $\rho$ )، وعدد الميزات التي يتم الانتباه إليها ( $k$ )، وحساسية فئة الميزة ( $\zeta$ ).

ج. درسة المستخدم الختامية (التحقق من الصحة)

المشاركون: 335 مشاركاً (من منصة Prolific).
التصميم: بين المجموعات لنوع الـ XAI (لا يوجد، أهمية، عزو) وداخل المجموعات لحالة الاختبار (مع/بدون XAI).
مجموعات البيانات: جودة النبيذ، نوع غطاء الغابات، ودخل البالغين (تصنيف ثنائي، 5 سمات).
الهدف: التحقق من صحة CoAX عبر ملاءمة النموذج لبيانات القرار البشري ومقارنة قدرته التنبؤية مقابل نماذج تعلم آلي (ML) قياسية (أشجار القرار، KNN، MLP).

د. اختبار الفرضيات الافتراضي

الهدف: استخدام نموذج CoAX الذي تم التحقق منه لإجراء "تجارب افتراضية" قد تكون مكلفة للغاية أو بطيئة إذا أجريت مع بشر حقيقيين.
المتغيرات: عدد حالات التدريب، عدد السمات، وخوارزميات XAI مختلفة (SHAP، LIME، Integrated Gradients، Input Gradients).

3. المساهمات الرئيسية

تصنيف استراتيجيات الاستدلال: استنباط وتصنيف أربع استراتيجيات معرفية متميزة يستخدمها البشر عند تفسير الـ XAI القائم على العزو، بما في ذلك أوضاع الفشل المحددة (مثل إساءة تفسير درجات الأهمية).
النموذج المعرفي CoAX: تطوير نموذج معرفي رسمي يحاكي هذه الاستراتيجيات باستخدام التعلم القائم على الأمثلة، مما يلتقط المنطق الإجرائي للاستدلال البشري بدلاً من مجرد الارتباطات الإحصائية.
التفوق على نماذج التعلم الآلي الوسيطة: أثبت أن CoAX يلائم بيانات القرار البشري بشكل أفضل بكثير من نماذج ML القياسية (DT, KNN, MLP)، مما يثبت أن الاستدلال البشري في سياقات XAI مدفوع بآليات استدلالية معرفية محددة، وليس فقط بأنماط البيانات.
إطار التجريب الافتري: إنشاء خط إنتاج لاستخدام CoAX لتوليد الفرضيات وتصحيح أخطاء سهولة استخدام XAI، مما يقلل الاعتماد على دراسات المشاركين البشر المكلفة.

4. النتائج الرئيسية

ملائمة النموذج: حقق CoAX قيمة أقل بكثير في "اللوغاريتم الأُسّي السالب" (NLL) ومعيار "المعلومات البايزية" (BIC) مقارنة بالنماذج الأساسية للتعلم الآلي، مما يشير إلى أنه يلتقط عملية القرار البشرية الكامنة بدقة أكبر.
فعالية الاستراتيجية:
- جمع العزو (باستخدام الدرجات الموقعة) كان الاستراتيجية الأكثر فعالية، مما أدى إلى أعلى دقة تنبؤ.
- XAI الأهمية (الدرجات غير السالبة) أدى إلى استراتيجيات متنوعة وغير مثالية غالباً، بما في ذلك "تصنيف الأهمية" المعيب.
- انتقال التعلم: احتفظ المشاركون الذين تدربوا باستخدام "عزو الميزات" باستراتيجية "جمع العزو" حتى عند إزالة الـ XAI، بينما عاد أولئك الذين تدربوا باستخدام "أهمية الميزات" غالباً إلى استراتيجيات "الميزات الحساسة".
تأثير نوع الـ XAI:
- تفوق عزو الميزات (Attribution XAI) باستمرار على أهمية الميزات (Importance XAI) وعدم وجود XAI.
- عدد الميزات: أدى زيادة عدد السمات إلى تدهور الأداء في حالتي "بدون XAI" و"أهمية الميزات" (زيادة المعلومات/الحمل المعلوماتي)، ولكن تم التخفيف من ذلك بواسطة "عزو الميزات".
التجارب الافتراضية: نجح النموذج في محاكاة كيف يؤدي زيادة حالات التدريب إلى تحسين الفهم (تأثير الثبات/الاستقرار)، وكيف تؤثر خوارزميات XAI المختلفة (مثل LIME مقابل SHAP) على أداء المستخدم، مما أكد فائدة النموذج للاختبار القابل للتوسع.

5. الأهمية والآثار المترتبة

تصحيح أخطاء XAI: يوفر CoAX أداة تشخيصية لتحديد سبب فشل التفسير (على سبيل المثال، هل يحفز استراتيجية "تصنيف الأهمية" المعيبة؟).
توصيات التصميم:
- تصميم واجهة المستخدم (UI): يجب على المصممين تشجيع استراتيجيات "جمع العزو" (على سبيل المثال، عبر إظهار القيم الموقعة) وتجنب "تصنيف الأهمية" (على سبيل المثال، عبر تجنب تقديم درجات الأهمية كقيم خام).
- التدريب: يجب أن تعلم البرامج التعليمية المستخدمين صراحةً كيفية تجميع العزو الموقّع بدلاً من مجرد النظر إلى الميزات "الأكثر أهمية".
خفض التكاليف: من خلال التحقق من الفرضيات باستخدام "البشر الافتراضيين" (CoAX) قبل إجراء دراسات بشرية واسعة النطاق، يمكن للباحثين تكرار وتطوير تصميمات XAI بسرعة أكبر وبتكلفة أقل.
الاتجاهات المستقبلية: يمكن توسيع هذا الإطار ليشمل وسائط أخرى (صور، نصوص)، ومهام قرار متنوعة (الثقة، الاعتماد)، ومجموعات مستخدمين متنوعة للانتقال بعيداً عن نهج "مقاس واحد يناسب الجميع" في الـ XAI.