💬 NLP

Explainable embeddings with Distance Explainer

تقدم هذه الورقة "Distance Explainer"، وهي طريقة جديدة للذكاء الاصطناعي القابل للتفسير (XAI) بعد الحدوث، تعمل على تكييف التقنيات القائمة على البروز لتوليد تفسيرات محلية قوية للتشابه أو الاختلاف بين نقاط البيانات في الفضاءات المتجهة المضمنة من خلال تعيين قيم الإسناد عبر القناع الانتقائي والترشيح المرتب حسب المسافة.

المؤلفون الأصليون: Christiaan Meijer, E. G. Patrick Bos

نُشر 2026-03-26

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Christiaan Meijer, E. G. Patrick Bos

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك مكتبة عملاقة غير مرئية، حيث يتم تخصيص مقعد محدد لكل كتاب، أو صورة، أو أغنية بناءً على مدى تشابهها مع كل شيء آخر. هذا ما يسميه الذكاء الاصطناعي "الفضاء المضمن" (Embedded Space).

في هذه المكتبة:

صورة نحلة تجلس بجوار صورة ذبابة مباشرة.
صورة نحلة تجلس بعيداً جداً عن صورة سيارة.
جملة تقول "نحلة على زهرة" تجلس بجوار صورة النحلة مباشرة.

المشكلة؟ نحن البشر لا نستطيع رؤية لماذا قرر الذكاء الاصطناعي وضع النحلة بجانب الذبابة. الذكاء الاصطناعي يعرف فقط أنها "قريبة" في خريطته الرياضية، لكنه لا يستطيع إخبارنا أي أجزاء من النحلة (الأجنحة؟ الخطوط؟) جعلتها تبدو مثل الذبابة.

هذه الورقة البحثية تقدم أداة جديدة تسمى "مفسر المسافة" (Distance Explainer) لحل هذا الغموض. إليك كيف تعمل، باستخدام تشبيهات بسيطة.

المشكلة: "الصندوق الأسود" للمسافة

تخ نظر إلى الذكاء الاصطناعي كأنه حَكم في مسابقة. ينظر إلى متسابقين (على سبيل المثال، صورة نحلة وصورة ذبابة) ويقول: "هذان الاثنان متشابهان بنسبة 90%".
ولكن إذا سألته: "لماذا؟"، يكتفي الذكاء الاصطناعي عادةً بهز كتفيه. الأمر يشبه حكماً يعطي درجة ولكن يرفض شرح أي حركة محددة استحقَت تلك النقاط.

الحل: "لعبة القناع"

استخدم المؤلفون خدعة موجودة تسمى RISE (والتي كانت تُستخدم لتفسير الصور الفردية) وقاموا بتكييفها لمقارنة شيئين. أطلقوا على طريقتهم الجديدة اسم "مفسر المسافة" (Distance Explainer).

إليك العملية خطوة بخطوة، متخيلة كأنها لعبة "الغميضة" (Hide and Seek):

الإعداد: لديك "الهدف" (صورة النحلة) و"المرجع" (صورة الذبابة).
اللعبة: يلعب الذكاء الاصطناعي لعبة حيث يقوم بتغطية (قناع) أجزاء من صورة "الهدف" ببطانية سوداء بشكل عشوائي.
- مثال: يغطي أجنحة النحلة.
- مثال: يغطي خطوط النحلة.
- مثال: يغطي عيون النحلة.
التحقق: بعد تغطية جزء ما، يسأل الذكاء الاصطناعي: "هل لا تزال النحلة المغطاة تبدو مثل الذبابة؟"
- إذا غطيت الأجنحة، ستصبح النحلة فجأة مختلفة تماماً عن الذبابة. المسافة بينهما ستكبر بشكل هائل.
- إذا غطيت الخطوط، ستظل النحلة تبدو شبيهة بالذبابة نوعاً ما. المسافة لن تتغير كثيراً.
بطاقة النقاط: يكرر الذكاء الاصطناعي هذه العملية آلاف المرات، مغطياً أماكن مختلفة عشوائياً.
- يحتفظ بسجل: "في كل مرة غطينا فيها الأجنحة، انخفض التشابه بشكل حاد".
- "في كل مرة غطينا فيها الخطوط، ظل التشابه كما هو".
النتيجة: يرسم الذكاء الاصطناعي خريطة حرارية (صورة تحتوي على ألوان حمراء وزرقاء).
- المناطق الحمراء هي الأجزاء التي جعلت الصورتين مختلفتين (إذا أخفيتها، يبدوان أكثر تشابهاً).
- المناطق الزرقاء هي الأجزاء التي جعلت الصورتين متشابهتين (إذا أخفيتها، يبدوان أقل تشابهاً).

لماذا هذا مميز؟

الأدوات السابقة كانت تستطيع فقط تفسير لماذا اعتقد الذكاء الاصطناعي أن "هذه نحلة". أما هذه الأداة الجديدة فهي تفسر العلاقات. إنها تجيب على سؤال: "لماذا يعتقد الذكاء الاصطناعي أن هذه النحلة أقرب إلى ذبابة منها إلى سيارة؟"

إنها تعمل مثل محقق لا يكتفي فقط بالنظر إلى مسرح الجريمة، بل يقارن بين مشتبه بهين جنباً إلى جنب ليرى بالضبط ما هي الملامح التي تجعلهما متشابهين أو مختلفين.

خدعة "المرآة"

أضاف المؤلفون لمسة ذكية تسمى "وضع المرآة" (Mirror Mode).
تخيل أنك تحاول سماع همس في غرفة صاخبة. إذا استمعت إلى الضجيج وطرحته، ستسمع الهمس بشكل أفضل.

ينظر الذكاء الاصطناعي إلى الأجزاء التي تجعل الصور مختلفة جداً ("الضجيج").
وينظر أيضاً إلى الأجزاء التي تجعل الصور متشابهة جداً.
من خلال مقارنة هاتين القائمتين، يقوم بإلغاء "الضجيج" ويبرز الملامح الحقيقية والمهمة. هذا يجعل التفسير أكثر وضوحاً وأقل ضبابية.

ماذا وجدوا؟

لقد اختبروا ذلك على:

الصور مقابل الصور: لإظهار أن الذكاء الاصطناعي يعرف أن النحلة والذبابة متشابهتان بسبب أجنحتهما، لكنهما مختلفتان بسبب خطوطهما.
الصور مقابل النصوص: لإظهار أنه إذا عرضت صورة لنحلة وكتبت "ذبابة"، فإن الذكاء الاصطناعي يعرف بالضبط أي أجزاء من الصورة تتعارض مع النص.

الخلاصة

هذه الأداة تشبه منح نظارات للذكاء الاصطناعي. فجأة، يمكننا رؤية لماذا تم ترتيب خريطته الداخلية بهذا الشكل. فهي لا تخبرنا فقط بالمسافة بين نقطتين؛ بل تخبرنا أي الملامح تسحبهما معاً وأيها تدفعهما بعيداً عن بعضهما.

هذه خطوة كبيرة للأمام في مجال الذكاء الاصطناعي القابل للتفسير (XAI) لأنها تساعدنا على الثقة في النماذج المعقدة (مثل تلك المستخدمة في التشخيص الطبي أو السيارات ذاتية القيادة) من خلال إظهار الأسباب المحددة وراء قراراتها، بدلاً من مجرد إعطائنا النتيجة النهائية.

إليك ملخص تقني مفصل لورقة البحث "Explainable embeddings with Distance Explainer" من إعداد مير (Meijer) وبوس (Bos).

1. بيان المشكلة

بينما حقق الذكاء الاصطنا تفسيري (XAI) تقدماً كبيراً في المهام ذات المدخل الواحد (مثل تصنيف الصور، وتوليد النصوص)، إلا أن هناك فجوة حرجة في تفسير الفضاءات المتجهة المضمنة (Embedded Vector Spaces).

التحدي: غالباً ما تقوم نماذج التعلم العميق بإسقاط البيانات (الصور، النصوص، إلخ) في فضاءات متجهة عالية الأبعاد حيث تمثل الأبعاد سمات معقدة ومجردة. في هذه الفضاءات، تحدد "المسافة" بين متجهين مدى التشابه الدلالي بينهما.
الفجوة: الطرق الحالية للذكاء الاصطنافسي (مثل RISE، LIME، GradCAM) تفسر عادةً قرار النموذج لمدخل واحد بالنسبة لفئة أو مخرج معين. وهي تواجه صعوبة في تفسير العلاقات الزوجية (لماذا النقطة A أقرب إلى النقطة B منها إلى النقطة C؟) في الفضاءات المضمنة العشوائية.
القيود المحددة للأعمال السابقة: كانت المحاولات السابقة لتفسير التشابه الزوجي (مثل S-RISE، CorrRISE) غالباً مرتبطة بمجالات محددة (مثل التعرف على الوجوه) أو اعتمدت على الجمع الموزون الذي فشل في الفضاءات عالية الأبعاد حيث تكون فروق المسافة ضئيلة جداً.

2. المنهجية: مفسر المسافة (Distance Explainer)

يقترح المؤلفون Distance Explainer، وهو طريقة عزو (Attribution) مستقلة عن النموذج، ومقتبسة من خوارزمية RISE (أخذ عينات المدخلات العشوائية للتفسير).

المفهوم الجوهري

بدلاً من تفسير احتمالية فئة ما، تقوم الطريقة بتفسير المسافة (تحديداً مسافة جيب التمام - Cosine Distance) بين نقطتين مدمجتين:

المرجع ( $r$ ): نقطة بيانات ثابتة (مثل صورة أو وصف نصي).
المدخل المراد تفسيره ( $e$ ): نقطة بيانات المدخل التي يتم تحليلها.
الهدف: تحديد أي السمات في $e$ تساهم أكثر في قربها (أو بعدها) عن $r$ .

خطوات الخوارزمية

القناع (Masking): تولد الخوارزمية $N_{masks}$ من الأقنعة الثنائية العشوائية للمدخل $e$ .
الاضطراب (Perturbation): يتم تطبيق كل قناع على $e$ (استبدال البكسلات المقنعة بقيمة أساسية، مثل اللون الأسود)، مما ينتج مدخلاً مضطرباً $M_i(e)$ .
التضمين وحساب المسافة: يتم تمرير كل من المرجع $r$ والمدخل المقنع $M_i(e)$ عبر النموذج للحصول على التضمينات. ثم تُحسب مسافة جيب التمام $d_i$ بينهما.
تصفية الأقنعة بناءً على ترتيب المسافة (الابتكار الرئيسي):
- على عكس RISE، التي تستخدم مجموعاً موزوناً بناءً على درجات الفئة، لا يمكن لـ Distance Explainer استخدام الأوزان لأن المخرج هو مسافة عددية وليس توزيع احتمالات.
- وجد المؤلفون أنه في الفضاءات عالية الأبعاد، تكون فروق المسافة صغيرة جداً بحيث لا تصلح كأوزان فعالة.
- الحل: بدلاً من التوزين، يقومون بـ تصفية الأقنعة بناءً على المسافة الناتجة:
  - أعلى $x\%$ : الأقنعة التي تؤدي إلى أصغر مسافة بالنسبة للمرجع (مما يبرز السمات التي تجعل $e$ تبدو مثل $r$ ).
  - أدنى $x\%$ : الأقنहरू التي تؤدي إلى أكبر مسافة (مما يبرز السمات التي تجعل $e$ تبدو غير مشابهة لـ $r$ ).
التجميع:
- وضع المرآة (Mirror Mode - الافتراضي): يتم دمج المجموعتين العليا والدنيا. يتم ضرب المجموعة الدنيا في $-1$ وطرحها من المجموعة العليا. يعمل هذا كآلية لإلغاء الضجيج، مما يحسن نسبة الإشارة إلى الضجيج من خلال المقارنة بين السمات "المتشابهة" والسمات "غير المتشابهة".
- يتم جمع الأقنحة المتبقية لإنتاج خريطة العزو النهائية.

المعاملات الرئيسية

عدد الأقنعة ( $N_{masks}$ ): عادة 1000 لضمان الاستقرار.
تغطية القناع ( $p_{keep}$ ): نسبة البكسلات التي يتم الإبقاء عليها دون قناع (الافتراضي 0.5).
دقة الميزة: حجم الشبكة لتقسيم الـ superpixel (الافتراضي 8x8).
عتبة الاختيار: النسبة المئوية للأقنعة المختارة من الأطراف العليا والدنيا (الافتراضي 10% لكل جانب).

3. المساهمات الرئيسية

إطار عمل جديد للعزو: قدم أول طريقة عامة لتوليد تفسيرات محلية و"بعدية" (post-hoc) لـ المسافات في الفضاءات المضمنة العشوائية، وليس فقط لمخرجات التصنيف.
تصفية مرتبة المسافة: استبدلت نهج المجموع الموزون القياسي الخاص بـ RISE باستراتيجية التصفية والطرح (وضع المرآة). وهذا يحل مشكلة الأوزان غير القابلة للتمييز في الفضاءات المتجهة عالية الأبعاد.
استقلالية الوسائط (Modality Agnosticism): صُممت الطريقة لتعمل عبر مختلف الوسائط (صورة-صورة، صورة-نص) طالما توجد وظيفة قناع للمدخل.
التقييم الشامل: تم التحقق من صحة الطريقة باستخدام مقايسات XAI القياسية (الإخلاص، الحساسية/المتانة، العشوائية) على نماذج ImageNet وCLIP.

4. النتائج التجريبية

قام المؤلفون بتقييم الطريقة على نماذج ImageNet (ResNet50, VGG16) و CLIP (ViT-B/32).

الأداء الكمي

الإخلاص (Faithfulness/Correctness): تم قياسه عبر الحذف التدريجي.
- LoDF (مسافة منخفضة أولاً): إزالة البكسلات التي تساهم أكثر في التشابه أدت إلى أكبر انخفاض في التشابه (إخلاص عالٍ).
- HiDF (مسافة عالية أولاً): إزالة البكسلات التي تساهم في عدم التشابه أدت إلى زيادة التشابه (أو نقصان المسافة).
- أظهرت النتائج أن الطريقة حددت بشكل صحيح السمات البارزة التي تحرك مقياس المسافة.
الحساسية/المتانة (Sensitivity/Robustness): تم قياسها عبر متوسط الحساسية.
- أظهرت الطريقة حساسية منخفضة للاضطرابات الصغيرة في المدخلات (درجات 0.04–0.06)، مما يشير إلى تفسيرات مستقرة ومتينة.
العشوائية (الاعتماد على النموذج): تم قياسها عبر اختبار عشوائية معاملات النموذج (MPRT).
- عند عشوائية أوزان النموذج، تغيرت خرائط العزو بشكل كبير (ارتباط منخفض مع الخرائط الأصلية)، مما يثبت أن التفسيرات تعتمد على المعاملات المتعلمة المحددة للنموذج وليس على المعرفة المسبقة أو الآثار الجانبية.

التقييم النوعي

صورة-صورة: نجحت في إبراز السمات المميزة.
- مثال (نحلة مقابل ذبابة): تم إبراز الأجنحة كسمات تقلل المسافة (التشابه)، بينما تم إبراز الخطوط كسمات تزيد المسافة (عدم التشابه).
- مثال (كلب لابرادودل): تم تحديد العينين والطوق كسمات مميزة.
صورة-نص (CLIP): نجحت الطريقة في تفسير سبب مطابقة صورة لوصف معين (مثل "نحلة تجلس على زهرة") ولماذا تختلف عن غيرها.
حساسية المعاملات:
- أدى زيادة عدد الأقنعة إلى تحسين الاستقرار (تقليل الانحراف المعياري).
- وفر وضع الاختيار "المرآة" (باستخدام الأطراف العليا والدنيا) تحسيناً أفضل لإلغاء الضجيج مقارنة بالاختيار أحادي الجانب.
- وُجد أن تغطية القناع المثلى ( $p_{keep}$ ) هي حوالي 0.5؛ حيث أدت القيم المتطرفة (0.1 أو 0.9) إلى خرائط مشوشة.

5. الأهمية والعمل المستقبلي

الأهمية: يسد هذا العمل فجوة كبيرة في مجال الذكاء الاصطنافسي (XAI) من خلال تمكين تفسير القرارات العلاقية في التعلم العميق. وهو مفيد بشكل خاص للنماذج متعددة الوسائط (مثل CLIP) والتطبيقات العلمية حيث يعد فهم سبب تقارب نقطتين من البيانات دلالياً أمراً بالغ الأهمية (مثل اكتشاف الأدوية، أو أبحاث اكتساب اللغة).
القيود والتوجهات المستقبلية:
- التكلفة الحسابية: تتطلب الطريقة $N_{masks}$ من عمليات التمرير الأمامي، مما يجعلها مكلفة حسابياً (مشابهة لـ RISE).
- مخاطر خارج التوزيع (OOD): قد يؤدي القناع العشوائي باستخدام البكسلات السوداء إلى إنشاء مدخلات بعيدة عن توزيع التدريب. يقترح المؤلفون استكشاف تقنيات الملء (infilling) المتعلمة أو التمويه (blurring) كبدائل.
- التعميم: رغم اختبارها على الصور، فإن الإطار مصمم للنصوص والبيانات الجدولية (باستخدام وظائف القناع الخاصة بـ DIANNA)، لكن هذا يتطلب مزيداً من التحقق.
- قابلية التفسير البشري: يجب أن يتضمن العمل المستقبلي دراسات مستخدمين لتحديد مدى قدرة غير الخبراء على تفسير خرائط العزو القائمة على المسافة هذه.

في الختام، يوفر Distance Explainer نهجاً قوياً ومبنياً على أسس رياضية لتصور "السبب" وراء أوجه التشابه في الفضاءات المتجهة، مما يعزز الشفافية في تطبيقات التعلم العميق المعقدة.