🤖 machine learning

TabSHAP

تقدم هذه الورقة TabSHAP، وهو إطار عمل للتفسير غير المرتبط بنموذج محدد يعمل على قياس التأثير التوزيعي للميزات الفردية في المصنفات الجدولية القائمة على النماذج اللغوية الكبيرة من خلال تكييف تقدير أسلوب شابلي باستخدام تباعد جينسن-شانون على مستوى المفتاح والقيمة المتسلسلة، مما يحقق موثوقية أعلى من الطرق التقريبية الخطية الحالية.

المؤلفون الأصليون: Aryan Chaudhary, Prateek Agarwal, Tejasvi Alladi

نُشر 2026-04-24

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Aryan Chaudhary, Prateek Agarwal, Tejasvi Alladi

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

🧩 الصورة الكبيرة: مشكلة "الصندوق الأسود"

تخيل أن لديك روبوت طباخ فائق الذكاء (نموذج لغوي كبير - LLM) تعلم الطبخ من خلال قراءة ملايين الوصفات المكتوبة كنصوص. تعطي هذا الروبوت قائمة من المكونات (مثل "العمر: 50"، "الوظيفة: معلم")، وهو يتنبأ ما إذا كانت الطبخة ستكون ناجحة أم فاشلة.

المشكلة؟ هذا الروبوت عبارة عن صندوق أسود. هو يعطيك الإجابة، لكنه لا يخبرك لماذا.

هل قال "ناجحة" لأن الشخص عمره 50 عاماً؟
أم لأنه معلم؟
أم أنه خمن فقط؟

في المجالات عالية المخاطر مثل الرعاية الصحية (تشخيص أمراض القلب) أو التمويل (الموافقة على القروض)، لا يمكننا مجرد الثقة في الروبوت. نحن بحاجة لمعرفة أي "مكون" كان الأكثر أهمية حتى نتمكن من الوثوق بالقرار.

🛠️ الطريقة القديمة مقابل الطريقة الجديدة

الطريقة القديمة (الوكيل الخطي - Linear Proxy):
سابقًا، حاول الناس فهم هذه الروبوتات عبر بناء نموذج بسيط وغبي (مثل جدول بيانات أساسي) ليحاكي إجابات الروبوت.

التشبيه: الأمر يشبه محاولة فهم سيمفونية معقدة من خلال الاستماع إلى عازف فلوت واحد فقط. ستحصل على فكرة تقريبية عن اللحن، لكنك ستفتقد كل التفاصيل الدقيقة، والطبول، والآلات الوترية. إنه بسيط جدًا بحيث لا يمكنه استيعاب المنطق الحقيقي للروبوت.

الطريقة القديمة (حذف الرموز - Token Deletion):
حاول البعض حذف الكلمات واحدة تلو الأخرى لرؤية ما سيحدث.

التشبيه: إذا كانت الوصفة تقول "العمر: 50"، وقمت بحذف الرقم "50" فقط، سيرى الروبوت "العمر: ". سيصاب الروبوت بالارتباك، ويظن أنك ارتكبت خطأً مطبعيًا، ويبدأ في إنتاج هراء غير مفهوم. هذا لا يخبرك شيئًا عن أهمية العمر؛ بل يخبرك فقط أن الروبوت يكره الأخطاء المطبعية.

🚀 ظهور TabSHAP: المحقق "الذري"

ابتكر المؤلفون TabSHAP، وهي أداة جديدة مصممة خصيصًا للتحدث مع هذه الروبوتات النصية حول البيانات الجدولية (الصفوف والأعمدة من الأرقام والكلمات).

إليك كيف يعمل، باستخدام ثلاث حيل رئيسية:

1. القطع "الذري" (لا تقطع الكلمات!)

في النصوص، تتكون قطعة واحدة من البيانات مثل "العمر: 50" من عدة قطع صغيرة (رموز/Tokens).

الخطأ: قطع "50" فقط يكسر بنية الجملة.
حل TabSHAP: يتعامل مع "العمر: 50" كـ وحدة ذرية واحدة غير قابلة للتجزئة (مثل قطعة الليغو). عندما يريد اختبار أهمية العمر، فإنه يزيل القطعة بأكملها.
التشبيه: بدلاً من سحب خيط واحد من سترة (مما يؤدي لتفكك السترة بالكامل)، يقوم TabSHHAP بإزالة الكم بالكامل بعناية ليرى كيف ستصمد السترة بدونه.

2. "فحص الثقة" (ليس مجرد نعم أو لا)

الأساليب القديمة كانت تنظر فقط إلى ما إذا كان الروبوت قد غير رأيه (مثل التحول من "نعم" إلى "لا").

حل TabSHAP: ينظر إلى ثقة الروبوت. يسأل: "ما مدى تأكد الروبوت قبل إزالة هذه الميزة، وما مدى تأكده الآن؟"
التشبيه: تخيل مذيع نشرة الطقس.
- الطريقة القديمة: هل تغير التوقع من "مطر" إلى "شمس"؟
- طريقة TabSHAP: كان المذيع متأكدًا بنسبة 90% من هطول الأمطار. بعد إزالة بيانات "الرطوبة"، انخفضت ثقته إلى 50%. هذا الانخفاض الكبير في الثقة يخبرك أن "الرطوبة" كانت أهم دليل، حتى لو ظل التوقع النهائي "مطر".

3. "العناق الجماعي" (تجميع الإجابات)

النماذج اللغوية الكبيرة غريبة الأطوار. قد تتنبأ بـ "نعم" بكتابة "نعم"، أو "نعم"، أو "نـ م " (بأشكال كتابة مختلفة).

حل TabSHAP: يقوم بتجميع كل هذه الكتابات المختلفة في "سلة" واحدة تسمى "نعم" قبل حساب الأهمية. هذا يضمن أن تكون الرياضيات مستقرة وعادلة.

🧪 الإثبات: "لعبة الحذف"

لإثبات فعالية TabSHA، لعب المؤلفون لعبة على مجموعتي بيانات شهيرتين: دخل البالغين (Adult Income) (التنبؤ بما إذا كان الشخص يكسب أكثر من 50 ألف دولار) و أمراض القلب (Heart Disease).

اللعبة:

أخذوا قائمة من الميزات (العمر، الوظيفة، التعليم، إلخ).
قاموا بترتيب الميزات من "الأكثر أهمية" إلى "الأقل أهمية" باستخدام TabSHAP.
بدأوا في حذف الميزات واحدة تلو الأخرى، بدءًا من "الأكثر أهمية".
النتيجة: بمجرد حذف الميزات الأعلى أهمية، انهارت ثقة الروبوت.
المقارنة: عندما حذفوا الميزات بترتيب عشوائي، ظلت ثقة الروبوت مرتفعة لفترة طويلة. وعندما استخدموا طريقة قديمة (TreeSHAP)، لم يكن الانهيار حادًا بنفس القدر.

الاستنتاج: نجح TabSHAP في تحديد "الأدلة الحاسمة" التي كان الروبوت يستخدمها بالفعل.

🌟 لماذا هذا مهم؟

هذه الورقة تجسر الفجوة بين سحر الذكاء الاصطنا_ي و الثقة البشرية.

هي تُظهر أن نماذج الذكاء الاصطنا-ي الجديدة هذه لا تخمن فحسب، بل تستخدم منطقًا حقيقيًا (وإن كان أحيانًا منطقًا مختلفًا عن النماذج الرياضية التقليدية).
هي تمنح الأطباء، والمصرفيين، والمشرعين وسيلة للقول: "حسنًا، لقد قال الذكاء الاصطناعي 'خطر مرتفع' بسبب هذا العامل المحدد، ويمكننا التحقق من أن هذا المنطق منطقي ومعقول".

باختصار: TabSHAP هو المترجم الذي يسمح لنا بالتلصص داخل عقل الروبوت، ليس عن طريق تحطيمه، بل عن طريق إزالة مكوناته بعناية واحدة تلو الأخرى لنرى المكونات التي يحتاجها حقًا لطهي قراراته.

إليك ملخص تقني مفصل لورقة البحث التمهيدية TABSHAP.

1. بيان المشكلة

تعالج الورقة فجوة التفسير الحرجة عند تطبيق النماذج اللغوية الكبيرة (LLMs) على البيانات الجدولية المهيكلة. فبينما أظهرت النماذج اللغوية الكبيرة التي تم ضبطها بدقة (fine-tuned) على بيانات جدولية متسلسلة (على سبيل المثال، تحويل الصفوف إلى نصوص طبيعية) أداءً فائقاً على مجموعات البيانات غير المتجانسة مقارنة بالنماذج التقليدية القائمة على الأشجار (مثل XGBoost)، إلا أنها تفتقر إلى التفسير الموثوق المطلوب في المجالات عالية الخطورة (الرعاية الصحية، التمويل).

تفشل طرق التفسير الحالية في هذا السياق بسبب ثلاث مشكلات رئيسية:

عدم ملاءمة التدرج (Granularity): يؤدي التخصيص على مستوى الرموز (token-level attribution) القياسي (مثل حذف أجزاء من الكلمات) إلى إفساد السلامة الدلالية للحقول الجدولية (على سبيل المثال، حذف الرقم "5" من "Age: 50" يؤدي إلى إنشاء صيغة غير صالحة أو هلوسات).
المقاييس المفرطة في التبسيط: تعتمد معظم الطرق على بدائل خطية عالمية (مثل ملاءمة الانحدار اللوجستي) أو تغيرات احتمالية قياسية (انقلاب التنبؤ)، والتي تفشل في التقاط المنطق الاحتمالي الكامل والمنطق غير الخطي للنموذج.
الطبيعة التوليدية: توزع النماذج اللغوية الكبيرة الكتلة الاحتمالية على مفردات شاسعة، مما يجعل من الصعب استخراج احتمالات فئات مستقرة للتخصيص دون استراتيجيات تجميع محددة.

2. المنهجية: TABSHAP

يقترح المؤلفون TABSHAP، وهو إطار عمل للتفسير بعد الحدث (post-hoc)، مستقل عن النموذج، مصمم خصيصاً للمصنفات الجدولية القائمة على النماذج اللغوية الكبيرة. يتكون مسار العمل من أربعة مكونات أساسية:

أ. التسلسل الجدولي والقناع الذري (Atomic Masking)

التسلسل (Serialization): يتم تحويل الصفوف الجدولية إلى سلاسل نصية موجزة بصيغة key:value مفصولة بمسافات (مثل age:50 workclass:private).
القناع الذري (Atomic Masking): بدلاً من حذف الرموز الفردية، يعامل TABSHAP كل زوج key:value كـ وحدة ذرية. عندما يتم "إزالة" ميزة ما من أجل تحالف (coalition)، يتم حذف السلسلة النصية بالكامل من النص (prompt). هذا يحافظ على بناء الجملة ويمنع الهلوسة في النموذج، مما يضمن أن التغيير يتوافق مع غياب ميزة ذات معنى.

ب. تجميع الفئات بأسلوب "المُلفظ" (Verbalizer-Style Class Aggregation)

للتعامل مع الطبيعة التوليدية للنماذج اللغبية الكبيرة، حيث قد يتم تمثيل تسمية الفئة (مثل "Yes") بواسطة رموز متعددة ("Yes"، " yes"، "ye"+"s")، يستخدم TABSHAP تخطيط المُلفظ (Verbalizer Mapping).
يقوم بتجميع الكتلة الاحتمالية من أعلى K من الرموز التالية الأكثر احتمالاً والتي تطابق مجموعة الفئة المستهدفة.
يتم بعد ذلك تطبيع الاحتمالات المجمعة لتشكيل توزيع فئات صالح $P(c|x)$ ، مما يضمن الاستقرار حتى في النماذج المقطرة (distilled) أو المكممة (quantized).

ج. التشابه التوزيعي عبر تباعد جينسن-شانون (JSD)

بدلاً من قياس ما إذا كان ملصق التنبؤ قد تغير، يقيس TABSHAP الأثر التوزيعي للميزة.
يقوم بحساب تباعد جينسن-شانون (JSD) بين توزيع الفئات للمدخل الكامل ( $P_{full}$ ) والتوزيع تحت تحالف ميزة معينة ( $P_S$ ).
تُعرف دالة القيمة $v(S)$ بأنها درجة تشابه مطبعة:
$v(S) = 1 - \min\left(\frac{JSD_{nat}(P_{full} \| P_S)}{\ln 2}, 1\right)$
هذا يلتقط التحولات في ثقة النموذج عبر جميع الفئات، وليس فقط التنبؤ الأعلى.

د. تقدير التحالفات بالعينة (Sampled-Coalition Estimation)

بما أن حساب قيم شابلي (Shapley values) الدقيقة غير ممكن حسابياً للنماذج اللغبية الكبيرة، يستخدم TABSHB مقدراً للتحالفات بالعينة بطريقة مونت كارلو (مقتبس من TokenSHAP).
يقوم بتقييم مجموعة فرعية من تحالفات الميزات (بما في ذلك جميع مجموعات "ترك واحد فقط" والمجموعات الفرعية العشوائية) لتقريب أهمية الميزة ( $\phi_j$ ).
الدرجة النهائية هي الفرق في متوسط التشابه بين التحالفات التي تحتوي على الميزة وتلك التي تستبعدها.

3. المساهمات الرئيسية

التخصيص التوزيعي: يقدم JSD كمقياس أساسي لأهمية الميزة، ملتقطاً التحول الكامل في ثقة النموذج بدلاً من مجرد تغيير الملصقات.
القناع الذري على مستوى الميزة: يحل مشكلة الفساد الدلالي عن طريق قناع حقول key:value بالكامل بدلاً من الرموز الفرعية، مما يضمن أن التغييرات صالحة دلالياً.
تجميع المُلفظ: يوفر طريقة قوية لتجميع احتمالات الفئات متعددة الرموز، مما يعزز استقرار التخصيص للنماذج التوليدية.
التحقق التجريبي: يثبت أن النماذج اللغبية الكبيرة والنماذج القائمة على الأشجار تعتمد على منطق قرار مختلف جوهرياً، حيث تظهر النماذج اللغبية انحيازات قوية نحو الميزات الدلالية والغنية بالنصوص.

4. النتائج التجريبية

تم التحقق من صحة الإطار على معيارين: Adult Income (تصنيف ثنائي، 14 ميزة) و Heart Disease (تصنيف متعدد الفئات، 13 ميزة)، باستخدام نموذج DeepSeek-R1-Distill-Llama-8B الذي تم ضبطه بدقة عبر QLoRA.

الأمانة (منحنيات الحذف - Deletion Curves):
- تفوق TABSHAP بشكل كبير على الخطوط المرجعية العشوائية ووكلاء XGBoost.
- عند إزالة الميزات المرتبة بواسطة TABSHAP بالتتابع، انخفضت ثقة النموذج في التنبؤ الأصلي بشكل حاد، مما يشير إلى أن TABSHAP يحدد بدقة الميزات التي تقود القرار.
استبعاد المقاييس (Metric Ablation):
- قارن المؤلفون بين JSD وبين تباعد KL ومسافة L1. قدمت التصنيفات القائمة على JSD عموماً منحنيات تخصيص أكثر أمانة، مما يؤكد أهمية التشابه التوزيعي على مقاييس المسافة البسيطة.
مقارنة LLM مقابل XGBoost:
- ارتباط الرتب (Rank Correlation): ارتباط سبيرمان متوسط ( $\rho \approx 0.65$ ) بين تصنيفات TABSHAP وتصنيفات TreeSHAP.
- الانحياز الدلالي: بينما أعطى XGBoost الأولوية للتقسيمات الرقمية الدقيقة (مثل "Hours-per-week")، كشف TABSHAP أن النموذج اللغبي الكبير يمنح أهمية أكبر لـ الميزات الدلالية الغنية بالنصوص (مثل "Occupation"، "Education"). يسلط هذا الضوء على أن النماذج اللغبية الكبيرة تستفيد من الأولويات الدلالية بطرق لا تستطيع الوكلاء الخطيون اكتشافها.

5. الأهمية والقيود

الأهمية:
يسد TABSHAP الفجوة بين القدرة العالية على التعميم للنماذج اللغبية الكبيرة ومتطلبات التفسير الصارمة لأنظمة اتخاذ القرار الحرجة. ومن خلال توفير تخصيصات موثوقة على مستوى الحالة الواحدة، فإنه يتيح النشر المسؤول للنماذج اللغبية الكبيرة في مجالات الرعاية الصحية والتمويل، والانتقال من التنبؤات "الصندوق الأسود" إلى الذكاء الاصطناعي القابل للتفسير.

القيود:

التكلفة الحسابية: يتطلب عمليات تمرير أمامي متعددة لكل حالة، مما يجعله مكلفاً من حيث وقت التنفيذ الفعلي (رغم أن أخذ العينات يقلل من ذلك).
التقريب: يستخدم التحالفات بالعينة بدلاً من صيغة شابلي الأسية الكاملة؛ وتعتمد الأمانة على معاملات أخذ العينات ( $r$ , $C_{max}$ ).
القابلية للتوسع: تم التحقق من صحته حالياً على مجموعات بيانات منخفضة الأبعاد ( $M \approx 14$ )؛ ولا تزال الإعدادات الجدولية عالية الأبعاد غير مستكشفة.
التفاعلات: يبلغ عن التخصيصات الهامشية ولا يقوم بنمذجة التفاعلات بين الميزات ذات الرتب العليا بشكل صريح.
خصوصية البنية: تم التحقق من صحته على هيكل واحد فقط؛ وقد يختلف السلوك عبر بنيات النماذج اللغبية الكبيرة المختلفة.