📊 statistics

Certified Causal Defense with Generalizable Robustness

تقترح هذه الورقة البحثية إطار عمل GLEAN، وهو إطار دفاع معتمد يستفيد من تعلم العوامل السببية لفصل العلاقات السببية عن الارتباطات الزائفة، مما يمكّن النماذج من الحفاظ على ضمانات المتانة النظرية ضد الهجمات العدائية حتى عند مواجهة تحولات التوزيع عبر مجالات بيانات مختلفة.

المؤلفون الأصليون: Yiran Qiao, Yu Yin, Chen Chen, Jing Ma

نُشر 2026-05-29

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Yiran Qiao, Yu Yin, Chen Chen, Jing Ma

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

إليك شرح لورقة بحث "الدفاع السببي المعتمد مع المتانة القابلة للتعميم" (GLEAN)، مقسمة إلى مفاهماً بسيطة باستخدام تشبيهات إبداعية.

المشكلة الكبرى: الطالب "الذكي" الذي يغش

تخيل أنك تقوم بتدريب طالب (نموذج ذكاء اصطناعي) للتعرف على الحيوانات في الصور.

الهدف: يجب أن يتعلم الطالب أن الأسد لديه لبدة وأن النمر لديه خطوط.
الغش: في فصلك التدريبي، عرضت بالخطأ أسوداً فقط في السافانا ونموراً فقط في الغابة. يحصل الطالب على درجة كاملة، لكنه لا يتعلم حقاً عن الحيوانات. إنه "يغش" عبر حفظ الخلفية (الارتباط الزائف). هو يعتقد: "إذا رأيت عشبًا، فهو أسد. إذا رأيت أشجارًا، فهو نمر".

الكارثة: عندما تأخذ هذا الطالب إلى فصل دراسي جديد (نطاق بيانات مختلف) حيث توجد الأسود في الغابة والنمر في السافانا، يفشل الطالب فشلاً ذريعاً. يصاب بالارتباك لأن "كود الغش" الخاص به لم يعد يعمل.

في عالم أمن الذكاء الاصطناعي، هذه مشكلة ضخمة. حتى لو كان الطالب "متيناً" (صعب الخداع) في الفصل الدراسي الأول، فإنه ينهار في الفصل الثاني. علاوة على ذلك، فإن فحوصات الأمن القياسية (الدفاع المعتمد) لا يمكنها ضمان سلامة الطالب في ذلك الفصل الجديد لأن قواعد اللعبة قد تغيرت.

الحل: GLEAN (المحقق الباحث عن الحقيقة)

يقترح المؤلفون إطار عمل جديداً يسمى GLEAN. تخيل GLEAN كمحقق يرفض النظر إلى المناظر الخلفية. بدلاً من ذلك، يركز المحقق تماماً على الميزات الجوهرية وغير القابلة للتغيير للشيء (العوامل السببية).

إليك كيف يعمل GLEAN، خطوة بخوة:

1. الفصل بين "الحقيقي" و"المزيف"

يستخدم GLEAN عدسة خاصة لتقسيم كل صورة إلى جزئين:

العوامل السببية (الجوهر الحقيقي): هذه هي الأشياء التي تسبب فعلياً التسمية (Label). بالنسبة للأسد، هي اللبدة وشكل الوجه. هذه الأشياء تظل ثابتة سواء كان الأسد في حديقة حيوان أو في البرية.
العوامل الزائفة (المشتتات): هذه هي الإشارات العرضية، مثل لون الخلفية أو الإضاءة. هذه الأشياء تتغير من نطاق إلى آخر.

يعلّم GLEAN الذكاء الاصطناعي تجاهل المشتتات والتركيز فقط على "الجوهر الحقيقي".

2. "الدرع غير القابل للكسر" (قيد ليبشيتز - Lipschitz Constraint)

عادةً، عندما تحاول إثبات أن الذكاء الاصطناعي آمن، يجب عليك التحقق من كل طريقة ممكنة يمكن للمهاجم من خلالها تعديل الصورة. هذا يشبه محاولة عد كل حبة رمل على الشاطئ.

يستخدم GLEAN خدعة رياضية تسمى استمرارية ليبشيتز (Lipschitz continuity). تخيل أن عقل الذكاء الاصطناعي عبارة عن ورقة مطاطية. إذا نقرت الورقة (أضفت ضجيجاً للصورة)، فإن الورقة المطاطية تتمدد، لكن لا يمكنها التمدد أكثر من اللازم.

من خلال إجبار الذكاء الاصطنا على أن يكون ورقة مطاطية "محكمة" (1-Lipschitz)، يمكن للمؤلفين رياضياً ضمان أنه إذا نقرت الصورة قليلاً، فإن الإجابة لن تتغير.
ولأن الذكاء الاصطناعي ينظر فقط إلى "الجوهر الحقيقي" (العوامل السببية) والورقة المطاطية محكمة، فإن هذا الضمان يظل قائماً حتى عندما ينتقل الطالب إلى فصل دراسي جديد.

3. "اختبار معصوب العينين" (التنعيم العشوائي - Randomized Smoothing)

لإثبات أن الذكاء الاصطناعي متين، يستخدم GLEAN تقنية تسمى التنعيم العشوائي.

تخيل أنك تحاول التعرف على صديق في غرفة ضبابية. لا يمكنك رؤيته بوضوح.
يضيف GLEAN القليل من "الضباب" (الضجيج العشوائي) إلى الصورة مرات عديدة جداً.
إذا قال الذكاء الاصطناعي "إنه أسد" بنسبة 99% من الوقت رغم وجود الضباب، يمكننا رياضياً إثبات أن كمية صغيرة من الضباب (هجوم) لن تخدعه.
ولأن GLEAN يركز على "الجوهر الحقيقي" غير القابل للتغيير، فإن هذا الاختبار الضبابي يعمل حتى في الفصل الدراسي الجديد حيث تكون الخلفيات مختلفة.

لماذا هذا مهم (النتائج)

اختبرت الورقة هذا على ثلاثة سيناريوهات مختلفة:

CMNIST: مجموعة بيانات وهمية حيث يتم تلوين الأرقام باللون الأحمر أو الأخضر لخداع الذكاء الاصطناعي.
CelebA: صور حقيقية لمشاهب حيث قد يرتبك الذك الذكاء الاصطناعي بين لون الشعر مقابل الابتسام.
DomainNet: مجموعة بيانات ضخمة تحتوي على صور من مصادر حقيقية مختلفة.

النتيجة:
في كل اختبار، كان GLEAN أفضل بكثير من الطرق السابقة.

الطرق القديمة: عندما تغيرت الخلفية، انخفض ضمان السلامة الخاص بها (نصف قطر الاعتماد) إلى الصفر تقريباً. كانوا مثل الطالب الذي فشل في الاختبار الجديد.
GLEAN: حافظ على ضمان سلامة عالٍ حتى عندما تغير توزيع البيانات. لقد أثبت أنه من خلال التركيز على السبب (الحيوان) بدلاً من الارتباط (الخلفية)، يمكنك بناء ذكاء اصطناعي ذكي وآمن بشكل مثبت في البيئات الجديدة.

تشبيه ملخص

فكر في دفاعات الذكاء الاصطناعي الحالية كـ حراس شخصيين يحفظون المسار عن ظهر قلب. إذا تغير المسار (انتقال النطاق)، يضيع الحارس الشخصي وتصبح الشخصية الهامة (التنبؤ) عرضة للخطر.

GLEAN هو حارس شخصي يحفظ وجه الشخصية الهامة. بغض النظر عن المكان الذي تذهب إليه الشخصية، أو ما ترتديه، أو كيف تبدو الخلفية، يعرف الحارس الشخصي بالضبط من هي الشخصية ويمكنه ضمان سلامتها ضد أي محاولة صغيرة للتنكر.

ملخص تقني: GLEAN - الدفاع السببي المعتمد مع المتانة القابلة للتعميم

بيان المشكلة

تعد نماذج تعلم الآلة، وخاصة الشبكات العصبية العميقة، عرضة للاضطرابات العدائية. وبينما توفر طرق الدفاع المعتمد (مثل التنعيم العشوائي - Randomized Smoothing) ضمانات نظرية بأن تنبؤ النموذج يظل ثابتًا ضمن نصف قطر اضطراب محدد (نصف قطر المتانة) لمدخل معين، إلا أنها تفشل إلى حد كبير في تعميم هذه المتانة عبر النطاقات (domains) التي تشهد تحولات في التوزيع.

تعاني الدفاعات المعتمدة الحالية عند تطبيقها على نطاقات غير مرئية لأن النماذج غالبًا ما تعتمد على الارتباطات الزائفة (على سبيل المثال، ارتباط لون الخلفية بفئة الكائن) بدلاً من العوامل السببية الثابتة. وتتغير هذه الارتباطات الزائفة عبر النطاقات المختلفة؛ فعندما يتغير هذا الارتباط في نطاق الاختبار، تنخفض ثقة النموذج أو تصبح التنبؤات غير صحيحة. يؤدي هذا إلى تدهور كبير في متوسط نصف قطر المتانة المعتمد (ACR)، مما يبطل فعليًا الضمانات النظرية للمتانة في البيئات الجديدة.

تفتقر النهج الحالية إلى إطار عمل موحد يحقق في آن واحد:

إزالة التأثير السلبي للارتباطات الزائفة على المتانة.
الدفاع ضد الاضطرابات التي تصيب العوامل السببية الكامنة التي تحدد الملصقات (labels).
توفير ضمانات نظرية للمتانة المعتمدة في سياق تحولات النطاق.

المنهجية: إطار عمل GLEAN

يقترح المؤلفون GLEAN (الدفاع السببي المعتمد القابل للتعميم)، وهو إطار عمل يدمج الاستدلال السببي في الدفاع المعتمد لتحقيق متانة قابلة للتعميم. يعتمد هذا النهج على ثلاثة مكونات أساسية:

1. الرؤية السببية والتعلم الثابت

يعمل GLEAN على نمذجة توليد البيانات باستخدام رسم بياني سببي يتضمن:

$Y$ : الملصق (Label).
$X$ : المدخل (مثل الصورة).
$C$ : العوامل السببية (الميزات الثابتة التي تحدد $Y$ ).
$S$ : العوامل الزائفة (ميزات غير سببية مرتبطة بـ $Y$ في نطاقات محددة).
$D$ : متغير النطاق (Domain).

يعتمد إطار العمل على فرضية الثبات السببي: الاحتمال الشرطي $P(Y|C)$ يظل ثابتًا عبر النطاقات، بينما $P(Y|S)$ يتغير. يهدف GLEAN إلى تعلم تمثيل لـ $C$ من $X$ يكون ثابتًا تجاه تحولات النطاق، مما يؤدي إلى تصفية تأثير $S$ .

2. تعلم العوامل السببية المعتمد

لاستخراج العوامل السببية بشكل متين، يستخدم GLEAN مشفرًا سببيًا ( $\Psi$ ) يتم تدريبه باستخدام آليتين محددتين:

تقليل المخاطر الثابتة (IRM): يتم تدريب المشفر لتقليل خسارة التنبؤ مع معاقبة تدرج الخسارة بالنسبة لوزن مصنف وهمي. يشجع هذا التمثيل الكامن المكتسب على أن يكون ثابتًا عبر نطاقات التدريب، مما يؤدي فعليًا إلى فصل العوامل السببية عن الارتباطات الزائفة.
قيود ليبشيتز (Lipschitz Constraints): لتمكين الاعتماد في الفضاء الكامن، يتم تقييد المشفر ليكون 1-Lipschitz (باستخدام تحويلات Cayley للطبقات الخطية وGroupSort للتنشيطات). يضمن ذلك أن عملية الربط من فضاء المدخلات إلى الفضاء السببي الكامن لا تضخم الاضطرابات بشكل مفرط، وهو شرط ضروري لاستخلاص الحدود النظرية.

3. استراتيجية الدفاع المعتمد سببياً

تعمل عملية الدفاع على مرحلتين:

الاعتماد في الفضاء الكامن: يتم تطبيق التنعيم العشوائي (RS) على التمثيل السببي الكامن $z = \Psi(x)$ . من خلال إضافة ضوضاء غاوسية $\eta \sim \mathcal{N}(0, \sigma^2 I)$ إلى $z$ ، يتم تشكيل مصنف سلس $g_\beta$ . تضمن الضمانات النظرية (النظرية 1) بقاء التنبؤات ثابتة ضمن نصف قطر معتمد $CR_z$ في الفضاء الكامن.
الربط بفضاء المدخلات: باستخدام خاصية ليبشيتز للمشفر ( $\|\Psi(x_1) - \Psi(x_2)\| \le L\|x_1 - x_2\|$ )، يتم ربط نصف قطر الاعتماد في الفضاء الكامن مرة أخرى إلى فضاء المدخلات. تثبت النظرية 2 أن نصف قطر الاعتماد في فضاء المدخلات هو $CR \ge CR_z / L$ . يوفر هذا ضمانًا نظريًا بأن المصنف بأكد ( $f$ ) متين ضد الاضطرابات في فضاء المدخلات، حتى عبر النطاقات المختلفة، بشرط تحديد العوامل السببية بشكل صحيح.

المساهمات الرئيسية

تحديد المشكلة: يحدد البحث ويحلل مشكلة تعميم المتونة المعتمدة عبر النطاقات التي لم تنل الاهتمام الكافي، مع تسليط الضوء على دور الارتباطات الزائفة في تدهور أنصاف أقطار الاعتماد.
إطار عمل مبتكر (GLEAN): يقترح إطار عمل مستوحى من السببية يجمع بين تقليل المخاطر الثابتة والشبكات المقيدة بـ Lipschitz. يسمفر هذا النموذج استبعاد الارتباطات الزائفة وإجراء دفاع معتمد على العوامل السببية الكامنة.
الضمانات النظرية: اشتق المؤلفون نظريات جديدة (النظرية 1 والنظرية 2) توفر حدودًا نظرية للمتانة المعتمدة في النطاقات غير المرئية. هذا يسد الفجوة بين الملاحظات التجريبية لتعميم المتانة والاعتماد النظري الصارم.
التحقق التجريبي: أظهرت التجارలు المكثفة على مجموعات بيانات اصطناعية (CMNIST) وواقعية (CelebA, DomainNet) أن GLEAN يتفوق بشكل كبير على النماذج المرجعية للدفاع المعتمد (Gaussian, MACER, SmoothAdv, Consistency) من حيث دقة الاعتماد ومتوسط نصف قطر المتانة المعتمد (ACR) تحت تحولات النطاق.

النتائج التجريبية

قيم المؤلفون GLEAN مقابل النماذج المرجعية القياسية القائمة على التنعيم العشوائي عبر ثلاث مجموعات بيانات:

CMNIST: مجموعة بيانات اصطناعية تحتوي على ارتباط زائف قوي بين لون الرقم وفئته، والذي ينعكس في نطاق الاختبار.
CelebA: مجموعة بيانات واقعية تحتوي على ارتباطات زائفة بين سمات الوجه (مثل الابتسام ولون الشعر).
DomainNet: مجموعة بيانات تتضمن تحولات نطاق معقدة تشمل خلفيات وأنماط مختلفة.

النتائج الرئيسية:

تعميم متفوق: حقق GLEAN أعلى دقة معتمدة وأعلى ACR عبر جميع مجموعات البيانات وأنصاف الأقطار. على سبيل المثال، في CMNIST، حقق GLEAN ACR قدره 0.2466، متفوقًا بشكل كبير على أفضل نموذج مرجعي تالٍ (SmoothAdv عند 0.0518).
المتانة تجاه التحول: بينما عانت النماذج المرجعية من انخفاض حاد في الأداء عند الانتقال من نطاقات التدريب إلى نطاقات الاختبار (على سبيل المثال، انخفاض الدقة من ~72% إلى ~21% في CMNIST للطرق القياسية)، حافظ GLEAN على متانة عالية.
دراسات الاستئصال (Ablation Studies): أدى إزالة عقوبة الثبات إلى انخفاض حاد في الأداء، مما يؤكد أن التقاط العوامل السببية أمر ضروري. كما أدت إزالة قيود ليبشيتز إلى أداء أقل قليلاً، مما يؤكد ضرورة القيد من أجل الاعتماد النظري.
حساسية المعلمات: أظهر إطار العمل متانة تجاه اختيارات المعلمات الفائقة (hyperparameters)، حيث استقر الأداء بعد تجاوز حد معين لوزن عقوبة الثبات ( $\lambda$ ).

الأهمية والادعاءات

يزعم البحث أن GLEAN يعالج قصورًا حرجًا في الدفاع العدائي الحالي: عدم القدرة على نقل ضمانات المتانة النظرية إلى نطاقات بيانات جديدة. ومن خلال نقل التركيز من ميزات المدخلات الخام إلى العوامل السببية الثابتة، يخفف إطار العمل من الضعف الناتج عن الارتباطات الزائفة.

يضع المؤلفون GLEAN ليس فقط كتحسين في المقاييس، بل كتحول منهجي يوفر دعمًا نظريًا للمتانة عبر النطاقات. ويجادلون بأن هذا النهج يوفر مسارًا لنشر نماذج تعلم الآلة في التطبيقات الحرجة (مثل القيادة الذاتية والرعاية الصحية) حيث يجب الحفاظ على الأمن والموثوقية رغم التغيرات البيئية. ويشير العمل إلى أن الأبحاء المستقبلية يجب أن تستكشف المزيد من الدفاعات المستوحاة من السببية والنهج الموحدة لتعميم المتانة العدائية.