🤖 AI

Privacy-Preserving Explainable AIoT Application via SHAP Entropy Regularization

تقترح هذه الورقة إطار عمل جديداً للحفاظ على الخصوصية لتطبيقات إنترنت الأشياء المعتمد على الذكاء الاصطناعي (AIoT) القابلة للتفسير، والذي يستخدم تنظيم إنتروبيا "شاب" (SHAP entropy regularization) للتخفيف من مخاطر تسريب البيانات الحساسة عبر تفسيرات النموذج مع الحفاظ على دقة تنبؤية عالية ودقة في التفسير.

المؤلفون الأصليون: Dilli Prasad Sharma, Xiaowei Sun, Liang Xue, Xiaodong Lin, Pulei Xiong

نُشر 2026-03-17

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Dilli Prasad Sharma, Xiaowei Sun, Liang Xue, Xiaodong Lin, Pulei Xiong

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن منزلك الذكي يشبه مساعداً شخصياً مفيداً للغاية، ولكنه ثرثار بشكل مفرط. تسأله: "لماذا أضيئت الأنوار في الساعة 6 مساءً؟" أو "لماذا يعمل الثلاجة بقوة شديدة؟".

في عالم إنترنت الأشياء المدعوم بالذكاء الاصطناوي (AIoT)، تستخدم هذه الأنظمة رياضيات معقدة لاتخاذ القرارات. وللتأكد من ثقتنا بها، نستخدم أدوات تسمى الذكاء الاصطناعي القابل للتفسير (XAI). فكر في هذه الأدوات كأنها "عملية التفكير" الخاصة بالمساعد مكتوبة على الورق؛ فهي تقول: "لقد أشعلتُ الأنوار لأن التلفاز كان يعمل، والساعة الآن 6 مساءً".

المشكلة: المساعد "الصادق أكثر من اللازم"
تشير الورقة البحثية إلى تحول مخيف: أحياناً تكون عملية "التفكير" هذه صادقة أكثر من اللازم.

تخيل أنك تحاول إخفاء وصفة سرية. تخبر صديقاً: "لقد صنعتُ هذه الكعكة لأنني استخدمتُ بالضبط كوبين من الدقيق و3 بيضات". حتى لو لم ترِهِ الوصفة، يمكنه تخمين عاداتك المحددة بمجرد سماع أي المكونات استخدمتَ أكثر.

في المنزل الذكي، إذا قال الذكاء الاصطناعي: "لقوم بتوقع استهلاك عالٍ للطاقة لأن الغلاية استُخدمت في الساعة 7 صباحاً والفرن في الساعة 6 مساءً"، فيمكن لمخترق ماكر (أو حتى جار فضولي) الاستماع إلى هذه التفسيرات ومعرفة:

متى تستيقظ.
متى تطبخ العشاء.
متى تكون في المنزل أو خارجه.

يُسمى هذا تسريب الخصوصية. فالتفسير الذي كان يهدف لبناء الثقة يكشف في الواقع عن حياتك الخاصة.

الحل: المساعد "المتحير"
ابتكر المؤلفون، ديللي بريساد شارما وفريقه، حلاً ذكياً. أطلقوا عليه اسم تنظيم إنتروبي شاپ (SHAP Entropy Regularization). وهو اسم معقد، لذا دعونا نفككه باستخدام تشبيه.

التشبيه: "الصورة الضبابية" مقابل "الفسيفساء"

1. الطريقة القديمة (النموذج المرجعي):
تخيل أن تفسير الذكاء الاصطناعي هو صورة عالية الدقة وواضحة جداً ليومك. تظهر بوضوح: "كانت الغلاية هي السبب الرئيسي لارتفاع استهلاك الطاقة". إنها واضحة جداً، ولكن من السهل جداً أيضاً سرقة هويتك منها.

2. حل الخصوصية القياسي (الخصوصية التفاضلية - Differential Privacy):
عادةً، لإخفاء الأشياء، نضيف "ضجيجاً" أو "تشويشاً" إلى الصورة، مثل مرشح ضبابي. وهذا ما يسمى الخصوصية التفاضلية.

المشكلة: إذا جعلت الصورة ضبابية أكثر من اللازم، فستصبح عديمة الفائدة. لن تستطيع التمييز ما إذا كان هذا غلاية أم محمصة خبز. عندها سيتوقف الذكاء الاصطناعي عن كونه مفيداً.

3. الطريقت الجديدة (تنظيم إنتروبي شاپ):
يقترح المؤلفون نهجاً مختلفاً. بدلاً من جعل الصورة ضبابية، يعلمون الذكاء الاصطناعي كيفية توزيع اللوم.

تخيل أن الذكاء الاصطناعي هو هيئة محلفين تقرر من المسؤول عن جريمة ما.

الذكاء الاصطناعي القديم: "مذنب! لقد كانت الغلاية!" (محدد جداً، ومخاطرة كبيرة).
الذكاء الاصطناعي الجديد: "حسناً، لقد كانت مزيجاً من الغلاية، والمحمصة، والتلفاز، والأضواء. لا يمكننا التأكد بنسبة 100% أي منها فعل ذلك، لكنها جميعاً ساهمت قليلاً".

من خلال إجبار الذكاء الاصطناعي على القول: "إنه مزيج من أشياء كثيرة"، يصبح التفسير أقل تركيزاً. وفي المصطلحات الرياضية، يسمى هذا الإنتروبي العالي (High Entropy).

الإنتروبي المنخفض: ميزة واحدة تقوم بكل العمل (سهل تخمين عاداتك).
الإنتروبي العالي: العديد من الميزات تتشارك في العمل (صعب تخمين عاداتك).

كيف اختبروا ذلك؟

بنى الباحثون محاكاة لـ "منزل ذكي" باستخدام بيانات حقيقية من منازل في المملكة المتحدة. قاموا بتدريب ثلاثة أنواع من المساعدين الذكيين:

الصادق: بدون حماية للخصوصية.
الضبابي: يستخدم ضجيج الخصوصية القياسي (الخصوصية التفاضلية).
"الموزع": يستخدم طريقة "تنظيم الإنتروبي" الجديدة الخاصة بهم.

ثم استعانوا بـ "مخترقين" لمحاولة تخمين عادات أصحاب المنازل بناءً على التفسيرات.

النتائج:

الصادق: تم اختراقه بسهولة. عرف المخترقون بالضبط متى يطبخ الناس ومتى ينامون.
الضبابي: كان من الصعب اختراقه، لكن الذكاء الاصطناعي ارتكب أخطاء في توقعاته (كان أقل دقة).
"الموزع": كان هو الفائز. كان من الصعب على المخترقين تخمين العادات (خصوصية عالية) ولكنه ظل جيداً جداً في توقع استهلاك الطاقة (دقة عالية).

لماذا يهم هذا الأمر؟

هذه الورقة البحثية مهمة لأنها تحل وحشاً ذا رأسين:

نحتاج أن يكون الذكاء الاصطناعي قابلاً للتفسير (لكي نثق به).
نحتاج أن يكون الذكاء الاصطناعي خاصاً (لكي لا يتجسس علينا).

عادةً، عليك الاختيار بين أحدهما أو الآخر. هذا الأسلوب الجديد يتيح لك الحصول على كليهما. فهو يعلم الذكاء الاصطناعي تقديم تفسير "غامض" يظل مفيداً لصاحب المنزل ولكنه عديم الفائدة للجاسوس.

باخت-صار:
وجد المؤلفون طريقة لجعل ذكاء المنازل الذكية "غامضاً" بشأن أي جهاز محدد تسبب في التغيير، دون جعل الذكاء الاصطناعي "غبياً" بشأن توقع التغيير. الأمر يشبه سرد قصة تذكر فيها طاقم الشخصيات بأكمله بدلاً من التركجيز على الشرير الرئيسي فقط، مما يحافظ على إثارة الحبكة مع بقاء السر آمناً.

فيما يلي ملخص تقني مفصل للورقة البحثية بعنوان "تطبيق الذكاء الاصطناعي لإنترنت الأشياء (AIoT) الحافظ للخصوصية عبر تنظيم إنتروبيا SHAP".

1. بيان المشكلة

يعتمد دمج الذكاء الاصطناه لإنترنت الأشياء (AIoT) في المنازل الذكية (على سبيل المثال، لإدارة الطاقة) بشكل كبير على طرق الذكاء الاصطناعي القابل للتفسير (XAI) مثل SHAP (تفسيرات شيبلي المضافة) و LIME لضمان الشفافية وثقة المستخدم. ومع ذلك، ظهرت ثغرة أمنية حرجة:

تسرب الخصوصية عبر التفسيرات: تشير الدراسات الحديثة إلى أن طرق التفسير اللاحقة (post-hoc) يمكن أن تسرب دون قصد معلومات حساسة للمستخدم.
مخاطر محددة: في مجال التنبؤ بطاقة المنازل الذكية، يمكن لقيم SHAP أن تكشف عن أنماط سلوكية دقيقة (مثل: الإشغال، جداول النوم، أوقات الطبخ، واستخدام أجهزة معينة).
الفجوة: تركز تقنيات الحفاظ على الخصوصية الحالية (مثل الخصوصية التفاضلية والتعلم الاتحادي) على حماية البيانات الخام أو معاملات النموذج، لكنها تفشل في معالجة مخاطر الخصوصية المتأصلة في مخرجات التفسير نفسها. علاوة على ذلك، هناك نقص في الأبحاث المتعلقة بـ التنظيم القائم على التفسير للحد من هجمات الاستدلال على العضوية (تحديد ما إذا كانت بيانات مستخدم معين موجودة في مجموعة التدريب) التي تستهدف قيم SHAP.

2. المنهجية

يقترح المؤلفون نهجًا مبتكرًا يدمج تنظيم إنتروبيا SHAP مباشرة في عملية تدريب نموذج التعلم العميق.

أ. المفهوم الجوهري: تنظيم إنتروبيا SHAP

تقوم الطريقة بمعاقبة النماذج التي تنتج توزيعات "إنتروبيا منخفضة" لتوزيعات إسناد SHAP.

الإنتروبيا المنخفضة: تشير إلى اعتماد النموذج بشكل كبير على عدد قليل من الميزات المهيمنة (الحفظ/الاستظهار)، مما يجعل من السهل على المهاجم استنتاج سلوكيات مستخدمين محددين أو عضوية البيانات.
الإنتروبيا العالية: تشير إلى توزيع أكثر تجانسًا لأهمية الميزات، مما يجعل التفسيرات أقل قابلية للتنبؤ وأصعب في الربط بأفراد محددين.

يتم تعريف دالة الخسارة الإجمالية ( $L_{total}$ ) كالتالي:
$L_{total} = L_{mse} + \lambda \cdot (\alpha - H_{SHAP}(x))^2$
حيث أن:

$L_{mse}$ : متوسط مربع الخطأ (دقة التنبؤ).
$H_{SHAP}(x)$ : إنتروبيا شانون لقيم SHAP المعيرة للمدخل $x$ .
$\alpha$ : عتبة الإنتروبيا المستهدفة.
$\lambda$ : معلمة فائقة (hyperparameter) تتحكم في قوة التنظيم.

ب. بنية النموذج

النموذج الأساسي: شبكة انحدار الذاكرة الطويلة قصيرة المدى (LSTM)، والتي تم اختيارها لقدرتها على التعامل مع التبعيات الزمنية في بيانات طاقة المنازل الذكية المتسلسلة.
عملية التدريب: يتم تدريب النموذج بشكل تكيفي. لكل دفعة (batch)، يتم حساب متوسط إنتروبيا SHAP واستخدامها لتحديث الأوزان عبر دالة الخسارة المنظمة، مما يجبر النموذج على توزيع أهمية الميزات بشكل أكثر توازنًا دون التضحية بدقة التنبؤ.

ج. نموذج التهديد ومجموعة الهجمات

يحدد المؤلفون نموذج تهديد العلبة الرمادية (شبه الأبيض) حيث يمتلك المهاجم إمكانية الوصول إلى مخرجات تفسير SHAP (عبر واجهات برمجة التطبيقات أو لوحات التحكم) ولكن ليس لديه وصول إلى البيانات التدريبية الخام أو معاملات النموذج. لتقييم الخصوصية، صمموا مجموعة من خمسة هجمات خصوصية تعتمد على SHAP:

هجوم إنتروبيا SHAP: يحدد العينات المحفوظة (memorized samples) من خلال اكتشاف الإنتروبيا المنخفضة بشكل غير عادي في متجهات SHAP.
هجوم تشابه SHAP: يستخدم تشابه جيب التمام (Cosine Similarity) للتحقق مما إذا كان متجه التفسير لعينة اختبار مشابه جدًا لمتجهات التدريب.
هجوم تباعد SHAP: يستخدم تباعد جينسن-شانون (JSD) لقياس التشابه الإحصائي بين توزيعات SHAP لبيانات الاختبار وبيانات التدريب.
هجوم ارتباط رتبة SHAP: يستخدم ارتباط سبيرمان للرتب للكشف عما إذا كان ترتيب أهمية الميزات محفوظًا بين عينات الاختبار والتدريب.
هجوم اتساق رتبة SHAP: يستخدم تاو كيندال لقياس الاتساق الرتبي في تصنيفات الميزات.

3. المساهمات الرئيسية

تقنية تنظيم مبتكرة: تقديم أول طريقة تستخدم تنظيم إنتروبيا SHAP للتخفيف من تسرب الخصوصية في تطبيقات AIoT، وتستهدف تحديدًا هجمات الاستدلال على العضوية في مخرجات التفسير.
نموذج متخصص: تطوير نموذج LSTM منظم بإنتروبيا SHAP قادر على التقاط التبعيات الزمنية في بيانات استهلاك الأجهزة على مستوى الجهاز مع فرض قيود الخصوصية أثناء التدريب.
إطار هجوم شامل: تصميم وتنفيذ مجموعة من خمسة هجمات استدلال تعتمد على SHAP لتقييم مخاطر الخصوصية بدقة من زوايا متعددة (التوزيع، الرتبة، والتشابه).
التحقق التجريبي: إجراء تجارب مكثفة على مجموعة بيانات REFIT للطاقة المنزلية، ومقارنة الطريقة المقترحة مقابل نموذج Baseline LSTM ونموذج DP-LSTM المدعوم بالخصوصية التفاضلية.

4. النتائج التجريبية

أجريت الدراسة على بيانات من ثلاث أسر بريطانية (مجموعة بيانات REFIT) تتضمن 10 مستشعرات طاقة (المجموع + 9 أجهزة).

أداء الخصوصية:
- تفوق LSTM المنظم بـ SHAP باستمرار على كل من Baseline LSTM و DP-LSTM عبر جميع مقاييس الخصوصية.
- إنتروبيا أعلى: حقق إنتروبيا SHAP أعلى بكثير (على سبيل المثال، ~6.2 مقابل ~5.3 للنموذج الأساسي في المنزل رقم 2)، مما يشير إلى إسناد ميزات أكثر تجانسًا.
- تسرب أقل: أظهر درجات أقل في هجمات التشابه، والتباعد، وارتباط الرتب، واتساق الرتب، مما يجعل من الصعب جدًا على المهاجمين استنتاج العضوية أو السلوكيات المحددة.
- المقارنة مع DP: بينما قدم DP-LSTM بعض الخصوصية، إلا أنه غالبًا ما أدى إلى قيم SHAP ناعمة للغاية أو تقترب من الصفر (مما يقلل الفائدة) ولم يضاهِ مستويات حماية الخصوصية التي حققها نموذج تنظيم الإنتروبيا.
أداء الفائدة (Utility):
- حافظت الطريقة المقترحة على دقة تنبؤ عالية.
- كان متوسط الخطأ المطلق (MAE) مشابهًا لنموذج Baseline LSTM، مع تكلفة طفيفة في الفائدة (MAE أعلى قليلاً في بعض الحالات) مقارنة بالمكاسب الكبيرة في الخصوصية.
التحليل البصري:
- أظهرت الخرائط الحرارية (Heatmaps) أن نموذج Baseline LSTM أنتج أنماطًا مركزة وقابلة للتنبؤ (مثل استخدام الغلاية بكثافة في أوقات محددة)، بينما أنتج النموذج المنظم إسنادات متنوعة وأقل تركيزًا، مما أدى فعليًا إلى إخفاء الروتين اليومي للمستخدم.

5. الأهمية والتأثير

سد الفجوة: تعالج هذه العملة نقطة عمياء حرجة في الذكاء الاصطناعي القابل للتفسير (XAI): مخاطر الخصوصية المتعلقة بـ التفسير نفسه. إنها تتجاوز حماية البيانات لتصل إلى حماية قابلية التفسير للنموذج.
الامتثال التنظيمي: من خلال تقليل خطر إعادة تحديد هوية المستخدمين أو استنتاج العادات الحساسة من التفسيرات، تساعد هذه الطريقة في الامتثال للوائح مثل GDPR و CC-PA، التي تفرض تقليل البيانات وحماية الخصوصية.
الذكاء الاصطناعي لإنترنت الأشياء الموثوق: توفر إطار عمل عمليًا لنشر ذكاء اصطناعي شفاف في المنازل الذكية دون المساس بخصوصية المستخدم، مما يعزز ثقة المستخدم في أنظمة إدارة الطاقة المؤتمتة.
التوجهات المستقبلية: يقترح المؤلفون توسيع نطاق هذا العمل ليشمل البيانات متعددة الوسائط وتطوير آليات تكيفية لموازنة الخصوصية ودقة التفسير في الوقت الفعلي.

ختامًا، تثبت الورقة أن تنظيم إنتروبيا SHAP هو استراتيجية متفوقة، خفيفة الوزن، وفعالة لتأمين الذكاء الاصطناعي القابل للتفسير في بيئات إنترنت الأشياء، حيث يوفر حماية أفضل للخصوصية من طرق الخصوصية التفاضلية التقليدية مع الحفاظ على فائدة النموذج.