🤖 machine learning

LightSplit: Practical Privacy-Preserving Split Learning via Orthogonal Projections

يُعد LightSplit إطار عمل عملي للتعلم المنقسم يحافظ على الخصوصية، حيث يستخدم عمليات إسقاط عشوائية متعامدة وثابتة وخفيفة الوزن عند طبقة القطع لتقليل عبء الاتصالات بنسبة تصل إلى 32 ضعفاً وتقليل هجمات إعادة البناء من خلال العمل كعنق زجاجة للمعلومات، كل ذلك مع الحفاظ على أكثر من 95% من دقة النموذج الأساسي دون الحاجة إلى مكونات إضافية قابلة للتدريب على أجهزة العميل.

المؤلفون الأصليون: Mert Cihangiroglu, Alessandro Pegoraro, Phillip Rieger, Antonino Nocera, Ahmad-Reza Sadeghi

نُشر 2026-05-14

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Mert Cihangiroglu, Alessandro Pegoraro, Phillip Rieger, Antonino Nocera, Ahmad-Reza Sadeghi

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك وفريق من أصدقائك تحاولون حل لغز ضخم ومعقد معاً. يمتلك كل واحد منكم قطعة فريدة من الصورة (بياناتكم الخاصة)، لكنكم لا تريدون إظهار قطعتكم لأي شخص آخر لأنها تحتوي على أسرار حساسة.

في عالم التعلم المنقسم (Split Learning)، تعمل أنت و"خادم" مركزي قوي (حاسوب فائق القدرة) معاً. تقوم أنت بالجزء الأول من اللغز على جهازك الخاص، لتنشئ نسخة "مهروسة" وسيطة من الصورة، ثم ترسل هذه القطعة المهروسة إلى الخادم، الذي يكمل بقية اللغز ويرسل النتيجة إليك مرة أخرى.

المشكلة:
إرسال هذه القطعة "المهروسة" يسبب مشكلتين كبيرتين:

ثقل الحجم: القطعة ضخمة جداً، مما يؤدي إلى ازدحام اتصال الإنترنت في كل مرة ترسل فيها بياناتك.
كشف التفاصيل: حتى وإن كانت "مهروسة"، يمكن لخادم فضولي أن ينظر إلى التفاصيل ويعيد بناء صورتك السرية الأصلية. الأمر يشبه إرسال وثيقة ممزقة؛ إذا كانت قصاصات الورق كبيرة بما يكفي، يمكن لشخص ما لصقها وإعادتها كما كانت.

تحاول الحلول الموجودة حالياً معالجة مشكلة واحدة وتتجاهل الأخرى. فبعضها يجعل القطعة أصغر حجماً لكنه يترك الأسرار واضحة، والبعض الآخر يحمي الأسرار ولكنه يجعل القطعة ثقيلة جداً لدرجة أنها تبطئ كل شيء.

الحل: LightSplit
يقترح مؤلفو هذه الورقة البحثية طريقة جديدة تسمى LightSplit. فكر في الأمر كخدعة سحرية ذكية تُطبق لمرة واحدة على قطعة اللغز الخاصة بك قبل إرسالها.

إليك كيف تعمل، باستخدام تشبيهات بسيطة:

1. "الإسقاط المتعامد" (الفلتر السحري)

تخيل أن قطعة اللغز الخاصة بك هي منحوتة ثلاثية الأبعاد عالية الدقة. إرسال المنحوتة كاملة أمر مكلف.

الطريقة القديمة: ترسل المنحوتة كاملة.
طريقة LightSplit: تسلط ضوءاً محدداً وثابتاً على المنحوتة وترسل فقط الظل الذي تلقيه على الحائط.

هذا الظل أصغر بكثير (مما يوفر عرض النطاق الترددي للإنترنت). ولكن هنا تكمن الخدعة: الظل يتم من زاوية عشوائية. هو يحافظ على الشكل العام (بحيث لا يزال بإمكان الخادم حل اللغز)، ولكنه يتخلص من التفاصيل المحددة التي قد تسمح لشخص ما بإعادة بناء المنحوتة ثلاثية الأبعاد الأصلية. الأمر يشبه النظر إلى ظل شخص ما؛ أنت تعرف أنه طويل ويرتدي قبعة، لكن لا يمكنك رؤية وجهه أو ما يرتديه.

2. "التكثيف داخل الفئة" (عناق المجموعة)

حتى الظل قد يحتوي على تجاعيد صغيرة وفريدة تكشف عن هوية الشخص.

الإصلاح: يضيف LightSplit قاعدة تقول: "يجب أن يبدو الجميع في مجموعة 'القطط' متطابقين تماماً في ظلالهم، ويجب أن يبدو الجميع في مجموعة 'الكلاب' متطابقين تماماً".
النتيجة: يرى الخادم "ظل قطة" مثالي و"ظل كلب" مثالي. يمكنه التمييز بين القطة والكلب (لحل اللغز بشكل صحيح)، ولكنه لم يعد قادراً على التمييز بين قطتك الخاصة وقطة جارك. لقد دمر هذا الإجراء "الفردية" للبيانات مع الحفاظ على "الفئة" سليمة.

3. "الرفع العكسي" (حلقة فك الشفرة الخاصة بالخادم)

يتلقى الخادم هذا الظل الصغير والعام. ولإكمال اللغز، يحتاج إلى تحويل هذا الظل مرة أخرى إلى شكل يمكن لبقية اللغز فهمه.

LightSplit-F (الطريقة البسيطة): يستخدم الخادم مجرد قاعدة رياضية ثابتة لمدّ الظل وتوسيعه مرة أخرى. إنها عملية سريعة ولا تتطلب مجهوداً ذهنياً إضافياً.
LightSplit-L (الطريقة الذكية): يستخدم الخادم نموذج ذكاء اصطنا-عي صغير وقابل للتدريب لتوسيع الظل بطريقة تجعل أكبر قدر من المعنى للغز. هذه الطريقة أقوى قليلاً ولكنها تتطلب من الخادم القيام بمزيد من العمل.

لماذا يعد هذا أمراً هاماً؟
اختبرت الورقة البحثية هذه الطريقة ضد أفضل هجمات "المخترقين" المعروفة حالياً.

الخصوصية: عندما حاول المخترقون إعادة بناء الصور الأصلية من الظلال، فشلوا فشلاً ذريعاً. عادت الصور على شكل ضجيج غير مفهوم. وتدعي الورقة أن هذا يقلل من قدرة المخترقين على سرقة البيانات بمقدار 7 مرات مقارنة بالطرق الأخرى.
السرعة: نظرًا لأن الظلال صغيرة جداً، انخفضت كمية البيانات المرسلة عبر الإنترنت بمقدار يصل إلى 32 مرة.
الدقة: رغم كل هذا الإخفاء والتقليص، تم حل اللغز النهائي بدقة تزيد عن 95%+. لم يرتبك النظام؛ بل أصبح فقط أكثر ذكاءً في تحديد ما يجب إخفاؤه.

الخلاصة
LightSplit هي طريقة عملية للسماح للأجهزة بالتعاون في تدريب الذكاء الاصطناعي دون مشاركة بياناتها الخاصة. إنه يعمل كفلتر يحافظ على الخصوصية، حيث يقلص حجم البيانات لتوف توفير عرض النطاق الترددي ويقوم بتشفير التفاصيل لمنع المخترقين، وكل ذلك دون الحاجة إلى قيام جهاز المستخدم بأي عمليات معالجة ثقيلة. إنه حل "خفيف" لمشكلة "ثقيلة".

ملخص تقني: LightSplit

بيان المشكلة

تتيح "التعلم المنقسم" (Split Learning - SL) التدريب التعاوني للشبكات العصبية العميقة (DNNs) عن طريق تقسيم النموذج بين عملاء محدودين الموارد وسيرفر (خادم) قوي. وبينما يحافظ هذا الأسلوب على محلية البيانات الخام، فإنه يفرض تحديين حرجين عند "طبقة القطع" (cut layer) حيث يتم نقل التنشيطات الوسيطة (البيانات المسحوقة/smashed data):

الأعباء الاتصالية (Communication Overhead): يؤدي نقل موترات التنشيط عالية الأبعاد (على سبيل المثال، 4,096 بُعداً لنموذج ResNet-18 على مجموعة بيانات CIFAR-10) إلى خلق اختناق كبير في عرض النطاق الترددي، وهو ما يتناسب طردياً مع أبعاد التنشيط وعدد العملاء.
الثغرات الأمنية المتعلقة بالخصوصية: تحتوي البيانات المسحوقة على معلومات غنية خاصة بكل حالة (instance-specific). وتحت نموذج تهديد "شبه نزيه" (semi-honest/honest-but-curious)، يمكن للسيرفر استغلال هذه التمثيلات لتنفيذ هجمات إعادة البناء (مثل SDAR، UnSplit، FORA)، مما يؤدي إلى استعادة المدخلات الأصلية للعميل بدقة عالية.

عادةً ما تعالج الدفاعات الحالية هذه المشكلات بشكل منفصل؛ فالأساليب التي تركز على الخصوصية (مثل حقن الضوضاء أو الاضطراب) غالباً ما تفشل في تقليل أحمال الاتصال، بينما تقنيات الضغط (مثل التناثر top-k أو الترميز المتعلم) غالباً ما تحافظ على الإشارات الخاصة بالحالة التي تستغلها هجمات إعادة البناء، أو تفرض أعباء حسابية باهظة على جانب العميل.

المنهجية: LightSplit

يقترح المؤلفون إطار عمل LightSplit، الذي يقلل في آن واحد من أعباء الاتصال ويحد من التعرض للمعلومات من خلال إسقاط عشوائي متعامد ثابت يتم تطبيقه عند طبقة القطع.

الآلية الجوهرية

الإسقاط المتعامد الثابت (Fixed Orthogonal Projection):
- يقوم كل عميل بإسقاط التنشيط المسحوق $z$ ذي الأبعاد $d$ إلى فضاء فرعي ذي أبعاد $k$ ( $k \ll d$ ) باستخدام مصفوفة متعامدة عشوائية ثابتة $R \in \mathbb{R}^{d \times k}$ .
- يتم اشتقاق الإسقاط عبر تحليل QR لمصفوفة غاوسية عشوائية، مما يضمن أن $R^\top R = I_k$ .
- هذا الإسقاط غير قابل للتدريب وثابت طوال عملية التدريب، ولا يتطلب أي معاملات (parameters) إضافية قابلة للتعلم من جانب العميل.
- الأساس النظري: تعتمد الطريقة على "لمّة جونسون-ليندنسبراوس" (Johnson-Lindenstrauss lemma)، والتي تضمن الحفاظ تقريباً على المسافات الإقليدية الزوجية (وبالتالي القدرة على الفصل بين الفئات) في الفضاء منخفض الأبعاد.
الرفع العكسي من جانب السيرفر (Server-Side Lift-Back):
للحفاظ على التوافق مع بنيات التعلم المنقسم الحالية، يجب على السيرفر إعادة بناء مدخل ذي $d$ من الأبعاد لخلفية النموذج (backbone) الخاصة به. يوفر LightSplit وضعين:
- LIGHTSPLIT-F (الثابت): يستخدم رفعاً عكسياً خطياً خالياً من المعاملات ( $\hat{z} = R\tilde{z}$ )، وهو ما يعد حداً أدنى من الناحية الحسابية.
- LIGHTSPLIT-L (المتعلم): يستخدم "مدرك متعدد الطبقات" (MLP) صغيراً وقابلاً للتدريب لرسم خريطة من الإسقاط ذي الأبعاد $k$ إلى الأبعاد $d$ . وهذا يسمح للسيرفر بالتكيف مع التوزيع المسقط، وتعويض فقدان المعلومات، مقابل تكلفة إضافية في معاملات جانب السيرفر.
منظم التكثيف داخل الفئة (Within-Class Compaction - WCC):
لمعالجة القصور المتمثل في أن الإسقاط العشوائي وحده قد يحتفظ بإشارات متبقية خاصة بالحالة، يقدم LightSplit حداً تنظيمياً من جانب العميل.
- الهدف: تقليل التباين داخل الفئة للتمثيلات المسقطة $\tilde{z}$ .
- الآلية: يحسب العميل المتوسط $\mu_c$ للعينات المسقطة لكل فئة $c$ ، ويقلل المسافة الإقليدية المربعة بين العينات ومركز ثقل الفئة: $L_{WCC} = \sum_c \frac{1}{|S_c|} \sum_{i \in S_c} \|\tilde{z}_i - \mu_c\|_2^2$ .
- الأثر: يشجع هذا العينات من نفس الفئة على تشكيل مجموعات متراصة، مما يؤدي فعلياً إلى التخلص من الاختلافات الخاصة بالحالة التي تعتمد عليها هجمات إعادة البناء، مع الحفاظ على البنية المميزة للفئة.

المساهمات الرئيسية

الخصوصية والكفاءة المشتركة: يعد LightSplit أول طريقة تقلل في آن واحد من حمولة كل عينة (الاتصال) وتحد من التعرض للمعلومات (الخصوصية) دون الحاجة إلى مكونات إضافية قابلة للتدريب من جانب العميل.
عنق زجاجة معلوماتي غير قابل للعكس: من خلال التخلص من المتمم المتعامد للإسقاط، تخلق الطريقة رسم خرائط عكسي غير محدد (underdetermined) للسيرفر، مما يجعل إعادة بناء المدخل الأصلي بدقة رياضياً أمراً مستحيلاً.
تصميم خفيف للعميل: يقوم العميل فقط بعملية ضرب مصفوفة واحدة بمصفوفة ثابتة، مما يحافظ على مبدأ الحوسبة المنخفضة للتعلم المنقسم للأجهزة الطرفية (edge devices).
الحفاظ على البنية على مستوى الفئة: يعمل الجمع بين إسقاط JL ومنظم WCC على نقل التمثيل من واصف للحالة (instance descriptor) إلى نموذج أولي للفئة (class prototype)، مما يعزز المتانة ضد هجمات إعادة البناء.

النتائج التجريبية

قام المؤلفون بتقييم LightSplit على مجموعات بيانات CIFAR-10، وCIFAR-100، وFashion-MNIST، وGTSRB تحت إعدادات IID وNon-IID، ومقارنتها بالنقل الخام وبدائل الضغط المتعلم (Learned 1x1).

أداء الخصوصية:
- يقلل LightSplit بشكل كبير من أداء أحدث هجمات إعادة البناء (SDAR، FORA، UnSplit).
- ضد هجوم SDAR، انخفضت درجات SSIM بنسبة تصل إلى 58.3% (عند ضغط 32×) مقارنة بالنقل الخام.
- ضد هجوم FORA، ارتفعت درجات LPIPS بنسبة ~36%، مما يشير إلى انخفاض التشابه الإدراكي مع الصورة الأصلية.
- ضد هجوم UnSplit، زاد LightSplit من متوسط الخطأ التربيعي (MSE) لإعادة البناء بنسبة تصل إلى 1.27× على MNIST، مما منع فعلياً الاستعادة المثالية للبكسلات.
- تقلل الطريقة من قدرة الهجمات على إعادة البناء بنسبة تصل إلى 7 أضعاف مقارنة بالبدائل.
المنفعة والكفاءة:
- الحفاظ على الدقة: يحافظ LightSplit على >95% من دقة النموذج الأساسي في معظم السيناريوهات. على سبيل المثال، في CIFAR-10 مع ضغط 32×، تنخفض الدقة بنسبة ~6% فقط (مقابل ~13% لبعض البدائل).
- تقليل الاتصالات: تحقق الط طريقة تقليلاً يصل إلى 32× في أبعاد البيانات المرسلة.
- الاستقرار: تظل ديناميكيات التدريب مستقرة عبر نسب ضغط ومقاييس عملاء متفاوتة (حتى 100 عميل).
- كشف الباب الخلفي (Backdoor Detection): لا تتدخل الطريقة في آليات كشف الباب الخلفي من جانب السيرفر؛ حيث يظل العملاء الخبيثون قابلين للتحديد عبر تواقيع تشابه جيب التمام (cosine-similarity signatures).

الأهمية والادعاءات

يزعم البحث أن LightSplit يعالج فجوة حرجة في التعلم المنقسم حيث تجبر الحلول الحالية المستخدم على المقايضة بين الخصوصية والكفاءة. من خلال استخدام إسقاط متعامد ثابت ومنظم لتقليل التباين، يقوم LightSplit بـ:

تخفيف تسرب الخصوصية: يحد من المعلومات المتاحة لسيرفر فضولي لتقتصر على النماذج الأولية للفئات بدلاً من حالات مدخلة محددة، مما يرفع فعلياً من صعوبة هجمات إعادة البناء.
تقليل الأعباء: يخفض تكاليف الاتصال بشكل جذري دون الحاجة إلى أعباء تدريب من جانب العميل المرتبطة بالترميز المتعلم.
الحفاظ على التوافق: يتكامل بسلاسة مع بنيات التعلم المنقسم (U-shaped) الموجودة دون تعديل هيكل الشبكة الأساسي أو طلب تغييرات في خلفية السيرفر (في الوضع الثابت).

يصرح المؤلفون صراحةً أن LightSplit لا يوفر ضمانات خصوصية رسمية (مثل الخصوصية التفاضلية - Differential Privacy)، ولكنه يظهر مقاومة تجريبية قوية ضد هجمات إعادة البناء التكيفية والأحدث تحت نموذج تهديد شبه نزيه. وهم يضعون الطريقة كحل عملي وخفيف الوزن لنشر التعلم المنقسم في البيئات الطرفية الحساسة للخصوصية والمحدودة عرض النطاق الترددي.