🤖 machine learning

DisAgg: Distributed Aggregators for Efficient Secure Aggregation in Federated Learning

تقترح الورقة البحثية بروتوكول DisAgg، وهو بروتوكول تجميع موزع يستخدم لجنة عملاء صغيرة لإجراء عملية تجميع محلية قائمة على مشاركة الأسرار، مما يؤدي إلى إلغاء العمليات التشفيرية المكلفة وتقليل عبء الاتصالات والحوسبة بشكل كبير مقارنة بطرق التجميع الآمن الحالية مثل OPA.

المؤلفون الأصليون: Haaris Mehmood, Giorgos Tatsis, Dimitrios Alexopoulos, Karthikeyan Saravanan, Jie Xu, Anastasios Drosou, Mete Ozay

نُشر 2026-05-14

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Haaris Mehmood, Giorgos Tatsis, Dimitrios Alexopoulos, Karthikeyan Saravanan, Jie Xu, Anastasios Drosou, Mete Ozay

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

الصورة الكبيرة: التعلم معاً دون مشاركة الأسرار

تخيل مجموعة من الجيران الذين يرغبون جميعاً في تعلم كيفية خبز الكعكة المثالية. بدلاً من أن يحضر كل شخص وصفات عائلته السرية إلى مطبخ مركزي (مما قد يؤدي لخطر سرقة الوصفة)، يحتفظ كل منهم بوصفته في منزله. هم يرسلون للسيرفر فقط "نتيجة" محاولة الخبز (مثل: "أضف 2 جرام إضافية من السكر") حتى يتمكن الفريق من معرفة الوصفة المثالية معاً. هذا هو التعلم الاتحادي (Federated Learning).

ومع ذلك، هناك مشكلة: حتى لو أرسلوا فقط "تعديل كمية السكر"، يمكن لسيرفر فضولي (أو مخترق) أحياناً استنتاج الوصفة الأصلية من خلال تلك التعديلات الصغيرة.

لحل هذه المشكلة، نستخدم التجميع الآمن (Secure Aggregation). الأمر يشبه وضع ملاحظة كل جار داخل صندوق مغلق، وخلطها جميعاً، ثم فتح الصندوق فقط لرؤية إجمالي كمية السكر المطلوبة، دون معرفة من أرسل ماذا.

المشكلة في الطرق الحالية

يجادل البحث بأن الطرق الحالية للقيام بعملية خلط "الصندوق المغلق" هذه بطيئة وثقيلة للغاية.

الطريقة القديمة (SECAGG): تخيل أن على كل جار أن يتصافح مع كل جار آخر لتبادل مفاتيح سرية قبل أن يتمكنوا من إرسال ملاحظاتهم. إذا كان هناك 100 جار، فهذا يعني قرابة 10,000 مصافحة! إنه ازدحام مروري هائل.
طريقة "المرة الواحدة" (OPA): هذه الطريقة أسرع. الجميع يرسل ملاحظته دفعة واحدة. ولكن لفتح الخليط النهائي، تتطلب الرياضيات المعقدة جهداً هائلاً، كأنك تحاول حل لغز "سودوكو" ضخم لمجرد قراءة قائمة تسوق. هذا يضع عبئاً كبيراً على حواسيب الجميع.

الحل: DISAGG (مختبرو المذاق)

يقترح المؤلفون طريقة جديدة تسمى DISAGG. بدلاً من قيام السيرفر المركزي بكل العمل الشاق، أو جعل الجميع يتصافحون مع بعضهم البعض، يقومون بتقديم مجموعة صغيرة من الجيران الموثوقين يطلق عليهم اسم المجمّعين (Aggregators).

إليك كيف يعمل DISAGG، خطوة بخيطوة:

الإعداد: يختار السيرفر مجموعة صغيرة من الجيران (مثلاً 10 أشخاص) ليكونوا هم المجمّعين. هؤلاء يشبهون "مختبري المذاق" للمجموعة.
التقسيم السري: يأخذ كل جار عادي ملاحظة وصفته السرية ويقطعها إلى 10 قطع صغيرة ومبعثرة (مثل تمزيق وثيقة). ثم يرسل قطعة واحدة إلى كل واحد من المجمّعين العشرة.
- نقطة حاسمة: لا يمكن لأي مجمّع بمفرده رؤية الملاحظة كاملة. هم لا يرون سوى جزء صغير لا معنى له.
الخلط المحلي: يقوم كل مجمّع بجمع الأجزاء من جميع الجيران. الآن، بدلاً من 100 ملاحظة، يمتلك المجمّعون 10 "مجموعات جزئية" فقط.
الكشف النهائي: يرسل المجمّعون هذه المجموعات العشرة الجزئية إلى السيرفر. يقوم السيرفر بدمجها للحصول على الإجابة النهائية (إجمالي كمية السكر المطلوبة).

لماذا هذا أفضل؟ (التشبيه)

فكر في الأمر كأنه عشاء "بواتلك" (Potluck dinner) (حيث يحضر كل شخص طبقاً):

الطريقة القديمة: يحضر الجميع طبقاً، ولكن قبل الأكل، يتعين عليهم الوقوف في دائرة ضخمة، ويمررون المكونات ذهاباً وإياباً للتحقق من هوية كل شخص. هذا يستغرق ساعات.
طريقة OPA: يحضر الجميع طبقاً، لكن على الطاهي استخدام خلاط فائق التعقيد وثقيل جداً لخلطهم جميعاً بأمان. الخلاط صوته عالٍ وبطيء جداً لدرجة أنه يستغرق وقتاً طويلاً.
طريقة DISAGG: يحضر الجميع طبقهم إلى طاولة صغيرة تضم 10 "مختبري مذاق". يقوم مختبرو المذاق بخلط أوعيتهم الصغيرة الخاصة. بعد ذلك، يسلمون الـ 10 أوعية المختلطة إلى الطاهي. يقوم الطاهي بخلط تلك الأوعية العشرة ويقدم الوجبة.

النتيجة:

الجيران العاديون (العملاء): يبذلون جهداً ضئيلاً جداً. هم فقط يقطعون ملاحظتهم ويرسلونها. لا توجد رياضيات ثقيلة.
الطاهي (السيرفر): ليس عليه القيام بالعمل الشاق لخلط آلاف الملاحظات. هو فقط يخلط الأوعية العشرة التي أرسلها مختبرو المذاق.
مختبرو المذاق (المجمّعون): هم من يقومون بالعمل الإضافي، ولكن بما أنهم 10 أشخاص فقط، فإن المجموعة تتعامل مع الأمر بسهء.

النتائج

اختبر البحث طريقة DISAGG مقابل أفضل طريقة حالية (OPA) باستخدام أرقام ضخمة (100,000 عميل ونماذج ضخمة).

السرعة: كانت DISAGG أسرع بـ 4.6 مرة من أفضل طريقة سابقة.
الكفاءة: قللت من العمل الحاسوبي الثقيل للمستخدمين العاديين وللسيرفر بشكل كبير.
الخصوصية: تظل آمنة تماماً. حتى لو حاول عدد قليل من "مختبري المذاق" التواطؤ (محاولة الغش)، فلن يتمكنوا من معرفة وصفة أي جار بمفرده.

الملخص

DISAGG هي طريقة أذكى لخلط البيانات السرية في مجموعة. بدلاً من جعل الجميع يقومون بعمليات حسابية ثقيلة أو إجبار السيرفر على القيام بكل العمل، تقوم بتفويض عملية الخلط إلى فريق متخصص وصغير. هذا يجعل العملية برمتها أسرع وأخف، مما يسمح للملايين بالتعلم معاً دون إبطاء هواتفهم أو كشف أسرارهم.

ملخص تقني: DISAGG – مجمعات موزعة للتجميع الآمن الفعال

1. بيان المشكلة

تتيح التعلم الاتحادي (Federated Learning - FL) تدريب النماذج بشكل تعاوني مع الحفاظ على البيانات الخام محلياً، لكن بروتوكولات التعلم الاتحادي القياسية تعرض تحديثات العملاء للخادم المركزي، مما يخلق مخاطر تتعلق بالخصوصية ضد هجمات "الخادم الفضولي" (honest-but-curious) عبر هجمات عكس التدرج (gradient inversion attacks). تعالج بروتوكولات التجميع الآمن (Secure Aggregation - SA) هذه المشكلة من خلال ضمان أن الخادم يتعلم فقط المجموع الإجمالي للتحديثات، وليس المساهمات الفردية.

ومع ذلك، تواجه بروتوكولات التجميع الآمن الحالية اختناقات كبيرة في القابلية للتوسع والكفاءة في بيئات الإنتاج التي تتميز بأعداد كبيرة من العملاء، والاتصال المتقطع، وانسحاب العملاء (dropouts):

البروتوكولات متعددة الجولات (مثل SECAGG و SECAGG+): تعتمد على تبادل المفاتيح الثنائية وآليات استرداد متعددة المراحل. وتؤدي هذه البروتوكولات إلى تكاليف اتصالات تبلغ $O(N^2)$ أو $O(N \log N)$ وتفرض حواجز تزامن، مما يجعلها حساسة للمتأخرين (stragglers) والمنسحبين.
بروتوكولات الجولة الواحدة (مثل OPA): تقلل من تعقيد الجولات إلى تفاعل واحد لكل دورة، ولكنها تنقل العبء إلى عمليات تشفير ثقيلة (مثل التغطية القائمة على مشكلة "التعلم مع الأخطاء" - LWE، وتوزيع شير لـ Shamir المعبأ). وينتج عن ذلك عبء حسابي واتصالي كبير يتناسب مع أبعاد النموذج وحجم اللجنة، خاصة بالنسبة للعملاء والخادم.

التحدي الجوهري هو تصميم بروتوكول يحافظ على تعقيد الجولات المنخفض والمرونة تجاه الانسحاب التي تتميز بها نهج الجولة الواحدة، مع تقليل العبء الحسابي والتشفيري بشكل كبير على العملاء العاديين والخادم.

2. المنهجية: بروتوكول DISAGG

يقترح المؤلفون DISAGG (المجمعات الموزعة)، وهو بروتوكول تجميع آمن مبتكر يقوم بتوزيع عبء عمل التجميع على لجنة صغيرة من العملاء يتم اختيارها عشوائياً تسمى المجمعات (Aggregators).

الآلية الجوهرية

على عكس المخططات التقليدية حيث يقوم الخادم بالتجميع النهائي أو يقوم العملاء بتغطية تحديثاتهم بمفاتيح ثنائية، يستفيد DISAGG من الحوسبة المرمزة بـ لاغرانج (Lagrange Coded Computing - LCC) وتوزيع الأسرار (Secret Sharing):

الإعداد (الجولة 0): يختار الخادم مجموعة من العملاء المشاركين ( $U$ ) ويوزع معاملات النظام.
توزيع الأسرار والرفع (الجولة 1):
- يختار الخادم عشوائياً مجموعة فرعية من العملاء ( $A$ ) للعمل كـ مجمعات (Aggregators).
- يقوم العملاء العاديون بترميز ناقلات تحديث نماذجهم ( $x_i$ ) باستخدام استكمال لاغرانج (Lagrange interpolation).
- يقوم كل عميل بتشفير حصصه باستخدام المفاتيح العامة للمجمعات ويرسلها إلى الخادم.
- من المهم ملاحظة أن العملاء لا يقومون بعمليات تغطية محلية أو تبادل مفاتيح ثنائية مع جميع العملاء الآخرين.
التجميع الموزع (الجولة 2):
- يقوم الخادم بتوجيه الحصص المستلمة إلى المجمعات.
- تقوم المجمعات بفك تشفير الحصص، وحساب المجموع الجزئي للحصص التي استلمتها محلياً، وإعادة هذه الحصص المجمعة إلى الخادم.
- يقوم الخادم بإعادة بناء تحديث النموذج العالمي من خلال دمج الحصص المجمعة من عدد كافٍ من المجمعات الناجية.

الأمن والمتانة

نموذج التهديد: يفترض البروتوكول وجود خادم "فضولي ولكن أمين" ويتسامح مع كسر $\gamma$ من العملاء المتواطئين و $\delta$ من العملاء المنسحبين.
الخصوصية: يوفر أماناً معلوماتياً (T-privacy). حتى لو تواطأت حتى $t_c$ من المجمعات، فلن يتعلموا شيئاً عن تحديثات العملاء الفردية بخلاف المجموع، وذلك من خلال إضافة ناقلات تغطية عشوائية أثناء عملية توزيع الأسرار.
الصحة (Correctness): البروتوكוד قوي تجاه الانسحاب. طالما أن عدد المجمعات الناجية يتجاوز عتبة إعادة البناء ( $t_r$ )، يمكن للخادم إعادة بناء المجموع بنجاح.

3. المساهمات الرئيسية

تصميم بروتوكول مبتكر: يعد DISAGG أول بروتوكول يطبق التجميع الموزع القائم على اللجان مباشرة على تجميع النماذج باستخدام توزيع الأسرار، مما يلغي الحاجة إلى التغطية التشفيرية المحلية وآليات استرداد الانسحاب المعقدة الموجودة في SECAGG/SECAGG+.
التحليل النظري: وسع المؤلفون التحليلات النظرية لاختيار عتبة توزيع الأسرار لتشمل قيوداً واقعية، من خلال نمذجة كل من العملاء المنسحبين والفاسدين كمتغيرات عشوائية ودمج حدود تحمل الخطأ البيزنطي لاستخلاص المعاملات المثلى لحجم لجنة المجمعات.
إطار أداء: تم تطوير إطار تحليل توقيت لمقارنة DISAGG مع البروتوكولات الحديثة (تحديداً OPA) دون الحاجة إلى عمليات محاكاة كاملة النطاق، مع مراعاة تعقيدات الحوسبة والاتصالات تحت قيود الشبكة الواقعية (مثل سرعات 5G).

4. النتائج والأداء

يقيم البحث DISAGG مقابل SECAGG و SECAGG+ و LIGHTSECAGG و OPA عبر أحجام نماذج مختلفة ( $M$ ) وأعداد عملاء مختلفة ( $N$ ).

التسريع: في الإعدادات الواقعية للأجهزة (على سبيل المثال، $N=100k$ عميل، $M=100k$ معلمة، واتصال 5G)، يحقق DISAGG تسريعاً بمقدار 4.6 ضعف مقارنة بـ OPA، وهو أفضل بروتوكول سابق. وتشير التحليلات النظرية إلى إمكانية تحقيق تسريع يصل إلى 25 ضعفاً في تكوينات معينة ( $M=1M, N=1M$ ).
تقليل التعقيد:
- جانب العميل: يقلل DISAGG من حوسبة العميل من $O(\lambda M)$ (في OPA، حيث $\lambda$ هو معامل الأمان) إلى $O(M \log A)$ ، مما يزيل العمليات التشفيرية الثقيلة.
- جانب الخادم: يتم تقليل حوسبة الخادم من $O(NM + \lambda A)$ إلى $O(M \log A)$ ، حيث يتجنب الخادم فك تشفير النصوص المشفرة الثقيلة.
- المقايضة: تأتي مكاسب الكفاءة على حساب زيادة الاتصال والحوسبة لـ المجمعات. ومع ذلك، يوضح البحث أنه من خلال ضبط عامل التعبئة ( $\rho$ ) وعدد المجمعات ( $A$ )، يمكن إدارة هذا العبء مع الحفاظ على تسريع نظام إجمالي كبير.
المتانة: يحافظ DISAGG على تسريع يزيد عن 4 أضعاف مقارنة بـ OPA حتى في ظل عوامل الانسحاب والتواطؤ المشتركة ( $k = \gamma + \delta$ ) حتى 0.3.
منفعة النموذج: تؤكد التجارب على مجموعات بيانات متنوعة (MNIST, CIFAR, CelebA, SST2) أن DISAGG يحقق تقارباً ودقة مماثلة للتجميع بنص صريح وOPA، مع تدهور ضئيل بسبب التكميم (quantization).

5. الأهمية والادعاءات

يزعم البحث أن DISAGG نجح في سد الفجوة بين تعقيد الجولات المنخفض لبروتوكولات الجولة الواحدة الحديثة والكفاءة الحسابية المطلوبة للتعلم الاتحادي واسع النطاق عبر الأجهزة.

الكفاءة: من خلال نقل عبء التجميع إلى لجنة متخصصة وصغيرة، يلغي DISAGG العبء التشفيري "الثقيل" الذي أعاق اعتماد بروتوكولات الجولة الواحدة على الأجهزة محدودة الموارد.
القابلية للتوسع: يتوسع البروتوكول بفعالية ليشمل ملايين العملاء والمعلمات، معالجة حواجز التزامن والحساسية للمتأخرين التي تعاني منها البروتوكولات متعددة الجولات.
الواقعية: يؤكد المؤلفون أن DISAGG يقدم حلاً عملياً لنشر التعلم الاتحادي في العالم الحقيقي حيث يشيع عدم تجانس الشبكة وتقلب العملاء، مما يوفر توازناً قوياً بين ضمانات الخصوصية (الأمان المعلوماتي) وأداء النظام.

يخلص العمل إلى أن التجميع الموزع عبر توزيع الأسرار هو بديل قابل للتطبيق ومتفوق للتجميع الآمن في التعلم الاتحادي، خاصة في السيناريوهات التي تتطلب إنتاجية عالية وزمن انتقال منخفض.