🤖 machine learning

DP-LAC: Lightweight Adaptive Clipping for Differentially Private Federated Fine-tuning of Language Models

تقدم الورقة البحثية DP-LAC، وهي طريقة خفيفة الوزن للضبط الدقيق للنماذج اللغوية في التعلم الاتحادي مع الحفاظ على الخصوصية التفاضلية، والتي تقوم بتقدير وتكييف عتبة القص بكفاءة دون تكاليف خصوصية إضافية أو ضبط للمعلمات الفائقة، محققةً تحسناً بنسبة 6.6% في الدقة مقارنة بالنهج القائمة.

المؤلفون الأصليون: Haaris Mehmood, Jie Xu, Karthikeyan Saravanan, Rogier Van Dalen, Mete Ozay

نُشر 2026-05-12✓ Author reviewed ⓘ

📖 3 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Haaris Mehmood, Jie Xu, Karthikeyan Saravanan, Rogier Van Dalen, Mete Ozay

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل مجموعة من الأصدقاء يحاولون تعلم مهارة جديدة معاً، مثل طهي طبق معقد، ولكن لديهم قاعدة صارمة: لا يمكن لأي شخص مشاركة وصفاته الفعلية أو مكوناته السرية. يمكنهم فقط مشاركة مقدار ما غيروه في نسختهم الخاصة مقارنة بأفضل نسخة حالية للمجموعة.

هذا هو عالم التعلم الاتحادي (Federated Learning). إنه رائع للحفاظ على الخصوصية، ولكن هناك عقبة. إذا قام أحد الأصدقاء بإجراء تغيير ضخم وجذري على طبخته (تدرج كبير)، فإن مشاركة هذا التغيير قد تكشف بالخطأ عن مكونه السري. ولإيقاف ذلك، تستخدم المجموعة قاعدة أمان تسمى الخصوصية التفاضلية (Differential Privacy).

المشكلة: معضلة "مقبض الصوت"

لحماية الخصوصية، تستخدم المجموعة "مقبض صوت" (يسمى عتبة القص - clipping threshold) للحد من مدى صخب مساهمة أي صديق بمفرده.

إذا تم ضبط المقبض على درجة عالية جداً: ستكون مساهمة الصديق صاخبة للغاية، مما يؤدي إلى أن "ضجيج الاستاتيكية" (الذي يُضاف لإخفاء هويته) يطغى على الوصفة الفعلية المحسنة. حينها لن تتعلم المجموعة أي شيء.
إذا تم ضبطه على درجة منخفضة جداً: سيتم سحق مساهمة الصذيق لدرجة أن المجموعة ستفقد التفاصيل المهمة، مما يؤدي إلى تشويه الوصفة.

الجزء الصعب هو أن الإعداد "المثالي" لمقبض الصوت يتغير مع تحسن مهارة المجموعة في الطبخ. في البداية، تكون التغييرات كبيرة؛ وعند الاقتراب من النهاية، تصبح التغييرات ضئيلة جداً.

الطرق القديمة كانت تتطلب من المجموعة التوقف باستمرار، والجدال، وضبط المقبض يدوياً. كان ذلك يستغرق الكثير من الوقت، والأسوأ من ذلك، أنه كان يستهلك "ميزانية الخصوصية" الخاصة بهم (عدد المرات المحدودة التي يمكنهم فيها ضبط الإعدادات بأمان قبل أن تنهار ضمانات الخصوصية).
طرق أخرى حاولت أتمتة هذه العملية ولكنها أضافت "أدوات تحكم" و"روافع" معقدة خاصة بها (معلمات فائقة - hyperparameters) كانت هي الأخرى صعبة الضبط.

الحل: DP-LAC (المقبض الذكي ذاتي الضبط)

يقدم البحث طريقة DP-LAC، وهي طريقة جديدة تعمل كمقبض صوت ذكي ذاتي الضبط لا يحتاج إلى ضبط يدوي.

إليك كيف تعمل، باستخدام خطوتين بسيطتين:

1. "اختبار الحدس" للبداية (التهيئة)
قبل أن تبدأ المجموعة في الطبخ، يقومون بـ "اختبار حدس" سريع وخاص.

يقوم كل صديق سراً باختبار عدة إعدادات مختلفة لمستوى الصوت على طبخته الخاصة.
هم لا يرسلون نتائجهم، بل يرسلون فقط إشارة بسيطة "نعم/لا" (متجه one-hot) تقول: "أعتقد أن الإعداد رقم 3 كان الأفضل".
يقوم قائد المجموعة بعد هذه الإشارات سراً لتخمين أفضل مستوى صوت للبداية. هذا يشبه إجراء استطلاع رأي سريع دون أن يكشف أي شخص عن أسلوبه الخاص في الطبخ.

2. "حلقة التغذية الراجعة" (التكيف)
بمجرد بدء الطبخ، يراقب قائد المجموعة لجنة تذوق عامة (مجموعة تحقق - validation set).

إذا أصبح طبق المجموعة أكثر لذة (انخفاض الخسارة - loss)، يعلم القائد أن الأصدقاء يقومون بتعديلات أصغر وأكثر دقة.
يقوم القائد تلقائياً بخفض "مقبض الصوت" ليتناسب مع هذه التغييرات الأصغر.
إذا لم يتحسن الطبق، يظل المقبض كما هو.

لماذا هذا مميز؟

لا توجد أدوات تحكم إضافية: لا يطلب من المجموعة ضبط أي إعدادات جديدة. فهو يستخدم التقدم الطبيعي للطبخ لتحديد مستوى الصوت.
لا تكلفة للخصوصية: لا يهدر "ميزانية الخصوصية" المحدودة للمجموعة على عملية الضبط.
السرعة: نظرًا لأنه لا يحتاج إلى التوقف والجدال حول الإعدادات، فإنه يصل إلى أفضل النتائج أسرع بـ 5 إلى 15 مرة من الطرق السابقة.

النتائج

اختبر المؤلفون هذه الطريقة على نماذج لغوية كبيرة (تخيلها كطهاة آليين متطورين جداً) باستخدام بيانات من العالم الحقيقي.

مذاق أفضل: أنتجت DP-LAC نماذج أكثر دقة بنسبة 6.6% في المتوسط مقارنة بأفضل الطرق الموجودة.
القوة والمتانة: عملت الطريقة بشكل جيد حتى عندما قاموا بتغيير حجم النموذج أو تعقيد المهمة.
الكفاءة: وفرت وقتاً هائلاً كان سيُهدر في ضبط المقابض يدوياً.

باختاً، DP-LAC تشبه إعطاء المجموعة مساعداً ذكياً يعرف تلقائياً مدى علو صوت كل فرد للحفاظ على أسرارهم آمنة مع الاستمرار في تعلم أفضل وصفة، دون الحاجة إلى إنسان يتدخل باستمرار للعب بالأدوات.

ملخص تقني: DP-LAC للضبط الدقيق الاتحادي المعتمد على الخصوصية التفاضلية

1. بيان المشكلة

يتيح التعلم الاتحادي (Federated Learning - FL) التدريب التعاوني للنماذج اللغوية الكبيرة (LLMs) مع إبقاء بيانات المستخدمين على الأجهزة. ومع ذلك، فإن تبادل تحديثات النموذج (الاشتقاقات الزائفة) يكشف عن معلومات حساسة، مما يستلزم وجود خصوصية تفاضلية (Differential Privacy - DP). يتبع النهج القياسي، DP-FedAvg، خوارزمية DP-SGD التي تتضمن خطوتين:

القص (Clipping): يتم قص كل تحديث للعميل إلى عتبة معيار $\ell_2$ ثابتة $C$ .
إضافة الضجيج (Noise Addition): يُضاف ضجيج غاوسي يتناسب مع $C$ إلى التحديثات المجمعة.

يمثل اختيار عتبة القص $C$ مقايضة حرجة بين الانحياز والتباين (bias-variance trade-off). فإذا كانت $C$ كبيرة جدًا، سيهيمن الضجيج المضاف على الإشارة؛ وإذا كانت $C$ صغيرة جدًا، فستتشوه اتجاهات الاشتقاق المشروعة، مما يؤدي إلى حدوث انحياز. تحاول طرق القص التكيفية الحالية تعديل $C$ ديناميكيًا، لكنها تعاني من ثلاث مشكلات رئيسية:

تكلفة الخصوصية: تستهلك عملية ضبط المعلمات الفائقة (مثل معدلات الاضمحلال، أو القيم المئوية) جزءًا كبيرًا من ميزانية الخصوصية.
التعقيد: تفرض هذه الطرق معلمات فائقة إضافية تتطلب معايرة مضنية، مما يعقد عملية النشر.
التهيئة الثابتة: العتبات الثابتة التي تُحدد في بداية التدريب غالبًا ما تصبح غير مثالية مع تغير توزيعات البيانات أو تغير ديناميكيات النموذج أثناء التقارب.

2. المنهجية: DP-LAC

يقترح المؤلفون DP-LAC (الضبط الدقيق الاتحادي ذو القص التكيفي الخفيف المعتمد على الخصوصية التفاضلية)، وهي طريقة تعمل على تكييف عتبة القص $C$ تلقائيًا دون إدخال معلمات فائقة جديدة أو استهلاك ميزانية خصوصية إضافية للضبط.

الآليات الجوهرية

يعمل DP-LAC من خلال مرحلتين متمايزتين:

أ. التهيئة الخاصة لعتبة القص ( $C_0$ )
لتأسيس نقطة انطلاق منطقية دون البحث الشبكي المكلف، يبدأ الخادم تقديرًا خاصًا للمخطط التكراري (histogram estimation):

يحسب العملاء معيار قص أمثل محلي بناءً على بياناتهم المحلية والنموذج العالمي.
بدلاً من إرسال الاشتقاقات الخام أو الخسائر، يقيم العملاء مجموعة صغيرة من قيم القص المرشحة (على سبيل المثال، $\{0.25C_{init}, 0.5C_{init}, C_{init}\}$ ) عن طريق محاكاة تحديثات مشوبة بالضجيج.
يختار العملاء المرشح الذي يقلل الخسارة المحلية ويعيدون متجه ترميز واحد (one-hot encoding vector) يشير إلى اختيارهم.
يجمع الخادم هذه المتجهات (one-hot vectors) باستخدام آلية غاوس (الحساسية = 1) لبناء مخطط تكراري ذو خصوصية تفاضلية.
يحدد المنوال (mode) لهذا المخطط التكراري العتبة العالمية الأولية $C_0$ . تضمن هذه العملية أن تكون $C$ الأولية ضمن رتبة مقدار واحدة من القيمة المثلى دون الكشف عن إحصائيات كل عميل على حدة.

ب. قاعدة التحديث التكيفي الخفيف
أثناء التدريب، يقوم الخادم بتحديث $C$ في كل جولة اتصال $t$ باستخدام بيانات التحقق العامة ( $D_{val}$ ) فقط، لتجنب الحاجة إلى الإبلاغ الخاص عن خسارة العميل:
$C_t = C_{t-1} \cdot \min\left(1, \frac{v_{t-1}}{v_{t-2}}\right)$
حيث $v_t$ هي خسارة التحقق في الجولة $t$ .

المنطق: مع تقارب النموذج، تنخفض خسارة التدريب بشكل طبيعي، مما يعني انخفاضًا في متوسط معيار الاشتقاق المتوقع. إذا انخفضت الخسارة ( $v_{t-1} < v_{t-2}$ )، يتم تقليص العتبة $C$ بشكل متناسب.
القيد: هذا يمنع حد أن يسيطر حد الضجيج، الذي يتناسب انحرافه المعياري مع $z \cdot C$ ، على الإشارة مع تقلص الاشتقاقات.
الحالة البديلة (DP-CLAC): في حال عدم توفر مجموعة تحقق عامة، يمكن للخادم تقسيم ميزانية الخصوصية لتجميع خسائر تدريب العملاء بخصوصية، رغم أن هذا يؤدي إلى تراجع طفيف في الأداء بسبب تقليل الميزانية المخصصة لخصوصية الأوزان.

3. المساهمات الرئيسية

التكيف الخالي من المعلمات الفائقة: يلغي DP-LAC الحاجة إلى ضبط معدلات الاضمحلال، أو القيم المئوية، أو معدلات التعلم، وهي الأمور المطلوبة في النماذج المرجعية (SOTA) الحالية.
التهيئة الفعالة للخصوصية: باستخدام التقدير الخاص للمخطط التكراري لمتجهات الترميز الواحد (one-hot vectors)، تضع الطريقة قيمة $C$ الأولية المثلى دون استهلاك ميزانية خصوصية إضافية للبحث عن المعلمات الفائقة.
التحجيم الديناميكي: تقوم الطريقة بتحسين $C$ باستمرار بناءً على خسارة التحقق الخاصة بالخادم، مما يتكيف مع الديناميكيات المتغيرة لعملية التدريب.
الكفاءة الحسابية: تقلل هذه الطريقة من وقت البحث الشبكي للمعلمات الفائقة بمقدار 5 إلى 15 ضعفًا مقارنة بالطرق التكيفية الحالية.

4. النتائج التجريبية

قيم المؤلفون DP-LAC على اختبارات GLUE (SST-2, QNLI, MNLI) باستخدام TinyLlama-1B وعلى مجموعة بيانات SAMSum باستخدام Qwen3-4B، تحت ميزانيات خصوصية متفاوتة ( $\epsilon = 2, 4, 8$ ).

مكاسب الأداء: يتفوق DP-LAC على كل من DP-SGD التقليدي وطرق القص التكيفية المرجعية (مثل Andrew et al., Du et al., Bu et al.). حيث حقق متوسط زيادة في الدقة قدرها 6.6% عبر مجموعات البيانات وأنظمة الخصوصية.
المتانة تجاه الضبط: تحت ظروف "المعلمات الفائقة الافتراضية" (بدون ضبط للنماذج المرجعية)، يتفوق DP-LAC على جميع النماذج المرجعية. وحتى عندما تخضع النماذج المرجعية لعملية تحسين دقيقة للمعلمات الفائقة للخصوصية (مستهلكةً 1/3 ميزانية الخصوصية للضبط)، يحقق DP-LAC (الذي يستخدم الميزانية كاملة) أفضل أو ثاني أفضل النتائج في معظم السيناريوهات.
دقة التهيئة: تتبع العتبة الأولية المقدرة بخصوصية ( $C_{hist}$ ) القيمة المثلى غير الخاصة ( $C^*$ ) ضمن رتبة مقدار واحدة، مما يؤكد فعالية التقدير بالمخطط التكراري.
القابلية للتوسع: تظهر الطة متانة عبر مختلف رتب LoRA وأحجام النماذج (من 1 مليار إلى 4 مليارات معلمة)، مع الحفاظ على أداء تنافسي حتى في أنظمة الخصوصية القوية ( $\epsilon=4$ ).

5. الأهمية والادعاءات

يزعم البحث أن DP-LAC يجعل التدريب التعاوني للنماذج اللغوية الكبيرة مع الحفاظ على الخصوصية أكثر سهولة من خلال معالجة "المقايضة الدقيقة بين الانحياز والتباين" المتأصلة في التعلم الاتحادي المعتمد على الخصوصية التفاضلية دون عبء الضبط اليدوي.

الواقعية: من خلال إزالة الحاجة إلى الضبط المضني للمعلمات الفائقة وتقليل أوقات البحث بمقدار رتبة عشرية، تخفض هذه الطريقة حاجز الدخول لنشر التعلم الاتحادي المعتمد على الخصوصية في سيناريوهات العالم الحقيقي.
الكفاءة: تحقق الطريقة فائدة (دقة) فائقة مع الالتزام الصارم بضمانات الخصوصية، مما يثبت أن القص التكيفي يمكن أن يتم دون "تآكل ميزانية الخصوصية" من خلال تكاليف الضبط.
العمل المستقبلي: يشير المؤلفون بتواضع إلى أن العمل المستقبلي سيمتد لتقييم هذه الطريقة على وسائط أخرى واستكشاف إحصائيات بديلة لتقدير عتبة القص الأولية.

يخلص البحث إلى أن DP-LAC يمثل خطوة مهمة للأمام في جعل الضبط الدقيق الاتحادي للنماذج اللغوية الكبيرة المعتمد على الخصوصية التفاضلية فعالاً وممكناً من الناحية التشغيلية.