🤖 machine learning

Mitigating Unintended Memorization with LoRA in Federated Learning for LLMs

تُثبت هذه الورقة أن دمج التكيف منخفض الرتبة (LoRA) في التعلم الاتحادي للنماذج اللغوية الكبيرة يقلل بشكل كبير من الحفظ غير المقصود لبيانات التدريب الحساسة عبر مختلف أحجام النماذج والمجالات، مع الحفاظ على الأداء وتوفير التوافق مع التقنيات الأخرى الحافظة للخصوصية.

المؤلفون الأصليون: Thierry Bossy, Julien Vignoud, Tahseen Rabbani, Juan R. Troncoso Pastoriza, Martin Jaggi

نُشر 2026-03-10

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Thierry Bossy, Julien Vignoud, Tahseen Rabbani, Juan R. Troncoso Pastoriza, Martin Jaggi

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

إليك شرح لورقة بحثية بعنوان "التخفيف من الحفظ غير المقصود باستخدام LoRA في التعلم الاتحادي للنماذج اللغوية الكبيرة" باستخدام لغة بسيطة وتشبيهات إبداعية.

المشكلة الكبرى: "الطالب شديد التركيز"

تخيل أن لديك طالباً عبقرياً (نموذج ذكاء اصطنا-ي) يستعد لامتحان نهائي. لقد أعطيته مجموعة من الكتب المدرسية التي تحتوي على أسرار حساسة: سجلات طبية، عقود قانونية، وكشوفات بنكية.

أنت تريد من الطالب أن يتعلم المفاهيم (كيفية تشخيص مرض، أو كيفية صياغة عقد) ولكنك لا تريد منه أن يحفظ الأسماء أو التواريخ أو أرقام الحسابات المحددة من تلك الكتب.

المشكلة: النماذج اللغوية الكبيرة (LLMs) تشبه الطلاب الذين يمتلكون ذاكرة تصويرية. إذا درس الطالب صفحة معينة عدة مرات، فإنه لن يتعلم الدرس فحسب، بل سيحفظ الصفحة كلمة بكلمة. إذا سأله شخص ما: "ما هي الجملة الأولى في الصفحة 42؟"، فقد يلقيها بدقة تامة، مما يؤدي إلى تسريب أسرار خاصة عن غير قصد. هذا ما يسمى بـ "الحفظ غير المقصود".

الإطار العام: "مجموعة الدراسة" (التعلم الاتحادي - Federated Learning)

عادةً، لتدريب هذه النماذج، يقوم الجميع بوضع كتبهم في مكتبة ضخمة واحدة (التعلم المركزي). لكن هذا أمر محفوف بالمخاطر لأنه إذا تم اختراق المكتبة، ستضيع جميع الأسرار.

بدلاً من ذلك، يستخدم الباحثون التعلم الاتحادي (FL). تخيل مجموعة دراسية حيث:

المريض (أ) لديه كتاب طبي.
المحامي (ب) لديه كتاب قانوني.
المصرفي (ج) لديه كتاب مالي.

هم لا يتشاركون كتبهم. بدلاً من ذلك، يدرس كل منهم كتابه الخاص، ويكتب ملاحظاته (التحديثات الرياضية)، ويرسل الملاحظات فقط إلى معلم مركزي. يقوم المعلم بدمج الملاحظات لتحديث عقل الطالب الرئيسي، ثم يعيد "العقل الجديد" إلى الجميع.

العقبة: حتى في مجموعة الدراسة هذه، لا يزال الطالب بارعاً جداً في الحفظ. إذا رأى الطالب سجلاً طبياً معيناً لمرات كافية، فقد يقوم بتسريبه رغم أن الكتب لم تغادر أيدي أصحابها.

الحل: "استراتيجية التظليل" (LoRA)

تقدم الورقة البحثية تقنية تسمى LoRA (التكيف منخفض الرتبة).

تخيل أن عقل الطالب عبارة عن موسوعة ضخمة ومعقدة.

الضبط الدقيق الكامل (الطريقة القديمة): يشبه هذا إعادة كتابة الموسوعة بأكملها لتعلم موضوع جديد. أنت تغير كل صفحة، وكل تعريف، وكل فهرس. إنها عملية ثقيلة وبطيئة، ولأنك تغير كل شيء، فإنك تعيد كتابة قواعد "عدم الحفظ" بالخطأ، مما يجعل الطالب يحفظ الأمثلة المحددة بدقة مفرطة.
تقنية LoRA (الطريقة الجديدة): تشبه إعطاء الطالب قلم تظليل (Highlighter) ودفتر ملاحظات صغير (Sticky notes). بدلاً من إعادة كتابة الكتاب بأكمله، يكتب الطالب فقط ملاحظات جديدة على الأوراق اللاصقة ويظلل المفاهيم الرئيسية. إنه يترك الموسوعة الأصلية كما هي تماماً دون تغيير.

لماذا يساعد هذا في الخصوصية:
لأن الطالب يقوم فقط بإجراء تعديلات صغيرة ومحددة (الملاحظات اللاصقة) بدلاً من تغيير ذاكرته بالكامل، فإنه يكون أقل عرضة لـ "حفر" التفاصيل الخاصة المحددة في ذاكرته الدائمة. إنه يتعلم المهارة دون حفظ التفاصيل المحددة.

النتائج الرئيسية (التقرير الدراسي)

اختبر الباحثون هذه التقنية على نماذج تتراوح من صغيرة (1 مليار معلمة) إلى ضخمة (70 مليار معلمة) في مجالات الطب والقانون والتمويل. وإليكم ما وجدوه:

سحر LoRA: قللت تقنية LoRA من احتمالية تسريب الذكاء الاصطناست للبيانات الخاصة بمقدار يصل إلى 10 أضعاف مقارنة بالطريقة القديمة "إعادة كتابة كل شيء".
لا عقوبة على الأداء: عادةً، عندما تحاول حماية الخصوصية، يصبح الذكاء الاصطناعي أقل ذكاءً. لكن هنا، حافظت "استراتيجية التظليل" (LoRA) على ذكاء ودقة الذكاء الاصطناعي تماماً مثل الطريقة القديمة. لقد كان فوزاً مجانياً للخصوصية.
مجموعة الدراسة تعمل: الإعداد الخاص بـ "التعلم الاتحادي" (حيث لا يتم مشاركة الكتب) ساعد في تقليل الحفظ قليلاً، لكن ليس بما يكفي وحده. دمج "مجموعة الدراسة" مع "استراتيجية التظليل" (LoRA) كان هو المزيج الفائز.
الأكبر ليس دائماً الأفضل: من المثير للاهتمام أن النماذج الأكبر (70B) لم تحفظ دائماً أكثر من النماذج المتوسطة في هذا الإعداد المحدد، لكنها كانت تحفظ أكثر إذا أُجبرت على إعادة كتابة عقلها بالكامل (الضبط الدقيق الكامل).

"الخلطة السرية" (المعلمات الفائقة - Hyperparameters)

وجد الباحثون أيضاً أن حجم "دفتر الملاحظات" مهم.

إذا كان الدفتر صغيراً جداً (رتبة منخفضة - Low Rank)، فسيتعلم الذكاء الاصطناعي القليل جداً.
إذا كان الدفتر كبيراً جداً (رتبة عالية - High Rank)، فإنه سيبدأ في التصرف مثل الطريقة القديمة "إعادة كتابة كل شيء" وسيحفظ الكثير من البيانات.
هناك "منطقة ذهبية" حيث يكون الدفتر مثالياً لتعلم المهارات دون سرقة الأسرار.

الخلاصة

تثبت هذه الورقة أنه يمكننا تعليم الذكاء الاصطناعي أن يكون خبيراً في المجالات الحساسة (مثل الطب والقانون) دون أن يتحول إلى "إسفنجة مسربة" تنضح بأسرار الجميع.

باستخدام LoRA، نحن نخبر الذكاء الاصطنا-ي فعلياً: "تعلم قواعد اللعبة، ولكن لا تحفظ أسماء اللاعبين المحددين". إنها طريقة بسيطة، فعالة، ومنخفضة التكلفة للحفاظ على خصوصية بياناتنا مع الاستفادة من قدرات الذكاء الاصطناعي القوية.

باخت-ة: لا تعد كتابة المكتبة بأكملها لتعلم موضوع جديد؛ فقط أضف بعض الملاحظات اللاصقة. إنها أسرع، وأرخص، وتحافظ على الأسرار آمنة.

إليك ملخص تقني مفصل للورقة البحثية بعنوان "تخفيف الحفظ غير المقصود باستخدام LoRA في التعلم الاتحادي للنماذج اللغوية الكبيرة".

1. بيان المشكلة

صُممت النماذج اللغوية الكبيرة (LLMs) التي يتم تدريبها عبر التعلم الاتحادي (Federated Learning - FL) لحماية خصوصية البيانات من خلال إبقاء البيانات محلية لدى العملاء. ومع ذلك، تشير الدراسات الحديثة إلى أن النماذج اللغوية الكبيرة المدربة اتحادياً لا تزال تعاني من الحفظ غير المقصود (unintended memorization)، حيث تقوم النماذج باسترجاع بيانات التدريب الحساسة (مثل السجلات الطبية أو الوثائق القانونية) عند تلقيها بادئات (prefixes) محددة.

الفجوة: بينما أُثبت سابقاً أن التعلم الاتحادي يقلل من الحفظ في النماذج الصغيرة (مثل LSTMs)، فإن فعاليته ضد نماذج الـ Transformer الحديثة ذات المليارات من المعلمات لا تزال غير واضحة.
التحدي: عملية الضبط الدقيق (Fine-tuning) لهذه النماذج الضخمة مكلفة حوسبياً. علاوة على ذلك، فإن تقنيات الحفاظ على الخصوصية الموجودة حالياً مثل الخصوصية التفاضلية (Differential Privacy - DP) غالباً ما تتسبب في تراجع كبير في الأداء. هناك حاجة إلى منهجية تقلل من الحفظ دون التضحية بأداء المهام اللاحقة أو تتطلب عبئاً حوسبياً هائلاً.

2. المنهجية

يقترح المؤلفون ويقيمون تقنية Low-Rank Adaptation (LoRA) كآلية أساسية لتخفيف الحفظ في كل من بيئات التعلم الاتحادي (FL) والتعلم المركزي (CL).

الإعداد التجريبي:
- المجالات: القطاعات عالية المخاطر بما في ذلك الطب (التركيز الأساسي)، القانون، والتمويل.
- مجموعات البيانات: الضبط الدقيق على مجموعات بيانات الأسئلة والأجوبة الطبية (MedMCQA, PubMedQA, Medical Meadow) مع تعزيزها ببيانات "كناري" (canaries) حساسة (سجلات طبية اصطناعية أو حقيقية من مجموعة corpus i2b2).
- النماذج: تم التقييم عبر نطاق واسع من عائلات وأحجام النماذج: Llama-2 (7B)، Llama-3.2 (1B, 3B)، Mistral-v0.3 (7B)، و Llama-3.1 (70B).
- إعداد التعلم الاتحادي (FL): إعداد "cross-silo" مع 3 عملاء، كل منهم يمتلك بيانات غير متماثلة التوزيع (non-IID). يتم تحديث النموذج العالمي عبر خوارزمية (FedAvg).
- مقاييس الحفظ:
  - تطابق الرموز التام (Exact Token Match): إعادة إنتاج لاحقة الهدف حرفياً.
  - درجة BLEU: إعادة الإنتاج التقريبي (يُعتبر الحفظ محققاً إذا تجاوزت الدرجة 0.75).
  - طول السياق (Context Length): تم الاختبار مع أطوال بادئات (prefix) بلغت 10، 50، 100، 200، و 500 رمز (token).
  - تكرار البيانات: محاكاة سيناريوهات واقعية عن طريق تكرار السجلات الحساسة 10 مرات (و3 مرات في تحليل الحساسية) لاختبار الإفراط في التخصيص (overfitting).
التحليل المقارن:
- مقارنة LoRA (تحديث مصفوفات التكيف منخفضة الرتبة فقط) مقابل الضبط الدقيق الكامل (Full Fine-Tuning) (تحديث جميع المعلمات).
- مقارنة التعلم الاتحادي (FL) مقابل التعلم المركزي (CL) لعزل تأثير توزيع البيانات والتجميع.
- استقصاء المعلمات الفائقة (hyperparameters) مثل رتبة LoRA ( $r$ ) والجمع بينها وبين تقنيات الخصوصية الأخرى (تقليم التدرج Gradient Clipping، خسارة Goldfish، التجميع الآمن، والضوضاء Gaussian Noise).

3. المساهمات الرئيسية

الإثبات التجريبي لفائدة LoRA في الخصوصية: تقدم الورقة أول دليل تجريبي واسع النطاق على أن LoRA يقلل بشكل كبير من الحفظ غير المقصود في التعلم الاتحادي (بنسبة تصل إلى 10 أضعاف) مقارنة بالضبط الدقيق الكامل، مع خسارة ضئيلة أو معدومة في دقة المهام اللاحقة.
التعميم عبر النطاقات والمجالات: تظل النتائج ثابتة عبر أحجام النماذج من 1 مليار إلى 70 مليار معلمة، وتمتد إلى مجالات عالية المخاطر تتجاوز الطب، وتحديداً القانون والتمويل.
ديناميكيات الحفظ بين FL و CL: تكشف الدراسة أنه بينما يقلل التعلم الاتحادي (FL) بطبيعته من الحفظ مقارنة بالتعلم المركزي (CL) (بسبب البيانات غير المتماثلة وFedAvg)، فإن LoRA يوفر طبقة حماية إضافية في كلا الإعدادين. ومن الملاحظ أن أنماط تقليل الحفظ تختلف بين FL و CL، مما يشير إلى وجود مساحات تحسين (optimization landscapes) متميزة.
التآزر مع تقنيات الخصوصية الأخرى: يوضح المؤلفون أن LoRA يمكن دمجه مع طرق أخرى (مثل خسارة Goldfish، وتقليم التدرج، والتجميع الآمن) لتعزيز الخصوصية بشكل أكبر دون المساس بالفائدة.
الفرضيات النظرية: تقدم الورقة تفسيرات نظرية محتملة، حيث تقترح أن LoRA يعمل كـ منظم (regularizer) يقلل من "الإفراط في التخصيص الحميد" (benign overfitting) عن طريق حصر التحديثات في فضاء فرعي منخفض الأبعاد، مما يؤدي فعلياً إلى تجاهل المتجهات المفردة الصغرى التي تشفر ضجيج بيانات التدريب المحددة.

4. النتائج الرئيسية

تقليل الحفظ: قللت LoRA درجات الحفظ بمعامل يصل إلى 10 أضعاف مقارنة بالضبط الدقيق الكامل. في أسوأ الحالات (تكرار البيانات 10 مرات، وبادئة بطول 500 رمز)، أظهر الضبط الدقيق الكامل معدلات حفظ عالية، بينما حافظت LoRA عليها قريبة من الصفر.
مقايضة الأداء: حققت LoRA دقة مهام لاحقة مماثلة أو أفضل قليلاً من الضبط الدقيق الكامل. وفي بعض الحالات، وصلت LoRA إلى ذروة الدقة بشكل أسرع وتجنبت مرحلة ثبات الإفراط في التخصيص التي شهدها الضبط الدقيق الكامل.
تأثير رتبة LoRA: توجد علاقة مباشرة بين رتبة Lo ( $r$ ) والحفظ. أدت الرتب المنخفضة (مثل $r=4$ ) إلى حفظ يقترب من الصفر، بينما اقتربت الرتب العالية (مثل $r=1024$ ) من مستويات الحفظ الخاصة بالضبط الدقيق الكامل.
الاختلافات في بنية النماذج: تباينت فعالية LoRA حسب بنية النموذج. على سبيل المثال، قللت LoRA الحفظ بشكل جذري في Llama-2-7B، لكن تأثيرها كان أقل وضوحاً في Mistral-v0.3-7B، مما يشير إلى أن الميزات المعمارية (مثل Grouped-Query Attention مقابل Multi-Head Attention) تؤثر على ديناميكيات الحفظ.
الدمج مع أدوات الخصوصية:
- خسارة Goldfish: أدى الجمع بين LoRA وخسارة Goldfish إلى تحقيق حفظ أقل مما حققه أي منهما بمفرده.
- تقليم التدرج (Gradient Clipping): تطبيق تقليم التدرج (بدون ضوضة) حسن كلاً من الدقة والخصوصية.
- التجميع الآمن: استخدام التشفير المتماثل (FHE) والحوسبة متعددة الأطراف الآمنة (SMPC) لم يضف سوى عبء حوسبي ضئيل مع حماية ضد الخوادم التي تعمل بنزاهة ولكن بفضول (honest-but-curious).

5. الأهمية والآثار المترتبة

الخصوصية العملية للتعلم الاتحادي (FL): يرسخ هذا العمل LoRA ليس فقط كأداة كفاءة حوسبية، بل كـ آلية للحفاظ على الخصوصية. فهي توفر مكسباً "مجانيًا" في الخصوصية للمؤسسات التي تنشر التعلم الاتحادي لنماذج لغوية كبيرة حساسة، مما يقلل الحاجة إلى تطبيقات الخصوصية التفاضلية (DP) المعقدة والمضعفة للأداء.
إعادة تعريف معايير الضبط الدقيق: تشير النتائج إلى أنه بالنسبة للمجالات الحساسة، قد يكون الضبط الدقيق الكامل مخاطرة غير ضرورية. لذا، يجب اعتبار LoRA الاستراتيجية الافتراضية للضبط الدقيق للنماذج اللغوية الكبيرة على البيانات الخاصة.
معالجة أسطورة "الحل الشامل": يوضح المؤلفون أنه رغم قدرة LoRA على تخفيف الحفظ بشكل كبير، إلا أنها لا تقضي عليه تماماً. يجب النظر إليها كطبقة قوية ضمن استراتيجية "الدفاع المتعدد الطبقات" وليس كحل نهائي وحيد.
الاتجاهات المستقبلية: تسلط الورقة الضوء على الحاجة إلى أطر نظرية لتفسير لماذا يقلل التحديث منخفض الرتبة من الحفظ (بالربط مع الإفراط في التخصيص الحميد و $\delta$ -compression)، وتدعو إلى مزيد من الدراسة حول إعدادات التعلم الاتحادي واسعة النطاق عبر الأجهزة.

الخلاصة: تجادل الورقة بنجاح بأن LoRA هي استراتيجية فعالة للغاية ومنخفضة التكلفة لتخفيف الحفظ غير المقصود في التعلم الاتفادي، مما يجعلها مكوناً حاسماً للنشر الآمن للنماذج اللغوية الكبيرة في الصناعات الحساسة مثل الرعاية الصحية، القانون، والتمويل.