💬 NLP

Representation-Guided Parameter-Efficient LLM Unlearning

تقترح هذه الورقة طريقة "إعادة التشكيل الموجهة بالتمثيل ذات الرتبة المنخفضة" (REGLU)، وهي طريقة جديدة فعالة من حيث المعلمات تستفيد من الخصائص الهندسية لفضاءات التمثيل للتغلب على المقايضة بين النسيان والاحتفاظ، وذلك عبر تهيئة "LoRA" في فضاء فرعي أمثل وتقييد التحديثات في المتمم المتعامد لتمثيلات مجموعة الاحتفاظ، مما يحقق جودة تعلم نسيان فائقة مع الحفاظ على فائدة النموذج.

المؤلفون الأصليون: Zeguan Xiao, Lang Mo, Yun Chen, Lei Yang, Jiehui Zhao, Lili Yang, Guanhua Chen

نُشر 2026-04-21

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Zeguan Xiao, Lang Mo, Yun Chen, Lei Yang, Jiehui Zhao, Lili Yang, Guanhua Chen

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

إليك شرح لورقة البحث "Representation-Guided Parameter-Efficient LLM Unlearning" (ReGLU)، مقسمة إلى مفاهيم بسيطة مع تشبيهات إبداعية.

المشكلة الكبرى: الدماغ "الذي لا ينسى"

تخيل أن لديك مساعداً ذكياً للغاية (نموذج لغوي كبير أو LLM) قد قرأ كل شيء تقريباً على الإنترنت. إنه مفيد للغاية، لكن لديه عيب: لقد حفظ بعض الأشياء التي لا ينبغي له معرفتها، مثل مذكراتك الخاصة، أو قصص محمية بحقوق الطبع والنشر، أو تعليمات خطيرة حول كيفية صنع قنبلة.

أنت تريد أن تقول للذكاء الاصطناعي: "من فضلك انسَ هذا الشيء السيئ تحديداً، ولكن احتفظ بكل ما تعرفه غير ذلك."

هذا ما يسمى "تعلم الآلة العكسي" (Machine Unlearning).

الطريقة القديمة (نهج "المطرقة الثقيلة"):
في السابق، لكي تجعل الذكاء الاصطناعي ينسى، كان الباحثون يحاولون "إعادة تدريب" الدماغ بأكمله من الصفر بدون تلك البيانات السيئة. هذا يشبه محاولة إصلاح خطأ مطبعي في كتاب مكون من 1000 صفحة عن طريق إعادة كتابة الكتاب بأكمله. يستغرق الأمر وقتاً طويلاً، ويكلف ثروة، وغالباً ما يؤدي في هذه العملية -أثناء محاولة إصلاح الخطأ المطبعي- إلى مسح حبكة القصة (المعرفة المفيدة) عن طريق الخطأ.

الطريقة الجديدة (نهج "المشرط"):
مؤخراً، طور العلماء تقنية تسمى LoRA (التكيف منخفض الرتبة). بدلاً من إعادة كتابة الكتاب بأكمله، تضيف LoRA "ملحوظة لاصقة" صغيرة أو "طبقة فوقية" على الصفحات الموجودة لتغيير المخرجات. إنها أسرع وأرخص بكثير.

العقبة:
حتى مع طريقة "الملحوظة اللاصقة"، هناك مشكلة. دماغ الذكاء الاصطناعي فوضوي. فغالباً ما تتعامل خلية عصبية واحدة (جزء صغير من الدماغ) مع عديد من المفاهيم المختلفة في آن واحد (مثل السكين السويسري). إذا حاولت تعديل تلك الخلية العصبية لتنسى "الأغاني المحمية بحقوق النشر"، فقد تكسر بالخطأ قدرتها على كتابة "القصائد" أو "الأكواد البرمجية". وهذا ما يسمى "مقايضة النسيان مقابل الاحتفاظ" (Forget-Retain Trade-off).

الحل: ReGLU (نظام الـ "GPS الهندسي")

يقول مؤلفو هذه الورقة، ReGLU: "توقفوا عن محاولة تخمين أي الخلايا العصبية يجب تعديلها. بدلاً من ذلك، دعونا ننظر إلى شكل الأفكار".

يقترحون استراتيجية من خطوتين تعامل معرفة الذكاء الاصطناعي كأنها خريطة من الاتجاهات في الفضاء.

الخطوة 1: RILA (نقطة البداية الذكية)

التشبيه: تخيل أنك تحاول توجيه قارب بعيداً عن شعاب مرجية خطيرة (البيانات السيئة) ولكن مع البقاء في مسار الشحن الرئيسي (البيانات الجيدة).
الطريقة القديمة: أنت تخمن الاتجاه الذي ستنعطف إليه بناءً على حدس حول أجزاء محرك القارب.
طريقة ReGLU: قبل أن تبدأ المحرك حتى، تنظر إلى الخريطة. تقوم بحساب الاتجاه الدقيق حيث تكون "الشعاب المرجية" صاخبة و"مسار الشحن" هادئاً. ثم تضبط دفة القارب لتشير بالضبط في ذلك الاتجاه منذ البداية.
بالمصطلحات التقنية: يقومون بتحليل "التمثيلات" (أشكال البيانات الداخلية) للبيانات السيئة مقابل البيانات الجيدة. يجدون "فضاءً فرعياً" رياضياً (اتجاهاً محدداً) حيث تتغير البيانات السيئة كثيراً، بينما تظل البيانات الجيدة ثابتة. ثم يقومون بتهيئة "الملحوظة اللاصقة" (LoRA) لتشير إلى ذلك الاتجاه تماماً. هذا يمنحهم انطلاقة قوية جداً.

الخطوة 2: ROL (حاجز الحماية)

التشبيه: الآن بعد أن بدأت في توجيه القارب، تحتاج للتأكد من أنك لن تنحرف نحو مسار الشحن أثناء محاولتك تجنب الشعاب المرجية.
الطريقة القديمة: أنت فقط تأمل ألا تنحرف.
طريقة ReGLU: تقوم بتثبيت حاجز حماية سحري. هذا الحاجز هو قاعدة رياضية تقول: "مهما كان اتجاه دورانك، يجب أن يكون حركتك عمودية (بزاوية 90 درجة) على اتجاه مسار الشحن".
بالمصطلحات التقنية: يضيفون "دالة خسارة" (قاعدة جزاء) أثناء التدريب. إذا حاول تحديث الذكاء الاصطناعي التحرك في اتجاه "البيانات الجيدة"، فإن النظام يوبخه ويدفعه للعودة. إنه يجبر الذكاء الاصطناعي على التغيير فقط في الاتجاهات التي لا تهتم بها "البيانات الجيدة".

لماذا هذا مهم (النتائج)

اختبرت الورقة هذا على تحديين مشهورين لـ "النسيان":

TOFU: جعل الذكاء الاصطناعي ينسى ملفات تعريف المؤلفين المزيفة المحددة.
WMDP: جعل الذكاء الاصطناعي ينسى المعرفة الخطيرة المتعلقة بالأمن البيولوجي والأمن السيبراني.

النتائج:

نسيان أفضل: كان ReGLU أفضل بكثير في مسح المعلومات السيئة من الطرق السابقة.
احتفاظ أفضل: والأهم من ذلك، أنه لم يفسد قدرة الذكاء الاصطناعي على القيام بالمهام الأخرى. لقد حافظ على "الأشياء الجيدة" سليمة.
الكفاءة: كان أيضاً سريعاً بشكل مفاجئ. نظرًا لأنهم يحتاجون فقط للنظر إلى البيانات مرة واحدة لرسم الخريطة (حساب الهندسة) بدلاً من إجراء ملايين الحسابات للعثور على الخلايا العصبية الصحيحة، فإن ذلك يوفر الوقت والمال.

ملخص في جملة واحدة

ReGLU هي طريقة جديدة لجعل الذكاء الاصطناعي ينسى الذكريات السيئة عن طريق رسم خريطة رياضية لـ "اتجاهات" المعرفة الجيدة مقابل السيئة، ثم توجيه تحديثات الذكاء الاصطناعي بدقة على طول مسار الأشياء السيئة مع بناء جدار لحماية الأشياء الجيدة.

إنه يشبه تعليم طالب كيفية نسيان إجابة خاطئة ليس عن طريق مسح دفتر ملاحظاته بالكامل، بل من خلال إظهار الصفحة التي يجب شطبها بالضبط دون تلطيخ بقية النص.

إليك ملخص تقني مفصل لورقة البحث بعنوان "التعلم الموجه بالتمثيل لرفع كفاءة معلمات نماذج اللغات الكبيرة في عملية النسيان" (ReGLU).

1. تعريف المشكلة

غالبًا ما تقوم نماذج اللغات الكبيرة (LLMs) بحفظ معلومات حساسة، أو محمية بحقوق الطبع والنشر، أو ضارة، مما يستلزم عملية "نسيان آلي" (Machine Unlearning) لإزالة معرفة محددة دون الحاجة لإعادة التدريب من الصفر.

التحدي: تعاني طرق النسيان الحالية الموفرة للمعلمات (مثل تلك التي تستخدم LoRA) من مشكلة المقايضة بين النسيان والاحتفاظ (forget-retain trade-off). فتقليل الأداء على "مجموعة النسيان" ( $D_f$ ) غالبًا ما يؤدي إلى تدهور الأداء على "مجموعة الاحتفاظ" ( $D_r$ ).
السبب الجذري: تعتمد الطرق الحالية على مقاييس أهمية المعلمات (مثل معلومات فيشر) لتحديد المعلمات التي يجب تحديثها. ومع ذلك، وبسبب ظاهرة التراكب (superposition phenomenon) في نماذج اللغات الكبيرة، غالبًا ما تكون المعلمات الفردية متعددة المعاني (متضمنة في مفاهيم متعددة). وهذا يجعل من الصعب فصل المعلمات المتعلقة بمجموعة النسيان فقط عن تلك الضرورية لمجموعة الاحتفاظ، مما يؤدي إلى نسيان كارثي أو نسيان غير فعال.

2. المنهجية: ReGLU

يقترح المؤلفون إطار عمل "التعلم المنخفض الرتبة الموجه بالتمثيل" (Representation-Guided Low-rank Unlearning - ReGLU)، وهو إطار ينقل التركيز من أهمية المعلمات إلى الخصائص الهندسية لفضاءات التمثيل. يتكون ReGLU من مكونين أساسيين:

أ. RILA: التهيئة الموجهة بالتمثيل للتكيف منخفض الرتبة

بدلاً من تهيئة مصفوفات LoRA عشوائيًا أو بناءً على أهمية المعلمات، تقوم RILA بتهيئتها لتتماشى مع فضاء فرعي يعظم الفرق بين مجموعتي النسيان والاحتفاظ.

الآلية: تقوم بحساب مصفوفات التباين (covariance matrices) لمخرجات الطبقات (التمثيلات) لكل من مجموعة النسيان ( $Cov_F$ ) ومجموعة الاحتفاظ ( $Cov_R$ ).
التباين المتوازن: تقوم ببناء مصفوفة تباين متوازنة: $Cov_\Delta = (1 - \beta)Cov_F - \beta Cov_R$ ، حيث يوازن $\beta$ عملية المقايضة.
التهيئة: يتم تهيئة مصفوفات LoRA ( $A$ و $B$ ) باستخدام أعلى $r$ من المتجهات الذاتية (eigenvectors) لـ $Cov_\Delta$ .
الهدف: يضمن ذلك أن اتجاه التحديث الأولي يعظم التباين لمجموعة النسيان بينما يقلل التباين لمجموعة الاحتفاظ، مما يوفر نقطة بداية مثالية للنسيان الانتقائي.

ب. ROL: فقدان التعامد التمثيلي (Representation Orthogonal Loss)

لمنع عملية النسيان من التدخل مع المعرفة المحتفظ بها أثناء التدريب، يتم إضافة حد تنظيم (regularization term).

الآلية: تحدد الفضاء الفرعي الرئيسي لتمثيلات مجموعة الاحتفاظ (عبر تحليل القيم الذاتية لـ $Cov_R$ ) لتشكيل أساس متعامد $P_B$ .
دالة الفقدان: دالة الفقدان $L_{ROL} = \|B^\top P_B\|_F^2$ تعاقب أي توافق بين مصفوفة الرفع العلوي لـ LoRA ( $B$ ) والفضاء الفرعي الرئيسي لمجموعة الاحتفاظ.
الهدف: هذا يجبر تحديثات LoRA على الاستقرار في المتمم المتعامد (orthogonal complement) لفضاء تمثيل مجموعة الاحتفاظ، مما يضمن أن التحديثات تؤثر على مجموعة النسي_ دون المساس بمجموعة الاحتفاظ.

ج. الهدف الإجمالي

تجمع دالة الفقدان الإجمالية بين هدف النسيان (مثل صعود التدرج Gradient Ascent أو IHL)، وفقدان الاحتفاظ، وتنظيم ROL:
$L_{total} = L_{forget}(D_f) + \gamma L_{retain}(D_r) + \lambda L_{ROL}$

3. المساهمات الرئيسية

تحول في النموذج الفكري: نقل عملية نسيان النماذج اللغوية الكبيرة من أهمية المعلمات (التي تفشل بسبب التراكب) إلى هندسة التمثيل (التي يمكن فصلها بشكل أكثر فعالية).
إطار عمل مبتكر: تقديم ReGLU، الذي يجمع بين RILA (التهيئة الهندسية) و ROL (التنظيم المتحكم فيه بالفضاء الفرعي).
ضمان نظري: تقديم نظرية تثبت أن التهيئة المقترحة تعظم "الطاقة التفاضلية" (differential energy) بين مجموعتي النسيان والاحتفاظ عند بدء التدريب.
الكفاءة: إثبات أن RILA فعالة حاسوبيًا، حيث تتطلب فقط عمليات تمرير أمامي وتحليل القيم الذاتية (قابلة للتوسع عبر SVD العشوائي)، متجنبة حسابات التدرج المكلفة المطلوبة بالطرق القائمة على معلومات فيشر.

4. النتائج التجريبية

قيم المؤلفون ReGLU على TOFU (ملفات تعريف المؤلفين الاصطناعية) و WMDP (أسئلة الأمن البيولوجي/السيبراني) عبر نماذج مثل Llama-2-7B و Phi-1.5 و Zephyr-7B.

الأداء: تفوق ReGLU باستمرار على الخطوط المرجعية (baselines) ذات الحالة الراهنة (مثل FILA و VILA) مع مختلف دوال الفقدان (GD, IHL).
- TOFU: حقق أعلى درجات جودة النسيان (FQ). على سبيل المثال، في Llama-2-7B مع IHL، حقق ReGLU درجة FQ بلغت -2.4 (كلما ارتفعت الدرجة كان أفضل، بمقياس لوغاريتمي)، وهي أفضل بكثير من VILA (-7.2) و FILA (-6.9).
- WMDP: حقق أدنى دقة في مجموعات النسيان (مما يشير إلى نجاح النسيان). أدى GD + ReGLU إلى خفض دقة البيو/السيبراني إلى 35.1%، متفوقًا على GD + VILA (38.1%).
الحفاظ على الفائدة (Utility Preservation): حافظت جميع الطرق على 95% على الأقل من فائدة النموذج الأصلي (مقاسة بـ MMLU أو المتوسط الهندسي للمقاييس الأخرى)، مما يثبت أن ReGLU يقلل من النسيان الكارثي.
دراسات الاستبعاد (Ablation Studies): أكدت أن كلاً من RILA (التهيئة) و ROL (التنظيم) ضروريان؛ حيث يؤدي استخدامهما معًا إلى أفضل النتائج، مما يظهر تآزرًا قويًا.
تحليل الآلية:
- التهيئة: حققت RILA نسبة طاقة أعلى بكثير بين النسيان والاحتفاظ عند التهيئة مقارنة بـ FILA/VILA.
- التعامد: حافظ ReGLU على أعلى درجة تعامد (0.87) بين تحديثات LoRA والفضاء الفرعي للاحتفاظ، مقارنة بـ 0.70 لـ FILA.

5. الأهمية والقيود

الأهمية:

يقدم ReGLU حلاً قويًا لـ مقايضة النسيان والاحتفاظ من خلال الاستفادة من البنية الهندسية للتمثيلات العصبية بدلاً من الاعتماد على مقاييس أهمية المعلمات غير الموثوقة.
يوفر بديلًا موفرًا للمعلمات وقابلًا للتوسع للنماذج الضخمة (70B+) باستخدام SVD العشوائي، مما يجعله عمليًا للنشر في العالم الحقيقي حيث يكون التدريب الكامل دقيقًا للغاية ومكلفًا.

القيود:

العبء الإضافي للتهيئة: يتطلب حساب مصفوفات التباين وتحليل القيم الذاتية لكل طبقة، مما يضيف تكلفة لمرة واحدة (رغم أنها لا تزال أقل من التدريب الكامل).
تمثيل البيانات: تعتمد جودة الفضاءات الفرعية المحددة على المجموعات الفرعية الصغيرة من البيانات المستخدمة لتقدير التباين؛ إذ قد تؤدي العينات غير الممثلة للواقع إلى تقليل الفعالية.
الحساسية للمعلمات الفائقة (Hyperparameters): الأداء حساس لرتبة LoRA ( $r$ ) ومعامل التوازن ( $\beta$ )، مما يتطلب ضبطًا دقيقًا.
النطاق: التقييم حاليًا محدود بمعايير TOFU و WMDP؛ وتتطلب دراسة التعميم عبر المجالات الأوسع المزيد من البحث.