🤖 machine learning

Distinguishable Deletion: Unifying Knowledge Erasure and Refusal for Large Language Model Unlearning

تقترح هذه الورقة البحثية "الحذف المتميز" ( $\mathrm{D^2}$ )، وهو نموذج موحد يتم تنفيذه عبر "محاذاة نسيان المعرفة القائمة على الطاقة" (EUA)، والذي يعمل بفعالية على محو المعرفة غير المرغوب فيها وضمان الرفض الآمن من خلال التلاعب بتوزيعات الاستجابة في الفضاء الكامن بدلاً من كبت رموز محددة، مما يتغلب على قيود الطرق الحالية لحذف المعرفة والرفض المتميز.

المؤلفون الأصليون: Puning Yang, Junchi Yu, Qizhou Wang, Philip Torr, Bo Han, Xiuying Chen

نُشر 2026-05-19

📖 5 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Puning Yang, Junchi Yu, Qizhou Wang, Philip Torr, Bo Han, Xiuying Chen

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل نموذج لغة ضخم (LLM) على أنه أمين مكتبة مهووس للغاية. هذا الأمين قد قرأ كل كتاب في العالم ويمكنه الإجابة على أي سؤال تقريبًا. ومع ذلك، قد يكون قد حفظ أحيانًا معلومات حساسة أو خاصة أو ضارة (مثل عيد ميلاد سري لمشهور أو تعليمات حول كيفية صنع جهاز خطير) التي لا ينبغي السماح له بمشاركتها.

الهدف من هذه الورقة البحثية هو تعليم أمين المكتبة هذا كيفية نسيان تلك المعلومات المحددة حقًا دون تدمير قدرته على الإجابة على كل شيء آخر، ودون أن يكتفي فقط بـ "التظاهر" بالنسيان.

يجادل المؤلفون، بونينغ يانغ وزملاؤه، بأن الطرق الحالية لجعل الذكاء الاصطناعي "ينسى" الأشياء معطلة بطريقتين محددتين. وهم يقترحون حلاً جديدًا يسمى الحذف المتميز (Distinguishable Deletion - D2)، المدعوم بطريقة يسمونها محاذاة النسيان القائمة على الطاقة (Energy-based Unlearning Alignment - EUA).

إليك تفصيل ذلك باستخدام تشبيهات بسيطة:

الطريقتان المعطلتان لـ "النسيان"

يحاول الباحثون حاليًا جعل الذكاء الاصطناعي ينسى بطريقتين، وكلتاهما تعاني من عيوب رئيسية:

طريقة "القلم الأحمر" (حذف المعرفة):
- كيف تعمل: تخيل أن قيل لأمين المكتبة: "إذا سُئلت عن 'عيد ميلاد باسل محفوظ الكويتي'، يجب ألا تذكر التاريخ أبدًا". يحاول أمين المكتبة مسح الكلمات المحددة مثل "09/05/1997" من دماغه.
- المشكلة: دماغ أمين المكتبة عبارة عن شبكة متشابكة من الروابط. إذا حاولت إزالة تلك الكلمات بدقة جراحية، فقد تمزق بالخطأ صفحة كاملة أو حتى الكتاب بأكمله. قد يبدأ أمين المكتبة في التلعثم، أو قول أشياء غير مفهومة، أو الهلوسة (اختلاق تواريخ مزيفة) لأنه أصبح مرتبكًا. هو لم ينسَ المفهوم فحًا، بل دمر قدرته على التحدث عنه.
- ادعاء الورقة: يؤدي هذا إلى "حذف منحاز" ومخرجات غير مستقرة وغير مفهومة.
طريقة "رجل الأمن" (الرفض المتميز):
- كيف تعمل: يحتفظ أمين المكتبة بجميع الكتب كما هي تمامًا (ليظل قادرًا على الإجابة على الأسئلة الأخرى بشكل مثالي). بدلاً من ذلك، يقوم بتعيين رجل أمن عند الباب. إذا سمع الرجل كلمة "باسل"، فإنه يمنع أمين المكتبة من الإجابة ويقول: "لا يمكنني التحدث عن هذا".
- المشكلة: أمين المكتبة لا يزال يعرف السر. إذا استخدم مخادع ذكي ("هجوم عدائي") كلمة سر أو طرح السؤال بطريقة غريبة، فإن رجل الأمن يرتبك، ويقوم أمين المكتبة ببث السر رغمًا عنه.
- ادعاء الورقة: هذه الطريقة هشة. فالمعرفة لا تزال موجودة، وتنتظر من يخدعها.

الحل الجديد: الحذف المتميز (D2)

يقترح المؤلفون طريقة ثالثة. بدلاً من مسح كلمات محددة أو تعيين حارس، يريدون تغيير "الحالة الداخلية" أو "الثقة" لأمين المكتبة فيما يتعلق بهذا الموضوع المحدد.

هم يقدمون مفهوم "مؤشر الطاقة" (Energy Index).

التشبيه: فكر في "الطاقة" كأنها مقياس للثقة.
- عندما يعرف أمين المكتبة حقيقة ما (مثل "باريس تقع في فرنسا")، يكون مقياس الثقة منخفضًا (من الناحية الفيزيائية، الطاقة المنخفضة تعني حالة مستقرة ومريحة). هو متأكد جدًا.
- عندما لا يعرف أمين المكتبة شيئًا ما، يكون مقياس الثقة مرتفعًا (الطاقة العالية تعني حالة فوضوية وغير مستقرة). هو يشعر بعدم اليقين والعشوائية.

الهدف: يريد المؤلفون تدريب أمين المكتبة بحيث عندما يُسأل عن عيد الميلاد السري، يرتفع "مقياس الثقة الداخلي" لديه إلى طاقة عالية (فوضى/عدم يقين). وهذا يعطي إشارة للنظام: "ليس لدي إجابة مهيكلة أو واثقة لهذا السؤال".

كيف يفعلون ذلك: محاذاة النسيان القائمة على الطاقة (EUA)

لتحقيق ذلك، يستخدمون عملية من خطوتين:

تدريب "الحالة المزاجية" (مرحلة التعلم):
هم لا يكتفون بقول "لا تذكر التاريخ" للنموذج. بل يعلمون النموذج أن الأسئلة حول الموضوع السري يجب أن تبدو "غير مريحة" أو "غير مؤكدة" داخليًا.
- هم ينشئون "هامش التفضيل الذاتي" (Self-Preference Margin). تخيل أن لدى أمين المكتبة "منطقة راحة" طبيعية لما يعرفه. يقوم النظام تلقائيًا بحساب الخط الفاصل بين "المعرفة المريحة" و"المجاهيل غير المريحة" بناءً على النزعات الطبيعية للنموذج.
- هم يجبرون النموذج على دفع الأسئلة "السرية" إلى منطقة "عدم الراحة".
آلية الرفض (مرحلة التنفيذ):
بمجرد تدريب النموذج، يصبح لديه حدود واضحة.
- سؤال عادي: "ما هي عاصمة فرنسا؟" -> يشعر النموذج بـ طاقة منخفضة (راحة) -> فيجيب بثقة.
- سؤال سري: "ما هو عيد ميلاد باسل؟" -> يشعر النموذج بـ طاقة عالية (عدم راحة/فوضى) -> يكتشف النظام هذا الارتفاع ويطلق رفضًا مهذبًا: "لا يمكنني الإجابة على هذا بسبب قيود الخصوصية".

لماذا هذا أفضل (النتائج)

تدعي الورقة أن هذه الطريقة الجديدة متفوقة لأنها:

نسيان حقيقي: على عكس طريقة "رجل الأمن"، يتم تعطيل المعرفة فعليًا. النموذج لا يكتفي بإخفاء الإجابة؛ بل يفقد الهيكل الداخلي الواثق الذي يسمح له بتوليد الإجابة.
مستقرة: على عكس طريقة "القلم الأحمر"، لا يبدأ النموذج في قول أشياء غير مفهومة. هو يعرف كيف يقول "لا أعرف" بتهذيب وترابط.
قوية: حتى لو حاول شخص ما خداع النموذج عبر "مطالبات الاختراق" (طرق غريبة في السؤال)، فإن إنذار "الطاقة العالية" الداخلي للنموذج سيظل يعمل، وسيرفض الإجابة.

ملخص

تقدم الورقة طريقة لجعل الذكاء الاصطناعي ينسى المعلومات الحساسة عن طريق تغيير ثقته الداخلية بدلاً من مجرد حذف الكلمات أو إضافة حارس.

الطريقة القديمة: "لا تقل كلمة 'عيد ميلاد'!" (تسبب تعثر الذكاء الاصطناعي وتعطله).
الطريقة القديمة 2: "إذا سمعت كلمة 'عيد ميلاد'، توقف عن الكلام!" (الذكاء الاصطناعي لا يزال يعرف السر ويمكن خداعه).
الطريقة الجديدة (D2): "عندما تفكر في 'عيد ميلاد'، اشعر بعدم اليقين والفوضى." (يرفض الذكاء الاصطناعي الإجابة بشكل طبيعي لأنه يشعر أنه لا يعرف، ويفعل ذلك بأمان واتساق).

لقد اختبر المؤلفون هذه الطريقة على نماذج مختلفة (مثل LLaMA و Qwen) ووجدوا أنها تعمل بشكل أفضل بكثير في إزالة المعرفة الضارة مع الحفاظ على ذكاء النموذج وفائدته في كل شيء آخر.

ملخص تقني: الحذف المتميز (D2)

1. بيان المشكلة

تمتلك النماذج اللغوية الكبيرة (LLMs) نزعة لحفظ واستعادة المعلومات الحساسة أو الخاصة أو الضارة، مما يثير مخاوف كبيرة تتعما بخصوص الخصوصية والعدالة والأمن. وبينما يهدف "إلغاء تعلم" النماذج اللغوية الكبيرة (LLM unlearning) إلى إزالة مثل هذه المعرفة غير المرغوب فيها بشكل انتقائي دون إعادة تدريب كاملة، تعاني الأساليب الحالية من قيود جوهرية في نموذجين سائدين:

حذف المعرفة (Knowledge Deletion - KD): تحاول أساليب مثل "تصاعد التدرج" (Gradient Ascent - GA) ومتغيراته (مثل DPO وNPO وWGA) مسح المعرفة عن طريق تعديل معاملات النموذج مباشرة لقمع تسلسلات الرموز (tokens) المستهدفة. ومع ذلك، نظرًا لأن تمثيلات المعرفة في النماذج اللغوية الكبيرة متشابكة بطبيعتها، فإن قمع رموز معينة يؤدي غالبًا إلى حذف منحاز (biased deletion). ينتج عن ذلك سلوكيات غير مستقرة، بما في ذلك النسيان الكارثي للمعرفة المحتفظ بها، والنسيان الزائف (حيث ينسى النموذج لكنه يهلوِس بحقائق خاطئة)، وتوليد نصوص غير مفهومة (gibberish).
الرفض المتميز (Distinguishable Refusal - DR): تعتمد الأساليب التي تبقي المعاملات ثابتة وتعتمد على هندسة الأوامر (prompt engineering) أو كواشف مساعدة للرفض. وبينما تحافظ هذه الأساليب على أداء عالٍ في الاحتفاظ بالمعرفة واستجابات متماسكة، إلا أنها هشة. نظرًا لأن المعرفة الأساسية تظل سليمة داخل النموذج، يمكن أن تظهر مجددًا من خلال الهجمات العدائية أو أوامر "كسر الحماية" (jailbreaking).

التحدي الجوهري هو الوصول إلى نموذج يضمن الإزالة الكاملة للمعرفة الأساسية (مثل KD) مع الحفاظ على سلوكيات رفض متماسكة وآمنة (مثل DR) دون الوقوع في فخ الثغرات العدائية.

2. المنهجية: الحذف المتميز (D2) وEUA

يقترح المؤلفون الحذف المتميز (D2)، وهو نموذج جديد ينقل هدف إلغاء التعلم من قمع الرموز المحددة على مستوى الرمز إلى توصيف مستوى التوزيع لوجود المعرفة. ولتنفيذ ذلك، قدموا إطار عمل محاذاة إلغاء التعلم القائم على الطاقة (Energy-based Unlearning Alignment - EUA).

2.1. مؤشر الطاقة (The Energy Index)

أساس D2 هو مؤشر طاقة مشتق من النماذج القائمة على الطاقة (EBM). بدلاً من التركيز على احتمالية رموز معينة، تقيس الطريقة "وجود" المعرفة عبر الطاقة الحرة لتوزيع مخرجات النموذج.

الأساس النظري: بالنسبة لمدخل معين، تشير الاستجابة ذات الطاقة الحرة المنخفضة إلى أن النموذج يمتلك إجابة مهيكلة وواثقة (المعرفة موجودة). وعلى العكس من ذلك، تشير الطاقة الحرة العالية إلى أن النموذج يفتقر إلى الإجابة ويقوم بتوليد كلمات عشوائية.
الكفاءة: على عكس المقدرات القائمة على أخذ العينات، يتم حساب مؤشر الطاقة بكفاءة باستخدام تمريرة أمامية واحدة (forward pass) ولوجيتات (logits) النموذج، والمعرف كـ $E_\theta(v | x, y_{<i}) = -z_\theta(v | x, y_{<i})$ .
الملاحظة: يظهر التحليل التجريبي أن أساليب KD الحالية غالبًا ما تفشل في خلق فصل واضح في مساحة الطاقة بين المحتوى الذي تم إلغاء تعلمه والمحتوى المحتفظ به، مما يؤدي إلى حالات معرفية داخلية غير متسقة.

2.2. محاذاة إلغاء التعلم القائمة على الطاقة (EUA)

إن EUA هو إطار عمل موحد مصمم لفرض فصل واضح في مساحة الطاقة بين المحتوى الملغى والمحتوى المحتفظ به.

هدف التعلم: يجمع هدف التدريب بين فقدان "الاعتراض المتقاطع" (cross-entropy loss) القياسي للاحتفاظ بالمعرفة مع حد تنظيم ( $L_{energy}$ $L_{e n er g y}$ ) يفرض حدود الطاقة.
- بالنسبة لـ العينات الملغاة (unlearned samples)، يُعاقب النموذج إذا كانت الطاقة أقل من هامش معين ( $m_u$ )، مما يجبر الطاقة على الارتفاع (مما يشير إلى غياب المعرفة).
- بالنسبة لـ العينات المحتفظ بها (retained samples)، يُعاقب النموذج إذا كانت الطاقة أعلى من هامش ( $m_r$ )، مما يبقي الطاقة منخفضة (مما يشير إلى وجود المعرفة).
هوامش التفضيل الذاتي (Self-Preference Energy Margins): لتجنب عدم استقرار المعلمات (hyperparameters) التي يتم ضبطها يدويًا، يقدم EUA هوامش تفضيل ذاتي. يتم اشتقاق هذه الهوامش من توزيع اللوجيت الخاص بالنموذج قبل التدريب. ومن خلال فرز اللوجيتات وتقسيمها إلى مناطق الـ 50% العليا (المفضلة) والـ 50% الدنيا (غير المرغوبة)، تبني الطريقة حدود طاقة ( $m_u, m_r$ ) تتوافق جوهريًا مع الهندسة الميزة الداخلية للنموذج. يضمن هذا عملية تحسين أكثر سلاسة ويمنع التحولات المفاجئة في الطاقة.
آلية الرفض أثناء الاستدلال (Inference-Time Refusal Mechanism): بعد التدريب، يظهر النموذج انفصالًا متميزًا في توزيعات الطاقة. أثناء الاستدلال، يقوم النظام بحساب الطاقة الحرة لكل عينة (باستخدام تجميع Top-k لطاقات مستوى الرمز لضمان ثبات الطول). إذا تجاوزت الطاقة عتبة متعلمة ( $\tau_{energy}$ )، يقوم النظام بتفعيل آلية الرفض، مستبدلًا المخرج ببديل آمن ومتماسك (على سبيل المثال: "لا يمكنني مناقشة هذا بسبب قيود الخصوصية/حقوق النشر") بدلاً من توليد نصوص غير مفهومة أو حقائق مهلوسة.

3. المساهمات الرئيسية

نموذج الحذف المتميز (D2): يعيد البحث صياغة إلغاء التعلم كقيد على مستوى التوزيع لوجود المعرفة بدلاً من كونه قمعًا على مستوى الرموز. يفرق هذا النهج بشكل طبيعي بين المحتوى الملغى والمعرفة المحتفظ بها، مما يسمح بآليات رفض موثوقة.
مؤشر الطاقة: يقترح المؤلفون مقياسًا ذا أساس نظري ومثبت تجريبيًا لوجود المعرفة بناءً على التمثيلات الكامنة. وقد أثبتوا أن الطاقة تعكس بدقة قدرة النموذج على تقديم استجابات مهيكلة مقابل التوليد العشوائي.
محاذاة إلغاء التعلم القائمة على الطاقة (EUA): إطار عمل موحد يفرض الفصل القائم على الطاقة أثناء التدريب ويستخدم عتبة قائمة على الطاقة للرفض أثناء الاستدلال. تعالج هذه الطريقة عدم استقرار KD وهشاشة DR.

4. النتائج التجريبية

قيم المؤلفون منهجية EUA عبر ثلاثة معايير: TOFU (مؤلفون خياليون)، WMDP (السلامة البيولوجية/السيبرانية)، وMUSE (المعرفة الواقعية واللفظية). وقارنوا بينها وبين أحدث أساليب KD (مثل GradDiff، DPO، NPO، SatImp، إلخ) وأساليب DR (مثل ICUL، Guardnail، إلخ) عبر عائلات نماذج مختلفة (LLaMA-2/3، Qwen-2.5، Zephyr).

الأداء مقابل أساليب KD: يتفوق EUA باستمرار على أساليب KD الحالية. في اختبار TOFU، يحقق مكاسب كبيرة في جودة المسح (EQ)، جودة الاحتفاظ (RQ)، والجودة اللغوية (LQ). على سبيل المثال، في نموذج LLaMA-3.2-3B (نسيان 10%)، حقق EUA درجة إجمالية قدرها 8.665، وهي أعلى بكثير من أفضل طريقة تالية (SatImp عند 6.484). والأهم من ذلك، أن EUA يقضي على مشكلات النصوص غير المفهومة والهلوسة الشائعة في أساليب KD.
الأداء مقابل أساليب DR: بينما تحافظ أساليب DR على احتفاظ جيد بالمعرفة، إلا أنها تفشل تحت الهجمات العدائية. أظهر EUA دقة كشف بنسبة 100% وحافظ على جودة لغوية عالية حتى بعد هجمات كسر الحماية (jailbreaking)، بينما تعاني أساليب DR من تدهور كبير في كل من الكشف وجودة الاستجابة.
المتانة: أظهر EUA متانة قوية عبر سيناريوهات تعدد اللغات، وإعادة التعلم، وهجمات كسر الحماية، حيث حافظ على أداء مستقر في المواضع التي تدهورت فيها الأساليب الأخرى.
دراسات الاستئصال (Ablation Studies): تؤكد الدراسة أن هامش تفضيل الطاقة الذاتي أمر بالغ الأهمية؛ إذ تؤدي الهوامش المحددة يدويًا إلى أداء غير مستقر. كما أن الطريقة قوية تجاه الاختلافات في معامل Top-k المستخدم لحساب الطاقة.

5. الأهمية والادعاءات

يزعم البحث أن D2 وEUA يمثلان نموذجًا متفوقًا لإلغاء التعلم من خلال توحيد أهداف مسح المعرفة المستهدفة والرفض الآمن.

حل المقايضات: يحقق هذا الأسلوب توازنًا أفضل في "أمثلية باريتو" (Pareto-optimal) بين إلغاء تعلم المعرفة المستهدفة والحفاظ على فائدة النموذج العامة، متجنبًا "النسيان الكارثي" أو "النسيان الزائف" المشاهد في KD.
المتانة: من خلال تغيير حالة المعرفة بشكل جذري (عبر فصل الطاقة) بدلاً من مجرد حجبها، يوفر EUA دفاعًا قويًا ضد الاستراتيجيات العدائية المتطورة، على عكس أساليب DR التي تعتمد على معرفة ثابتة يمكن استخراجها مجددًا.
التماسك: يضمن هذا النهج أنه عندما يرفض النموذج الإجابة، فإنه يفعل ذلك باستجابات متماسكة وسياقية، مما يحافظ على قابلية استخدام النموذج.

يخلص المؤلفون إلى أن نهجهم يقدم حلاً مبدئيًا ومستقرًا وقابلاً للتعميم لإلغاء تعلم النماذج اللغوية الكبيرة، متجاوزًا حدود قيود الرموز المحددة لمعالجة الطبيعة المتشابكة للمعرفة في النماذج الكبيرة.