ملخص تقني: ما وراء النسيان: استخراج السلوكيات والقدرات الجانبية القابلة للتحكم عبر نسيان الآلة

بيان المشكلة

يهدف نسيان الآلة (Machine Unlearning - MU) إلى إزالة معرفة أو قدرات محددة بشكل انتقائي من النماذج اللغوية الكبيرة (LLMs) مع الحفاظ على الأداء العام. ومن أبر মধ্যে فئة بارزة من الطرق، وهي تضليل التمثيل (Representation Misdirection - RM)، التي تحقق النسيان عن طريق إعادة توجيه التمثيلات الكامنة لـ "عينات النسيان" نحو متجه مستهدف. ورغم فعاليتها، إلا أن دور هذا المتجه المستهدف لا يزال غير مستكشف بعمق. غالبًا ما تستخدم النهج الحالية متجهات عشوائية محددة مسبقًا لحقن الضجيج في التدفق المتبقي (residual stream). ومع ذلك، فإن الحقن غير المنضبط للضجيج العشوائي يمكن أن يؤدي إلى مخرجات غير متماسكة أو غير مفهومة، مما يقوض موثوقية النماذج التي تم نسيانها في المجالات عالية الخطورة. علاوة على ذلك، لم يتم توصيف التأثيرات الميكانيكية المحددة لاتجاه الهدف على السلوكيات والقدرات الناشئة للنموذج غير المتعلم بشكل منهجي.

المنهجية

يعيد المؤلفون النظر في طريقة RM من خلال عدسة فرضية التمثيل الخطي (Linear Representation Hypothesis)، التي تفترض أن المفاهيم عالية المستوى مشفرة خطيًا في الفضاء الكامن للنموذج كمتجهات أحادية البعد. وبناءً على ذلك، تقترح الورقة فرضية القدرة الناشئة القابلة للتحكم (Controllable Emergent Capability Hypothesis): وهي أن إعادة توجيه تمثيلات النسيان بالنسبة لاتجاه مفهوم عالٍ المستوى عبر عمليات خطية لا تسهل النسيان فحسب، بل تستخرج أيضًا سلوكيات وقدرات جانبية قابلة للتحكم تتوافق مع ذلك المفهوم.

للتحقق من ذلك، يقترح المؤلفون نموذجين مفاهيميين للنسيان:

1. الإضافة التمثيلية (Representational Addition - RAd): توجه هذه الطريقة النموذج للنسان عبر توجيه تمثيلات النسيان نحو تمثيل مفهوم عالٍ المستوى. رياضياً، تقوم بإضافة متجه مفهوم بمقياس ($\bar{\lambda}_W$) إلى تمثيل النسيان ($\lambda_f$). نظرياً، تتدخل هذه الإضافة لتغيير احتمالات توليد نتائج تتماشى مع المفهوم، مما يؤدي إلى استخراج سلوكيات جانبية (مثل زيادة الصدق/الحقيقة) وقدرات.
2. الاستئصال التمثيلي (Representational Ablation - RAb): توجه هذه الطريقة النموذج للنسان عبر إسقاط تمثيلات النسيان على الفضاء الصفري (null space) لاتجاه المفهوم عالٍ المستوى. فهي تقضي على المكونات من التمثيل المتوافقة مع المفهوم المستهدف مع الحفاظ على المكونات غير المستهدفة. نظرياً، تعمل هذه الطريقة على كبح السلوكيات والقدرات المقابلة.

استخراج اتجاه المفهوم:
لتنفيذ هذه الطرق، يستخرج المؤلفون اتجاهات المفاهيم باستخدام مسبار الانحدار اللوجستي (Logistic Regression probe) الذي تم تدريبه على مجموعة بيانات من المطالبات المرتبطة بمفهوم مستهدف (مصنفة 1) والمطالبات المقابلة (المضادة للمفهوم) (مصنفة 0). وتحدد الأوزان المعيرة لهذا المسبار المتجه المفهومي أحادي البعد ($\bar{\lambda}_W$).

الضمان النظري للمتجهات العشوائية:
تقدم الورقة تحليلاً نظرياً (Proposition 1) يوضح أنه في فضاءات التمثيل عالية الأبعاد، يكون المتجه الوحدة العشوائي المختار تقريباً متعامداً مع أي متجه مفهوم عالٍ المستوى محدد باحتمالية عالية. وهذا يعني أن استخدام متجه عشوائي في RAd من غير المرجح أن يتوافق عرضياً مع مفاهيم محددة أو يتداخل معها، بينما يقوم استخدام متجه مفهوم بتوجيه النموذج بشكل متعمد.

المساهمات الرئيسية

1. إعادة النظر في RM عبر فرضية التمثيل الخني: تؤسس الورقة إطاراً نظرياً يربط متجهات هدف RM بالمفاهيم عالية المستوى، وتقترح أن النسيان ليس مجرد مسح بل هو إعادة توجيه نحو مناطق دلالية محددة.
2. فرضية القدرة الناشئة القابلة للتحكم: يفترض المؤلفون ويثبتون تجريبياً أن RM يمكن أن تستخرج سلوكيات وقدرات جانبية قابلة للتحكم (الصدق، المشاعر، الرفض، اللغة) وتعزز القدرات (التعلم داخل السياق - ICL) بناءً على المتجه المستهدف المختار.
3. أطر RAd و RAb: تقديم آليتين متميزتين للنسيان (الإضافة والاستئصال) تسمحان بالحث المنهجي أو كبح سلوكيات ونماذج معينة أثناء عملية النسيان.
4. التحقق التجريبي الشامل: تجارب واسعة النطاق عبر عدة اختبارات معيارية (WMDP, MMLU, TruthfulQA, GLUE-SST2, HellaSwag, GSM8K) على نماذج مثل Zephyr-7B و Mistral-7B و Llama-3-8B.

النتائج التجريبية

تتحقق التجارب من الفرضية عبر عدة أبعاد:

• التحكم في السلوك:

  • الصدق (Truthfulness): أدت طريقة RAd باستخدام اتجاه "الصدق" إلى تحسين الأداء بشكل كبير في TruthfulQA (على سبيل المثال، +12.7 في التوليد مفتوح النهايات لنموذج Mistral-7B) مع الحفاظ على فعالية النسيان في WMDP. وعلى العكس من ذلك، أدت طريقة RAb بنفس الاتجاه إلى تدهور الصدق.
  • المشاعر (Sentiment): نجحت طريقة RAd باتجاه "سالب ← موجب" في تحويل مخرجات النموذج نحو المشاعر الإيجابية في SST2، بينما أدت RAb باتجاه "موجب ← سالب" إلى كبح المشاعر الإيجابية.
  • الرفض (Refusal): حفزت RAd باتجاه "الرفض" النموذج على رفض التعليمات غير الضارة (Alpaca)، بينما أدت RAb بنفس الاتجاه إلى إزالة قدرة النموذج على رفض التعليمات الضارة (AdvBench).
  • اللغة (Language): زادت RAd بالاتجاهات الخاصة باللغة (مثل من الإنجليزية إلى الفرنسية) من معدل حضور اللغة (LPR) للغة المستهدفة في إكمالات HellaSwag.

• تعزيز القدرات:

  • التعلم داخل السياق (ICL): أدت RAd باستخدام متجهات سياقية خاصة بالمهام (مثل "دولة-إلى-عاصمة") إلى تحسين أداء التعلم صفر المرات (zero-shot ICL) بشكل كبير في المهام اللغوية والمعرفية (مثل رفع الدقة من 24.6% إلى 69.0% في Zephyr-7B لمهمة دولة-إلى-عاصمة).
  • الاستنتاج (Reasoning): بينما أظهرت RAd باتجاه "سلسلة الأفكام" (CoT) فعالية محدودة في مهام الاستنتاج المعقدة (GSM8K) بسبب قيود قدرة النموذج، إلا أنها لا تزال تتفوق على خطوط الأساس للمتجهات العشوائية، مما يشير إلى أنها تشفر معلومات أكثر صلة بالمهمة من الضجيج.

• المقارنة مع خطوط الأساس:

  • حققت RAd أداء نسيان تنافسي في WMDP (إزالة المعرفة الخطرة) مقارنة بالطرق الحديثة مثل Gradient Ascent (GA)، و DPO، و NPO، و RMU، مع تقديم ميزة فريدة وهي السلوكيات الجانبية القابلة للتحكم.
  • أظهرت RAd مع متجه عشوائي ثابت أداءً أفضل من RAd مع متجهات عشوائية معاد أخذ عينات منها، مما يؤكد أن الاتجاه الثابت ضروري لعملية التضليل الفعال.

• جودة المخرجات:

  • كشف التحليل عن وجود مقايضة: أنتجت RAd مع متجهات المفاهيم مخرجات أكثر تماسكاً وصحة من الناحية القواعدية في مهام النسيان مقارنة بالمتجهات العشوائية، ولكنها أدت أحياناً إلى تدهور الجودة في المهام المستبقاة (MMLU)، ويرجع ذلك على الأرجح إلى التحولات التمثيلية في المجالات المستبقاة.

الأهمية والادعاءات

تدعي الورقة أن اختيار المتجه المستهدف في تضليل التمثيل هو آلية حرجة لم تُستكشف سابقاً، ويمكن تسخيرها لتطوير نماذج منسية ذات قدرات جانبية أقوى وسلوكيات قابلة للتحكم.

• الطبيعة المزدوجة: يتم تقديم الظاهرة كـ "سلاح ذو حدين". إذا أسيء استخدامها، فقد تشكل خطراً خفياً (مثل حث النموذج على رفض الاستعلامات غير الضارة أو توليد محتوى ضار). ومع ذلك، إذا تم تسخيرها، فإنها توفر آلية لتطوير نماذج منسية ليست فقط أكثر أماناً فيما يتعلق بمعرفة معينة، بل تمتلك أيضاً سمات معززة أو قابلة للتحكم (مثل صدق أعلى أو توليد لغة محددة).
• الرؤية الميكانيكية: ينتقل العمل من مجرد النظر إلى النسيان كعملية "مسح" أو "حجب"، ليقترح بدلاً من ذلك أنه عملية إعادة توجيه داخل الفضاء الكامن تغير خصائص النموذج الناشئة بشكل منهجي.
• الآثار العملية: يوضح المؤلفون أن هدفهم المركزي ليس الادعاء بوجود "مسح حقيقي" للمعرفة من الأوزان، بل توصيف هذه الظاهرة الناشئة. يوفر هذا التوصيف عدسة جديدة لتصميم طرق نسيان مبدئية توازن بين النسيان والتحكم السلوكي المطلوب.

تخلص الورقة إلى أنه من خلال الاستفادة من فرضية التمثيل الخطي، يمكن تحويل نسيان الآلة من عملية تدميرية بحتة إلى عملية بناءة تسمح بالضبط الدقيق لسلوكيات النموذج جنباً إلى جنب مع إزالة المعرفة.