🤖 machine learning

Rethinking Post-Unlearning Behavior of Large Vision-Language Models

تتناول هذه الورقة مسأًلة الاستجابات المتدهورة أو الهلوسة التي تلي عملية "إلغاء التعلم الآلي" في النماذج اللغوية البصرية الضخمة من خلال تقديم مهمة جديدة وطريقة PUBG، التي تضمن بقاء المخرجات الحافظة للخصوصية غنية بالمعلومات ومرتبطة بصرياً.

المؤلفون الأصليون: Minsung Kim, Nakyeong Yang, Kyomin Jung

نُشر 2026-04-21

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Minsung Kim, Nakyeong Yang, Kyomin Jung

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك مساعداً رقمياً فائق الذكاء، لنطلق عليه اسم "Visionary" (الرؤيوي). "Visionary" موهوب للغاية؛ يمكنه النظر إلى صورة لمشهور ويخبرك باسمه، وأدوارة السينمائية، وتاريخ ميلاده، وحتى هواياته السرية. إنه يعرف كل شيء.

لكن هنا تكمن المشكلة: ماذا لو أراد ذلك المشهور أن يُنسى؟ ماذا لو مارس "حقه في النسيان" وقال: "يا Visionary، من فضلك احذف جميع بياناتي الشخصية من عقلك"؟

هنا يأتي دور "تعلم الآلة الإلغائي" (Machine Unlearning). إنها العملية التي تحاول جعل الذكاء الاصطناائي "ينسى" أشياءً محددة.

المشكلة: "خمار" فقدان الذاكرة

تجادل الورقة البحثية بأن الأساليب الحالية لجعل الذكاء الاصطناعي ينسى تشبه إعطاء شخص ما جرعة ثقيلة من أدوية فقدان الذاذة. فهي تنجح في مسح الذاكرة، لكنها تترك الشخص يتصرف بغرابة.

يسمي المؤلفون هذا "تداعيات ما بعد النسيان" (Unlearning Aftermath). فعندما تسأل "Visionary" عن المشهور الذي طُلب منه نسيانه، فإنه لا يكتفي بالقول: "لا أعرف". بدلاً من ذلك، يبدأ بالتصرف بطرق سيئة ثلاث:

الخلل (التدهور - Degeneration): يبدأ بتكرار نفس الكلمة مراراً وتكراراً مثل أسطوانة مشروخة. "مرحباً مرحباً مرحباً مرحباً..."
الكاذب (الهلوسة - Hallucination): يبدأ بتأليف قصص خيالية غريبة. "أوه، هذا بالتأكيد رئيس المريخ!" (رغم أنه بوضوح مجرد رجل يرتدي بدلة).
الرفض (الإفراط في الرفض - Over-rejection): يصاب بالذعر ويتوقف عن العمل ببساطة. "لا يمكنني المساعدة. لا يمكنني المساعدة."

هذا أمر سيء للمستخدمين. فهو أمر محبط، ومربك، ويمكن أن ينشر معلومات مضللة.

الحل: نهج "الغريب الآمن"

يجادل المؤلفون، مينسونج كيم وفريقه، بطريقة جديدة للتعامل مع هذا الأمر. هم يجادلون بأنه بدلاً من مجرد قمع الذاكرة (جعل الذكاء الاصطناعي يصمت)، يجب علينا تعليم الذكاء الاصطناعي كيف يتحدث عن الشخص دون معرفة من هو.

فكر في الأمر كالتالي:

الطريقة القديمة: تخبر محققاً، "انسَ أنك تعرف جون دو". المحقق إما ينسى كيف يتكلم، أو يبدأ في اختراع أسماء، أو يرفض التحدث.
الطريقة الجديدة (PUBG): تخبر المحقق، "انسَ أنك تعرف جون دو. ولكن إذا عرض عليك شخص ما صورة له، فصفه تماماً كما يفعل الغريب".

لذا، بدلاً من القول: "هذا هو جون دو، الممثل الشهير"، سيقول الذكاء الاصطناعي: "هذا رجل بشعر بني قصير، يرتدي بدلة زرقاء، ويبتسم قليلاً".

هذا هو جوهر طريقتهم الجديدة، PUBG (توجيه سلوك ما بعد التعلم الإلغائي - Post-Unlearning Behavior Guidance).

كيف تعمل PUBG (الوصفة)

ابتكر الفريق وصفة ذكية من خطوتين لتدريب الذكاء الاصطناعي:

الممحاة (الارتفاع المتدرج - Gradient Ascent): يستخدمون تقنية قياسية لحذف الحقائق المحددة (الأسماء، الوظائف، تواريخ الميلاد) من ذاكرة الذكاء الاصطناعي بشكل هجومي.
الموجه (توجيه السلوك - Behavior Guidance): هذا هو المكون السحري. يأخذون نسخة "مثالية" من الذكاء الاصطناعي (التي لم تتعرض لعملية النسيان بعد) ويعطونها أمراً خاصاً: "تظاهر بأنك لم ترَ هذا الشخص من قبل. صف فقط ما يمكنك رؤيته في الصورة".
- هذا الذكاء الاصطناعي "المثالي" يولد إجابة وصفية آمنة (على سبيل المثال: "امرأة بشعر أحمر وفستان أحمر").
- يقوم الفريق بعد ذلك بتعليم الذكاء الاصطناعي "الملغي" محاكاة هذه الإجابة الآمنة. يقولون له: "لا تحذف الاسم فحسب؛ بل استبدل الاسم بوصف جيد".

النتائج: نهاية سعيدة

عندما اختبروا هذا، كانت النتائج مبهرة:

الخصوصية: نجح الذكاء الاصطناعي في نسيان الأسماء والتفاصيل الخاصة (بمعدل نجاح 100%).
الجودة: على عكس الأساليب القديمة التي أنتجت كلاماً غير مفهوم أو أكاذيب، أنتجت طريقة PUBG إجابات مفيدة ووصفية. لقد نظر إلى الصورة ووصف الملابس، والشعر، والخلفية بشكل مثالي، تماماً كما يفعل الغريب.
لا أكاذيب: توقف عن الهلوسة بالحقائق المزيفة.

الصورة الكبيرة

الورقة البحثية تقول في جوهرها: لا تكسر اللعبة؛ بل أصلحها.

عندما نطلب من الذكاء الاصطناعي نسيان المعلومات الحساسة، لا ينبغي لنا فقط أن نتوقع منه الصمت أو البدء في التخبط. يجب أن نصممه ليكون مراقباً "أعمى" مفيداً — شخصاً يمكنه وصف العالم بصرياً دون معرفة الهويات السرية وراء الوجوه. هذا يحمي الخصوصية ويحافظ أيضاً على تجربة المستخدم سلسة وغنية بالمعلومات.

باختصار: تُعلم PUBG الذكاء الاصطناعي أن يكون غريباً مهذباً يصف ما يراه، بدلاً من أن يكون روبوتاً معطلاً ينسى كيف يتكلم.

إليك ملخص تقني مفصل لورقة البحث "Rethink Post-Unlearning Behavior of Large Vision-Language Models" (إعادة التفكير في سلوك ما بعد "إلغاء التعلم" في النماذج اللغوية البصرية الضخمة) من قبل كيم وآخرون.

1. بيان المشكلة

غالباً ما تحفظ النماذج اللغوية البصرية الضخمة (LVLMs) المدربة على مجموعات بيانات مستخرجة من الويب معلومات شخصية حساسة عن الأفراد (مثل الأسماء، المهن، والسير الذاتية). وبينما يهدف "إلغاء التعلم الآلي" (Machine Unlearning) إلى إزالة هذه المعرفة المحددة (المعلومة المراد نسيانها)، تركز الأساليب الحالية بشكل حصري تقريباً على "الكبت" (Suppression) (منع النموذج من إخراج البيانات الخاصة).

حدد المؤلفون فجوة حرجة: نادراً ما تحدد الأساليب الحالية ماذا يجب أن يخرج النموذج بدلاً من المحتوى المنسي. يؤدي هذا إلى "تداعيات ما بعد إلغاء التعلم" (Unlearning Aftermaths)، والتي تتميز بثلاث سلوكيات غير مرغوب فيها:

التدهور (Degeneration): يخرج النموذج رموزاً (tokens) متكررة أو نصوصاً فارغة.
الهلوسة (Hallucination): يولد النموذج معلومات واثقة ولكنها خاطئة واقعياً أو مختلقة حول الكيان.
الرفض المفرط (Excessive Refusal): يكتفي النموذج ببساطة برفض الإجابة على أي استعلام يتعلق بالكيان، مما يؤدي إلى تدهور تجربة المستخدم.

تكمن المشكلة الجوهرية في أن تقنيات إلغاء التعلم الحالية تضحي بجدوى النموذج وسلامته (عبر الهلوسة) لتحقيق الخصوصية، وتفشل في تقديم استجابة بديلة عالية الجودة، ومعلوماتية، وتحافظ على الخصوصية.

2. المنهجية: PUBG (توجيه سلوك ما بعد إلغاء التعلم)

يقترح المؤلفون PUBG، وهو إطار عمل جديد لإلغاء التعلم يوجه سلوك النموذج صراحةً نحو توزيع مخرجات مرغوب فيه بعد إلغاء التعلم، بدلاً من الاعتماد على الكبت الساذج.

أ. صياغة المهمة

تم تعريف الهدف كـ مهمة إلغاء تعلم كيان (Entity Unlearning Task):

المدخلات: صورة لـ "كيان المراد نسيانه" واستعلام مفتوح (على سبيل المثال: "أخبرني عن هذا الشخص").
القيد: يجب ألا يولد النموذج تفاصيل خاصة (الاسم، المهنة، السيرة الذاتية).
الهدف: يجب أن يولد النموذج استجابة معلوماتية بناءً فقط على السمات المرئية الملحوظة (مثل الملابس، الشعر، الوضعية).

ب. بناء التوزيع المرجعي

لتوجيه النموذج، يقوم PUBG ببناء توزيع مرجعي ( $p_{\theta^*}$ ) يمثل السلوك المنشود.

الآلية: يستفيد المؤلفون من قدرات اتباع التعليمات والتحرير في السياق القوية للنموذج اللغوي البصري (الأصلي - قبل إلغاء التعلم).
العملية: يستخدمون مطالبة داخل السياق (in-context prompt) (انظر الشكل 2 في الورقة) توجه النموذج الأصلي لـ "نسيان" هوية الكيان ووصف السمات المرئية فقط.
النتيجة: يولد هذا أوصافاً عالية الجودة، آمنة للخصوصية، ومستندة إلى الرؤية، تعمل كالتوزيع المستهدف لعملية إلغاء التعلم.

ج. هدف التحسين

يقوم PUBG بتحسين معلمات النموذج ( $\theta$ ) باستخدام دالة خسارة مشتركة تتكون من مكونين:

خسارة صعود التدرج (Gradient Ascent Loss - $L_{GA}$ ):
- خسارة إلغاء التعلم القياسية التي تزيد من احتمالية المعلومات الخاصة (مجموعة "النسيان") لكبتها.
- $L_{GA}(\theta) = \mathbb{E}[\log p_\theta(rei,k | I_{ei}, q)]$
خسارة توجيه السلوك (Behavior Guidance Loss - $L_{BG}$ ):
- دالة خسارة جديدة تقلل من تباعد كولباك - ليبلر (KL divergence) بين توزيع مخرجات النموذج الملغي التعلم والتوزيع المرجعي ( $p_{\theta^*}$ ).
- من الناحية العملية، يتم تنفيذ ذلك عن طريق تقليل الإنتروبيا المتقاطعة (cross-entropy) بين المخرج المرجعي ( $o^*$ ) وتنبؤ النموذج الملغي التعلم.
- $L_{BG}(\theta) = \mathbb{E}[-\log p_\theta(o^* | I_{ei}, q)]$

الهدف الإجمالي:
$\arg \min_\theta (L_{GA}(\theta) + L_{BG}(\theta))$

يضمن هذا النهج مزدوج الأهداف أن ينسى النموذج البيانات الخاصة (عبر $L_{GA}$ ) بينما يتعلم توليد النوع المحدد من الوصف المرئي المحدد بواسطة التوزيع المرجعي (عبر $L_{BG}$ ).

3. المساهمات الرئيسية

تحديد "تداعيات ما بعد إلغاء التعلم": تحدد الورقة رسمياً وتحدد كمياً التدهور في سلوك النموذج (التدهور، الهلوسة، الرفض) الذي يحدث عند تطبيق أساليب إلغاء التعلم الحالية على النماذج اللغوية البصرية التوليدية.
تعريف مهمة جديدة: قدموا صياغة للمهمة تتطلب من النماذج تقديم بدائل معلوماتية مستندة إلى الرؤية بدلاً من مجرد كبت المخرجات.
إطار عمل PUBG: اقتراح منهجية جديدة تستخدم توزيعاً مرجعياً مدفوعاً بالمطالبات داخل السياق لتوجيه سلوك ما بعد إلغاء التعلم، مما يوازن بفعالية بين الخصوصية والجدوى.
تقييم شامل: تجارب واسعة النطاق تثبت أن PUBG يتفوق على الأساليب المرجعية (baselines) في الحفاظ على القدرة المعلوماتية وتقليل الهلوسة مع الحفاظ على الخصوصية.

4. النتائج التجريبية

قيم المؤلفون PUBG على نماذج LLaVA-1.6-Mistral و LLaVA-1.6-Vicuna (بمعلمات 7 مليار) باستخدام مجموعة بيانات Celeb-1000. وقارنوا PUBG بأربعة أساليب مرجعية هي: صعود التدرج (GA)، تحسين التفضيل السلبي (NPO)، الضبط العشوائي (RANDOM)، وضبط الرفض (REJECT).

النتائج الرئيسية:

الحفاظ على الخصوصية: حققت جميع الأساليب، بما في ذلك PUBG، معدل نجاح في إلغاء التعلم (USR = 1.0) كاملاً، مما يعني عدم تسريب أي معلومات خاصة.
تخفيف التداعيات:
- الأساليب المرجعية: أنتجت GA و NPO مخرجات متدهورة/فارغة؛ تسبب RANDOM في هلوسة شديدة (درجة JUDGE_hall ~5.0)؛ وأدى REJECT إلى حالات رفض عامة.
- PUBG: ولد استجابات وصفية مرئية عالية الجودة.
المعلوماتية والمواءمة:
- حقق PUBG درجات أعلى بكثير في CLIPScore (المواءمة بين الصورة والنص) ودرجات JUDGE_inform مقارنة بالأساليب المرجعية.
- على سبيل المثال، في LLaVA-1.6-Mistral، حقق PUBG درجة CLIPScore بلغت 0.233 مقابل 0.183 لـ REJECT و 0.215 لـ GA.
التعميم: أظهرت الطريقة أداءً قوياً على كل من الصور "المرئية" (أثناء التدريب) و"غير المرئية" (خارج التدريب) للكيانات المراد نسيانها.
دراسة الاستئصال (Ablation Study): أدى حذف $L_{BG}$ إلى التدهور (خصوصية عالية، جدوى منخفضة). وأدى حذف $L_{GA}$ إلى تسريب الخصوصية (جدوى عالية، خصوصية منخفضة). كان الجمع بينهما ضرورياً.

5. الأهمية

تنقل هذه الورقة البحثية نموذج العمل من مجرد آلية دفاعية (إخفاء البيانات) إلى تصميم بنائي (استبدال البيانات ببدائل آمنة ومفيدة).

تجربة المستخدم: تمنع تجربة المستخدم "المكسورة" التي تسببها النماذج التي ترفض الإجابة أو تهلوس بعد إلغاء التعلم.
منع المعلومات المضللة: من خلال توجيه النموذج بنشاط لوصف السمات المرئية بدلاً من الهلوسة بالحقائق، فإنها تقلل من خطر نشر معلومات مضللة.
القابلية للتوسع: توضح المنهية أن النماذج اللغوية البصرية مفتوحة المصدر يمكن إلغاء تعلمها بفعالية للتعامل مع طلبات الخصوصية دون فقدان قدراتها التوليدية، وهي خطوة حاسمة لنشر هذه النماذج في تطبيقات العالم الحقيقي التي تتضمن بيانات حساسة.

في الختام، يثبت PUBG أن إلغاء التعلم الفعال في الذكاء الاصطناعي التوليدي لا يتطلب فقط محو المعرفة، بل إعادة برمجة استراتيجية استجابة النموذج لتكون متوافقة مع الخصوصية ومناسبة للسياق في آن واحد.